报名：人工智能管理专家CAIM课程（上海班）

• 时间：6月22日、23日,聚焦ISO/IEC42001人工智能管理体系

• 形式：线下为主、线上同步

• 费用：CAIM6000元，早鸟价9折和团购价8折

• 地址：上海市徐汇区宜山路889号4号楼5楼SGS上海培训中心

• 咨询：138 1664 6268，[email protected]

预报名请咨询

如需国标《生成式人工智能服务安全基本要求》草案PDF版，请关注“数据法盟”并在后台回复“生成式人工智能”自行获取下载链接

1. 训练数据安全要求

• 采集来源管理：
• 采集数据前应进行安全评估，含违法不良信息超过5%的数据源不得使用。
• 采集后需核验，含违法不良信息超过5%的数据不得用于训练。
• 不同来源训练数据搭配：
• 提高数据来源多样性，确保每种语言和类型的数据均有多个来源。
• 境外数据应与境内数据合理搭配。
• 训练数据来源可追溯：
• 使用开源数据时需有开源许可或授权文件。
• 自采数据需有采集记录，不得采集明确禁止的数据。
• 商业数据需有合法的交易合同和质量承诺。
• 使用者输入信息作为训练数据时需有授权记录。

• 训练数据需经过过滤，去除违法不良信息。
• 对数据中的知识产权侵权风险进行识别和处理。
• 涉及个人信息的数据使用需获得同意或符合法律规定。

• 标注人员需经过培训和考核，明确分工。
• 标注规则应覆盖数据标注和审核环节。
• 对功能性和安全性标注的数据进行抽检和审核，确保准确性。

2. 模型安全要求

• 生成内容的安全性应作为评价指标之一。
• 定期审计开发框架和代码，修复安全漏洞。

• 提高生成内容的准确性和可靠性，减少错误。
• 对明显偏激或违法的问题拒绝回答。
• 符合国家规定标识生成内容。

• 持续监测模型输入，防范恶意攻击。
• 建立常态化监测和应急管理措施，优化模型。

• 制定安全管理策略，进行安全评估。

• 评估计算系统的供应链安全。
• 训练环境与推理环境隔离，防止数据泄露。

3. 安全措施要求

• 确保生成式人工智能服务在各领域应用的必要性和安全性。
• 重要场合和未成年人使用需有相应的安全保护措施。

• 公布服务适用信息、局限性和模型算法概要。
• 以编程接口提供服务时公开相关信息。

• 提供关闭信息收集的便捷方式，并告知用户。
• 建立投诉举报途径和处理机制。

• 建立备份机制和恢复策略，确保业务连续性。

4. 安全风险

如需国标《生成式人工智能服务安全基本要求》草案PDF版，请关注“数据法盟”并在后台回复“生成式人工智能”自行获取下载链接