上海网信办举办第二期大模型发展和安全专题系列沙龙

市委网信办网络技术处处长施敏同志就“生成式人工智能服务的安全探讨”进行了分享，从生成式人工智能服务的常见风险、相关法律法规、合规手续、大模型及服务的安全基本框架等进行了交流。

上海人工智能实验室研究员吕成器基于实验室团队在大语言模型安全对齐的技术探索与实践积累，就“大语言模型的安全对齐”主题首次公开系统性分享，交流安全对齐的重要性和挑战，重点讲解了有监督微调、人类反馈强化学习、红队演练在安全对齐方面的相关技术方法，助力大模型企业安全能力提升和上海人工智能产业生态建设。

上海市信息安全测评认证中心专家范劭林就“生成式人工智能服务的个人信息保护和实践”进行了主题分享，从个人信息概念、常见大模型隐私攻击与应对方法、生成式人工智能服务个人信息保护的实践案例等方面进行了深入交流。

沙龙得到与会企业一致肯定，认为主题分享兼具系统性和实操性，对人工智能企业和科创企业系统性规划安全、针对性提升安全对齐能力和加强个人信息保护予以专业指导。