大模型备案-落实算法安全主体责任基本情况.pdf

大模型备案-落实算法安全主体责任基本情况

一、算法安全专职机构

公司为有效落实算法安全主体责任，确保算法安全工作，提升

公司算法安全的保障能力，加强信息安全和技术防护工作，推动公司

发展行稳致远，公司依据《互联网信息服务算法推荐管理规定》的有

关规定，结合《中华人民共和国网络安全法》、《中华人民共和国数

据安全法》、《互联网信息服务管理办法》等法律、行政法规，公司

成立有专职算法安全专职机构。

1.专职机构名称：算法安全管理中心

2.组织架构

XX集团有限公司算法安全领导小组为XX集团有限公司算法安全

工作领导机构，领导小组下设专职部门，由算法安全管理中心负责算

法安全具体工作。算法安全管理中心负责人为算法安全第一责任人，

负责是落实算法安全管理制度；其他部门负责人为算法安全次要责任

人，负责配合落实算法安全管理制度。

具体组织架构为：

集团领导：

部门负责人：

成员：模型安全小组、安全监测小组、应急响应小组

3.部门职责范围

负责组织公司算法安全工作；负责制定公司算法安全管理制度、

技术规定、应急预案等，并督促执行；负责对公司内大模型开发

中算法安全的设计、检查和防护，及时处置安全风险；负责算法

安全事故的处置；负责组织算法安全培训和宣传。

4.负责人基本信息和工作职责

姓名：

联系方式：

联系邮箱：

工作职责：制定算法安全策略，协调各小组工作，监督算法安全

措施的实施。

5.算法安全工作人员的任职要求

熟悉常见网络协议和安全架构知识，了解常见的网络攻防手段；

具备扎实的计算机基础理论知识，对计算机网络有一定认识和理解；

有扎实的编程能力，能够独立承担各种复杂问题的解决；有较强的逻

辑思维能力和沟通能力，能吃苦耐劳，有良好的团队合作精神。

6.算法安全工作人员配备的规模

人员总配置17人，其中全职14人、兼职3人。

7.算法安全技术保障措施

首先，在加密技术方面，公司对算法相关数据的存储和传输进

行了全面的加密保护。对于敏感数据，公司实施基于角色的加密策略，

确保只有授权用户能够访问和解密相关信息。在网络安全防护方面，

公司通过部署防火墙系统、分段网络隔离等措施，严密监控和管理网

络流量。入侵检测与防御技术也在算法系统中起着至关重要的作用。

通过部署入侵检测系统和入侵防御系统，公司能够实时监测系统的网

络流量和行为，识别潜在的安全威胁。在检测到异常行为时，能够自

动采取措施进行防护，确保威胁不扩散。公司还引入了多因素身份验

证，特别是在关键系统访问中，通过增加验证环节确保用户身份的真

实性，防范凭据泄露带来的风险。动态访问监控技术则持续分析用户

行为，及时阻止任何异常访问。公司对所有系统操作和日志进行自动

化记录和审计，确保任何异常活动都能够被及时发现和追溯。通过编

制应急预案、定期演练和灾备方案，公司确保在发生安全事件时能够

迅速采取措施，保障业务的连续性。

二、算法安全管理制度建设

公司依据《中华人民共和国网络安全法》、《中华人民共和国数

据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服

务管理办法》、《互联网信息服务算法推荐管理规定》及相关行业标

准/规范，制定有完备的算法安全管理制度。

（一）算法安全自评估制度建设

1.算法自评估的制度设计考虑

算法安全自评估旨在确保公司开发的人工智能算法在医疗健康

领域应用的安全性、合规性和有效性。通过定期的自我检查和评估，

及时发现并解决算法可能存在的安全风险，保障患者和用户的数据隐

私，提升算法的可靠性和信任度。制度设计的主要考虑因素：算法全

生命周期覆盖：评估涵盖算法从设计、开发、测试、部署、运行、维

护到退役的各个阶段，确保任何环节中的安全风险都能被及时发现和

解决。多维度评估：自评估制度不仅关注算法的技术安全性，还包括

数据合规性、信息安全性和用户权益保护，确保算法不仅能在技术上

安全运行，还能符合法律法规对数据处理和用户保护的要求。自评估

的灵活性与时效性：根据算法的风险等级、应用场景和法律法规的变

化，定期或临时启动自评估，确保评估内容能够适应算法的动态发展

需求。保障落地性：通过明确的流程与职责分工，结合技术工具支持，

确保自评估不仅停留在理论层面，而是能够高效执行和落