生成式AI产品问世以来，凭借其强大的信息处理和内容生成能力，迅速在全球范围内掀起热潮，也给安全保密工作带来严峻挑战。如何正确认识AI产品与保密工作的关系，主动适应时代发展，通过新技术赋能保密工作，同时探索构建防范体系，指导AI产品的安全部署应用，成为大家不断思考的问题。
勇于尝鲜
运用AI产品提能增效
AI产品一经问世，就呈现出信息聚合能力强、产出内容鲜活逼真等显著优势，如何发挥其特长，探索在保密管理中的应用，各单位也在不断尝试。
一是提升保密宣教效能
一方面，AI视频生成器等产品显著降低了视频、动画等更受基层欢迎的保密宣教载体的制作难度和成本，能够辅助各单位加大优质宣教素材的供给；另一方面，AI产品能够极大地减轻干部职工在宣教形式上的精力投入，让其更专注于保密宣教内容的针对性、实效性，切实提高单位保密宣教工作质量。
展开剩余77%二是实现从事后查证到主动防御的转变
三是提高日常工作效率
对于网络结构复杂、应用系统较多的单位，每月信息系统审计工作耗时耗力，可借助AI产品辅助开展信息系统合规审计取证和审计报告素材整理，使其成为有效提升管理能力、防范风险隐患的利器。
构建体系
指导AI产品安全部署
尽管目前AI产品如何安全部署应用并无权威解决方案，但可以明确的是，即便各单位以极高的成本本地化部署AI产品并严格专管专用，仍要加强安全保密防范，除了明令禁止向AI产品上传敏感信息外，还要结合业务性质、使用场景、部署环境等因素，探索构建体系化的AI产品全生命周期安全防范措施。
一是建立领导机构
当单位决定部署AI产品时，应成立相关领导小组统筹决策，并将安全保密、信息网络、设备采购等部门纳入其中，以保障AI产品在部署和应用过程中严格执行各类技术与管理标准，综合评估并有效防范潜在风险。
二是制定专门制度
各单位须明确部署AI产品的全生命周期工作程序，可参考信息系统部署的有关技术标准及要求，并结合AI产品实际，提出安全部署的具体措施。
如在系统论证阶段，由业务需求部门牵头对应用系统的各类用户访问权限及安全保密责任进行详细梳理；部署方式一旦论证确定，未经领导机构批准不得随意更改，确需变更时，应重新论证安全方案；AI产品部署前应制定明确的训练数据脱敏规则，试运行阶段应详细列出接触产品人员清单，并及时做好安全保密提醒等。
三是制定对应策略
策略是针对特定AI产品的具体管理要求，应遵循“一品一策”原则，由具体使用AI产品的业务归口部门制定全生命周期管理策略，详细阐述 AI产品管理职责、信息保护要点、具体防护措施、使用人员范围，以及部署环境、数据管理、权限管理、日志审计备份恢复等，当相关内容发生变化时，也要及时调整策略。
此外，AI产品的技术防护和运维管理应根据使用风险具体落实，技术防护可包括加强边界防护、部署配置防火墙、实施身份验证机制、访问控制和安全通信协议等，运维管理可包括严格访问控制、组织人员教育培训并签订承诺书、进行审计和渗透测试等。
四是持续加强防护
持续防护的对象主要是大模型、数据及运行环境，以确保AI产品核心功能稳定、安全、有效。当大模型或数据“被投毒”，以及发生功能异常等情况时，可及时启动应急处置，相关措施包括对各种版本的模型和数据进行校验加密备份、对源代码和其生成物等进行安全存档，为潜在的风险隐患事先准备好断网溯源、版本回滚、数据销毁等措施。其他措施还包括对供应商进行评估、对大模型和数据进行加密保护等，并定期组织应急演练或模拟攻防演练。
五是强化监督检查与奖惩
可将AI产品的检查分为单位检查、产品检查和专项检查3个维度。单位检查由领导小组组织，主要查看制度是否执行到位，产品检查由业务部门组织，主要检查管理策略是否落实到位，专项检查则主要查看特定事项落实情况或相关风险防范情况。
对AI产品的检查可与安全保密检查合并开展，一旦发现不符合要求的情况，立即组织有关单位或部门整改，并落实奖惩措施。
发布于：北京市中鑫优配提示：文章来自网络，不代表本站观点。
热点资讯
推荐资讯
