前言

随着人工智能（AI）技术在工作和生活中的广泛应用，AI带来高效便捷的同时，也伴随各类安全风险——数据泄露、算法偏见、恶意利用AI生成有害内容、模型被攻击等问题频发，直接威胁个人信息安全、企业商业秘密乃至公共利益。掌握AI使用中的核心安全规范和风险防范技巧，规范AI应用行为，共同守护个人信息安全和合法权益。

什么是AI安全

AI安全是指在AI技术的研发、部署、使用和运维全流程中，采取必要的技术和管理措施，防范AI系统自身故障、数据泄露、恶意攻击、算法滥用等风险，确保AI系统稳定运行、数据合规使用、决策公平公正，避免因AI安全问题造成损失。

核心目标：保障AI系统的保密性、完整性、可用性，保护数据安全，防范AI技术被恶意利用，确保AI应用符合法律法规。

当前AI安全的主要风险场景

结合工作实际，我们日常接触的AI安全风险主要集中在以下4类，需重点关注：

提示：以下场景均为工作中高频出现的风险，需牢记防范要点，避免违规操作。

1. 数据安全风险：使用AI工具时，上传企业机密、客户信息、个人敏感数据，导致数据泄露、被非法抓取或滥用。
2. 算法与模型风险：AI模型被恶意攻击、篡改，导致决策失误；算法存在偏见，引发不公平结果；使用来源不明的AI模型，存在后门漏洞。
3. 内容安全风险：利用AI生成虚假信息、恶意言论、违规内容，或传播AI生成的不实文件、链接，引发法律风险和声誉损失。
4. 使用规范风险：违规使用AI工具处理涉密工作、替代核心业务决策，或未经授权部署AI系统，违反企业制度和行业监管要求。

数据使用安全规范（重中之重）

数据是AI的核心，也是安全风险的主要来源，所有员工在使用AI工具处理数据时，必须严格遵守以下规范：

• 严禁向任何非企业授权的AI工具（如公共版ChatGPT、不知名AI编辑工具等）上传企业机密数据，包括但不限于合同、方案、客户信息、财务数据、技术文档等。
• 使用企业内部授权的AI工具时，仅上传与工作相关的非涉密数据，避免上传个人敏感信息（如身份证号、手机号、银行卡号等）。
• 不得将AI工具生成的包含企业数据的内容，转发至外部平台、分享给非相关人员，或用于与工作无关的场景。
• 发现AI工具存在数据泄露隐患（如生成内容包含他人隐私、企业机密），立即停止使用，并及时上报部门负责人和IT安全部门。

AI工具使用规范

工具选用规范

仅使用企业IT部门授权的AI工具，严禁私自下载、安装、使用来源不明、未经过安全检测的AI软件或插件，避免因工具本身存在漏洞导致安全风险。

常见授权AI工具清单（示例）：企业定制版AI办公助手、授权版AI设计工具、内部AI数据分析平台等。

工具操作规范

• 使用AI工具前，确认账号登录安全，避免使用公共设备登录个人或企业AI账号。
• 严禁利用AI工具生成违规内容，包括但不限于虚假信息、恶意攻击言论、色情低俗内容、侵权内容等。
• 不依赖AI工具进行核心业务决策（如合同审批、客户准入、风险评估等），AI生成的内容需经过人工审核确认后，方可使用。
• 定期清理AI工具的使用记录、缓存数据，避免敏感信息残留；若使用公共设备，使用后必须删除所有个人和工作相关的AI使用痕迹。

2.3 算法与模型安全规范

涉及AI模型研发、部署的相关岗位员工，需额外遵守以下规范：

• 研发AI模型时，严格遵循数据合规要求，不使用非法获取、侵权的训练数据，确保模型训练数据的真实性、合法性。
• 对研发的AI模型进行定期安全检测，及时修复漏洞，防范模型被篡改、攻击；严禁向外部泄露模型参数、训练数据等核心信息。
• 部署AI系统前，需经过IT安全部门的安全评估，符合企业安全标准后，方可正式上线；上线后定期进行安全巡检。
• 发现AI模型存在算法偏见、决策异常等问题，立即停止使用，及时上报并协同技术部门进行优化。

个人层面的额外防范要点

• 不随意在社交平台、公共论坛分享自己使用AI工具的工作内容，避免泄露企业相关信息。
• 不接受陌生人发送的AI工具链接、邀请码，避免误入钓鱼链接，导致账号被盗、设备中毒。
• 学习AI安全相关知识，关注行业内的AI安全案例，提高自身风险识别能力，遇到可疑情况及时上报。