生成式人工智能犯罪风险的
防范与治理
作者
李艳涛，河北省大名县人民检察院党组书记、检察长、中国人民大学法学院博士研究生
郭洪轩，河北省大名县人民检察院，科员
生成式人工智能技术的突破性发展不仅重塑了社会的生产生活方式，也带来一些潜在的威胁，如，侵犯个人信息安全的深度伪造技术、引发公平危机的算法歧视、强人工智能自主犯罪等。面对人工智能带来的犯罪治理挑战，检察机关应以改革思维适配技术发展新常态，在实践中精准把握科技赋能与风险防控的平衡点，在法治轨道上驾驭新技术、护航新发展。
一、运用深度伪造检测技术筑牢虚假信息治理防线
深度伪造技术具有欺骗性强、伪造成本低、检测难度高等特点，对此，检察机关应深化与高等院校的科研合作，一方面，全面梳理办案中积累的深度伪造案例数据，包括涉案虚假视频特征、检测难点、证据认定要点等，同步整合高校实验室的技术测试数据与场景模拟数据，为检测程序研发提供兼具实用性与全面性的数据支撑；另一方面，依托融合后的数据集联合攻关，重点开发泛化性能强的深度伪造检测程序，同时组织办案人员主动学习掌握该程序的操作方法，在办案中逐步试点应用、迭代优化，稳步适应人工智能时代的办案新常态。
二、特定领域犯罪治理：以破解虚拟货币犯罪追踪为例
基于区块链共识机制、分布式账本等技术设计的加密数字货币，具有去中心化、匿名性、不可篡改性等显著特征，跨国犯罪分子利用各国对虚拟货币监管政策的差异，将其用作洗钱等非法活动的工具。传统治理手段因无法追踪交易链路而效果有限，而将人工智能技术与大数据技术相结合，构建基于动态图卷积网络的监管模型，通过时间卷积层与图嵌入层的深度融合，精准识别交易行为特征、追溯资金流向，可有效满足虚拟货币反洗钱的全流程监管需求。
三、犯罪预测预警：提升治理前瞻性
检察机关应积极运用人工智能技术有效预测犯罪动向，依托海量历史犯罪数据构建分析模型，系统整合公安机关报案记录、法院判决文书、社区矫正档案等多维数据，聚焦盗窃、诈骗、故意伤害等高发犯罪类型，从人员特征、时空分布、诱发因素等层面开展深度挖掘，变事后惩戒为事前预防。
针对重点跟踪人员的动态管控，可基于承载重点跟踪人员历史犯罪案件信息的大数据模型，并有效整合重点跟踪人员历史活动轨迹、交通出行记录、通讯等数据，破解传统预测中监控数据稀疏、时空模式捕捉不全的难题，通过协同过滤算法构建完整的预测体系。相关部门可依据预测结果精准布控、动态巡查，缩小防控范围，同步对重点跟踪人员开展谈心谈话、心理疏导等干预措施，将犯罪风险化解在萌芽状态。
四、多维协同的算法歧视法治规制路径
算法歧视不仅是网络生态治理必须破解的突出难题，更是网络空间法治建设的重要治理对象。对算法歧视的规制需立足数据瑕疵、算法黑箱、权力异化等多重成因，结合技术特性与法律实践，构建制度筑基与执行落地并重的多维协同路径。在制度层面，需以立法完善为核心，明确算法歧视的法律界定与责任划分；在监督层面，应优化组织架构，建立统一专业的算法监管机构，破解多部门共管低效困境。此外，还需要确立包容审慎的规制原则，避免过度监管抑制行业发展。
在具体执行中，应聚焦全流程管控与场景化适配，筑牢算法歧视的技术与实践防线。一是在事前强制开展数据审查，重点核验训练数据的多样性与公正性，防止数据代表性不足带来的偏见固化；二是在事中强化动态监测，借助可解释算法技术破解深度学习的黑箱难题；三是在事后完善问责机制，采用过错推定原则明确算法设计者、运维者等多方主体的责任边界。
针对不同场景，进行差异化施策，对司法犯罪风险评估等涉及人身权利的算法严格审核因果推断逻辑，对商业推荐等算法重点排查区别对待行为。同时，推进数字平权行动，通过专项计划提升不同领域群体在信息技术领域的参与度，从源头减少偏见植入，实现技术公平与社会公平的良性互动。
来源：《人民检察》2025年第24期
