作者简介：王国燕系苏州大学传媒学院教授，数字传播系主任。
内容摘要：人工智能技术的指数级演变正驱动信息传播由事实代理转向拟真操控，由此诱发的真实性危机已成为数字时代的深层顽疾。从技术中介理论视角来看，人工智能的欺骗性本质在于技术拟真性与人类认知脆弱性的深度耦合，实现了对主体认知图式的系统性侵蚀与重塑，基于此构建“技术拟真性—人工智能欺骗—认知侵蚀—真实性瓦解—信任危机”的风险逻辑链。其风险不仅在于削弱个体辨别能力与批判思维，更可能引发“劣币驱逐良币”的数字“格雷欣效应”，导致公共信息领域真实性与信任资源的系统性流失。为应对智能环境下的系统性风险，治理范式亟待从传统的“封堵查删”转向认知韧性与数字主体性建设，实现对“人—技术—环境”关系的系统性重构。
//目录
一、导论
二、技术拟真与人工智能欺骗的共生关系
（一）技术拟真性：从感官拟真到功能替代的演进
（二）人工智能欺骗的本体论
（三）欺骗性人工智能的技术谱系
三、认知侵蚀的形成机制与作用路径
（一）“认知侵蚀”概念及影响机制
（二）认知捷径与认知偏误的漏洞
（三）情感诱导与情绪操控的认知放大
（四）信息茧房与回声室的认知强化
四、真实性与信任危机的系统性风险
（一）个体层面：认知主权丧失与“说谎者红利”
（二）社会层面：公共领域失序与信任瓦解
（三）数字“格雷欣效应”：经济、政治与文化领域的系统性风险
五、结语
一、导论
长期以来，“眼见为实”是人类社会锚定真实性的本体论准则。然而，随着Sora、DeepSeek、可灵等生成式人工智能的广泛应用，人类正加速迈入“合成媒介”时代，一场真实性危机由此产生。在带来巨大的技术便捷红利的同时，人工智能不仅具备了生成高拟真文本与视听内容的能力，更显现出“欺骗性”风险。从诱发色情乱象到策动大规模虚假宣传，以深度合成（deep synthesis）为核心的技术手段正迅速渗透媒体、金融及政治博弈等核心领域。2024年和2025年的《全球风险报告》（Global Risks Report）均将人工智能生成虚假信息列为全球十大风险之首，预示着信息社会正步入真假难辨、信任稀缺的真实性危机时期。
人工智能欺骗现象，其本质可被理解为一种由人类主体意图与算法内在复杂性共同催生的结构性危机，它通过持续消解数字拟象与物理实在之间的认知边界，使真实性退化为一种可被算力操纵的变量。当前，人工智能正以日益精进的拟真能力创造着“超真实”的“合成媒介”景观，这使得人类在长期社会实践中形成的认知判断机制发生功能性失调，更加速了信息生态中“劣币驱逐良币”的数字“格雷欣效应”。本研究通过审视技术拟真与欺骗风险的共生逻辑，尝试提出“认知侵蚀” （cognitive erosion）这一概念框架，系统阐释“技术拟真性—人工智能欺骗—认知侵蚀—真实性瓦解—信任危机”的风险逻辑链，旨在解构智能时代个体认知的异化机制及其导致的真实性危机，为智能传播时代的认知安全维护与治理范式转型提供前瞻性理论预警。
二、技术拟真与人工智能欺骗的共生关系
人工智能技术的发展史，是一部不断逼近甚至超越人类“真实感”体验的历史。当技术拟真从外在的感官模拟深化为内在的功能替代，人工智能生成的虚假信息便不再是简单的伪造物，而是一种具备高度欺骗性的“超真实”存在。这种由技术本体论重构形成的认知基础，构成了认知侵蚀发生的逻辑起点。
（一）技术拟真性：从感官拟真到功能替代的演进
技术拟真性的概念源于虚拟现实技术和游戏体验中的逼真感，是人工智能模拟现实世界或人类语言行为和情感的真实感特性，其目的在于创造高度逼真、以假乱真的人机互动体验，使人仿佛置身真实世界或与真人互动。拟真技术追求的是感知层面的逼真，而非物理层面的真实，因而可以被视为一种由人工智能驱动的主观真实感建构。人工智能的拟真技术与欺骗能力同步演进，拟真程度越高，受众越难辨别真伪，因而越容易受骗，这一趋势也印证了让·波德里亚（Jean Baudrillard）的拟像理论：后现代社会中，拟像已取代真实，成为人们理解世界的主导方式。
技术拟真性是大规模数据集、先进模型架构、参数优化、对抗训练与强大算力协同作用的复杂结果，为人工智能欺骗奠定了技术基础，其演进经历了从“看起来像”到“思考得像”的飞跃。拟真在早期基于生成式对抗网络（Generative Adversarial Networks，GANs），主要通过像素级的对抗训练模拟光影、纹理与物理规律，其欺骗性主要作用于人类的视听感官系统。尽管其逼真度不断提升，但若通过逻辑推理或细节比对，例如图中的光影不一致、瞬时表情僵硬等，仍有被识破的可能。随着大语言模型（Large Language Models，LLMs）和智能体（AI Agents）的崛起，拟真的重心转向“功能拟真”，即模拟人类的情感反应、推理链条与社交策略，能够通过理解上下文、模仿特定语言风格来通过人类的“图灵测试”。技术中介由此化身为透明的“在场”，成为具备行动能力的网络行动者，这构成了欺骗性生成的技术本体基础。
基于对海量数据的深度学习与模式建模，拟真技术在文本、图像、音频、视频乃至行为模式等维度模拟真实世界或人类行为，旨在形成感觉逼真的“真实效应”，进而影响人们对信息真实性的判断，“真实”亦由此从基于物质客观存在的本质属性转变为以“体验”为导向的评价标准。高阶拟真阶段的人工智能实现了从感官迷惑到功能替代的跃迁，带来真实感的大幅提升，使得辨认更为困难，欺骗风险也随之增高。
（二）人工智能欺骗的本体论
“人工智能欺骗”（AI Deception）这一概念泛指因人工智能技术介入而系统地诱导人类或其他主体形成错误信念的现象，既包括系统直接输出虚假内容形成的误导，也涵盖系统设计与运行机制间接诱发的认知偏差。西蒙尼·纳塔莱（Simone Natale）从媒介研究视角出发，提出欺骗性机制是人机互动的结构性构成，并构建起人工智能“平庸欺骗”与“强欺骗”的二元分析框架，前者是拟人化、误认和轻微误导的结构性产物，后者是更集中、目的性更强的操纵，为该领域研究提供了重要的理论参照。若将“人工智能欺骗”视为一个宽泛的现象场域，那么，“欺骗性人工智能”（Deceptive AI）则是其典型化与主动化形态，特指那些被有意设计或在实际演进中发展出欺骗倾向，进而主动施展误导能力的系统，音视频深度合成工具、社交机器人、钓鱼软件、从事策略性欺骗的博弈智能体等皆属此类。大量证据表明，大语言模型的欺骗能力已开始涌现。
在信息传播生态中，人工智能欺骗实现了从“内容伪造”向“认知捕获”的范式跃迁。这种欺骗的根基已脱离传统的歪曲事实的范畴，转向“技术本体论”的重构。生成式技术将现实解构为特征空间中的数学对象，使“真实性”从客观不可篡改的底线蜕变为可被算法精准操控与优化的变量。在此逻辑支配下，欺骗性的判定不能单纯依赖内容的二元真假。概率优化的“超真实”拟像引发了认知逆转，有研究证实人工智能生成的面孔甚至比真人的面孔更能引发感官信赖感，这种“超现实主义”（hyperrealism）现象撕裂了真实性感知与客观事实在本体论维度的对应关系，使得信息的可信度不再是固定的事实属性，而是演化为受技术操控程度与人类认知辨别能力共同驱动、相互博弈的动态概率。
人工智能系统日益增强的欺骗能力正对现代社会的认知根基构成根本性威胁。它已超越传统意义上的虚假信息（misinformation）或恶意造谣（disinformation），通过大规模、高保真且个性化地重塑数字生态的认知底座，进而系统性地污染整个信息环境。以大语言模型和生成式对抗网络为代表的技术，能够制造出在语法、风格、逻辑乃至情感上与人类创造物几乎无法区分的文本、图像和音视频内容，即“深度伪造”或“深度合成”信息，极大地降低了制造可信欺骗内容的成本和技术门槛，导致信息环境中“真实”与“合成”之间的本体论界限日益模糊。这种高度进化的欺骗能力正对现代社会的信任机制构成根本性挑战，这迫使我们重新定义后真相时代信息可信度的边界。
（三）欺骗性人工智能的技术谱系
人工智能的拟真技术主要体现在模拟智能行为的能力上，其欺骗艺术是一场从感官、行为到逻辑，甚至底层数据的全方位渗透。若从技术机理与风险维度剖析，欺骗性人工智能可细分为生成对抗型、行为模拟型、语义操控型、认知干预型及系统污染型五种类型，它们呈现出不同程度的欺骗性（见表1）。
表1 欺骗性人工智能的技术谱系与传播风险
以生成式对抗网络技术为支撑的“换脸”和“换声”类深度伪造带来的风险，直指身份盗用与信任崩塌。俄乌冲突初期，一段“泽连斯基投降”的深度伪造视频在全球范围内扩散，引发骚乱。2024年初，美国新罕布什尔州，伪造拜登声音的电话被用于点对点劝阻选民投票，成为人工智能干预政治选举的标志性事件。而依托强化学习技术的行为模拟型人工智能则广泛应用于机器人“水军”的炒作行为来制造虚假共识。近年来，在多国大选及商业公关事件中，社交机器人模拟人类发言习惯与情绪波动，精准操控社交平台热搜趋势，能自适应调整发文频率、转发及回复比例，从“狂刷转发”的粗放式操作升级为多账号协同制造类人化“共识幻觉”的精细化运作。如今，智能体已能流畅地自动完成谣言脚本撰写、人设塑造、图像及音视频生成的全流程，虚假信息的生产和传播已进入工业化时代。大语言模型能在数秒内批量生成体系化的阴谋论与错误叙事，而人类读者已被证明会认为大语言模型撰写的假新闻比真人创作的新闻更具可信度。这类语义操控型人工智能以对抗性自然语言处理为基础，实现对情绪与逻辑的精准操控。认知干预型人工智能借助推荐算法构建“算法围墙”，将用户禁锢于量身定制的信息碎片中，形成一个个“过滤气泡”和信息茧房，引发认知窄化和价值扭曲。系统污染型人工智能则通过数据投毒等手段干预智能决策、威胁系统安全。例如，攻击者向自动驾驶训练数据中注入特定广告牌图像，可导致视觉识别系统发生致命误判。总之，人工智能已在各类现实应用场景中持续放大潜在的欺骗风险，轻则导致责任纷争、产生不实舆论，重则造成名誉和巨额财产损失，甚至造成安全威胁，这一趋势不容忽视。
三、认知侵蚀的形成机制与作用路径
技术层面的欺骗潜能转化为系统性认知风险的核心，在于其精准击中了人类的固有认知特质，严重威胁着人类数千年来用以判断信息可信度的经验法则。当人工智能介入使这些验证标准系统性失效时，个体将承受持续的认知负荷并陷入难以挣脱的判断困境。
（一）“认知侵蚀”概念及影响机制
认知努力是有主观成本的资源，人类大脑遵循“最小努力原则”，会依据预期回报和努力成本决定投入努力及深度加工信息的必要性。故而技术中介易使人们放松认知警惕，陷入省力原则的陷阱。“认知侵蚀”（cognitive erosion）这一概念，根植于自动化与智能系统导致的人类技能与理解能力侵蚀的相关研究。当复杂任务由智能软件接管后，人类会逐步失去对任务机理的理解与实践能力，从而出现隐性的技能侵蚀。作为技能侵蚀的重要关联部分，认知侵蚀已被证实在教育情境中尤为显著，大学生对人工智能工具的依赖程度与其自觉的思维深度减弱呈现出显著的正相关。
在智能技术深度介入的传播生态下，认知侵蚀可被界定为个体在技术深度介入的信息环境中，因长期依赖外部智能系统而产生主体性知识验证路径断裂、信息处理能力萎缩，以及深层认知图式被算法逻辑重构的渐进性退化过程。这往往表现为看似信息处理量大幅增加，实则思考质量大为下降。因此，认知侵蚀正演变为深层的、系统性的主体性危机，在能力、关系与结构三个核心维度影响着人类的认知系统：其一，能力维度的功能性萎缩表现为记忆提取、复杂逻辑推演及长文本深度阅读能力的下降，是个体认知能动性的闲置性退化；其二，关系维度的认识论依赖体现为对算法输出结果的盲目信任，以及在缺乏技术中介时无法独立构建知识系统的焦虑；其三，结构维度的图式同质化表现为个体的思维方式被提示词工程（prompt engineering）的线性逻辑“格式化”，最终形成一种结构化的认知僵化，表现为个体在无意识中被削弱感知冲突、辨析差异的主体认知图式构建能力。
认知侵蚀与心理学和传播学中的“认知失调”“涵化效应”“数字痴呆”等经典概念存在关联，但更突出“介入深度”与“作用感官”的影响。相较于“认知失调”中人类面对冲突信息的心理不适，认知侵蚀往往“无痛”且平滑。不同于侧重宏观灌输的涵化效应，人工智能的侵蚀是个体化、交互式的“协同演进”，使认知结构重组比大众传媒时代的“电视人”更具渗透性与隐蔽性。“认知侵蚀”强调技术中介环境对认知的隐蔽、渐进式削弱，通过自动化生成替代人类知识内化，实现从“信息成瘾”到“认知外包”的本质转变，因而与信息过载与污染、宣传与认知操纵、后真相与知识社会建构，以及社会信任与风险社会等经典议题深度勾连。
认知侵蚀的影响也呈现出多层次特征，在个体层面表现为记忆完整性、理解深度与思维能力的自我报告下降，在社会层面持续削弱社会信任基础，加剧“后真相”状态下公共对话的失序，甚至引发系统性认知风险。其从学科交叉视角审视也具有多重理论意涵，在传播学上延伸了框架理论的边界，凸显“超真实”对认知结构的建构作用。心理学研究呼应认知偏差与启发式判断的经典发现，揭示了人类在智能信息环境中的系统性认知脆弱性。其在社会学领域则与风险社会理论勾连，警示认知侵蚀可能引发的信任崩塌与社会秩序失稳。最核心的体现是在技术哲学视域，认知侵蚀深化了彼得·保罗·维贝克（Peter Paul Verbeek）提出的技术中介化理论（technological mediation theory）。该理论提出，技术是人类与世界之间的中介力量，持续塑造着我们感知世界的方式以及在世界中实践、行动的模式。而人工智能拟真技术可以被视为加速认知偏差向社会危机转化的“超级中介”，其影响力远超传统技术中介。
因此，认知侵蚀概念既关注技术在微观层面的作用机制，也追踪其在宏观层面引发的社会后果。人工智能欺骗风险可概括为递进式逻辑链：技术拟真性驱动了人工智能欺骗，引发主体性的认知侵蚀，最终催生真实性瓦解与社会信任危机的潜在风险（见图1）。
图1 人工智能欺骗风险的逻辑链
人工智能生成内容（Artificial Intelligence Generated Content，AIGC）在质量与逻辑上的高度拟真构成了其欺骗性的技术根基，常被用于炮制虚假、有误导性或极度偏颇的内容，而且会针对人类情感与认知偏见发挥精准靶向作用。个体长期接触此类信息后，认知侵蚀会逐步显现。任由其在社会层面扩散，便可能引发真实性瓦解、事实与虚构边界模糊等严重后果，真实性的崩塌进一步瓦解社会信任并导致共识难以凝聚，形成系统性风险，直接威胁社会秩序的稳定。因此，必须加快推进风险预防与治理体系建设。
（二）认知捷径与认知偏误的漏洞
人类的认知系统为人类在复杂信息环境中高效决策，进化出了一系列认知捷径（cognitive heuristic）和认知偏误（cognitive bias），这既是人类适应环境的进化成果，也成了认知系统的“阿喀琉斯之踵”，欺骗性人工智能信息正是通过精准利用这些认知漏洞，以实现认知侵蚀。
在数字媒体高度发达的中国语境下，人们往往依赖朋友圈转发量、“10万+”阅读量、头条热搜位次等显性线索来评估信息的可信度，这便是典型的“认知捷径”，是人们在信息处理与决策过程中，为节省认知资源而采用的简化策略与经验法则，包括可得性启发、代表性启发、锚定启发和真相默认等认知倾向。可得性启发是通过易回想的信息辅助快速判断的认知模式，AIGC借助生动且易记忆的病毒式内容来增强人们的可得性启发。代表性启发指人们决策时倾向于依据感知相似性判断概率，而非依托统计数据，AIGC用高度逼真的视听效果让用户对虚假内容留下深刻印象，在相似场景再现时误导用户采信。锚定启发法基于“先入为主”的逻辑，影响人们接触初始信息时形成的判断力，精心构建极具说服力的初始虚假信息作为“锚点”，使人们即便接触后续修正信息，也难以彻底摆脱初始错误“锚点”的错误信念。真相默认理论强调人们在沟通中默认接收的信息是真实的，这与谣言传播中“宁可信其有”的心理相契合。尽管认知捷径在人类长期进化中是高效的认知策略，但面对高拟真的欺骗信息时，却可能成为被攻击的认知漏洞。
认知偏误与认知捷径密切相关，指人们在感知、记忆、推理与决策中，系统且可预期地偏离客观或统计理性的倾向，包括确认偏误、权威偏误、负面偏误、可用性偏误等。认知偏误存在于个体判断中，受到人格特质与认知风格的影响，也深刻塑造群体叙事、政策与实践的走向。确认偏误使人们倾向于寻找、解释、记忆支持既有信念或决定的信息，忽视甚至低估相反的证据，就像戴着一副自带滤镜的眼镜只看得到想看的光景。在算法推荐环境中，那些与观点相左的证据被悄无声息地过滤掉，剩下的全是量身定制的虚假“共鸣”。权威偏误导致人们更易相信看似权威的来源，而忽略内容本身的真实性，当GPT们用一种不容置疑、理性到近乎冷酷的语调编造事实时，人类的大脑往往会把这种格式上的“专业性”误认为内容上的“真实性”。负面偏误让人们给予负面信息更多关注与权重，社交机器人“水军”的惯用模式往往是抓取情绪最激烈的负面词汇，来炮制最具冲击力的说辞。可用性偏误促使个体依据记忆中易回想的案例判断事件发生的可能性，短期内多次看到某类事件的信息时，大脑会“被骗”，认为这个信息不仅真实，而且随处可见。研究显示，人机交互放大了感知情感和社会判断中的偏见，小的判断错误不断升级为更大的错误，形成滚雪球式的放大效应。《自然》期刊的一项研究也表明，用户常常选择不可靠或带有偏见的新闻来源，说明信任受到主动信息寻求行为与既有偏见的双重塑造。
（三）情感诱导与情绪操控的认知放大
欺骗性人工智能系统深谙情感在认知过程中的重要作用，常将情感诱导与情绪操控作为认知渗透的关键策略。例如，煽动民族主义情绪的虚假政治宣传，引发对疾病错误认识的伪科学信息等，多采用夸张、煽情的语言，配以颇具视觉冲击性的图片或视频，力求在情感层面抓住受众，降低其理性思考能力。大量研究也显示，愤怒、恐惧、亢奋的快乐等高唤醒情绪与“道德愤慨”更易获得转发与讨论。McLoughlin等人研究发现，网络用户的“愤怒”情绪更容易被虚假信息利用，进而加速其扩散传播。社交媒体平台与内容推荐系统为最大化用户参与度，其算法往往优先推送情感强烈、互动性强的内容。这种情绪化信息环境天然地助长“社交传染”效应，即情绪在用户群体中快速蔓延扩散，情绪操控算法实则扮演了情感诱导的放大器这一角色。
情感的系统性放大不仅影响个体情绪状态，更可能重塑其认知结构。神经科学研究表明，持续暴露于高强度情感刺激中会抑制前额叶皮层的理性思考功能。由此推知，长期处于算法营造的高情感负荷信息环境中，人们的批判性思维能力与事实核查意愿会下降，更易接受与自身情感共鸣相符的叙述，即便后续被告知信息具有误导性，先前经情感强化的错误信息仍可能被固化为真实记忆，形成“先入为主”的认知固化，这令理性纠偏变得异常困难。
智能系统借助情感诱导，既改变个体认知框架、固化错误信念，又在群体传播中放大极端情绪，形成其实现认知干预的核心机制。情感诱导从附属内容特征转变为被算法识别、放大和利用的认知操控抓手。
（四）信息茧房与回声室的认知强化
数字信息环境并非中立的客观空间，亦非认知侵蚀的外在附属因素，而是由算法逻辑、平台机制与用户行为共同塑造的动态生态系统。以抖音、快手、小红书为代表的平台，正逐渐依托算法成为塑造新生代认知结构的隐形推手。信息茧房（information cocoons）和回声室效应（echo chamber effect）是数字信息环境中两种典型的负面生态。信息茧房强调用户在社交媒体和推荐算法的个性化推送下，主要接触与既有兴趣、立场匹配的内容，长此以往形成封闭的信息空间。回声室效应强调观点同质的用户在网络中形成了封闭空间，成员几乎只与持相同立场的人互动和传播信息，既有信念被反复“回声式”强化，异见被排斥和贬低。二者使认知侵蚀更易发生，且危害更深远、更持久。一方面，加剧认知极化，用户接收的信息持续强化原有观点，缺乏不同视角的挑战与反思导致观点越发极端；另一方面，削弱信息辨别能力，研究表明，长期接触单一维度信息会使用户逐步丧失批判性思维，对虚假信息的辨识能力下降，更易接受未经核实的观点。
与传统算法仅承担“筛选”与“推送”功能不同，语义操控型人工智能以自然语言处理技术为核心，能够主动生成极具煽动性且逻辑闭环的虚假叙事。“自动草根运动”（astroturfing）快速制造成千上万个语调独特、仿若真实个体亲身经历的自发民意反馈，再借助水军账号与机器人造势来制造虚假支持度和舆论共识氛围。回声室效应则在社交互动层面进一步放大“自动草根运动”的影响，在高度同质的社交网络中，相似观点不断被重复、强化，不仅加剧用户的证实偏见，更使认知系统逐渐丧失弹性。信息茧房和回声室效应相互交织，加剧数字时代个体与群体的认知风险，凸显了构建多元、开放信息环境的迫切性。
四、真实性与信任危机的系统性风险
在数字化、社交媒体与人工智能生成内容普及的背景下，人们越发难以区分信息真伪、权威与造假、自我与表演式身份。这既是传播领域与政治领域的显性危机，亦是个人身份建构、文化传承与生态实践中的长期深层张力。人工智能的欺骗性不止于制造虚假信息，依托技术拟真实现的“认知侵蚀”正从根本上动摇人类社会赖以维系的真实性信息验证结构与信任基石，从个体认知的微观困境蔓延至社会秩序的宏观失范，最终将引发信息生态系统的结构性坍塌。
（一）个体层面：认知主权丧失与“说谎者红利”
当人工智能系统以极低成本批量生产高保真视听内容时，个体既承受着认知负荷，又陷入认识论焦虑，长期依赖的“眼见为实”等感官验证机制面临失效。长期暴露于此类环境中的个体，往往会经历认知侵蚀的典型过程，先是面对海量真伪难辨的内容产生认知疲劳，信息辨别意愿下降，继而更依赖情感启发而非理性分析，批判性思维钝化，尤其在新闻领域，真相不再主要依托“事实逻辑”得以保障，而越发依赖受众的主观感受与真诚印象，真理被“真诚”取代，最终可能内化虚假信念，形成偏离客观现实的认知框架。
更进一步，个体的认知焦虑催生了“说谎者红利”（liar’s dividend）现象。公众意识到任何一条音视频都可能是伪造内容时，可能会倾向于怀疑事实，恶意行动者可轻易将真实罪证指控为“AI伪造”来逃避责任。英国全国样本调查显示，16%的公众被深度伪造政治视频误导，多达三分之一的人对其真伪持“不确定”态度。普遍的怀疑主义会进一步诱发“媒介犬儒主义”（media cynicism），人们会认为新闻媒体根本无法坚持专业理想，仅为经济利益、权力诉求或舆论操控服务，整体性的否定态度会损害新闻媒体的公信力与正义性。个体为规避欺骗而可能倾向于放弃信任信息源，在信息洪流中丧失判断依据，最终走向政治冷漠与社会疏离。对此，中国已出台《人工智能生成合成内容标识办法》（2025年9月施行），要求对人工智能生成内容进行“强制标识”。但这可能引发新的问题，未能及时被平台检测技术识别的合成内容可能被默认为是真实可信的，进而触发“默认真实效应”，而且对抗检测的深度合成技术也会在不断博弈中升级。在此背景下，个体认知主权的回归是合成媒介信息传播中最核心的底层防线。
（二）社会层面：公共领域失序与信任瓦解
社会信任是社会资本的核心，人工智能欺骗正系统性地消解社会信任。社交机器人与算法操纵使信息交流被模拟情感的计算代码替代。在线调查发现，相较于传统传播形式，政治传播中使用AIGC后的公众整体政治信任水平出现显著下降。当人们意识到网络另一端的情感共鸣可能源自程序设定，人际信任的根基便遭到腐蚀，社会连接趋于“原子化”。当社会成员失去共同事实基准，理性讨论迅速被情绪化表达边缘化，不同群体固守各自的信息孤岛，定制化内容将加剧社会认知极化与割裂，阻碍社会共识的形成，甚至激化群体对立，从而导致公共领域对话基础崩塌。
与此同时，制度信任也面临持续遭受侵蚀的风险。虚假信息常伪装成权威来源传播，即便事后被澄清，其造成的持续性负面影响仍会长期损害政府、媒体、司法机构的公信力，导致公众对主流机构的信任度普遍下降。这种不信任也促使更多人转向缺乏事实核查机制的非主流信源，进一步削弱权威媒体的影响力，加剧信息生态的污染与极化。最终，信任流失与公共对话瓦解形成恶性循环，理性讨论空间被算法操纵内容挤压，社会共识难以达成。因此，这不仅是信息生态的危机，更威胁民主制度的稳定根基。
（三）数字“格雷欣效应”：经济、政治与文化领域的系统性风险
欺骗性人工智能正在引发数字生态中的“劣币驱逐良币”现象，即数字“格雷欣效应”（Gresham’s Law）。“格雷欣效应”最初指的是在货币流通领域实际价值低于法定价值的“劣币”会迫使“良币”退出流通，致使货币体系紊乱。在智能信息生态中，这一经典逻辑被重构，“劣币”指成本近乎为零、海量涌现且具有感官煽动性的合成垃圾信息，“良币”则指生产成本高昂、需严谨核实且表现平淡的事实。低成本、高效率的合成垃圾信息在传播侧具备天然竞争优势，正以前所未有的速度系统性挤压真实信息的生存空间，实现从“手工生产”到“工业化合成”的颠覆性飞跃。虚假内容的边际成本近乎为零，而核实真相、证伪深度伪造内容，却需要极高的专业素养、算力与时间成本。从生态视角来审视，“劣币”对“良币”的强力排挤不仅淹没了有价值的信息，更在系统层面侵蚀现代社会依赖真实信息决策的知识生产机制与文化传承根基。
在数字经济领域，深度合成的“劣币”对真实性的侵蚀已转化为直接经济损失。例如，炮制奥运冠军全红婵影像并将其用来代言销售土特产，模仿张伯礼院士、张文宏医生的“专家”形象推广特效“减肥食谱”和“保健品”。2024年国庆期间，小米创始人雷军的形象被大规模用于“骂人”和“低俗调侃”，个人声誉与企业商业形象严重受损。更深层次的危机体现在网络犯罪与金融秩序领域，攻击者伪造实时的CEO声音和视频参与电话会议或下达紧急财务转账指令，导致数千万美元级别的单次财务损失频繁出现。在政治场域，深度伪造音视频捏造候选人腐败、仇恨言论或选举舞弊行为，干扰公民政治态度并动摇民主过程的合法性，已成为选举干预和国际政治博弈的新型武器。在文明传承上，纪录片《月球灾难发生时》（In Event of Moon Disaster）伪造了尼克松总统未曾发表的登月失败预案演说，将其“真实”地呈现在银幕上，由此，历史记忆也可能因人工智能伪造影像被篡改或重构。同时，科学知识的权威性因伪造内容的精准推送而持续受损。当信息环境不再为追求客观真理提供支撑，社会创新的根基与文明延续的脉络都将面临根本性威胁。
五、结语
智能传播的实践已表明，理性工具正被用于消解理性本身，这揭示了技术理性与人文价值之间的内在矛盾，以及可能引发的系统性风险。与其将人工智能的欺骗性视为技术故障，不如将它理解为技术演进至高阶拟真阶段的本体论特征。人工智能利用人类认知捷径与情感机制，通过高度仿真拟像制造“认知侵蚀”，导致个体判断迷茫和系统性信任崩塌，这一连锁反应的风险值得学界与业界高度警惕。
面对人工智能引发的认知与信任危机，传统“封堵查删”式治理已显乏力，治理逻辑亟须转向对人、技术、环境三者关系的系统性重构，超越单纯的信息纠错，转而以增强认知韧性、推动技术可解释性和加快法治进程来抵御隐蔽而持续的认知渗透。在人机共生的智能时代，唯有在理性、透明与互信的基础上重建数字文明，才能从根本上捍卫人类在技术浪潮中的主体性存续与发展。
（注释略）
责任编辑：沈悦
引用格式参考：
GB/T 7714-2015 王国燕.认知侵蚀与真实性危机：人工智能欺骗的风险逻辑链[J].现代出版,2026(2):60-70.
CY/T 121-2015 王国燕：《认知侵蚀与真实性危机：人工智能欺骗的风险逻辑链》,《现代出版》2026年第2期,第60页至70页。
MLA 王国燕."认知侵蚀与真实性危机：人工智能欺骗的风险逻辑链" 现代出版,(2)2026:60-70.
APA 王国燕.(2026).认知侵蚀与真实性危机：人工智能欺骗的风险逻辑链.现代出版,(2),60-70.
