漆晨航（中国人民大学）在《情报理论与实践》2024年第47卷第3期发表了题为《生成式人工智能的虚假信息风险特征及其治理路径》的论文。该文属于学术论文，文章围绕生成式人工智能（Generative Artificial Intelligence，生成式AI）对虚假信息（disinformation）治理体系带来的冲击与挑战展开系统研究，旨在从发展与安全平衡的视角提出治理路径。论文指出，生成式AI改变了网络空间的信息生成模式，其创造的人工智能生成内容（Artificial Intelligence Generated Content，AIGC）不仅数量巨大，而且具有高度拟真性，导致虚假信息风险显著上升。文章从现实问题与未来风险两个层面归纳生成式AI虚假信息风险特征，分析其对现行治理体系的挑战，并提出机制建设、多元治理与科技方法三位一体的治理路径。

在现实问题层面，论文认为生成式AI的底层算法模型和商业应用产品已成为可便捷获取的“科技资源”，用户通过简单的人机交互指令即可大量创造具有误导性和错误性的虚假信息。文章梳理了网络信息生产主体从专家生成内容（Professionally Generated Content，PGC）到用户生成内容（User Generated Content，UGC）再到AIGC的演进过程，指出生成式AI以自动化方式极大提升了信息制造效率，且市场中广泛采用简便易用的人机交互形式，使得普通民众也可能成为海量虚假信息的制造者。比如，深度伪造（deepfake）技术已被用于电信网络诈骗犯罪，境外媒体也关注其对美国2024年总统大选的潜在影响。生成式AI使得声音克隆、人脸伪造等成本急剧降低，虚假信息制造与澄清之间的成本严重不对称。

在未来风险层面，论文指出生成式AI的发展存在不可逆的拟人化需求。一方面，信息输出拟人化使得AIGC更加贴合人类思维、表达和认知，信息拟真性高，虚假信息鉴别难度加大；多模态信息传播也更具迷惑性，并能突破主要针对文字的网络审查。另一方面，生成式AI作为技术集群中的子科技，为研发高拟人化的“虚拟人”或“社交机器人”提供支撑性服务，可能异化为可完成虚假信息制造、舆论营造和议程安排全流程工作的集成化危险科技。已有实证研究发现国际舆论传播中有16.5%的涉华议题由社交机器人操纵。

在挑战层面，文章首先讨论国家公权力介入生成式AI治理的限度难题。美国对生成式AI监管相对消极，民间组织呼吁联邦贸易委员会禁止发布新版ChatGPT；意大利曾以隐私安全风险为由禁用ChatGPT，欧盟在《人工智能法案（草案）》中增加生成式AI监管内容，但被批评为对科技发展限制过多，缺乏激励规则。我国《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》）将规制重点置于生成式AI服务提供者的信息内容监管义务，要求其承担较重的“不良信息”治理责任，这种选择是否合理仍需探讨。其次，虚假信息概念的规范性问题导致归责思路偏误。我国法律文本中对虚假信息相关表述多样，包括“谣”“谣言”“虚假信息”“虚伪事实”等，未形成制度化、集中化的规范表达，导致法律适用困难，并赋予平台不当的自由裁量权。我国《互联网信息服务深度合成管理规定》要求生成式AI服务提供者承担信息安全主体责任并健全辟谣机制，但文章认为生成式AI聚焦于信息生成而非传播，强加全流程信息内容审核责任并不妥当。第三，高拟真AIGC对事实核查的技术挑战。世界主要国家和地区建立了事实核查机制，但生成式AI制造的海量虚假信息可能使其陷入空转，高拟真AIGC使专业人士和识别技术均面临困境，且虚假信息识别技术研发进展缓慢，缺乏经济效益和社会资源投入。

在治理路径部分，论文提出三个层面的对策。第一，机制建设层面，建立虚假信息协同治理机制。建议由全国人大、中宣部、中央网信办、公安部、科技部等部门组建“信息环境治理联席工作机制”，统一虚假信息概念，制定战略规划，并将其传导至法律制度与执法实践。文章建议将“以危害社会秩序和公共利益为目的而故意生成、发布和传播的假信息或有误导性真信息”作为虚假信息的统一概念，以区别于无社会危害的假信息（fake information）和无恶意的错误信息（misinformation）。这一方面可促进执法规范，另一方面可将AIGC中无社会危害的非真实性信息排除在强制性法律控制之外。第二，多元治理层面，完善多元主体参与的事实核查机制，鼓励专家库建设和公民参与激励；完善AIGC标识义务规则，将标识责任从生成层扩展至传播层，赋予信息发布者与传播者以标识义务，并将文字化AIGC纳入标识范畴；提升公民AIGC和虚假信息鉴别素养，参照新加坡和欧盟的经验，在学校教育中增设相关课程，拓宽反虚假信息资源获取渠道。第三，科技方法层面，从生成式AI科技底层降低虚假信息风险。数据要素上，以数据真实性治理减少虚假信息基础；算法要素上，健全算法监督和训练机制；算力要素上，构建算力市场的监管规则，必要时通过算力流向和流量控制进行临时管控。同时，以信息鉴别为目的的科技对策方面，要求生成式AI服务提供者在其平台强制配备事实核查端口，对用户上传信息进行真实性监测并给出概率性意见，信息真实性概率低于50%时发出虚假信息预警。该要求应作为提供生成式AI服务的市场准入条件。

文章的学术价值在于系统梳理了生成式AI虚假信息风险的特征与治理挑战，提出了兼顾发展与安全的协同治理框架。其应用价值体现在为我国相关立法、执法实践以及平台治理提供具体可操作的建议，特别是关于虚假信息概念统一、AIGC标识义务扩张、事实核查技术强制配置等观点具有现实指导意义。文章强调，治理生成式AI虚假信息风险需要国家、社会主体和科技手段的协同，既要避免过度监管抑制创新，又要有效遏制虚假信息对社会秩序和公共利益的危害。