分享自:

生成式人工智能服务提供者过错的认定

期刊:现代法学DOI:10.3969/j.issn.1001-2397.2024.06.10

本文档属于类型b,即一篇学术论文,但不是单一原创研究的报告,而是一篇关于生成式人工智能服务提供者过错认定的探讨性论文。以下是对该论文的详细介绍:

作者与发表信息
本文作者为沈森宏,来自中国人民大学财政金融学院,论文发表于《现代法学》2024年第6期。

论文主题
本文探讨了在生成式人工智能生成内容致人损害的情形下,如何合理认定服务提供者的过错,以平衡预防风险与鼓励创新的双重价值目标。生成式人工智能(Generative AI)是指能够自主生成文本、图像、音频等内容的人工智能系统,其广泛应用带来了新的侵权责任问题,尤其是服务提供者在侵权责任中的法律地位及其过错的认定标准。

主要观点与论据

  1. 服务提供者过错认定的原理与方法
    本文首先指出,在生成式人工智能生成内容致人损害的情形下,服务提供者应承担过错责任,而非无过错责任。过错责任的核心在于服务提供者是否违反了交往安全义务(duty of care)或注意义务(duty of care)。作者认为,过错责任的适用更有利于平衡预防风险与鼓励创新的双重目标。无过错责任虽然可以降低受害者的举证难度,但可能会增加服务提供者的运营成本,抑制技术创新。
    支持这一观点的论据包括:

    • 生成式人工智能服务在大多数情况下并非高风险活动,无需适用无过错责任。
    • 信息不对称问题可以通过“通知规则”(notice and takedown rule)等方式缓解,而无需采用无过错责任。
    • 过错责任可以激励服务提供者和受害者共同采取合理的防范措施,避免服务提供者承担过重的责任。
  2. 服务提供者过错的认定标准
    作者提出,服务提供者过错的认定应采取动态的“合理人”标准(reasonable person standard),结合技术水平、服务类型和侵权性质等多个维度进行综合判断。具体而言:

    • 技术水平维度:随着技术的进步,服务提供者应采取更先进的防范措施。例如,随着内容识别技术的发展,服务提供者的注意义务也在不断强化。
    • 服务类型维度:不同类型的服务提供者在采取防范措施时的成本收益不同。例如,直接向用户提供服务的服务提供者比通过API(Application Programming Interface)提供服务的服务提供者更容易管理用户行为。
    • 侵权性质维度:识别不同类型侵权内容的难度不同。例如,个人信息和有害信息的识别难度较低,而虚假信息的识别难度较高。
      这一观点的支持论据包括:
    • 欧盟《数字单一市场版权指令》和美国相关法律对网络服务提供者注意义务的强化。
    • 我国《生成式人工智能服务管理暂行办法》对服务提供者义务的具体规定。
  3. 服务提供者的注意义务类型
    作者详细分析了服务提供者可能负有的五种注意义务:

    • 语料处理义务:服务提供者应对训练数据进行处理,以减少生成侵权内容的概率。例如,通过过滤语料中的个人信息和侵权内容,降低模型生成侵权内容的风险。
    • 对齐微调义务:服务提供者应采取对齐微调技术(alignment tuning),如人类反馈强化学习(Reinforcement Learning from Human Feedback, RLHF),以减少虚假信息和有害信息的生成。
    • 内容审查义务:服务提供者不负有普遍的事前审查义务,但应承担特殊的事前审查义务和事后审查义务。例如,对格式化的个人信息和有害信息,服务提供者应采取简单的规则方法进行识别。
    • 内容标识义务:服务提供者应对生成内容进行标识,提示信息接收者生成内容可能带来的风险。例如,在生成内容的合理位置添加显著标识,向公众提示生成情况。
    • 用户管理义务:服务提供者应对用户行为进行管理,防止用户利用生成式人工智能从事侵权活动。例如,对使用越狱提示词(jailbreak prompts)诱导生成侵权内容的用户采取限制措施。
      这些义务的提出基于以下论据:
    • 我国《生成式人工智能服务管理暂行办法》对服务提供者义务的具体规定。
    • 相关司法案例,如“上海新创华文化发展有限公司与被告AI公司网络侵权责任纠纷案”中对服务提供者义务的认定。
  4. “通知规则”的类推适用
    作者认为,在生成式人工智能生成内容致人损害的情形下,可以类推适用“通知规则”。这一规则的核心在于,权利人在发现侵权内容后可以通知服务提供者采取必要措施,服务提供者在接到通知后应及时处理。这一规则的适用可以缓解生成式人工智能黑箱(black box)带来的信息不对称问题,降低权利人的举证难度。
    支持这一观点的论据包括:

    • “通知规则”在平衡网络服务提供者与版权人利益方面的成功经验。
    • 生成式人工智能服务提供者与网络服务提供者在侵权责任认定方面面临的类似利益平衡问题。

论文的意义与价值
本文对生成式人工智能服务提供者过错的认定问题进行了系统探讨,提出了动态的“合理人”标准和五种具体的注意义务类型,为司法实践提供了理论依据。同时,本文提出的“通知规则”类推适用建议,有助于缓解生成式人工智能黑箱带来的信息不对称问题,促进权利人与服务提供者之间的利益平衡。本文的研究不仅对生成式人工智能领域的法律规制具有重要参考价值,也为其他新兴技术领域的侵权责任认定提供了借鉴。

上述解读依据用户上传的学术文献,如有不准确或可能侵权之处请联系本站站长:admin@fmread.com