智能体侵权风险与人格权保护立法应对 中国人民大学

高校级教育数字化意见办法北京

AI摘要

文章探讨了智能体技术发展给人格权保护带来的新挑战,包括侵权风险扩大、责任主体多元、大规模微型侵权等问题。文章提出未来人工智能立法应明确智能体侵权归责原则、变通通知删除规则、规定人格权保护特殊规则及大规模个人信息处理风险防范规则,并强调公益诉讼和多元共治在应对大规模微型侵权中的重要作用。

关键词: 智能体, 人格权保护, 侵权责任, 个人信息保护, 公益诉讼
【AI摘要】文章探讨了智能体技术发展给人格权保护带来的新挑战,包括侵权风险扩大、责任主体多元、大规模微型侵权等问题。文章提出未来人工智能立法应明确智能体侵权归责原则、变通通知删除规则、规定人格权保护特殊规则及大规模个人信息处理风险防范规则,并强调公益诉讼和多元共治在应对大规模微型侵权中的重要作用。
关键词:智能体 人格权保护 侵权责任 个人信息保护 公益诉讼

在智能体侵权的情形下,首先,需要根据各个主体的过错和原因力判断相关主体的责任,也可以考虑采用举证责任倒置的方式,由相关主体就自己的行为对损害发生没有原因力进行举证。其次,在认定各个主体的责任时,需要考虑其是否直接面向终端用户。

在面对不特定的多数主体权利可能遭受侵害的场合,应当发挥公益诉讼制度功能。从制度安排上看,提起个人信息保护公益诉讼的诉权主体有检察机关、法律规定的消费者组织和由国家网信部门确定的组织。在智能体大规模侵权的情形下,提起公益诉讼可以协同多个部门,使具有更强纠纷解决能力的组织和机关介入,这有助于解决实践中个人起诉存在的举证困难以及维权成本过高等问题,对于强化个人信息保护十分必要。

人工智能技术发展日新月异,智能体技术不断升级迭代。近年来,从会聊天的ChatGPT到会思考的DeepSeek,从能生成高质量视频的Seedance到会行动的“龙虾”(OpenClaw),再到能够自主思考和行动的具身智能(Embodied AI),在部分领域如撰写代码、翻译等领域,人工智能已经达到“类人”甚至“超人”的水平。人工智能体已经实现了从“静态执行工具”向“动态处理代理”的跃迁。智能体的产生意味着人工智能更多地参与到与人的交互过程中,并引发了新的侵权风险。传统侵权规则在应对人工智能系统的自主性、技术黑箱化及其引发的新型损害时,正面临前所未有的挑战。法律需要对智能体侵害人格权的风险作出应对。

智能体技术的发展和应用给人格权保护带来了新的风险和挑战。面对智能体技术的更新迭代,未来人工智能立法和相关司法解释应当对此有所回应。

智能体技术作为人工智能的新型应用形态,正广泛地进入日常生活和各种经济应用场景,引起人们生产和生活方式的变革。智能体技术具有更强的信息处理能力,极大地提升了生产效率,给人类带来了显著的福祉。但也应当看到,与生成式人工智能相比,智能体技术的发展和应用给人格权保护带来了新的风险和挑战。从侵害客体层面看,由于生成式人工智能一般不会实施物理加害行为,而只是生成信息和内容,因此,其侵害对象主要是隐私权、个人信息权益、名誉权、肖像权、声音权益等精神性人格权益和知识产权等。而随着智能体技术的发展,智能体侵权在侵害的权益方面出现了一些变化。一方面,扩张了侵害的民事权益类型,除侵害人格权益、知识产权外,智能体还可能侵害相关的财产权益;另一方面,即便就人格权益而言,智能体除侵害隐私权、名誉权、个人信息权益等精神性人格权益外,还可能侵害生命权、健康权等物质性人格权。尤其是与生成式人工智能相比,智能体侵害人格权的风险更为严重。智能体之所以会带来新的人格权益侵权风险,主要是基于如下几方面原因:

第一,与生成式人工智能相比,智能体的信息处理能力和传播能力更强,侵害人格权的风险更大。与生成式人工智能相比,智能体具有更强大的窃取个人信息的能力,并且具有超强的关联分析能力,可以基于碎片化的数据还原个人身份、行为、偏好,一旦被滥用,就会对隐私权和个人信息保护造成重大威胁,甚至导致大规模侵权后果。同时,智能体可以全方位收集碎片化个人信息,进行处理后存储在云端,如果被不当利用,就会严重侵害个人的人格权益。此外,与生成式人工智能不同,智能体可以持续不断地、主动地处理个人信息。在运行过程中,智能体不仅会处理使用者的个人信息,也可能一并处理其他相关主体的个人信息。例如,个人在利用智能体购买一次机票后,该智能体不仅会收集使用者本人的银行账户等信息,而且可能会一并处理交易相对人等其他人的个人信息。

第二,与生成式人工智能不同,智能体具备感知、记忆、决策、交互等能力,且能够以较高的自主性执行任务,已经从虚拟世界进入物理世界。换言之,智能体已经从“会说话”发展到“会行动”,实现了从“虚拟交互”到“物理在场”的转变,这也给人格权保护带来了新的挑战。这意味着智能体侵权可能发生在物理世界。例如,借助无人机可以轻易地进入私人空间进行非法监视,收集他人的私生活信息。智能体的应用在进入物理世界后,除了给隐私权、个人信息权益等精神性人格权益的保护带来更大挑战外,在侵害人格权益的类型和范围上也会发生扩张。因为智能体已从虚拟世界进入物理世界,并与用户和其他人现实接触,可能造成人身、财产损害。近年来,机器人伤人、无人机毁损他人财物事件已经发生。此外,智能体在获取个人信息后,因被恶意“投毒”、越权调用工具或因设计缺陷而可能被用于“窃取”数据,或造成对他人包括大量个人信息数据的损害。这些损害包括人身损害和财产损害,财产损害既包括有形财产损失,也包括无形财产损失;既包括现有财产损失,也包括未来财产损失。同时,对这些损害因果关系的认定具有不确定性。这些损害究竟是不是因人工智能引发,在多大程度上是因人工智能引发,常常难以确定,这是以往互联网侵权和生成式人工智能侵权所未曾遇到的问题。

第三,智能体侵害人格权益的损害后果传播快、溯源难、风险大。智能体具有强大的个人信息收集和处理能力,其所处理的个人信息一旦发生泄露,即可能造成多主体海量个人信息的泄露。同时,智能体能够低成本、批量地生成深度伪造的音视频(如移花接木、无中生有、造谣诽谤),侵害他人人格权益。同时,智能体侵权信息传播快、溯源难、危害大,可能引发的人格权侵权损害后果也更为严重。一旦生产或者传播虚假信息,即可能对海量用户造成损害,对这些侵权的预防和救济也更加困难。例如,“龙虾”(OpenClaw)智能体的运行依赖对用户终端数据的广泛读取与处理,涉及生物识别信息、银行账户信息、行踪轨迹等敏感个人信息。如果用户没有设置严格的权限管控,直接将系统权限全部授予智能体,智能体在失控的情形下作出决策,可能会给个人信息安全带来极大威胁。尤其是当用户跨境使用该智能体或者将其部署在云端时,其个人信息甚至敏感个人信息可能在用户不知情的情形下被智能体共享至境外服务器。2026年,安全研究人员在“龙虾”(OpenClaw)中识别出多处高危信息泄露漏洞,可能诱发大规模数据侵权与个人信息泄露。这些案例表明,大模型时代的个人信息保护正面临来自技术机理层面的新型数据泄露风险冲击。

面对智能体技术的更新迭代,未来人工智能立法和相关司法解释应当对此有所回应,具体而言包括以下几个方面:

一是明确智能体侵权责任的归责原则。一方面,在确定智能体侵权的归责原则时需要区分人工智能所提供的是产品还是服务,并适用不同的归责原则。因为,典型的严格责任形态是产品责任,产品投入流通后形成了固有的风险。而对于进入物理世界的智能体而言,其具有有体性,性质上属于产品,如果其在设计、制造等方面具有内在缺陷,这种内在缺陷可能对他人的人身、财产安全形成现实危险的,则应当适用严格责任。以生成式人工智能为代表的提供服务的人工智能,并不适用传统的产品责任,因为其未对个人的人身财产安全形成一种现实危险。即便其生成的内容可能侵害他人的人身权、知识产权,但其危险也在可控范围之内。尤其是人工智能生成的内容侵权有可能是因其幻觉导致的,并不是因其固有瑕疵导致的,现有的技术无法彻底克服此种瑕疵。所以,从鼓励技术发展和创新的角度而言,不宜对此种侵权一概适用严格责任。另一方面,生成式人工智能主要侵害的是精神性人格权和知识产权,如果侵害个人信息,也可依据个人信息保护法第69条的规定适用过错推定责任。与生成式人工智能不同,智能体已经进入物理世界,可能对用户的人身、财产安全造成现实威胁,依据民法典侵权责任编归责原则的相关规定,如果智能体本身属于产品并被实际应用,则可能对其侵权适用严格责任原则。

二是明确“通知—删除”规则的变通或替代适用规则。生成式人工智能的主要功能是向用户或者社会公众提供信息,因此当生成式人工智能生成侵权信息时,权利人可以主张适用“通知—删除”规则。与此不同,智能体集感知、决策和执行能力为一体,其所生成的信息直接用于执行环节,因此其通常不对外提供信息,难以适用“通知—删除”规则。同时,如前所述,对于适用产品责任的智能体侵权而言,其主要适用于侵害物质性人格权和财产权益的情形,此类侵权不同于交互性的信息侵权,客观上也难以直接适用“通知—删除”规则,这就需要明确智能体侵权情形下“通知—删除”规则的变通或者替代适用规则,以有效规制智能体侵权行为。

三是规定智能体侵害人格权的特殊规则。智能体侵害人格权的相关规则与生成式人工智能、自动驾驶等人工智能侵害人格权的规则共同构成人工智能场景下人格权保护的规则体系。民法典等法律虽然规定了人格权的保护规则,但可能难以全面规范智能体侵害人格权的规则场景。例如,关于对声音的保护,民法典第1023条第2款只规定,对自然人声音的保护,参照适用肖像权保护的有关规定,而没有将自然人声音规定为独立的具体人格权,这可能影响智能体应用场景下对声音权益的保护。进一步而言,行为人利用智能体处理个人声音的,是否需要取得个人的明确同意,以及以何种方式取得个人的同意等问题,现行立法并未作出规定,这可能影响对声音权益的保护。再如,关于深度伪造侵权,民法典只在肖像权部分作出简略规定,其无法满足智能体应用场景下规制深度伪造侵权的需要。行为人能否利用智能体对个人进行深度伪造、可以在何种程度上对个人进行深度伪造、在行为人利用智能体对个人进行深度伪造的情形下如何认定行为人的民事责任等,均规定不明确。未来人工智能立法和相关司法解释应当对智能体应用中的人格权保护作出特别规定,以强化对人格权的保护。

四是规定智能体大规模处理个人信息的风险防范规则。在智能体处理个人信息过程中,其通过对海量的碎片化个人信息进行挖掘和分析,可以生成多维度的“用户画像”。在智能体处理个人信息的情形下,信息主体可能并不知道智能体处理了其哪些个人信息,甚至不知道智能体处理的相关个人信息是否准确,这也导致信息主体在客观上难以行使查询、更正权。针对智能体应用场景下个人信息权益保护的上述问题,应当要求智能体的开发者和提供者提供相应的替代措施,以有效保护个人信息权益。如果个人无法行使上述权利,智能体处理个人信息造成了个人损害,或者给个人信息保护带来一定的现实风险,则应当允许个人通过主张停止侵害等方式维护其个人信息权益。

在具体认定各个主体的责任时,由于算法的不透明性和难以解决的技术障碍,可能难以准确认定各个责任主体的责任范围,这就需要对各个责任主体的过错以及对损害发生的原因力等因素进行综合考量,以确定其责任范围。

智能体技术的发展和应用带来了一个很现实的问题,即智能体侵害人格权益可能涉及多个环节、多个主体责任的认定。例如,具身智能产业链高度复杂且主体分散,在生产模型研发、基础模型提供、边缘计算微调、算法提供和硬件本体制造等环节,基础模型提供方、算法提供者、系统集成方、硬件生产商及最终运营部署方通常属于不同主体。

智能体侵权责任中责任主体的多元化给相关主体责任的认定带来了一定挑战,传统的“谁处理、谁负责”原则在智能体侵权领域面临适用难题。对受害人而言,其需要证明损害事实、厘清复杂的侵权链条并将损害量化,且数据瑕疵、学习偏差、环境干扰等多重因素叠加,在一定程度上模糊了追责链条,导致受害人面临溯源举证困难、复杂,损害难以量化等多重现实障碍。以自动驾驶机动车致人损害责任为例,相关损害事故既可能是因为系统提供者提供的系统存在缺陷所致,也可能是汽车生产商在安装和部署系统时存在过错所致,还可能是机动车使用人在日常维护过程中没有尽到维护义务所致,如未能及时更新地图等交通信息,最终致使事故发生。这也使得相关致害原因的认定以及责任主体的确定均存在困难。在高度结合的供应链生态中,智能体的主动性加剧了技术失控的风险,极易引发责任界定模糊甚至“责任逃逸”。

面对智能体侵害人格权责任主体的多样性,首先需要明确“责任在人”的基本原则。也就是说,在智能体侵权的情形下,应当由相关主体对此承担责任,而不能认定由机器承担责任。智能体并非民事主体,不具有责任财产,无法成为智能体侵权责任的责任主体。全国首例“AI幻觉”侵权纠纷案判决书中,法官认为,“某人工智能模型既不是生物学意义上的人,也并未被我国现行法律赋予民事主体资格,故此不是民事主体,不具有民事权利能力、行为能力和责任能力。至于随着未来科技的发展,是否应根据实际情况将人工智能视为‘人’,赋予其法律拟制的主体资格,应由立法者进行决断。”无论发生何种智能体侵权行为,都应当由智能体的开发者、运营者等承担责任,而不能由人工智能模型、人工智能产品等承担责任,相关主体不能把责任甩锅给机器。

在智能体侵权的情形下,需要明确划定相关主体的责任边界。智能体模型的开发和应用涉及多方主体,其不仅涉及智能体服务开发者和提供者,还涉及智能体的使用者等主体。即便就智能体服务提供者而言,其也不限于提供技术支持的主体,还应当包括算法提供者等主体。这就需要明确智能体开发和应用各个环节中相关主体的责任边界,即在发生智能体侵权的情形下,哪些主体应当对损害后果负责。笔者认为,虽然智能体的开发和应用涉及多个主体,但一旦发生智能体侵害人格权的情形,并不意味着其开发和应用环节所涉及的各个主体均需要承担连带责任,否则可能导致责任分散、责任稀释甚至责任落空的现象。一方面,在人工智能侵权的情形下,各责任主体之间并不存在侵害他人权益的意思联络,因此无法成立共同侵权行为;另一方面,在智能体侵权的情形下,各个责任主体之间也不构成共同危险行为。因为对共同危险行为而言,虽然各个行为主体均实施了一定的加害行为,但并非所有行为主体的行为均对损害后果产生影响,仅部分行为主体的行为对损害后果的发生具有原因力。而在智能体侵权的情形下,损害后果的发生是多个主体行为共同作用的结果,即每个责任主体的行为都对损害后果的发生产生了一定影响,因此各个责任主体的行为并不一定构成共同危险行为。还应当看到,课以各个主体连带责任,不仅不符合连带责任的基本原理,也可能不当加重相关主体的责任,影响其积极投入人工智能技术的开发和应用,从而影响人工智能产业的发展。

在智能体侵权的情形下,首先,需要根据各个主体的过错和原因力判断相关主体的责任,也可以考虑采用举证责任倒置的方式,由相关主体就自己的行为对损害发生没有原因力进行举证。其次,在认定各个主体的责任时,需要考虑其是否直接面向终端用户。为了鼓励相关主体积极投身人工智能技术的开发和应用,推动人工智能产业发展,对不直接向终端用户提供产品和服务的开发者和提供者不应课以过重的责任负担,更不应简单适用严格责任。对此类主体而言,只要其履行了合规义务和合同义务,即便后续发生了智能体侵权,也不应当要求其对第三人承担责任。而对直接向终端用户提供产品和服务的开发者和提供者而言,由于其是最能够控制智能体侵权风险的主体,应当承担更重的风险控制责任。此种责任分配方案也符合法律经济分析的结论,即能够以较低成本防范风险、避免更大损失的主体应当承担更重的责任。此外,在具体认定各个主体的责任时,由于算法的不透明性和难以解决的技术障碍,可能难以准确认定各个责任主体的责任范围,这就需要对各个责任主体的过错以及对损害发生的原因力等因素进行综合考量,以确定其责任范围。

针对智能体引发的大规模微型侵权,侵权法应当为受害人提供有效的救济。可以智能体是否对受害人造成现实损害为标准。

智能体技术的应用可能引发大规模侵害人格权的问题。所谓大规模侵害人格权,是指某一侵权行为侵害了大范围内众多受害人的人格权。对智能体侵权而言,其大多引发的是大规模微型侵权,因为智能体引发的大规模侵害人格权主要发生在侵害精神性人格权益的场景下,尤其是侵害肖像权、隐私权、声音权益以及个人信息权益等,此类侵权侵害单个受害人人格权的损害后果是轻微甚至极其轻微的。对侵害物质性人格权和财产权的情形而言,通常是智能体进入物理世界后“一对一”的侵权,此时通常不存在大规模侵权问题,而只是造成特定受害人的损害。

智能体之所以会造成大规模微型侵害人格权,主要源于其强大的信息处理能力。以侵害个人信息为例,一方面,智能体在应用中可以大规模处理个人信息。智能体所应用的技术具有超强能力,可以处理海量用户的个人信息,而且能够不间断地处理个人信息,如果其大规模、持续不断地非法处理个人信息,就会引发大规模微型侵权。另一方面,智能体在应用中可能大规模泄露个人信息。在智能体时代,大模型爬取个人信息,训练数据包含大量隐私信息,如果没有经过恰当的数据清洗和匿名化处理,相关数据易被批量提取、泄露。智能体具有长期记忆的功能,如果非法收集他人个人信息后,一直存在云端,则随时可能遭受攻击,或者被“投毒”,引发大规模信息泄露。针对智能体引发的大规模微型侵权,传统的侵权责任规则在救济受害人方面可能存在一定的不足之处。

针对智能体引发的大规模微型侵权,侵权法应当为受害人提供有效的救济。具体而言,可以智能体是否对受害人造成现实损害为标准,区分如下两种情形分别处理:

一是智能体大规模微型侵权并未造成个人现实损害。以个人信息保护为例,美国最高法院在近几年的判决中否认非法处理个人信息构成侵权法上的损害,如果个人信息被泄露则可以认定为侵权法上的损害。此种做法具有一定的合理性。因为,如果只是不当收集个人信息,而没有发生信息泄露,此时受害人只是面临一定的个人信息泄露风险,而没有遭受现实的损害。此时,可以更多地鼓励受害人通过行使更正权、查阅权、删除权等方式获得救济,如果这些权利的行使遇到障碍,应当通过替代保障措施,而不一定都要通过侵权损害赔偿的方式获得救济。

二是智能体大规模微型侵权对受害人造成了现实损害。智能体大规模微型侵权也可能对受害人造成现实损害,如导致个人信息特别是大规模敏感个人信息的泄露,此时已经从风险转化为实际损害。此时,受害人有权主张相关主体承担侵权损害赔偿责任。当然,在智能体大规模微型侵权的情形下,受害人在证明自身损害、损害数额等方面可能面临一定困难,此时可以依据个人信息保护法第69条,通过获利赔偿、法院酌定等方式对受害人提供救济。此外,即便受害人能够证明自身损害,其损害也通常较小,这可能导致受害人的维权成本较高,此时可以考虑通过共同诉讼、公益诉讼、法定损害赔偿等规则,给受害人提供救济。例如,域外有的法律直接设定法定赔偿额,如《加州消费者隐私法案》规定,企业因违规而导致个人信息泄露、盗窃或披露的,可以主张100美元到750美元的损害赔偿金或实际损害赔偿金。此种立法经验值得借鉴。

还应当看到,在智能体大规模微型侵权的情形下,侵权法转向了对群体福利的关注,传统的侵权通常发生在“一对一”的小范围内,不具有外部性。但在大规模侵权的情形下,涉及群体福利,涉及更多的受害人。因此,侵权法的重心应当从救济转向预防,通过各种有效措施来防范损害发生。因为不论是程序上的救济还是实体上的救济,都存在一定的困境,此时预防损害更为有效。这也需要多元共治,综合运用法律法规、政策制度、应用规范、伦理准则等,有效防范智能体大规模侵权风险。尤其是随着人工智能应用场景的不断扩展,其侵权风险也将随之增加,这就需要注重发挥保险制度分散风险的功能。

此外,针对智能体引发的大规模微型侵权,有必要引入公益诉讼制度。个人信息保护法第70条引入了公益诉讼制度,从而对个人信息侵权救济制度进行了重大创新。在智能体引发大规模微型侵权的情形下,单个受害人可能面临举证困难等问题,有的受害人甚至并不知道其个人信息权益已经遭受侵害。在面对不特定的多数主体权利可能遭受侵害的场合,应当发挥公益诉讼制度功能。从制度安排上看,提起个人信息保护公益诉讼的诉权主体有检察机关、法律规定的消费者组织和由国家网信部门确定的组织。在智能体大规模侵权的情形下,提起公益诉讼可以协同多个部门,使具有更强纠纷解决能力的组织和机关介入,这有助于解决实践中个人起诉存在的举证困难以及维权成本过高等问题,对于强化个人信息保护十分必要。

(作者王利明,系中国人民大学民商事法律科学研究中心研究员、教授。原文刊载于《检察日报》2026年9月26日第3版。)

原文链接:[检察日报]王利明:人工智能体侵害人格权风险及其应对

来源:中国人民大学 | 查看原文