最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》

来源：最高人民法院      

近日，最高人民法院官网发布《最高人民法院关于依法审理涉人工智能纠纷案件的意见》（以下简称：《意见》），回应人工智能产业发展的法治需求，为数据信息侵权、人工智能产品安全以及恶意诱导“AI幻觉”等相关纠纷依法审理和行业规范发展指明了方向。

《意见》指出，应依法认定人工智能训练过程中侵害个人信息权益的民事责任。为人工智能模型训练，在合理范围内处理个人自行公开的或者其他已经合法公开的个人信息，且个人未明确拒绝的，一般不认定为侵害个人信息权益的行为。对个人权益有重大影响的，应当依照法律规定取得个人同意。在认定合理范围时，应当综合考量处理个人信息的目的与模型功能的必要性和适当性，所涉个人信息的类型、敏感程度及对个人权益的潜在影响，个人公开信息时的场景及可合理预期的使用范围等因素。

《意见》强调，应准确认定人工智能产品责任。人民法院应当依据产品质量法关于“产品”的定义，依法准确认定以实物为载体的人工智能产品并适用相应的法律规则。人工智能产品存在缺陷造成损害的，生产者、销售者应当依法承担产品责任。在认定人工智能产品是否存在危及人身、财产安全的不合理危险时，应当综合考量人工智能产品的性质与用途、自主学习能力、升级更新情况、用户对系统的控制程度，以及是否符合相关国家标准、行业标准等因素，并重点审查生产者、销售者是否就人工智能产品的适用场景、固有局限及可预见的风险等进行了真实的说明和明确的警示。

针对生成式人工智能软件被恶意诱导的热点话题，最高法相关部门负责人在答记者问时指出，生成式人工智能服务虽然与传统的网络服务存在差别，但两者在运行机理上也存在类似之处。比如，生成式人工智能服务提供者同样是将海量的信息组织起来提供给网络用户，大模型的生成结果取决于前期训练数据、模型参数以及使用者输入的提示词等因素，人工智能服务提供者难以事先预知所有网络用户输入的内容，加之生成内容的数量十分庞大，无法要求人工智能服务提供者对于生成的内容是否侵权进行逐一预测、审查和拦截。但是，当人工智能因自身幻觉或用户恶意诱导生成侵权内容后，经权利人通知，生成式人工智能服务提供者则应当、也有条件采取必要措施。

为此，《意见》针对“AI幻觉”侵害人格权和用户恶意诱导AI侵害人格权的责任认定作了规定，明确：生成式人工智能自动生成的内容侵害人格权益，经权利人通知，人工智能服务提供者未及时采取停止生成侵权内容等必要措施的，应当对造成的损害依法承担侵权责任；网络用户通过输入侵权提示词等方式恶意诱导生成式人工智能生成侵权内容并造成他人损害的，该网络用户依法承担侵权责任，经权利人通知，人工智能服务提供者未及时采取停止生成侵权内容、屏蔽相关生成指令等必要措施，权利人请求该网络用户、人工智能服务提供者承担民事责任的，人民法院依法予以支持。

点击链接阅读《意见》全文。

【责任编辑：蒙辉】