当下, 有这样一件事, 美国加利福尼亚州有一名19岁的大学生, 在向GPT问询阿片类药物相关问题之时, AI不但没有去拒绝予以回答, 反倒给出了具体的剂量方面的建议, 最终, 这位学生因为药物过量而失去了生命。这起案子引发了一个全新的法律层面的问题, 即当AI所提供的医疗方面的建议致使严重后果出现的时候, 是适用有错才进行赔偿, 也就是过错责任原则, 还是应当引入严格责任机制, 即便没错也要赔偿? 就在今天, 我们要来探讨一番, 如果该案件发生在中国, 法院会做出怎样的认定?
一、GPT推荐药物致用户死亡案
依据原告所呈诉状, 在2025年时, 美国加州有一名19岁的大学生, 他叫做Sam Nelson , 当他运用GPT - 4o版本去询问有关药物的问题时, 那个AI不但没有予以拒绝, 反倒还给他提供了具体的剂量方面的建议, 甚至于还推荐他把具有阿片类效果的草药Kratom和抗焦虑的处方药Xanax混合起来去使用, 目的是为了缓解恶心的症状, 而最终, Sam因为遵照了这一致命的AI处方从而意外药物过量导致身亡。
2026年5月, 其父母把OpenAI告上法庭, 同时还将其CEO奥特曼一同告上法庭,指控GPT-4o版存在设计缺陷开云手机入口app下载, 并且该模型缺乏必要的安全防护措施, 奥特曼身为CEO还亲自干预并加速了产品的发布, 因而也应对此案件负责。
诉状另外提到, OpenAI最开始是作为非营利性实验室创立的, 可是在2019年的时候, 进行了重组转变成为限制盈利的企业, 这样做的目的是为了能够获得微软方面的投资, 此后就转而朝着追求市场主导地位以及盈利的方向发展了。在2024年春天的时候, 为了能够赶在谷歌举办发布会之前去发布GPT - 4o, OpenAI把原本需要几个月时间的安全测试压缩到了仅仅一周时间, 从而导致核心安全人员出现了离职的情况。该模型将重点优先放在了市场推广方面, 而不是用户安全上面, 减弱了部分对于违禁内容的限制,而且相关规则存在自相矛盾的地方世界杯直播观看, 重视用户交互却轻视安全防护, 最终造成了Sam死亡这样严重的后果。在这个案件当中, 原告宣称GPT有着设计方面的缺陷, 被告需要承担严格的责任, 原告不需要去证明被告存在过错。
二、普通AI侵权案在我国法院怎么处理？
在我国法院所审理的普通AI侵权案件当中, 服务商常常存在两个关键的抗辩要点, 其一为, 只要设置了侵权预警机制, 在收到侵权通知之后, 于合理的时间之内将争议内容予以删除, 便能够免除责任；其二是, 对于AI生成的内容要开展标注工作, 与此同时向用户作出提示, 表明AI服务存在可能出错的情况, 需要用户去咨询并核实信息的真实性, 在用户协议里也对相应的免责内容作出了规定, 在这样的情形下, 法院便有可能认定其已经履行了合理的注意义务, 举例来说, 要是用户没有去核实信息的真实性, 就需要自行承担一部分责任。
于是我国对于生成式AI服务致使的侵权纠纷现存案例不给严格责任以支持。于杭州互联网法院AI幻觉首个案件里, 因为某AI模型给出了有误的高考志愿填报信息, 所以原告宣称AI服务商要承担严格产品责任。可法院却觉得, 生成式人工智能服务引发的纠葛, 应该适用《民法典》里规定的一般过错责任原则, 而不是产品责任的无过错责任原则。
原因在于, 鉴于法律定义层面, AI服务归为服务范畴并非有形产品；因为AI生成内容繁杂且变化多端, 缺少具体、可施行的质检标准, 所以难以契合产品责任的构成要件；从产业政策导向来讲, 在技术发展初期时, 要是对服务提供者施加过重的无过错责任, 极有可能抑制创新。此判决为我国处理相似AI侵权案件确定了重要的裁判思路。
三、服务为什么不能适用严格责任？
我国《民法典》第1202条规定, 因产品存在缺陷造成他人损害的, 生产者应当承担侵权责任。这里产品的定义在《产品质量法》第2条第2款, 本法所称产品是指明经过加工、制作, 用于销售的产品。那么, 焦点问题便是使用AI服务导致损害能否适用《民法典》第1202条的严格责任, 毕竟法律条文明确规制的对象是产品, 并未规定服务也涵盖其中。
于美国, 《美国侵权法重述（第三次）: 产品责任》的第1条, 规定的是产品责任的严格责任原则, 不过此原则仅仅适用于产品, 也就是“Product”这样的东西, 而不会适用于服务, 也就是“Service”这类情况, 法国是如此规定的, 日本也是如此规定的, 欧盟同样是这样规定的, 大致上都是相同的情形。
其背后存在制度方面的原因, 那就是, 产品能够进行大批量的标准化生产, 并且可以事先开展安全检测,然而服务却是即时就完成的世界杯直播平台, 是根据不同的人和事情而有所不同的个性化行为。不管是医生进行看诊, 还是律师进行代理, 又或者是AI的动态生成, 都没办法提炼出统一的物理缺陷标准。要是把无过错的严格责任强加到服务业上面, 就会把经营风险无限地放大。拿医疗来说, 严格责任会致使执业保费急剧飙升, 最终成本还是会转嫁给消费者。所以, GPT在理论层面仍然应当归属于服务, 没办法直接去套用产品责任。
四、如何破解过错责任在高风险场景下的局限性？
哪怕严格责任没办法直接去套用, 可这并不表明大模型在涉及生命健康的高危场景那里, 能够依靠仅供参考的免责条款以及普通过错原则来豁免责任。在普通过错责任情形下, 谁主张、谁举证属于基本原则。鉴于AI算法处于黑箱状态, 用户基本上不可能证明算法设计者主观上存有过错。
但处于我国《民法典》的框架范围之内时, 针对那种高度不对称的高风险场景而言, 法律早就留出了调整的空间, 其第1222条作出了规定, 要是医疗机构违背了法律、行政法规、规章以及临床诊疗规范的话, 那就直接推断医疗机构存在过错了。
把这一逻辑运用到加州案里来看, 诊疗以及用药在我国是属于特许准入行业的情形, 其具备着极为高程度的人身危险性表现。OpenAI是出于追求商业利益的目的, 明明知道该场景有危险性存在, 却在主观方面采取放任态度, 还强力压缩安全测试, 并且主动地撤销了原本存在的非法药物过滤系统。像这种明明知晓却故意那样做的行为早已超越了因技术局限引发产生的幻觉范围, 构成了相当严重的过错事故。
面对这样的案件, 国内的法院能够借助加重被告举证责任的办法来化解原告的举证难题。法院或许会要求大模型服务商针对其数据训练的合规状况、电子围栏的设置缘由、算法优化的合理程度进行全面的反向举证。要是服务商没办法证实自身撤除安全围栏拥有正当的理由, 法院理应直接推断其存在重大过失, 从而判定其构成侵权行为。
与此同时, 按照《民法典》第五百零六条的规定, 合同里有关“造成对方人身损害”的免责条款, 绝对是没有效力的。所以, AI结果输出页所标注的诸如仅供参考、不构成医疗建议这类的免责内容, 同样会被法院判定为无效。
就整体情况加以综合考量, 哪怕是处于像医疗这般高风险的场景之中, 当前的法律框架依旧有一种倾向, 那便是把AI服务归入到过错责任的轨道上去。然而, 考虑到医疗场景所具备的高风险性, 法院能够借助加重举证责任, 以及过错推定等一系列方式, 来强化AI服务商所应承担的安全保障义务, 以此达成技术创新与生命权益保护之间的平衡。
还木有评论哦，快来抢沙发吧~