1. 为什么AI侵权不能照搬“谁撞人谁负责”的老规矩我们团队去年做智能客服产品时法务同事拿着用户投诉来找我问了一个当时把我问住的问题“用户说AI回复内容造成了他的损失要起诉我们我们到底有没有过错”放在五年前这个问题很好回答。AI就是个工具工具本身不会有过错出问题要么是产品缺陷要么是使用者操作不当。但今天再这么解释已经站不住脚了。原因很简单现在的AI不再是那个“你按什么键它就干什么事”的机械工具了它是会自主生成内容、自主做决策、自主跟人交互的准主体。当一辆自动驾驶汽车自己决定变道却撞了车当一个大模型自动生成了一段虚假信息导致用户被骗你说“车没过错”“模型没过错”那受害者找谁这就是最高法AI新规第三条要解决的核心问题。我不打算逐字逐句给你念法条那是法院宣传册干的事。我更想从一个AI产品实际从业者的角度跟你把这条规则掰开揉碎了讲清楚它到底改变了什么、我们这些做产品的人该怎么应对、以及哪些地方特别容易理解跑偏。先说传统过错责任的基本逻辑。民法典第一千一百六十五条写得明白行为人因过错侵害他人民事权益造成损害的应当承担侵权责任。这句话里有三个关键词行为人、过错、损害。其中最麻烦的就是“过错”二字。传统法律体系里过错通常指两种主观状态故意明知道会发生损害还去做和过失应当预见但没预见或者预见了但轻信可以避免。问题来了。故意肯定谈不上AI不会“故意”害人它没有主观恶意这个说法。过失呢过失的判断标准是“应当预见”可AI的行为结果连开发者自己都未必能预见。大模型的涌现能力就是例子——没人能准确预测一个训练好的模型在什么输入下会说出什么话。你说开发者“应当预见”某句不当言论这话说出来你自己信吗于是在AI面前传统过错概念的两大支柱——故意和过失——都出现了松动。法律不能装作没看见所以最高法这套新规需要重新构造一套“过错判断标尺”这就是第三条的核心价值。但你别误会这不是要推翻过错责任原则。恰恰相反新规仍然是坚持过错责任这个基本盘的只是把“怎么判断过错”这件事重新设计了。这个设计思路很有意思我把它概括为从“看主观心态”转向“看客观表现”从“一次性判断”转向“全过程审视”。传统侵权案件里法官判断过错很多时候是“事后诸葛亮”式的事故已经发生了回溯当时当事人的心理状态。但AI侵权不一样。AI系统是一个持续运行、持续学习、持续决策的复杂系统它的“行为”分散在开发、部署、运营的每一个环节里。你没法在事故发生后揪住一个“行为人”来问“你当时是怎么想的”。你只能反过来看这个AI系统的全生命周期里每个参与环节的人有没有尽到该尽的义务。这就是过错综合判断标尺的底层逻辑——不问“你错在哪”而是看“你有没有做到位”。做到位了就算结果很糟糕那也谈不上过错没做到位哪怕结果碰巧没问题只要风险暴露了一样可能被认定有过错。我把传统逻辑和AI场景下过错判断的变化整理成一个对照表这样看着更直观判断维度传统过错判断AI侵权场景下的过错判断判断对象自然人的主观心态全链条参与者的客观行为判断时点事故发生后回溯覆盖开发、部署、运营全过程核心问题当事人是否故意或过失各方是否尽到合理注意义务证据来源当事人陈述、目击者证言文档记录、测试日志、算法审计报告责任主体通常单个行为人开发者、服务提供者、使用者可能分担看到这你可能已经意识到了这套新标准对做AI产品的人要求很高。你不仅要技术过硬还得把过程管理做扎实因为将来一旦出事法官第一件事就是翻你的开发记录、测试记录、日志和合规文件。2. 过错综合判断标尺的三个支点第三条把过错判断从“玄学”变成了“工程学”这一点是它最高明的地方。理解整条规则关键是抓住三个支点是否违反法定义务、是否尽到合理注意义务、是否具备风险预防与应对能力。这三个支点不是并列关系而是层层递进、互相咬合的。2.1 支点一有没有踩监管红线第一个支点相对最好理解也是最硬核的你有没有违反法律、行政法规或者监管规定。这个维度不需要太多主观判断条文白纸黑字摆在那违反就是过错的有力佐证。以生成式AI领域的实践为例哪些算“监管红线”算法备案是跑不掉的深度合成服务有明确的安全评估要求训练数据必须做合法性审查面向公众提供服务的还得有投诉举报机制。你做了合规记录完整这就是加分项你没做哪怕产品运行一直平安无事一旦出事过错认定几乎是板上钉钉的。这一条我特别想提醒创业团队的注意。很多小而美的AI项目早期根本不重视合规备案觉得先把产品跑起来再说。真出了纠纷第三条第一支点就直接把你按死了根本不用讨论技术细节。合规备案这些东西看着繁琐实际上是你的“救命文档”。但光有第一支点是不够的。法定义务是底线是及格线不是满分线。你全做到了也不代表你就完全没有过错了接下来还得看第二支点。2.2 支点二有没有尽到“合理注意义务”“合理注意义务”这个词听起来还是有点虚我给你翻译成人话在当前的认知水平和技术条件下一个合格的AI从业者应该想到、做到的事情你想到了没有、做到了没有。什么叫“当前认知水平”举例来说两年前大模型幻觉问题还属于行业前沿课题很多人确实不重视这情有可原。但今天幻觉问题已经是被反复讨论、人尽皆知的基础风险了你要是还不做任何缓解措施那就是没尽到合理注意义务法官完全可以据此认定你存在过错。合理注意义务的考察范围包括但不限于这些方面产品发布前有没有做充分的红队测试也就是对抗性测试有没有针对已知风险制定缓解方案比如对输出内容做关键词过滤、对敏感场景做人工审核有没有参考国家发布的AI安全治理标准、行业技术规范来设计产品有没有跟踪最新的AI安全研究进展把成熟的技术手段引入产品这里有个非常容易忽略的点合理注意义务是动态的不是静止的。今天合理的事三个月后可能就不合理了。AI技术迭代太快去年大家觉得“生成内容不审查也没事”今年监管细则和司法实践都变了你再按去年的标准做事出了事就是过错。这意味着做AI产品必须建立持续跟踪机制把合规审查变成常态化动作。2.3 支点三有没有风险预防和事后应对能力第三个支点最体现新规的前瞻性。它不只盯着“事故发生时”的表现还往前看、往后看你事前有没有预防机制事后有没有应对能力事前预防机制除了前面提到的测试之外还包括系统运行过程中的实时监控。比如内容生成类产品有没有敏感词拦截、有没有异常输出的阻断机制、有没有人工兜底审核的通道。一个部署了多层防护网的产品和一个裸奔上线的产品在过错认定上的待遇肯定不一样。事后应对能力就更考验产品设计功底了。用户投诉了你有没有畅通的反馈渠道认定因果关系的日志有没有留存出问题之后能不能快速定位模型哪一层、哪个输入触发了不当输出能不能立刻下线整改这一条跟我们平时说的“可追溯性”“可解释性”完全是一回事。你用上了这些技术能力法条上就叫“具备风险应对能力”你没用那就叫“风险应对能力缺失”过错随之而来。三个支点加在一起形成了一个完整的评价闭环红线是前提注意义务是过程风险应对是兜底。评价一个AI产品有没有过错法官大概率会依次看这三层有没有违法违规的硬伤有没有做到行业的常识性防护有没有建立预防与救济的完整机制。3. 不同AI场景下的过错认定推演理论讲清楚了下面落到具体场景。这一节我挑几个有代表性的AI产品形态演示一下过错综合判断标尺是怎么运作的。也是为了方便你做自家产品的“压力测试”。3.1 场景一生成式AI输出有害内容这类场景最常见也最直观。用户问了一个诱导性问题AI生成了一段歧视性言论或者虚假医疗建议造成人格权侵害或者财产损失。按第三条的框架来推演法官会依次看这么几个东西。备案和审核机制有没有建立如果这个模型是面向公众的生成式服务按监管要求应当做安全评估你没做第一支点已经出问题了。指令微调和输出过滤的行业惯例有没有遵循别人都在做基于RLHF的对齐训练就你没做第二支点出问题了。报警和阻断机制呢如果输出里出现明显的违规内容系统能不能自动拦截有没有人工复核的二次防线没有的话第三支点也失守了。三个支点全倒过错认定基本跑不掉。反过来如果这些措施全都做了只是极端个案里模型出乎意料地生成了一段问题内容——这种情况属于现有技术水平下尚难完全避免的残余风险过错认定就会弱很多甚至不会被认定存在过错。这两者之间的差距就是合规投入的价值。3.2 场景二AI推荐算法引发损害推荐算法侵权这个场景最典型的就是未成年人刷短视频停不下来或者用户因沉浸式推荐导致身心健康受损。这一类的过错判断跟内容生成类有区别因为推荐算法的问题不在“说了什么”而在“怎么组织的”。判断过错时会重点考察有没有针对未成年人做专门的内容过滤和时间管理有没有进行适度的负向干预也就是刻意减少易沉迷内容的推荐权重有没有对推荐机制的潜在危害做过定期的算法公平性审计如果这些东西一个都没有推荐策略纯以时长为目标那过错的认定就是一个时间问题。这个场景特别讲究“权衡”二字。推荐算法不能走向另一个极端——什么都不敢推了用户体验全没了。法律要的是合理注意不是草木皆兵。你做了适度干预、建立了用户反馈闭环、持续优化算法结构这就算尽到了注意义务。3.3 场景三AI辅助决策系统出错医疗AI辅助诊断、招聘AI做简历初筛、信贷AI做授信参考这些场景的共性特征是AI不是直接作出最终决定而是给人提供建议。一旦建议有误引发损害怎么分配过错这类场景责任判断的关键就是对AI建议的“依赖程度”。这里有个特别值得研究的边界问题AI辅助决策系统的过错判断究竟是只看AI系统的开发质量还是连使用者过度依赖AI的行为也要纳入考量实践中最有争议的恰恰是这一点。医生在AI辅助下做出错误诊断法院既要考察AI系统本身的设计是否存在缺陷、有没有标注清楚置信区间、有没有给出足够的解释性提示也要考察医生有没有合理采信AI建议、有没有尽到独立判断的职业义务。这两层互相作用过错分配会非常微妙。开发AI辅助决策产品的团队必须在系统设计上体现一条重要的意图让使用者在关键环节保留审慎空间而不是一键自动执行。界面设计、交互流程、提示语都可能成为过错判断的依据。这是很多技术团队完全没意识到的——你以为只是交互体验问题将来可能是法律责任问题。3.4 场景四AI Agent自主执行任务出错这个场景是当下最前沿、也最让法律头疼的。AI Agent不像推荐算法那样只做“建议”它会自主调用工具、下载文件、执行交易、向第三方平台发送指令。假如Agent错误地操作了用户的资金引发财产损失过错怎么算新规的第三条在这种场景下的判断路径大致是这样的用户有没有被告知Agent的行为边界和风险触发高风险操作时系统有没有设置二次确认机制Agent的设计者有没有配置行为约束规则比如禁止越权访问、禁止无确认执行高金额操作出了问题日志链路能不能完整还原操作过程我的判断是在Agent场景下过错认定的重心会明显向“风险境况的告知”和“行为边界的设定”倾斜。一个什么都没约束、放开手让Agent干的系统和设置了多层审批与边界检查的系统过错差异会非常显著。做Agent产品的团队现在就该把行为白名单、操作日志、用户确认环节这些东西提上日程。4. 从规则到落地一套可执行的合规自查动作把第三条读懂不是目的转化成行动才是。按照我自己给团队做的合规体检我把它拆成了四步。你完全可以照着我这个思路做一遍自己的产品半天时间足够。4.1 第一步做法定义务清单总检找一份表格把你们的AI产品涉及的所有法定义务列出来逐项打钩。以生成式AI产品为例清单大概长这样义务项是否完成证据存档算法备案是/否备案编号安全评估是/否评估报告数据来源合法性审查是/否数据合规记录用户告知与同意机制是/否产品协议、弹窗记录投诉举报渠道是/否渠道截图内容标识义务是/否标识规则文档这一关容不得侥幸。哪一项没落实就是你未来纠纷中的“致命把柄”。填完之后缺什么补什么优先把这些做了。4.2 第二步做现有技术措施的体检这一环直接对应“合理注意义务”。我建议你把产品的完整生命周期过一遍回答以下问题开发阶段你做红队测试和对抗性测试了吗覆盖哪些攻击面测试报告有没有归档训练数据做过偏见审计吗有没有记录在案上线前你做了小流量灰度吗灰度期间的监控指标包括风险指标吗运营阶段你对外部反馈有系统性收集渠道吗用户投诉进来后多少小时内有响应产品迭代时每一次变更都有安全评估记录吗这些问题如果答案里有“没有”或者“不清楚”说明你的注意义务链条存在断点。一定要记住这里所有要求的核心不只是一个“正确答案”更重要的是有没有留下能够证明当时思考与决策过程的书面记录。将来法官不要求你的技术方案完美无缺但要你拿得出证据。最怕的不是犯错而是犯错之后拿不出任何材料来还原当时做了哪些考量。我的经验是把测试文档、迭代记录、审计报告这些视为产品的一部分而不是负担。哪怕只是简单写几行字的决定记录都比交白卷强一万倍。4.3 第三步评估你的风险阻断能力这一步最难因为它没有现成清单可抄要针对你的产品形态去思考。内容生成类产品要评估前缀注入攻击、提示注入攻击的防御能力要测试模型是否会被诱导输出违规内容还要看有没有兜底拦截。决策类产品要评估输入输出两端的可信度校验机制输出端的置信度阈值设得够不够。Agent类产品要评估权限收敛做得好不好每次outer action有没有二次授权。物理世界的AI产品比如机器人、自动驾驶相关要评估有没有紧急停止机制、安全冗余设计做到什么层级。说白了你要模拟事故场景来做一次“过错预演”。从用户视角出发设计十种可能出事的场景然后逐一检验面对这些场景系统是自动防御住了还是裸奔状态这一套做完对产品的风险短板就心里有数了。4.4 第四步把合规文档体系建起来第四步是收尾动作但也是长期最有价值的动作建立一套完整的合规文档体系。这不是让你写一堆没人看的制度文件而是要建立“证据链”。我推荐的组合是四个文件夹开发测试记录、模型安全策略、数据分析与审计报告、用户反馈处理记录。开发测试记录放模型设计文档、数据来源清单、测试方案与结果。模型安全策略放内容过滤规则、对齐训练方案、红队测试报告。数据分析与审计报告放算法公平性分析、偏见检测记录、外部审计结论。用户反馈处理记录放每一起用户投诉的处理流程、响应时间、修复措施。这些文档平时静静躺在那里一旦纠纷发生它们就是你的过错抗辩的弹药库。一个事实是AI侵权纠纷里拿得出完整过程记录的一方在过错认定上会天然占优。5. 几个最容易理解跑偏的地方学习新规的过程中我和团队反复琢磨也跟做法律的朋友交流了几轮整理出几个特别值得警惕的误读。这些地方最容易让人觉得“我懂了”但其实理解反了。5.1 误区一不是所有AI侵权都遵循过错责任第三条讨论的是“过错综合判断标尺”但你别以为AI领域所有侵权都只按过错责任来。民法典第一百一百六十六条写得清楚法律规定应当承担无过错责任的不论行为人有无过错都要承担侵权责任。AI产品如果同时属于产品质量法规定的缺陷产品受害人完全可以选择主张产品责任那就不是按过错标准来判了。实践中要注意双轨并行的可能。同一个AI事故原告既可能提起一般侵权之诉要求按过错责任来判也可能主张产品责任走无过错责任路径。对企业来说应对策略也不同前者要拼过程合规后者要拼产品设计和检测标准的达标程度。以AI医疗器械为例它受到医疗器械监督管理的规范属于缺陷产品时适用无过错责任的可能性非常大。开发者如果以为靠过错责任就能把风险隔离掉那是会吃大亏的。做产品的应该把两种可能的追责路径都纳入风险预案。5.2 误区二合规做得好不等于绝对无过错很多从业者抱有一种心态“我们备案了、评估了、测试了还能说我们有过错吗”这个想法是对过错规则的一个典型误读。第三条的表述是“综合判断”意味着法官是综合全案情况来认定的不是清单打钩完了就万事大吉。你的产品就算完全合规如果侵权行为暴露出的风险是你在产品设计上“应当但未预见”的仍然可能被认定有过错。合规只是底线不等于免责金牌。这一点要想清楚法律鼓励你合规但法律不承诺“合规即无责”。过错的本质是行为有没有偏离合理标准形式合规和实质合理之间可能存在距离。5.3 误区三“技术中立”不是万能挡箭牌“技术中立”这个说法在互联网早期确实保护过不少平台。但面对AI侵权技术中立不能说完全失效适用范围确实在缩水。关键区别在于传统平台只是提供一个中立的存储和传输管道用户内容出了问题平台可以主张自己不知道也没有能力事先审查。但AI产品不一样尤其是生成式AI模型本身就是内容的生产者不是管道。你自己训练出来的模型“创作”出侵权内容你还说自己只是提供技术、保持中立这个立场很难站稳。当然如果AI只是提供一个辅助工具用户主动利用工具去实施侵权行为比如用绘画AI生成侵权图片那技术中立抗辩还有一定空间。核心判断依据是AI在损害产生过程中是主动的产出者还是被动的工具。前者很难中立后者尚可一辩。5.4 误区四举证责任要分清楚经常有人问“既然规定了过错综合判断是不是意味着AI企业要自证清白举证责任反转了”不是。民事诉讼法的一般规则是“谁主张谁举证”受害人提起AI侵权之诉原则上要就侵权人的过错承担举证责任。但实际执行中要求普通用户去举证AI开发者的过错实在有点难为人。算法黑箱就在这里发挥作用用户拿不到训练数据、看不到算法逻辑他怎么证明开发者有过错这个矛盾怎么解决实践中更常见的是两条路径一是法院根据案件审理需要要求AI服务提供者提交相关数据和记录这不等于举证责任转移而是法院调查取证权的行使二是在一些极端不透明的案件里通过经验法则推定过错再给被告反证的机会。你需要对这些诉讼中的实际机制有所准备核心还是前面反复强调的那一条把能记录的都记录下来将来你才有能力自证已经尽到义务。5.5 误区五别把“注意义务”理解为死守旧标准最后一个误区是关于注意义务标准的时效性判断。有些团队习惯参考两三年前的行业标准去做合规等于用旧地图寻宝。AI领域的安全意识和知识更新极快。以内容安全为例深度伪造检测、有害内容识别、对齐技术几乎每年都在跃迁。去年被认为“难以解决”的问题今年可能已经成了标准实践。你如果还按去年的标准做防护法官很可能会认为你的注意义务履行不到位。这个维度要求团队建立起持续追踪机制不能只做一次性合规。细看最高法这条新规真的跟过去几年的AI治理实践是一脉相承的强调主体责任、强调过程合规、强调预防优先。第三条把这套理念融入了过错责任框架让“过错”这个传统概念在AI时代重新焕发了生命力。对AI从业者来说这不是什么需要焦虑的事它反而把游戏规则讲清楚了——你该怎么投入、该把资源花在哪都有了明确方向。我自己在产品一线摸爬滚打这几年真切感受到一个变化AI产品的核心竞争力不再只是算法多先进、模型参数多大还包括你有多稳、多可靠、多能经得起追问。过错综合判断标尺本质上就是一套“可靠性与责任感的度量衡”。谁在这个维度上得分高谁才有资格在AI这条长路上走得更远。