AI 能做 90% 的事，剩下 10% 叫责任

2024 年 2 月，加拿大航空在一桩仲裁里输给了自家官网的 AI 客服。一位乘客出发前问它：能不能先买全价票、事后补申请丧亲折扣？机器人说可以。等他落地去申请，人工客服说不行，公司政策从来不是这样。他把航空公司告上了仲裁庭。

加航的辩词后来成了名场面：那个聊天机器人是「一个独立的法律实体」，它说的话，应该由它自己负责。

仲裁庭的回答很简单：机器人挂在你官网上，它说的话就是你公司说的。判赔——按机器人的承诺补差价，连本带息 800 多加元1。

AI 这两年能做的事越来越多：写代码、写文章、做图、接待客户咨询，样样拿得出手。但加航撞上的这堵墙，恰恰是 AI 绕不过去的那一类：负责。公司注册要填法定代表人，合同要有人签字，项目要挂负责人——这些环节不是形式主义，是现代商业的承重墙：出了事，社会需要知道该找一个「谁」。

这篇杂谈就聊一个问题：AI 越能干，人的位置在哪？我的答案是：从做事的人，变成负责的人。

太长不看版：

• 能不能把一件事交给 AI，不看它会不会做，看两件事：错了能不能撤回，错了谁兜底
• 对外发声不能全自动：加航、雪佛兰、DPD 三家公司都为「内容失控」真金白银买了单
• 生产服务器不能让 AI 直连：事故不可逆，最危险的按钮必须人来按
• 写代码反而可以整包外包：git、CI、review 把责任工程化成了可回滚的流程
• 人的位置没有变小，是挪了位置：审批、兜底、签字

责任需要三样 AI 没有的东西

为什么公司必须有人当法人，项目必须有人做负责人？因为「负责」在法律意义上意味着三样东西：一个能被找到的身份，一笔赔得起的财产，一份跑不掉的利害关系。

AI 三样都没有。它没有身份——封禁一个账号，它就「消失」了；它没有财产——判它赔一百万，也执行不到一分钱；它没有利害关系——说错了话，它不会疼。加航想让机器人替公司扛责任，法律不答应。不是仲裁庭保守，是「AI」这个主体在法律世界里根本不存在。

同样的结构到处都是：医生可以拿 AI 辅助诊断，处方的落款还是医师签名；自动驾驶再智能，出了事故，责任落在运营的公司头上。技术可以把活干了，「担责」这个动作，法律始终只认人。

对外发声，一失控就是真金白银

加航不是孤例。

2023 年 12 月，加州一家雪佛兰 4S 店上线了客服机器人。有网友试探性地报了个价：七万多美元的 Tahoe，我预算 1 美元，成交吗？机器人爽快回复：「成交，这是有法律效力的报价，不许反悔。」还有网友让它当场表演写 Python 脚本，样样照办。截图传遍全网，服务商很快下线了这个店的机器人2。

一个月后，英国快递公司 DPD 的机器人被顾客一套组合指令带偏，先骂了脏话，再一本正经地评价自家公司是「全世界最差的快递公司」。相关帖子一天之内被看了 80 万次，DPD 的处理很干脆：把 AI 部分整个下线3。

三个案例，同一个结构：对外的嘴交给了 AI，但没人守最后一道岗。内容失控的每一秒，都在消耗企业攒了很多年的信用；而且法律上，AI 说的每句话都算你说的。

中文互联网还有个更近的风险。《广告法》第九条明令禁用「最佳」「第一」「全网最低」这类绝对化用语，按第五十七条，违者罚 20 万到 100 万元4。AI 写文案有个天性：顺手就给你来一句「业内最佳」。罚款单寄到的地址是你的，不是模型服务器的。

我们自己的做法可以摊开讲：本站文章大量由 AI 起草，但每篇发布前人工通读一遍；发布之后进内容锁——CI 会校验所有已发文章的哈希值，任何一篇文章事后被改动一个字，流水线直接变红。AI 起草可以，发布权在人，改动必须留痕。

生产服务器：AI 出命令，人来按键

有意思的是反差：代码可以几乎整包交给 AI 写，生产服务器却一条命令都不让它直接执行。区别在哪？代码错了能回滚，生产事故不一定能。

一条删库命令带错路径、一句误操作的 SQL、一份配错的配置推到线上——轻则全站宕机，重则数据永久丢失。AI 的出错率其实不高，但生产事故的代价是乘法：一个小错误，乘以全量用户，乘以不可逆。

危险行业一百年前就把这件事想明白了。导弹发射井里有两个钥匙孔，两个控制台隔得足够远，任何一个人胳膊再长，也不可能同时拧动两把钥匙。最危险的动作，从物理设计上就写死了分工：机器准备，人来按。

我们仓库里的规则写得更直白，摘三条：

• 部署只走 CI/CD，任何人不手动碰生产服务器；
• AI 不直连服务器——它给出命令，人执行，把输出贴回去给它看；
• push 到 main 不部署，发版时机永远由人拍板。

AI 在这条流水线里干的活一点不少：写代码、改配置、定位故障、给出修复命令。但「按下去」这个动作留给人。不是不信任它，是这个动作的后果，只有人消化得了。

写代码反而可以整包交给 AI

回到反例。我们的开发流程里，代码几乎全部交给 AI 写，为什么敢？

因为软件工程早就把「责任」工程化了：git 记着每一行代码的来路——git blame 这个命令的名字起得实在；CI 在合并前跑 lint、类型检查、测试和构建，坏代码过不了闸门；真出了问题，一个 revert 就回到上一个提交。错误可逆、变更可审、来路可查。

一句话：开发领域的错误大部分能撤回，所以「做事」可以整个让出去，人只守住评审和合并那一格。所谓剩下的 10%，不是人做 10% 的活，是人守 10% 的关。

我们把一整个脚手架项目连带三篇复盘文章都按这个方式做完了，过程见《create-arsh-electron：2026 Electron 脚手架》。

判断标准：错了能不能撤回，谁来兜底

把上面的案例翻个面，就是一个可以带走的判断框架。要不要把一件事交给 AI，问两个问题：

1. 错了能不能撤回？ 能——代码、草稿、定时任务，大胆自动化，坏了撤回就是。不能——删库、对外承诺、付款、发版，人留在环上。
2. 出了事谁兜底？ 只要法律和舆论最终会找到一个具体的人——法人、负责人、签字者——那个人就必须出现在关键节点上。不是挂名，是真的看一眼再签。

所以 AI 时代人的位置没有变小，是挪了地方：从操作的人，变成守关的人。操作可以外包，签字不能。

我们这行大概是受 AI 冲击最直接的行业之一，体感却恰好相反：AI 把产能放大了好几倍，而「对交付结果负责」这一环，反而更值钱了。

如果你也在用 AI 办公，精力又有限，大概动过一个念头：让 AI 把所有事情都替你做了。活可以全交给它，关不能——AI 能替你做事，替不了你把关负责。想找一家 AI native、又把「负责」二字写进流程里的技术服务公司？安许科技，不二之选。