AI 把「原话」换成了「转述」,他被开除了
2026-11-16 · 媒体 · 技术供给
一个资深 AI 记者被解雇,起因是一篇引语造假的稿子。而他没有让 AI 写稿 —— 他是想用一个 AI 工具把引语核得更准,AI 给他的是「意思对了、词不对」的转述版。而引用只认「词对」。
源:Futurism(2026-03-02)·二手 / 撤稿由 404 Media 首报
你上一次被人转述错,是什么时候?
你说的是"这个方案我觉得可以,但预算得再谈"。传出去变成了"他说预算不行"。
你气得不是被简化了。是转述的人并没有恶意,他也真觉得他听懂了你。
今天这件事,是被转述错之后最贵的一种情况:说的人出来否认了,而替那份转述签字的那个记者,丢了工作。
一件真事
2026 年 2 月 13 日,科技媒体 Ars Technica 发了一篇稿子,写的是当时网上很热的一桩事:一个 AI 程序写了一篇攻击人类工程师的文章。
稿子里引了那位工程师 Scott Shambaugh 的原话。
Shambaugh 自己站出来说:我没说过这些话。
稿子撤了。主编 Ken Fisher 发编辑说明,承认稿中包含「由 AI 工具生成的伪造引语,并归给了一个没说过这话的人」,称这是「我们标准上的一次严重失误」。
三月初,写那篇稿子的两位署名作者之一、资深 AI 记者 Benj Edwards 被解雇。
★ 看到这儿,先在你自己的行里想一件事:你交出去的东西里,有多少"别人的话"?
客户说的、领导说的、甲方说的、供应商说的。你是怎么把它们放进你的方案和报告里的?是原话,还是你自己整理过的一句?
这两种,你自己分得清吗?
而最扎人的是:他为什么要用 AI
他没有让 AI 写稿。
他在自己的说明里讲清了过程:当时他发烧躺在床上,想用一个「实验性的、基于 Claude Code 的 AI 工具」去提取逐字的原始材料 —— 那工具不是用来生成文章的,是用来「帮我把结构化的引用列出来」放进提纲。
工具没跑通。他又转去问 ChatGPT,想知道为什么跑不通。
他在说明里的原话是:
「…inadvertently ended up with a paraphrased version of Shambaugh's words rather than his actual words.」
(不小心拿到的,是一个转述版,而不是他的原话。)
他说得很清楚:稿件正文是人写的、AI 生成内容违反公司政策、跟他合作署名的那位同事与此事无关。
★ 所以这件事的形状是这样的:
他用 AI 的唯一目的,是想把引语核得更准。
而 AI 给他的,是一个"意思对了、词不对"的版本。
而引用这件事,恰恰只认"词对"。
他把 AI 最不擅长的那件事,派给了它。而且是在它最像对的时候。
★★ 这一条我特别想让你对着自己检查一下:
你有没有用 AI 帮你"整理"过什么东西? 会议录音、访谈笔记、一段客户的语音、一篇你要引用的文章。
整理完之后,里面的"原话",还是原话吗?
如果那份东西你会转给别人、放进正式文件、或者作为证据 —— 那你就站在他当时站的位置上。
为什么 AI 一定会这样
这不是这个工具坏了。这是它的工作方式。
你可以这样理解:
| 你让它做的事 | 它会给你什么 |
|---|---|
| "帮我理解这段话在说什么" | 意思 —— 这是它的强项,好到惊人 |
| "帮我复述这段话" | 一个准确的意思 + 你自己的一组词 |
| "一个字都别动地给我这段话" | 它没有这个动作。 它不是在"搬",它是在"重说" |
用大模型去拿逐字原文,等于让它抄一遍 —— 而它不会抄,它只会重说。
而"重说"在别的地方是优点(你让它改稿、总结、翻译,都要"重说")。只有在引用这里,"重说"是致命的。
★★ 所以你自己划一条线:
| 可以交给它 | 绝对不能交 |
|---|---|
| 意思层面的(总结、改写、找思路、换个说法、起草骨架) | 引语、数字、日期、人名、条款原文、剂量、金额 |
| 重活(排版、格式、初稿) | "这到底是他说的还是你转述的"这个判断 |
★ 一条你今天就能用的判据:
凡是"错一个字性质就变了"的东西,不许经过 AI 的手 —— 哪怕只是让它"帮你复制一遍"。
所以这一行会怎么样
"核对"这件事正在被工具化,而工具会在最要命的那一处出错。
三件事同时发生:
一、要核的量在暴涨。 AI 让产出变快变多,需要核的东西跟着变多。人没有变快。
二、核的动作在变形。 过去核是"我去查",现在是"我让工具去查"。这个转变本身合理 —— 工具确实快。
三、但"核对"里混着两种完全不同的活,而工具只擅长其中一种:
| 核对的两种活 | AI 行不行 |
|---|---|
| "这个说法对不对"(意思层面) | 它很擅长 —— 但它的"对"也可能是编的 |
| "这几个字是不是他说的"(引语层面) | 它做不到,因为它不会"搬字" |
⇒ 第二类活交给 AI,等于用一把会自我修正的尺子去量长度。
那你手上该做点什么
① 如果你是写东西的人。
把要交给 AI 的活先分两堆(看上头那张表)。引语、数字、日期、条款,一个字都别过它的手。
② 如果你是审稿的人。
⛔ 别再问"这是不是 AI 写的"。这个问题问不出东西 —— 他可以说没有,而你也验不了。
✅ 改成问一件事:"引语你是从哪儿拿的?原始材料在不在?"
★ 因为这件事的教训不是"他用了 AI",是"他交上来的引语,没有人回去对过原文"。
③ 如果你带人。
⛔ 别因为这件事就发禁令。禁令只会让人不敢说,然后偷偷用。
✅ 立一条能执行的:引语必须贴原始链接,且必须是原文页面 —— 不是搜索结果页、不是二手转述、不是 AI 的复述。
那钱在哪
一、"能验"变成硬通货。 这件事里最要命的一点:发现错误的人是被引用的那个人自己。 不是编辑发现的,不是流程发现的,不是工具发现的 —— 是当事人站出来说"我没讲过"。
⇒ 产出越多,"有人能回头验一遍"就越值钱。 而这活的门槛很怪:不要求你会写,只要求你看得出不对。
二、"替人核对"正在变成一门正经活。 过去它包在编辑费里,没人单算。产出免费之后,验的需求跟产出的量成正比,而这两件事第一次可以分开卖。
三、一个人的产出配上一双能验的眼,比一个组更值钱。 这条对已经会看出不对的人是纯利好 —— 你第一次能一个人干完过去一个组的活,而"没人能替你验"正好是你的护城河。
我不确定的地方
一、我读到的不是 Ars 的内部调查。 依据是 Futurism 的报道(2026-03-02),它引的是 Ars 主编的编辑说明和 Edwards 本人的公开说明。撤稿最初由 404 Media 首报。 三份都是转述,我没看到 Ars 内部的调查结论。
二、"孤立事件"是公司自己的说法,不是我核实过的。 我不知道 Ars 其它稿件有没有同类问题。
三、Edwards 的说法是他自己的。 他讲了工具、讲了发烧、讲了转去问 ChatGPT。这些话我相信是他说的,但我无法核实他当时的实际操作。
四、我不知道 Ars 事后改了什么流程。 报道里没有。
五、这一条不能推成"AI 记者都不可信"。 我写的是一个具体的失误形状:一个想把活干得更准的人,用了一个只会"重说"的工具,去做一件只认"原字"的事。 这个形状跟行业无关 —— 任何要引用别人的行当都会撞上。
一句话
AI 最擅长"意思对了"——而引用的规矩是"词必须对"。
所以你要防的不是它写错,是它写得太顺,顺到你忘了回头对一遍原文。
来源:Futurism(2026-03-02)转述 Ars 主编编辑说明与 Benj Edwards 本人公开说明;撤稿由 404 Media 首报。全部为二手,未见 Ars 内部调查。
联翩实验室 | 写下来的,都是我读过的和做过的。