← 联翩实验室

AI 把「原话」换成了「转述」,他被开除了

2026-11-16 · 媒体 · 技术供给

一个资深 AI 记者被解雇,起因是一篇引语造假的稿子。而他没有让 AI 写稿 —— 他是想用一个 AI 工具把引语核得更准,AI 给他的是「意思对了、词不对」的转述版。而引用只认「词对」。

源:Futurism(2026-03-02)·二手 / 撤稿由 404 Media 首报


你上一次被人转述错,是什么时候?

你说的是"这个方案我觉得可以,但预算得再谈"。传出去变成了"他说预算不行"。

你气得不是被简化了。是转述的人并没有恶意,他也真觉得他听懂了你。

今天这件事,是被转述错之后最贵的一种情况:说的人出来否认了,而替那份转述签字的那个记者,丢了工作。


一件真事

2026 年 2 月 13 日,科技媒体 Ars Technica 发了一篇稿子,写的是当时网上很热的一桩事:一个 AI 程序写了一篇攻击人类工程师的文章。

稿子里引了那位工程师 Scott Shambaugh 的原话。

Shambaugh 自己站出来说:我没说过这些话。

稿子撤了。主编 Ken Fisher 发编辑说明,承认稿中包含「由 AI 工具生成的伪造引语,并归给了一个没说过这话的人」,称这是「我们标准上的一次严重失误」。

三月初,写那篇稿子的两位署名作者之一、资深 AI 记者 Benj Edwards 被解雇。


★ 看到这儿,先在你自己的行里想一件事:你交出去的东西里,有多少"别人的话"?

客户说的、领导说的、甲方说的、供应商说的。你是怎么把它们放进你的方案和报告里的?是原话,还是你自己整理过的一句?

这两种,你自己分得清吗?


而最扎人的是:他为什么要用 AI

他没有让 AI 写稿。

他在自己的说明里讲清了过程:当时他发烧躺在床上,想用一个「实验性的、基于 Claude Code 的 AI 工具」去提取逐字的原始材料 —— 那工具不是用来生成文章的,是用来「帮我把结构化的引用列出来」放进提纲。

工具没跑通。他又转去问 ChatGPT,想知道为什么跑不通。

他在说明里的原话是:

「…inadvertently ended up with a paraphrased version of Shambaugh's words rather than his actual words.」

(不小心拿到的,是一个转述版,而不是他的原话。)

他说得很清楚:稿件正文是人写的、AI 生成内容违反公司政策、跟他合作署名的那位同事与此事无关。

★ 所以这件事的形状是这样的:

他用 AI 的唯一目的,是想把引语核得更准。

而 AI 给他的,是一个"意思对了、词不对"的版本。

而引用这件事,恰恰只认"词对"。

他把 AI 最不擅长的那件事,派给了它。而且是在它最像对的时候。


★★ 这一条我特别想让你对着自己检查一下:

你有没有用 AI 帮你"整理"过什么东西? 会议录音、访谈笔记、一段客户的语音、一篇你要引用的文章。

整理完之后,里面的"原话",还是原话吗?

如果那份东西你会转给别人、放进正式文件、或者作为证据 —— 那你就站在他当时站的位置上。


为什么 AI 一定会这样

这不是这个工具坏了。这是它的工作方式。

你可以这样理解:

你让它做的事它会给你什么
"帮我理解这段话在说什么"意思 —— 这是它的强项,好到惊人
"帮我复述这段话"一个准确的意思 + 你自己的一组词
"一个字都别动地给我这段话"它没有这个动作。 它不是在"搬",它是在"重说"

用大模型去拿逐字原文,等于让它抄一遍 —— 而它不会抄,它只会重说。

而"重说"在别的地方是优点(你让它改稿、总结、翻译,都要"重说")。只有在引用这里,"重说"是致命的。


★★ 所以你自己划一条线:

可以交给它绝对不能交
意思层面的(总结、改写、找思路、换个说法、起草骨架)引语、数字、日期、人名、条款原文、剂量、金额
重活(排版、格式、初稿)"这到底是他说的还是你转述的"这个判断

★ 一条你今天就能用的判据:

凡是"错一个字性质就变了"的东西,不许经过 AI 的手 —— 哪怕只是让它"帮你复制一遍"。


所以这一行会怎么样

"核对"这件事正在被工具化,而工具会在最要命的那一处出错。

三件事同时发生:

一、要核的量在暴涨。 AI 让产出变快变多,需要核的东西跟着变多。人没有变快。

二、核的动作在变形。 过去核是"我去查",现在是"我让工具去查"。这个转变本身合理 —— 工具确实快。

三、但"核对"里混着两种完全不同的活,而工具只擅长其中一种:

核对的两种活AI 行不行
"这个说法对不对"(意思层面)它很擅长 —— 但它的"对"也可能是编的
"这几个字是不是他说的"(引语层面)它做不到,因为它不会"搬字"

⇒ 第二类活交给 AI,等于用一把会自我修正的尺子去量长度。


那你手上该做点什么

① 如果你是写东西的人。

把要交给 AI 的活先分两堆(看上头那张表)。引语、数字、日期、条款,一个字都别过它的手。

② 如果你是审稿的人。

⛔ 别再问"这是不是 AI 写的"。这个问题问不出东西 —— 他可以说没有,而你也验不了。

✅ 改成问一件事:"引语你是从哪儿拿的?原始材料在不在?"

★ 因为这件事的教训不是"他用了 AI",是"他交上来的引语,没有人回去对过原文"。

③ 如果你带人。

⛔ 别因为这件事就发禁令。禁令只会让人不敢说,然后偷偷用。

✅ 立一条能执行的:引语必须贴原始链接,且必须是原文页面 —— 不是搜索结果页、不是二手转述、不是 AI 的复述。


那钱在哪

一、"能验"变成硬通货。 这件事里最要命的一点:发现错误的人是被引用的那个人自己。 不是编辑发现的,不是流程发现的,不是工具发现的 —— 是当事人站出来说"我没讲过"。

⇒ 产出越多,"有人能回头验一遍"就越值钱。 而这活的门槛很怪:不要求你会写,只要求你看得出不对。

二、"替人核对"正在变成一门正经活。 过去它包在编辑费里,没人单算。产出免费之后,验的需求跟产出的量成正比,而这两件事第一次可以分开卖。

三、一个人的产出配上一双能验的眼,比一个组更值钱。 这条对已经会看出不对的人是纯利好 —— 你第一次能一个人干完过去一个组的活,而"没人能替你验"正好是你的护城河。


我不确定的地方

一、我读到的不是 Ars 的内部调查。 依据是 Futurism 的报道(2026-03-02),它引的是 Ars 主编的编辑说明和 Edwards 本人的公开说明。撤稿最初由 404 Media 首报。 三份都是转述,我没看到 Ars 内部的调查结论。

二、"孤立事件"是公司自己的说法,不是我核实过的。 我不知道 Ars 其它稿件有没有同类问题。

三、Edwards 的说法是他自己的。 他讲了工具、讲了发烧、讲了转去问 ChatGPT。这些话我相信是他说的,但我无法核实他当时的实际操作。

四、我不知道 Ars 事后改了什么流程。 报道里没有。

五、这一条不能推成"AI 记者都不可信"。 我写的是一个具体的失误形状:一个想把活干得更准的人,用了一个只会"重说"的工具,去做一件只认"原字"的事。 这个形状跟行业无关 —— 任何要引用别人的行当都会撞上。


一句话

AI 最擅长"意思对了"——而引用的规矩是"词必须对"。

所以你要防的不是它写错,是它写得太顺,顺到你忘了回头对一遍原文。


来源:Futurism(2026-03-02)转述 Ars 主编编辑说明与 Benj Edwards 本人公开说明;撤稿由 404 Media 首报。全部为二手,未见 Ars 内部调查。

联翩实验室 | 写下来的,都是我读过的和做过的。