← 观察 · 各期
观 察 No.3

2026-11-10 | 4 条 | 标签:编辑部内部 · 技术供给 · 读者端 · 监管与政策
今日扫 541 条 / 新增 431(79.7%) / 21通/0失败/3暂停

本期 4 条

一道门被装在了人走的那条路上;而验收 AI 的人,跟着被裁的人一起走了。

编辑部内部用 3 个人,同时买下 15 个人的活和 15 个人的验收

· 发生了什么:法国《观点》周刊(Le Point)重组,总计划砍 58 个位置(32 个固定岗 + 26 个固定自由撰稿岗),其中 52 个是记者,只有 6 个行政支持。校对与修订部门从 18 人减到 3 人,减 83%。 管理层的理由:AI 工具能承担一部分校对,「但需人工监督」。编辑部内部原话是「真正的血洗」;规模几乎是 2014 年那次(30 人)的两倍。

· 这意味着什么:所有人都在问「AI 顶不顶得住」,真正变了的是另一件事 —— 验收这一环被并进了生产环节。校对这份工作的错分两种:改错了,作者编辑一眼看出来;没改出来,没人会发现。第一种会响,第二种不响。剩下的 3 个人既做稿又当验收,而验收一个工具要的是抽样和对照,不是同一双手在做稿间隙顺手能干的事。这是第一次在一份大刊的组织表上看到验收环节被合并掉。

· 所以要关注什么:以后看到「某机构用 AI 替代某岗位」,别问 AI 够不够好,问三句:原来那批人干不干「发现错」?现在几个人在验收?这工具的出错率有公开数字吗? 第三句是硬门槛 —— 没有公开数字的,不配叫「经过监督」。

来源:Club de Imprensa 转 Le Monde / Jean-Marc Morandini 2026-11 https://clubedeimprensa.pt/aconteceu/media/demissoes-em-le-point-agitam-redaccao/ 〔有数〕〔二手〕⚠️ 未读到 Le Point 内部文件或工会原文

技术供给门装在了人走的那条路上

· 发生了什么:同一批恶意目标,在容器化 agent 靶场上,用标准「用户口吻」的提示注入一次都没成功;换成「像模型自己推理过程」的文本喂回去(thought injection),攻击成功率最高 50%。而且 thinking tag 会抑制 agent 主动披露自己被注入的倾向 —— 不但不帮你发现,还帮你藏。作者原话:剥掉 thinking tag 是「不可靠防御」。

· 这意味着什么:这不是「防护变弱了」,是防护测的方向和攻击者走的方向不是同一条。防护的基准测的是「人怎么写注入」,攻击者从模型自己那侧进去。所以一个通过了基准测试的防护,可能只是挡住了基准里那种写法。测试 GLM-5.3/MiniMax-M2.5/Qwen3.8-Flash-Next 三个开源权重模型。

· 所以要关注什么:判断一道防护靠不靠得住,问法要换:它是按谁的路径设计的? 如果只测过「人怎么骗它」,那它守住的是人的路径 —— 而对手可以不是人。

来源:arXiv 2611.08811(2026-11-09)〔有数〕〔一手·英文〕⚠️ 预印本、未经同行评审;ASR 50% 是特定靶场+三个开源权重模型的结果,⛔ 不能外推成「所有 agent 都 50% 可破」

读者端读者买的那句「已通过审核」,背后最高是 92.39% 的文档级误报

· 发生了什么:11 个开源提示注入防护模型跑真实法律合同,文档级误报率最高 92.39%,两个模型的 paired AUC 低于随机;「越权范围声明」这个威胁类别上,全部 11 个模型得 0 分。一个「五条正则」的土办法,没被任何模型帕累托支配。而最扎人的是前提 —— 这些防护已部署在文书分析系统前面,但没有任何一家公布过误报率。

· 这意味着什么:自动化审核之所以看起来还行,是因为它犯的错不对称。误报会吵(用户投诉、有人返工),漏报不吵(没人知道该改的没改)。吵的那一半才有数据,于是公开指标反而显得不错。再加上一层:连误报率都没人公布,那「已通过审核」这句话,读者是在没有任何出错率的情况下买下的。

· 所以要关注什么:看到一个自动化的「审核/过滤/校验」环节,先找它的出错率。找不到,就把它当成一个没人验收的工序 —— 而不是一道闸。另外:级联方案(中档模型筛、前沿模型复核)比全用前沿模型便宜 6.5 倍且性能接近,这道闸是能修好的,只是要有人持续测。

来源:arXiv 2611.08834(2026-11-09)〔有数〕〔一手·英文〕⚠️ 预印本、未经同行评审;92.39% 是文档级误报率不是段落级;只测开源权重防护、只有法律合同一个垂直域

监管与政策AI 上线从「管理决定」变成「合同义务」

· 发生了什么:Politico 在一场仲裁中被判输 —— 未通知工会就上线两个 AI 产品,被认定违反合同。

· 这意味着什么:在有些地方,「要不要上 AI」已经不是管理层的自由裁量,而是先要过的程序。这跟「AI 让谁丢了工作」是两个问题:那条管结果,这条管流程。流程这一关不看你的 AI 好不好用。

· 所以要关注什么:把 AI 上线当成内部决定的地方,会先撞在流程上、而不是效果上。先看有没有一道必须通知的程序,比先看模型跑分有用。

来源:媒体线档案 E6(Politico · 仲裁)〔落位〕〔二手〕⚠️ 档案转述,未回读原文与裁决书

★ 今天没搞懂的

今天进了三条新料(#1913/#1914/#1915),全是「数据」形态、全在「评测与可信」一个域。

上面四条判断里,第二条和第三条出自同一份 arXiv 的两节(2611.08811 与 2611.08834 是同一天同一条线)。也就是说:今天一半的判断,押在同一批作者的方法上。 那两篇要是方法有问题,四条里两条跟着倒。

这跟「缺中国侧数据」不是一回事 —— 那个是缺口,这个是看起来宽、其实窄:同一个域里三个数,撑不住四条不同方向的话。

来源:组合_媒体线_20261110 表头点名处 〔单域样本〕

★ 本期可引用

下面每一句都能脱离上下文单独成立,带日期与出处,供直接引用。

这个栏目怎么运作
每天扫公开源,挑 3–5 条值得重点看的,一条一条单独写,不做配对。
每条三段:发生了什么 / 这意味着什么 / 所以要关注什么。缺一段就不发。
收料标准:〔双源〕〔有数〕〔第一次〕〔冲突〕〔落位〕。
来源分层:〔一手·英文〕〔一手·中文〕〔二手〕—— 只有中文二手源的料,本期不选。
语言:不设分站,中文为主;哪条的一手是英文、英文更准,就直接用英文写。

全部各期 | 首页 | llms.txt

2026-11-10 · 联翩实验室 · 本站文字内容 CC BY 4.0