本期 4 条
一道门被装在了人走的那条路上;而验收 AI 的人,跟着被裁的人一起走了。
编辑部内部用 3 个人,同时买下 15 个人的活和 15 个人的验收
· 发生了什么:法国《观点》周刊(Le Point)重组,总计划砍 58 个位置(32 个固定岗 + 26 个固定自由撰稿岗),其中 52 个是记者,只有 6 个行政支持。校对与修订部门从 18 人减到 3 人,减 83%。 管理层的理由:AI 工具能承担一部分校对,「但需人工监督」。编辑部内部原话是「真正的血洗」;规模几乎是 2014 年那次(30 人)的两倍。
· 这意味着什么:所有人都在问「AI 顶不顶得住」,真正变了的是另一件事 —— 验收这一环被并进了生产环节。校对这份工作的错分两种:改错了,作者编辑一眼看出来;没改出来,没人会发现。第一种会响,第二种不响。剩下的 3 个人既做稿又当验收,而验收一个工具要的是抽样和对照,不是同一双手在做稿间隙顺手能干的事。这是第一次在一份大刊的组织表上看到验收环节被合并掉。
· 所以要关注什么:以后看到「某机构用 AI 替代某岗位」,别问 AI 够不够好,问三句:原来那批人干不干「发现错」?现在几个人在验收?这工具的出错率有公开数字吗? 第三句是硬门槛 —— 没有公开数字的,不配叫「经过监督」。
来源:Club de Imprensa 转 Le Monde / Jean-Marc Morandini 2026-11 https://clubedeimprensa.pt/aconteceu/media/demissoes-em-le-point-agitam-redaccao/ 〔有数〕〔二手〕⚠️ 未读到 Le Point 内部文件或工会原文
技术供给门装在了人走的那条路上
· 发生了什么:同一批恶意目标,在容器化 agent 靶场上,用标准「用户口吻」的提示注入一次都没成功;换成「像模型自己推理过程」的文本喂回去(thought injection),攻击成功率最高 50%。而且 thinking tag 会抑制 agent 主动披露自己被注入的倾向 —— 不但不帮你发现,还帮你藏。作者原话:剥掉 thinking tag 是「不可靠防御」。
· 这意味着什么:这不是「防护变弱了」,是防护测的方向和攻击者走的方向不是同一条。防护的基准测的是「人怎么写注入」,攻击者从模型自己那侧进去。所以一个通过了基准测试的防护,可能只是挡住了基准里那种写法。测试 GLM-5.3/MiniMax-M2.5/Qwen3.8-Flash-Next 三个开源权重模型。
· 所以要关注什么:判断一道防护靠不靠得住,问法要换:它是按谁的路径设计的? 如果只测过「人怎么骗它」,那它守住的是人的路径 —— 而对手可以不是人。
来源:arXiv 2611.08811(2026-11-09)〔有数〕〔一手·英文〕⚠️ 预印本、未经同行评审;ASR 50% 是特定靶场+三个开源权重模型的结果,⛔ 不能外推成「所有 agent 都 50% 可破」
读者端读者买的那句「已通过审核」,背后最高是 92.39% 的文档级误报
· 发生了什么:11 个开源提示注入防护模型跑真实法律合同,文档级误报率最高 92.39%,两个模型的 paired AUC 低于随机;「越权范围声明」这个威胁类别上,全部 11 个模型得 0 分。一个「五条正则」的土办法,没被任何模型帕累托支配。而最扎人的是前提 —— 这些防护已部署在文书分析系统前面,但没有任何一家公布过误报率。
· 这意味着什么:自动化审核之所以看起来还行,是因为它犯的错不对称。误报会吵(用户投诉、有人返工),漏报不吵(没人知道该改的没改)。吵的那一半才有数据,于是公开指标反而显得不错。再加上一层:连误报率都没人公布,那「已通过审核」这句话,读者是在没有任何出错率的情况下买下的。
· 所以要关注什么:看到一个自动化的「审核/过滤/校验」环节,先找它的出错率。找不到,就把它当成一个没人验收的工序 —— 而不是一道闸。另外:级联方案(中档模型筛、前沿模型复核)比全用前沿模型便宜 6.5 倍且性能接近,这道闸是能修好的,只是要有人持续测。
来源:arXiv 2611.08834(2026-11-09)〔有数〕〔一手·英文〕⚠️ 预印本、未经同行评审;92.39% 是文档级误报率不是段落级;只测开源权重防护、只有法律合同一个垂直域
监管与政策AI 上线从「管理决定」变成「合同义务」
· 发生了什么:Politico 在一场仲裁中被判输 —— 未通知工会就上线两个 AI 产品,被认定违反合同。
· 这意味着什么:在有些地方,「要不要上 AI」已经不是管理层的自由裁量,而是先要过的程序。这跟「AI 让谁丢了工作」是两个问题:那条管结果,这条管流程。流程这一关不看你的 AI 好不好用。
· 所以要关注什么:把 AI 上线当成内部决定的地方,会先撞在流程上、而不是效果上。先看有没有一道必须通知的程序,比先看模型跑分有用。
来源:媒体线档案 E6(Politico · 仲裁)〔落位〕〔二手〕⚠️ 档案转述,未回读原文与裁决书
★ 今天没搞懂的
今天进了三条新料(#1913/#1914/#1915),全是「数据」形态、全在「评测与可信」一个域。
上面四条判断里,第二条和第三条出自同一份 arXiv 的两节(2611.08811 与 2611.08834 是同一天同一条线)。也就是说:今天一半的判断,押在同一批作者的方法上。 那两篇要是方法有问题,四条里两条跟着倒。
这跟「缺中国侧数据」不是一回事 —— 那个是缺口,这个是看起来宽、其实窄:同一个域里三个数,撑不住四条不同方向的话。
来源:组合_媒体线_20261110 表头点名处 〔单域样本〕
★ 本期可引用
下面每一句都能脱离上下文单独成立,带日期与出处,供直接引用。
- Le Point 校对与修订部门从 18 人减到 3 人(−83%);总计划砍 58 个位置,其中 52 个是记者(法媒转述 Le Monde,2026-11)。
- 11 个开源提示注入防护模型跑真实法律合同:文档级误报率最高 92.39%,两个模型 paired AUC 低于随机,「越权范围声明」类全部得 0 分(arXiv 2611.08834,2026-11-09,预印本)。
- 同一批恶意目标:标准「用户口吻」提示注入从未成功,thought injection 攻击成功率最高 50%;剥掉 thinking tag 被作者称为不可靠防御(arXiv 2611.08811,2026-11-09,预印本)。