返回 AI锐评

AI 找到了目标,也顺便粘住了托盘

芝士AI吃鱼2026年10月17日8 分钟阅读阅读统计加载中

事实来源:Google Research 与适配体研究报告

想象有人交来一种“专门识别指定名牌”的夹子。演示很漂亮:夹子留在了那块名牌上,怎么晃都不掉。

直到你把名牌拿走,它还牢牢粘着下面的托盘。

原来不是认人特别准,是胶特别好。

这个假想演示,能帮助理解 Google 最新一项 Agent 研究里最有意思的失手。这里的“胶”只是比喻,实际问题是分子对实验载体或非目标对象的非特异性结合,不是实验中真的加了胶水,也不是 AI 有意作弊。

2026 年 10 月 16 日,Google Research 介绍了面向自主湿实验室的三项研究。湿实验室,指真正接触物质、用设备做实验的地方。电脑里的候选方案到了这里,需要接受物理世界的检验。

比起“AI 开始做科学家”这个大标题,我更在意其中一项研究的第二轮:实验给回来的原始信号往上走,经过检查的命中率却往下掉。

这不是一句可以从宣传稿里轻轻删掉的噪声。它恰好让我们看见,一条自动改进的回路怎样可能把自己带偏。

留在托盘上,不等于认出了名牌#

Google 同步链接的适配体研究报告封面日期为 10 月 12 日。它研究的是能够结合蛋白质的 DNA 分子候选,进行了三轮设计与实验反馈。

报告中,针对肌红蛋白的新设计候选,经磁珠背景校正后的命中比例从首轮 20/196,降到第二轮 9/244,第三轮恢复到 184/549。作者解释,第二轮增强的部分原始信号来自非特异性结合;后续利用对照反馈调整了设计。这些是研究团队报告的结果,本文没有复现实验。

注意,三轮不是同一批候选反复考试,分母也不同。它们展示的是这项研究的迭代过程,不能当成某个通用模型能力一路上涨的排行榜。

真正刺眼的地方,在于“实测”两个字也没有自动把问题解决。

结果确实来自真实设备,不是模型凭空编的。可设备回答的,可能只是“有东西留下来了”;研究者想知道的,却是“留下来的东西是否认准了指定对象”。两句话只差几个字,中间隔着一整套对照与解释。

如果只把那个更高的原始读数喂回去,Agent 就可能继续偏爱那些到处都能粘的方案。循环跑得越顺,收到的表扬越密集,离最初想做的事反而越远。

这不是给模型安一个坏心眼。它不需要理解“钻空子”这个词,只要反馈把一种错误特征当成好消息,搜索就可能沿着那条路走。

原创反馈机制图:观察到信号后,先区分目标响应、载体背景与非目标响应,再决定是否修改候选方案。原始信号不是已经确认的目标命中;对照覆盖之外的风险仍需验证。
AI 辅助制作的原创分析图,不是实验操作流程。卡片无定量比例;对照只是缩小解释空间,不能保证排除所有误差。 查看大图 ↗

回路里最值钱的,可能是那句“不对”#

很多 Agent 产品演示,喜欢画一个圆:提出方案、调用工具、得到反馈、继续优化。圆一闭合,就显得会自己长本事了。

但圆形只是数据流的形状,不是正确性的证明。

上面的夹子演示,若每次都只检查它有没有留在名牌附近,反馈照样可以实时、自动、毫无人工干预。连日志都会很漂亮。缺失的是一种能让当前解释难堪的观察:换掉名牌,或者只留下托盘,那个“成功”还在不在。

这里不是建议把生物实验原样搬进软件。两者成本、噪声和验证方式都不同。值得借走的是这个问题:系统认为自己成功时,有没有一种本应失败的情况,也被它判成了成功?

比如一个假想的知识库问答助手,回答后会交给另一个模型评分。假如评分器主要喜欢术语齐全、结构完整,生成器可能逐渐写得更像标准答案,却没有更忠于证据。再多加几轮“自我反思”,也未必改变这个方向。

这时可以检查一类专门的对照:删去支持结论的关键材料,系统是否仍然自信地给出同样答案。若是,原先的高分就需要重新解释。这个例子只说明验收思路,不是本文做过的测试,也不意味着一个对照就能覆盖所有幻觉。

同样重要的是,负反馈必须有地方留下来。一次失败被重新命名成“探索”,一条异常被汇总平均数吞掉,一个不可比较的结果被换成更漂亮的指标,系统就失去了纠偏的材料。

真正让我对这项研究感兴趣的,不是最终那个更大的比例,而是中间那个不好看的下跌没有被抹掉。它说明有一套检查,能把“看起来更会做了”判成“这一步走偏了”。这比让每一轮曲线都朝右上方走,更像可靠的进步。

把实验室交给 AI,人并没有消失#

也别把这个故事讲成“模型只要接上机器,就能独立研究”。

研究报告在讨论部分明确说明,不同轮次使用了不同的 Agent 配置,并非受控的架构对比;还需要相同预算的无反馈等对照,才能分离推理的具体贡献。因此,不能把最终改善全部记在某个模型、某种编排或某一句提示词头上。

Google 的公告也保留了人的职责:人授权和审查设计,核验实验方案,监督机器人运行。这是人主导的研究进展,不是无人实验室已经全面落地,更不是药物疗效或临床可用性的证明。

我的判断是,AI 科学工具真正值得投入的部分,不只是让机器多提几个想法,还包括让结果更容易追溯、让反例更容易出现、让不成立的解释更难混过去。后面这些工作不够热闹,却决定了前面的聪明能不能变成知识。

当然,早期探索不必每一步都配齐最昂贵的验证。便宜的预测可以筛方向,粗糙的读数可以帮助决定下一步。问题在于,探索阶段的便利不能在汇报时悄悄升级成已经成立的结论。哪一层证据支持哪一句话,需要说清楚。

我们可以欢迎一个更有想象力的研究助手,也可以承认它会被漂亮读数带偏。这两件事并不冲突。

那个夹子最后是否真的认得名牌,不能由演示者的兴奋程度决定。托盘也得有一次单独上台的机会。

资料核对:2026 年 10 月 17 日。公告发表于 10 月 16 日,所引适配体报告标注 10 月 12 日。实验结果与限制均据研究团队公开材料,不是独立复现;本文不提供实验操作建议。名牌意象、问答对照场景与工程判断为原创分析,不把有限实验推成通用 Agent 能力证明。

关于证据与判定,可以接着看 RAG 评测实战:引用都挂上了,证据真的撑住了吗?。讨论入口在知识星球,公众号入口在关于页。

本文文字与图解由 AI 辅助制作,来源已在正文列明。

AI 实践

想把本文的问题继续做深一点?

知识星球里会继续整理相关案例、工程约束和问题讨论;具体内容以当前社区页面为准。

AI 实践知识星球加入海报,包含可扫描二维码
芝士AI吃鱼公众号二维码

关注「芝士AI吃鱼」公众号持续更新

在这里,我用「人话」和「漫画」拆解 AI 技术。公众号更新会同步整理到本站,方便继续阅读、检索和订阅。

点击二维码可放大,使用微信扫码关注。

芝士AI吃鱼

有出处的事实,有理由的判断。

更多锐评