当 AI 真的碰到科学仪器，最重要的按钮仍该留给人

束线时间不会因为代码写错而重新长出来

在大型 X 射线光源里，一次实验的珍贵不只来自机器造价。研究团队可能等了几个月才获得一段束线时间，样品在特定条件下只有短暂窗口，仪器科学家还要帮助校准、对准和排除异常。一个坐标写错、一个动作顺序颠倒，损失的可能不是一次普通报错，而是一段无法追回的实验机会。

这类仪器早已高度自动化。电机按照指令移动，探测器连续采集，软件把信号重建成图像。真正困难的是把“我想看这个纳米颗粒附近发生了什么”翻译成一连串正确、可执行又不伤设备的动作：先做哪种粗扫，怎样从图像选区域，哪些函数控制哪些部件，什么时候应该停下来问人。

发表于《npj 计算材料》的一项研究，把大语言模型驱动的多代理系统接到了两类真实科学设施：一套 X 射线纳米探针束线，以及一套用于材料设计与表征的自主机器人站。系统中有负责看图的代理、写代码的代理、审查代码的代理和执行接口；人类可以提供指导，系统还会把部分指导存入记忆，在之后遇到相似任务时检索使用。

这不是一个 AI 独自走进实验室、随意转动旋钮的故事。论文把框架明确描述为 human-in-the-loop，也就是人在环。它展示的是复杂仪器操作怎样被拆给多个软件角色，并通过真实设备反馈闭环。它最值得问的，也不是代理是否“像科学家”，而是当语言第一次能触及物理设备时，哪一层有权批准动作，哪一层负责把错误拦在机器之前。

仪器自动化与代理有什么不同

传统自动化擅长执行已定义流程。工程师写好函数，用户填写参数，控制系统检查范围，然后机器按确定顺序运行。它可以非常复杂，却通常不会自行解释一句模糊目标。

代理系统多了一层翻译与协调。用户可以用接近自然语言的方式描述任务，代理判断需要调用哪些能力，生成或组织代码，查看中间图像，再决定下一步。在 X 射线纳米探针案例中，视觉代理从扫描图中识别候选纳米颗粒位置，代码编写与审查代理把视觉判断转成仪器动作。材料机器人案例则更强调长序列任务的次序。

这层灵活性之所以诱人，是因为先进仪器的功能增长得比界面更快。不同用户带着不同样品和问题来到设施，仪器科学家不断为新工作流写脚本、解释参数、陪同操作。代理若能把成熟步骤变成可复用能力，专家可以把时间留给真正异常的实验。

但自然语言也会掩盖精度差异。“靠近这个颗粒”“提高一点分辨率”“重复刚才的扫描”对人来说依赖共同语境，对机器来说需要坐标系、步长、曝光、边界和设备状态。代理生成一段语法正确的代码，不等于它理解这些物理后果。

论文因此分别评价代码质量、正确性、能否执行、重复性和在任务表述变化后的再现性。把这些指标分开很重要：一次成功运行不能证明相同请求下每次都做同样的事；每次生成相同代码，也不能证明代码本身科学上正确。

“在岗学习”主要是把人的话记下来

研究把代理的一个能力称为 learn on the job。这个说法容易让人想象模型像新员工一样通过实践改变大脑。论文所描述的主要机制更具体：人类给出的操作指导被分析、概括，作为输入—输出对存进本地向量数据库；以后出现语义相近的任务，代理检索这些记忆，并把相关经验加入当前上下文。

这是一种有用的可教性，但不是模型权重自动学会新的物理规律。它更像一本会主动翻到相关页的值班笔记。笔记可以保存资深人员不容易写进正式手册的经验，也可能保存一次偶然有效、在另一种设备状态下却不安全的做法。

于是，记忆本身需要治理。谁有资格教？一条经验经过几次成功才可以从个人提示升格为共享规范？设备升级后哪些记忆失效？如果两位专家给出相反指导，系统怎样保留上下文而不是选择措辞更像的那条？

实验室过去也有操作日志、脚本库和交接班记录。代理记忆的新风险是，它会把检索到的旧话直接放进决策链，而且使用者未必意识到来源。一个看似聪明的下一步，可能只是系统找回了半年以前某位用户的一次临时处置。

因此，每次调用记忆都应该可见：来源、日期、适用设备版本、批准者、历史执行结果和当前相似度。让系统“记得更多”不是目标；让人知道它为什么记起这一条，才是可审计能力。

多一个代码审核代理，不能替代硬件安全边界

把写代码和审代码分给不同代理，是研究中很直观的安全设计。第二个模型可以发现函数选择、顺序或风格问题，减少单个生成器的错误。但两个代理可能共享相同模型、训练偏好和上下文盲点。它们一致，不等于独立。

真实仪器的安全不能只依赖语言模型互相检查。设备层仍需要确定性的权限和联锁：哪些动作只能模拟，哪些可在安全范围内自动执行，哪些必须由具名人员确认，哪些条件触发物理停止。代理发出的请求应该经过参数约束、状态检查和执行沙盒，关键动作还要与机器当前配置核对。

人类批准也不能沦为一个不停点击的弹窗。如果系统每一步都要求确认，操作员会产生疲劳，最终把“确认”当成继续键；如果只在极少数时候询问，系统又可能在错误路径上走得太远。合理的介入点应与后果相关：可逆、低成本动作可以更自动；可能损坏样品、浪费稀缺时间或改变设备状态的动作，需要更高权限。

最重要的停止机制不应依赖代理是否愿意服从。物理急停、硬件联锁、束流许可和访问控制属于另一套独立系统。软件可以建议停止，人必须能直接停止，设备也必须在越界时自行拒绝。

这不是对 AI 缺乏信任，而是科学仪器几十年安全工程的基本经验：任何单一判断层都会失败，重要系统靠彼此独立的防线承受失败。

谁拥有被代理学走的经验

大型用户设施是共同基础设施。仪器科学家花多年积累的经验，既包含公开方法，也包含设备特定的诀窍。代理把对话存入记忆后，这些经验从人与人之间的指导，变成可被反复调用的数据资产。

这可能带来真正的公共价值。新用户不再必须碰巧遇到某位资深人员；夜班团队可以获得一致提示；设施能从大量操作中发现常见失败模式。经验不再只随着某个人离职而消失。

同时，权属必须讲清。用户为自己的样品解释的临时策略，是否会被别的团队检索？未发表实验的目标和结果能否进入共享记忆？专家纠正代理的劳动是否被记录、署名和认可？如果系统用这些经验提高了服务能力，维护这套知识库应算谁的工作？

最稳妥的设计需要把记忆分层。设备安全规范可以由设施审核后全局共享；项目方法默认留在项目空间；个人临时指令有明确过期时间；任何跨项目复用都需去除敏感语境并获得授权。系统还要支持删除、纠正和追溯，而不是只会不断追加。

当科研机构讨论 AI 代理时，常把注意力放在模型成本和算力。真正稀缺的资源可能是被整理过的专家判断。若这部分劳动继续隐形，代理表面上降低了操作门槛，背后却依赖少数人持续免费修补。

更容易使用，会不会让实验更多但问题更窄

自然语言接口能让更多研究者接触复杂仪器，这是最有吸引力的承诺。不会写专用控制代码的人，也可能描述目标、查看建议并完成标准测量。对公共用户设施而言，门槛降低意味着设备能力服务更广泛的问题。

但容易运行也可能鼓励大量相似任务。代理倾向复用记忆和成熟脚本，设施则倾向提高吞吐量；两者结合，可能让最可自动化的实验获得更多束线时间，而真正新颖、需要专家长时间讨论的实验显得“低效率”。

评价系统因此不能只数单位时间完成了多少扫描。还要看新用户是否真正理解结果，失败是否可复现，代理是否帮助探索了过去做不了的问题，以及专家时间是被释放还是转移到清理更多自动化错误上。

科学设施不是代工厂。它存在的价值不只在稳定生产数据，也在允许研究者遇到意外、修改问题、怀疑仪器和推翻原计划。代理若把最佳实践变成唯一实践，就可能用效率抹掉发现最需要的偏离。

把按钮留给人，也把理由交给人

这项研究让“AI 代理”离开聊天窗口，碰到了会移动、照射和采集的机器。正因为它接触了真实世界，讨论也终于可以离开人格化想象，回到工程责任。

一个可信的仪器代理应该能说明将调用什么、依据哪条记忆、预计改变什么、怎样判断成功、失败时停在哪里。它要能在能力之外拒绝，也要让人不经过语言模型就能切断动作。最好的自动化不会让操作者消失，而会让操作者把注意力集中在真正需要判断的节点。

论文展示了视觉、代码、审查与执行代理如何合作，也保留了人类输入。下一步的进步不应只比较哪种模型完成任务更多，而应测试独立安全层、记忆版本、异常恢复和跨用户责任。代理越能“在岗学习”，设施越要能回答它究竟从谁那里学了什么。

束线尽头那束光很细，控制它的责任却不能变得模糊。AI 可以获得更多操作能力，但最后那个不依赖模型解释、能让机器确实停下来的按钮，仍应该清楚地留在人手边。

来源与边界

• 系统结构、两个仪器场景、评价维度与记忆机制来自 npj Computational Materials 原始研究。
• 相关代码与数据入口来自 Advanced Photon Source CALMS 仓库。
• 本文不把受控演示写成无人实验室、通用自主科学家或安全性已证明；未提供任何可执行仪器命令、实验参数或操作步骤。