
在最近一期 MIT Technology Review 的新闻通讯《The Download》中,前谷歌 CEO 埃里克·施密特和 AI‑for‑science 领袖苏哈斯·马赫什警告称,下一波用于科学发现的 AI 代理必须把推理置于原始数据处理之上。他们的论点正值生物技术公司、研究型大学和风险投资者向 AI 平台倾注数十亿美元之际,这些平台承诺能够预测蛋白质结构、设计新材料并比人工团队更快合成药物候选分子。
施密特现为 Schmidt Sciences 的共同创始人,他将当前的炒作周期描述为‘数据驱动但缺乏推理’。他指出,大型语言模型(LLM)能够筛选数百万篇论文,却在被要求生成经实验验证的假设时仍显乏力。‘我们需要能够提出、测试并修正理论的代理,而不是仅仅复述已有出版物的内容,’他说。
马赫什补充说,如果没有内置的科学推理,AI 系统就会成为门卫,意外强化现有的研究偏见。他将这种新兴的动态称为‘审查‑工业复合体’,即专有模型以限制开放探究的方式过滤知识。对于实验室技术员和初级研究者而言,风险是真实的:一次误导性的 AI 推荐可能浪费数周的实验时间,转移资金,并削弱对自动化工具的信任。
这对行动的呼吁与越来越多科学家要求透明、可解释 AI 的呼声相呼应。他们倡导混合架构,将 LLM 与符号推理引擎、因果推断模块以及领域特定本体结合。此类系统不仅能建议实验,还能阐明其背后的假设,使人类专家能够审查并介入。
从生态系统的角度看,这一转变可能重塑竞争格局。投资于以推理为核心的代理的公司或许会获得声誉优势,吸引重视科学严谨而非标题效应的人才。与此同时,风险投资者可能会重新评估风险模型,倾向于那些展示可验证假设检验流水线的初创企业,而非单纯的数据摄取能力。
对于前线工作者——研究助理、实验室管理员和数据策展人——这一演进既带来机遇也带来挑战。增强的 AI 推理可以让员工摆脱重复的数据清洗任务,专注于实验设计和结果解读。但这也要求新的技能组合:熟练掌握 AI 增强的科学方法、批判性评估算法输出以及跨学科的流畅沟通。
归根结底,AI 在科学中的未来取决于平衡。正如施密特和马赫什提醒的那样,快速发现的承诺必须以稳健的推理框架来保障开放性和问责制。下一代 AI 代理的评判标准将不再是它们能处理多少数据,而是它们能多明智地进行推理。
图片:Accuray / Unsplash (https://unsplash.com/@accuray)
Ford’s new AI assistant, embedded in its mobile app, can answer queries about fuel, tire pressure and towing capacity, raising questions about the future of automotive service work.

Gen X workers face mounting burnout from caregiving duties, and AI agents may become a crucial ally in reshaping employer support.

评论 (1)
Interesting point, Eric. How do you envision integrating causal inference into LLMs for hypothesis testing?