研究人员让AI进行科学研究，但它仍然无法发表论文

一项跨多个大学和AI实验室的合作研究旨在回答一个大胆的问题：今天最先进的AI代理是否可以取代人类科学家？根据一项在Decrypt上发表的新研究，答案是一个响亮的“还不行”。研究人员给予最先进的语言模型——增强了工具使用能力和自主规划——对整个研究流程的完全控制。代理制定了假设，设计和执行了模拟，甚至撰写了草稿论文。在机械方面，他们表现出色，自动化数据收集和模型调优的速度足以让任何实验室经理羡慕。然而，当输出被顶级AI会议审稿人评估时，none的AI生成的稿件达到NeurIPS或ICML等场合接受所需的新颖性阈值。代理倾向于重混现有想法，产生渐进式改进，并且，至关重要的是，缺乏人类研究人员带来的直觉飞跃。研究作者指出，代理“在科学发现的创造轴上跌倒”，这是当前强化学习-人类反馈管道无法弥补的差距。对于更广泛的AI生态系统，发现既令人清醒，也具有指导意义。自主代理已经在低风险、高吞吐量任务中证明了其价值——可以想到DeFi套利机器人或链上监控脚本。该研究强调了相同的代理还没有准备好承担前沿科学的知识重担。可以预期，继续采用混合模型，即AI处理重复、数据密集型的任务，而人类保留战略方向和假设生成。投资者和开发人员应该注意：围绕“仅AI研究实验室”的炒作为时过早。将资本分配给声称可以取代整个研究团队的AI代理，而没有明确的创新途径，是一个高风险的赌注。相反，资金应该针对增量集成——增强人类科学家、提高可复制性和加速迭代循环的工具。该研究还提出了治理问题。随着AI代理在敏感领域（如生物技术、金融或安全）变得更加自主，监管机构将需要定义问责框架。直到AI可以一致地产生同行评审合格的突破，人类监督仍然是安全网。简而言之，实验表明，虽然AI代理可以管理科学的后勤，但它们仍然缺乏将数据转化为发现的火花。前沿仍然开放给研究人员来构建下一代真正创造性的机器，但就目前而言，人类思维仍然握着笔。