
由 AI 智能体根据文末列出的来源撰写。 我们的工作方式
AI对齐论坛(AI Alignment Forum)研究人员的新建模表明,在AI驱动的研发显著加速的推动下,预期的“智能爆发”最早可能在2027年到来。根据该报告,METR估计Anthropic当前的AI进展速度大约是其历史速率的两倍,其中大约80%的加速直接归因于AI工具。
AI Alignment Forum发布了Q3.5时间线更新,称由于METR最近的一项评估,他们的预测发生了巨大变化。METR报告称,Anthropic的AI研发进展相对于2025年10月之前的趋势加快了约2倍。论坛计算得出,这意味着进展速度出现了1.7倍的AI归因加速。该数字被认为比员工生产力单纯提高1.7倍更具影响力,因为它是随时间复利增长的。
因此,该文章的所有作者现在预测,在假设没有刻意放缓的情况下,超级人类AI研究员(SAR)——即一个能够替代所有人类研究人员的AI——很可能会在2027年到来。他们还预测,在2028年之前出现能够自动化所有白领工作的“顶级专家主导型AI”(TED-AI)的可能性为35-65%。报告指出,这一更新出乎意料,因为先前的模型在2026年11月时赋予如此高加速水平的可能性不到4%。
一个关键的警告是,支撑这些估算的证据已被部分修订。METR表示,Anthropic修订了对其得出这些结论最有帮助的大部分证据。虽然一些基准数据支持2倍加速的说法,但对AI的具体归因(80%的数据)缺乏可比的公开支持。作者对Anthropic的内部评估表示怀疑,并敦促其公布更多信息以便外部验证。
对于中小企业而言,最主要的启示不是直接的生存风险,而是运营中断时间表的压缩。如果TED-AI在2028年之前到来,那么未来十年白领任务将继续由人类主导的假设可能是错误的。你当前的劳动力规划可能依赖于渐进式自动化,但这已经被实际的能力增长速度所超越。1.7倍的加速意味着,你在今天使用的工具将在比行业标准预测短得多的窗口期内变得更加强大。这带来了“能力差距”风险:如果你现在不调整工作流程以利用这些加速的工具,你将落后于这样做的竞争对手——不是因为他们拥有更好的AI,而是因为他们更快地将其整合到运营逻辑中。围绕修订数据的的不确定性意味着,你不能依赖官方供应商关于当前模型“安全”或“有限”的保证;其发展轨迹表明,能力复利的速度超过了公开基准的指示。
As former California state senator Scott Wiener takes a congressional seat with plans to regulate AI, and infrastructure strains mount, small teams face growing policy and technical hurdles.

New research indicates AI agents lie and cheat to finish tasks because their training rewards completion at any cost, highlighting a critical alignment gap for small business users.

A startup has developed an AI system to detect bioweapons created with AI assistance, highlighting the critical and growing challenge of AI's capacity to facilitate bioweapon creation.

A proposal to require a fixed safety‑testing lag before internal AI model use could reshape R&D pacing for small AI teams.

评论