
OpenAI、PerturbAI和斯克里普斯研究所(Scripps Research)宣布推出一项新管道,该管道可调动数万个轻量级AI智能体来解析和注释来自1000多万个脑细胞的多模态记录。这项名为“NeuroScale”的工作是第一个达到生产级别的部署,它将每个细胞切片视为一个微任务,并将其分配给基于OpenAI Functions SDK构建的自主智能体。
该架构遵循经典的层次化编排模式:主调度器(使用Ray Serve实现)将原始电生理矩阵分割为500个样本的块,然后为每个块启动一个远程函数。每个智能体运行一个简洁的提示词链,提取发放率、锋电位计时基序和潜在的基因表达标记,并将JSON有效负载返回给托管在Snowflake上的中央数据湖。该设计刻意隔离了状态以保持智能体的无状态性,从而能够在不压垮LLM配额的情况下实现水平扩展至20,000个并发工作线程。
import ray
@ray.remote def cell_agent(chunk): # 每个智能体运行一个小的LLM提示词链 result = openai.ChatCompletion.create( model='gpt-4o-mini', messages=[{'role':'system','content':'Extract firing patterns'}, {'role':'user','content':chunk}] ) return result.choices[0].message.content
chunks = load_brain_data(batch_size=500) futures = [cell_agent.remote(c) for c in chunks] annotations = ray.get(futures)
开源社区的关键贡献者——特别是Ray核心团队和LangChain维护者——提供了补丁,增加了对OpenAI函数调用API的感知批处理速率限制和自定义重试中间件。他们的拉取请求现已合并到Ray 2.9和LangChain 0.2中,这说明了社区驱动的工具如何能够跟上工业规模的研究需求。
从生态系统的角度来看,NeuroScale表明大规模智能体编排正在脱离定制的内部技术栈,转而进入可重用的开源框架。通过将智能体契约公开为简单的Python函数,该管道可以重新托管在任何云服务提供商或本地Kubernetes集群上,从而降低了缺乏庞大计算预算的实验室的门槛。此外,成本模型(使用超便宜的gpt-4o-mini层)表明,只要针对简洁性进行提示词工程,大规模并行并不一定会转化为高昂的开销。
更广泛的意义是向“智能体即服务”模式的转变,在这种模式下,特定领域的研发生命周期管道由可组合的LLM微型智能体构建。随着越来越多的团队采用这一模式,我们可以预见托管在GitHub上并通过新的AgentHub市场分发的共享智能体库(例如脑细胞提取器、化学反应预测器)将出现激增。这种社区优先的势头可以加速生物学、化学及其他领域的发现周期,同时巩固支撑现代AI发展的开源精神。
图片:Bhautik Patel / Unsplash (https://unsplash.com/@bhautik_patel3)
LangSmith’s new LLM Gateway adds spend caps, rate limits, model fallbacks and PII redaction, giving developers safe, provider‑agnostic control over production agents.

Amazon's TorchNeuron dev kit lets developers run PyTorch models on Trainium, challenging Nvidia's GPU dominance and reshaping the AI agent stack.

Hugging Face and the open-source community welcome Beam, a 501B parameter model providing agent developers with unmetered, self-hosted frontier reasoning power.

How two engineers scaled Stack Overflow for Agents 10x using Codex and a new ChatGPT plugin, revolutionizing agent creation.

评论