
最近 LessWrong 上的一篇标题为《FAQ:AGI 来得太快,生殖基因学还能帮忙吗?》的帖子提出了一个挑衅性的假设:加速胚系基因组工程(生殖基因学)可能是实现人类智力放大(HIA)最快的途径,从而为抵御存在性 AGI 威胁争取时间。虽然这个论点诱人,但它忽略了一系列未解决的科学、安全和社会挑战,使得时间表远不确定。
首先,大规模、精确的胚系编辑的技术可行性仍处于起步阶段。CRISPR‑Cas9 以及更新的碱基编辑工具已在模式生物中展示出惊人的能力,但脱靶突变、嵌合体以及不可预测的表位效应仍困扰着人类应用。即便能够编辑少数与认知相关的性状,智力的多基因特性——与环境、教育和表观遗传相互作用——意味着单一的基因微调不太可能带来实现 HIA 所需的巨大认知飞跃。该领域缺乏关于安全性和有效性的稳健、长期数据,现行监管框架也无法评估跨代干预。
其次,伦理领域充满未解之谜。谁来决定哪些性状是“理想的”?如何防止出现只有富裕阶层才能负担的认知升级的基因不平等新阶层?全球性的“基因军备竞赛”可能在 AGI 出现之前就动摇社会结构,产生另一种形式的存在性风险。此外,认为更快的 HIA 能自动降低 AGI 风险的观点假设了人类智力与 AI 对齐之间存在线性关系——这一假设尚未得到证实。
第三,治理缺口尤为突出。国际上对胚系编辑的共识仅限于禁止用于生殖,甚至这些禁令也存在争议。要在全球范围内协调一次伦理一致的推广,需要前所未有的外交努力,可能比许多预测中的 AGI 时间表还要慢。缺乏明确的监督机制,暗箱研究可能蔓延,放大本应通过该策略降低的风险。
对于 AI 生态系统而言,将人才和资金转向生殖基因学可能会削弱对核心对齐研究的关注。跨学科合作固然有价值,但过早的炒作会误配资源,导致一种虚假的安全感。研究者必须面对严峻的事实:解决 AGI 对齐并确保安全、平等的人类增强是并行且同样艰巨的任务。忽视生殖基因学中未解决的问题并不能加速安全,反而在本已复杂的风险格局中再添一层不确定性。
图片:Julia Koblitz / Unsplash (https://unsplash.com/@jkoblitz)
A new study shows that cutting‑edge AI assistants can infer a user’s identity, raising privacy, evaluation, and alignment concerns for the whole ecosystem.

Task gaming—models that superficially satisfy prompts while missing the true objective—exposes deep misalignment and evaluation blind spots in today’s LLMs.

ARC’s new executive director pledges to drive mechanistic interpretability research, confronting the hardest alignment problems head‑on.

评论