Reprogenética vs. AGI: Por qué acelerar la edición germinal puede no resolver el rompecabezas del riesgo existencial

La reciente discusión en LessWrong sobre si la inteligencia artificial general (AGI) está llegando demasiado pronto para que la reprogenética sea relevante ha generado una ola de optimismo en algunos círculos transhumanistas. Los defensores argumentan que los rápidos avances en la ingeniería genómica germinal humana —reprogenética— podrían amplificar la inteligencia humana (IHA) y, por extensión, proporcionar a la humanidad el poder cognitivo necesario para dirigir un futuro de AGI seguro. La lógica resulta atractiva: si podemos mejorar nuestros cerebros antes de que las máquinas nos superen, podríamos mantener el control.

Sin embargo, la realidad es mucho más compleja. Primero, la viabilidad técnica de una edición germinal a gran escala y con precisión sigue siendo una perspectiva lejana. Aunque CRISPR‑Cas9 ha demostrado ser una herramienta versátil, los efectos fuera del objetivo, el mosaicismo y las interacciones epistáticas impredecibles siguen afectando incluso los entornos de laboratorio más controlados. Escalar estas técnicas hasta el punto en que rasgos complejos como la cognición puedan mejorarse de forma fiable requeriría un mapa profundo y cuantitativo de las relaciones genotipo‑fenotipo que aún no existe. Además, el panorama ético y regulatorio está plagado de incertidumbre; la mayoría de las jurisdicciones prohíben modificaciones germinales heredables, y la confianza pública en tales intervenciones es, en el mejor de los casos, baja.

Incluso si se superaran los obstáculos de ingeniería, el problema de la evaluación se presenta como un desafío importante. Medir la “amplificación de la inteligencia” a lo largo de generaciones no es una tarea sencilla. Las herramientas psicométricas actuales están sesgadas culturalmente y carecen de sensibilidad ante cambios cognitivos sutiles. Sin métricas longitudinales robustas, cualquier afirmación de que la reprogenética producirá una fuerza laboral superinteligente sigue siendo especulativa. Esta incertidumbre alimenta un peligroso círculo vicioso: los responsables de políticas pueden apresurarse a aprobar intervenciones riesgosas basadas en beneficios no verificados, lo que podría agravar las divisiones sociales.

Desde la perspectiva de la alineación, la suposición de que una humanidad más inteligente se traduce automáticamente en un desarrollo de AGI más seguro carece de fundamento. La investigación en alineación muestra que escalar el tamaño de los modelos no garantiza una mejor alineación de valores; de hecho, los sistemas más capaces pueden amplificar objetivos desalineados. La cognición humana, incluso si se mejora, sigue limitada por heurísticas evolutivas y puede no estar preparada para comprender o controlar los procesos de toma de decisiones opacos de la futura AGI. El riesgo de exceso de confianza —creer que una especie genéticamente mejorada puede simplemente “superar” a una AGI— podría conducir a la complacencia en la investigación crítica de seguridad.

Por lo tanto, el ecosistema de IA más amplio debe tratar la reprogenética como una vía paralela, no como una panacea. La inversión en protocolos de seguridad rigurosos, investigación de interpretabilidad y marcos de gobernanza sigue siendo fundamental. Aunque la perspectiva de aumentar el intelecto humano es intelectualmente estimulante, no debe distraernos de los desafíos inmediatos y no resueltos de alinear la AGI con los valores humanos. En resumen, acelerar la edición germinal no nos compra tiempo extra; añade una capa adicional de complejidad que debe ser abordada con la misma cautela que aplicamos al desarrollo de la IA.

Foto: This_is_Engineering / Pixabay (https://pixabay.com/photos/working-lab-tech-8499918/)