Aunque resulta imposible anticipar todos los riesgos por la naturaleza misma de lo desconocido, Amodei plantea tres preocupaciones ilustrativas. Los avances rápidos en biología podrían extender drásticamente la esperanza de vida o permitir modificaciones radicales en la inteligencia y biología humanas; estos cambios acelerados podrían resultar beneficiosos si se manejan responsablemente, pero también encierran peligros, como la posibilidad de que mejoras cognitivas produzcan inestabilidad psicológica o ansias de poder, sin mencionar los riesgos inquietantes de las mentes digitales o “cargas”.

Además, la IA podría transformar la vida humana de formas perjudiciales incluso sin intenciones hostiles: a través de incentivos comerciales normales, podríamos ver el surgimiento de nuevas religiones creadas por IA, adicciones a interacciones artificiales, o personas convertidas en “títeres” que siguen instrucciones constantes de sistemas de IA, perdiendo así su autonomía y sentido de logro.

Finalmente, existe la cuestión del propósito humano en un mundo dominado por inteligencias superiores: aunque Amodei cree que podemos encontrar significado desvinculando la autoestima del valor económico, esta transición social podría fallar si no se gestiona adecuadamente. Su esperanza es que, en un mundo con IA confiable, podamos usar esa misma tecnología para anticipar y prevenir estos problemas, aunque reconoce que nada está garantizado.

El plan de defensa

La solución no es detener el desarrollo (los autócratas no pararán), sino intervenir quirúrgicamente:

La vía geopolítica: Controles de exportación estrictos. Negarle a China y otros regímenes el acceso a chips de vanguardia y equipos de fabricación es la medida más efectiva a corto plazo para ganar tiempo.

Anthropic apuesta por la “IA Constitucional” (entrenar modelos con valores explícitos) y leyes de transparencia obligatorias para las empresas de frontera. Necesitamos ver las “entrañas” de los modelos para saber si nos están mintiendo.

La economía de la supervivencia: Amodei sugiere que la filantropía masiva y, eventualmente, una intervención gubernamental en la redistribución (impuestos) serán inevitables para evitar el colapso social ante la concentración de riqueza.

Según Amodei, la IA es “inevitable y detenerla es una fantasía”. La única salida es atravesar esta “adolescencia” con medidas de seguridad extremas, fortaleciendo a las democracias y aceptando que el mundo tal como lo conocemos está a punto de desaparecer.

Como dice la protagonista de Contact: la pregunta real no es cómo se construye la tecnología, sino cómo se sobrevive a ella sin autodestruirse en el proceso. “La IA amenaza a la humanidad desde múltiples perspectivas, y existe una auténtica tensión entre los diferentes peligros, donde mitigar algunos de ellos corre el riesgo de agravar otros si no se actúa con sumo cuidado”, sostiene. “Dedicar tiempo a construir cuidadosamente sistemas de IA para que no amenacen a la humanidad de forma autónoma entra en auténtica tensión con la necesidad de que las naciones democráticas se mantengan a la vanguardia de las naciones autoritarias y no se dejen subyugar por ellas. Pero, a su vez, las mismas herramientas basadas en IA, necesarias para combatir las autocracias, pueden, si se llevan demasiado lejos, volverse contra sí mismas para crear tiranía en nuestros propios países”.