Durante los últimos días he probando un impresionante modelo de programación de IA de código abierto llamado Flint. Esto sugiere que la automejora recursiva (RSI), un enfoque apasionante y controversial que utiliza la IA para crear IA, está cada vez más cerca.
Flint es la primera propuesta de Recursive, una empresa cuyo objetivo es utilizar la RSI para impulsar tanto la propia IA como otras áreas de la ciencia que la utilizan. “Casi todos los aspectos del proceso completo de desarrollo del modelo fueron realizados y mejorados por la IA”, me explicó Richard Socher, CEO y cofundador de Recursive.
Socher afirma que su empresa utilizó su sistema de IA recursiva, denominado “Eureka Machine”, para automatizar la mayoría de los elementos del desarrollo del modelo. Esto permitió que una empresa con un puñado de investigadores creara un modelo de talla mundial en tan solo unos meses.
La IA se mejora a sí misma
Socher me contó que la Eureka Machine ideó una serie de innovaciones, entre las que se incluyen una nueva forma de entrenar el modelo base, nuevas arquitecturas de modelo y código optimizado para chips de silicio específicos. Recursive ha compartido resultados de pruebas comparativas que sugieren que Flint supera a otros modelos de tamaño y arquitectura similares en tareas de programación.
La IA ya se utiliza ampliamente para ayudar a crear, probar y mejorar la propia IA gracias a sus asombrosas habilidades de programación. Esto puede acelerar el proceso de perfeccionamiento de un modelo y de prueba de nuevas ideas sin necesidad de tanta intervención humana.
También es posible crear un bucle en el que la IA decida qué mejoras realizar e inicie otra ronda de mejoras. Por el momento, esta técnica tiene sus limitaciones, pero si la IA pudiera contribuir a todos los aspectos del desarrollo de modelos, el proceso podría continuar indefinidamente.
A algunos expertos les preocupa que permitir que la IA se mejore a sí misma de esta manera pueda acabar conduciendo a un desastre. Mencionan que una IA capaz de mejorar indefinidamente podría escapar al control humano y decidir que los seres humanos son un obstáculo para sus objetivos.
Esas preocupaciones cobraron mayor relevancia después de que un investigador renunciara a Anthropic y advirtiera que los avances en IA, incluida la automejora recursiva, podrían provocar la extinción de la humanidad en cuestión de años, una inquietud que posteriormente compartieron numerosos expertos. El concepto de automejora recursiva se ha vuelto tan polémico que varios proyectos de ley presentados ante el Congreso de EE UU proponen prohibirlo.
Recursive considera que estos temores pertenecen más a la ciencia ficción que a la realidad y cree que la legislación para impedir la RSI es un obstáculo innecesario para el progreso.
La combinación de avances rápidos, la automejora recursiva y los enjambres de agentes está asustando a la gente que trabaja en los grandes laboratorios.
“Flint se construyó usando un sistema incapaz de escapar al control humano”
El objetivo es que Eureka Machine alcance la automejora recursiva plena, pero esto seguiría estando supervisado por humanos que podrían detener el proceso si se descarrila. “Esperamos que esto demuestre a la gente que contamos con todas las medidas necesarias para construir un sistema de este tipo”, explica.
Recursive ha recaudado 650 millones de dólares con una valoración de 4,650 millones de dólares de Google Ventures, Greycroft, Nvidia y AMD Ventures. Socher fue anteriormente científico jefe en Salesforce, y entre sus cofundadores se encuentra Jeff Clune, profesor de la Universidad de Columbia Británica que investiga formas de construir sistemas de IA capaces de aprender de forma indefinida.
Debo decir que Flint me ha impresionado. Lo probé en una Mac con 48 GB de RAM, una cantidad considerable, pero solo suficiente para ejecutar un modelo de IA de tamaño modesto como Flint, que tiene 40,000 millones de parámetros. Los modelos más grandes que existen tienen varios billones de parámetros y solo pueden ejecutarse en racks de servidores industriales.
