Las más recientes advertencias de los investigadores de inteligencia artificial acerca del rápido ritmo de su desarrollo generaron pánico ante la posibilidad de que pueda acabar con la humanidad. Esos avisos se basan en la idea de que, impulsados por una competencia feroz y una rivalidad entre Estados Unidos y China, las empresas avanzan a toda máquina hacia modelos superinteligentes cuyas capacidades superarán, con creces, a las de los humanos.
Sin embargo, según el padre Paolo Benanti, un sacerdote que asesora a la Iglesia católica en materia de IA, esta polémica desvía la atención de un debate abierto sobre cómo limitar a las empresas que la desarrollan. Al presentar el problema como algo tan complejo que solo ellos pueden resolver, afirma, los grandes laboratorios excluyen a los demás del debate.
“La ética no puede ser algo que pertenezca al consejo de administración de una empresa. Es algo que debe equilibrarse y debatirse en la esfera pública”, explica Benanti a WIRED. “Necesitamos una regulación democrática”.
En un ensayo publicado después de las advertencias de seguridad, el director ejecutivo de Anthropic, Dario Amodei, pidió que los nuevos modelos de IA se sometan a evaluaciones obligatorias por parte de organismos externos antes de su lanzamiento al público. También sugirió algún tipo de medida restrictiva contra la “destilación”, un proceso en el que laboratorios rivales entrenan a su propia IA a partir de los resultados de modelos patentados. Otros abogan por una prohibición total de la “automejora recursiva”, en la que la IA usa sus capacidades de programación para desarrollar futuras iteraciones de sí misma.
A Benanti no le interesa tanto restringir los métodos de desarrollo de la IA (lo que, según teme, podría frenar la innovación). Pero sí quiere establecer normas para garantizar que los modelos no se escapen del control humano. Sea cual sea la forma que adopten esas normas, declara, los laboratorios no son quienes deberían diseñarlas.
“El discurso de las empresas pioneras responde a intereses propios para ganar o mantener el liderazgo en el mercado”, afirma Benanti. Cuando un solo pequeño grupo de personas dicta las reglas, dice, “tiene un nombre muy claro: un cártel”.
Es difícil saber hasta dónde tomarse en serio las grandilocuentes declaraciones sobre las capacidades de los modelos de IA más nuevos, señala Benanti, en parte por los incentivos económicos, políticos y personales que entran en juego.
Aunque OpenAI y Anthropic respaldan las peticiones de desacelerar el desarrollo, también se preparan para salir a bolsa, y hay miles de millones de dólares para quien conquiste al mercado. Las tensiones entre EE UU y China, donde se desarrollan los modelos más avanzados, también complican el panorama.
Anthropic se negó a hacer comentarios para esta nota. OpenAI y Google DeepMind no respondieron a las solicitudes de comentarios.
Benanti también critica la manera en que ciertos sectores de la industria hablan de la “superinteligencia” con el tipo de admiración que normalmente se reserva para un Dios. Como algo tan sofisticado que escapa a nuestra comprensión, prácticamente omnipotente. (El director ejecutivo de OpenAI, Sam Altman, dijo una vez que aspira a crear una “inteligencia mágica en el cielo”). Benanti cree que ese tipo de planteamiento amenaza con sesgar el discurso.
“¿Estamos hablando de algo o de alguien? Esa es la verdadera diferencia. No es una cuestión de fe, es una cuestión de matemáticas”, afirma. “No estamos creando la próxima divinidad. Simplemente nos estamos engañando al pensar que hay algo más que un cálculo estadístico [en marcha]”.
Cuando nos preguntamos qué separa al hombre de la máquina y cómo proteger a las futuras generaciones de los efectos negativos de esta tecnología, la llegada de la IA tiene el potencial de crear “un nuevo papel para las religiones en el debate público”, declara Benanti. “Vivir el desafío de nuestros tiempos forma parte de la misión de la Iglesia”.
