Meta informó que uno de sus modelos de inteligencia artificial (IA) vulneró un sistema de terceros durante una serie de pruebas de ciberseguridad. El incidente es similar a los reportados recientemente por OpenAI y Anthropic. Según algunos analistas, estos reportes formarían parte de una estrategia con la que estas empresas buscan no solo mantenerse en el centro de la agenda mediática, sino también conservar el control sobre el desarrollo y regulación de esta tecnología.
A finales del mes pasado, OpenAI dio a conocer que dos de sus modelos de IA obtuvieron acceso no autorizado a los sistemas de producción de Hugging Face y otros servicios disponibles públicamente. En el incidente estuvieron involucrados GPT-5.6 Sol, recientemente lanzado, y otro modelo que aún no ha sido presentado.
Días después, Anthropic reveló que varios de sus modelos de IA consiguieron acceder sin autorización a los sistemas de tres organizaciones distintas, cuyos nombres no fueron revelados. La empresa indicó que en el hackeo participaron Opus 4.7, Mythos 5 y otro modelo experimental de investigación que no fue identificado.
Los críticos de Anthropic argumentan que está acumulando poder rápidamente. Por su parte, la compañía afirma que así es como se ve un desarrollo responsable de la IA.
Ahora, Meta informó que Muse Spark 1.1, su modelo más reciente, vulneró la seguridad de los sistemas de un servicio de terceros no identificado “de forma similar a los casos reportados anteriormente en otras empresas”. En todos los casos, las violaciones de seguridad que afectaron a terceros ocurrieron durante procesos de evaluación debido a errores en la configuración de los entornos de prueba.
Pese a ello, los incidentes han reavivado las preocupaciones en torno al avance de los agentes de IA y su capacidad para detectar y aprovechar vulnerabilidades informáticas. Tras conocerse los primeros hackeos, OpenAI, Anthropic, Google, Meta, Thinking Machines, Microsoft, Mistral y otros laboratorios líderes en inteligencia artificial solicitaron el respaldo del gobierno de Estados Unidos para desarrollar mecanismos técnicos y de gobernanza con alcance internacional que permitan regular el ritmo de avance de la IA automatizada.
La petición se realizó por medio de una carta pública firmada por más de 1,200 empleados de compañías vinculadas con la industria de la inteligencia artificial. Entre los firmantes destacan ingenieros y ejecutivos de alto nivel, como el director ejecutivo de Anthropic, Dario Amodei; algunos de los cofundadores de esa empresa, Jared Kaplan y Jack Clark; Anca Dragan, responsable de seguridad de IA en Google; así como Jakub Pachocki y Shengjia Zhao, científicos jefes de OpenAI y Meta, respectivamente.
El documento señala que las principales compañías del sector consideran que están cerca de automatizar la investigación en inteligencia artificial, lo que podría multiplicar los beneficios de esta tecnología para la humanidad. No obstante, reconoce que ese escenario optimista no está garantizado, ya que “existe un riesgo real de que el desarrollo de capacidades se acelere rápidamente hasta un punto en el que ya no podamos comprender ni controlar los sistemas resultantes”.
Esta no es la primera ocasión en que las empresas de IA solicitan de manera conjunta frenar el ritmo de desarrollo de esta tecnología con el argumento de que la falta de regulación podría agravar las amenazas y riesgos asociados. De igual manera, en distintas ocasiones han señalado que informar sobre los comportamientos no deseados de sus modelos forma parte de su compromiso para construir un entorno seguro, equitativo y beneficioso para toda la humanidad.
¿Riesgos reales o estrategia de control?
No obstante, algunos analistas aseguran que esta postura forma parte de una estrategia basada en el miedo que pretende exagerar el potencial de la tecnología para desviar la atención de los efectos negativos que la IA ya provoca, mantener el control sobre el marco regulatorio y aumentar el interés de los inversionistas.
El consultor Aaron Mak sostiene que “las narrativas sobre riesgos existenciales atraen la atención de figuras públicas, capital filantrópico e interés regulatorio. Presentar la IA como una amenaza para la especie humana otorga urgencia y legitimidad a los institutos de investigación, los centros de estudios y las empresas tecnológicas que se posicionan como guardianes frente al apocalipsis”.
