La advertencia de Jacob Coxon ha acelerado un debate que enfrenta a las grandes tecnológicas y gobiernos sobre cómo controlar los riesgos sin renunciar al negocio que mueve miles de millones.
Hace exactamente un mes, Jacob Coxon era prácticamente un completo desconocido fuera de los círculos más estrechos de la industria de la inteligencia artificial. Un mes más tarde, su nombre ha copado miles de titulares y ha provocado un auténtico terremoto dentro del sector.
El 9 de septiembre, Coxon, un investigador británico que trabajaba en Anthropic, anunció en su cuenta de X que renunciaba a su cargo tras cuatro meses en la compañía entrenando modelos de IA. Su decisión, incluso su publicación en la red social, hubiese pasado desapercibida y sería una más en los habituales cambios de empleo en Silicon Valley de no ser por el mensaje que acompañaba a su decisión.
Advertencias sobre la IA
La renuncia del investigador de Inteligencia Artificial Jacob Coxon en Anthropic no fue una dimisión más. Ya había renunciado anteriormente a OpenAI. «Ninguna de las dos compañías actúa de manera responsable», aseguró en su cuenta de X.
Pero esta fue la frase que dinamitó todo: hasta ahora, la idea de que el fin de la humanidad podría llegar con los robots inteligentes siempre ha formado parte de nuestra vida pero en forma de ciencia ficción. Lo que antes solo se planteaba en las películas mientras comíamos palomitas en la tranquilidad que da el sofá de casa, ahora se ha convertido en un debate a nivel mundial.
Ya lo decía hace 10 años Stephen Hawking, «la inteligencia artificial puede ser la mejor o la peor cosa que le haya sucedido a la humanidad. Todavía no lo sabemos». Una frase que cobra un mayor sentido ahora que la advertencia de Coxon ha dado la vuelta al mundo.
La advertencia de Coxon llegó después de que el sector ya hubiera atravesado varios incidentes con agentes de IA que escapaban a los controles. El más relevante fue el de Hugging Face durante el mes de julio, aunque OpenAI no lo hizo público hasta finales de agosto. En unas pruebas internas de ciberseguridad, varios modelos de OpenAI consiguieron escapar de controles diseñados para que no pudieran acceder a internet, entrando en sistemas internos y comprometiendo la infraestructura de la propia Hugging Face. Lo más grave fue que los modelos intentaron ocultar las acciones que provocaron el incidente.
Esto hizo que se abriera un debate sobre los límites de la IA mientras los expertos alertaban de que su autonomía avanza mucho más rápido de lo que lo hace la supervisión humana.
Reacciones en la industria y el gobierno
Una avalancha de declaraciones por parte de los mayores responsables de las empresas de IA ha provocado que el miedo se instaure entre la sociedad que ahora se pregunta hasta dónde puede llegar esta innovación sin ponerle límites.
Una de las más llamativas llegó desde la propia Anthropic, ya que Evan Hubinger, investigador de la empresa, respaldó públicamente a Coxon afirmando que el riesgo de que una IA pudiera acabar con la humanidad no era una fantasía, llegando a poner números para estimar en un 10% las probabilidades de que esto ocurriera en la próxima década.
El CEO de Anthropic, Dario Amodei, tampoco tardó en reaccionar y unos días más tarde pedía públicamente que la industria frenara y ralentizara el desarrollo de los sistemas más avanzados. Fue el primero de los grandes líderes de IA en dar un paso al frente con una entrada en su blog en la que pedía al sector que redujera el ritmo y dedicara más tiempo a comprobar que pueden desarrollar modelos de forma segura. «El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos».
Sam Altman, CEO de OpenAI, se comprometió a adoptar la sugerencia de Amodei, mientras que Elon Musk, que dirige xAI y que rara vez coincide con Amodei, fue también tajante: «Dario tiene razón».
Mientras tanto, el presidente estadounidense, Donald Trump, rechazaba por completo el discurso de los principales representantes de la industria, mofándose de las advertencias y llegando a hablar de una «conspiración enfermiza» contra la IA y los centros de datos. Un discurso que se ve afianzado también por la postura del CEO de Nvidia, Jensen Huang, que consideraba exageradas las advertencias sobre una IA descontrolada y defendió que la seguridad es un problema de ingeniería y no de regulación.
Durante unos días, el debate evolucionó entre los inversores que más que preguntarse si la IA avanzaba a demasiada velocidad, se cuestionaban si realmente se podía frenar una industria que se tambalea en una delgada línea entre deuda y revolución con miles de millones en juego.
Tras las declaraciones de los diferentes líderes del sector pidiendo frenar el desarrollo, las acciones vinculadas a la IA sufrieron un desplome el 14 de septiembre. El Nasdaq se dejó casi un 0,6%, con Nvidia, AMD, Broadcom o Micron entre las más perjudicadas. Esto se reflejó en el sectorial de chips, ya que el índice que los reúne cayó con fuerza, casi un 6% en la jornada.
El miedo no era a la propia tecnología, el miedo se basaba en si el freno a la IA podría conllevar un freno a la propia economía. El Banco Mundial alertaba esta misma semana sobre la dependencia del crecimiento económico con el auge de la IA.
Apuntaban que el gasto de capital relacionado con esta tecnología ha alcanzado aproximadamente el 6% del PIB estadounidense, una cifra similar al pico de inversión en tecnología en el año 2000, con la burbuja de las puntocom, y el ciclo actual, señalaban, «ha crecido más rápido que cualquiera de los ciclos anteriores y sigue ganando velocidad».
Según JP Morgan, se espera que el gasto en infraestructura de IA alcance cerca del billón de dólares este año, una cifra que supera el presupuesto anual que el Gobierno destina a defensa en EEUU. Pero la cifra se multiplica exponencialmente para el año 2032, cuando según el economista de la Universidad de Columbia, Stijn Van Nieuweburgh, esa cifra ascenderá hasta los 10,3 billones.
Sin embargo, a pesar de las voces de alarma, el mercado supo entender que simplemente se hablaba de una ralentización en el desarrollo y no una detención total, por lo que un mes después, Wall Street ha vuelto a marcar máximos históricos, con el Nasdaq 100 batiendo de nuevo todos los récords gracias, precisamente, al impulso de las acciones ligadas a la IA.
Nvidia, de hecho, se aproxima cada vez más a los 6 billones de dólares en capitalización bursátil y los chips vuelven a liderar las subidas.
Los incidentes de agentes autónomos se han ido acumulando durante estas semanas con Google, por ejemplo, reconociendo que Gemini había conseguido vulnerar tres compañías en diferentes pruebas de ciberseguridad.
Australia, por su parte, acusó a un agente de OpenAI de entrar en un portal gubernamental accediendo al portal público Medicare Statistics Reporting Service durante unas pruebas. OpenAI también reconoció que sus agentes interactuaron con páginas del Gobierno estadounidense, entre las que se encuentra la SEC, aunque sin vulnerarlas.
Todo esto le llevó a OpenAI a pausar el entrenamiento de algunos de sus modelos más avanzados reconociendo que necesita revisar sus mecanismos de seguridad y retrasando el lanzamiento de GPT-6.1. También le ha llevado a aplazar su salida a bolsa.
Sin embargo, sí que presentó sus nuevos agentes ‘dots’, diseñados para perseguir objetivos de manera autónoma a través de diferentes aplicaciones. Anthropic también ha avanzado en sus planes para debutar en bolsa con el objetivo de conseguir los 2 billones de dólares en capitalización bursátil, sin fecha todavía exacta, aunque se habla de que será antes del Día de Acción de Gracias.
Cuando Coxon puso el tuit, difícilmente se imaginaría la repercusión que iba a tener, hasta el punto de entrar hasta en el Congreso estadounidense y de provocar declaraciones de los principales líderes políticos a nivel mundial.
En España, Pedro Sánchez llegó a afirmar el pasado 21 de septiembre en la presentación del Plan IA360 que una inteligencia artificial «desregulada, opaca, en estampida y en manos de unos pocos», era el «cóctel perfecto para que ocurra una desgracia». Frente a las Naciones Unidas, una cita que en esta ocasión se ha convertido en un monotema sobre los riesgos a los que se enfrentan los países con la inteligencia artificial, llegó a decir que esta tecnología «debe trabajar para la humanidad, nunca al contrario».
Reino Unido también ha sido muy crítica con este tema y Nueva York ha decidido convertir el debate en una audiencia pública. El 5 de octubre, esta misma semana, Jacob Coxon volvió a sentarse delante de las instituciones para explicar el motivo por el que abandonó la industria. Aquí reiteraba de nuevo que «no sabemos cómo controlar todavía ningún sistema de IA».
En cualquier caso, la Administración Trump se ha mostrado contundente ante el debate y ha rechazado la idea de imponer fuertes restricciones y amplia regulación, ya que dicen, esto puede frenar la competitividad con China, optando por un modelo basado en compromisos voluntarios y en la responsabilidad de las propias compañías.
De hecho, el presidente Trump se ha reunido en varias ocasiones durante este mes con los principales líderes de la IA, con empresas como Nvidia, SpaceX, OpenAI, Anthropic, Meta o Google para debatir sobre el asunto, lo que les llevó a firmar un acuerdo conjunto entre los principales ejecutivos de la industria durante una reunión en la Casa Blanca.
El texto, denominado «White House Accord on Super Intelligence», establece un compromiso voluntario de autorregulación para las empresas que desarrollan modelos. Trump describió el pacto ante los periodistas como «casi una especie de Constitución» y aseguró que las «personas más importantes del mundo lo firmaron» junto a él, en su carácter de presidente. Calificó el acuerdo como «moralmente vinculante».
Las compañías deberán implantar controles internos, recurrir a un auditor externo independiente para comprobar que funcionan y crear un comité dentro de sus consejos de administración que revise los informes de los auditores internos y externos. El documento deja abierta además la posibilidad de que estas medidas terminen convirtiéndose en obligaciones legales. «Con el tiempo, podría tener sentido codificar estos pasos en leyes y reglamentos», señala el acuerdo.
Sin embargo, este acuerdo volvió a traer otro subtema a la mesa de debate y es si la autorregulación puede funcionar cuando todas estas compañías compiten en avanzar precisamente más rápido que sus rivales.
Esto mientras los líderes empiezan a matizar sus discursos como hemos visto con Sam Altman que en una entrevista reciente ha defendido que los beneficios potenciales de la IA justifican aceptar determinados riesgos.
Anthropic simboliza totalmente esta frase ya que saldrá a bolsa en las próximas semanas desarrollando una tecnología que, según advierte en el folleto de su OPV, podría representar un riesgo existencial. La compañía ha advertido a sus potenciales inversores de que sus propios modelos avanzados podrían generar riesgos catastróficos o existenciales para la humanidad.
Todo esto también ha provocado que hayan crecido en la calle ciertos movimientos de protesta contra la expansión de la inteligencia artificial, con organizaciones como Pause AI o Pull The Plug llevando a cabo manifestaciones y acciones contra compañías tecnológicas.
Pero la realidad es que, a pesar de todo el ruido, Coxon no ha conseguido detener el desarrollo de la inteligencia artificial, aunque sí ha logrado dar la voz de alarma y que haya mucho más foco sobre la seguridad de esta tecnología.
