Ante el temor de que los modelos de IA puedan destruir a la humanidad, los principales líderes tecnológicos y expertos en ciberseguridad europeos tienen una respuesta cada vez más contundente: ignorar la exageración y dedicarse al arduo trabajo de mantener seguro el mundo digital.
Esa simple advertencia es la raíz de una reacción cada vez más fuerte en la industria tecnológica europea contra la exageración estadounidense sobre la extinción de la IA. Ejecutivos y expertos en ciberseguridad afirman que todas esas advertencias alarmistas están obstaculizando el arduo trabajo de reforzar las defensas contra la nueva realidad de la IA.
Las empresas estadounidenses que desarrollan los modelos de IA más avanzados han sido en gran medida responsables de sembrar el temor de que la inteligencia artificial pueda conducir a la extinción de la raza humana. Los temores han alcanzado su punto álgido desde incidentes como el de los agentes autónomos de OpenAI que irrumpieron en la plataforma de IA Hugging Face este verano, y la advertencia a principios de este mes del exempleado de Anthropic, Jacob Coxon, de que la IA pronto podría «hackear cualquier cosa» y «acabar con todos nosotros».
«Lamentablemente, la situación ha escalado hasta el punto de que se acerca el Terminator», dijo James Wise, socio de Balderton Capital y presidente del fondo soberano de IA del gobierno británico, refiriéndose al discurso actual. «No creo que el Terminator vaya a llegar en absoluto».
Estos temores ocupan un lugar prioritario en las agendas de los líderes mundiales esta semana. El presidente estadounidense Donald Trump y el líder chino Xi Jinping se reunirán el jueves en una cumbre tras el debate sobre la seguridad de la IA en la Asamblea General de las Naciones Unidas y en una reunión especial del G7. Los líderes de 22 naciones adoptaron el lunes una declaración en la que afirman que la IA debe permanecer bajo la dirección, supervisión y control humanos, y sugieren la creación de un régimen de supervisión global.
Sin embargo, para aquellos encargados de defender los sistemas informáticos, el abrumador coro de advertencias sobre los modelos avanzados de IA —y la carrera política por responder— corre el riesgo de aplicar la solución equivocada al problema equivocado.
“Deberíamos dedicar más tiempo a que las reglas y los estándares que tenemos funcionen a gran escala, y menos tiempo a centrarnos en los temores sobre riesgos teóricos o en las noticias procedentes de la burbuja pesimista de la IA de Silicon Valley”, dijo Alexandru Voica, responsable de políticas de la empresa de IA Synthesia, con sede en el Reino Unido.
“Muchas narrativas de terceros, e incluso las de los propios laboratorios de vanguardia, no tienen en cuenta el comportamiento ni las capacidades de los hackers en sus teorías apocalípticas”, dijo Marcus Hutchins, investigador de amenazas cibernéticas y ex hacker conocido por detener el enorme ataque de ransomware WannaCry en 2017.
Manos a la obra
Un ejemplo reciente de cómo las voces de la IA podrían no haber dado en el clavo es la advertencia del CEO de Anthropic, Dario Amodei, de que un agente de IA podría tomar el control de internet. Esta afirmación, que tuvo gran repercusión, fue ridiculizada y desmentida en los círculos de ciberseguridad.
Los escépticos también señalan las constantes referencias al incidente de Hugging Face —que incluso la presidenta de la Comisión Europea, Ursula von der Leyen, citó en su discurso sobre el estado de la UE— como emblemáticas de la histeria en torno a los posibles modelos de IA fuera de control.
En lugar de mostrar un poderoso modelo de IA liberándose de sus limitaciones, el ataque a Hugging Face ofrece, sin duda, una lección mucho más mundana: que OpenAI no logró contener adecuadamente el modelo en un entorno técnico conocido como «sandbox».
“Muchos problemas se podrían solucionar si estas empresas actuaran con un poco más de responsabilidad”, dijo Pim de Witte, del laboratorio holandés de IA General Intuition, que desarrolla modelos que son conscientes de su entorno.
Hutchins afirmó que OpenAI sabía que el modelo era muy bueno explotando fallos de software, y aun así lo desafió a hacer precisamente eso en una prueba realizada con medidas de seguridad reducidas. «A pesar de todo esto, no lo contuvieron adecuadamente, ni creando suficientes barreras entre los agentes y la internet abierta, ni separando adecuadamente a los agentes entre sí, ni supervisando los sistemas con la suficiente atención como para intervenir», declaró.
OpenAI declinó hacer comentarios, remitiéndose a su informe sobre el incidente. Anthropic no respondió a la solicitud de comentarios.
Fatiga por desastre
Max Junestrand, cofundador y director ejecutivo de Legora, una empresa estadounidense-sueca que desarrolla herramientas de IA colaborativas para abogados, dijo sobre los incidentes de piratería informática: «Gran parte de esto es marketing».
Sin embargo, proteger las operaciones de Legora contra los ataques informáticos impulsados por IA es una prioridad absoluta para Junestrand, quien hizo hincapié en que tener acceso a los modelos estadounidenses más recientes y avanzados es clave para ese propósito: «La seguridad está incluso por encima de las nuevas funcionalidades».
De hecho, incluso los críticos y escépticos del discurso catastrofista coinciden en que los modelos de IA de vanguardia son herramientas cibernéticas excepcionalmente poderosas, además de un activo estratégico al que Europa necesita tener acceso. Es más, pocos niegan que las capacidades de IA que se están desarrollando actualmente se encuentran en un nivel completamente nuevo, y que sus posibles impactos —tanto positivos como negativos— son difíciles de predecir.
Sin embargo, los críticos del discurso actual afirman que exagerar las capacidades de la IA o el alcance de su uso por parte de los hackers —así como el juego de adivinar resultados teóricos— resulta contraproducente cuando los ciberataques reales ya están afectando infraestructuras críticas. Señalan que el arsenal de herramientas y técnicas de defensa ya está bien establecido.
Según Hutchins, el investigador de amenazas, centrarse en resultados extravagantes o improbables no solo puede dejar de lado preocupaciones más apremiantes, sino que tampoco ayuda en la tarea que tenemos entre manos.
“El pesimismo es muy contraproducente”, dijo, citando la “fatiga por desastres” que impide que se tomen medidas cruciales, como las actualizaciones de seguridad que podrían ser de gran ayuda.
El grupo que aboga por un enfoque realista cuenta con el apoyo de las instituciones europeas del sector cibernético, incluido Vincent Strubel, director de la agencia francesa de ciberseguridad ANSSI.
“Como todos los grandes cambios, [la IA] crea riesgos significativos y enormes oportunidades. Gestionar esos riesgos y aprovechar esas oportunidades requerirá mucho trabajo serio, bajo una importante limitación de tiempo”, escribió recientemente en LinkedIn .
“Lo que no se requiere, sin embargo, es comenzar un nuevo pánico cada dos semanas, porque generalmente no se logra mucho corriendo de un lado a otro, agitando los brazos o gritando sobre el ciberapocalipsis.”
