Frances Haugen, exdata scientist de Facebook, reflexiona sobre su experiencia en la compañía y los peligros de la inteligencia artificial en una entrevista con Business Insider España. En 2021, Haugen formaba parte del equipo de Civic Integrity, dedicado a combatir problemas como la desinformación y la radicalización. Su acceso a investigaciones internas la llevó a concluir que Facebook no estaba haciendo lo suficiente para abordar estos problemas, lo que la convenció de que debía hacer públicas sus preocupaciones.
Los archivos de Facebook y su impacto
Antes de abandonar Facebook, Haugen recopiló miles de documentos internos que fueron entregados al periodista Jeff Horwitz de The Wall Street Journal, dando origen a ‘Los archivos de Facebook’. Esta investigación destacó los algoritmos de recomendación y los efectos de Instagram en los adolescentes. En octubre de 2021, Haugen reveló su identidad y compareció ante el Senado de Estados Unidos, defendiendo que las grandes plataformas conocen mejor el funcionamiento de sus productos que quienes deben fiscalizarlas.
Ahora, cinco años después, la historia ha llegado a Hollywood con la película ‘El poder de la red’, dirigida por Aaron Sorkin. Haugen considera que los problemas que denunció siguen vigentes, pero ahora el gran desafío se ha ampliado a la inteligencia artificial. Según ella, el problema de fondo que plantearon sus revelaciones se ha vuelto más relevante con la llegada de la IA, ya que la personalización de los productos digitales dificulta la evaluación de su impacto real.
La necesidad de supervisión independiente
Haugen explica que, a diferencia de los objetos físicos, donde se pueden verificar características, en las plataformas digitales cada usuario tiene una experiencia diferente, lo que permite a las compañías argumentar que los problemas son casos aislados. Resalta que los algoritmos de IA desempeñarán un papel cada vez más importante en la economía y en la vida cotidiana. Por ello, la distancia entre lo que las compañías saben sobre sus productos y lo que conocen los usuarios y reguladores se amplía.
Una de las lecciones de ‘Los archivos de Facebook’ sigue siendo la necesidad de contar con denunciantes internos. Haugen ha notado que, a diferencia de hace cinco años, los laboratorios de IA están ofreciendo más información sobre sus sistemas. Sin embargo, advierte que publicar más información no resuelve el problema fundamental de la veracidad de esos datos. Para ella, es crucial contar con observadores independientes que puedan verificar la información y reducir los incentivos para ocultar problemas.
La conversión de ‘Los archivos de Facebook’ en una película ha sido un reto. Haugen destaca la habilidad de Sorkin para seleccionar los elementos necesarios para hacer la historia accesible y comprensible para el público. Aunque no le preocupa que la representación de su personaje no sea exacta, espera que los espectadores se imaginen tomando decisiones similares a las suyas.
A pesar de los desafíos que ha enfrentado, Haugen no se muestra pesimista. Ella se siente atraída por el movimiento solarpunk, que imagina futuros deseables, y sueña con una película que represente una comunidad capaz de crear y controlar su propia red social. Cree que con el software actual, es posible recuperar la escala local y establecer modelos de propiedad diferentes, donde las comunidades tengan el control.
En conclusión, Haugen señala que el reto de los próximos años será decidir qué papel queremos conceder a la inteligencia artificial y qué es lo que merecemos en un mundo donde esta tecnología gestiona cada vez más aspectos de nuestras vidas.
