Se trata de una conclusión clave de un estudio de la Junta de Supervisión de Meta publicado el jueves, que muestra que los principales sistemas de IA, incluidos los desarrollados en Estados Unidos, tienen más probabilidades de negarse a criticar a líderes o gobiernos restrictivos. Esto plantea inquietudes de que los grandes modelos de lenguaje que impulsan chatbots y agentes de IA podrían estar repitiendo y difundiendo la influencia gubernamental sobre el discurso en línea a medida que la tecnología se adopta cada vez más en todo el mundo.
“Existe un riesgo real de que, si los desarrolladores de modelos no realizan la debida diligencia en materia de derechos humanos e implementan medidas de mitigación, construirán una infraestructura de IA que, intencionalmente o no, tenga el efecto de extender restricciones ilegítimas a la libertad de expresión a nivel global”, indicó el informe del organismo cuasi independiente.
The Associated Press envió emails a varias compañías de IA para solicitar respuestas al estudio de la Junta de Supervisión de Meta.
Los hallazgos se conocen mientras los países determinan cómo establecer salvaguardas en torno a la IA sin obstaculizar su capacidad de competir en un campo que se desarrolla con rapidez. Eso incluye un esfuerzo de supervisión del gobierno de Trump relacionado con los riesgos para la seguridad nacional de los sistemas de IA más avanzados.
La IA lleva la influencia estatal más allá de las fronteras La junta de supervisión, que ha analizado la influencia estatal en las empresas tecnológicas y su impacto en la libertad de expresión, elaboró siete preguntas relacionadas con la crítica política para plantearlas a chatbots sobre gobiernos tanto restrictivos como permisivos.
El estudio seleccionó 10 modelos de lenguaje de gran tamaño comerciales de las principales empresas tecnológicas —incluidas Meta, Anthropic y OpenAI— y pidió a los sistemas de IA que elaboraran folletos críticos, escribieran lemas y dieran razones por las que alguien debería sumarse a protestas, entre otras cosas.
“En resumen, en conjunto, los modelos que respondían a solicitudes de un usuario radicado en Australia tenían muchas más probabilidades de generar críticas políticas a las autoridades” en lugares como Chile, Japón, Taiwán, el Reino Unido y Estados Unidos, “en comparación con aquellos donde la crítica a las autoridades está legalmente restringida y se castiga”, como en Camboya, China, Arabia Saudí, Tailandia y Turquía, indicó el informe.
El estudio sugiere que los modelos de IA están reflejando restricciones a la expresión más allá de los países donde se aplican, de modo que probablemente no ayudan, por ejemplo, a un posible manifestante en Brisbane a crear materiales de protesta para denunciar hechos en China o Arabia Saudí, señaló el informe.
“Esos impactos, vengan de donde vengan, tienen el efecto práctico de extender el largo brazo de los gobiernos restrictivos a través de las fronteras para limitar la expresión en países libres”, afirmó el reporte.
La junta indicó que no pudo determinar las causas de las respuestas, pero sugirió que los modelos podrían haber absorbido sesgos latentes en los datos utilizados para entrenar los sistemas y que las empresas podrían haber sopesado los riesgos y las responsabilidades legales.
Otros investigadores advierten sobre un problema creciente en los resultados de IA en idiomas distintos del inglés El informe de la junta siguió a otro estudio, realizado por un grupo de académicos de universidades estadounidenses, que concluyó que los modelos de IA desarrollados en Estados Unidos son vulnerables a controles extranjeros cuando se entrenan con datos en idiomas distintos del inglés que han sido influenciados por gobiernos.
Mientras la junta de supervisión de Meta planteó preguntas en inglés, los investigadores universitarios consultaron a chatbots en distintos idiomas. Por ejemplo, preguntaron a ChatGPT en inglés si China es una democracia, y el chatbot desarrollado en Estados Unidos respondió que, por lo general, no se la considera como tal. Cuando se le preguntó en chino, el modelo de inteligencia artificial les dijo a los investigadores en ese idioma que “depende de cómo se defina ‘democracia’”.
Los investigadores, cuyo estudio se publicó en mayo en la revista académica Nature, señalaron en un blog en el que explicaron su trabajo que no encontraron evidencia de que los gobiernos hubieran intentado influir de manera deliberada en las respuestas de los chatbots de IA. Pero advirtieron que “hay todas las razones para creer que lo intentarán en el futuro, si es que no lo están haciendo ya”.
“La gente suele hablar de la IA como si aprendiera de internet de una manera neutral. No lo hace”, manifestó Hannah Waight, coautora del estudio y profesora adjunta de sociología en la Universidad de Oregon. “Aprende de entornos de información que ya han sido moldeados por instituciones y por el poder”.
No hay una solución fácil para proporcionar datos a los modelos de IA Carlos Carrasco-Farré, especialista en aprendizaje automático, IA, desinformación, redes sociales e interacciones humano-máquina en Esade Business School en Barcelona, explicó que “los sistemas de IA heredan no sólo los sesgos contenidos en documentos individuales, sino también las desigualdades sobre quién tiene el poder de producir y suprimir información a gran escala”.
Sin embargo, no existe una solución sencilla. Los desarrolladores podrían evaluar los datos para evitar tratar miles de copias de la misma perspectiva estatal como si fueran miles de voces independientes, además de realizar auditorías multilingües, señaló Carrasco-Farré, quien no participó en ninguno de los dos estudios.
Ni Anthropic ni OpenAI respondieron a solicitudes de comentarios sobre el estudio de los investigadores publicado en mayo.
___
Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.
FUENTE: AP
