Bruselas pretende supervisar el uso de modelos de IA para detectar infracciones de su nueva normativa, como la publicación de material sexualmente explícito, fotos y videos falsos, y amenazas cibernéticas contra la infraestructura pública. Cuando la Ley de Inteligencia Artificial del bloque entre en vigor el domingo, las empresas del sector deberán dejar claro a los consumidores, mediante etiquetas o marcas de agua digitales, que los chatbots o las imágenes están generados con esa tecnología.
UE actuará contra deepfakes generados con IA, imágenes ilícitas y hackeos con un nuevo equipo
BRUSELAS (AP) — La Unión Europea presentó el viernes un nuevo equipo para controlar a las empresas de inteligencia artificial de todo el mundo, en una de las regulaciones más agresivas a las que se ha enfrentado hasta ahora el sector de alta tecnología, a medida que crecen los temores sobre los riesgos que esta tecnología, que avanza con rapidez, plantea para las personas, la política y la prosperidad.
“Con el inicio de la aplicación, estamos dando un paso importante hacia una IA que las personas y las empresas puedan comprender y en la que puedan confiar, y cuyos beneficios se compartan ampliamente en toda nuestra sociedad”, manifestó Henna Virkkunen, responsable de soberanía tecnológica de la Unión Europea, el viernes.
La Comisión Europea indicó en un comunicado que las nuevas directrices abordan también los “riesgos sistémicos” que plantea la IA, como “incidentes químicos, biológicos, radiológicos y nucleares, pérdida de control, ciberofensivas, manipulación dañina y amenazas a los derechos fundamentales”.
El creación del equipo es la última medida en la estrategia de “soberanía tecnológica” del bloque de 27 países, que combina regulaciones digitales históricas con una vertiente económica que, en la última semana, ha supuesto miles de millones de euros en multas a las grandes tecnológicas, así como una inversión récord en infraestructura de inteligencia artificial dentro de la UE.
La iniciativa arranca tras impactantes fallos de seguridad de la IA que han sacudido a la incipiente industria. Líderes políticos de todo el mundo sopesan ahora el control de la tecnología frente al liderazgo del mercado.
Anthropic reportó el viernes que sus modelos de IA hackearon a otras tres organizaciones durante unas pruebas, apenas unos días después de que OpenAI, dueña de ChatGPT, manifestó inquietudes sobre el control de la tecnología tras revelar que modelos fuera de control hackearon a otra empresa.
La UE está ampliando ahora su Oficina de IA en Bruselas con 38 trabajadores adicionales que comenzarán a supervisar a las empresas del sector, desde las nuevas firmas hasta los titanes tecnológicos estadounidenses y chinos como OpenAI y DeepSeek.
Esas compañías deben “documentar cierta información”, señaló la Comisión Europea, el organismo que vela por el cumplimiento de las normas tecnológicas, que se reserva el derecho de entrevistar al personal de las empresas de IA durante las investigaciones. También ha puesto en marcha una Herramienta para Denunciantes destinada a los trabajadores del sector tecnológico, y una Herramienta de Cumplimiento para usuarios de la tecnología, con el fin de alertar de manera confidencial a las autoridades sobre conductas ilegales.
Si los modelos u otros productos incumplen las normas sectoriales del bloque, la llamada Ley de IA, Bruselas puede multar a las empresas o cortarles el acceso al mercado comunitario. Las recientes y cuantiosas multas antimonopolio a tecnológicas estadounidenses han irritado al presidente del país, Donald Trump.
La UE ve ahora con claridad una vulnerabilidad sistémica en su profunda dependencia de empresas estadounidenses de software como Amazon, Google y Microsoft, así como de las importaciones de bienes industriales chinos y minerales críticos. Mientras busca protegerse frente a la IA, también está decidida a ponerse al día en la carrera armamentística de la inteligencia artificial, en la que ocupa un distante tercer lugar por detrás de Estados Unidos y China.
En términos más generales, el bloque busca una mayor independencia tanto de Washington como de Beijing al revitalizar industrias nacionales específicas como la manufactura y la defensa, y al forjar nuevos acuerdos comerciales desde Brasil hasta Australia para responder al auge global del nacionalismo económico encabezado por Trump.
___
Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.
FUENTE: AP
¿Querés estar informada/o las 24hs?
Suscribite a nuestro Newsletter