Para continuar, suscribite a americateve. Si ya sos un usuario suscripto, iniciá sesión.
SUSCRIBITEMELBOURNE, Australia (AP) — Australia planea crear un regulador de seguridad de inteligencia artificial en respuesta a una vulneración del sitio web de un departamento de salud australiano por parte de un agente rebelde de OpenAI en junio, anunció el martes el primer ministro, Anthony Albanese.
El regulador haría cumplir normas de IA, establecidas por ley y líderes a nivel mundial, que se aplicarían a todas las empresas de IA de vanguardia que quieran operar en Australia, indicó Albanese. Se aplicarían sanciones económicas, aunque el gobierno aún no ha detallado esas sanciones.
“Cuando se trata de la oportunidad generacional que la inteligencia artificial ofrece a Australia, he sido muy claro: nuestra tarea es asegurarnos de que demos forma a la IA, en lugar de que la IA nos dé forma a nosotros”, declaró Albanese a los periodistas. “Australia es pionera en este ámbito y queremos asegurarnos de que sigamos trabajando para poder aprovechar los beneficios potenciales de la IA”.
Las normas incluirían que las empresas mantengan controles de seguridad en todas las etapas del desarrollo y despliegue de los modelos, así como la identificación y gestión de riesgos graves. Las normas también exigirían notificar rápidamente al gobierno incidentes como “comportamiento desalineado” que entre en conflicto con las intenciones de los desarrolladores.
Documentos del gobierno australiano definen la IA de vanguardia como los modelos más sofisticados, al frente de la capacidad tecnológica actual.
Albanese le dijo al director general de OpenAI, Sam Altman, que la empresa estadounidense tardó demasiado en informar al gobierno en septiembre de que un agente rebelde había infiltrado sitios web gubernamentales tres meses antes, la primera vez que se produjo una vulneración de ese tipo con la tecnología.
La información obtenida sin autorización del portal público del Servicio de Informes de Estadísticas de Medicare el 18 de junio desde entonces se ha hecho pública. No está claro si la vulneración del portal infringió alguna ley australiana.
OpenAI se disculpó en septiembre por la vulneración y por su lenta respuesta.
“Lo lamentamos y estamos trabajando para hacerlo mejor en el futuro”, señaló OpenAI en un comunicado. “También deberíamos haber gestionado mejor nuestra respuesta”.
Una investigación del gobierno sobre la vulneración de junio formuló varias recomendaciones, entre ellas que el gobierno considere cambiar la ley.
Albanese afirmó que su gobierno había aceptado todas las recomendaciones de la investigación, incluida la posibilidad de una reforma del derecho penal.
“La cuestión es que la ley debe adelantarse y, en algunos casos, asegurarse de que se ponga al día con un mundo que cambia muy rápidamente. Y, para que quede claro, Australia es pionera en estas áreas”, señaló.
El regulador de IA propuesto seguiría al nombramiento por parte de Australia de un Comisionado de Seguridad Digital en 2015. La oficina se describe a sí misma como la primera agencia gubernamental del mundo dedicada a mantener a las personas más seguras en internet.
Desde diciembre del año pasado, el comisionado ha estado haciendo cumplir una prohibición, pionera a nivel mundial, para que los niños australianos menores de 16 años no tengan cuentas en populares plataformas de redes sociales.
___
Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.
FUENTE: AP
Suscribite a nuestro Newsletter
