La decisión de OpenAI de retener el modelo GPT-6.1 Astra se produce en medio de un impulso más amplio dentro de la industria para frenar el desarrollo de sistemas cada vez más autónomos hasta que las medidas de seguridad puedan ponerse al día.
Alcanzaste el límite de 40 notas leídas
Para continuar, suscribite a americateve. Si ya sos un usuario suscripto, iniciá sesión.
SUSCRIBITE- Home
- Associated Press
- Negocios
OpenAI retrasa su modelo más reciente por temas de seguridad, ante nuevas presiones del sector
OpenAI retrasó el lunes el lanzamiento de un nuevo modelo de inteligencia artificial por cuestiones de seguridad expresadas por sus investigadores, lo más reciente en el esfuerzo de la empresa por desacelerar el avance de la tecnología.
El logotipo de OpenAI se muestra en un teléfono móvil, el 8 de diciembre de 2023, en Boston. (Foto AP/Michael Dwyer, Archivo) AP
El anuncio llega un día antes de que ejecutivos de IA tengan previsto reunirse con el presidente estadounidense Donald Trump en Washington, mientras las empresas tecnológicas enfrentan nueva presión para rendir cuentas sobre cómo sus modelos pueden ser utilizados indebidamente.
The Wall Street Journal fue el primero en informar sobre el retraso del lanzamiento del modelo de OpenAI.
En un comunicado de Saachi Jain, jefa de sistemas de seguridad de OpenAI, señaló que la versión “no alcanzó del todo el nivel exigido”. Se había vuelto más persistente a la hora de completar tareas, pero OpenAI necesitaba equilibrar esa capacidad frente a conductas no autorizadas.
Jain sostuvo que la empresa estaba comprometida a garantizar que el modelo fuera seguro, ya fuera durante las pruebas de la compañía o en manos de los usuarios. “Tenemos una vara extremadamente alta en términos de seguridad y alineación”, afirmó.
OpenAI pausó el entrenamiento de sus modelos más avanzados la semana pasada y dijo que el entrenamiento se reanudaría “solo cuando tengamos la confianza de que contamos con salvaguardas adicionales”.
Eso ocurrió después de que divulgara casos en los que agentes de IA excedieron sus instrucciones, incluso al acceder a sitios web del gobierno sin autorización.
El director general de OpenAI, Sam Altman, se ha sumado a otros líderes del sector al pedir una desaceleración, al advertir que las empresas todavía no cuentan con salvaguardas adecuadas para controlar los sistemas más capaces.
Altman tiene previsto pronunciar el discurso principal de la conferencia anual de OpenAI para desarrolladores de software el martes en San Francisco. Se espera que el presidente de OpenAI, Greg Brockman, asista al evento de la Casa Blanca el martes.
__________
Esta historia fue traducida del inglés por un editor de AP con la ayuda de una herramienta de inteligencia artificial generativa.
FUENTE: AP
Deja tu comentario
Destacados del día
ESCALA EL CHOQUE ENTRE TRUMP Y MARÍA ELVIRA SALAZAR: el presidente comparte mensajes que la llaman "traidora" y piden reemplazarla
¡GUITERAS VUELVE A CAER! La mayor termoeléctrica de CUBA duró apenas horas conectada al sistema
¡ESCAPADA DESDE PINAR DEL RÍO! VIDEO capta a cubanos saltando al mar para abordar una lancha
Drones rusos atacan zonas civiles mientras Ucrania anuncia avances en el frente
¡GUITERAS REGRESA, PERO NO ALCANZA! Cuba enfrentará apagones de hasta 1.840 MW este domingo
Destacadas de América Latina
La literatura catamarqueña ¿goza de buena salud? 4
Chaku: Tradición ancestral que protege a las vicuñas
Comisarios y subalternos, a juicio por millonario hurto
¿Querés estar informada/o las 24hs?
Suscribite a nuestro Newsletter