Advertencias sobre redes sociales llegaron tarde para muchos niños. ¿Será distinto con la IA?

La inteligencia artificial puede ser más omnipresente para los niños. Los menores no solo ven contenido generado por IA en redes sociales, sino que también pueden comunicarse fácilmente con chatbots, incluidos algunos dentro de aplicaciones de redes sociales. Muchos la usan para ayuda con la escuela y las tareas. Algunos han formado relaciones nocivas con chatbots, y expertos han planteado dudas sobre cómo el acceso a la IA está afectando el desarrollo cerebral de los niños. Las empresas ahora están tratando de vender juguetes con IA para niños de tan solo 2 años.

Las campañas por la seguridad de las redes sociales y de la IA para los niños se están desarrollando tanto en frentes legales como legislativos. Personas y estados han demandado a empresas tecnológicas por preocupaciones sobre sus productos, y legisladores estatales y federales lidian con cómo regular la tecnología.

En comparación con las empresas de redes sociales, los gigantes de la IA se han movido algo más rápido para añadir salvaguardas, quizá motivados por el creciente escrutinio regulatorio y social sobre los efectos de las redes sociales en la salud mental de los niños.

OpenAI introdujo cuentas para adolescentes en agosto, aproximadamente cuatro años después de lanzar ChatGPT, con restricciones que incluyen la prohibición de chats románticos y de cualquier sugerencia de que el chatbot tenga sentimientos personales hacia el usuario.

Meta, que compró Instagram en 2012, no lanzó cuentas para adolescentes en la plataforma hasta 2024.

Al anunciar el acuerdo este verano, Meta aseguró que “garantizar que los adolescentes tengan una experiencia segura y productiva en nuestras plataformas es un imperativo absoluto” para la empresa. Meta también instó a sus competidores, TikTok y YouTube, a adoptar algunos de los estándares que está implementando como resultado del acuerdo.

Las protecciones descritas en el acuerdo de Meta no pueden aplicarse fácilmente a la IA debido a las diferencias en la forma en que los jóvenes interactúan con la IA frente a las redes sociales, dicen expertos.

Uno de los desafíos de restringir la IA para menores es que es “mucho más fácil señalar los aspectos positivos” para los adolescentes en comparación con las redes sociales, indicó Sarah Kreps, profesora y directora del Tech Policy Institute de la Universidad de Cornell. Aunque existen preocupaciones sobre hacer trampa, por ejemplo, los niños también están usando la IA para tutorías y ayuda legítima con las tareas.

“No se trata simplemente de decir ‘limitemos esto a dos horas’ o ‘limitemos esto entre las 10 de la noche y las 6 de la mañana’, porque existen estos usos beneficiosos de la IA que creo que son más difíciles de justificar en el contexto de las redes sociales”, explicó Kreps.

El 64% de los adolescentes en Estados Unidos dice haber usado chatbots de IA, según el Pew Research Center. Buscar información y obtener ayuda con el trabajo escolar encabeza la lista de usos, aunque 47% afirma haber usado chatbots por diversión y 42% los ha usado para resumir un artículo, libro o video. Alrededor de 12% ha recurrido a bots para apoyo emocional o consejos.

Jonathan Haidt, psicólogo social y autor de “The Anxious Generation”, enfatiza que lo que más le preocupa son las relaciones que los jóvenes pueden construir con un chatbot y la “externalización cognitiva” que ocurre cuando las personas delegan sus procesos de pensamiento en uno de esos programas.

“Desde hace tiempo pienso que la IA es una amenaza mucho mayor para los niños incluso que las redes sociales”, comentó Haidt. “Pero si no podemos ganar con las redes sociales, mucho menos podremos con la IA”.

Si bien litigios recientes han responsabilizado a empresas de redes sociales por daños a los usuarios, la legislación federal sobre esa tecnología ha ido a la deriva y la legislación sobre IA se ha quedado rezagada.

El gobierno de Trump ha dicho que la regulación, especialmente entre estados en lugar de a nivel federal, podría obstaculizar el crecimiento de las empresas de IA y sacrificar la ventaja de los laboratorios estadounidenses en la carrera global de esa tecnología, pero algunos legisladores están tratando de mover la aguja.

Algunas iniciativas legislativas sobre la seguridad infantil con la inteligencia artificial —como la privacidad de los jóvenes, las interacciones con chatbots y la seguridad de juguetes— han avanzado en subcomités del Senado con apoyo bipartidista, pero aún queda un largo camino para la eventual aprobación de cualquier legislación. La legislación a nivel estatal avanza más rápido, como también se vio en el caso de las redes sociales.

“Una de las cosas que hemos visto con las redes sociales, y que creo que seguirá siendo cierta con la IA, es que vivimos en un sistema federal en el que los estados hacen leyes sobre todo, desde bicicletas eléctricas hasta permisos de conducir o leyes de armas, y que la legislación federal o las normas federales son mucho más difíciles”, señaló Kreps.

Algunos dicen que la mayor victoria en la seguridad de las redes sociales este año ha sido una mayor conciencia sobre los peligros en línea para los niños.

Bride, cuyo hijo Carson murió tras sufrir ciberacoso severo en Snapchat, recalcó que es alentador ver a los legisladores lidiar con cómo regular la IA, pero reconoció la realidad de que la legislación jamás alcanzará la velocidad de los desarrollos tecnológicos y que, mientras tanto, los niños seguirán experimentando daños relacionados con la IA.

“No creo que podemos seguir simplemente expresando mea culpas cuando se trata de niños”, dijo Bride.

_________________________________

Esta historia fue traducida del inglés por un editor de AP con ayuda de una herramienta de inteligencia artificial generativa.

FUENTE: AP