Para continuar, suscribite a americateve. Si ya sos un usuario suscripto, iniciá sesión.
SUSCRIBITELa moda corporativa de “tokenmaxxing” en torno a la inteligencia artificial está llegando a sus límites, ya que los lugares de trabajo que están aplicando IA a todo ven cómo aumentan los costos sin un incremento correspondiente de la productividad.
Lo que comenzó como una euforia impulsada por la industria tecnológica sobre exprimir la mayor cantidad posible de trabajo generado por IA a partir de productos como ChatGPT de OpenAI y Claude de Anthropic se ha transformado en una reacción en contra durante el verano.
“Es muy fácil crear con IA algo que no necesitas”, observó Vincent Gusdorf, jefe de analítica de IA en Moody's Ratings y autor de un nuevo informe que recomienda un enfoque más disciplinado.
“Tokenmaxxing” se refiere a maximizar el uso de tokens: los bloques de construcción de la IA generativa que corresponden a pequeñas porciones de texto que un sistema de IA lee o escribe. Cada token equivale a aproximadamente tres cuartos de una palabra. Y por lo general hay un límite de cuántos se pueden usar, con versiones más caras de productos de IA que ofrecen topes más altos.
“A medida que las facturas empezaron a acumularse, la gente se dio cuenta de que esas nuevas herramientas son bastante caras y hay que usarlas con prudencia”, declaró Gusdorf.
Hace apenas unos meses, ejecutivos de Silicon Valley promovían el alto consumo de tokens como una señal de empleados de alto rendimiento. El tokenmaxxer típico se quedaba despierto hasta tarde —quizá ignorando a su pareja— mientras orquestaba un ejército de agentes de IA las 24 horas que realizaban trabajo en su nombre.
El director ejecutivo de OpenAI, Sam Altman, dijo en mayo que estaba “entusiasmado por ver qué pasará con las startups de tokenmaxxing, tanto por cómo trabajan internamente como por los productos que pueden construir”.
El director ejecutivo de Nvidia, Jensen Huang, afirmó que “si tu ingeniero de 500.000 dólares no está quemando 250.000 dólares en tokens, algo anda mal”. Meta, la empresa matriz de Facebook, tenía una competencia interna que recompensaba el uso de tokens.
La tendencia impulsó los ingresos de los principales desarrolladores de grandes modelos de lenguaje como Anthropic y OpenAI, pero se desinfló cuando se hizo evidente que no necesariamente era la mejor estrategia para todos los demás.
El director ejecutivo de Microsoft, Satya Nadella, ha admitido que el tokenmaxxing puede ser adictivo, pero advirtió en una reciente publicación de blog que los clientes de esos modelos están pagando dos veces por la IA: primero, al gastar en tokens, y segundo, al alimentarles todos sus datos propietarios. Mientras promovía el propio enfoque de Microsoft, los comentarios de Nadella fueron inusuales por la forma en que planteó dudas sobre las garantías de protección de datos de los principales proveedores de IA.
El director ejecutivo de Palantir, Alex Karp, fue más lejos y le dijo a CNBC a principios de este mes que algo había salido “completamente mal”. Afirmó que empresas estadounidenses están “furiosas” por pagar tanto por tokens que no crean valor.
“La visión básica entre las empresas de este país es: ‘Voy a relajarme y perder el tiempo con tokens. No voy a obtener ningún valor y ellos se van a quedar con mi propiedad intelectual’”, indicó Karp.
Jue Wang, consultora de gestión de Bain & Company, señaló que muchas de las grandes empresas a las que asesora su firma han estado examinando con más atención los retornos de sus inversiones en IA.
“Para ellos, el costo de tokens se ha estado duplicando casi cada dos meses”, indicó. “Digamos 200 dólares por desarrollador al mes. Multiplica eso por 20.000 desarrolladores, que a menudo es con lo que estamos tratando en estas compañías, y rápidamente llegas a una cifra que no es una partida que ningún gerente general haya previsto”.
A veces, eso solo significa no usar el equivalente en IA de un mazo para romper una nuez.
“No todo necesita un Claude Opus 4.6”, dijo sobre uno de los modelos más capaces de Anthropic, adecuado para ingeniería de software o investigación profunda. “Y, sin embargo, hay tantas empresas, tantos usuarios, que por defecto usan Opus para todo, incluso para generar correos electrónicos”.
Eso ha llevado a buscar herramientas que hagan “enrutamiento de modelos” en el que las consultas más sencillas se envían automáticamente a sistemas más baratos y eficientes, y las tareas más complejas van a modelos más potentes.
El desarrollador de software Hassan El Mghari apuntó que el impacto de ver el “ridículo monto de dinero” gastado en suscripciones a productos de IA ha llevado a muchos a dejar de recompensar el alto uso.
“Es mejor, en cierto modo, capacitar a los empleados sobre cómo usar estas cosas y dejar que utilicen la IA cuando y tanto como lo necesiten”, aseguró El Mghari, quien dirige la experiencia de desarrolladores en Together AI, una startup que suministra a desarrolladores una variedad de modelos de “código abierto”.
Al mismo tiempo, quienes prefieren acumular tokens están disfrutando de nuevos modelos de código abierto de startups chinas como Kimi, de Moonshot, o GLM, de Zhipu, que casi igualan las capacidades de los mejores modelos de Estados Unidos a una fracción del precio.
“Hay cierta validez en la teoría de que esto podría empujar el tokenmaxxing un poco más”, aseveró Raffi Krikorian, director de tecnología de Mozilla. "Pero si miramos a la industria en general, creo que se está dando cuenta de que el tokenmaxxing es una tontería”.
Es similar, dijo Krikorian, a cómo las empresas de software alguna vez consideraron que cuántas líneas de código escribía un programador era una buena métrica de productividad. Eso después cayó en desuso.
“Creo que el tokenmaxxing está siguiendo exactamente el mismo patrón”, afirmó. “Creo que esto va a ser un bache interesante del que todos nos vamos a reír dentro de un año cuando miremos hacia atrás”.
__________________________________
Esta historia fue traducida del inglés por un editor de AP con ayuda de una herramienta de inteligencia artificial generativa.
FUENTE: AP
Suscribite a nuestro Newsletter
