Ce contenu est réservé aux abonnés La Tribune
Les entreprises peuvent se tourner vers des modèles plus abordables, comme l'IA chinoise Deepseek.
DR - REUTERS - REUTERS - Dado Ruvic
Une étrange compétition s’est installée dans les entreprises avec le déploiement de l’intelligence artificielle : le « token maxxing ». La pratique consiste pour un employé à brûler un maximum de tokens, autrement dit des jetons IA, afin de prouver sa productivité.
Si cette pratique était jusqu’ici valorisée, les entreprises ont fait volte-face au moment de recevoir la facture. C’est le cas de Meta (Facebook, Instagram) qui, après avoir encouragé ses salariés à brûler du token, a finalement restreint son usage déraisonné. De son côté, Uber a indiqué avoir mis en place une limite à ses employés de 1 500 dollars de dépenses mensuelles en jetons par outil IA. L’entreprise de VTC a avoué avoir dépensé tout son budget annuel dédié aux grands modèles de langage en à peine trois mois.
Un token est une unité de base utilisée par les modèles d’IA tels que ChatGPT ou Claude pour comprendre et générer du texte. Pour donner un ordre de grandeur, un jeton est équivalent à un mot court, et deux jetons, voire plus, correspondent à un mot plus long. Or, le token n’est pas gratuit. Son prix dépend des modèles et varie de quelques dizaines de centimes par million à plusieurs dizaines d’euros par million pour les modèles les plus avancés.
Dans une organisation de plusieurs milliers de salariés, qui effectuent de nombreuses requêtes à l’IA par jour, le coût augmente rapidement. Au point que le patron de Mercor, start-up américaine spécialisée dans le recrutement, a indiqué début juin qu’il dépensait désormais davantage dans l’IA que dans les salaires de ses propres employés.
IA : la douche froide Broadcom fait vaciller les stars européennes des semi-conducteurs
IA : les géants Soitec et STMicroelectronics prêts à réduire la consommation électrique des data centers
Les salariés français à la traîne dans l’adoption de l’IA
Incendies, fuites, pannes, tempêtes... Les assureurs face à une concentration de risques sans précédent avec les « méga data centers » de l'IA
