L’intelligenza artificiale aumenta la produttività ma il costo dei token sta facendo esplodere i costi operativi. Ecco le cose da sapere
L’intelligenza artificiale continua a essere presentata come uno strumento capace di aumentare la produttività, ridurre i tempi di lavoro e ottimizzare i processi aziendali. Tuttavia, dietro questa promessa si nasconde un problema sempre più evidente il costo reale dell’utilizzo dei modelli AI avanzati.
Come già accaduto in passato con il cloud computing e con le licenze software enterprise, molte aziende stanno scoprendo che l’adozione massiccia dell’AI può generare spese molto più elevate rispetto alle previsioni iniziali. Al centro della questione ci sono i token, che stanno generando costi enormi.
Cosa sono i Token e Perché Influenzano i Costi AI
Il token è l’unità di misura utilizzata dai fornitori dei servizi di intelligenza artificiale per calcolare il consumo e la fatturazione dei servizi. Ogni richiesta inviata a un modello di AI viene suddivisa in piccoli frammenti di testo chiamati token.
Sia l’input dell’utente sia la risposta generata dal sistema vengono conteggiati e fatturati in base al numero di token utilizzati. Un costo irrisorio per ogni richieste ma che sommate alle decine e decine per singolo utente i costi si moltiplicano a dismisura.
Singolarmente il costo può sembrare trascurabile, ma quando migliaia di dipendenti utilizzano quotidianamente strumenti AI per programmare, correggere codice, scrivere documenti o automatizzare attività, il consumo cresce rapidamente con i costi operativi aumentati in modo direttamente proporzionale all’uso dello strumento.
Budget annuale esaurito in pochi mesi: Il caso Uber
Uno dei casi più emblematici riguarda Uber. La società aveva introdotto l’utilizzo di Claude Code di Anthropic all’interno della divisione responsabile di Windows, Outlook, Teams e nella suite Microsoft 365. L’adozione è stata immediata e molto positiva dal punto di vista produttivo.
Gli sviluppatori hanno utilizzato intensamente lo strumento, raggiungendo gli obiettivi previsti in termini di efficienza. Tuttavia, l’effetto collaterale è arrivato con le fatture con il budget (in termini di token) stimato inizialmente per coprire un anno intero è stato terminato in pochi mesi.
Uber infatti aveva distribuito Claude Code a circa 5.000 ingegneri e, nel giro di pochi mesi, oltre l’80% del personale tecnico lo utilizzava regolarmente. Secondo i dati riportati, circa il 70% del codice prodotto era stato generato o assistito dall’intelligenza artificiale.
E’ talmente un successo che ora è un problema
Il consumo di token ha generato costi talmente elevati da esaurire il budget annuale destinato all’AI in moltissime aziende in cui l’utilizzo dell’AI è stato spinto in maniera massiva con corsi, soluzioni integrate e pressing per essere utilizzato da tutti in azienda.
Costi fino a 2.000 dollari al mese per ogni sviluppatore
L’elevato livello di utilizzo ha però avuto conseguenze economiche pesanti. I costi per sviluppatore variavano tra 500 e 2.000 dollari al mese, mentre una singola sessione dimostrativa di sviluppo software di due ore avrebbe consumato circa 1.200 dollari in token
Nvidia, Agenti ed Investimenti
Nvidia, azienda leader nella produzione di GPU per l’intelligenza artificiale, ha notato che in alcuni casi il costo del calcolo necessario per utilizzare l’AI supera addirittura il costo del personale che la utilizza. L’AI è di fatto economicamente vantaggiosa solo in una parte limitata dei casi analizzati.
Anche gli agenti AI, sistemi autonomi capaci di svolgere attività articolate senza intervento umano diretto, potrebbero far aumentare questi costi senza alcun controllo diretto. Dall’altro lato si prevedono forti investimenti nei prossimi anni e un aumento fino a dieci volte l’anno nell’utilizzo dei token entro il 2023.
Conclusioni: Il problema non è l’AI, ma il modello di prezzo
Il tema centrale non riguarda la qualità dell’intelligenza artificiale, che continua a dimostrare grande efficacia e capacità di aumentare la produttività. Il vero nodo è rappresentato dal modello economico basato sul consumo di token che è letteralmente incontrollabile.
Più gli utenti sfruttano gli strumenti AI e più le aziende ottengono benefici operativi, ma contemporaneamente aumentano anche le spese. Questo crea un equilibrio difficile da gestire, soprattutto per le organizzazioni che adottano l’AI su larga scala.
Nei prossimi anni nascerà probabilmente un nuovo mercato dedicato all’ottimizzazione dei consumi AI, proprio come è avvenuto per il cloud computing. Per molte aziende, infatti, la sfida non sarà decidere se utilizzare l’intelligenza artificiale, ma capire come controllarne i costi senza rinunciare ai vantaggi che offre.
