Amazon avrebbe speso 1,8 milioni di dollari usando Claude per un progetto interno destinato ad associare i dati degli autori alle rispettive inserzioni del negozio online. Il sistema non avrebbe raggiunto l’obiettivo previsto e avrebbe superato il budget assegnato dell’860%.
L’anomalia sarebbe rimasta inosservata per circa cinque mesi. Il caso conta perché mostra come un errore che nel software tradizionale avrebbe prodotto un costo limitato possa diventare molto più oneroso quando un agente continua a inviare richieste a un modello fatturato in base ai token elaborati.
Amazon ha descritto gli episodi come casi isolati emersi durante una fase di sperimentazione. L’azienda sostiene che non rappresentino il modo abituale in cui i suoi team utilizzano l’intelligenza artificiale, ma ha comunque avviato lo sviluppo di controlli automatici per limitare nuove spese impreviste.
Come Amazon ha superato il budget dell’860% con Claude
Il progetto avrebbe continuato a consumare risorse senza un limite capace di interromperlo al superamento della cifra prevista. Il problema non sarebbe stato soltanto un modello costoso, ma la combinazione tra richieste ripetute, codice difettoso e controlli finanziari incapaci di segnalare rapidamente l’aumento della spesa.
Claude Sonnet doveva collegare correttamente informazioni sugli autori e prodotti presenti nel catalogo Amazon. Un’attività apparentemente semplice può però richiedere milioni di elaborazioni quando viene applicata a un archivio enorme, soprattutto se l’agente ripete i passaggi, genera output troppo lunghi o non riconosce quando deve fermarsi.
Altri due progetti interni avrebbero prodotto costi aggiuntivi rilevanti. Uno strumento per l’auditing finanziario avrebbe generato circa 541.000 dollari di spesa inattesa, mentre un sistema destinato a ridurre i tempi delle consegne avrebbe aggiunto altri 134.000 dollari.
Quest’ultimo aumento sarebbe stato individuato dopo più di due settimane. I tre episodi non dimostrano che ogni applicazione aziendale dell’IA sia inefficiente, ma evidenziano quanto rapidamente gli errori possano moltiplicarsi quando il software può prendere decisioni ed effettuare nuove chiamate senza supervisione continua.
Perché i costi per token possono crescere senza farsi notare
Le API dei modelli linguistici vengono normalmente fatturate in base alla quantità di testo elaborata. Si pagano i token inviati nel prompt, quelli generati nella risposta e, in alcuni casi, operazioni legate alla memoria temporanea, alla cache o a modalità di elaborazione più rapide.
La documentazione ufficiale sui prezzi di Claude distingue infatti tra token in ingresso, token in uscita e funzioni capaci di modificare il costo finale. Una singola richiesta può costare poco, ma milioni di chiamate ripetute trasformano una piccola inefficienza in una voce consistente.
Un agente IA può inoltre svolgere più operazioni per completare un solo incarico: leggere dati, interrogare servizi, controllare il risultato, correggere gli errori e riprovare. Se il processo entra in un ciclo o riceve un obiettivo poco definito, il consumo può continuare anche quando il risultato non migliora.
Il rischio aumenta quando i team misurano il successo attraverso il numero di utilizzi dell’IA. Amazon avrebbe eliminato una classifica interna che premiava i dipendenti con il maggiore consumo di token, dopo che il sistema aveva incentivato il cosiddetto tokenmaxxing, cioè l’aumento dell’uso senza un legame dimostrato con prodotti migliori.
Il rapporto tra Amazon e Anthropic è già strategico e complesso, come mostra il caso del ruolo di Amazon nelle decisioni riguardanti i modelli Anthropic. L’episodio sui costi non mette in discussione l’intera collaborazione, ma chiarisce che distribuire un modello su larga scala richiede una disciplina diversa dalla semplice sperimentazione.
Quali controlli servono prima di affidare un processo agli agenti IA
La prima protezione è assegnare un limite economico a ogni progetto, applicazione e team. Un avviso mensile non è sufficiente quando un agente può generare migliaia di dollari di consumo in poche ore: servono soglie giornaliere, interruzioni automatiche e notifiche quasi immediate.
- definire un massimo di token e di chiamate per ogni attività
- interrompere automaticamente i processi che superano il budget
- registrare costi, modello e utente per ogni richiesta
- limitare il numero di tentativi consentiti all’agente
- testare il flusso su piccoli campioni prima della distribuzione completa
- confrontare il costo dell’IA con quello di una soluzione software tradizionale
La stessa Amazon fornisce strumenti dedicati al problema. La documentazione di Amazon Bedrock sul monitoraggio dei costi permette di attribuire il consumo a utenti, team, applicazioni e singole richieste, registrando anche il numero di token utilizzati.
Il semplice accesso ai dati non garantisce però che qualcuno intervenga. Nel progetto da 1,8 milioni, il ritardo di cinque mesi suggerisce che mancasse un meccanismo capace di collegare automaticamente il consumo anomalo al budget approvato e di bloccare il servizio prima che la differenza diventasse rilevante.
La questione riguarda anche l’infrastruttura necessaria per sostenere questi sistemi. Il nostro approfondimento sull’impatto dei data center di Google e Amazon mostra che ogni aumento delle elaborazioni comporta non soltanto una spesa economica, ma anche consumo di energia, raffreddamento e nuove capacità di calcolo.
Il caso Amazon non dimostra che gli agenti IA debbano essere evitati. Dimostra che l’autonomia senza limiti finanziari è un rischio operativo. Le aziende dovranno misurare non quanti token vengono consumati, ma quante attività corrette vengono completate e a quale costo rispetto alle alternative.
