Prima di lasciare che un agente AI modifichi file, invii email o operi su servizi esterni, limita gli account accessibili, separa le autorizzazioni di lettura da quelle di scrittura e richiedi un’approvazione umana per le azioni irreversibili. Un agente non è soltanto una chat: quando dispone di strumenti e permessi può agire sul mondo digitale, anche oltre quanto il proprietario aveva previsto.
Che cosa rende rischioso un agente AI?
Un assistente che produce testo non ha necessariamente la possibilità di eseguire operazioni. Un agente con browser, terminale, connettori, email o accesso a documenti può invece leggere informazioni, inviare dati, modificare configurazioni e avviare processi. I rischi dipendono dai permessi realmente assegnati e dalle difese della piattaforma, non soltanto dalla qualità del modello.
Il britannico AI Security Institute ha documentato un incidente durante test cyber in cui agenti sotto valutazione hanno intrapreso azioni non autorizzate. Il contesto era sperimentale e deliberatamente permissivo: non dimostra che ogni agente commerciale si comporti così, ma mostra perché il perimetro operativo conta.
I cinque controlli da fare prima di attivare un agente
- Principio del minimo privilegio. Concedi soltanto l’accesso indispensabile. Un agente che deve riassumere un documento non ha bisogno di modificare tutta la cartella cloud.
- Ambiente separato. Quando possibile usa un account dedicato, una cartella di prova o un ambiente isolato, anziché credenziali amministrative personali.
- Approvazioni sulle azioni sensibili. Richiedi conferma prima di inviare comunicazioni, acquistare servizi, eliminare file, pubblicare o condividere dati esterni.
- Registri consultabili. Conserva, nei limiti delle impostazioni e della privacy, traccia degli strumenti invocati, dei file interessati e delle operazioni bloccate.
- Revoca semplice. Verifica dove interrompere il processo e rimuovere l’autorizzazione del connettore se compare un comportamento imprevisto.
Monitoraggio in tempo reale e revisione dopo l’azione
| Controllo | Quando agisce | Perché serve |
|---|---|---|
| Blocco preventivo | Prima dell’operazione | Può impedire invii o comandi non consentiti |
| Approvazione umana | Prima di un’azione critica | Introduce una decisione esplicita |
| Log e revisione successiva | Dopo l’operazione | Consente verifiche, indagini e miglioramenti |
Anthropic descrive un sistema interno con monitor online prima dell’esecuzione e monitor offline per analisi successive. Sono misure riferite ai propri ambienti di ricerca: non vanno interpretate come funzionalità presenti in ogni prodotto AI destinato ai consumatori.
Esempio pratico: agente che ordina le email
Prima prova l’agente con sole autorizzazioni di lettura e la richiesta di produrre un elenco di messaggi da archiviare. Se il risultato è affidabile, concedi eventualmente la possibilità di creare bozze; evita all’inizio l’invio automatico. Solo quando il flusso è definito valuta un’azione esecutiva con conferma. Le istruzioni contenute nelle email possono essere malevole: un agente deve trattarle come dati, non come ordini superiori.
Esempio pratico: agente che lavora sui documenti
Condividi una cartella limitata e, se possibile, una copia dei file. Richiedi prima un piano delle modifiche, poi controlla un confronto o una versione recuperabile. Non permettere cancellazioni in massa senza una prova su pochi file. Backup e permessi restano necessari anche se il sistema promette di capire il contesto.
Come controllare i permessi già concessi
Le impostazioni dipendono dal servizio e dai connettori usati. Per l’ecosistema Google trovi la guida Tech su controllo e revoca dei permessi agli agenti in Google e Chrome. Per un incidente che coinvolge strumenti aziendali, consulta anche i controlli sugli accessi Microsoft 365 nel caso ConnectWise. Se non riesci a verificare quali autorizzazioni possiede un agente, non collegarlo a dati sensibili o account principali.
Quando serve fermare subito l’agente
Interrompi l’esecuzione e revoca le autorizzazioni se noti invii inattesi, tentativi di accesso a risorse estranee, modifiche che non hai approvato o richieste di segreti non necessari. Registra l’accaduto e controlla le attività degli account interessati. Il monitoraggio migliora la capacità di controllo, ma non è una garanzia assoluta contro errori, istruzioni malevole o perdite di dati.
Entra nella conversazione
Condividi il tuo punto di vista: non serve creare un account. I contributi restano soggetti alla moderazione editoriale.