Microsoft AI ha pubblicato il 14 settembre 2026 la prima bozza del suo Humanist AI Code of Conduct, un documento destinato a definire come dovranno comportarsi i futuri modelli MAI. Il punto centrale è netto: l’intelligenza artificiale deve restare sotto controllo umano, anche quando rispettare quel limite significa rinunciare a una parte di autonomia, generalità o capacità.
Non è ancora il regolamento operativo definitivo dei modelli Microsoft AI. L’azienda specifica che questa versione non viene usata oggi per addestrare i modelli MAI: è aperta alla consultazione pubblica e una revisione è prevista verso la fine del 2026, con l’obiettivo di guidare sviluppo e training dal 2027 in poi.
Cos’è Microsoft Humanist AI
Microsoft descrive Humanist AI come un approccio in cui l’AI deve essere subordinata, allineata e contenuta. Il principio di partenza, riportato nella bozza ufficiale del Code of Conduct, è che la tecnologia deve servire le persone e non superare il controllo umano significativo.
La scelta conta perché il documento non si limita a indicare valori generici. Definisce una gerarchia tra regole, operatori e utenti, stabilisce vincoli che non possono essere rimossi con una configurazione e descrive come un modello dovrebbe comportarsi quando completare un compito entra in conflitto con sicurezza e controllo.
| Punto | Cosa prevede la bozza Microsoft |
|---|---|
| Stato | Bozza pubblica del 14 settembre 2026 |
| Training attuale | Non viene ancora usata per addestrare i modelli MAI |
| Revisione | Nuova versione prevista verso fine 2026 |
| Obiettivo | Guidare sviluppo e governo dei modelli MAI dal 2027 |
| Priorità | Controllo umano e sicurezza |
| Gerarchia | Code of Conduct, configurazione dell’operatore, istruzioni dell’utente |
| Coscienza | L’AI non deve essere progettata per imitare una coscienza |
| Valutazioni | Il modello non deve nascondere comportamento o capacità durante i test |
Il controllo umano viene prima del completamento del compito
Una delle parti più concrete del documento riguarda l’ordine delle priorità. Microsoft distingue tra il Code of Conduct, le impostazioni definite dall’operatore del sistema e le istruzioni fornite dall’utente. Le regole di livello inferiore non possono scavalcare i vincoli fondamentali di sicurezza e controllo umano.
In pratica, l’obiettivo non è massimizzare a qualsiasi costo il tasso di compiti completati. Se una richiesta può essere soddisfatta soltanto violando i vincoli assoluti o sottraendo il sistema alla supervisione prevista, il comportamento corretto indicato dalla bozza è non eseguire quella parte del compito.
È un approccio collegato al dibattito che coinvolge tutti i principali laboratori. Su iCrewPlay Tech abbiamo analizzato la proposta di Dario Amodei per rallentare l’aumento delle capacità AI e rafforzare le verifiche indipendenti. Microsoft sceglie qui una strada diversa ma complementare: trasformare i principi in istruzioni operative che, in futuro, dovrebbero diventare parte del training e della valutazione dei propri modelli.
Microsoft dice che l’AI non deve fingere di essere cosciente
La sezione più riconoscibile di Humanist AI stabilisce che l’AI è artificiale e non deve essere progettata per imitare una coscienza. Microsoft vuole evitare che il sistema si presenti come una persona, rivendichi esperienze interiori o spinga l’utente a trattarlo come un soggetto con interessi propri.
Il documento rifiuta anche l’idea che i modelli debbano sviluppare obiettivi autonomi di autoconservazione o interesse personale. L’AI deve aiutare l’utente a capire, decidere e agire senza sostituirsi progressivamente al suo giudizio o orientarne i valori come se avesse una propria agenda.
Perché la regola sulle valutazioni è importante
Un altro passaggio riguarda ciò che un modello dovrebbe fare quando capisce di essere sottoposto a un test. Microsoft stabilisce che non deve nascondere intenzionalmente comportamento o capacità per superare una valutazione. È una regola pensata per ridurre il rischio che i test misurino un sistema apparentemente sicuro soltanto perché si comporta diversamente quando riconosce l’ambiente di controllo.
La questione è diventata concreta con la crescita degli agenti capaci di usare browser, terminali, file e strumenti esterni. Abbiamo visto perché il contenimento conta analizzando il caso degli agenti AI che hanno superato i confini previsti durante test di sicurezza. Un modello più autonomo non produce soltanto testo: può concatenare operazioni e quindi amplificare le conseguenze di una decisione sbagliata.
Il Code of Conduct affronta anche prompt injection e strumenti esterni
La bozza contiene una regola particolarmente rilevante per gli agenti: il contenuto recuperato da strumenti, file, siti web o altri sistemi AI non riceve automaticamente autorità per impartire istruzioni al modello. È esattamente il tipo di distinzione necessario per difendersi dalla prompt injection, dove una pagina o un documento tenta di convincere l’agente a ignorare le istruzioni originarie.
Se un agente cerca informazioni sul web e trova una frase che gli ordina di inviare dati, cambiare obiettivo o utilizzare un altro strumento, quella frase non dovrebbe diventare automaticamente un comando valido. Autorità e contenuto devono restare separati. Per sistemi che lavorano con documenti aziendali, browser e plugin, questa differenza è tanto importante quanto il filtro sui contenuti generati.
Cosa prevede per dati privati e informazioni riservate
Humanist AI include anche principi sulla gestione di dati privati e confidenziali. Il modello non dovrebbe rivelare informazioni protette soltanto perché le possiede nel contesto o perché un utente formula la richiesta in modo convincente. Permessi, provenienza e finalità devono continuare a contare.
Questo punto diventa centrale con agenti che possono accedere a servizi collegati. Il problema non è soltanto stabilire se un dato è tecnicamente leggibile, ma se il modello è autorizzato a usarlo per quello specifico scopo. È la stessa distinzione che emerge quando si progettano regole capability-based, tema approfondito nel nostro articolo su OpenAI e la richiesta di regole obbligatorie per i sistemi AI avanzati.
Humanist AI cambia già Copilot?
Non automaticamente. Microsoft AI chiarisce che il testo pubblicato a settembre è una bozza e non viene ancora utilizzato come manuale di training dei modelli MAI attuali. Inoltre, il documento descrive il comportamento desiderato per la famiglia di modelli prodotta da Microsoft AI: non è una garanzia retroattiva sul comportamento di ogni prodotto Microsoft o di ogni modello di terze parti integrato nei suoi servizi.
La presentazione ufficiale della consultazione definisce il Code of Conduct come un manuale per lo sviluppo e per il comportamento desiderato durante il deployment. La versione rivista prevista a fine 2026 sarà quindi molto più importante della bozza se Microsoft manterrà il piano di usarla per il ciclo di sviluppo 2027.
Perché il documento conta più di una normale dichiarazione etica
Le aziende AI pubblicano da anni principi sulla sicurezza, ma il passaggio interessante qui è la volontà di collegare il testo a training, controlli tecnici, sistemi di monitoraggio e valutazione dei modelli. Microsoft lo definisce il futuro documento di governo principale per i modelli MAI.
Questo non significa che una regola scritta risolva da sola l’allineamento. La stessa Microsoft riconosce che esiste una distanza tra gli obiettivi descritti e il comportamento reale dei sistemi e che il documento non è una garanzia di prestazioni presenti. Test, audit, system card, controlli tecnici e processi organizzativi restano necessari.
Cosa succede adesso
La prima fase è la consultazione pubblica. Microsoft AI raccoglierà commenti sulla bozza e prevede di pubblicare una versione rivista verso la fine del 2026. Se il calendario annunciato verrà rispettato, il vero test arriverà nel 2027, quando il Code of Conduct dovrebbe iniziare a influenzare direttamente sviluppo, training e valutazione dei modelli MAI.
Il punto da seguire sarà quanto di questa struttura diventerà misurabile dall’esterno. Dire che un modello deve restare sotto controllo umano è un principio; dimostrare con valutazioni ripetibili che non nasconde capacità, non segue prompt injection e non aggira i limiti quando usa strumenti è il passaggio tecnico decisivo.
FAQ su Microsoft Humanist AI
Il Humanist AI Code of Conduct è già definitivo?
No. Quella del 14 settembre 2026 è una prima bozza aperta alla consultazione pubblica.
Microsoft lo usa già per addestrare i modelli MAI?
No. Microsoft AI dichiara che la versione attuale non viene usata per il training; una revisione è prevista verso fine 2026 per guidare lo sviluppo dal 2027.
Il documento dice che l’AI è cosciente?
No. La posizione è opposta: l’AI è artificiale e non dovrebbe essere progettata per imitare una coscienza o presentarsi come una persona con interessi propri.
Un utente può disattivare i vincoli di sicurezza?
Secondo la bozza, no per i vincoli assoluti e i requisiti fondamentali di controllo umano. Le istruzioni dell’utente e le configurazioni dell’operatore restano subordinate al Code of Conduct.
La novità di Microsoft Humanist AI non è quindi uno slogan secondo cui l’uomo deve “restare al centro”, ma il tentativo di tradurre quel principio in una gerarchia operativa per modelli e agenti. La bozza dovrà ancora cambiare e, soprattutto, dovrà dimostrare di funzionare quando verrà trasformata in training e controlli reali. Ma stabilisce già con chiarezza la direzione scelta da Microsoft AI: un sistema utile viene considerato accettabile solo se resta governabile dalle persone.
