8 novembre 2026
Perché nelle mie soluzioni di AI c’è sempre una persona che controlla
C’è una tentazione, quando si costruisce uno strumento di intelligenza artificiale, ed è lasciarlo andare. La demo è più bella se la risposta esce da sola, in un secondo, senza che nessuno la tocchi. Io quella tentazione la rifiuto. Nelle soluzioni che progetto c’è sempre una persona che controlla il risultato prima che diventi una decisione, un documento, un messaggio al cliente, un numero che qualcuno userà.
Un confine di responsabilità
Non è prudenza da slogan. È un confine di responsabilità. Se lo strumento sbaglia e nessuno guarda, l’errore ha la mia firma lo stesso, perché l’ho messo io in mezzo al lavoro. Se qualcuno guarda, l’errore può fermarsi. Il tempo che si «perde» a controllare è il tempo che non si perde a rifare, a scusarsi, a ricostruire un file partito storto.
Ho imparato a diffidare delle cose che escono senza un passaggio umano molto prima di occuparmi di AI. In un negozio, lo scontrino che non torna non si sistema da solo. In una società, un numero in un report che nessuno ha riletto diventa, il mese dopo, una decisione. Quando in To Be mettevo in piedi procedure e strumenti di reporting per progetti energetici, il punto non era produrre più carte. Era fare in modo che un passaggio fosse ripetibile e che qualcuno potesse verificarlo. Una SOP che nessuno legge è un file. Una SOP con un controllo è un mestiere.
Una frase sicura non è una frase controllata
Con l’AI il rischio è più alto, non più basso, proprio perché la forma è convincente. Una frase ben scritta sembra controllata. Non lo è. Immagina — ed è un caso ipotetico, non un incidente che sto raccontando di un cliente — un’impresa che chiede a un assistente «quale versione del computo mandiamo?». Lo strumento ne sceglie una, con tono sicuro, perché nel mucchio di PDF quella versione è la più recente per data del file, non per decisione. Parte una mail. In cantiere si lavora su un numero vecchio. Il risparmio di trenta secondi costa una variante. Nessun modello «sa» qual è la versione giusta se la regola non è stata scritta e se una persona non conferma i casi dubbi.
Tre colonne, non due
Per questo Chiedi al Capo, l’esempio che uso sul sito, ha tre colonne e non due. Il team fa la domanda. L’assistente propone. Una persona valida. La simulazione non è un cliente e non ha un risultato misurato: è il flusso che voglio si veda. Senza la terza colonna, l’assistente è un centralino più veloce, non un aiuto. Con la terza colonna, il titolare può uscire dalle domande già risposte e restare su quelle che cambiano davvero qualcosa.
Il controllo non significa rileggere tutto ogni volta come se lo strumento non esistesse. Sarebbe un doppio lavoro, e allora tanto vale non costruirlo. Significa decidere, in fase di mappatura, che cosa può passare con una verifica rapida e che cosa non deve passare affatto. Un promemoria interno non è un bilancio. Un testo che va a un cliente, o un numero che entra in un documento ufficiale, non esce da solo. La lista di cui parlo nell’altro appunto serve anche a questo: a separare.
Fiducia
C’è una questione di fiducia, e non la tratto come un tema da conferenza. Le persone usano uno strumento se, quando sbaglia, c’è un modo per fermarlo e se sanno chi risponde. Se la risposta è «l’ha detto la macchina», non lo useranno per le cose serie, oppure lo useranno e poi daranno la colpa in giro. Io preferisco un circuito corto: lo strumento propone, una persona con un nome convalida, e se serve si corregge la regola. La fiducia si accumula così, non con una demo.
Ho guidato società in cui i numeri contavano sul serio: da CFO in HKR System e in Phytos Nutraceutica, due startup di cui ero anche fondatore, e da amministratore e direttore in Universal. Non sto dicendo che lì usassimo gli agenti di cui parlo oggi. Dico che il riflesso è lo stesso. Un numero che nessuno ha guardato non è un numero. È un’ipotesi con un carattere tipografico più pulito.
Anche il servizio che Atlas sta preparando — ne scrivo a parte, con il link all’azienda — tiene lo stesso schema: i documenti entrano, un agente estrae, i software preparano, un professionista valida. Se togli l’ultimo passaggio, ciò che resta può essere veloce e inaffidabile. Per una diagnosi energetica, un carbon footprint o un bilancio di sostenibilità, inaffidabile è peggio che lento.
Non prometto che il controllo renda tutto sicuro. Prometto che senza non firmo il lavoro. L’analisi gratuita di trenta minuti, se la facciamo, include anche questa domanda: chi, nella tua azienda, è la persona che può dire «sì, questo può uscire»? Se non c’è una risposta, non si parte dallo strumento. Si parte da lì.