Se di tutto il libro doveste portarvi via una sola pagina da usare domani, sarebbe questa. Cinque domande, da porre a chiunque vi proponga uno strumento di intelligenza artificiale per la vostra azienda — comprese le persone e le aziende con cui lavoro io. Nessuna richiede competenze tecniche. Tutte hanno una risposta verificabile, non un'opinione.
1. A quale strato di profondità appartiene davvero quello che mi state vendendo?
Non quanto è potente il modello sotto il cofano: quanto della mia azienda specifica riuscirà a contenere. È come valutare un'auto solo dai cavalli del motore senza chiedere quanti bagagli entrano nel portabagagli — la domanda sulla potenza è legittima, ma da sola non dice nulla su cosa potrete farci davvero.
Diffidate di chi risponde parlando solo di potenza del modello, e mai di quanto contesto specifico della vostra azienda quel sistema arriverà a possedere. I cinque strati sono spiegati qui.
2. Se smettessi di usarvi tra un anno, cosa mi porterei via, e in che formato?
La risposta va vista all'opera su un caso reale prima di firmare, non solo raccontata a voce. «Esportabile» detto a parole e «ecco il file, guardalo» sono due cose diverse.
3. Se questo sistema decide male, chi ne risponde?
Non accontentatevi di un «noi vi supportiamo» generico: chiedete con quale livello di supervisione umana il sistema è pensato per funzionare, e su quali decisioni quel controllo è, per progetto, più stretto.
4. Cosa succede ai miei dati più sensibili?
Restano su un dispositivo che controllo io, o transitano su server di terzi — e se sì, con quale consenso esplicito, revocabile quando lo decido io e non quando lo decide il fornitore?
5. Cosa, di preciso, questo sistema non dovrebbe mai decidere al posto mio?
È la domanda che quasi nessun fornitore si aspetta, e per questo vale più di tutte le altre.
Fatelo anche con noi
Fate questo esperimento anche con me, o con chiunque vi proponga IdemMind, ExoCo o VerifAIAct. Se a una di queste cinque domande non ottenete una risposta chiara, quella reticenza è un'informazione preziosa quanto una risposta convincente — forse di più.
Un'ultima cosa. Tutto ciò che ho scritto sui limiti dell'intelligenza artificiale generica — il ragionamento medio, gli agenti che non decidono, il criterio che non si trasferisce da solo — non è un invito alla prudenza. È esattamente il contrario. Sono i limiti di una tecnologia che, nel frattempo, mette a disposizione di un'azienda di venti persone capacità che vent'anni fa erano riservate a chi ne aveva duemila.
Quel divario, però, non si colma comprando uno strumento. Si colma facendo circolare i dati, mappando come si lavora davvero, trasferendo il criterio con cui si decide e tenendo tutto sotto un controllo proporzionato — quattro cose insieme, non una alla volta e non una sola.