Fidarsi dell’IA è possibile?
C’è davvero qualcosa di paradossale nel dibattito sull’intelligenza artificiale (IA). Mentre milioni di persone stanno imparando a “fidarsi” di ChatGPT, Claude e degli altri sistemi generativi, alcuni di coloro che contribuiscono a costruirli, istruirli e svilupparli verso una “super IA” cominciano ad affermare pubblicamente che forse dovremmo essere molto più prudenti.
È accaduto nei giorni scorsi con Jacob Coxon, 27 anni, ricercatore che negli ultimi tre anni ha lavorato prima in OpenAI e poi in Anthropic. Ha lasciato l’azienda denunciando quella che considera una corsa irresponsabile verso sistemi di super-intelligenza capaci di auto-migliorarsi e, quindi, di prendere decisioni in autonomia. Le sue parole sono volutamente dure e un po’ apocalittiche: le aziende starebbero “giocando con le nostre vite”.
Ci si domanda: ha ragione? Nessuno oggi può dirlo con certezza. E sarebbe ingenuo trasformare ogni previsione catastrofica in una profezia alla greca, proprio come sarebbe superficiale liquidarla come semplice allarmismo complottiate. Il gesto di Coxon, per queste ragioni, pone una domanda interessante: se persino chi lavora dall’interno allo sviluppo di questi sistemi ritiene che il problema del controllo sia ancora aperto, perché noi utenti dovremmo semplicemente a “fidarci” dell’intelligenza artificiale?
Forse è proprio la parola fiducia a portarci fuori strada rispetto a questo interrogativo. Al riguardo, il filosofo Christian Budnik, in un recente articolo pubblicato su Philosophy & Technology, dal titolo “Can We Trust Artificial Intelligence” propone una distinzione preziosa. Una cosa è fidarsi, un’altra è fare affidamento. Posso fare affidamento sul navigatore satellitare, sul freno della mia automobile o su un algoritmo diagnostico perché ho buone ragioni per considerarli affidabili. Ma se sbagliano non mi hanno “tradito”, come accade fra esseri umani. La fiducia appartiene a un altro ordine: presuppone coscienza, responsabilità, reciprocità, aspettative morali.
E qui la questione del rapporto con l’IA diventa, allora, ancora una volta, educativa. Che cosa accade quando un adolescente conversa ogni giorno con una macchina che risponde con sicurezza, consiglia, incoraggia, corregge, interpreta e sembra perfino comprenderlo? Il rischio non è soltanto che l’IA fornisca una risposta sbagliata, ovvero la cosiddetta “allucinazione”. Il rischio più sottile è che il giovane impari ad attribuirle un’autorità che non possiede e, poco alla volta, a delegarle qualcosa che dovrebbe restare solo suo: il giudizio intorno al significato di ciò che pensa, compie e vive.
Più la macchina appare umana, più diventa facile dimenticare che dietro ogni sistema esistono progettisti, imprese, interessi economici, scelte tecniche e responsabilità umane. Parlare troppo facilmente di “fiducia nell’IA” può perfino occultare questa rete di responsabilità. Forse, allora, la scuola non dovrebbe educare i ragazzi a fidarsi dell’IA. Dovrebbe educarli a impiegarla in modi affidabili, cioè posti sotto il vagli critico della riflessione: verificare le risposte, chiedere le fonti, riconoscere i limiti, confrontare interpretazioni, sapere quando non usarla.
Perciò, se risulta esagerato parlare di fiducia in una macchina che chiamiamo intelligente, ciò su chi possiamo interrogarci è se sia opportuno impiegare sistemi informatici autonomi, sufficientemente affidabili da poter essere comunque controllati, discussi e, quando necessario, contestati. E soprattutto abbiamo bisogno di evitare facili allarmismi, educando a porre domande pertinenti rispetto agli ambiti di significato e di esperienza in cui vengono poste. In questo caso: non “mi fido?”, ma “perché dovrei farvi affidamento in ciò che mi interessa fare e conoscere?”.
La differenza sembra piccola. Potrebbe essere, in realtà, una delle grandi questioni educative dei prossimi anni. E, forse, di tutti i tempi.
