Intelligenza artificiale sicura dove le persone sono più fragili

Perché scuole, ospedali ed enti pubblici sono contesti delicati?

Per tre ragioni. Le persone coinvolte spesso non possono scegliere: un alunno non sceglie la scuola, un paziente non sceglie il reparto, un cittadino non sceglie l'ufficio. I dati sono tra i più protetti: salute, minori, condizioni sociali ed economiche. E le decisioni pesano sulla vita delle persone: una valutazione, una diagnosi, l'accesso a un servizio. Anche la legge lo riconosce: il regolamento europeo sull'intelligenza artificiale (AI Act) tratta come ad alto rischio molti usi nell'istruzione e nell'accesso ai servizi pubblici essenziali, e il GDPR protegge in modo speciale i dati sanitari.

Che cosa può dare l'intelligenza artificiale in questi contesti?

Tempo e attenzione restituiti alla relazione. Meno ore sulle carte (verbali, moduli, sintesi, comunicazioni), più ore con le persone. Materiali adattati a chi ha bisogni diversi. Informazioni più chiare per chi deve orientarsi in un servizio. Il potenziale è reale, ma si estrae solo se la macchina resta uno strumento nelle mani di chi si prende cura, e non prende il suo posto.

Quali interventi servono per usare l'intelligenza artificiale in modo sicuro?

Regole scritte prima, non fiducia. Nessuna regola azzera il rischio: lo riduce e rende visibili gli errori prima che facciano danni. Questi sono gli interventi che considero necessari.

1. Partire dalle persone, non dallo strumento. Prima di scegliere un software si scrive chi è toccato, che cosa può andare storto e per chi. Dove la legge lo chiede, si fa una valutazione d'impatto, sui dati e sui diritti delle persone.
2. Le decisioni sulle persone restano umane. Un voto, una diagnosi, un sussidio, una presa in carico: l'intelligenza artificiale può preparare materiale, non decidere. Chi firma ha visto, capito e può spiegare.
3. I dati delicati non entrano negli strumenti generalisti. Niente nomi, diagnosi o storie di alunni, pazienti e utenti in una chat pubblica. Si usano solo i dati necessari; i nomi diventano codici e le tabelle che li ricollegano alle persone restano in un archivio interno. Pseudonimizzare non è anonimizzare: anche il contenuto può far riconoscere qualcuno, per questo i documenti con dati sanitari o di minori restano fuori.
4. Uno spazio chiuso e permessi minimi. Strumenti scelti e configurati dall'ente, con contratti chiari su dove finiscono i dati. Ogni funzione si accende solo se serve; le password non passano mai dalla macchina.
5. Nessuna azione verso l'esterno senza un sì umano. Email, messaggi alle famiglie, comunicazioni ai cittadini: l'intelligenza artificiale prepara la bozza, una persona la legge e la spedisce. Prima di cancellare qualcosa, una copia.
6. Un secondo sguardo. Un altro modello, di un altro fornitore, e soprattutto un'altra persona rileggono il lavoro e lo confrontano con la richiesta. Trovano molti errori, non tutti: l'ultima verifica resta umana.
7. Trasparenza con le persone. Chi riceve un testo o un servizio sa quando c'è di mezzo l'intelligenza artificiale, e sa a chi rivolgersi per parlare con una persona.
8. Formazione: competenza tecnica ed empatia insieme. Il regolamento europeo chiede a chi usa questi sistemi di saperli usare. Serve di più: allenare l'ascolto, il corpo e il pensiero critico, perché il rischio più grande è delegare per pigrizia la nostra capacità di pensare. È il cuore del Dialogo Incorpo.

Come cambiano gli interventi fra scuola, sanità e pubblica amministrazione?

A scuola la priorità sono i minori: i loro dati, il loro pensiero in crescita, la loro relazione con gli adulti. L'intelligenza artificiale aiuta i docenti a preparare e adattare materiali, non valuta gli studenti al loro posto. Insegno in un istituto tecnico e formo docenti: è il contesto che conosco da dentro.

In sanità e nei servizi di cura la priorità è il segreto sui dati e la relazione con chi soffre. L'intelligenza artificiale può alleggerire la parte amministrativa e la scrittura; la cura, l'ascolto e la decisione clinica restano a chi ha la responsabilità professionale.

Nella pubblica amministrazione e nei servizi sociali la priorità è l'equità: nessuno escluso da un servizio per un errore di un modello, ogni decisione spiegabile e contestabile, ogni cittadino con una persona a cui rivolgersi.

Come si comincia a lavorare con Mauro Sandrini?

Dal modulo: mi racconti il tuo contesto e che cosa vorresti fare. Ti rispondo io, per email. Per le scuole c'è anche il percorso di formazione Il Dialogo Incorpo: IA ed Empatia, che propongo dal 2024 con un'agenzia accreditata dal Ministero dell'Istruzione e del Merito.

Quali dubbi chiarire prima di cominciare?

Posso usare una chat gratuita con i dati dei miei alunni o pazienti?

No. I dati personali di alunni, pazienti e utenti non vanno negli strumenti generalisti. Si lavora con materiale generico o pseudonimizzato, dentro strumenti scelti dall'ente.

L'intelligenza artificiale può decidere al posto di un insegnante, di un medico o di un funzionario?

No. Può preparare, riassumere, proporre. La decisione su una persona la prende una persona, che ne risponde.

Quali rischi restano anche con queste regole?

Un modello può sbagliare, inventare un dato, leggere male un documento o riprodurre un pregiudizio. Le regole servono a far vedere l'errore prima che produca danni: per questo ogni decisione e ogni invio passano da una persona.

Con quali strumenti lavori?

Soprattutto con Claude di Anthropic; per il secondo sguardo, modelli di altri fornitori come OpenAI e Google. Per un ente lo strumento giusto è quello che rispetta i suoi contratti e le sue regole sui dati.

Quanto costa?

Dipende dal contesto e dal lavoro. Scrivimi che cosa ti serve: ti rispondo io.