Intelligenza artificiale a scuola? Domande e riflessioni

di Rodolfo Marchisio

Dopo aver introdotto l’argomento cerchiamo di approfondire.
Sembra che in merito alla IA ci siano 4 atteggiamenti che animano il dibattito: Tecno-apocalittici, utopisti, attenti all’etica o alla sicurezza (Wired).
Chiarito che mi interessa conoscere di più per capire meglio, penso utile essere attenti alle conseguenze delle tecnologie su di noi come persone e come cittadini. E sui nostri diritti, spesso violati non dalle tecnologie in sé (Bauman), ma dai padroni della rete che le e ci controllano.

Tecnologia in divenire, molto diversificata nelle applicazioni.

La IA si sta evolvendo, cresce in maniera costante ed esponenziale (negli ultimi 4 anni il numero di parametri per modelli linguistici di grandi dimensioni è cresciuto di 1.900 volte) ma “passerà almeno un decennio per assistere ad una vera svolta”.
A me profano pare una tecnologia molto variegata, non ancora del tutto chiara anche perché diversi sono i tentativi, gli usi, le tipologie che si stanno sperimentando. Talora in competizione tra loro. Dicevamo una operazione di mercato non ancora definitiva. Vedi dubbi di Musk, di B. Gates e di altri GAFAM.

Dubbi su IA e cittadinanza

Non controlliamo i suoi effetti. Ma anche il suo uso, perché è in mano ai padroni della rete che hanno denaro e tecnologie potenti.
Noi non possiamo “costruire” IA né spesso controllarla. Penge rifacendosi alla contrapposizione software free, open /proprietario paragona “la IA ad una piccola bomba atomica che non abbiamo gli strumenti per costruire in modo libero perché non avremo mai quella potenza di fuoco. Con cui però stiamo giocando.”
Che ha ancora parecchi difetti: riconoscimento facciale tarato sui bianchi caucasici, discriminazioni di genere; controllo, gestione, dati; “nutrimento” ed addestramento.
Che ha un grosso bisogno di essere nutrita da noi, dai nostri dati e prodotti e dipende da chi la propone e dal perché la propone: la colpa non è del web (Bauman), ma dei padroni della rete. Quindi le polemiche sui dati e prodotti e di chi potranno essere usati per nutrire e far crescere applicazioni di IA. Tutti i nostri dati e scritti online, anche quelli con diritto d’autore? Chi autorizza chi? Chi ci tutela?

L’impressione è che sia al momento una “parola ombrello” (Guastavigna), che contiene cose diverse ed ha diversi significati; che prima di somministrare agli allievi, vanno chiariti e distinti: cosa, a chi, perché e come?
La mia attenzione è concentrata sulla strada indicata da S. Turkle di domandarsi non cosa fare col web ma cosa il web (compresa l’IA) fa a noi, al nostro cervello, alla nostra sfera reazionale, emotiva. Ed ai nostri diritti.

Rischi denunciati

“La crescente capacità di automatizzare le decisioni su larga scala è un’arma a doppio taglio; com’è noto: il rischio discriminazione non è mai lontano. Gli algoritmi elaborati sui dati storici rafforzano e amplificano i pregiudizi e le disuguaglianze già esistenti, con annessi rischi e minacce per i principi democratici.”
“Ridurre al minimo gli impatti negativi sulla società e valorizzare quelli positivi richiede quindi più che sole soluzioni tecnologiche; è necessario un impegno costante e un’attenzione continua della società. Pertanto, la preoccupazione più immediata per l’IA è cosa accadrà se verrà incorporata irrimediabilmente nella vita quotidiana prima che le sue criticità siano completamente risolte.”
I Garanti europei per la protezione dei dati, affermavano che “applicazioni come il riconoscimento facciale dal vivo interferiscono con i diritti e le libertà fondamentali in misura tale da poter mettere in discussione l’essenza di tali diritti e libertà. […] Un divieto generale dell’uso del riconoscimento facciale nelle aree accessibili al pubblico è il punto di partenza necessario se vogliamo preservare le nostre libertà e creare un quadro giuridico incentrato sull’uomo per l’IA”. (Agenda digitale)

Uno studio dell’Università di Stanford indica che i successi del settore rendono ora indispensabile pensare seriamente ai lati negativi e ai rischi che un’ampia applicazione dell’IA può rivelare.

Rampini, Bauman, Pariser, Zuboff ed altri ci hanno insegnato che l’alternativa già oggi nel web è tra essere dominati passivamente o cercare di conoscere e contrastare i metodi dei sistemi economici, politici, sociali che stanno dietro agli ambienti, che ci vengono imposti.
Quindi l’alternativa è cercare di dominare un po’ di più o essere dominati
Se noi cittadini siamo “prigionieri del capitalismo oligopolistico oggi digitale” dobbiamo avere la umiltà di ammettere che siamo tutti dei primitivi…e recuperare il senso critico nei (dei) tempi critici in cui viviamo. (De Kerchove).

Scuola

Se anche la scuola è (già) prigioniera del capitalismo oligopolistico oggi digitale. Bonsanto, Micro Mega, ci fermiamo a riflettere?

a) Perché (e come) proporla a scuola?
b) Ne ha bisogno la scuola (in genere priva di cultura digitale diffusa)?
c) L’ha chiesta per risolvere qualche suo problema o ne ha già troppi?
d) A che livello di scuola è proponibile?

Tutte le mode e tutti i problemi si riversano in una scuola/contenitore di tutte le mode e di tutti i problemi, nonostante il disorientamento o l’esaurimento dei docenti. Non bastano un referente e qualche iniziativa per problema (Digitale, Ed Civica, Orientamento, Educazione alla relazione ed affettività, STEM …). La ed. civica al quarto anno di sperimentazione non è stata attivata in alcune scuole o in alcune classi e non da tutti i docenti. La scuola 4.0 quanti docenti coinvolgerà realmente? Mi pare che più aumenta la pressione sulla scuola per risolvere problemi complessi che riguardano la società, la politica, la famiglia, meno docenti si lascino coinvolgere. “Mi hanno lasciata sola” dice una referente di Ed. Civica.
D’altra parte anche Dig Comp 2.2. (marzo 22) “affronta l’interazione dei cittadini con sistemi basati su IA non sulla conoscenza tout court della stessa.
Le competenze digitali, non si possono ridurre a degli insegnamenti funzionali a singoli compiti, ma necessitano di una costante contestualizzazione culturale, politica e sociale.”

Approfondiremo ancora.