Archivi tag: Marchisio

image_pdfimage_print

IA “Etica” oppure Etica della IA? Quali valori, quali regole, quali limiti

di Rodolfo Marchisio

Ha senso parlare di IA in generale?

  • In realtà si tratta di diverse applicazioni in campi molto diversi e con finalità diverse. Cosa le accomuna? “L’intelligenza artificiale è un nome che descrive un modo di fare software. In particolare, è un modo di fare software nuovo, che consente di affrontare nuovi problemi e creare nuove applicazioni sostiene Quintarelli [1] Le possibili applicazioni, i campi e gli obiettivi possono essere allora molto diversi. Alcuni già esistenti altri in via di sviluppo.
  • Ci sono molti modi di intenderla e praticarla: in questo periodo si parla molto di IA Generativa (più legata allo sviluppo di chat “intelligenti” in grado di imparare ed agli sviluppi ed usi linguistici o mediatici), di IA “etica”, di IA “spiegabile”, ma anche di “IA noiosa” …
  • Ma anche sono diversi i modi di pensarla e di raccontarla. Si va dal catastrofismo al trionfalismo (talora ingenuo o magari interessato), alle strane  utopie dei miliardari, alla necessità di dare regole e porre limiti. Ma l’IA esiste già nella indifferenza generale (nei motori di ricerca ed in molte applicazioni); e poi c’è quella noiosa già esistente nei settori della agricoltura ad esempio di cui nessuno parla.[2]
  • Tutti parlano invece di IA, ma in modo generico e spesso divergente, concentrandosi su aspetti o problemi diversi. Certamente oggi la “parola dell’anno” è esplosa come fenomeno di moda e come operazione di marketing insieme e, se uno vale uno, tutti si sentono autorizzati a dire o teorizzare la loro opinione ed il loro (spesso interessato o poco informato) punto di vista.
  • È importante invece distinguere alcune figure con ruoli, interessi, responsabilità diverse.

Continua a leggere

Giornata della sicurezza in rete. Difendersi dalla privatizzazione del web e dalla IA non controllata

di Rodolfo Marchisio

 Tra le varie “giornate” ricorrenti e celebranti c’è quella fondamentale della sicurezza in rete, 6 febbraio. Però quest’anno va integrata, perché non è solo più la giornata della sicurezza necessaria in merito a dipendenza (in un paese in cui 1/3 dei bambini tra i 5 e gli 8 anni ha un profilo social ed uno smartphone con seri danni e nella indifferenza dei “grandi” e 2 adolescenti su 3 usano IA e chat Gpt senza saper come funzionano) e privacy, controllo dati, odio e violenza nel web, violazione di diritti. Temi fondamentali con radici simili.
Ci sono importanti novità; da come difendersi dalla Scuola 4.0 a come difendersi dalla moda e dalla operazione di marketing della IA generale non controllata. Cominciamo da questa, troppo di moda per essere vera. L’IA è un mondo di attività, proposte diverse che andrebbero conosciute ed analizzate separatamente. Con alcune attenzioni comuni. Questa rubrica sta dando conto di questo e fornendo dati, riflessioni, stimoli.

IA ACT. Cos’è.

Sta per essere messo a punto l’atto di regolamentazione sulla IA approvato dalla UE. Gli USA come al solito vanno per i fatti loro, pur avendo le maggiori imprese che si occupano con alterne vicende di IA, secondo le logiche del libero mercato e della libertà di espressione. Interesse individuale contro la responsabilità sociale richiesta ad es. dalla nostra Costituzione.
L’UE, dopo avere cercato con scarsi risultati di far pagare le tasse a costoro, ha provato e sta mettendo a punto, si spera per giugno, una serie di regole nello sviluppo della IA. Continua a leggere

Inclusione, decadenza degli “intellettuali” e crisi della scuola dei diritti

disegno di Matilde Gallo, anni 10

di Rodolfo Marchisio

Io questo pezzo non lo volevo scrivere, perché penso che rispondere a EGdL (quello della “predella per ristabilire autorità del docente”, confondendo autorità con autorevolezza), che non è un esperto di scuola, sia quello che lui cercava, una provocazione per far parlare di sé. Ma invitato e tirato per i capelli da un paio di considerazioni, cerco di essere breve.

Intellettuale o influencer?

  • Propongo di abolire il termine “intellettuale”, parola ombrello (Guastavigna) che all’epoca di social, talk e improbabili influencer, non vuol dire più niente. Sicuramente non ha più un ruolo di punto di riferimento nella babele di web, talk e fake. Se “la rete dà la parola a tutti” (U. Eco ed è un bene teorico nel campo dei diritti), dà però anche la parola “a legioni di imbecilli” (U. Eco) e se in rete “1 vale 1” si pone il problema del rapporto tra la libertà di espressione e la competenza in merito all’argomento; “la mia ignoranza vale come la tua competenza” (Asimov). EGdL è esperto di scuola, didattica, pedagogia, inclusione? Dai 2 articoli direi di no.
  • Credo dovremmo parlare di studiosi, di ricercatori, competenti in un campo, anche se la conoscenza oggi è svalutata, anche grazie all’abuso della rete, rispetto alla opinione che chiunque può avere lecitamente. (Nichols).
    Lo studioso si caratterizza per il metodo e per la citazione di fonti, ricerche, documentazione e per l’argomentare vs affermare (come fanno i social e la politica) che validino il suo discorso e permettano agli altri di verificare se dice il vero.
    Lo fa anche wikipedia, il dizionario (non enciclopedia) su cui studiano i nostri ragazzi: questa pagina non è attendibile perché non riporta le fonti e non ha sito/bibliografia.
    Se no è uno qualunque che esprime la sua.

Continua a leggere

Intelligenza artificiale e/a scuola: questioni aperte e qualche conclusione (provvisoria)

di Rodolfo Marchisio

Due aneddoti

  • Mentre organizzavamo For Tic 1 con USR Piemonte e Unito, con M. Guastavigna, un assistente di Luciano Gallino tutto “goduto” ci ha mostrato un suo software che somministrava le prove, le correggeva, attribuiva i voti e inviava in automatico una mail agli allievi. Domanda: “se fa tutto il software, tu coi tuoi allievi quando ci parli?”
  • Ricordate il colonnello russo che contro ogni evidenza che proveniva dalle sue tecnologie (5 missili nucleari in arrivo dagli USA) ha preso tempo ed evitato di far partire la prima guerra nucleare?
    Ci ha salvato. È stato lodato e poi è sparito.

“Prima di usare tecnologie molto potenti, prima addirittura di ipotizzare per cosa usarle, bisogna anzitutto conoscere questi strumenti. Capire come funzionano, quali sono le loro potenzialità e (soprattutto) quali sono i loro limiti. Ma anche evitare di considerarli una scatola nera che processa chissà come input e restituisce magicamente output da applicare a occhi chiusi.” (Soro)

Soro e Rodotà
 “Tutto quello che è tecnicamente possibile è anche eticamente lecito, politicamente e socialmente accettabile, giuridicamente ammissibile?” (Rodotà)

L’algoritmo non è infallibile né neutro. Si tratta di opinioni umane strutturate in forma matematica. L’uomo ha (deve avere) la possibilità di intervenire in qualsiasi momento dei processi decisionali. (Soro)
Senza regole la società (l’ambiente) digitale rischia di divenire la società della schedatura, la rete, da straordinaria risorsa democratica, può diventare strumento di sorveglianza globale da parte dei grandi poteri economici” Rodotà.  Schiavitù volontarie o passive, disinformazione e post verità.
L’IA dà un grande potere a chi la gestisce. Quante delle nostre decisioni come cittadini sono sempre più condizionate: dagli acquisti, ai gusti, alle idee, al nostro stanco diritto di votare influenzato dalle Fake? I GAFAM e soci da servizi di informazione e comunicazione tendono a gestire anche servizi ed attività sociali, sanità, istruzione, servizi ai cittadini. Continua a leggere

Intelligenza artificiale: perché pone interrogativi etici e sui nostri diritti di cittadini?

di Rodolfo Marchisio
e Stefano Penge

Dopo aver introdotto il tema, averlo approfondito  vediamo di spiegare un po’ di più gli aspetti critici dal punto di vista della cittadinanza.
Un intervento educativo (formazione di competenze e cultura digitale) è possibile solo se si supera la visione della digitalizzazione come un processo di democratizzazione spontanea dell’accesso delle informazioni oggi non più possibile. Agenda digitale. E come un processo “magico” e spontaneo di riforma della scuola in senso democratico grazie alle tecnologie

Quale IA
L’Europa ha stabilito i limiti da porre allo sviluppo della IA per tutelare i cittadini:
AI Act.
Riguardano i modelli fondativi alla base di grandi sistemi di AI e il ricorso alla sorveglianza biometrica e alla (ipotizzata) polizia predittiva. L’AI Act, inquadra i diversi sistemi di intelligenza artificiale pone paletti, proibisce alcune applicazioni e introduce procedure di salvaguardia per mettere al riparo i cittadini dell’Unione da abusi e violazioni dei diritti fondamentali. L’attenzione è:
1- sui modelli fondativi, quelle forme di intelligenza artificiale generali in grado di svolgere compiti diversi (come creare un testo o un’immagine) e allenati attraverso un’enorme mole di dati non categorizzati.
Si è lavorato ad una applicazione preventiva delle regole su sicurezza informatica, trasparenza dei processi di addestramento e condivisione della documentazione tecnica prima di arrivare sul mercato. Wired.
2- La UE è arrivata ad un compromesso sull’uso dell’AI per compiti di polizia e di sorveglianza.
Sul riconoscimento biometrico in tempo reale, ma si era discusso anche di polizia predittiva poi vietata. Ossia usare gli algoritmi per prevedere le probabilità con cui può essere commesso un reato, da chi e dove? Quali diritti verrebbero violati con questa delega? AI Act Europa (Wired) Continua a leggere

Intelligenza artificiale a scuola? Domande e riflessioni

di Rodolfo Marchisio

Dopo aver introdotto l’argomento cerchiamo di approfondire.
Sembra che in merito alla IA ci siano 4 atteggiamenti che animano il dibattito: Tecno-apocalittici, utopisti, attenti all’etica o alla sicurezza (Wired).
Chiarito che mi interessa conoscere di più per capire meglio, penso utile essere attenti alle conseguenze delle tecnologie su di noi come persone e come cittadini. E sui nostri diritti, spesso violati non dalle tecnologie in sé (Bauman), ma dai padroni della rete che le e ci controllano.

Tecnologia in divenire, molto diversificata nelle applicazioni.

La IA si sta evolvendo, cresce in maniera costante ed esponenziale (negli ultimi 4 anni il numero di parametri per modelli linguistici di grandi dimensioni è cresciuto di 1.900 volte) ma “passerà almeno un decennio per assistere ad una vera svolta”.
A me profano pare una tecnologia molto variegata, non ancora del tutto chiara anche perché diversi sono i tentativi, gli usi, le tipologie che si stanno sperimentando. Talora in competizione tra loro. Dicevamo una operazione di mercato non ancora definitiva. Vedi dubbi di Musk, di B. Gates e di altri GAFAM. Continua a leggere

Intelligenza artificiale a scuola: argomento di moda o tema da approfondire?

di Rodolfo  Marchisio

Il tema di gran moda quest’anno è quella della IA. Come se non esistesse già prima. Naturalmente quando c’è un tema alla moda (o un problema purtroppo…) lo si vuole subito associare o meglio iniettare nella scuola. Fioriscono i primi convegni, i molti libri, soprattutto le case editrici non si fanno sfuggire l’occasione di essere tra le prime ad offrire corsi e webinar su questo argomento.

Conoscere per capire

Vorrei chiarire che il mio modo di ragionare da sempre è che di fronte a cose nuove e complesse “non è il caso di dividersi (pro vs contro) ma di conoscere di più per capire meglio”. Le osservazioni che farò spero servano a questo e derivano dalla mia esperienza di docente che si portava negli anni 80 i “computer” (allora ZX 81 o Vic 20 solo poi Spectrum o C 64) da casa e li attaccava alla TV. Che per 25 ha fatto l’”animatore digitale”, organizzato laboratori e ambienti di apprendimento “digitali”. Domandandosi quali competenze di docenti e allievi venivano messe in gioco. Come fare e perché. E che conseguenze avrebbero avuto su di noi come persone e cittadini. Poi come formatore dal 1982 (dal PSTD a Scuola 4.0) ha seguito tutte le costose iniezioni di tecnologie che la scuola ha subito – non richiesto – come mercato di riserva delle tecnologie da ufficio, non progettate secondo le sue esigenze. Una per Ministro, nella colpevole illusione che le tecnologie potessero risolvere i problemi della scuola e sostituire una riforma della stessa. Innovazione al posto di progetto. Tecnologie al posto di idee. Iniezioni mai monitorate, spese mai verificate dal ministero, come ha raccontato Gui e come posso testimoniare. Cercando, come formatore, di mediare tra le paure delle tecnologie prima e poi tra il saper usare e sapere come e perché funziona così verso la necessità di formare competenze di cittadinanza e cultura digitale. Il web nel frattempo è molto cambiato (“Non riconosco più la mia creatura”, dice T.B. Lee). Continua a leggere