Intelligenza artificiale: perché pone interrogativi etici e sui nostri diritti di cittadini?

di Rodolfo Marchisio e Stefano Penge Dopo aver introdotto il tema, averlo approfondito  vediamo di spiegare un po’ di più gli aspetti critici dal punto di vista della cittadinanza. Un intervento educativo (formazione di competenze e cultura digitale) è possibile solo se si supera la visione della digitalizzazione come un processo di democratizzazione spontanea dell’accesso delle informazioni oggi non più possibile. Agenda digitale. E come un processo “magico” e spontaneo di riforma della scuola in senso democratico grazie alle tecnologie Quale IA L’Europa ha stabilito i limiti da porre allo sviluppo della IA per tutelare i cittadini: AI Act. Riguardano i modelli fondativi alla base di grandi sistemi di AI e il ricorso alla sorveglianza biometrica e alla (ipotizzata) polizia predittiva. L’AI Act, inquadra i diversi sistemi di intelligenza artificiale pone paletti, proibisce alcune applicazioni e introduce procedure di salvaguardia per mettere al riparo i cittadini dell’Unione da abusi e violazioni dei diritti fondamentali. L’attenzione è: 1- sui modelli fondativi, quelle forme di intelligenza artificiale generali in grado di svolgere compiti diversi (come creare un testo o un’immagine) e allenati attraverso un’enorme mole di dati non categorizzati. Si è lavorato ad una applicazione preventiva delle regole su sicurezza informatica, trasparenza dei processi di addestramento e condivisione della documentazione tecnica prima di arrivare sul mercato. Wired. 2- La UE è arrivata ad un compromesso sull’uso dell’AI per compiti di polizia e di sorveglianza. Sul riconoscimento biometrico in tempo reale, ma si era discusso anche di polizia predittiva poi vietata. Ossia usare gli algoritmi per prevedere le probabilità con cui può essere commesso un reato, da chi e dove? Quali diritti verrebbero violati con questa delega? AI Act Europa (Wired) Continua a leggere→

Loading

CodeFest 2021: una grande manifestazione per capire come funziona il digitale

di Stefano Penge Digitale ovunque. Nella scuola, nel lavoro, nel divertimento. Digitale come servizio, come risorsa a disposizione di tutti, appena girato l’angolo di Google. Tempo fa [1] scrivevo che ci sono tre miti che circolano sulla rete: 1) che sia un ambiente naturale, 2) che le risorse che offre sono gratuite e 3) che siano infinite. Un supermercato infinito, con scaffali pieni di ogni ben di dio, senza nessuno alla cassa. Tanta formazione alla “didattica digitale” si poggia proprio su questi miti. C’è ancora chi proprio non riesce ad adeguarsi al flusso mainstream e si domanda: cosa rende possibile tutto questo?  I computer, certo, i cavi e i satelliti, senz’altro. Ma cos’altro c’è, sotto la superficie? In un senso, sotto ci sono interessi, soldi, potere, che governano questo come altri campi, con buona pace di chi vedo solo futuri rosei in cui intelligenze artificiali e persone andranno a braccetto. Non è per amore della condivisione della conoscenza che possiamo fare ricerche, scambiarci email, tradurre, condividere agende, parlarci a distanza. Ed è curioso che quasi nessuno – in un mondo così attento al profitto, alla conquista di ogni possibile mercato – metta in questione tutta quest’abbondanza di risorse gratuite; non solo quelle create e condivise da docenti-artigiani di buona volontà, ma anche quelle che richiedono enormi centri di calcolo solo per essere distribuite. Cosa ottengono le grandi imprese in cambio di questi servizi gratuiti? Da dove traggono le risorse economiche per restare in piedi? Per quanto tempo questi servizi resteranno gratuiti? In un altro senso, sotto tutti questi servizi c’è il codice sorgente: un testo che fa funzionare i computer, raccoglie e trasforma dati, inventa mondi e connette persone. Anche oggi, nell’era delle interfacce ammiccanti, dei podcast, dei videotutorial, quello che c’è sotto è sempre un testo. Proprio così: solo lettere, numeri e segni di interpunzione, perché è di questo che sono fatti tutti i programmi che fanno girare il mondo, dagli smartphone ai satelliti. Continua a leggere→

Loading

La videoconferenza è nata per comunicare, non per insegnare

rete_numeridi Stefano Penge La DaD è un altro caso di *misuse*, di uso in ambito educativo e scolastico di tecnologie nate per altri scopi e contesti.
La videoconferenza è nata per comunicare, non per insegnare. Gli ambienti come MS Teams o GSuite sono nati per la collaborazione dei gruppi, non delle classi di bambini.
Sono nati per fare altro ma vengono forzati ad un uso molto lontano da quello per cui erano stati progettati e realizzati. Non ne faccio un problema etico: è che quando si progetta un software si parte dai casi d’uso, dai bisogni degli utenti, e si realizzano funzionalità per soddisfare quelli. Quello stesso software che è perfettamente adatto in un contesto funziona malissimo in un altro. Per esempio: voglio fare un quiz e uso uno strumento che serve a fare i sondaggi. Sembra quasi uguale, ma è pensato in maniera completamente diversa: punta ai risultati aggregati, alle statistiche; probabilmente permette solo tipi di domande molto semplici, non quelle a cui avrei pensato (cloze, corrispondenze, trascinamenti). Continua a leggere→

Loading

L'imbuto di Norimberga: attenti alle metafore!

imbutodi Stefano Penge

Stanotte mi è tornata in mente una lezione di Bruno Cermignani, il mio amato professore di Filosofia della Scienza, che ci avvertiva dei rischi che si corrono quando si usa una metafora astratta per comprendere un’esperienza concreta. L’esempio che faceva era quello della conoscenza come specchio del mondo. Astratta, perché del fenomeno del rispecchiamento prendeva solo l’idea, ma non la realtà. Uno specchio non riflette sempre l’oggetto che gli sta di fronte, e l’immagine non è affatto realistica. Ci sono le leggi dell’ottica (la riflessione e l’inversione dell’immagine), ma anche altre condizioni reali, come l’umidità (lo specchio appannato) e la temperatura che può distorcere lo specchio, fino a fonderlo. Uno specchio in un forno non riflette un bel niente..

L’insegnamento come riversamento della conoscenza nella testa di uno studente tramite un imbuto è un caso dello stesso fenomeno. Prima di ridere dell’ingenuità di chi parla di riempire gli imbuti, proviamo a prenderla sul serio (la metafora) e a toglierle la dose di astrattezza. Se l’imbuto fosse una buona metafora dell’insegnamento, allora…

Continua a leggere→

Loading

Valutazione on line, se ne parla da anni

matitadi Stefano Penge Ieri sera mi domandavo: dove sono finiti tutti i docenti che hanno partecipato ai convegni sull’e-learning, sulla valutazione online, all’inizio del millennio? La valutazione autentica, alternativa, tra pari etc. sembravano delle acquisizioni, tant’è che ci si poneva il problema di come applicarle al nascente campo dell’e-learning. I quiz sembravano strumenti giurassici e si sperimentavano a fini valutativi mappe, portfolio, analisi quantitativi dei commenti (Thinking Types) e dei testi liberi. Oggi invece siamo da capo: c’è bisogno di distinguere tra valutazione e verifica, tra assessment e evaluation, fra valutazione dell’apprendimento e del processo. C’è bisogno di *parlare* della valutazione online come se l’avessimo scoperta ora. Ma come? Stamattina mi sono dato una risposta: “vent’anni fa, o giù di lì” (cit Guccini) quelli erano concetti con cui giocare, ma nessuno pensava veramente di metterli a sistema, di standardizzarne l’applicazione quotidiana fuori dai convegni e dalla riviste. Erano giocattoli divertenti, finché restavano confinati nei discorsi tra ricercatori, a scuola e fuori. Continua a leggere→

Loading