{"id":4186,"date":"2023-12-22T11:50:14","date_gmt":"2023-12-22T10:50:14","guid":{"rendered":"http:\/\/www.gessetticolorati.it\/dibattito\/?p=4186"},"modified":"2023-12-22T11:50:14","modified_gmt":"2023-12-22T10:50:14","slug":"intelligenza-artificiale-perche-pone-interrogativi-etici-e-sui-nostri-diritti-di-cittadini","status":"publish","type":"post","link":"https:\/\/www.gessetticolorati.it\/dibattito\/2023\/12\/22\/intelligenza-artificiale-perche-pone-interrogativi-etici-e-sui-nostri-diritti-di-cittadini\/","title":{"rendered":"Intelligenza artificiale: perch\u00e9 pone interrogativi etici e sui nostri diritti di cittadini?"},"content":{"rendered":"<p>\t\t\t\t<![CDATA[<strong><a href=\"http:\/\/www.gessetticolorati.it\/dibattito\/wp-content\/uploads\/2023\/05\/Schermata-2023-05-27-alle-17.35.49.png\"><img decoding=\"async\" class=\"alignleft  wp-image-3811\" src=\"http:\/\/www.gessetticolorati.it\/dibattito\/wp-content\/uploads\/2023\/05\/Schermata-2023-05-27-alle-17.35.49.png\" alt=\"\" width=\"228\" height=\"191\" \/><\/a>di Rodolfo Marchisio\ne Stefano Penge\n<\/strong>\nDopo aver <strong><a href=\"https:\/\/www.gessetticolorati.it\/dibattito\/2023\/12\/01\/4108\/\">introdotto<\/a> <\/strong>il tema, averlo <strong><a href=\"https:\/\/www.gessetticolorati.it\/dibattito\/2023\/12\/13\/intelligenza-artificiale-a-scuola-domande-e-riflessioni\/\">approfondito<\/a><\/strong>\u00a0 vediamo di spiegare un po\u2019 di pi\u00f9 gli <strong>aspetti critici dal punto di vista della cittadinanza<\/strong>.\nUn intervento educativo (formazione di competenze e cultura digitale) \u00e8 possibile solo se si <em>supera la visione della digitalizzazione come un processo di democratizzazione spontanea dell\u2019accesso delle informazioni<\/em> <strong>oggi non pi\u00f9 possibile.<\/strong> Agenda digitale.<strong> E come un processo \u201cmagico\u201d e spontaneo di riforma della scuola in senso democratico grazie alle tecnologie<\/strong>\n\n<strong>Quale IA\nL\u2019Europa ha stabilito i limiti da porre allo sviluppo della IA per tutelare i cittadini: <\/strong><strong><a href=\"https:\/\/www.europarl.europa.eu\/news\/en\/headlines\/society\/20230601STO93804\/eu-ai-act-first-regulation-on-artificial-intelligence\">AI Act<\/a>.\n<\/strong>Riguardano i <em>modelli fondativi alla base di grandi sistemi di AI <\/em>e il <em>ricorso alla sorveglianza biometrica e alla<\/em> (ipotizzata)<em> polizia predittiva<\/em>. L&#8217;AI Act, <strong>inquadra i diversi sistemi di intelligenza artificiale<\/strong> pone paletti, <strong>proibisce alcune applicazioni<\/strong> e introduce procedure di salvaguardia per mettere al riparo i cittadini dell&#8217;Unione da <strong>abusi e violazioni<\/strong> dei diritti fondamentali. L\u2019attenzione \u00e8:\n1- sui <strong>modelli fondativi<\/strong>, quelle forme di intelligenza artificiale generali in grado di svolgere compiti diversi (come creare un testo o un&#8217;immagine) e allenati attraverso un&#8217;enorme mole di dati non <a href=\"https:\/\/www.engage.it\/programmatic\/dati-sensibili-e-non-sensibili-secondo-il-gdpr-una-distinzione-che-fa-la-differenza.aspx\"><strong>categorizzati<\/strong><\/a>.\nSi \u00e8 lavorato ad una applicazione preventiva delle regole su <a href=\"https:\/\/www.wired.it\/topic\/sicurezza\"><strong>sicurezza<\/strong><\/a> informatica, <strong>trasparenza dei processi di addestramento<\/strong> e <strong>condivisione della documentazione tecnica<\/strong> prima di arrivare sul mercato. Wired.\n2- La UE \u00e8 arrivata ad un <strong><a href=\"https:\/\/www.wired.it\/article\/ai-act-europa-intelligenza-artificiale-accordo-parlamento-consiglio-chatgpt-divieto-riconoscimento-biometrico\/\">compromesso<\/a> sull&#8217;uso dell&#8217;AI per compiti di polizia e di <\/strong><a href=\"https:\/\/www.wired.it\/topic\/sorveglianza\"><strong>sorveglianza<\/strong><\/a>.\n<strong>Sul riconoscimento biometrico in tempo reale<\/strong>, ma si era discusso anche di <strong><a href=\"https:\/\/www.wired.it\/article\/ai-act-modelli-fondativi-polizia-predittiva-negoziato-europa\/\">polizia predittiva<\/a><\/strong> poi vietata. Ossia usare gli algoritmi per prevedere le probabilit\u00e0 con cui <strong>pu\u00f2 essere commesso un reato, da chi e dove? <\/strong>Quali diritti verrebbero violati con questa delega? <strong><a href=\"https:\/\/www.europarl.europa.eu\/news\/en\/headlines\/society\/20230601STO93804\/eu-ai-act-first-regulation-on-artificial-intelligence\">AI Act<\/a> Europa <\/strong>(Wired)<!--more-->\n\nOltre a questo ci sono nodi e modi di vedere la IA (che \u00e8 mondo complesso) che emergono anche dal fatto che il termine sia sempre pi\u00f9 spesso accompagnato da un aggettivo (generativa, etica, spiegabile \u2026).\nSi riflette su questi <strong>temi e interrogativi<\/strong>:\n\n\n<ul>\n \t\n\n<li>L&#8217;intelligenza artificiale pu\u00f2 <strong>prendere decisioni <\/strong>basate sui <strong>dati<\/strong> e sul <strong>passato<\/strong>. Talora <strong>errate<\/strong> a causa di una mancanza di consapevolezza del contesto. Esiste una possibilit\u00e0 di sapere come? Dovrebbe essere la <a href=\"https:\/\/www.ibm.com\/it-it\/topics\/explainable-ai\">IA <strong>explainable.<\/strong><\/a> (spiegabile). Ma funziona? Per tutta la IA?<\/li>\n\n\n \t\n\n<li>Una decisione pu\u00f2 influenzare la vita delle persone, essere utilizzata per scopi maligni, essere <strong>influenzata dai pregiudizi e dai valori dei suoi creatori<\/strong>. Gli algoritmi utilizzati nell&#8217;IA possono essere influenzati da <strong>pregiudizi, anche involontari<\/strong>. O \u201cpremiati\u201d in modo da imparare in una certa direzione prefissata da chi li progetta. Ci\u00f2 pu\u00f2 portare a decisioni discriminatorie, sbagliate, diverse da quelle che avrebbero preso degli umani (processi di selezione del personale, prestito bancario\u2026). Anche se le stesse decisioni umane sono <strong>diverse se prese da persone competenti, da potenti, da una maggioranza pi\u00f9 o meno informata<\/strong>. Come constatiamo da anni. Ma il meccanismo si potenzia ed opacizza con IA.<\/li>\n\n\n \t\n\n<li>L&#8217; IA comporta la raccolta e l&#8217;elaborazione <strong>di grandi quantit\u00e0 di dati personali<\/strong>. Questo solleva preoccupazioni sulla <strong>privacy <\/strong>delle persone e sulla <strong>sicurezza dei dati.<\/strong><\/li>\n\n\n \t\n\n<li>L&#8217;IA sta automatizzando e <strong>sostituendo sempre pi\u00f9 lavori umani<\/strong>. Ci\u00f2 solleva preoccupazioni sulla perdita di posti di lavoro e sulla necessit\u00e0 di una riqualificazione delle persone.\nVedi <strong><a href=\"https:\/\/it.wikipedia.org\/wiki\/Intelligenza_artificiale_generativa\">studi del possibile impatto sulla occupazione<\/a><\/strong>.<\/li>\n\n\n \t\n\n<li>Nonostante i progressi nell&#8217;IA, esistono ancora criticit\u00e0 sui sistemi <strong>di controllo decisionale affidabili e trasparenti<\/strong>. <strong>Questi problemi richiedono una rigorosa regolamentazione, un&#8217;etica e una responsabilit\u00e0 riguardo all&#8217;uso dell&#8217;IA, nonch\u00e9 un&#8217;attenzione costante alla sua implementazione e sviluppo.<\/strong><\/li>\n\n\n<\/ul>\n\n\n<strong>Stefano Penge, filosofo e informatico, avverte:<\/strong>\n<em>\u201cL\u2019interesse recente \u2013 da un anno a questa parte \u2013 per l\u2019intelligenza artificiale, con tutti i discorsi a favore e contro, si \u00e8 concentrato su un sottoinsieme particolare di abilit\u00e0 che attraggono e spaventano apparentemente pi\u00f9 delle altre: quelle linguistiche, che permettono ad un software di analizzare un testo, di tradurlo, di prepararne un riassunto, ma anche di continuarlo o riscriverlo secondo un altro stile; il tutto, attraverso un\u2019interazione continua con le persone (il famoso \u2018prompt\u2019).\nIl riconoscimento facciale e la guida autonoma (le altre abilit\u00e0 di cui si occupa l\u2019AI ACT) hanno in comune con questo sottoinsieme linguistico\u00a0 l&#8217;abbandono della<strong> logica tradizionale<\/strong>, quella basata su regole e deduzione, a favore di una<strong> logica induttiva<\/strong><\/em><strong><em>.\u00a0 <\/em><\/strong><em>Niente di nuovo, insomma: tutto sommato anche la nostra specie funziona cos\u00ec la maggior parte del tempo e solo in casi speciali usiamo la logica classica e il ragionamento formale. Vedi anche <\/em><strong><a href=\"https:\/\/www.stefanopenge.it\/wp\/intellig-enti\/\"><em>https:\/\/www.stefanopenge.it\/wp\/intellig-enti\/<\/em><\/a><em>. <\/em><\/strong>\n<em>Quelli citati sopra sono tutti esempi di <strong>machine learning<\/strong>, che indica una maniera di costruire modelli artificiali che simulano una parte del mondo (per esempio, un testo)\u00a0 a partire dalla raccolta di dati relativi a miliardi di situazioni, per induzione appunto.<\/em><em>\n<\/em><em>Questo sistema \u00e8 <strong>inerentemente soggetto ad errore<\/strong>, perch\u00e9 i dati di partenza non sono tutti i dati ma solo una selezione;\u00a0 perch\u00e9 la maniera in cui sono stati selezionati quei dati (e la maniera in cui vengono \u201cpremiati\u201d i modelli migliori) potrebbe essere non oggettiva ma guidata da preferenze culturali o sociali. Ma soprattutto perch\u00e9 il futuro non \u00e8 per forza uguale al passato, mentre il machine learning per sua natura si basa proprio su questa fede.\nMa anche se decidessimo di fidarsi delle competenze dei software basati sul machine learning, il problema nasce quando queste competenze vengono usate non a fianco, ma\u00a0 <strong>al posto<\/strong> di quelle umane come se fossero equivalenti in qualit\u00e0, <strong>perch\u00e9 costano di meno e rendono di pi\u00f9 a chi le governa<\/strong>.\u201d<\/em>\n\nAnche <strong>Sasha Luccioni, ricercatrice nell&#8217;AI etica e sostenibile -HuggingFace &#8211; sottolinea:<\/strong>\n\n\n<ol>\n \t\n\n<li><strong>Consumi energetici troppo elevati, i bias cognitivi che vengono riproposti dagli algoritmi, e la tutela del copyright sono le tre sfide<\/strong> che <strong><a href=\"https:\/\/www.wired.it\/article\/intelligenza-artificiale-ansia-in-crescita\/\">l\u2019intelligenza artificiale dovr\u00e0 affrontare<\/a><\/strong>.\n<strong>La diversit\u00e0 deve essere presente all&#8217;interno dei modelli dell&#8217;intelligenza artificiale<\/strong>: <em>&#8220;La tecnologia non \u00e8 neutra, i bias dell&#8217;<\/em><a href=\"https:\/\/www.wired.it\/topic\/intelligenza-artificiale\/\"><em>intelligenza artificiale<\/em><\/a><em> altro non sono che quello che noi vediamo nella societ\u00e0. Qualsiasi <strong>stereotipo si applichi viene peggiorato dal sistema<\/strong>, che tende ad amplificare la distorsione<\/em><em>. <\/em><strong><em>Solo il 12% <\/em><\/strong><em>di chi lavora nell&#8217;AI \u00e8<strong> donna<\/strong><\/em> \u2026\u00e8 fondamentale che questa tecnologia <em>\u201cnon sia nelle mani di pochi soggetti, <strong>deve essere open<\/strong>, per intervenire su questi aspetti in modo condiviso\u201d<\/em>. Wired<\/li>\n\n\n \t\n\n<li><strong>Per tutelare la propriet\u00e0 intellettuale e il copyright<\/strong> (Luccioni) bisogna <em>\u201cimplementare meccanismi <strong>per capire quali siano le fonti che sono state utilizzate, analizzare i <\/strong><\/em><a href=\"https:\/\/it.wikipedia.org\/wiki\/Dataset\"><strong><em>dataset<\/em><\/strong><\/a><strong><em> usati da un&#8217;intelligenza artificiale<\/em><\/strong><em>. <\/em>Un lavoro immane che va fatto fare dalle macchine, ma <strong>come<\/strong> e <strong>da chi controllate<\/strong>? E i cittadini\/utenti in tutto questo?<\/li>\n\n\n \t\n\n<li><strong>L&#8217;impatto ambientale non \u00e8 trascurabile<\/strong>: <em>\nAd esempio, sono state emesse 500 tonnellate di CO<sub>2<\/sub> per la creazione di Gpt-3\u201d. <\/em>Wired\n<strong>\nA proposito della possibilit\u00e0 di controllare l\u2019IA <\/strong>Penge paragonava la IA ad una piccola bomba atomica: ha un potere enorme, ma pu\u00f2 essere costruita (e smontata) solo da quelli che hanno sufficiente potere per raccogliere, selezionare e gestire i materiali (radioattivi!) necessari. Il semplice cittadino non avr\u00e0 mai questa possibilit\u00e0; al massimo pu\u00f2 giocare con le interfacce che permettono di interagire con i software di IA.\n<em>\u201cPer dire meglio ci sono tre aspetti:<\/em>\n&#8211; <em>uno \u00e8 quello della <strong>chiusura del software<\/strong>, in questo caso della <strong>propriet\u00e0<\/strong> dei modelli linguistici utilizzati, che hanno grande valore perch\u00e9 sono stati prodotti con molte ore di calcolo e molto lavoro di revisione umana;\n&#8211; il secondo \u00e8 quello delle <strong>dimensioni di questi modelli<\/strong>, che per essere creati e trattati richiedono risorse informatiche enormi, che consumano elettricit\u00e0, scaldano, etc.;\n&#8211; il terzo \u00e8 quello dell&#8217;<strong>opacit\u00e0<\/strong>: un Large Language Model \u00e8 costruito con miliardi di parametri. Significa che <strong>non \u00e8 analizzabile da umani<\/strong>, <strong>non si pu\u00f2 capire perch\u00e9 risponde in un modo o in un altro. <\/strong>Questi tre aspetti insieme <strong>impediscono di mettere le mani in questi strumenti<\/strong> come si potrebbe fare con un software libero, ad esempio con LibreOffice (ma non con MS Word)<\/em>.\u201d\n<em>\n<\/em>Tornando alla scuola un esempio di preoccupante ottimismo in questo <strong><a href=\"https:\/\/www.tecnicadellascuola.it\/?powerpress_pinw=346494-podcast\">podcast<\/a> <\/strong>che ipotizza una scuola alla cinese. Paese che notoriamente \u00e8 da tempo l\u2019incarnazione del \u201cgrande fratello\u201d che viola costantemente i diritti dei cittadini, sudditi <strong><a href=\"https:\/\/www.mondadoristore.it\/Il-dossier-Wuhan-Xiaolong-Qiu\/eai978882971958\/\">ipercontrollati<\/a><\/strong> e prigionieri.\u00a0 Concluderemo sulla scuola.<\/li>\n\n\n<\/ol>\n\n\n&nbsp;\n\n&nbsp;]]>\t\t<\/p>\n<div class=\"pvc_clear\"><\/div>\n<p id=\"pvc_stats_4186\" class=\"pvc_stats all  \" data-element-id=\"4186\" style=\"\"><i class=\"pvc-stats-icon medium\" aria-hidden=\"true\"><svg aria-hidden=\"true\" focusable=\"false\" data-prefix=\"far\" data-icon=\"chart-bar\" role=\"img\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" viewBox=\"0 0 512 512\" class=\"svg-inline--fa fa-chart-bar fa-w-16 fa-2x\"><path fill=\"currentColor\" d=\"M396.8 352h22.4c6.4 0 12.8-6.4 12.8-12.8V108.8c0-6.4-6.4-12.8-12.8-12.8h-22.4c-6.4 0-12.8 6.4-12.8 12.8v230.4c0 6.4 6.4 12.8 12.8 12.8zm-192 0h22.4c6.4 0 12.8-6.4 12.8-12.8V140.8c0-6.4-6.4-12.8-12.8-12.8h-22.4c-6.4 0-12.8 6.4-12.8 12.8v198.4c0 6.4 6.4 12.8 12.8 12.8zm96 0h22.4c6.4 0 12.8-6.4 12.8-12.8V204.8c0-6.4-6.4-12.8-12.8-12.8h-22.4c-6.4 0-12.8 6.4-12.8 12.8v134.4c0 6.4 6.4 12.8 12.8 12.8zM496 400H48V80c0-8.84-7.16-16-16-16H16C7.16 64 0 71.16 0 80v336c0 17.67 14.33 32 32 32h464c8.84 0 16-7.16 16-16v-16c0-8.84-7.16-16-16-16zm-387.2-48h22.4c6.4 0 12.8-6.4 12.8-12.8v-70.4c0-6.4-6.4-12.8-12.8-12.8h-22.4c-6.4 0-12.8 6.4-12.8 12.8v70.4c0 6.4 6.4 12.8 12.8 12.8z\" class=\"\"><\/path><\/svg><\/i> <img decoding=\"async\" width=\"16\" height=\"16\" alt=\"Loading\" src=\"https:\/\/www.gessetticolorati.it\/dibattito\/wp-content\/plugins\/page-views-count\/ajax-loader-2x.gif\" border=0 \/><\/p>\n<div class=\"pvc_clear\"><\/div>\n","protected":false},"excerpt":{"rendered":"<p>\t\t\t\t<![CDATA[]]>\t\t <a href=\"https:\/\/www.gessetticolorati.it\/dibattito\/2023\/12\/22\/intelligenza-artificiale-perche-pone-interrogativi-etici-e-sui-nostri-diritti-di-cittadini\/\">Continua a leggere<span class=\"meta-nav\">&rarr;<\/span><\/a><\/p>\n<div class=\"pvc_clear\"><\/div>\n<p id=\"pvc_stats_4186\" class=\"pvc_stats all  \" data-element-id=\"4186\" style=\"\"><i class=\"pvc-stats-icon medium\" aria-hidden=\"true\"><svg aria-hidden=\"true\" focusable=\"false\" data-prefix=\"far\" data-icon=\"chart-bar\" role=\"img\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" viewBox=\"0 0 512 512\" class=\"svg-inline--fa fa-chart-bar fa-w-16 fa-2x\"><path fill=\"currentColor\" d=\"M396.8 352h22.4c6.4 0 12.8-6.4 12.8-12.8V108.8c0-6.4-6.4-12.8-12.8-12.8h-22.4c-6.4 0-12.8 6.4-12.8 12.8v230.4c0 6.4 6.4 12.8 12.8 12.8zm-192 0h22.4c6.4 0 12.8-6.4 12.8-12.8V140.8c0-6.4-6.4-12.8-12.8-12.8h-22.4c-6.4 0-12.8 6.4-12.8 12.8v198.4c0 6.4 6.4 12.8 12.8 12.8zm96 0h22.4c6.4 0 12.8-6.4 12.8-12.8V204.8c0-6.4-6.4-12.8-12.8-12.8h-22.4c-6.4 0-12.8 6.4-12.8 12.8v134.4c0 6.4 6.4 12.8 12.8 12.8zM496 400H48V80c0-8.84-7.16-16-16-16H16C7.16 64 0 71.16 0 80v336c0 17.67 14.33 32 32 32h464c8.84 0 16-7.16 16-16v-16c0-8.84-7.16-16-16-16zm-387.2-48h22.4c6.4 0 12.8-6.4 12.8-12.8v-70.4c0-6.4-6.4-12.8-12.8-12.8h-22.4c-6.4 0-12.8 6.4-12.8 12.8v70.4c0 6.4 6.4 12.8 12.8 12.8z\" class=\"\"><\/path><\/svg><\/i> <img decoding=\"async\" width=\"16\" height=\"16\" alt=\"Loading\" src=\"https:\/\/www.gessetticolorati.it\/dibattito\/wp-content\/plugins\/page-views-count\/ajax-loader-2x.gif\" border=0 \/><\/p>\n<div class=\"pvc_clear\"><\/div>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_crdt_document":"","footnotes":""},"categories":[33],"tags":[105,124],"class_list":["post-4186","post","type-post","status-publish","format-standard","hentry","category-scuola-digitale","tag-marchisio","tag-penge"],"_links":{"self":[{"href":"https:\/\/www.gessetticolorati.it\/dibattito\/wp-json\/wp\/v2\/posts\/4186","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.gessetticolorati.it\/dibattito\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.gessetticolorati.it\/dibattito\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.gessetticolorati.it\/dibattito\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.gessetticolorati.it\/dibattito\/wp-json\/wp\/v2\/comments?post=4186"}],"version-history":[{"count":0,"href":"https:\/\/www.gessetticolorati.it\/dibattito\/wp-json\/wp\/v2\/posts\/4186\/revisions"}],"wp:attachment":[{"href":"https:\/\/www.gessetticolorati.it\/dibattito\/wp-json\/wp\/v2\/media?parent=4186"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.gessetticolorati.it\/dibattito\/wp-json\/wp\/v2\/categories?post=4186"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.gessetticolorati.it\/dibattito\/wp-json\/wp\/v2\/tags?post=4186"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}