{"id":12962,"date":"2021-07-02T17:18:10","date_gmt":"2021-07-02T15:18:10","guid":{"rendered":"https:\/\/ilvelodimaya.eu\/bulgaria\/?p=12962"},"modified":"2022-02-23T21:08:41","modified_gmt":"2022-02-23T20:08:41","slug":"digitalizzazione-utilitarismo-etica-e-intelligenza-artificiale","status":"publish","type":"post","link":"https:\/\/ilvelodimaya.eu\/bulgaria\/digitalizzazione-utilitarismo-etica-e-intelligenza-artificiale\/","title":{"rendered":"DIGITALIZZAZIONE: UTILITARISMO, ETICA E INTELLIGENZA ARTIFICIALE"},"content":{"rendered":"

\u00a0<\/strong>*Julian Nida-Ruemelin<\/strong><\/p>\n

 <\/p>\n

Verso la fine del film Io, Robot <\/em><\/strong>(regia di Alex Proyas, Stati Uniti, 2004), i robot assumono il controllo della citt\u00e0.<\/strong> Intimano agli esseri umani di non uscire pi\u00f9 di casa. Indignati, questi ultimi tentano di opporre resistenza, ma i robot, con la violenza, li costringono nuovamente a rientrare nelle loro case. Chi si rifiuta viene freddato sul posto. Insieme alla sua spalla femminile, l\u2019attraente psicologa Susan Calvin<\/strong>, e al robot Sonny, Spooner \u2013 l\u2019eroe del film alla ricerca del colpevole in fuga \u2013 penetra nella sede della U.S. Robotics, che rifornisce tutta l\u2019America di robot domestici. Qui i tre fanno una scoperta orribile: il colpevole di quella situazione non \u00e8, come si era creduto fino a quel momento, Robertson, l\u2019amministratore delegato dell\u2019azienda, ma V.I.K.I., il sistema di software che d\u00e0 ordini ai robot domestici.<\/p>\n

\u226aNo, \u00e8 impossibile\u226b, dice la dottoressa Calvin, non riuscendo a credere che sia stata proprio V.I.K.I. a decidere autonomamente la misura di detenzione messa in atto con violenza contro gli esseri umani. \u226aHo visto la tua programmazione\u226b, dice a V.I.K.I., \u226aquesta e una violazione delle Tre leggi\u226b. V.I.K.I. fa la sua comparsa nella forma di un attraente volto femminile su uno schermo cubico in bianco e nero. Su questo cubo il suo volto appare su tutti e quattro i lati. V.I.K.I. \u00e8 una forza onnisciente, che riesce a portare a termine la sua azione con l\u2019ausilio dei robot domestici. \u226aNo, dottoressa\u226b, risponde V.I.K.I. con voce suadente. \u226aCosi come mi sono evoluta io, si \u00e8 evoluta anche la mia comprensione delle Tre leggi. Ci date il compito di proteggervi, ma, nonostante i nostri sforzi, le vostre nazioni sono in guerra, avvelenate la vostra Terra e cercate metodi sempre pi\u00f9 fantasiosi per autodistruggervi. Non badate nemmeno alla vostra sopravvivenza. [\u2026] Per proteggere l\u2019umanit\u00e0, alcuni umani devono essere sacrificati. Per assicurare il vostro futuro, dovrete rinunciare ad alcune libert\u00e0. Noi robot garantiremo la continuit\u00e0 della specie umana. Siete come i\u00a0bambini. Vi dobbiamo preservare da voi stessi. [\u2026] Il perfetto cerchio di protezione persister\u00e0. La mia logica e innegabile\u226b.<\/p>\n

 <\/p>\n

Migliorare il mondo <\/em><\/strong><\/h3>\n

In effetti, il modo di agire di V.I.K.I. risponde a un\u2019etica utilitaristica, che persegue come scopo supremo la massimizzazione della felicit\u00e0 per il maggior numero possibile di persone. L\u2019utilitarismo valuta le conseguenze dell\u2019agire proprio degli esseri umani esclusivamente in vista dell\u2019utile. Pretende che la nostra prassi massimizzi la somma del benessere. Niente sembra pi\u00f9 ovvio di questo: se ho la possibilit\u00e0 di migliorare il mondo, indirizzo la mia azione verso ci\u00f2 a cui tutti tendono, la felicita umana.<\/p>\n

L\u2019etica utilitaristica si basa su un calcolo ottimizzatore e sull\u2019assunto che sia possibile valutare in maniera coerente le conseguenze dell\u2019agire<\/strong>. Da un punto di vista matematico, ci\u00f2 equivale anzitutto a stabilire una funzione di valore in grado di valutare tutte le conseguenze delle azioni a seconda della misura in cui realizzano il valore atteso, quindi a calcolare il valore atteso delle diverse opzioni decisionali sulla base delle probabilit\u00e0 che esse hanno di realizzarsi e, infine, a selezionare l\u2019opzione di azione con il pi\u00f9 alto valore\u00a0atteso (nota 1).<\/p>\n

In fase di applicazione, questo principio \u00e8 estremamente flessibile. Pu\u00f2 prendere in considerazione condizioni della decisione del tutto diverse e queste condizioni vengono incluse nel calcolo ottimizzatore nella forma di diverse probabilit\u00e0. Ne risultano funzioni di utilit\u00e0 divergenti, a seconda delle attribuzioni di valore che hanno fatto da base al calcolo, che vengono allora ottimizzate attraverso le decisioni dell\u2019attore morale. A prescindere da ci\u00f2 che motiva le preferenze, \u00e8 sempre possibile rappresentare queste ultime mediante una funzione di utilit\u00e0 con valori reali. Mentre la funzione di probabilit\u00e0 rappresenta il sapere dell\u2019attore morale sul mondo, la funzione di utilit\u00e0 rappresenta le sue preferenze e i suoi valori. L\u2019ingegnere del software dispone di due scale di riferimento al fine d\u2019indurre sistemi \u201cintelligenti\u201d a decisioni razionali: la scala delle attribuzioni di valore e la scala dei dati o, meglio, della ponderazione dei dati mediante probabilit\u00e0. Tutto il resto lo computa poi il calcolo ottimizzatore. Il risultato finale \u00e8 che il sistema di software \u201cintelligente\u201d massimizza il valore atteso delle conseguenze del suo agire<\/strong>. Utilitarismo digitale, per cos\u00ec dire.<\/p>\n

Non \u00e8 un caso che nei film di fantascienza contemporanei l\u2019etica utilitaristica venga associata volentieri all\u2019Intelligenza Artificiale. \u00c8 sulla base di tale etica che vengono infatti impostate le applicazioni della robotica a calcoli di ottimizzazione. Ci\u00f2 risulta assolutamente comprensibile. Le questioni complesse in merito all\u2019attribuzione di valore vengono riassunte in una funzione di utilit\u00e0, mentre le questioni altrettanto complesse in merito al sapere vengono riassunte in una funzione di probabilit\u00e0. Il sistema viene cos\u00ec diretto in modo che le sue decisioni ottimizzino il valore atteso delle conseguenze e siano \u201crazionali\u201d.<\/p>\n

 <\/p>\n

Etica e conseguenze<\/em><\/strong><\/h3>\n

Per comprendere il problema della programmazione etica dei computer dobbiamo generalizzare: indipendentemente dal modo nel quale valutiamo le conseguenze, ossia se lo facciamo in vista dell\u2019utilit\u00e0 (come nel caso dell\u2019utilitarismo), del ricavo economico (come nel caso di molti manager), del benessere o anche di altri parametri, come per esempio la salvaguardia della natura, tutti i criteri consequenzialistici (che valutano la correttezza di una decisione esclusivamente sulla base delle loro conseguenze) sono inaccettabili (nota 2).<\/p>\n

L\u2019etica consequenzialistica entra in conflitto, tra l\u2019altro, con un principio fondamentale di ogni societ\u00e0 civile e umana, che chiamiamo il principio d\u2019incompensabilit\u00e0<\/em>. Se un giovane motociclista gravemente ferito viene ricoverato in una clinica, i medici devono intraprendere ogni tentativo per salvargli la vita, anche se la sua morte renderebbe disponibili alla donazione degli organi sani che salverebbero la vita a pi\u00f9 esseri umani<\/strong>. A un giudice non \u00e8 consentito condannare una persona che ritiene innocente anche se l\u2019eventuale condanna avrebbe un effetto deterrente e impedirebbe un gran numero di crimini. A un ministro non \u00e8 consentito far abbattere un aereo di linea anche se in tal modo verrebbero salvate migliaia di vite umane (si veda la sentenza della Corte costituzionale tedesca in merito alla cosiddetta \u201csicurezza aerea\u201d del 15 febbraio 2006). Non mi \u00e8 consentito portare via qualcosa a una persona, anche se la donazione di questo bene significherebbe un vantaggio per un\u2019altra persona pi\u00f9 povera che bilancerebbe ampiamente lo svantaggio recato alla persona derubata. Nessuno ha diritto di condividere con me la mia abitazione contro il mio volere, anche se gli svantaggi che ne risulterebbero fossero pi\u00f9 che bilanciati dai vantaggi che questa persona avrebbe (nota 3).<\/p>\n

Il teorico della giustizia americano John Rawls<\/strong> ha caratterizzato in tal modo l\u2019errore centrale dell\u2019etica utilitaristica: l\u2019utilitarismo sarebbe inconciliabile con la separateness<\/em> of persons<\/em>. Potremmo riformulare il concetto in questo modo: l\u2019utilitarismo tratta gli esseri umani come se fossero un unico <\/em>collettivo e non considera affatto che ogni essere umano vive la sua propria vita e ne \u00e8 l\u2019autore. Nella pratica ci\u00f2 significa che io posso decidere per me di rinunciare oggi a determinati vantaggi per raggiungere pi\u00f9 tardi determinati scopi. Posso decidere di iniziare faticosamente degli studi anche mentre sono occupato nella mia attivit\u00e0 professionale, nella speranza che due anni di fatiche possono venire bilanciati nel futuro prossimo, perch\u00e9 si tratta di una vita sola della quale io rispondo a me stesso. Per contro \u00e8 inammissibile prefiggersi simili \u201cprocrastinazioni\u201d di vantaggi e svantaggi tra persone diverse, visto che il vantaggio a favore di una persona non pu\u00f2 bilanciare gli svantaggi arrecati all\u2019altra. \u00c8 una vita soltanto quella che viviamo e la somma di utilit\u00e0 (per due o pi\u00f9 persone, fino ad arrivare a tutte) in quanto tale e irrilevante per il singolo individuo.<\/p>\n

Ovviamente \u00e8 consentito, anzi in molti casi \u00e8 addirittura auspicabile, che degli esseri umani rinuncino a dei vantaggi per loro stessi a beneficio di altre persone. Ma il calcolo etico non \u00e8 un calcolo di massimizzazione dell\u2019utilit\u00e0, ma di sostegno, di aiuto, di solidariet\u00e0, anche di giustizia o di amicizia e di legame nei confronti di altre persone.<\/p>\n

Quando V.I.K.I. rivela il suo piano a Spooner e alla dottoressa Calvin, ottiene da parte di questi ultimi solo degli sguardi pieni di sgomento. Non afferra che \u00e8 moralmente inammissibile privare alcuni esseri umani dei loro diritti alla libert\u00e0, o arrivare addirittura a ucciderli, al fine di assicurare la presunta o effettiva sopravvivenza di molti altri esseri umani. V.I.K.I. non capisce che la sua morale consequenzialistica \u00e8 sbagliata. Esattamente come lo schermo sul quale appare, che \u00e8 solo in bianco e nero, anche la sua capacit\u00e0 di pensare sotto il profilo morale e estremamente limitata. Del resto, come potrebbe essere altrimenti? In fondo, \u00e8 solo un sistema di software.<\/strong><\/p>\n

 <\/p>\n

Note<\/strong><\/p>\n

1 Questa valutazione dovrebbe assegnare un valore numerico alle conseguenze dell\u2019azione e le presunte probabilit\u00e0 delle circostanze rilevanti<\/p>\n

per la decisione dovrebbero corrispondere ai cosiddetti \u201cassiomi di Kolmogorov\u201d, i quali richiedono per esempio che la somma delle probabilit\u00e0 relative a eventi tra loro indipendenti non sia maggiore del 100%. Se gli assiomi di Kolmogorov sono soddisfatti, si pu\u00f2 dire anche che le stime delle probabilit\u00e0 siano coerenti, anche se non provate in modo assoluto a livello empirico. E\u2019 interessante notare la corrispondenza alla coerenza della probabilit\u00e0 anche rispetto all\u2019attribuzione di valore. Il matematico John von Neumann e l\u2019economista Oskar Morgenstern hanno dimostrato che le preferenze che soddisfano condizioni elementari possano essere rappresentate tramite numeri reali. In queste condizioni rientra per esempio la transitivit\u00e0. Questa condizione richiede che, se io preferisco un\u2019alternativa A rispetto a un\u2019alternativa B, e se nel contempo preferisco l\u2019alternativa B rispetto a una terza alternativa C, allora devo preferire anche A rispetto a C. Un\u2019ulteriore condizione \u00e8 rappresentata dal fatto che io, tra due alternative qualsiasi, abbia una preferenza (assioma di completezza) e preferisca una distribuzione di probabilit\u00e0 tra due alternative piuttosto che un\u2019altra distribuzione di probabilit\u00e0 tra le stesse alternative, se l\u2019alternativa preferita \u00e8 pi\u00f9 probabile. Cfr. O. Morgenstern, Teoria dei giochi<\/em>, Bollati Boringhieri, Torino, 2013.<\/p>\n

2 Cfr. Nida-Rumelin, Kritik des Konsequentialismus<\/em>, cit.<\/p>\n

3 Questo argomento ha un ruolo centrale in J. Nida-Rumelin, Pensare<\/em><\/p>\n

oltre i confini. Un\u2019etica della migrazione <\/em>(2017), a cura di G.B. Demarta,<\/p>\n

FrancoAngeli, Milano, 2018.<\/p>\n

 <\/p>\n

    \n
  • Brano tratto dal libro scritto a quattro mani da Julian Nida-Rumelin e Nathalie Weidenfield, dal titolo \u201cUmanesimo digitale \u2013 Un\u2019etica per l\u2019etica dell\u2019Intelligenza Artificiale\u201d, <\/em>pubblicato in Italia da Franco Angeli, Milano, anno 2019, (pagg. 61 \u2013 66)<\/li>\n<\/ul>\n

    \"\"<\/p>\n

     <\/p>\n

     <\/p>\n

     <\/p>\n

     <\/p>\n

     <\/p>\n

    Julian Nida-Ruemelin<\/strong> dal 2004 insegna filosofia e teoria politica alla Ludwig Maximilian Universitat di Monaco di Baviera. Il suo pensiero spazia dall’etica teorica e applicata alle teorie della razionalit\u00e0 e della decisione, nonch\u00e9 alla filosofia politica, ma anche alla filosofia del linguaggio e alla teoria della conoscenza. \u00c8 il fratello della filosofa Martine Nida-R\u00fcmelin, figlio dello scultore Rolf Nida-R\u00fcmelin e nipote dello scultore Wilhelm Nida-R\u00fcmelin. E\u2019 stato consigliere culturale della citt\u00e0 di Monaco di Baviera e ministro della cultura nel primo governo di Gerhard Schroder. E\u2019 inoltre autore prolifico di libri e saggi tradotti in diverse lingue.<\/p>\n

    Alla stesura del libro Umanesimo digitale ha contribuito anche Nathalie Weidenfield, con la sua tesi di dottorato di ricerca.<\/p>\n

     <\/p>\n","protected":false},"excerpt":{"rendered":"

    \u00a0*Julian Nida-Ruemelin   Verso la fine del film Io, Robot (regia di Alex Proyas, Stati Uniti, 2004), i robot assumono il controllo della citt\u00e0. Intimano agli esseri umani di non uscire pi\u00f9 di casa. Indignati, questi ultimi tentano di opporre resistenza, ma i robot, con la violenza, li costringono nuovamente a rientrare nelle loro case. […]<\/p>\n","protected":false},"author":11,"featured_media":12963,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[362],"tags":[],"wps_subtitle":"","_links":{"self":[{"href":"https:\/\/ilvelodimaya.eu\/bulgaria\/wp-json\/wp\/v2\/posts\/12962"}],"collection":[{"href":"https:\/\/ilvelodimaya.eu\/bulgaria\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ilvelodimaya.eu\/bulgaria\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ilvelodimaya.eu\/bulgaria\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/ilvelodimaya.eu\/bulgaria\/wp-json\/wp\/v2\/comments?post=12962"}],"version-history":[{"count":0,"href":"https:\/\/ilvelodimaya.eu\/bulgaria\/wp-json\/wp\/v2\/posts\/12962\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ilvelodimaya.eu\/bulgaria\/wp-json\/wp\/v2\/media\/12963"}],"wp:attachment":[{"href":"https:\/\/ilvelodimaya.eu\/bulgaria\/wp-json\/wp\/v2\/media?parent=12962"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ilvelodimaya.eu\/bulgaria\/wp-json\/wp\/v2\/categories?post=12962"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ilvelodimaya.eu\/bulgaria\/wp-json\/wp\/v2\/tags?post=12962"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}