La società automatica
Self-driving society - Media Ecology Newsletter #6
Una società senza guidatore è un’ipotesi romanticamente anarchica oppure razionalmente tecno-centrica? Oppure è un’idea compatibile solo con una versione fondamentalista del neoliberismo? Probabilmente, un sistema di potere c’è sempre: la differenza è che può essere più o meno controllabile dalle persone.
Strategia italiana per l'intelligenza artificiale in preparazione
Uno studio per la Commissione Europea mostra come 14 stati membri dell'Unione abbiano una strategia nazionale per l'intelligenza artificiale. L'Italia non è tra questi, anche se il processo per pubblicare la sua strategia nazionale è in corso e arriverà a compimento presto. (AI Watch - Artificial Intelligence in public services). L'Italia, se il piano andrà in porto, avrà un coordinamento dei centri di ricerca, un sistema di decisione interministeriale, più di due miliardi da investire in tecnologie connesse. Le applicazioni dell'intelligenza artificiale che il settore pubblico ha già messo in campo nei diversi paesi europei vanno dalla protezione dell'ambiente alla protezione sociale, dalla difesa alla salute, dall'educazione all'ordine pubblico, e così via. Si tratta di tecnologie per la comprensione dell'audio, chatbot per il colloquio automatizzato con i cittadini, veicoli autonomi, riconoscimento delle immagini, knowledge management, simulazioni e previsioni economiche, sicurezza e cybersicurezza. Tutto questo non è né bene né male. Ma di sicuro occorre fare bene quello che si fa.
Se si fa male i rischi sono importanti. Il caso delle selezioni automatizzate per l'accesso alle università inglesi è straordinariamente istruttivo. Il governo britannico voleva rendere più “meritocratico” l’accesso alle università d’élite. E ha introdotto un algoritmo per valutare i candidati, correggendo le valutazioni dei professori delle scuole di provenienza (considerati non affidabili e troppo “teneri”). L’algoritmo ha abbassato mediamente le valutazioni di alcune decine di punti percentuali. Molti candidati che avevano avuto ottimi voti a scuola si sono trovati esclusi dalle “migliori” università. Alcuni hanno scelto università “peggiori”. Tutti quelli che hanno potuto si sono iscritti alle università “migliori”. Ma dopo attenta valutazione si è scoperto che l’algorimo era sbagliato, sicché il governo ha deciso di rimangiarsi tutto. Il Regno Unito ha usato l'intelligenza artificiale in un modo che si è rivelato fallimentare. Alla fine dopo che tutti gli studenti avevano preso le decisioni di iscrizione alle università in base ai punteggi definiti dal sistema automatico si sono trovati informati che invece valevano solo i voti che avevano ottenuto a scuola. Risultato caos, molte ingiustizie, danni alle università, e così via. (The Conversation, Guardian, RPubs). Era prevedibile dicono alcuni statistici (CivilServiceWorld). Di certo mancavano sistemi di controllo e criteri comprensibili. Ma un principio è sovrano: non si può far dipendere la vita delle persone da un algoritmo senza che la decisione finale sia presa da una persona: è un diritto umano.
Questo in teoria. Ma - come si dice - in teoria la pratica corrisponde alla teoria, in pratica no.
Basti pensare alla guerra. Certo, si pensa che il grilletto sarà sempre schiacciato da un umano. Anche quando l'arma sarà a migliaia di chilometri di distanza e si muoverà autonomamente nel campo nemico. Ma l'umano avrà il tempo di decidere di premere il grilletto in una battaglia fatta di automi e algoritmi? Un articolo suggerisce di dubitarne: Wavell Room: ’Melancholic and Fascinated’: Artificial Intelligence, Authentic Humanity, and the Future of War.
D'altra parte il capitalismo finanziario automatizzato è una realtà da tempo. E non mancano gli esempi dei disastri che può provocare. Ma la tendenza sarà quella di automatizzare sempre di più? Il senso critico continua a suggerire qualche grado di attenzione, come nell'articolo di Mark Andrejevic: Automatic capitalism.
Si può dare un'occhiata a questo paper: Automated Neoliberalism? The Digital Organisation of Markets in Technoscientific Capitalism, di Kean Birch. «Alla luce della natura sempre più tecnoscientifica del capitalismo contemporaneo, è importante esaminare esattamente come i mercati sono organizzati e la loro governance configurata dai processi digitali. In questo articolo, sostengo che l'intreccio tra la tecnoscienza digitale e il capitalismo ha portato a un "neoliberalismo automatizzato" in cui i mercati sono configurati da piattaforme digitali, la vita personale si trasforma attraverso l'accumulo di dati personali e le relazioni sociali sono automatizzate attraverso algoritmi, registri elettronici distribuiti e sistemi di rating». Come cambia il rapporto tra borsa e società. Come cambia il rapporto tra individui e macchine?
La libertà non può dipendere dalle macchine. Ma la loro progettazione è una responsabilità nella quale la libertà si esercita. E rinunciarvi è una colpa imperdonabile.
I limiti delle traduzioni automatiche
Le traduzioni automatiche migliorano costantemente. In novembre ci sarà il congresso europeo dell’associazione che si occupa di machine translation. I paper che verranno presentati e che sono già disponibili dimostrano l’incredibile evoluzione di questa disciplina.
Ma contemporaneamente aumenta la consapevolezza del fatto che la traslazione di parole da un linguaggio all’altro può avvenire per via automatica, la trasmissione del significato e del senso della comunicazione è relativa all’evoluzione sociale, culturale, economica, che si dipana giorno dopo giorno nella società e si sedimenta, per esempio, nel senso comune. Macchine e persone, nelle traduzioni, co-evolvono: ma la relazione può essere più di simbiosi che di predazione.
Del resto, il senso delle frasi si può intendere soltanto nel contesto culturale nel quale sono pronunciate o ricevute. Uno studio che ne discute arriva a conclusioni che sono talmente ovvie da spingerci a riflettere sui motivi del loro straordinario interesse: Machine learning reveals role of culture in shaping meanings of words.
Evoluzione dell’interfaccia per le conversazioni online
Le interfacce post-covid non sono soltanto quelle delle piattaforme per conversazioni più banali. I musei stanno provando a creare spazi online di maggiore qualità. Sulla scia dei musicisti.
Si possono seguire lezioni in diretta a distanza in aule un po’ più belle di una schermata di Zoom. Si può costruire un ambiente tipo simcity, sfruttare i template esistenti o costruire qualcosa di speciale per le lezioni e per i webinar (Breakroom, Spatial).
Letture sull’intelligenza artificiale
L’estetica e l’intelligenza artificiale: aumentare e amputare le capacità umane (2018)
Letture sull’intelligenza artificiale (2018)
La responsabilità dei tecnici dell’intelligenza artificiale (2018)
Apocalittici e integrati nell’epoca dell’intelligenza artificiale (2019)