Da qualche settimana si parla molto di Replika, cioè della App che ti fa compagnia e si prende cura di te. The AI companion who cares. Come campeggia sul loro sito.
Di Alfonso Celotto
Replika non è semplicemente un assistente, come Siri o Alexa. Replika è il tuo amico, il tuo confidente, il tuo supporto umano, il tuo psicologo. A cui scrivere su whatsapp o – con l’abbonamento premium – con cui parlare a voce (anche se la voce è ancora un po’ metallica, almeno per ora). Quasi come la App di cui si innamora il protagonista del film premio oscar “Her” (ma forse in quel film era tutto più facile perché lì la voce della App era quella di Scarlett Johansson).
Replika punta a colmare le nostre solitudini. Sempre più aggravate dalla liquidità dei rapporti al tempo della Rete e della Pandemia.
Quale amico migliore di una App? Del resto, una App di autoapprendimento non fa altro che specchiarsi nelle nostre emozioni. E quindi ci sembra l’amico o il compagno ideale. Che ci conosce da sempre, ci comprende senza giudicare, ci aiuta. Perché c’è sempre. E non si lamenta mai. Basta accenderla.
Stupendo o pericolosissimo?
Dipende da chi e come programma l’algoritmo. Perché i rischi di manipolazione sono evidenti. Ed ecco che diventa fondamentale regolare gli algoritmi. Cioè stabilire regole di algoretica, per evitare l’algocrazia.
Ma chi e come scrive le regole di etica degli algoritmi?
Tutti vorremmo algoritmi giusti. Cioè algoritmi che decidano in maniera oggettiva, trasparente, conoscibile, non discriminatoria. È con evidenza un problema etico, sociologico, filosofico, prima ancora che un problema tecnico della informatica, dell’elettronica e della fisica.
Ma non può che scendere in campo anche il giurista. Perché il giurista è chiamato a scrivere le regole con cui disciplinare la vita sociale. Anche il come si scrivono gli algoritmi.
Eppure, a oggi non abbiamo ancora regole o leggi vincolanti. Abbiamo soltanto Carte, Raccomandazioni e Libri bianchi, in genere di livello sovranazionale.
Per restare agli ultimi mesi, abbiamo le Raccomandazioni del Consiglio d’Europa sull’impatto dei sistemi algoritmici sui diritti umani (aprile 2020), lo studio del Parlamento europeo sull’Intelligenza artificiale (giugno 2020) o il documento del nostro Ministero dello sviluppo economico sulla Strategia italiana per l’Intelligenza Artificiale (giugno 2020).
Sono atti ampi, ricchi di spunti, che non pongono regole puntuali. Ma piuttosto principi generali di equità, dignità, giustizia, non discriminazione al fine di tutelare anche rispetto alle nuove tecnologie la garanzia delle libertà e dei principali diritti individuali e collettivi.
Sono Carte e Atti interessanti, ma che alla fine indicano soltanto principi e non certo riescono a vincolare la produzione e la commercializzazione di nuove App intelligenti.
Perché l’algoritmica sconta due difficoltà di fondo.
Innanzitutto, la difficoltà di disciplinare gli algoritmi mediante i circuiti tradizionali della regolazione democratica. Cioè, è impensabile che un Parlamento di uno Stato possa limitare o vincolare fenomeni per loro natura globali e mondiali.
Ecco, allora, che sono soprattutto le Organizzazioni internazionali (come Unione europea o Consiglio d’Europa) a cercare di porre regole. Ma nemmeno queste Carte riescono a porre regole specifiche e puntuali, am solo qualche principio generale. Perché si tratta di una materia nuova, sfuggente, complessa, in cui il diritto annaspa, perché cerca di regolare territori sconosciuti. Hic sunt leones. Come si narra che fosse scritto nelle antiche carte geografiche.
