Il mondo ex machina: viaggio nella filosofia dell’automazione

Secondo il World Economic Forum entro il 2025 il tempo di lavoro delle macchine supererà il tempo di lavoro dell’uomo. Il rapporto uomo macchina necessita di una discussione approfondita e condivisa che dovrebbe partire ben prima che un robot o qualsiasi nuovo oggetto tecnologico raggiunga il pubblico. La filosofia quindi trova nuova linfa vitale nell’interrogare e interrogarsi su come gestire il cambiamento in atto dal punto di vista culturale e sociale e non solo. In un mondo sempre più gestito e organizzato dalle macchine, che ruolo gioca l’uomo?

Continua il nostro viaggio nel mondo dell’etica delle nuove tecnologie, dopo aver ascoltato Piercosma Bisconti e Steven Umbrello, abbiamo intervistato Cosimo Accoto, filosofo di formazione, culture innovation advisor e saggista, research affiliate al MIT di Boston. Accoto focalizza la sua attuale ricerca tecno-culturale su filosofia del software, scienza dei dati, intelligenza artificiale, logica delle piattaforme e tecnologia della blockchain. MIT Connection Science fellow, Accoto è anche autore di diversi volumi tra cui: “Il mondo ex machina. Cinque brevi lezioni di filosofia dell’automazione” (Egea 2019, con un contributo di Alex ‘Sandy’ Pentland); “Il mondo dato. Cinque brevi lezioni di filosofia digitale” (Egea 2017; edizione inglese tradotta da Derrick De Kerckhove: “In Data Time and Tide”, Bocconi University Press 2018) e il suo ultimo saggio: “Mani, menti, mercati. Automazione e ominazione tra machine experience e machine economy” (incluso in “Il primato delle tecnologie”, a cura di Carlo Bordoni, Mimesis 2020).

I grandi cambiamenti in atto ci pongono di fronte a molte domande. Quale ruolo gioca la filosofia in questo contesto?

 Digitale, artificiale, sintetico. In una parola, “programmabile”. Il mondo si è avviato ad una trasformazione profonda e irreversibile delle proprie fondamenta ontologiche ed ontogenetiche. Una trasformazione che si comincia a percepire come molto “agita” ma, al contempo, anche poco “pensata”. Eppure, siamo ad un momento di passaggio epocale nella storia della specie umana. Un passaggio che rimane, ad oggi, sostanzialmente sottaciuto e confinato di norma nelle pratiche e nelle ricerche degli specialisti e degli esperti. Scienze e tecnologie di notevole portata e impatto ambientale e sociale (come la computazione quantistica, la biologia sintetica, l’intelligenza artificiale, la crittografia monetaria, la robotica sociale) stanno lasciando i laboratori di progettazione e sperimentazione – in certa misura finora controllati e circoscritti – per essere diffuse, in maniera sempre più ampia, su scala planetaria. Tutto questo trasferimento sta accadendo, oggi, con poca attenzione specifica e nessuna consapevolezza sistemica da parte della società. A fronte di questa spinta “dalla scienza all’ingegneria” (e progressivamente dai laboratori ai mercati), credo sia sempre più indifferibile la costruzione e l’attivazione di un rinnovato pensiero filosofico all’altezza delle sfide scientifiche e tecnologiche a venire. Un pensiero speculativo e prospettico, aperto ma attento, capace di studiare e accompagnare, con la necessaria densità teorica, questa nuova fase dell’Antropocene. Un’era di positive potenzialità, ma anche di rischiose vulnerabilità. È ora il tempo di immaginare un manifesto “phil-tech” che renda pubblico e renda urgente il nostro bisogno collettivo di tornare a pensare filosoficamente la tecnologia. Se la filosofia è “il proprio tempo appreso nel pensiero” (come sosteneva Hegel), dobbiamo tornare a pensare il nostro mondo tecnologico facendo soprattutto un esercizio di esperienza del suo limite speculativo attuale.

La filosofia si è già interrogata sul ruolo delle macchine nella società. Quali sono le questioni, vecchie e nuove, su cui riflettere nel presente?

 L’automazione presente e prossima emerge all’incrocio di tre stratificazioni ingegneristiche: è meccanica, è algoritmica, è protocologica. O – con altra e parallela qualificazione – è macchinale, è computazionale, è istituzionale. L’ho anche connotata, in un’espressione sintetica e semplice, come l’automazione delle 3 M ovvero: mani, menti, mercati. Insieme queste tre dimensioni sono a fondamento e a movimento della nascente ‘machine economy’. Attraverso l’attivazione dell’operatività fisica e sensorimotoria degli automi, della capacità computazionale e cognitiva degli algoritmi, della dinamicità catallattica e istitutiva dei protocolli, l’emergente “economia della macchina” si avvia a creare, conservare e circolare valore digitale in modalità neo-automatizzate sorprendenti tanto quanto arrischiate. Dobbiamo, allora, sicuramente fare tesoro delle analisi che la cultura ha sin qui fatto intorno alla tecnica, in specifico intorno alle teorie della macchina e poi, più in generale, intorno alla filosofia dell’ingegneria. Su questo si può vedere il volume di Carl Mitcham “Steps Toward a Philosophy of Engineering: Historico-Philosophical and Critical Essays” (2019). Ma credo occorra con più radicalità approfondire filosoficamente le tecnicalità proprie del nostro presente. A partire dall’analisi filosofica del codice software (penso ad esempio ai “software studies”), dallo studio delle culture del dato e delle pratiche algoritmiche, dall’esame di protocolli e primitive crittografiche fondativi per piattaforme e stack infrastrutturali, dall’investigazione delle nuove ontologie e metafisiche dell’artificiale, del sintetico e del quantistico. Senza dimenticare di inserire tutto questo in una nuova riflessione filosoficamente improntata su società, etica, legge, politica: dalla machine experience alla machine economy, ethics e politics. In questo modo, possiamo pensare e costruire un mondo migliore.   

Intelligenza artificiale, robotica, blockchain: quali sfide dobbiamo prepararci ad affrontare?

 La sfida dell’automazione è una sfida speculativa e operativa di scala planetaria. Lo ha chiarito più recentemente anche il filosofo Benjamin Bratton. Se avete apprezzato il suo corposo “The Stack”, sintetizzato nel mio saggio “Il mondo dato” (2017), così sarà anche per il suo nuovo, più breve volume: “The Terraforming” (2019). Come ho scritto nel mio “Il mondo ex machina” (2019), l’automazione è da leggere anche e soprattutto culturalmente e con prospettiva eco-planetaria. Nel capitolo Automation As Ecology, Bratton scrive: “Accordingly, we define automation not just as the synthetic transference of natural human agency into external technical systems, but as the condition by which action and abstraction are codified into complex adaptive relays through living bodies and non-living media. It is both a direct physical ripple and an association of semiotic signaling with its reception; it includes language as well as mechanical information storage and communication. This more ecological conception of automation is one of the conditions revealed by the contemporary intensification of artificial algorithmic intelligence today. It speaks to the already entangled condition of our species, agency, industry, and cultural dramas more than it does to the contemporary concern of proper humans being improperly replaced by machines”. Molti ancora non riescono a vedere la sfida e cioè come queste automazioni (fisiche, cognitive, catallattiche) si stiano già incrociando e si potranno ulteriormente intersecare in modalità inaspettate. In dicembre, ad esempio, al MIT Media Lab si è svolta una conferenza su blockchain e robotica. Ricercatori e imprenditori si sono confrontati sulla frontiera di nuovi modelli di business che uniscono protocolli decentralizzati, intelligenza artificiale e robotica a sciami (swarm robotics). Un esempio eccellente di “immaginazione in azione”. 

In particolare, il deep learning ci pone di fronte a una dimensione nuova di automazione, che non riguarda solo l’azione ma anche lo sviluppo di una forma di ragionamento. Come cambia il nostro approccio all’ambito cognitivo? 

 I cambiamenti in atto saranno profondi soprattutto perché oggi sempre più a “conoscere” la realtà sono agenti artificiali attraverso sensori, dati, algoritmi, protocolli e infrastrutture. Le macchine che abbiamo considerato finora semplici cose o strumenti inanimati sempre più fanno “esperienza” del mondo a loro modo. Facciamo un esempio. Un’automobile a guida autonoma per andare in strada senza guidatore deve poter capire il contesto in cui si muove. Deve saper individuare i percorsi e gli edifici, riconoscere in autonomia le altre auto e scansare i pedoni. E non soltanto deve riconoscere il contesto, ma anche per l’appunto prendere decisioni. Prima dei recenti successi delle reti neurali artificiali e dell’apprendimento profondo (deep learning) le auto non erano capaci di autonomia d’azione in strada. Storicamente, stiamo dunque erodendo il “solipsismo” delle macchine: prima passando, nei programmi software, da ‘batch’ a ‘interrupt’ e poi, con gli algoritmi di apprendimento profondo, da ‘knowledge’ a ‘learning’. Pur con molti limiti, le reti neurali artificiali, dunque, possono esplorare lo spazio della conoscibilità del mondo attraverso i dati in maniera massiva e in questa attività esplorativa sono in grado anche di individuare prospettive e soluzioni “creative” ai problemi. Operazionalmente, parliamo di trasformazione dei dati in uno spazio geometrico vettorializzato, di ottimizzazione della ricerca delle funzioni di “fitting”, di aggiustamento dei pesi e delle deviazioni per “retropropagazione” (back-prop) dell’errore. Naturalmente tutto questo non basta come il recente dibattito tra Bengio e Marcus ha ben testimoniato. E in molti per il futuro immaginano una più stretta contaminazione tra approcci logici-simbolici e approcci empirico-neurali per simulare, nel “pensare” delle macchine, il senso comune, l’inferenza causale e molto altro.

Molte aziende tecnologiche si sono rese conto dell’importanza di un pensiero critico e filosofico nello sviluppo tecnologico. Ci troviamo di fronte a uno “periodo d’oro” per la filosofia e i filosofi?

 La filosofia deve tornare ad occuparsi delle cosiddette “tecnicalità” che sono oggi sempre più a fondamento e a movimento del nostro reale. Mi sembra che si, che ci sia un interesse crescente da parte delle imprese per il pensiero critico e filosofico. E non solo per le questioni sociali, politiche ed etiche che le evoluzioni tecnologiche implicano. E né solo per l’intelligenza artificiale. Pensiamo anche alla blockchain. Per me, l’attuale focalizzazione sulle meccaniche ingegneristiche della tecnologia blockchain rischia di offuscare le dimensioni filosofiche e istituzionali fondative di cos’è un “registro”. Il registro nella sua forma più astratta è storicamente una tecnologia della memoria sociale dello stato del mondo in un dato momento. È, cioè, un dispositivo istituzionale, una nuova istituzione dopo mercati e imprese (si veda Berg, Davidson e Potts, Understanding the Blockchain Economy). Ha dunque una funzione “epistemica” in quanto è in grado di conservare, ad ogni dato momento, la “verità” dello stato di entità e relazioni nel tempo. Il fatto, ad esempio, che io possegga o meno una certa somma di denaro digitale (“utxo” o “unspent transaction output” nel linguaggio tecnico dei bitcoin). Ma ha anche una funzione “istitutiva” e fiduciaria in quanto è a partire da quello stato di conoscenza e di verità certificata dal registro che è possibile attivare cambi/scambi futuri dello stato delle cose. Oppure ancora pensiamo anche filosoficamente al cloud e alle altre metafore atmosferiche della computazione. Cloud computing, fog computing, edge computing mappano i dove della computazione, le sue locazioni: sulla nuvola, nella nebbia o al margine del mondo. Ma queste “collocazioni” della computazione sono anche e soprattutto diverse “configurazioni” della computazione. Filosoficamente il cloud non è tanto un “luogo” della computazione (luogo d’essere nel mondo), ma è soprattutto un “modo” della computazione (modo d’essere del mondo). Così, la filosofia sollecita l’esercizio del pensiero strategico.

Uno degli aspetti fondamentali è il tema etico. Quali sono le questioni più spinose? È possibile creare un’etica comune, che tenga in considerazione le differenze personali e culturali?

 L’orientamento filosofico ha il grande pregio di aiutare a chiarire e a illuminare principi e fondamenti dello sviluppo tecnologico, a porre in questione e criticare assunzioni e pregiudizi applicativi, a costruire nuovi modelli di governo e linee guida etiche in grado di eliminare o mitigare, ad esempio, le discriminazioni algoritmiche o le automazioni delle diseguaglianze nei processi decisionali. È anche in questa prospettiva che, credo, vada esplorata e analizzata la nuova condizione umana in emergenza (nel duplice senso di novità e vulnerabilità) per comprendere se e come e perché è una condizione che si dice essere “aumentata” dalla neo-automazione o piuttosto messa in pericolo. Di fatto, sono scenari gravidi di opportunità per la costruzione di un nuovo mondo automato e aumentato potenzialmente più prospero, ma anche forieri di reali criticità e rischi nell’amplificare o creare nuove diseguaglianze. Ci sono due orizzonti primari di vulnerabilità: “privacy” (protezione del nostro presente/passato: riservatezza, sicurezza…) e “destiny” (protenzione del nostro presente/futuro: libertà, autonomia…). Oramai lo sappiamo. Ma in realtà si sta già lavorando su questi aspetti e occorrerebbe far avanzare il dibattito attuale molto fermo e schiacciato su rischi e paure. Nei laboratori e negli istituti di ricerca si stanno studiando soluzioni anche sperimentali. In generale c’è un grande fermento e una consapevolezza crescente: comitati e organismi istituzionali, documenti per la regolazione e linee guida, assessment etici per le tecnologie, pratiche e approcci per algoritmi aperti e certificati, miglioramento della qualità dei dati in input, verifica degli algoritmi per garantire maggiore equità e libertà, nuovi strumenti per rendere esplicabili le AI oltre le black box, ecc. Certo, compito non semplice, ma un dibattito fermo solo ai problemi è oggi poco utile ed è lontano dallo stato dell’arte. Di sicuro, progetteremo e negozieremo soluzioni socioetiche interoperabili che aggiusteremo nel tempo. 

In un mondo in cui l’automazione è centrale, cosa dovrà rimanere tipicamente ed esclusivamente umano?

 L’economia della macchina, come si comincia a definirla, si sta sviluppando e produrrà nuovi automatismi e nuove automaticità. A gennaio 2020, il libro “Competing in the Age of AI” di Iansiti e Lakhani ha documentato con casi e storie (la cinese Ant Financial ad es.) questa prospettiva di creazione e cattura del valore ampiamente automatizzata. E ho già segnalato la conferenza pionieristica sugli incroci possibili tra robotica e blockchain per immaginare smart contract che gestiscono droni in forma di “robot-as-a-service”. Dobbiamo però essere chiari su un punto. Quello che chiamiamo “umano” è anche il risultato complesso delle tecnologie che storicamente vengono sviluppate. L’umano non “è”, l’umano “diviene”. Ed è anche figlio dei suoi automatismi (biologici, culturali, sociali, storici). Da ultimo, la tecnologia è il modo dell’umano di stare al mondo. Da quando scheggiavamo pietre per ricavarne coltelli e utensili vari, ad oggi che creiamo architetture informatiche per comunicare e interagire. La mia idea è che non sia possibile scindere tecnologia e umanità come se ci fosse un umano in sé distinto dagli strumenti scientifici, artistici, professionali e culturali che storicamente usa. L’umano contemporaneo nascerà nelle e dalle tecnologie digitali, di rete, artificiali e algoritmiche, sintetiche e quantistiche che stiamo progettando in questi anni. Come dice Topol nel suo “Deep Medicine”, il lavoro del medico è già oggi disumanizzante (e non perché ci sono le macchine o perché verranno le macchine), ma in quanto è schiacciato da routine, inefficienze e burocrazia. L’automazione potrebbe liberare il tempo medico da dedicare empaticamente e umanamente ai pazienti. Ma sta a noi indirizzare verso questo orientamento lo sviluppo dell’automazione perché non avverrà automaticamente.