Individuo-soggetto-autore al tempo dell’IA
Marco Ricciardi
RIASSUNTO
Il rapporto tra intelligenza artificiale generativa e autorialità viene interrogato a partire da una più ampia riflessione sulla ridefinizione di soggettività, coscienza e individualità nell’epoca tecnologica contemporanea. La concezione dell’uomo come Mängelwesen in Arnold Gehlen e l’idea della tecnica come “proiezione organica” formulata da Ernst Kapp consentono di ricostruire la continuità storica del rapporto uomo-macchina, lasciando emergere però il salto qualitativo introdotto dall’IA. Le capacità di apprendimento, rielaborazione semantica e generazione testuale delle macchine riportano al centro la questione della coscienza, mettendo in tensione il nesso tra produzione di senso, individualità biologica e istinto di sopravvivenza. In dialogo con la “morte dell’autore” di Roland Barthes e con la funzione-autore foucaultiana, vengono esplorate le trasformazioni in atto nel rapporto tra autore, opera e responsabilità.
PAROLE CHIAVE: Intelligenza artificiale, autore, soggetto, individuo, coscienza
abstract
The relationship between generative artificial intelligence and authorship is examined through a broader reflection on the redefinition of subjectivity, consciousness, and individuality in the contemporary technological age. The conception of the human being as a Mängelwesen in Arnold Gehlen and the idea of technology as an “organic projection” formulated by Ernst Kapp make it possible to reconstruct the historical continuity of the human-machine relationship, while allowing the qualitative shift introduced by AI to emerge. The capacities of machines for learning, semantic re-elaboration, and textual generation bring the question of consciousness back to the center, placing under tension the link between the production of meaning, biological individuality, and the instinct for survival. In dialogue with the “death of the author” proposed by Roland Barthes and with the Foucauldian notion of the author-function, the transformations currently affecting the relationship between author, work, and responsibility are explored.
L’argomento centrale del seminario di oggi è il rapporto tra libro, produzione letteraria e intelligenza artificiale, un tema che coinvolge direttamente il concetto di autorialità e di autore. Ci chiediamo in che modo l’IA stia modificando il rapporto tra autore e opera, fino a che punto questo rapporto possa spingersi e quali conseguenze, vantaggi, svantaggi e criticità, più o meno drammatiche, possano derivarne. Per affrontare la questione, credo sia necessario approfondire un tema più ampio ossia in che modo l’IA ci stia costringendo a ridefinire la nostra concezione di natura umana, coscienza, soggettività e individualità e, quindi, soltanto dopo, in quanto sottoinsieme, di autorialità. Adotterò, inevitabilmente, un approccio fortemente interdisciplinare, per comprendere quali siano gli elementi di assoluta novità rispetto alle tecnologie precedenti, che pure hanno avuto un impatto antropologico significativo nella storia dell’uomo (poiché il rapporto con la tecnologia è parte integrante della natura umana). Ci interrogheremo anche su quali possano essere, e se davvero esistano, aspetti irriducibilmente umani e insostituibili dall’IA.
Negli ultimi anni assistiamo a una diffusione sempre più capillare di applicazioni basate sull’IA in ambito professionale e creativo, con un impatto antropologico paragonabile, se non superiore, a quello avuto dal World Wide Web. La rivoluzione di Internet, il mondo iperconnesso, la new economy e quello che Rosi Braidotti descrive come antropocene/postumanesimo digitale (in Posthuman, 2013) sono stati passaggi decisivi. Il telefono cellulare prima, e lo smartphone poi, hanno definitivamente fuso la comunicazione mobile con la rete, trasformandosi in vere e proprie protesi cibernetiche. A questo si aggiunge l’evoluzione verso dispositivi basati sulla realtà aumentata, che filtrano sempre di più il nostro rapporto con il reale. I social network hanno contribuito a traslare gran parte della nostra vita relazionale (ma spesso anche lavorativa e produttiva) dallo spazio fisico a quello virtuale della rete, modificando percezione, modalità della comunicazione e abitudini sociali. Si apre così la questione di uno spazio apparentemente pubblico, ma in realtà regolato e controllato da soggetti privati, ovvero le grandi multinazionali: Meta (Zuckerberg), Amazon (Bezos), Google (Larry Page), ecc.
È indubbio che il rapporto con la tecnologia sia costitutivo della natura umana. Arnold Gehlen, filosofo, antropologo e sociologo tedesco, ha definito l’uomo Mängelwesen (essere carente), ossia un animale biologicamente deficitario. Già Ernst Kapp, alla fine dell’Ottocento, aveva definito la tecnologia una “proiezione organica”, un’estensione e potenziamento delle facoltà umane, idea poi ripresa da McLuhan in Understanding Media: The Extension of Man (1964). Il connubio tra uomo e tecnica accompagna l’umanità sin dagli inizi: dagli utensili di pietra scheggiata al controllo del fuoco, dalla ruota alla lancia e all’arco, dall’agricoltura alle tecniche costruttive, dalla scrittura alla stampa, dalle lenti al motore a scoppio, dall’energia nucleare al microchip. Eppure, è indubbio che negli ultimi secoli si sia verificata un’accelerazione di questo processo: una rapidità che cresce con la rivoluzione scientifica e che ha avuto un’impennata con le rivoluzioni industriali, in particolare la seconda (motore a scoppio, telegrafo/telefono, fotografia, cinema), fino alle tecnologie digitali e al Web. Cosa distingue allora questa nuova era dell’IA? Qual è l’elemento perturbante, l’Unheimlich per dirla in termini freudiani?
La nascita della cibernetica, nella prima metà del Novecento, pose la domanda su quali caratteristiche avrebbe dovuto avere una macchina per essere considerata pensante. Alan Turing, matematico e crittografo britannico, considerato uno dei pionieri dell’IA, definì alcuni criteri: indistinguibilità dalle risposte umane, coerenza, naturalezza del linguaggio e capacità di sostenere una conversazione aperta, il celebre Test di Turing. Per Norbert Wiener, nel 1948 (Cybernetics: or Control and Communication in the Animal and the Machine), la caratteristica fondamentale per distinguere l’uomo dalla macchina era il feedback e il controllo automatico, ossia la capacità di apprendere continuamente e autonomamente dall’esterno. La svolta epocale per le macchine/computer avviene, tra gli anni ’80 e ’90, con il passaggio dalla programmazione simbolica pura (basata su procedure previste in partenza) all’apprendimento automatico (machine learning). Il lavoro pionieristico sulle reti neurali (Hinton, Rumelhart e Williams), fondato sul concetto di backpropagation, permise la creazione di macchine i cui output, dati certi input, non fossero del tutto prevedibili. L’enorme aumento dei dati disponibili in rete e il potenziamento dei processori degli ultimi anni hanno condotto al cosiddetto deep learning, che ha portato l’IA a evolversi nella direzione che oggi conosciamo (DALL·E, o altri strumenti di OpenAI, ecc.). Certo, il Web ci aveva già messo a disposizione una quantità enorme di dati, soprattutto attraverso i motori di ricerca, modificando sensibilmente la nostra relazione epistemica con il mondo. Ma oggi le applicazioni basate sull’IA sono in grado di ri-metabolizzare i dati, metterli continuamente in relazione tra loro e generare percorsi logico-semantici-visivi nuovi, coerenti e convincenti, in un modo che fino a poco tempo fa ritenevamo esclusivo appannaggio di una mente biologica pensante. Queste tecnologie sembrano davvero riprodurre tratti di una soggettività cosciente e interattiva, tipica della mente umana. Si può dire che molte di queste intelligenze artificiali siano ormai in grado di superare il Test di Turing. Un ulteriore elemento perturbante è la loro capacità di riprodurre e imitare il mondo reale (deepfake), tanto più destabilizzante quando l’oggetto della contraffazione è una persona in carne e ossa. In altri termini, ciò che viene messo in discussione è proprio la qualità umana, soggettiva e individuale, di ricevere input dal mondo esterno e rielaborare ogni volta una risposta diversa, un percorso di senso irripetibile. Viene intaccato il prestigio stesso dell’individualità biologica.
A partire da questi presupposti, restringendo il campo all’ambito estetico-artistico (e in particolare letterario, quello che più ci interessa in questa sede), è il concetto di autore (sottoinsieme emblematico dei concetti di soggettività e individualità) a essere radicalmente messo in discussione. Già nel Novecento pensatori come Roland Barthes ci avevano messo in guardia sulla credibilità del concetto di autore: in La morte dell’autore (1967) proprio Barthes sostiene che il significato di un testo dipende soprattutto dall’interpretazione dei lettori. Michel Foucault, con l’idea di funzione-autore, considera l’autore come un costrutto discorsivo e sociale, necessario a conferire coerenza, responsabilità (anche giuridica) e autorità al discorso. Le stesse avanguardie letterarie del Novecento avevano già sperimentato l’interazione con la macchina. Restando in Italia (e con un richiamo simbolico anche al luogo che ci ospita), si pensi al Nanni Balestrini di Tape Mark e di Tristano, dove l’interazione uomo-macchina diventa elemento centrale e destabilizzante per il concetto di autorialità. Tuttavia, il passaggio dalla semplice fase computazionale della macchina all’era dell’intelligenza artificiale generativa rappresenta un salto qualitativo decisivo nel rapporto creativo uomo-macchina. Il concetto stesso di autore viene scosso alle radici e ci pone di fronte a due scenari, entrambi già in atto ossia la mimetizzazione totale dell’arte artificiale con quella “naturale” e l’interazione e commistione tra IA e artista in carne e ossa, biologico. A breve, potrebbe sembrarci normale entrare in una libreria (o persino in una biblioteca) e trovare testi prodotti interamente dall’IA accanto a quelli scritti da esseri umani (una contaminazione che, di fatto, è già cominciata). A questo punto, diventa cruciale chiedersi: che impatto ha l’IA sul valore stesso della soggettività? Cioè su quella particolare qualità, propria di ogni individuo, di elaborare gli input dell’ambiente producendo output diversi e irripetibili? Esiste il rischio che l’IA svaluti progressivamente il valore e la necessità del singolo individuo, e che sottragga aura, in senso benjaminiano, agli esseri umani, rendendoli meno “necessari”? È una questione cruciale soprattutto in Occidente, dove, soprattutto a partire dall’Umanesimo/Rinascimento e poi con l’Illuminismo, l’individuo e il suo valore politico-giuridico sono diventati il fulcro dell’intero impianto culturale. Inoltre, la potenza di questo strumento, capace di efficientare le nostre attività produttive, intellettuali e creative, potrebbe indurci a delegare comodamente questo sforzo mentale (individuale, faticoso ma creativo), favorendo con il tempo una possibile omologazione e un impoverimento cognitivo della noosfera.
Non si tratta poi solo di una questione antropologica, ma anche apertamente politica, considerando che l’IA è oggi in larga parte controllata da pochi soggetti privati. Si è parlato di black box in relazione alla scarsa trasparenza del funzionamento delle macchine, delle loro modalità di apprendimento, e persino dei meccanismi di censura di contenuti o posizioni ideologiche non gradite. Così come è avvenuto con il web, con i motori di ricerca e con l’impatto culturale, antropologico e politico dei social network, l’ingresso sempre più pervasivo e irrinunciabile dell’IA (concentrata nelle mani di pochi soggetti privati) nei gangli vitali della nostra economia e nelle amministrazioni pubbliche e private rischia di esacerbare in modo esponenziale la questione del conflitto di interessi tra privati e comunità pubblica, lasciando quest’ultima in una posizione di forte subalternità, dipendenza e debolezza (e dunque manipolabilità). Si tratta di una questione centrale in Occidente soprattutto dalla globalizzazione in poi. Partendo da questi presupposti, sembra pacifico che, per limitare gli effetti collaterali più pericolosi, una sfida decisiva sarà quella di acquisire un controllo, o comunque una forma di supervisione pubblica o democratica, su questo potente strumento. Sarà inoltre importante studiarne l’effetto sull’apprendimento e sull’intelligenza umana, soprattutto in età evolutiva (peraltro la stessa questione è emersa, con ritardo e senza risposte politiche coerenti, di fronte all’uso e all’abuso di cellulari e smartphone tra bambini e adolescenti). È tanto più urgente affrontare questo nodo perché l’IA è uno strumento incredibilmente potente, utile e conveniente in moltissimi ambiti (economico, medico, logistico, scientifico, creativo e, purtroppo, anche militare) e lo è al punto che non appare realistico né di per sé auspicabile attendersi un'inversione di marcia tecnologica. Nella storia, una tecnologia funzionale e vantaggiosa difficilmente viene abbandonata, a meno che non intervengano eventi traumatici tali da creare una cesura (e speriamo ovviamente che questo non accada anche se gli eventi internazionali in corso non lasciano presagire nulla di buono all’orizzonte). L’IA ci sta spingendo verso un efficientamento estremo dei processi e delle risorse all’interno del sistema dell’economia di mercato capitalistica. Tale efficientamento potrebbe risultare nefasto qualora servisse prevalentemente gli interessi economici privati, anziché essere orientato al raggiungimento di obiettivi fondamentali di interesse collettivo, come la riduzione della povertà, l’ottimizzazione delle risorse idriche e alimentari, la difesa dell’ambiente. La questione fondamentale diventa quindi: quali obiettivi porre come primari, quali diritti considerare inalienabili in uno scenario incredibilmente fluido, complesso e in gran parte sconosciuto? Queste risposte vanno cercate con urgenza, poiché l’IA sta rivoluzionando il mercato del lavoro, cancellando molte figure professionali e sostituendole con altre, probabilmente in numero non equivalente. Senza lasciarsi travolgere da istinti luddisti, sembra chiaro che l’impatto dell’IA sul mondo del lavoro sarà persino superiore a quello delle varie rivoluzioni industriali, rendendo necessario pensare a un sistema più efficiente dell’attuale per sostenere chi perderà (anche solo temporaneamente, si spera) lavoro e reddito.
In questo contesto diventa fondamentale comprendere in quali ambiti la nostra soggettività umana, la nostra creatività e, con esse, il concetto di autorialità e individualità possano rimanere essenziali e insostituibili; in quali territori, in altri termini, la macchina non possa arrivare a sostituire l’uomo. Domande non certo nuove né originali, ma che oggi stanno abbandonando le loro connotazioni fantascientifiche o speculative per diventare temi di attualità urgente e pratica.
Ciò che la macchina, per ora, sembra non possedere è la coscienza di esserci, la percezione di sé e un autonomo istinto di sopravvivenza. L’essere vivente è una macchina metabolica che assorbe energia dall’ambiente e la trasforma, rendendola disponibile al proprio funzionamento interno; è in grado di riprodursi autonomamente tramite la replicazione del materiale genetico ed evolve nel tempo attraverso mutazioni genetiche e selezione naturale, adattandosi all’ambiente. Ogni essere biologico lotta per mantenere il proprio ordine e la propria funzionalità interna, traendo energia dall’esterno e opponendosi, in un certo senso, al principio di entropia della termodinamica (il fisico Erwin Schrödinger, in Che cos’è la vita?, parlò di “negentropia”). Questo istinto di conservazione o sopravvivenza, consustanziale alla percezione dell’esserci (e del voler esserci), sembra essere, al momento, prerogativa esclusiva del vivente. L’etica evolutiva, sulla scorta delle teorie darwiniane, ha descritto il nostro edificio di valori e di civiltà come una raffinata strategia di sopravvivenza: una modalità complessa di risposta a questo imperativo (“naturale” o “trascendente”) della conservazione. Richard Dawkins, biologo inglese, ne Il gene egoista, ha definito l’uomo “una macchina da sopravvivenza programmata per preservare ciecamente quelle molecole egoiste note sotto il nome di geni”. Le religioni rivelate fanno derivare l’etica prevalentemente, ma non esclusivamente, dai testi sacri (basti pensare al concetto di legge naturale in Tommaso d’Aquino). Pensatori legati invece a un’idea di etica trascendente (non confessionale né rivelata) ritengono che i valori non siano frutto né di rivelazione né di selezione naturale, ma appartengano a un patrimonio connaturato e universale della natura umana o cosmica, visione in parte assimilabile a molte filosofie e religioni orientali. Una visione che, in forme diverse, ha accomunato grandi pensatori occidentali, da Platone a Kant, fino allo Spirito di Hegel, allo slancio vitale di Bergson, e, in epoca contemporanea, figure come Emmanuel Lévinas, Hans Jonas, Jürgen Habermas, e altri. Al di là di questa dialettica aperta tra rivelazione, trascendenza ed evoluzione, appare chiaro come l’elemento costitutivo dell’umano (e in parte del biologico) sia proprio la natura etica derivata dalla volontà di esserci, dal valore attribuito alla vita come un a priori, dalla paura della disgregazione del corpo e dell’ordine biologico-organico faticosamente preservato contro la seconda legge della termodinamica. Ecco perché le scelte di valore, gli obiettivi verso cui indirizzare questo strumento indubbiamente potente, dovrebbero rimanere nelle mani dell’uomo: la macchina non biologica, priva dei meccanismi biochimici connaturati alla vita (metabolismo, omeostasi, ecc.), non sembra al momento possedere né contezza né volontà di esserci. Per paradosso, nel momento in cui l’uomo delega sempre più il fare pratico (la praxis) alla macchina, il suo campo d’azione privilegiato potrebbe diventare proprio la dimensione etico-filosofica e/o spirituale-religiosa. Dovendo preoccuparsi sempre meno del “come fare”, sarà chiamato sempre più a interrogarsi sul “verso quali obiettivi” e “nel rispetto di quali limiti”. In un mondo iperconnesso, in cui queste tecnologie rivoluzionarie sono ormai condivise a livello planetario, la vera sfida sarà la ricerca di valori “universali e condivisi”, e la dialettica tra etica trascendente, evolutiva o rivelata diventa certamente un campo d’azione centrale, ma anche potenzialmente conflittuale.
Se da una parte è l’istinto di sopravvivenza e la coscienza a caratterizzare l’umano (e in parte, per la coscienza, anche il vivente, almeno negli animali più complessi e simili all’uomo), dall’altra l’IA, con la sua somiglianza sempre maggiore con il pensare umano (vedi il Test di Turing di cui parlavamo sopra), ci costringe a porci la domanda che religioni, filosofia e scienza si pongono da millenni. Pensiamo emblematicamente al “cogito ergo sum” cartesiano o al “nodo cosmico” di Schopenhauer: ossia, cosa sia e da dove derivi la coscienza. Non abbiamo ancora una risposta chiara e distinta, per usare un lessico cartesiano, ed è proprio per questo che l’IA, con la sua sempre più raffinata imitazione del pensiero umano, rappresenta un elemento perturbante. Ancora oggi, la scienza esprime, quando lo fa, visioni complementari o persino contrastanti sull’argomento. C’è indubbiamente una visione neurocentrica, secondo la quale la coscienza emerge solo in presenza di un cervello sviluppato e di un corpo che funge da interfaccia necessaria con il mondo esterno. Ne sono esempi (tra gli altri) Antonio Damasio (L’errore di Cartesio, 1994) e gli esperimenti di Christoph Koch e Francis Crick, alla ricerca dei correlati neuronali minimi necessari al manifestarsi della coscienza. O ancora Stanislas Dehaene, secondo cui la coscienza emerge quando le informazioni vengono amplificate oltre una certa soglia di rilevanza e condivise tra diverse aree del cervello. In alternativa alla visione neurocentrica, alcuni studiosi sostengono che la coscienza sia meno legata a un organo specifico e più diffusa. A questa categoria appartiene il neurobiologo Stefano Mancuso, secondo il quale la coscienza potrebbe permeare anche il regno vegetale, vista la raffinata capacità delle piante di elaborare informazioni da radici, foglie e fusto per cercare cibo, luce e acqua. Esistono poi visioni ancora più olistiche, come quella di Philip Goff (Galileo’s Error), secondo cui ogni forma di materia possiede una sorta di proto-coscienza, e non esisterebbe quindi una soluzione di continuità totale tra organico e inorganico. Domande che non hanno ricevuto risposte definitive, questioni ataviche che, oggi, in un momento in cui la macchina si fa sempre più umana e l’umano (con lo sviluppo della cibernetica e della genetica) potenzialmente sempre più artificiale, diventano per la prima volta nella storia non solo filosoficamente, ma anche operativamente, eticamente e politicamente pressanti. Lo sviluppo ulteriore del cyborg, con la progressiva fusione di organico e inorganico, microchip e neuroni, già in atto a livello più che sperimentale, porta questa esplorazione sulla natura della coscienza ai suoi confini più estremi.
Per concludere, al momento l’impressione è che l’autore, il soggetto, l’individuo avranno ancora motivo e piena necessità/dignità di esistere, finché si prenderanno la responsabilità estetica, etica, morale, politica e, in termini foucaultiani, persino giuridica di ciò che producono, anche se il processo creativo o operativo fosse ormai in buona parte delegato all’IA o alla macchina in generale. Finché riusciranno a creare “valore” nuovo e in qualche modo unico per la specie, “l’autore” continuerà probabilmente a esistere, almeno come “funzione”. Nella speranza che ci sia sempre una comunità o un pubblico capace di distinguere un buon soggetto/autore da uno meno valido. Ma questa è un’altra storia, che magari approfondiremo in un prossimo incontro. Ho finito, grazie per l’attenzione.