In azienda vince chi fugge (dall’AI)

Un nuovo genere letterario è comparso sulla scena ed è la cosiddetta ‘lettera di dimissioni dal mondo dell’Intelligenza Artificiale (AI)’. Sempre più addetti ai lavori stanno facendo un passo indietro, abbandonando le aziende per cui operano. E anche se non è sempre possibile conoscere a fondo le motivazioni – spesso si frappongono accordi di riservatezza tra lavoratori e aziende – si tratta di autentici spaccati di vita su quanto accade all’interno delleorganizzazioni di primo piano nel campo dell’AI. 

Un esempio recente è quello di Mrinank Sharma, ex ricercatore dell’azienda statunitense leader della sicurezza dell’AI Anthropic. Sul social network ‘X’ ha postato una lunga lettera, perfino con riferimenti letterari ai poeti Rainer Maria Rilke e Mary Oliver, che è stata riportata dal quotidiano statunitense Business Insider. Sharma sottolinea sì l’importanza di lavorare, come nel suo caso, contro bioterrorismo e poli-crisi, ma lancia un allarme: “Ho sperimentato quanto sia difficile lasciare che siano i valori che ci appartengono a governare le nostre azioni”. Lasciando intendere come il progresso possa portare verso scenari inquietanti, che si spingono troppo oltre. 

Le relazioni pericolose con i chatbot

Uno dei progetti a cui Sharma stava lavorando in Anthropic riguardava proprio l’analisi di come gli assistenti AI potessero allacciare relazioni con gli umani tali da distorcerne la condizione di umanità, scrive nella missiva. Senza sapere cosa gli sarebbe toccato successivamente. Non è un esempio isolato: anche lo stesso CEO di OpenAI Sam Altman aveva accennatoai rischi legati a uno sviluppo troppo veloce e senza regole dell’Intelligenza Artificiale. 

In tutte le dichiarazioni il punto in comune è lo stesso: il timore che chi è a capo di queste aziende non stia facendo abbastanza per mitigare i rischi dei potenziali danni di un’AI senza controllo. Scrive ad esempio Dylan Scandinaro, passato da Anthropic a una posizione apicale in OpenAI: “L’AI avanza rapidamente. I potenziali benefici sono enormi, ma sono tali anche i rischi di estremi e irreparabili danni”.Gli fa eco Daniel Kokotajlo, dimissionario sempre da OpenAI: “I loro sistemi potrebbero essere i migliori mai messi in campo dall’umanità, ma anche i peggiori se non procediamo con accortezza”. E ancora il ricercatore Steven Adler: anche lui ha detto addio all’azienda fondata da Altman, adducendo più o meno sempre le stesse ragioni: “Sono terrorizzato dal ritmo di crescita dell’AI”. Chiedendosi se si tratta di una tecnologia in grado, un domani, di fare fuori l’umanità.

Si aggiunge il problema degli ads

OpenAI è tra la società che più di tutte sta subendo un’ondata di abbandoni, o per dimissioni o per licenziamenti. E adesso alle preoccupazioni se ne aggiunge un’altra: l’annuncio dato dall’azienda che comincerà a inserire pubblicità all’interno di ChatGPT. È a quel punto che Zoë Hitzig ha deciso di andarsene. In una lettera pubblicata dal Times mette in guardia proprio dai potenziali effetti dell’utilizzo degli ads come substrato a una conversazione con un chatbot: “Gli utenti di ChatGpt hanno creato un archivio che non ha precedenti, in cui peraltro dimostrano tutto il loro candore”.

Sono ingenui, in poche parole: “Perché credono che la piattaforma non abbia scopi che vanno oltre quel dialogo”. Mentre OpenAI, così come già fatto da Facebook, sta già pensando a come inserire meccanismi che possano manipolare le decisioni dell’utente, anche riguardo i suoi acquisti. La chiosa alla lettera del ricercatrore Mrinank Sharma assume contorni ancora più cupi. La citazione è infatti di una poesia di William Stafford, che recita più o meno così: “Le tragedie accadono. Nulla di ciò che fai può fermare lo svolgersi del tempo”.