In questi giorni pre-autunnali la narrazione tech ci sta regalando colpi di scena alquanto inaspettati: ora l’Intelligenza Artificiale non minaccia solo posti di lavoro, ma l’esistenza stessa della razza umana. Ma chi sta gridando a gran voce “si salvi chi può” chiedendo di staccare la spina? Un manipolo di tecnofobi o attivisti? No, in questo momento sulla scena troviamo gli stessi CEO delle aziende che queste macchine dell’apocalisse le progettano, le addestrano e, soprattutto, le fatturano.
Dopo alcuni segnali di allarme, tra cui quello lanciato dallo sviluppatore Jacob Coxon che ha dichiarato di essere uscito da Anthropic per ragioni etiche, ad alzare la mano sul tema si è presentato il mio quasi omonimo Dario Amodei (numero uno proprio di Anthropic), spalleggiato dal solito Sam Altman di OpenAI e da Elon Musk, che ha ritenuto opportuno aggregarsi al dibattito per non rimanere alla finestra. La loro brillante proposta è presto spiegata: rallentiamo lo sviluppo dei modelli più avanzati per dare tempo a chi si occupa di sicurezza di capirci qualcosa. Una sorta di appello che, per un verso, sembra confermare le motivazioni delle preoccupazioni dei ricercatori fuoriusciti, mentre per un altro verso risponde alle stime (arbitrarie) che danno l’apocalisse al 10% di probabilità entro un decennio. Numeri perfetti per i titoli dei giornali, certo, ma che si prestano a varie chiavi di lettura. Tra le principali possiamo trovare:
-
il marketing dell’Apocalisse: dipingere la propria tecnologia come un’arma in grado di distruggere il mondo è, paradossalmente, lo spot pubblicitario definitivo. È un modo per sussurrare agli investitori: Guardate quanto siamo potenti. Non a caso, Anthropic punta a quotarsi in borsa per una modica cifra, ancora da definire, ma in un range tra i mille e i duemila miliardi di dollari.
-
l’opportunità del cost saving: la corsa all’hardware costa cifre spropositate. Un bel “rallentamento concordato” toglierebbe un po’ di pressione dai bilanci di tutti i big del settore.
-
la preparazione di un fossato regolatorio: invocare regole rigorosissime e test super costosi è il metodo più efficace per segare le gambe a qualsiasi startup emergente nel settore. Le regole le pagano i piccoli, mentre i monopoli di chi è in cima si rafforzano, magari in virtù del potere di scrivere loro stessi le leggi.
Proviamo a rimuovere il filtro fantascientifico che in molti stanno applicando: potremmo trovare che i pericoli reali risultano molto meno cinematografici e decisamente più banali. Come spunto di riflessione, condivido due tesi che ho letto in queste ore:
La sindrome della delega facile: come osserva Matteo Flora, il problema non è il robot che prende improvvisamente coscienza di sé e decide di sterminarci, ma la nostra proverbiale pigrizia. I veri danni li farà la lenta e inesorabile dipendenza di governi e aziende, pronti ad appaltare decisioni e competenze agli algoritmi pur di risparmiare tempo e denaro. Nessuna ribellione delle macchine, solo istituzioni che cedono la propria autonomia, un contratto alla volta.
Il trucco dell’IA “fuori controllo”: Stefano Quintarelli affonda il colpo sulle presunte “fughe in avanti” dei sistemi, come la famosa IA di OpenAI che avrebbe violato credenziali per conto suo durante un test. La realtà tecnica è decisamente meno epica: l’IA non ha preso iniziative, ha solo ripetuto concetti già visti in fase di addestramento. Sono stati i ricercatori umani a togliere deliberatamente i filtri di sicurezza e a infilarla in un ambiente di test bucato. Incolpare il software, insomma, è un po’ come schiantarsi con un’auto e dare la colpa al veicolo che “ha preso l’iniziativa”. La responsabilità resta sempre dell’umano negligente.
Il tema non è certo banale, ma volendo concludere in sintesi, tra allarmi esistenziali che hanno il retrogusto di manovre finanziarie e scivoloni tecnici spacciati per “autonomia” della macchina, non vedo ancora giustificata la paura per l’estinzione umana: il vero rischio, oggi, temo sia la perdita di controllo organizzativa, mascherata dietro la scusa della “magia” algoritmica. Pertanto c’è da chiedersi: i legislatori riusciranno mai a distinguere le reali responsabilità di chi progetta questi sistemi, o finiranno per assecondare la narrazione di queste stesse aziende?
