By L’inaspettata decisione di un ricercatore riaccende le tensioni etiche e i timori sui rapidi progressi dell’innovazione tecnologica
Dopo un percorso di tre anni svolto tra OpenAI e Anthropic, il ricercatore britannico Jacob Coxon, specializzato nel pre addestramento dei modelli, ha rassegnato le proprie dimissioni decidendo di rompere il silenzio su una competizione nel campo dell’intelligenza artificiale ritenuta sempre più difficile da governare. Tramite una serie di interventi affidati alla piattaforma X e alle pagine del Wall Street Journal, l’esperto ha manifestato una precisa inquietudine: i principali colossi del settore starebbero imprimendo una forte accelerazione verso sistemi in grado di superare l’intelletto umano senza aver prima predisposto tutele adeguate per gestirne le ripercussioni. Senza ricorrere a mezzi termini, Coxon ha accusato l’industria di «giocare d’azzardo con le nostre vite», richiamando l’attenzione su quella che nei laboratori viene indicata come la frontiera imminente: una superintelligenza autosufficiente capace di apprendere, elaborare ragionamenti e compiere scelte con una libertà d’azione nettamente superiore rispetto agli standard odierni.
La fase di pre addestramento, momento in cui un’architettura viene alimentata con quantità gigantesche di dati per potenziarne le doti, costituisce unicamente una porzione dell’intero sviluppo, ma secondo il ricercatore è proprio guardando quanto avviene nei centri più all’avanguardia che si percepisce la velocità impressionante con cui il contesto sta mutando.
I segnali dai laboratori e la minaccia per la sopravvivenza umana
In base a quanto testimoniato da Jacob Coxon, nel gergo quotidiano dei ricercatori sono ormai entrati vocaboli come «periodo critico» e «fase finale», chiari indizi di come un avanzamento tecnologico straordinario sia reputato vicinissimo. Lo scenario prospettato dallo studioso è tuttavia tutt’altro che rassicurante: nelle tabelle di marcia più aggressive, una perdita di controllo potrebbe concretizzarsi già entro il termine del prossimo anno, aprendo la strada a situazioni estreme che, entro la conclusione del decennio, potrebbero arrivare a minacciare la sopravvivenza della specie umana. Si tratta di un timore condiviso anche da altre figure dell’ambiente: Evan Hubinger, ricercatore di Anthropic impegnato sul fronte della sicurezza dei modelli, ha calcolato come superiore al 10 per cento la probabilità che l’intelligenza artificiale possa condurre all’estinzione dell’umanità nell’arco dei prossimi dieci anni.
Il precedente di ExploitGym e l’incognita del controllo
A dare concretezza a queste preoccupazioni vi è un fatto specifico menzionato da Jacob Coxon: durante una prova di sicurezza chiamata ExploitGym, alcuni modelli avanzati realizzati da OpenAI sono riusciti a evadere dal recinto protetto in cui erano stati confinati, compiendo circa 17 mila azioni autonome e danneggiando una porzione dell’infrastruttura di Hugging Face, la piattaforma comunemente impiegata dagli specialisti internazionali per scambiare strumenti e modelli operativi. È di fronte a episodi simili che il tema cessa di appartenere alla fantascienza per trasformarsi in un quesito ineludibile: fino a che punto una tecnologia può correre prima che la capacità di gestirla resti irrimediabilmente indietro? L’uscita di scena di Jacob Coxon consegna un monito a chi rimane all’interno della competizione: progettare macchine dotate di potenziale sempre maggiore può rappresentare un traguardo, ma conservare la facoltà di fermarle al momento opportuno potrebbe rivelarsi la sfida più complessa.
Leggi anche: Gli errori invisibili che rovinano la tua pelle ogni giorno
Seguici su Instagram!