“L’Intelligenza Artificiale può ucciderci tutti in 10 anni”, l’allarme del ricercatore

(Adnkronos) –
"L'Intelligenza Artificiale potrebbe uccidere tutti gli esseri umani" nel prossimo decennio. E' l'allarme che Evan Hubinger, un ricercatore di punta di Anthropic, uno dei colossi dell'AI, fa scattare con un post su X. "Crediamo davvero che l'AI possa uccidere tutti gli esseri umani. Personalmente ritengo che la probabilità sia superiore al 10% nel prossimo decennio", scrive in un post che viene rilanciato dall'emittente Cbs. Hubinger si presenta come ricercatore dell'azienda con sede a San Francisco. "Credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell'allineamento per la superintelligenza e non siamo chiaramente sulla strada giusta per riuscirci. Penso che il rischio dai modelli attuali sia basso. Quello che mi preoccupa è la superintelligenza derivante dal miglioramento autonomo: come abbiamo detto, sta accadendo più velocemente di quanto pensassimo", aggiunge commentando il post di un collega che ha appena presentato le proprie dimissioni. "Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni a occuparmi di ricerca sul pre-addestramento sia presso OpenAI che presso Anthropic. Nessuna delle due aziende sta agendo in modo responsabile", le parole di Jacob Coxon in un post su X. "Stanno correndo a tutta velocità verso una superintelligenza capace di auto-migliorarsi, mettendo a repentaglio le nostre vite. In OpenAI, molti non hanno interiorizzato totalmente la portata della posta in gioco per la civiltà. In Anthropic, la posta in gioco è ben compresa, ma l'azienda è incastrata in una corsa per arrivare prima degli altri: ritengono che nessun altro agirà responsabilmente e che quindi" non "debbano farlo nemmeno loro, nonostante i rischi".  La Cbs ha chiamato in causa l'AI Security Institute, l'organizzazione internazionale creata dai governi e incaricata di analizzare, testare e ridurre i rischi legati ai sistemi di intelligenza artificiale più avanzati. "L'AI Security Institute continua a collaborare strettamente con i partner del settore, tra cui Anthropic, per rendere i modelli più sicuri", le parole di un portavoce del Cabinet Office britannico alla Cbs, sottolineando che "proprio la scorsa settimana" è stato testato "GPT-6 Astra", il modello "più potente" di OpenAI, prima del suo rilascio al pubblico. "I rischi non si fermano ai confini nazionali e nessun Paese può affrontarli da solo. Il Regno Unito continuerà a testare i modelli più avanzati, a sviluppare una rigorosa comprensione scientifica delle loro capacità e dei relativi rischi, e a garantire che le decisioni politiche si basino su evidenze concrete", ha affermato il portavoce.  
—internazionale/esteriwebinfo@adnkronos.com (Web Info)