Un ricercatore di Anthropic si dimette e lancia l’allarme: “L’intelligenza artificiale può sterminare l’umanità”

Jacob Coxon, ricercatore di Anthropic che in precedenza ha lavorato anche per OpenAI, ha rassegnato le dimissioni dalla società evidenziando le sue preoccupazioni inerenti alla sicurezza dell’intelligenza artificiale. In un post sul suo profilo X, infatti, Coxon ha scritto: 
“Chi sviluppa l’intelligenza artificiale crede fermamente che potrebbe ucciderci tutti entro 
la fine del decennio. Non si tratta di una trovata di marketing. Anzi, molti dirigenti e ricercatori 
di alto livello tendono a usare un linguaggio più pacato di fronte alla stampa, ma sento 
le stesse persone esprimere privatamente questa paura. Nessun’altra attività umana presenta un livello di pericolo simile”.

In un altro post, Jacob Coxon rivela di aver trascorso gli ultimi tre anni a svolgere ricerche di pre-addestramento dell’AI sia presso OpenAI che presso Anthropic: “Nessuna delle due aziende si sta comportando in modo responsabile. Stanno correndo a perdifiato verso una superintelligenza in grado di auto-migliorarsi e stanno giocando con le nostre vite”. Quello che colpisce, però, è che il post sia stato ripreso da Evan Hubinger, responsabile dell’allineamento dei modelli AI di Anthropic, che ha condiviso le preoccupazioni del collega.

Hubinger, infatti, pur sottolineando che Anthropic sta “facendo del suo meglio”, ha sottolineato che l’azienda non ha ancora un piano “per risolvere il problema dell’allineamento con la superintelligenza e non siamo chiaramente sulla buona strada per farlo”. Il manager non ha quindi negato i timori riguardo a uno sterminio dell’umanità da parte dell’IA, pur trattandosi di una minaccia piuttosto bassa per i modelli esistenti al momento. Tuttavia, Hubinger 
ha aggiunto: “Ciò che mi preoccupa è la superintelligenza derivante dall’auto-miglioramento ricorsivo, che, come abbiamo detto, sta avvenendo più velocemente di quanto pensassimo”.