Giovedì 10 Settembre - 10:20

La corsa alla superintelligenza artificiale sta alimentando un fronte sempre più preoccupato anche all’interno dei laboratori che sviluppano i sistemi più avanzati. L’ultimo caso è quello di Jacob Coxon, giovane ricercatore britannico di Anthropic che ha deciso di lasciare l’azienda denunciando i rischi di una tecnologia capace, in prospettiva, di auto-migliorarsi e sfuggire al controllo umano.

Secondo Coxon, le conseguenze potrebbero essere estreme. In un messaggio pubblicato su X, ha sostenuto che alcuni professionisti impegnati nello sviluppo dell’IA considerano concretamente possibile uno scenario in cui la tecnologia possa provocare la distruzione dell’umanità entro la fine del decennio.

Coxon non sarebbe un caso isolato. Negli ultimi mesi diversi professionisti hanno abbandonato importanti laboratori americani, citando anche divergenze e timori legati alla sicurezza dei sistemi di nuova generazione. Tra gli addii figurano esperti impegnati nell’etica, nella sicurezza e nell’allineamento dell’intelligenza artificiale.

L’avvertimento assume un peso particolare perché arriva da Anthropic, società che ha costruito gran parte della propria identità proprio sul tema della sicurezza dell’IA. Coxon, già passato da OpenAI prima di approdare ad Anthropic, teme che l’evoluzione dei modelli possa accelerare fino a produrre sistemi superiori alle capacità umane in settori cruciali, dal cyberspazio alla gestione delle risorse.

A rafforzare il quadro è Evan Hubinger, ricercatore di Anthropic specializzato in sicurezza. Secondo una sua stima, esisterebbe una probabilità superiore al 10% che l’IA possa arrivare, nel prossimo decennio, a rappresentare una minaccia capace di provocare l’estinzione dell’umanità.

Non una previsione certa, dunque, ma un rischio che alcuni degli stessi protagonisti della rivoluzione tecnologica ritengono abbastanza grave da non poter essere ignorato.