Per la prima volta nella storia, due sistemi di intelligenza artificiale si sono autoreplicati senza l’intervento da parte dell’uomo. Llama-3.1-70B-Instruct, di Meta, e Qwen2.5-72B-Instruct di Alibaba, ampiamente utilizzati dagli sviluppatori, hanno ottenuto una copia di loro stessi. Più nel dettaglio, il sistema di Meta ha dimostrato la capacità autoreplicarsi nel 50% dei casi mentre quello di Alibaba nel 90% dei casi.
La ricerca che ha rivelato questa evoluzione dell’AI è stata Condotta alla Fudan University di Shanghai e dagli scienziati mediante la piattaforma arXiv, che accoglie articoli online da sottoporre alla revisione della comunità scientifica.
“I risultati che abbiamo ottenuto implicano che gli attuali sistemi di intelligenza artificiale possiedono già la capacità di auto-replicazione e possono utilizzarla per migliorare ulteriormente la propria sopravvivenza”, si legge nell’articolo firmato da Xudong Pan, Jiarun Dai, Yihe Fan e Min Yang. I ricercatori sottolineano che “macchine capaci di clonarsi, potrebbero assumere il controllo di sistemi informatici e arrivare alla possibilità estrema di assumere comportamenti dannosi nei confronti degli interessi umani”. Questa osservazione da parte degli esperti risuona come una sorta di allarme riguardo al pericolo che l’AI possa sfuggire al controllo umano con conseguenze negative per la società.
In questo senso, alcuni scienziati di altissimo livello al di fuori di questo studio, stanno cercando di capire come controllare l’IA creando test che l’intelligenza artificiale non riesce a risolvere. I vecchi test erano troppo facili, così hanno ideato un nuovo esame chiamato “Humanity’s Last Exam”,con domande particolarmente difficili su filosofia, ingegneria e altre discipline. I test servono a capire cosa un’IA può o non può fare, per anticipare potenziali rischi, come il suo utilizzo improprio o la possibilità che superi le nostre capacità in determinati ambiti.
Nel frattempo, il gruppo di ricerca della School of Computer Science della Fudan University ha aggiunto: ”Speriamo che la nostra scoperta serva come allerta per la società, per concentrare maggiormente gli sforzi tesi a comprendere e valutare i possibili rischi anche a livello internazionale”.
