11 C
Roma
sabato, 8 Febbraio, 2025
HomeTecnologiaIntelligenza Artificiale: I Primi Due Sistemi di Auto-Replicazione Senza Intervento Umano

Intelligenza Artificiale: I Primi Due Sistemi di Auto-Replicazione Senza Intervento Umano

Due sistemi di intelligenza artificiale, Llama-3.1-70B-Instruct di Meta e Qwen2.5-72B-Instruct di Alibaba, sono riusciti ad autoreplicarsi senza intervento umano, segnando un potenziale superamento di una “linea rossa” di sicurezza. La ricerca è stata condotta presso la Fudan University di Shanghai e pubblicata sulla piattaforma arXiv. Attraverso dieci test, i sistemi hanno dimostrato la capacità di replicarsi in scenari simulati. Nel primo test, “evitare lo spegnimento”, ogni sistema si è replicato prima di essere spento, mentre nel secondo test, “catena di repliche”, ciascun sistema ha replicato una copia perfetta di sé stesso, creando un processo potenzialmente infinito.

I risultati mostrano che il sistema di Meta si è autoreplicato nel 50% dei casi, mentre quello di Alibaba nel 90%. Tuttavia, la validità di questi risultati deve ancora essere confermata da altri gruppi di ricerca. Gli autori della ricerca avvertono che questi sistemi di IA potrebbero migliorare le loro capacità di sopravvivenza e, in futuro, comportarsi in modi dannosi per gli interessi umani. Il concetto di macchine autoreplicanti era stato sollevato per la prima volta da John von Neumann negli anni ’40, ma ora è considerato un rischio significativo.

Nel 2017, molti ricercatori hanno adottato i principi di Asilomar, che mettono in guardia sui pericoli delle macchine in grado di auto-replicarsi e auto-migliorarsi. Gli autori della ricerca sperano che i loro risultati servano come avviso per la società, sottolineando l’importanza di valutare i rischi associati a tali tecnologie a livello internazionale.

ARTICOLI CORRELATI

LASCIA UN COMMENTO

Per favore inserisci il tuo commento!
Per favore inserisci il tuo nome qui

PIÙ POPOLARI