Si sente sempre più spesso parlare di Intelligenza Artificiale Generale e addirittura di Super Artificial Intelligence. L’avvento della prima che nessuno sa prevedere preoccupa per la possibilità di sostituire l’uomo in interi lavori piuttosto che in compiti specifici. La seconda addirittura potrebbe mettere l’umanità a rischio o almeno l’umanità come la conosciamo oggi.
OpenAI ha annunciato i primi risultati del suo team di superallineamento, un’iniziativa interna dedicata a prevenire che un’ipotetica superintelligenza futura possa diventare incontrollabile. Il team ha descritto una tecnica che permette a un modello linguistico di grande scala meno potente di supervisionare uno più potente, suggerendo che questo possa essere un piccolo passo verso la comprensione di come gli esseri umani possano supervisionare macchine superumane. Nonostante le sfide, OpenAI vede questo come un progresso promettente e cerca di coinvolgere altri nella ricerca attraverso un nuovo fondo di 10 milioni di dollari per finanziare chi lavora sul superallineamento.