I calcoli degli scienziati mostrano che sarebbe impossibile controllare un'IA iperintelligente

L'idea di rovesciare o schiavizzare l'umanità con l'intelligenza artificiale è stata discussa per decenni, e nel gennaio 2021, gli scienziati hanno dato il loro verdetto sulla possibilità di controllare una superintelligenza informatica di alto livello. La risposta: quasi certamente no.

Il problema è che controllare una superintelligenza molto al di là della comprensione umana richiederebbe una simulazione di quella superintelligenza che potremmo analizzare. Ma se non siamo in grado di comprenderlo, sarebbe impossibile creare una tale simulazione.

Regole come "non nuocere agli umani" non possono essere stabilite se non comprendiamo gli scenari che l'IA può inventare, dicono gli autori del documento 2021. Quando un sistema informatico opera ad un livello superiore alle capacità dei nostri programmatori, non possiamo più porre limiti.

"La superintelligenza presenta una sfida fondamentalmente diversa da quelle solitamente studiate sotto la bandiera dell'"etica dei robot"", scrivono i ricercatori. "Questo perché la superintelligenza è multiforme e quindi ha il potenziale di mobilitare una varietà di risorse per raggiungere obiettivi che sono potenzialmente incomprensibili per gli esseri umani, e tanto meno controllabili".

Se vogliamo far progredire l'intelligenza artificiale, potremmo anche non sapere quando emergerà una superintelligenza che è fuori dal nostro controllo, quindi incomprensibile. Questo significa che dobbiamo iniziare a fare domande serie sulla direzione che stiamo prendendo.

Fonte: sciencealert, jair

Illustrazione: Yuyeung Lau