Los cálculos de los científicos muestran que sería imposible controlar una IA hiperinteligente

La idea de derrocar o esclavizar a la humanidad con la inteligencia artificial se ha hablado durante décadas, y en enero de 2021, los científicos dieron su veredicto sobre si podríamos controlar una superinteligencia informática de alto nivel. La respuesta: casi seguro que no.

La pega es que para controlar una superinteligencia mucho más allá de la comprensión humana se necesitaría una simulación de esa superinteligencia que pudiéramos analizar. Pero si no somos capaces de comprenderlo, sería imposible crear tal simulación.

Reglas como "no hacer daño a los humanos" no pueden establecerse a menos que entendamos los escenarios que la IA puede plantear, dicen los autores del documento de 2021. Cuando un sistema informático funciona a un nivel que supera las capacidades de nuestros programadores, ya no podemos poner límites.

"La superinteligencia presenta un reto fundamentalmente diferente a los que se suelen estudiar bajo el lema de la "ética de los robots"", escriben los investigadores. "Esto se debe a que la superinteligencia es multifacética y, por lo tanto, tiene el potencial de movilizar una variedad de recursos para lograr objetivos que son potencialmente incomprensibles para los humanos, y mucho menos controlables".

Si vamos a avanzar en la inteligencia artificial, es posible que ni siquiera sepamos cuándo surgirá una superinteligencia que esté fuera de nuestro control, tan incomprensible. Esto significa que tenemos que empezar a plantearnos preguntas serias sobre la dirección que tomamos.

Fuente: sciencealert, jair

Ilustración: Yuyeung Lau