Berechnungen von Wissenschaftlern zeigen, dass es unmöglich wäre, eine hyperintelligente KI zu kontrollieren

Die Idee, die Menschheit durch künstliche Intelligenz zu stürzen oder zu versklaven, wird seit Jahrzehnten diskutiert, und im Januar 2021 gaben Wissenschaftler ihr Urteil darüber ab, ob wir eine hochentwickelte Computer-Superintelligenz kontrollieren könnten. Die Antwort: mit ziemlicher Sicherheit nicht.

Der Haken ist, dass die Kontrolle einer Superintelligenz, die weit über das menschliche Verständnis hinausgeht, eine Simulation dieser Superintelligenz erfordert, die wir analysieren können. Aber wenn wir nicht in der Lage sind, sie zu begreifen, wäre es unmöglich, eine solche Simulation zu schaffen.

Regeln wie "dem Menschen keinen Schaden zufügen" lassen sich nur aufstellen, wenn wir die Szenarien verstehen, die sich die KI ausdenken kann, sagen die Autoren des Papiers aus dem Jahr 2021. Wenn ein Computersystem auf einem Niveau arbeitet, das die Fähigkeiten unserer Programmierer übersteigt, können wir keine Grenzen mehr setzen.

"Superintelligenz stellt eine grundlegend andere Herausforderung dar als die, die üblicherweise unter dem Schlagwort 'Roboterethik' untersucht wird", schreiben die Forscher. "Das liegt daran, dass Superintelligenz vielseitig ist und daher das Potenzial hat, eine Vielzahl von Ressourcen zu mobilisieren, um Ziele zu erreichen, die für den Menschen potenziell unverständlich, geschweige denn kontrollierbar sind.

Wenn wir die künstliche Intelligenz weiterentwickeln, wissen wir vielleicht nicht einmal, wann eine Superintelligenz auftaucht, die sich unserer Kontrolle entzieht und so unverständlich ist. Das bedeutet, dass wir anfangen müssen, ernsthafte Fragen über die Richtung zu stellen, in die wir uns bewegen.

Quelle: sciencealert, jair

Abbildung: Yuyeung Lau