Nicht nur die Zerstörung unseres Planeten kann unser Ableben bedeuten. Auch von uns geschaffene Technologie gilt laut vielen Wissenschaftler*innen als potenzielle Bedrohung. Immer wieder teilen Forschende ihre Bedenken zu künstlicher Intelligenz (KI) mit. So explizit wie in diesem Jahr warnte man allerdings noch nie davor. Der Chance, dass das Ende der Menschheit durch eine solche Form der Existenz zustande kommt, räumen sie inzwischen eine deutlich größere und reelle Wahrscheinlichkeit ein.
Ende der Menschheit durch KI? Deshalb ist es möglich
„Unter den Bedingungen, die wir identifiziert haben, ist unsere Schlussfolgerung sehr viel stärker als die jeglicher früherer Publikationen — eine existenzielle Katastrophe ist nicht nur möglich, sondern wahrscheinlich“, erklärte Michael Cohen (Co-Autor) vor einiger Zeit auf Twitter.
In der Studie, die Ende August durch die Forschende von Google Deepmind und der University of Oxford in AI Magazine veröffentlicht wurde, argumentieren Cohen und seine Kollegen damit, dass Maschinen über kurz oder lang den Anreiz erhalten, im Kampf um begrenzte Ressourcen oder Energie die Regeln ihrer Erbauer zu brechen.
Das Ende der Menschheit könnte demnach durch „fehlgerichtete Agenten“ eingeleitet werden, die uns als ein Hindernis auf dem Weg zur Belohnung betrachten.
„Ein guter Weg für einen Agenten, um langfristige Kontrolle über seine Belohnung zu erhalten, ist es, potenzielle Bedrohungen zu eliminieren und alle verfügbare Energie aufzuwenden, um seinen Computer zu schützen. Dieses Spiel zu verlieren, wäre fatal.“
„Advanced artificial agents intervene in the provision of reward“ (AI Magazine)
Kaum ein Ausweg möglich
Aus Sicht der beteiligten Forschenden gibt es nicht viele Möglichkeiten, einem derartigen Ende der Menschheit zu entkommen. Das liege daran, dass es bei begrenzten Ressourcen unausweichlich zum Wettbewerb darum komme. Und das ohne große Aussicht auf Erfolg für uns:
„Und wenn du im Wettbewerb mit etwas stehst, das fähig ist, dich an jedem Punkt zu überlisten, solltest du nicht davon ausgehen, zu gewinnen.“
Michael Cohen (Co-Autor, University of Oxford)
Als Antwort auf diese Bedrohung empfehlen die Forschenden, die Technologien der künstlichen Intelligenz nur langsam und bedacht zu entwickeln.
Quellen: AI Magazine: „Advanced artificial agents intervene in the provision of reward„
Seit dem 24. Februar 2022 herrscht Krieg in der Ukraine. Hier kannst du den Betroffenen helfen.