Das Aufkommen der künstlichen Intelligenz (KI) könnte das „schlimmste Ereignis in der Geschichte unserer Zivilisation“ sein, wenn die Gesellschaft keinen Weg finde, ihre Entwicklung zu kontrollieren, sagte der bekannte Astrophysiker Stephen Hawking am Montag bei der Technologie-Konferenz „Web Summit“ in Lissabon, Portugal. „Computer können theoretisch der menschlichen Intelligenz nacheifern und sie übertreffen.“

KI hat zahlreiche Vorteile

Hawking sprach über das Potenzial und die Vorteile von KI, Schaden an der natürlichen Welt wieder rückgängig zu machen oder Armut und Krankheit auszurotten. Aber er gab zu bedenken, dass die Zukunft ungewiss sei, in welche Richtung sich KI entwickeln werde. „Der Erfolg bei der Schaffung einer effektiven KI könnte das größte Ereignis in der Geschichte unserer Zivilisation sein. Oder das Schlimmste. Wir wissen es einfach nicht. Also können wir nicht wissen, ob wir unendlich von der KI unterstützt oder ignoriert, gefüttert oder möglicherweise zerstört werden“, sagte Hawking bei seinem Vortrag.

Auf mögliche Gefahren vorbereiten

„Wenn wir nicht lernen, uns auf mögliche Gefahren vorzubereiten und sie zu vermeiden, könnte KI das schlimmste Ereignis in der Geschichte unserer Zivilisation sein. Sie bringt Gefahren mit sich, wie mächtige autonome Waffen oder neue Wege für die Wenigen, die Vielen zu unterdrücken. Das könnte unsere Wirtschaft stark beeinträchtigen“, so der Astrophysiker laut einem Bericht von CNBC.

Initiative des EU Parlaments

Hawking erklärte auch, wie man diese „potentielle Realität“ vermeiden könnte: Die KI-Schöpfer müssten „Best Practice“ und „effektives Management“ anwenden. Der Wissenschaftler hob einige der Arbeiten und Vorschläge hervor, die vor allem aus Europa stammen. Positiv erwähnte er etwa die Initiative des EU-Parlaments, das neue Regeln in Bezug auf KI und Robotik einführen möchte.

Anfang des Jahres hatte das EU-Parlament einen ersten Resolutionsentwurf vorgelegt, der sich mit Empfehlungen an die EU-Kommission zur zivilrechtlichen Regelung im Bereich Robotik und KI befasst hatte. Demnach sollte man sich auch für die Möglichkeit vorbereiten „dass die KI die intellektuellen Fähigkeiten des Menschen […] in einer Weise überflügeln könnte, die […]die Fähigkeit der Menschheit, ihre eigene Schöpfung zu kontrollieren und folglich vielleicht auch die Fähigkeit, Herr über ihr eigenes Schicksal zu bleiben und für das Überleben der Spezies Mensch Sorge tragen zu können, ernsthaft gefährden könnte“. Im Resolutionsentwurf ist daher etwa ein „Kill Switch“ für Roboter vorgesehen.

Solche Regelungen geben Hawking Hoffnung, wie der Astrophysiker sagt. „Ich bin ein Optimist und ich glaube, dass wir KI für das Wohl der Welt schaffen können. Dass sie mit uns harmonieren kann. Wir müssen uns nur der Gefahren bewusst sein, sie identifizieren und sich auf seine Konsequenzen rechtzeitig vorbereiten „, sagte Hawking.

Auch Elon Musk warnt vor den Gefahren

Es ist nicht das erste Mal, dass der britische Physiker vor den Gefahren der KI warnt – und er ist auch nicht der Einzige. Tesla- und SpaceX-CEO Elon Musk sagte kürzlich, dass KI einen dritten Weltkrieg verursachen könnte und schlug sogar vor, dass sich Menschen mit Maschinen zusammenschließen müssen, um in der Zukunft relevant zu bleiben. Microsoft-Gründer Bill Gates gehört ebenfalls zu den Skeptikern.

Das könnte auch interessant sein:

Doch nicht alle sehen die Zukunft derart schwarz. Facebook-Chef Mark Zuckerberg sagte beispielsweise, er sei „wirklich optimistisch“, was die Zukunft von KI betreffe. Garri Kasparow, der frühere Schachweltmeister und Aktivist, sieht in KI ebenfalls „keine Bedrohung der Menschheit“ – und das, obwohl er bereits beim Schachspielen vor Jahrzehnten gegen eine Maschine verlor. Er spielte mehrere Show-Matches gegen Schachcomputer von IBM. Während er Deep Thought 1989 besiegen konnte, verlor er 1996 gegen Deep Blue.

Dieser Artikel erschien zuerst auf futurezone.at.