Uncut News berichtet.
Ein führender KI-Experte hat eine eindringliche Warnung vor der möglichen Auslöschung der Welt durch die superintelligente KI-Technologie ausgesprochen.
Eliezer Yudkowsky ist ein führender KI-Forscher und er behauptet, dass „jeder auf der Erde sterben wird“, wenn wir die Entwicklung von übermenschlichen Intelligenzsystemen nicht stoppen.
Der 43-Jährige ist Mitbegründer des Machine Intelligence Research Institute (MIRI) und behauptet, er wisse genau, wie „schrecklich gefährlich diese Technologie“ sei.
Er befürchtet, dass das Ergebnis, wenn es zu einem Kampf Mensch gegen übermenschliche Intelligenz kommt, ein „Totalverlust“ sein wird, schreibt er in TIME.
Als Metapher, sagt er, wäre dies wie ein „11. Jahrhundert, das versucht, das 21. Jahrhundert zu bekämpfen“.
Kurz gesagt, der Mensch würde dramatisch verlieren.
Am 29. März reichten führende Experten von OpenAI einen offenen Brief mit dem Titel „Pause Giant AI Experiments“ ein, in dem sie ein sofortiges sechsmonatiges Verbot des Trainings von leistungsstarken KI-Systemen forderten.
Unterzeichnet wurde der Brief unter anderem von Apple-Mitbegründer Steve Wozniak und Elon Musk.
Der amerikanische Theoretiker lehnt es jedoch ab, diese Petition zu unterzeichnen, da sie „zu wenig verlangt, um das Problem zu lösen“.
Die Bedrohung ist so groß, dass er argumentiert, dass die Auslöschung durch KI „als Priorität vor der Verhinderung eines vollständigen nuklearen Austauschs“ betrachtet werden sollte.
Er warnt, dass das wahrscheinlichste Ergebnis der Roboterwissenschaft darin besteht, dass wir „eine KI schaffen, die nicht das tut, was wir wollen, und die sich weder um uns noch um empfindungsfähiges Leben im Allgemeinen kümmert.“
Wir sind noch nicht so weit, räumt Yudkowsky ein, der KI beizubringen, wie man fürsorglich ist, da wir „derzeit nicht wissen, wie“.
Die nackte Realität ist vielmehr, dass man im Kopf eines Roboters „aus Atomen besteht, die er für etwas anderes verwenden kann“.
„Wenn jemand unter den gegenwärtigen Bedingungen eine zu mächtige KI baut, erwarte ich, dass jedes einzelne Mitglied der menschlichen Spezies und alles biologische Leben auf der Erde kurz darauf stirbt.“
Yudkowsky weist darauf hin, dass „wir derzeit keine Ahnung haben, wie wir feststellen können, ob KI-Systeme sich ihrer selbst bewusst sind“.
Das bedeutet, dass Wissenschaftler versehentlich „digitale Gehirne mit echtem Bewusstsein“ erschaffen könnten, was zu allen möglichen moralischen Dilemmata führen würde, da bewusste Wesen Rechte haben und nicht besessen werden sollten.
Unsere Unwissenheit, beschwört er, wird unser Untergang sein.
Da die Forscher nicht wissen, ob sie eine selbstbewusste KI schaffen, sagt er: „Sie haben keine Ahnung, was sie tun, und das ist gefährlich, und sie sollten aufhören“.
Yudkowsky behauptet, dass wir Jahrzehnte benötigen könnten, um das Problem der Sicherheit übermenschlicher Intelligenz zu lösen – diese Sicherheit besteht darin, „nicht buchstäblich jeden zu töten“ – und in dieser Zeit könnten wir alle tot sein.
Die zentrale Aussage des Experten ist folgende: „Wir sind nicht vorbereitet. Wir sind nicht auf dem Weg, in einem vernünftigen Zeitfenster vorbereitet zu sein. Es gibt keinen Plan.
„Der Fortschritt bei den KI-Fähigkeiten ist dem Fortschritt beim Verständnis dessen, was in diesen Systemen vor sich geht, weit, weit voraus. Wenn wir das tatsächlich tun, werden wir alle sterben.“
Um diese weltbewegende Katastrophe zu verhindern, glaubt Yudkowsky, dass der einzige Weg darin besteht, alle neuen Schulungen zur KI-Technologie weltweit zu stoppen, „ohne Ausnahmen, einschließlich Regierung und Militär“.
Sollte jemand diese Vereinbarung brechen, beweist der KI-Experte seine Ernsthaftigkeit, indem er sagt, dass Regierungen bereit sein sollten, „ein abtrünniges Rechenzentrum durch einen Luftangriff zu zerstören“.
„Jeder, der von Wettrüsten spricht, ist ein Narr. Dass wir alle gemeinsam leben oder sterben, ist keine Politik, sondern eine Tatsache der Natur.“
QUELLE: SHOULD WE HEED AI EXPERTS’ WARNINGS TO STOP NOW?
Wie funktioniert künstliche Intelligenz?
Künstliche Intelligenz funktioniert ähnlich wie unser Gehirn. Sie verarbeitet Informationen.
Wie sie funktioniert.
Ziel der Entwicklung künstlicher Intelligenzen, kurz KI, ist es, Maschinen so zu programmieren, dass sie eigenständig arbeiten und selbstständig Aufgaben lösen können. Das soll dem Menschen nicht nur den Alltag, sondern auch den Umgang mit moderner Technik erleichtern.
- Prinzipiell arbeiten KI´s wie unser Gehirn. Sogenannte „künstliche neuronale Netze“ dienen der Informationsaufnahme, -verabeitung und Lösung eines Problems.
- Eine KI nimmt zunächst „Input“ von Außen auf, so sprechen Sie beispielsweise bei der Google-Suche in Ihr Smartphone. Die Sprachassistenz verarbeitet Ihre Frage und kommt zu einem Ergebnis, dem „Output“. Den erhalten Sie in Form einer Antwort und einer Auflistung themenentsprechender Websiten.
- In unserem Beispiel arbeiten sogar zwei Intelligenzen zusammen. Zum einen die Sprachassistenz und zum anderen eine Suchmaschine.
- Die Systeme zur Informationverarbeitung bestehen aus Algorithmen. Bei diesen handelt es sich um eine Sammlung von Regeln in Computersprache, die letztlich ein Problem lösen.
