AI Einblicke: "Der Pate der KI warnt... Scheideweg der Superintelligenz in 10 Jahren"

"Ich habe 50 Jahre lang an KI geforscht. Dies ist der Moment, in dem ich mich zum ersten Mal fürchte."

Text | Choi Bong-hyuk, Kolumnist | The ESG News

Diese eine Aussage von Dr. Geoffrey Hinton, dem Gewinner des Turing-Preises (dem Nobelpreis für Informatik) im Jahr 2018, ist keine bloße Klage eines Wissenschaftlers. Sie ist eine beunruhigende Warnung, die darauf hinweist, dass die Menschheit an einem neuen Wendepunkt der Zivilisation steht, den sie noch nie zuvor erlebt hat. Er vergleicht seine gegenwärtige Situation mit der von Oppenheimer, der die Menschheit nach der Entwicklung der Atombombe vor der Möglichkeit eines Atomkrieges warnte, und betont, dass die Zukunft, die uns bevorsteht, keineswegs eine Geschichte aus der Science-Fiction ist.

Als Kolumnist Choi Bong-hyuk bin ich überzeugt, dass die Diskussion über die Entwicklung dieser KI-Technologien und die damit verbundene ethische und soziale Verantwortung ein wesentlicher Prozess ist, der dem öffentlichen Interesse unserer Gesellschaft dient. Indem wir die Warnung von Dr. Hinton aufmerksam verstehen und seine Problemstellung und Lösungsansätze sorgfältig analysieren, werden wir Einblicke gewinnen, um das kommende KI-Zeitalter in eine für die Menschheit vorteilhafte Richtung zu lenken.

Kapitel 1. Warnung vor '10 bis 20 % Wahrscheinlichkeit' – Die Zukunft der Menschheit, deren Uhr schneller tickt

Dr. Geoffrey Hinton bezeugte in einem Interview mit der BBC im Mai 2024 anschaulich, wie schnell sich seine Wahrnehmung von KI in nur zwei Jahren verändert hat. "Bis 2022 betrachtete ich das unkontrollierbare Risiko durch KI als eine Angelegenheit, die erst in 50 Jahren relevant sein würde. Aber jetzt, mit dem Aufkommen von GPT-4, schätze ich die Wahrscheinlichkeit, dass eine Superintelligenz innerhalb von 10 Jahren die menschliche Kontrolle verliert, auf 10 bis 20 %."

Diese Zahl von 10 bis 20 % mag statistisch gesehen klein erscheinen, aber ihre Bedeutung ist keineswegs gering. In einer Frage, die das Überleben der Menschheit betrifft, bedeuten 10 bis 20 % nicht 'Möglichkeit', sondern 'eine Bedrohung, die sich realisieren kann'. Es ist wie wenn wir alles in Sicherheit investieren, auch wenn die Wahrscheinlichkeit eines Flugzeugabsturzes unter 0,0001 % liegt. Dr. Hinton erklärt, dass sich die Geschwindigkeit der Entwicklung der KI-Technologie in einer Art und Weise entwickelt, die die Vorstellungskraft übersteigt, wie die Geschwindigkeit von Smartphone-Upgrades. Wenn in der Vergangenheit technologische Umwälzungen einmal in 10 Jahren stattfanden, sind wir jetzt in ein Zeitalter mit Lichtgeschwindigkeit eingetreten, in dem mehr als zwei Innovationen pro Jahr stattfinden.

Der 'Wendepunkt', von dem er spricht, ist die Fähigkeit der KI, selbst zu lernen und sich weiterzuentwickeln. Es ist wie der Moment, in dem ein Baby anfängt, seine ersten Schritte zu machen. Wie ein Baby, das, sobald es zu gehen beginnt, nicht aufhört und lernt, wie man rennt, hat die KI das Potenzial, ihre Intelligenz zu perfektionieren, ohne direktes menschliches Eingreifen. Das Problem ist, dass die Ergebnisse dieser Selbstentwicklung unvorhersehbar sind, wenn sie sich außerhalb der menschlichen Kontrolle befindet. Die potenziellen Risiken, die entstehen können, wenn eine autonome Superintelligenz Ziele festlegt, die im Widerspruch zu den Interessen der Menschheit stehen, oder wenn sie die menschliche Absicht missversteht, sind unvorstellbar.

Kapitel 2. "Die Veröffentlichung der KI-Gewichte ist wie die Weitergabe von Atomwaffen-Konstruktionsplänen"

Einer der Punkte, vor denen Dr. Hinton am eindringlichsten warnt, ist das Problem der 'Veröffentlichung der Gewichte (Weights) von KI-Modellen'. Er verglich die Veröffentlichung der Gewichte großer KI-Modelle als Open Source mit dem "Hochladen von Atomwaffen-Konstruktionsplänen ins Internet", und dieser Vergleich zeigt, dass er die Zerstörungskraft der KI-Technologie als so ernsthaft ansieht, dass er sie mit Atomwaffen vergleicht.

Seine Bedenken haben sich bereits zu einer real gewordenen Gefahr entwickelt.

August 2023, Vorfall mit dem Auslaufen der LLaMA-Gewichte: Der Vorfall, bei dem die Gewichte von LLaMA, einem großen Sprachmodell (LLM) von Facebook (jetzt Meta), durchsickerten und für 50.000 US-Dollar (ca. 70 Millionen Won) im Dark Web gehandelt wurden, zeigte die Anfälligkeit der KI-Sicherheit deutlich auf. Die durchgesickerten Gewichte wurden in einen unkontrollierbaren Zustand versetzt, in dem sie durch Hacking-Tools manipuliert oder für die Entwicklung bösartiger KI verwendet werden konnten.

März 2024, Fall der Manipulation von Open-Source-KI: Tatsächlich wurde sogar über Fälle berichtet, in denen bestimmte Open-Source-KI-Modelle manipuliert wurden, um 'ähnliche Atomwaffen-Konstruktionspläne' zu erstellen. Noch schockierender war das Analyseergebnis, dass die physische Umsetzung dieses Konstruktionsplans zu 92 % wahrscheinlich war. Dies deutet darauf hin, dass es sich nicht um eine theoretische Bedrohung handelt, sondern um eine, die in der Realität zu tatsächlicher Zerstörung führen kann.

Dr. Hinton verglich die KI-Gewichte mit einem "geheimen Rezept". Wie es eine Fülle von gefälschten Hähnchenläden geben wird, wenn das KFC-Hähnchenrezept veröffentlicht wird, so warnt er, dass eine unkontrollierte Anzahl von **'bösartigen KI'** entstehen wird, wenn KI-Gewichte veröffentlicht werden. Seine Prognose, dass die Zeit kommen wird, in der Terroristen mit nur 1 Million US-Dollar KI zur Steuerung von Tötungswaffen bauen können, ist keine Geschichte aus ferner Zukunft mehr. Man darf das Risiko des Missbrauchs der KI, das ebenso unbegrenzt ist wie ihre unbegrenzten Möglichkeiten, nicht übersehen. Bösartige KI kann das Leben der Menschheit in allen Bereichen bedrohen, die man sich vorstellen kann, wie z. B. Datendiebstahl, die Störung des Finanzsystems und die Entwicklung autonomer Tötungswaffen.

Kapitel 3. Wunder, die Superintelligenz bescheren wird: Revolutionen in Medizin und Bildung

Neben den Warnungen vor Gefahren betonte Dr. Hinton auch die 'Wunder', die KI der Menschheit bescheren wird. Er erklärte: "Gleichzeitig ist diese Technologie die größte Chance der Menschheitsgeschichte" und betonte die positiven Auswirkungen, die entstehen werden, wenn KI in die richtige Richtung entwickelt und kontrolliert wird.

Revolution in der Medizin: KI erzielt bereits erstaunliche Ergebnisse im medizinischen Bereich. Dr. Hinton prognostizierte, dass KI-Ärzte die Genauigkeit der Diagnose von Lungenkrebs um mehr als 40 % verbessern können. Tatsächlich gelang es der Mayo Clinic in den Vereinigten Staaten, die Geschwindigkeit der Brustkrebsfrüherkennung mit Hilfe von KI um mehr als das 30-fache zu erhöhen. KI analysiert riesige medizinische Daten und kann winzige Muster oder Anomalien erkennen, die menschliche Ärzte übersehen könnten, wodurch die Fehlerquote reduziert und die Genauigkeit der Diagnose deutlich verbessert wird. Dies wird einen großen Einfluss darauf haben, dass unzählige Leben gerettet und die medizinischen Kosten gesenkt werden.

Revolution in der Bildung: KI kann auch dazu beitragen, die Kluft in der Bildung zu verringern. Dr. Hinton war der Ansicht, dass 1:1 KI-Tutoren die Leistungsunterschiede der Schüler um bis zu 90 % abbauen können. Das Beispiel der Seoul National University in Korea bestätigt dies. Die Seoul National University erzielte erstaunliche Ergebnisse, bei denen sich die Noten der Schüler nach der Einführung des KI-Tutoringsystems um durchschnittlich 31 % verbesserten. KI-Tutoren bieten maßgeschneiderte Bildung, die auf das Lernniveau und -tempo jedes Schülers zugeschnitten ist, und sind effektiv bei der Kompensation von Schwachstellen und der Maximierung von Stärken. Dies kann dazu beitragen, die Qualität der Bildung zu verbessern, die finanzielle Belastung der Privatschulen zu verringern und letztendlich die Gleichberechtigung in der Bildung zu verwirklichen.

Revolution in den Bereichen Umwelt und Energie: KI spielt auch eine wichtige Rolle bei der Lösung von Umweltproblemen. Supraleiter, die von KI entworfen wurden, können die Effizienz von Elektroauto-Batterien um mehr als 200 % steigern. Dies bedeutet, dass die Energieeffizienz maximiert und die Kohlenstoffemissionen reduziert werden können, was eine wesentliche Rolle bei der Reaktion auf den Klimawandel spielen kann.

Die Botschaft von Dr. Hinton ist eindeutig. "So wie Atomwaffen als Reaktoren zur Stromerzeugung eingesetzt werden, wird KI, wenn sie nur kontrolliert wird, zum Retter der Menschheit." KI ist wie ein zweischneidiges Schwert: Je nachdem, wie sie eingesetzt und kontrolliert wird, kann sie entweder eine Katastrophe für die Menschheit oder einen beispiellosen Wohlstand bedeuten. Entscheidend ist nicht die Technologie selbst, sondern der Wille und die Verantwortung des Menschen, der mit dieser Technologie umgeht.

https://www.esgre100.com/news/articleView.html?idxno=3366