[AI-inzichten] "De peetvader van AI waarschuwt... Het kruispunt van superintelligentie dat over 10 jaar zal komen"

"Ik onderzoek al 50 jaar AI. Dit is het moment dat ik voor het eerst angst voel."

Geschreven door | Choi Bong-hyuk, columnist | The ESG News

Deze ene opmerking van Dr. Geoffrey Hinton, winnaar van de Turing Award (de Nobelprijs voor computerwetenschappen) in 2018, is niet zomaar een verzuchting van een wetenschapper. Het is een angstaanjagend waarschuwingssignaal dat de mensheid zich op een nieuw keerpunt in de beschaving bevindt, dat we nog nooit eerder hebben meegemaakt. Hij benadrukt dat de toekomst die ons te wachten staat geenszins sciencefiction is, door zijn huidige situatie te vergelijken met het gevoel van Oppenheimer, die de mensheid waarschuwde voor de mogelijkheid van een nucleaire oorlog na de ontwikkeling van de atoombom.

Als columnist van Choi Bong-hyuk ben ik ervan overtuigd dat de discussie over de ontwikkeling van deze AI-technologie en de bijbehorende ethische en sociale verantwoordelijkheden een essentieel proces is dat in het algemeen belang van onze samenleving is. Door de waarschuwing van Dr. Hinton diepgaand te begrijpen en de problemen en oplossingen die hij presenteert nauwgezet te analyseren, zullen we inzicht krijgen om het komende AI-tijdperk in een voor de mensheid gunstige richting te leiden.

Hoofdstuk 1. '10~20% kans' waarschuwing _ De toekomst van de mensheid, die sneller dichterbij komt

In een interview met de BBC in mei 2024 getuigde Dr. Geoffrey Hinton levendig van hoe snel zijn perceptie van AI in slechts twee jaar is veranderd. "Tot 2022 dacht ik dat het risico van oncontroleerbare AI-risico's nog 50 jaar weg was. Maar nu, met de komst van GPT-4, denk ik dat er een kans van 10 tot 20% is dat superintelligentie binnen 10 jaar buiten de controle van de mensheid zal vallen."

Hoewel deze 1020% statistisch klein lijkt, is de betekenis ervan allesbehalve lichtzinnig. In een kwestie die het voortbestaan van de mensheid behelst, vertegenwoordigt 1020% geen 'mogelijkheid', maar een 'dreiging die werkelijkheid kan worden'. Het is alsof we alles in veiligheid investeren, zelfs als de kans op een vliegtuigongeluk minder dan 0,0001% is. Dr. Hinton legt uit dat de ontwikkelingssnelheid van AI-technologie de verbeelding overtreft, zoals de upgradesnelheid van een smartphone. In het verleden vond een grote technologische omwenteling eens in de 10 jaar plaats, maar nu zijn we een tijdperk van lichtsnelheid binnengegaan waarin er meer dan twee innovaties per jaar plaatsvinden.

Het 'keerpunt' waar hij het over heeft, is de mogelijkheid van AI om zelf te leren en zich te ontwikkelen. Het is als het moment waarop een baby begint te lopen. Net zoals een baby die eenmaal begint te lopen niet stopt, maar leert te rennen, heeft AI het potentieel om zijn intelligentie te verfijnen zonder directe menselijke tussenkomst. Het probleem is dat als deze zelfontwikkeling buiten de controle van de mensheid valt, de resultaten onvoorspelbaar zijn. De potentiële risico's die kunnen ontstaan als autonome superintelligente AI doelen nastreeft die in strijd zijn met de belangen van de mensheid, of de intenties van de mensheid verkeerd interpreteert, zijn groter dan we ons kunnen voorstellen.

Hoofdstuk 2. "Het openbaar maken van AI-gewichten is hetzelfde als het lekken van nucleaire ontwerpen"

Een van de punten waar Dr. Hinton het meest voor waarschuwt, is de kwestie van het 'openbaar maken van de gewichten (Weights) van AI-modellen'. Hij beschreef het open source openbaar maken van de gewichten van grote AI-modellen als "een krankzinnige daad om een nucleair ontwerp op internet te plaatsen". Deze metafoor toont aan dat hij de vernietigingskracht van AI-technologie even ernstig beschouwt als die van kernwapens.

Zijn bezorgdheid is al een realiteit geworden en is meer dan alleen een metafoor.

In augustus 2023: Het LLaMA-gewicht-lek: Het feit dat de gewichten van LLaMA, het grote taalmodel (LLM) dat door Facebook (nu Meta) is vrijgegeven, zijn gelekt en voor 50.000 dollar (ongeveer 70 miljoen won) op het dark web zijn verhandeld, toonde de kwetsbaarheid van AI-beveiliging. De gelekte gewichten zijn veranderd met hacking tools of zijn in een staat terechtgekomen die niet meer te controleren is, en kunnen worden gebruikt voor de ontwikkeling van kwaadaardige AI.

In maart 2024, open-source AI-manipulatie: Er is zelfs melding gemaakt van een geval waarin een bepaald open-source AI-model werd gemanipuleerd om een 'achtig nucleair ontwerp' te genereren. Nog schokkender was dat de analyse concludeerde dat de fysieke implementatie van dat ontwerp voor 92% haalbaar was. Dit suggereert dat het niet alleen een theoretische bedreiging is, maar kan leiden tot daadwerkelijke vernietiging in de realiteit.

Dr. Hinton vergeleek AI-gewichten met een "geheim recept". Hij waarschuwt dat als het KFC-recept wordt openbaar gemaakt, er valse kippenwinkels zullen verschijnen, en als de AI-gewichten openbaar worden gemaakt, er onbeperkt **'kwaadaardige AI'** met kwaadaardige bedoelingen zal ontstaan. Zijn voorspelling dat er een tijdperk zal komen waarin terroristen met een miljoen dollar AI's kunnen maken die dodelijke wapens beheersen, is niet langer een verhaal over de verre toekomst. De gevaren van misbruik zijn oneindig, net als de oneindige mogelijkheden van AI. We mogen niet over het hoofd zien dat kwaadaardige AI het leven van de mensheid op alle denkbare terreinen kan bedreigen, zoals diefstal van persoonlijke informatie, verstoring van het financiële systeem en de ontwikkeling van autonome dodelijke wapens.

Hoofdstuk 3. De wonderen die superintelligentie zal opleveren: de revolutie in gezondheid en onderwijs

Net zo belangrijk als de waarschuwingen over de risico's, benadrukte Dr. Hinton ook de 'wonderen' die AI de mensheid zal schenken. Hij verklaarde: "Tegelijkertijd is deze technologie de grootste kans in de menselijke geschiedenis", en benadrukt de positieve impact die AI zal hebben als het in de juiste richting wordt ontwikkeld en gecontroleerd.

Revolutie in de gezondheidszorg: AI heeft al geweldige prestaties geleverd op het gebied van de gezondheidszorg. Dr. Hinton voorspelde dat AI-artsen de nauwkeurigheid van longkankerdiagnoses met meer dan 40% kunnen verhogen. In feite is de Mayo Clinic in de Verenigde Staten erin geslaagd om de snelheid van borstkankerdetectie met meer dan 30 keer te verhogen met behulp van AI. AI analyseert enorme hoeveelheden medische gegevens om subtiele patronen of afwijkingen op te sporen die menselijke artsen zouden kunnen missen, waardoor de foutenmarge wordt verlaagd en de nauwkeurigheid van de diagnose aanzienlijk wordt verbeterd. Dit zal een enorme impact hebben op het redden van talloze levens en het verminderen van de medische kosten.

Revolutie in het onderwijs: AI kan ook bijdragen aan het verminderen van de kloof in het onderwijs. Dr. Hinton geloofde dat 1-op-1 AI-tutors de academische kloof bij studenten met 90% kunnen verkleinen. Het geval van de Seoul National University in Korea ondersteunt dit. De Seoul National University kreeg een verbazingwekkend resultaat, met een gemiddelde stijging van 31% in de cijfers van de studenten na de invoering van een AI-tutoringsysteem. AI-tutors bieden gepersonaliseerd onderwijs dat is afgestemd op het leerniveau en -tempo van de individuele studenten, waardoor zwakke punten worden gecompenseerd en sterke punten worden gemaximaliseerd. Dit kan bijdragen aan het verbeteren van de kwaliteit van het onderwijs, het verminderen van de last van privélessen en uiteindelijk het realiseren van gelijke kansen in het onderwijs.

Revolutie op het gebied van milieu en energie: AI speelt ook een belangrijke rol bij het oplossen van milieuproblemen. Supergeleiders ontworpen door AI kunnen de efficiëntie van elektrische autobatterijen met meer dan 200% verhogen. Dit betekent dat het de energie-efficiëntie kan maximaliseren en de koolstofemissies kan verminderen, wat essentieel is om klimaatverandering aan te pakken.

De boodschap van Dr. Hinton is duidelijk. "Net als kernwapens kunnen worden gebruikt als reactoren om elektriciteit op te wekken, kan AI de redder van de mensheid worden als het maar onder controle wordt gehouden." AI is een zwaard met twee kanten, en afhankelijk van hoe het wordt gebruikt en gecontroleerd, kan het de mensheid in rampspoed storten of ongekende welvaart brengen. Het belangrijkste is niet de technologie zelf, maar de wil en de verantwoordelijkheid van de mens die de technologie hanteert.

https://www.esgre100.com/news/articleView.html?idxno=3366