[AI-bepillantás] "Az AI nagykövete figyelmeztet... A szuperintelligencia elágazása 10 éven belül"

"50 éve kutatom a mesterséges intelligenciát (AI), és most érzem először félelmet."

Írta: Choi Bong-hyeok, rovatvezető, The ESG News

Geoffrey Hinton, a 2018-as Turing-díj (a számítástudomány Nobel-díja) kitüntetettjének ez az egy mondata nem csupán egy tudós panaszkodása. Kísérteties figyelmeztetés, amely arra utal, hogy az emberiség egy soha nem látott civilizációs fordulópont előtt áll. Hasonlóképpen, mint Oppenheimer, aki a bombák kifejlesztése után figyelmeztetett az emberiségnek egy nukleáris háború lehetőségére, Hinton is jelenlegi helyzetét állítja párhuzamba, és hangsúlyozza, hogy a jövő, amely felénk közeleg, korántsem a sci-fi. történet.

Choi Bong-hyeok rovatvezetőként meg vagyok győződve arról, hogy a mesterséges intelligencia (AI) technológia fejlődésével és az azzal járó etikai és társadalmi felelősséggel kapcsolatos megbeszélések elengedhetetlenek a társadalmunk közérdekének. Ha mélyen megértjük Hinton figyelmeztetését, és szorosan elemezzük az általa felvetett problémákat és megoldásokat, akkor bepillantást nyerhetünk, amellyel az elkövetkező mesterséges intelligencia korát az emberiség javára fordíthatjuk.

1. fejezet: '10-20% esély' figyelmeztetés_ Az emberiség jövője, az óra sietett

Geoffrey Hinton a BBC-nek 2024 májusában adott interjújában élénken tanúskodott arról, hogy a mesterséges intelligenciáról alkotott elképzelései milyen gyorsan változtak mindössze két év alatt. "2022-ig a mesterséges intelligencia feletti ellenőrzés elvesztésének veszélyét 50 év múlvára datáltam. De a GPT-4 megjelenésével úgy gondolom, hogy 10-20% az esélye annak, hogy 10 éven belül a szuperintelligencia kikerül az emberi irányítás alól."

Ez a 10-20%-os szám statisztikailag kicsinek tűnhet, de a jelentése korántsem könnyű. Az emberiség fennmaradásával kapcsolatos kérdésben a 10-20% nem a 'lehetőséget', hanem a 'megvalósítható fenyegetést' jelenti. Olyan, mintha a repülőgép-baleset valószínűsége 0,0001% alatt lenne, de mégis mindenbe a biztonságba fektetünk. Hinton elmagyarázza, hogy a mesterséges intelligencia technológia fejlődésének sebessége meghaladja a képzeletet, mintha egy okostelefont frissítenénk. Ha a múltban a technológiai forradalmak 10 évente egyszer fordultak elő, most már több mint kétszer történik innováció évente, ami a szupergyors korszakba való belépést jelenti.

Az általa emlegetett 'fordulópont' pontosan a mesterséges intelligencia (AI) önálló tanulási és fejlődési képességét jelenti. Olyan, mintha egy baba elkezdené megtenni az első lépéseit. Ahogy a baba, miután elkezdett járni, nem áll meg, és megtanul futni, a mesterséges intelligencia (AI) is képessé vált az intelligencia fejlesztésére az emberi közvetlen beavatkozása nélkül. A probléma az, hogy ha ez a saját fejlődés kilép az emberi ellenőrzés köréből, az eredmény kiszámíthatatlan. A független szuperintelligencia, amely az emberiség érdekeivel ellentétes célokat tűz ki, vagy félreérti az emberi szándékokat, a lehetséges kockázatok képzeletet felülmúlóak.

2. fejezet: "A mesterséges intelligencia (AI) súlyának nyilvánosságra hozatala olyan, mintha egy atomfegyver-tervet tennénk közzé"

Hinton egyik legélesebb figyelmeztetése a 'mesterséges intelligencia (AI) modell súlyának (Weight) közzétételével' kapcsolatos. A nagyméretű AI-modellek súlyát nyílt forráskóddal való közzétételét "őrültségnek" nevezte, "olyan, mintha egy atomfegyver-tervet tennének fel az internetre". Ez az analógia azt mutatja, hogy a mesterséges intelligencia (AI) technológia pusztító erejét súlyosnak tartja, és az atomfegyverekhez hasonlítja.

Aggodalmai túlmutatnak egy egyszerű hasonlaton, és már a valóságban is megmutatkoztak.

2023 augusztusában a LLaMA súlyszivárgási incidense: A Facebook (jelenleg Meta) által közzétett nagyméretű nyelvi modell (LLM) LLaMA súlyait kiszivárogtatták, és a dark webben 50 000 dollárért (kb. 70 millió wonért) adták el, ami feltárta a mesterséges intelligencia (AI) biztonságának sebezhetőségét. A kiszivárogtatott súlyok olyan irányíthatatlan állapotba kerültek, amelyek hackelési eszközökké alakíthatók, vagy rosszindulatú mesterséges intelligencia (AI) fejlesztéséhez használhatók.

2024 márciusában nyílt forráskódú mesterséges intelligencia (AI) manipulációs esete: Valójában egy bizonyos nyílt forráskódú mesterséges intelligencia (AI) modellt manipuláltak, és egy 'szemétszerkezetet' generáltak. A sokkolóbb dolog az volt, hogy az elemzések szerint a terv fizikai megvalósulásának valószínűsége elérte a 92%-ot. Ez azt jelzi, hogy ez nem elméleti fenyegetés, hanem a valóságban is a valós pusztuláshoz vezethet.

Hinton a mesterséges intelligencia (AI) súlyát egy "titkos recepthez" hasonlította. Ahogy a KFC csirkereceptjének nyilvánosságra hozatala után hamis csirkeboltok sora nyílik, úgy a mesterséges intelligencia (AI) súlyának nyilvánosságra hozatala után is nagyszámú **'rosszindulatú mesterséges intelligencia (AI)'** fog megjelenni, rosszindulatú célokkal. Előrejelzése, miszerint 1 millió dollárral a terroristák is képesek lesznek fegyvereket irányító mesterséges intelligenciát létrehozni, már nem a távoli jövő története. Nem szabad figyelmen kívül hagynunk, hogy a mesterséges intelligenciának (AI) a korlátlan lehetőségei mellett a visszaélés veszélye is korlátlan. A rosszindulatú mesterséges intelligencia (AI) az emberi életet fenyegeti a képzelhető minden területen, például személyes adatok ellopásával, a pénzügyi rendszer felborításával, az autonóm halálos fegyverek fejlesztésével.

3. fejezet. A szuperintelligencia által kínált csodák: Orvosi és oktatási forradalom

A kockázatokra vonatkozó figyelmeztetések mellett Hinton hangsúlyozta a mesterséges intelligencia (AI) által az emberiségnek felkínált 'csodát' is. "Ugyanakkor ez a technológia a legnagyobb lehetőség az emberiség történetében", mondta, kiemelve a pozitív hullámzást, amelyet a mesterséges intelligencia (AI) megfelelő fejlesztése és ellenőrzése hozhat.

Orvosi forradalom: A mesterséges intelligencia (AI) már most is lenyűgöző eredményeket ér el az orvostudományban. Hinton megjósolta, hogy a mesterséges intelligencia (AI) orvosok több mint 40%-kal növelhetik a tüdőrák diagnosztizálásának pontosságát. Valójában az amerikai Mayo Klinika a mesterséges intelligenciát (AI) használta fel a mellrák kimutatásának sebességének több mint 30-szorosára növeléséhez. A mesterséges intelligencia (AI) elemzi a hatalmas mennyiségű orvosi adatot, hogy korán észrevegye az emberi orvosok által kihagyott finom mintákat vagy rendellenes jeleket, csökkentve ezzel a téves diagnózisok arányát, és nagymértékben javítva a diagnózisok pontosságát. Ez óriási hatással lesz a számtalan élet megmentésére és az orvosi költségek csökkentésére.

Oktatási forradalom: A mesterséges intelligencia (AI) az oktatás területén is hozzájárulhat a különbségek áthidalásához. Hinton úgy vélte, hogy a személyre szabott mesterséges intelligencia (AI) tanárok a hallgatók tanulmányi különbségeinek 90%-át megoldhatják. A szöuli Nemzeti Egyetem példája alátámasztja ezt. A szöuli egyetem a mesterséges intelligencia (AI) tanítási rendszerének bevezetése után a hallgatók eredményeinek átlagosan 31%-os emelkedését érte el. A mesterséges intelligencia (AI) tutorok személyre szabott oktatást nyújtanak a hallgatók egyéni tanulási szintjéhez és sebességéhez igazodva, ami hatékony a gyengeségek kompenzálásában és az erősségek maximalizálásában. Ez javíthatja az oktatás minőségét, csökkentheti a magánoktatás terhét, és végső soron hozzájárulhat az oktatás egyenlőségének megvalósításához.

Környezeti és energiaforradalom: A mesterséges intelligencia (AI) szintén fontos szerepet játszik a környezetvédelmi problémák megoldásában. A mesterséges intelligencia (AI) által tervezett szupravezetők több mint 200%-kal növelhetik az elektromos járművek akkumulátorainak hatékonyságát. Ez azt jelenti, hogy maximalizálhatja az energiahatékonyságot, csökkentheti a szén-dioxid-kibocsátást, és ezáltal elengedhetetlen szerepet játszhat az éghajlatváltozás kezelésében.

Hinton üzenete világos. "Ahogy az atomfegyvereket atomerőművekben használják, a mesterséges intelligencia (AI) is az emberiség megmentője lehet, ha csak kontrollált." A mesterséges intelligencia (AI) kétélű kardhoz hasonlít, attól függően, hogyan használják és ellenőrzik, katasztrófát is okozhat az emberiség számára, vagy példátlan jólétet. Fontos dolog nem maga a technológia, hanem a technológiát kezelő ember akarata és felelőssége.

https://www.esgre100.com/news/articleView.html?idxno=3366