[AI İÇGÖRÜSÜ] "AI'nin Vaftiz Babası Uyarıyor... 10 Yıl İçinde Gelişecek Olan Süper Zekanın Kavşağı"

"Ben 50 yıldır yapay zeka üzerinde çalışıyorum. Şimdi korktuğum an."

Yazar | Choi Bong-hyeok, Köşe Yazarı | The ESG News

2018 Turing Ödülü (bilgisayar bilimleri alanında Nobel) sahibi Geoffrey Hinton'ın bu sözü, sadece bir bilim insanının şikayeti değil. İnsanlığın daha önce hiç deneyimlemediği yeni bir medeniyetin dönüm noktasında olduğunun tüyler ürpertici bir uyarısı. Nükleer bomba geliştirildikten sonra insanlığı nükleer savaş olasılığı konusunda uyaran Oppenheimer'ın zihniyetini ve kendi mevcut durumunu özdeşleştirerek, geleceğimizin asla bir bilim kurgu hikayesi olmadığını vurguluyor.

Bir köşe yazarı olarak Choi Bong-hyeok, bu tür yapay zeka teknolojisinin gelişimine ve beraberindeki etik ve sosyal sorumluluğa ilişkin tartışmaların toplumumuzun kamu yararına uygun önemli bir süreç olduğuna inanıyorum. Hinton'ın uyarısını derinlemesine anlayarak ve onun ortaya koyduğu bilinç ve çözümleri yakından analiz ederek, yaklaşan yapay zeka çağını insanlık için faydalı bir yönde yönlendirebilecek içgörüler elde edeceğiz.

Bölüm 1. '10~20% Olasılık' Uyarısı_ İnsanlığın Saatlerinin İlerlediği Gelecek

Geoffrey Hinton, Mayıs 2024'te BBC ile yaptığı bir röportajda, yapay zeka hakkındaki algısının sadece iki yılda ne kadar hızlı değiştiğini canlı bir şekilde kanıtladı. "2022'ye kadar yapay zekanın neden olduğu kontrol edilemez tehlikeleri 50 yıl sonraki bir sorun olarak görüyordum. Ancak GPT-4'ün ortaya çıkışıyla birlikte, 10 yıl içinde üstün zekanın insan kontrolünden çıkma olasılığının %10~20'ye ulaştığını düşünüyorum."

Bu %10-20 rakamı istatistiksel olarak küçük görünebilir, ancak anlamı asla hafif değildir. İnsanlığın varlığının söz konusu olduğu bir problemde, %10-20 'olasılık' değil, 'gerçekleşebilir bir tehdit' anlamına gelir. Tıpkı bir uçağın düşme olasılığı %0,0001'in altında olsa bile güvenliğe her şeyi yatırmamız gibi. Hinton, yapay zeka teknolojisindeki gelişme hızının akıllı telefon yükseltmeleri gibi hayal gücünün ötesinde olduğunu açıklıyor. Geçmişte, teknolojik büyük değişim on yılda bir gerçekleşirken, artık yılda iki veya daha fazla yeniliğin gerçekleştiği bir ışık hızı çağına girdik.

Onun bahsettiği 'dönüm noktası', yapay zekanın kendi kendine öğrenme ve gelişme yeteneği anlamına geliyor. Tıpkı bir bebeğin kendi kendine yürümeye başlaması gibi. Bir kez yürümeye başlayan bir bebek, durmadan kendi kendine koşmayı öğrenir gibi, yapay zeka da insan müdahalesi olmadan zekasını geliştirecek potansiyele sahip oldu. Sorun, bu tür kendi kendine gelişim insan kontrolünün dışına çıktığında, sonucun öngörülemez olmasıdır. Özerk bir süper zeki yapay zekanın insanlığın çıkarlarına aykırı hedefler belirlemesi veya insanların niyetlerini yanlış anlaması durumunda ortaya çıkabilecek potansiyel riskler hayal gücünün ötesindedir.

Bölüm 2. "Yapay Zeka Ağırlıklarının Açığa Çıkması, Nükleer Silah Tasarımlarının Sızdırılmasına Eşdeğerdir"

Hinton'ın en çok uyardığı noktalardan biri, 'yapay zeka modeli ağırlıklarının (Weight) açıklanması' sorunudur. Büyük yapay zeka modellerinin ağırlıklarını açık kaynak olarak yayınlamayı, "nükleer silah tasarımlarını internete yüklemek gibi çılgınca bir şey" olarak nitelendirdi. Bu benzetme, yapay zeka teknolojisinin yıkıcı gücünün nükleer silahlara eşdeğer olduğunu düşündüğünü gösteriyor.

Onun endişesi, basit bir benzetmeden öte, zaten gerçekleşmiş bir tehlike olarak ortaya çıktı.

Ağustos 2023'te LLaMA ağırlıklarının sızdırılması olayı: Facebook'un (şu anki Meta) yayınladığı büyük dil modeli (LLM) LLaMA'nın ağırlıkları sızdırıldı ve karanlık web'de 50.000 dolara (yaklaşık 70 milyon won) işlem gördü; bu olay, yapay zeka güvenliğindeki zayıflığı açıkça ortaya koydu. Sızdırılan ağırlıklar, hackleme araçları olarak değiştirilebilir veya kötü niyetli yapay zeka geliştirmede kullanılabilecek, kontrol edilemez bir duruma geldi.

Mart 2024'te, açık kaynaklı yapay zeka manipülasyonu örneği: Aslında, belirli bir açık kaynaklı yapay zeka modeli manipüle edildi ve 'benzer bir nükleer bomba tasarımı' oluşturma vakası bile bildirildi. Daha da şok edici olan, söz konusu tasarımın fiziksel olarak uygulanma olasılığının %92 olduğu yönündeki analiz sonuçlarıydı. Bu, teorik bir tehdit değil, gerçekte gerçek yıkıma yol açabileceğini gösteriyor.

Hinton, yapay zeka ağırlıklarını "gizli bir tarif" olarak nitelendirdi. KFC tavuk tarifi kamuoyuna açıklanırsa sahte tavuk dükkanları ortaya çıkacağı gibi, yapay zeka ağırlıkları kamuoyuna açıklanırsa, kötü niyetli amaçları olan **'kötü amaçlı yapay zeka'** kontrolsüzce ortaya çıkacaktır uyarısında bulunuyor. Sadece 1 milyon dolarla teröristlerin bile ölümcül silahları kontrol eden yapay zeka oluşturabileceği bir çağın gelişi artık çok uzak bir gelecek değil. Yapay zekanın sınırsız potansiyeli kadar, kötüye kullanım riski de sınırsız olduğu gerçeğini göz ardı etmemeliyiz. Kişisel bilgi hırsızlığı, finansal sistemin bozulması, otonom ölümcül silahların geliştirilmesi gibi kötü amaçlı yapay zeka, insanlığın hayatını hayal edilebilecek her alanda tehdit edebilir.

Bölüm 3. Süper Zekanın Sunacağı Mucize: Tıpta ve Eğitimde Devrim

Hinton, tehlikeler konusundaki uyarılarının yanı sıra, yapay zekanın insanlığa sunacağı 'mucize' üzerinde de durdu. "Aynı zamanda, bu teknoloji insanlık tarihindeki en büyük fırsattır." diyerek yapay zekanın doğru yönde geliştirilmesi ve kontrol edilmesi durumunda ortaya çıkacak olumlu etkileri vurguluyor.

Tıbbi devrim: Yapay zeka, tıp alanında şimdiden şaşırtıcı sonuçlar elde ediyor. Hinton, yapay zeka doktorlarının akciğer kanseri teşhis doğruluğunu %40'ın üzerinde artırabileceğini tahmin etti. Aslında, ABD'deki Mayo Kliniği, yapay zekayı kullanarak meme kanseri tespit hızını 30 kattan fazla artırmayı başardı. Yapay zeka, kapsamlı tıbbi verileri analiz ederek, insan doktorların gözden kaçırabileceği ince desenleri veya anormallikleri erken tespit ederek, yanlış teşhis oranını azaltabilir ve teşhis doğruluğunu önemli ölçüde artırabilir. Bu, sayısız hayat kurtaracak ve sağlık hizmetleri maliyetlerini düşürecek önemli bir etkiye sahip olacaktır.

Eğitim devrimi: Yapay zeka, eğitim alanında eşitsizliklerin giderilmesine de katkıda bulunabilir. Hinton, bire bir yapay zeka öğretmenlerinin öğrencilerin notlarındaki farkı %90'a kadar azaltabileceğine inanıyordu. Kore Seul Ulusal Üniversitesi'ndeki durum bunu destekliyor. Seul Ulusal Üniversitesi, yapay zeka öğretmenlik sistemi uygulamasının ardından öğrencilerin notlarında ortalama %31'lik şaşırtıcı bir artış elde etti. Yapay zeka öğretmenleri, öğrencilerin bireysel öğrenme seviyelerine ve hızlarına göre kişiselleştirilmiş eğitim sağlar, zayıflıkları telafi eder ve güçlü yönleri en üst düzeye çıkarır. Bu, eğitimin kalitesini artırabilir, özel ders yükünü azaltabilir ve nihayetinde eğitimin eşitliğini sağlayabilir.

Çevre ve enerji devrimi: Yapay zeka, çevre sorunlarını çözmede de önemli bir rol oynar. Yapay zeka tarafından tasarlanan süper iletkenler, elektrikli araçların pil verimliliğini %200'ün üzerinde artırabilir. Bu, enerji verimliliğini en üst düzeye çıkarabileceği ve karbon emisyonlarını azaltabileceği anlamına gelir, bu da iklim değişikliğiyle mücadele için gereklidir.

Hinton'ın mesajı açık. "Nükleer silahların elektrik üreten reaktörler gibi kullanıldığı gibi, yapay zeka da sadece kontrol edilirse insanlığın kurtarıcısı olacaktır." Yapay zeka, iki ucu keskin bir kılıç gibidir, nasıl kullanıldığına ve kontrol edildiğine bağlı olarak insanlık için felaket veya benzeri görülmemiş bir refah getirebilir. Önemli olan teknolojinin kendisi değil, bu teknolojiyi kullanan insanların iradesi ve sorumluluğudur.

https://www.esgre100.com/news/articleView.html?idxno=3366