[Wawasan AI] "Sang Pelopor AI memperingatkan...Persimpangan Kecerdasan Super yang Akan Datang dalam 10 Tahun"

"Saya telah meneliti AI selama 50 tahun. Sekarang adalah saat ketika saya merasakan ketakutan untuk pertama kalinya."

Artikel oleh | Kolumnis Choi Bong-hyuk | The ESG News

Pernyataan dari Dr. Geoffrey Hinton, penerima Penghargaan Turing 2018 (Penghargaan Nobel dalam ilmu komputer), bukanlah sekadar keluhan seorang ilmuwan. Ini adalah lampu peringatan yang mengerikan yang mengumumkan bahwa umat manusia berada di titik balik peradaban baru yang belum pernah dialami sebelumnya. Dia menyamakan dirinya dengan Oppenheimer, yang memperingatkan umat manusia tentang kemungkinan perang nuklir setelah pengembangan bom atom, dan menggarisbawahi bahwa masa depan yang akan datang bagi kita bukanlah cerita fiksi ilmiah.

Sebagai seorang kolumnis Choi Bong-hyuk, saya yakin bahwa diskusi tentang perkembangan teknologi AI ini dan tanggung jawab etika dan sosial terkait adalah proses penting yang sejalan dengan kepentingan publik masyarakat kita. Dengan memahami peringatan Dr. Hinton secara mendalam dan menganalisis secara saksama kesadaran masalah dan solusi yang diajukan, kita akan mendapatkan wawasan yang dapat mengarahkan era AI yang akan datang ke arah yang bermanfaat bagi umat manusia.

Bab 1. Peringatan 'Peluang 10~20%'_ Masa depan umat manusia yang dipercepat

Dalam sebuah wawancara dengan BBC pada Mei 2024, Dr. Geoffrey Hinton dengan jelas bersaksi tentang betapa cepat persepsinya tentang AI telah berubah hanya dalam dua tahun. "Hingga tahun 2022, saya berpikir bahwa risiko di luar kendali yang disebabkan oleh AI akan terjadi 50 tahun kemudian. Tetapi dengan munculnya GPT-4 sekarang, saya pikir ada peluang 10 hingga 20% bahwa super-intelijen akan lepas kendali dari kendali manusia dalam 10 tahun ke depan."

Angka 1020% ini mungkin tampak kecil secara statistik, tetapi maknanya sama sekali tidak ringan. Dalam masalah yang melibatkan keberadaan umat manusia, 1020% berarti 'ancaman yang dapat direalisasikan' daripada 'kemungkinan'. Sama seperti kita berinvestasi pada segalanya untuk keselamatan bahkan jika probabilitas kecelakaan pesawat terbang kurang dari 0,0001%. Dr. Hinton menjelaskan bahwa kecepatan kemajuan teknologi AI melampaui imajinasi, seperti kecepatan peningkatan ponsel pintar. Jika transformasi teknologi besar terjadi sekali setiap 10 tahun di masa lalu, sekarang kita telah memasuki era kecepatan cahaya di mana inovasi terjadi lebih dari dua kali setahun.

'Titik balik' yang dia bicarakan mengacu pada kemampuan AI untuk belajar dan berkembang dengan sendirinya. Ini seperti momen ketika seorang bayi mulai mengambil langkah pertama. Seperti bayi yang mulai berjalan tidak berhenti dan belajar cara berlari sendiri, AI telah memperoleh potensi untuk meningkatkan kecerdasan tanpa campur tangan manusia secara langsung. Masalahnya adalah bahwa jika perkembangan diri semacam itu berada di luar kendali manusia, hasilnya tidak dapat diprediksi. Potensi bahaya yang dapat terjadi jika AI super-intelijen otonom menetapkan tujuan yang bertentangan dengan kepentingan umat manusia, atau jika ia salah menafsirkan niat manusia, berada di luar imajinasi.

Bab 2. "Mengungkap bobot AI sama dengan membocorkan gambar desain senjata nuklir"

Salah satu poin yang paling keras diperingatkan oleh Dr. Hinton adalah masalah 'pengungkapan bobot (Weight) model AI'. Dia bahkan menggambarkan tindakan membuka bobot model AI skala besar sebagai "tindakan gila mengunggah gambar desain senjata nuklir ke Internet". Metafora ini menunjukkan bahwa ia memandang kekuatan destruktif teknologi AI sebagai sesuatu yang serius, sama seperti senjata nuklir.

Kekhawatirannya melampaui sekadar metafora dan telah muncul sebagai bahaya yang terwujud.

Agustus 2023, Insiden kebocoran bobot LLaMA: Insiden bobot Large Language Model (LLM) LLaMA, yang dirilis oleh Facebook (sekarang Meta), bocor dan diperdagangkan seharga 50.000 dolar AS (sekitar 70 juta won) di dark web, mengungkap kelemahan keamanan AI. Bobot yang bocor menjadi tak terkendali, karena dapat dimodifikasi menjadi alat peretas atau digunakan untuk pengembangan AI jahat.

Maret 2024, Contoh manipulasi AI sumber terbuka: Faktanya, bahkan ada kasus di mana model AI sumber terbuka tertentu dimanipulasi untuk menghasilkan 'gambar desain bom nuklir yang serupa'. Yang lebih mengejutkan adalah hasil analisis yang menunjukkan bahwa kemungkinan implementasi fisik dari gambar desain tersebut mencapai 92%. Ini menunjukkan bahwa itu bukanlah ancaman teoritis, tetapi dapat mengarah pada kehancuran yang sebenarnya.

Dr. Hinton membandingkan bobot AI dengan "resep rahasia". Peringatannya adalah bahwa jika resep ayam KFC diungkapkan, toko ayam palsu akan bermunculan, dan jika bobot AI diungkapkan, **'AI jahat'** dengan tujuan jahat akan muncul tanpa pandang bulu. Prediksinya bahwa era di mana hanya dengan 1 juta dolar AS, teroris dapat membuat AI pengendali senjata mematikan, bukanlah lagi cerita masa depan yang jauh. Risiko penyalahgunaan AI sama besarnya dengan potensi tak terbatas yang dimilikinya. Pengambilan informasi pribadi, gangguan sistem keuangan, pengembangan senjata mematikan otonom, AI jahat dapat mengancam kehidupan umat manusia di semua bidang yang dapat dibayangkan.

Bab 3. Keajaiban yang akan dihadirkan super-intelijen: Revolusi medis dan pendidikan

Seperti halnya peringatan akan bahaya, Dr. Hinton juga menekankan 'keajaiban' yang akan diberikan AI kepada umat manusia. Ia menyatakan, "Pada saat yang sama, teknologi ini adalah kesempatan terbesar dalam sejarah umat manusia", dan menggarisbawahi dampak positif yang akan dibawa jika AI dikembangkan dan dikendalikan dengan benar.

Revolusi medis: AI telah membuat pencapaian luar biasa di bidang medis. Dr. Hinton memperkirakan bahwa dokter AI dapat meningkatkan akurasi diagnosis kanker paru-paru lebih dari 40%. Bahkan, Mayo Clinic di AS berhasil meningkatkan kecepatan deteksi kanker payudara lebih dari 30 kali lipat dengan menggunakan AI. AI dapat menganalisis data medis yang luas untuk mendeteksi pola halus atau tanda-tanda abnormal yang mungkin tidak diperhatikan oleh dokter manusia sejak dini, mengurangi tingkat kesalahan diagnosis dan secara dramatis meningkatkan akurasi diagnosis. Ini akan sangat berdampak dalam menyelamatkan banyak nyawa dan mengurangi biaya medis.

Revolusi pendidikan: AI juga dapat berkontribusi dalam mengatasi kesenjangan di bidang pendidikan. Dr. Hinton percaya bahwa tutor AI satu-satu dapat mengatasi kesenjangan akademik siswa hingga 90%. Contoh dari Universitas Nasional Seoul di Korea Selatan mendukung hal ini. Universitas Nasional Seoul memperoleh hasil yang luar biasa dengan nilai siswa meningkat rata-rata 31% setelah memperkenalkan sistem bimbingan AI. Tutor AI menyediakan pendidikan yang disesuaikan dengan tingkat dan kecepatan belajar masing-masing siswa, efektif dalam melengkapi kelemahan dan memaksimalkan kekuatan. Hal ini dapat berkontribusi pada peningkatan kualitas pendidikan, mengurangi beban pendidikan swasta, dan pada akhirnya mewujudkan kesetaraan dalam pendidikan.

Revolusi lingkungan dan energi: AI memainkan peran penting dalam memecahkan masalah lingkungan. Dikatakan bahwa superkonduktor yang dirancang oleh AI dapat meningkatkan efisiensi baterai mobil listrik lebih dari 200%. Ini berarti bahwa itu dapat memaksimalkan efisiensi energi, mengurangi emisi karbon, dan memainkan peran penting dalam mengatasi perubahan iklim.

Pesan Dr. Hinton jelas. "Seperti senjata nuklir yang digunakan sebagai reaktor yang menghasilkan listrik, jika AI dikendalikan, itu akan menjadi penyelamat umat manusia." AI seperti pedang bermata dua, dan bagaimana kita menggunakannya dan mengendalikannya, itu bisa menjadi bencana bagi umat manusia, atau membawa kemakmuran yang belum pernah terjadi sebelumnya. Yang penting bukanlah teknologinya sendiri, tetapi kemauan dan tanggung jawab manusia yang menangani teknologi tersebut.

https://www.esgre100.com/news/articleView.html?idxno=3366