[AI 인사이트] "AI의 대부가 경고한다 … 10년 안에 닥칠 초지능의 갈림길"

"저는 50년간 AI를 연구해왔습니다. 지금이 처음으로 두려움을 느끼는 순간입니다."

글 ㅣ 최봉혁 칼럼니스트 ㅣ 더이에스지뉴스

2018년 튜링상(컴퓨터 과학계의 노벨상) 수상자인 제프리 힌튼 박사의 이 한마디는 단순한 과학자의 푸념이 아니다. 이는 인류가 지금껏 경험해보지 못한 새로운 문명의 변곡점에 서 있음을 알리는 섬뜩한 경고등이다. 그는 마치 원자폭탄 개발 후 인류에게 핵전쟁의 가능성을 경고했던 오펜하이머의 심정과 자신의 현재 상황을 동일시하며, 우리에게 다가올 미래가 결코 공상과학 속 이야기가 아님을 역설한다.

최봉혁 칼럼니스트로서, 저는 이러한 AI 기술의 발전과 그에 따른 윤리적, 사회적 책임에 대한 논의가 우리 사회의 공공의 이익에 부합하는 필수적인 과정이라고 확신한다. 힌튼 박사의 경고를 깊이 이해하고, 그가 제시하는 문제의식과 해법을 면밀히 분석함으로써, 우리는 다가올 AI 시대를 인류에게 이로운 방향으로 이끌어갈 수 있는 통찰력을 얻을 것이다.

1장. '10~20% 확률' 경고_ 시계가 앞당겨진 인류의 미래

제프리 힌튼 박사는 2024년 5월 BBC와의 인터뷰에서 AI에 대한 자신의 인식이 불과 2년 만에 얼마나 급변했는지 생생하게 증언했다. "2022년까지만 해도 저는 AI로 인한 통제 불능 위험을 50년 후의 일로 생각했습니다. 하지만 GPT-4가 등장한 지금, 10년 내에 초지능이 인류 통제를 벗어날 확률이 10~20%에 달한다고 봅니다."

이 1020%라는 수치는 통계적으로 작게 보일 수 있지만, 그 의미는 결코 가볍지 않다. 인류의 존립이 걸린 문제에서 1020%는 '가능성'이 아닌 '현실화될 수 있는 위협'을 의미한다. 마치 항공기 추락 확률이 0.0001% 미만이어도 우리는 안전에 모든 것을 투자하는 것과 같다. 힌튼 박사는 AI 기술의 발전 속도가 마치 스마트폰 업그레이드 속도처럼 상상을 초월한다고 설명한다. 과거에는 기술적 대격변이 10년에 한 번꼴로 일어났다면, 이제는 1년에 두 번 이상 혁신이 일어나는 광속의 시대에 진입했다.

그가 말하는 '변곡점'은 바로 AI가 스스로 학습하고 발전하는 능력을 의미한다. 이는 마치 아기가 스스로 걸음마를 떼기 시작하는 순간과 같다. 한번 걷기 시작한 아기는 멈추지 않고 스스로 달리는 법을 배우듯, AI는 인간의 직접적인 개입 없이도 지능을 고도화시킬 잠재력을 갖추게 되었다. 문제는 이러한 자기 발전이 인간의 통제 범위를 벗어날 경우, 그 결과가 예측 불가능하다는 점이다. 자율성을 가진 초지능 AI가 인류의 이익과 배치되는 목표를 설정하거나, 혹은 인간의 의도를 오해할 경우 발생할 수 있는 잠재적 위험은 상상 그 이상이다.

2장. "AI 가중치 공개는 핵무기 설계도 유출과 같다"

힌튼 박사가 가장 강하게 경고하는 지점 중 하나는 'AI 모델 가중치(Weight)의 공개' 문제다. 그는 대형 AI 모델의 가중치를 오픈소스로 공개하는 행위를 "핵무기 설계도를 인터넷에 올리는 미친 짓"이라고까지 표현했다. 이 비유는 AI 기술이 가진 파괴력을 핵무기에 비견할 만큼 심각하게 보고 있음을 보여준다.

그의 우려는 단순한 비유를 넘어 현실화된 위험으로 이미 나타났다.

2023년 8월, LLaMA 가중치 유출 사건: 페이스북(현 메타)이 공개한 대형 언어 모델(LLM) 라마(LLaMA)의 가중치가 유출되어 다크웹에서 5만 달러(약 7천만 원)에 거래된 사건은 AI 보안의 취약성을 여실히 드러냈다. 유출된 가중치는 해킹 툴로 변조되거나 악성 AI 개발에 활용될 수 있는 통제 불가능한 상태가 되었다.

2024년 3월, 오픈소스 AI 조작 사례: 실제로 특정 오픈소스 AI 모델이 조작되어 '유사 핵폭탄 설계도'를 생성하는 사례까지 보고되었다. 더욱 충격적인 것은 해당 설계도의 물리적 구현 가능성이 92%에 달했다는 분석 결과였다. 이는 이론적인 위협이 아니라, 현실에서 실제적인 파괴로 이어질 수 있음을 시사한다.

힌튼 박사는 AI 가중치를 "비밀 레시피"에 비유했다. KFC 치킨 조리법이 공개되면 가짜 치킨 가게가 난립하듯, AI 가중치가 공개되면 악의적인 목적을 가진 **'악성 AI'**가 무분별하게 쏟아져 나올 것이라는 경고다. 100만 달러만 있으면 테러리스트들도 살상 무기 제어 AI를 만들 수 있는 시대가 올 것이라는 그의 예측은 더 이상 먼 미래의 이야기가 아니다. AI가 가진 무한한 가능성만큼이나 그 오용의 위험성 또한 무한하다는 점을 간과해서는 안 된다. 개인 정보 탈취, 금융 시스템 교란, 자율 살상 무기 개발 등 악성 AI는 상상할 수 있는 모든 영역에서 인류의 삶을 위협할 수 있다.

3장. 초지능이 선사할 기적: 의료·교육 대혁명

위험에 대한 경고만큼이나 힌튼 박사는 AI가 인류에게 선사할 '기적'에 대해서도 강조했다. 그는 "동시에 이 기술은 인류 역사 최대의 기회입니다"라고 밝히며, AI가 올바른 방향으로 개발되고 통제될 경우 가져올 긍정적인 파급력을 역설한다.

의료 혁명: AI는 의료 분야에서 이미 놀라운 성과를 내고 있다. 힌튼 박사는 AI 의사가 폐암 진단 정확도를 40% 이상 높일 수 있다고 예측했다. 실제로 미국 메이요 클리닉은 AI를 활용하여 유방암 발견 속도를 30배 이상 높이는 데 성공했다. AI는 방대한 의료 데이터를 분석하여 인간 의사가 놓칠 수 있는 미세한 패턴이나 이상 징후를 조기에 감지함으로써 오진율을 줄이고 진단의 정확도를 획기적으로 향상시킬 수 있다. 이는 수많은 생명을 살리고 의료 비용을 절감하는 데 지대한 영향을 미칠 것이다.

교육 혁명: AI는 교육 분야의 격차 해소에도 기여할 수 있다. 힌튼 박사는 1대1 AI 튜터가 학생들의 학력 격차를 90%까지 해소할 수 있다고 보았다. 한국 서울대학교의 사례는 이를 뒷받침한다. 서울대는 AI 튜터링 시스템 도입 후 학생들의 성적이 평균 31% 상승하는 놀라운 결과를 얻었다. AI 튜터는 학생 개개인의 학습 수준과 속도에 맞춰 맞춤형 교육을 제공하며, 취약점을 보완하고 강점을 극대화하는 데 효과적이다. 이는 교육의 질을 높이고 사교육 부담을 줄이며, 궁극적으로는 교육의 평등을 실현하는 데 기여할 수 있다.

환경 및 에너지 혁명: AI는 환경 문제 해결에도 중요한 역할을 한다. AI가 설계한 초전도체는 전기차 배터리 효율을 200% 이상 높일 수 있다고 한다. 이는 에너지 효율을 극대화하고 탄소 배출량을 줄여 기후 변화 대응에 필수적인 역할을 할 수 있음을 의미한다.

힌튼 박사의 메시지는 분명하다. "핵무기가 전기를 만드는 원자로로 쓰이듯, AI도 통제만 된다면 인류의 구원자가 됩니다." AI는 양날의 검과 같아서, 어떻게 활용하고 통제하느냐에 따라 인류에게 재앙이 될 수도, 혹은 전례 없는 번영을 가져다줄 수도 있다는 것이다. 중요한 것은 기술 그 자체가 아니라, 그 기술을 다루는 인간의 의지와 책임감이다.

https://www.esgre100.com/news/articleView.html?idxno=3366