강경희 기자

투자의 귀재 워런 버핏이 연례 주주총회에서 “나는 지니의 힘이 두렵다. 지니를 다시 램프에 넣는 방법을 모르는데 AI도 지니와 비슷하다”고 했다. ‘알라딘’에 등장하는 거인 요정 지니는 램프에 갇혀 있다가 주인이 불러내 소원을 빌면 무엇이든 다 들어주는 괴력을 지녔다.

 일러스트=이철원

▶지난달 말 오스트리아 빈에 세계 100여 국 전문가들이 모여 AI와 군사기술의 결합을 제재할 방안을 모색하는 국제회의를 가졌다. 이 자리에서 오스트리아 외무장관은 “지금이 우리 시대의 오펜하이머 순간(Oppenheimer moment)이라고 했다. 천재 물리학자 오펜하이머(1904~1967)는 2차 대전 당시 미국의 기밀 프로젝트 ‘맨해튼 계획’의 책임자로 임명돼 핵무기 개발을 주도했다. AI 가 비약적으로 발전하는 지금을 ‘오펜하이머 순간’이라고 부르는 것은 핵무기 못지않게 AI는 과학기술의 놀라운 성공이기도 하지만 한편으로는 재앙을 가져올 커다란 위험도 내포하기 때문이다.

▶ 영화 ‘터미네이터’는 지능형 컴퓨터 시스템이 핵전쟁을 일으켜 인류를 파괴하고 기계가 지배하는 세상이 된 서기 2029년을 그렸다. 킬러 로봇이 인간을 공격하러 온다. SF 영화가 현실이 되게 생겼다. AI 분야 대부로 불리는 캐나다 토론토대 제프리 힌턴 명예교수는 향후 10년 이내에 ‘킬러 로봇’이 등장할 것으로 예고했다. 영화에나 등장하던 킬러 로봇이 AI의 획기적 발달로 인간을 공격할 날이 머지않았다는 것이다.

▶이미 우크라이나 전쟁, 팔레스타인 가자 지구 등의 전쟁터에서는 자율 무기 시스템이 빠른 속도로 확산되고 있다. 병력 수급난 때문에 각국은 군사용 AI를 활용한 전투력 강화에 적극적이다. 자폭형 드론, 무인 전투기, 무인 잠수정, AI 자율 어뢰 등이 대표적이다. 정부 주도로 개발된 핵무기와 달리 AI 기술은 민간이나 기업이 독자 개발하기 때문에 군비경쟁의 개념도 송두리째 바뀐다. 인공지능은 소프트웨어 형식으로 작동해 핵 사찰 같은 검증도 어렵다.

▶디즈니 영화 ‘알라딘’에서 램프의 요정 지니는 착한 주인 덕분에 램프에 갇히지 않고 자유를 찾는 해피 엔딩을 맞는다. 악한 마법사를 주인으로 맞느냐, 착한 주인을 만나느냐에 따라 지니의 위력도 다른 결과를 낳는다. AI가 엄청난 파괴력을 갖추는 데 악용되는 것을 막으려고 미국, EU 등에서 AI 규제에 적극 나선다지만 세계 곳곳의 악한 마법사들이 ‘AI 지니’를 악용하려는 유혹을 얼마나 제어할 수 있을지는 미지수다.

출처: 조선일보(2024.05.06.)