[목멱칼럼]AI시대, 오펜하이머의 고뇌

[하민회 이미지21대표·경영 컨설턴트] 세계적인 화제작 ‘오펜하이머’가 관객 200만명을 넘겼다. 원작은 2006년 퓰리처상 수상작인 ‘아메리칸 프로메테우스-로버트 오펜하이머 평전’이다. 인간에게 불을 가져다줬다는 이유로 제우스로부터 쇠사슬에 묶인 채 독수리에게 간을 쪼아 먹히는 형벌을 받은 프로메테우스에 ‘원자폭탄의 아버지’ 로버트 오펜하이머를 빗댓다.

사실 ‘오펜하이머’는 보기 편한 영화는 아니다. 1930~50년대 이념과 전쟁의 격동기 세계정세에 대한 이해와 현대물리학의 태동기에 활동했던 천재물리학자들과 그 업적에 대한 사전 지식이 어느 정도 있어야 러닝타임 3시간이 지루하지 않다. 그럼에도 불구하고 ‘오펜하이머’는 한동안 가슴을 울리는 공감 포인트가 있다.

“나는 이제 죽음이요, 세상의 파괴자가 됐다.”

1945년 7월 16일 뉴멕시코에서 원자폭탄의 가공할 파괴력을 확인한 ‘트리니티 실험’ 직후 오펜하이머는 넋나간 표정으로 힌두 경전 바가바드 기타의 한 구절을 중얼거렸다. 인류를 구하고자 개발한 핵무기의 위력을 확인하는 순간 그는 두려움과 후회에 휩싸였다. 이 순간을 말하는 ‘오펜하이머 모멘트’는 새로운 기술로 의도치 않은 결과를 초래하는 것은 과학자에게도 책임이 있다는 의미로 쓰인다.

AI 과학계가 요즘을 ‘오펜하이머 모멘트’로 부른다고 한다. AI 과학자의 관점이 맨해튼 프로젝트 당시 과학자 관점과 비슷하기 때문이다.

오펜하이머가 핵무기를 개발하기 위한 ‘맨해튼 프로젝트’에 나선 건 나치보다 먼저 핵폭탄을 개발해야 한다는 위기감 때문이었지만 결국 인류는 지구를 몇 번이고 절멸시킬 수 있을 만큼의 핵폭탄을 품고 살게 됐다. 기술 선도 국가와 빅테크 사이에 팽배한 ‘더 나은 AI를 하루라도 먼저 만들어야 한다’ 는 경쟁적 사고는 오펜하이머의 위기감과 닮았다.

AI는 종종 핵무기에 비유된다. AI의 개발속도는 기하급수적인데다 어느 날 인간이 제어할 수 없는 순간이 올지도 모른다. 심지어 그 순간을 인간이 알아채지도 못한다면?

‘오펜하이머’ 개봉일에 미국에서는 백악관과 오픈AI, 구글, 마이크로소프트, 메타, 아마존, 인플렉션, 엔트로픽 등 생성AI 서비스를 개발 중인 빅테크 7개사가 AI 위험관리와 관련된 자율규제 안에 합의했다. 인류에게 실존적 위협이 될 수 있다는 경고를 우려한 조치였다. 합의에 따르면 앞으로 AI가 생성하는 차별적 행위에 대해서는 우선적 연구와 외부감사를 진행하고 사회적인 위험을 조장하거나 국가 안보 문제를 유발하는 인공지능 모델에 대해서는 회사 내외부에서 레드팀을 구성해야 한다. 또 AI로 생성된 오디오, 시각 콘텐츠는 사용자가 식별할 수 있도록 ‘워터마크’를 사용하게 된다.

정치적 실리와 거대 자본의 힘 앞에서 자율적 규제의 효력이 얼마나 될지 회의적으로 보는 일부 시선도 있지만 최소한의 무분별한 행동을 방지하려는 합의라는 점에선 긍정적인 출발이다.

영화 ‘오펜하이머’는 책임에 대한 이야기다. 감독인 크리스토퍼 놀런은 AI 연구자들이 오펜하이머와 비슷하다며 결과를 책임지지 못할 일을 하고 있다고 지적했다.

AI 개발은 주로 데이터와 연산에 기반한 인지 능력 증강에 중점을 두고 있다. 상식이나 윤리, 감정적인 측면은 배제된 채 여전히 속수무책이다. 그런 의미에서 AI는 핵무기보다 더 위험할지 모른다. 폭발력을 가시적으로 확인하지 못하는 블랙박스이기 때문이다. 더욱이 AI기술이 교육, 의료, 법률, 자율주행 등 인간의 일상 전반에 광범위하게 사용된다는 점을 감안한다면 잠재된 부작용은 상상 그 이상이다. 기술은 중립적이지만 사용자의 욕망에 휘둘리기 쉽다. 늦기 전에 인류의 공생을 위해 신뢰할 수 있는 AI기술을 공론화하고 준비해야 한다.