왜 일론 머스크와 유발 하라리는 AI 개발을 잠시 중단하자고 하는가?

1. 인간, AI에 브레이크를 걸다

 

사피엔스로 잘 알려진 세계적 석학 유발 하라리, 테슬라(CEO) 최고경영자 일론 머스크 등 이름만 들어도 알만한 유명인들이 인공지능(AI) 개발의 일시 중단을 요청하며 최근 뜨겁게 달아오른 AI 개발경쟁에 우려를 표명했다. 이들이 참여하고 있는 미국의 비영리단체인 ‘생명의미래연구소’가 “모든 인공지능 연구소들이 챗GPT-4 보다 더 강력한 AI 시스템 훈련을 최소한 6개월 동안 즉각 중단하기를 요청한다”고 촉구했고 2.29일 기준 1000여명이 서명에 참여했다. 서명 참여자들 가운데는 기업인, 학자, 전문가 등이 다수 포함돼 있다. 하라리와 머스크 외에도 애플의 공동창업자 스티브 워즈니악, 스테빌리티AI의 에마드 모스타크 CEO, 딥러닝의 창시자로 알려진 요슈아 벤지오 몬트리올대 교수 등이 동참했다. 

 

생명의미래연구소는 공개서한을 통해 이러한 “중단은 공개적이고 검증가능해야만 하고, 모든 핵심 관련 인사들이 참가해야만 한다”며 “만약 중단이 즉각적으로 실행될 수 없다면, 정부들이 개입해 활동 중단을 만들어 내야만 한다”고 주장했다.

 

이러한 요청에 대한 정부의 반응이었을까? 지난 3.31 이탈리아가 서방 국가 중 최초로 챗GPT를 일시적으로 금지하기로 결정했다. 금지 필요성으로 이탈리아가 꼽은 명시적인 이유는 개인정보보호다.  이탈리아 개인 정보보호 규제 기관인 가란테(Garante)는 ChatGPT마이크로소프트사가 지원하는 OpenAI가 ChatGPT 사용자의 연령을 확인하지 못하고, 챗봇을 훈련한다는 이유로 법적 근거없이 개인 데이터의 대규모 수집 및 저장하고있다고 지적했다. 이어서 프랑스, 독일 등 다른 유럽 국가들이 이와 유사한 조치를 검토하고 있다고 언론들이 보도하고 있다.  현재 유럽에서는 ​ EU AI 법의 내용과 적용 범위에 대해 의견이 분분하지만, 일부 규제 당국은 사용자가 자신의 개인 정보를 제어할 수 있도록 하는 ‘일반 데이터 보호 규정’(GDPR)을 강조하고 있다. 

2.  생성AI, 존재감을 드러내다.

 

OPEN AI가 쏘아올린 챗GPT 열풍이 너무 뜨거웠던 것일까? 2022년 12월 4일 100만 명이 가입해있던 챗GPT는 불과 2달만에 사용자 1억명에 도달했다. 사용자 1억명을 돌파하기까지 인스타그램 6.6년 유튜브가 6년, 페이스북이 4.8년 개중 가장 빠른 틱톡이 2.6년임을 감안하면, 열풍이라는 말로도 모자를 지경이다. 유튜브에는 챗GPT로 돈을 버는 방법 부터 대학 레포트를 작성하는 방법까지 수 많은 활용기가 하루가 멀다하고 올라오고, 기업들도 앞다투어 챗GPT를 기업 시스템에 도입한다는 발표를 하고 있다. 

 

OpenAI의 챗GPT를 지원하는 마이크로소프트는 챗GPT를 탑재한 New Bing 검색엔진으로 숙적 구글의 아성에 도전장을 내밀었고, 구글은 뜨거운 감자인 생성AI 분야에서 경쟁사의 선점효과를 두려워하며 아직 완성도를 확신하지 못하면서도 개발 중이던 바드(Bard)라는 생성AI를 시장에 선보였다. 

 

3. 전진하는 AI에 대한 인간의 두려움

 

지상 유일의 고등한 지적 존재라는 자부심으로 뭉친 인간이기에 지적 능력에 대한 기계의 도전은 자신이 만들어냈지만 자신을 능가하거나 할 가능성이 있는 인공지능에 대해 본능적인 두려움을 느끼는지도 모르겠다. 이러한 두려움의 단편을 생명의미래연구소 공개서한에서 읽어볼 수 있다. 서한은 “최근 몇달 동안 발명자 조차 이해하거나, 예측하거나, 안정적으로 통제할 수 없는 더 강력한 디지털 지능을 개발하려는 통제불능의 경주에 인공지능 연구소들이 갇혀버렸다”며  “우리는 기계들이 선전과 거짓으로 우리의 정보 창구들을 홍수로 만들게 할 것인가, 모든 일자리를 자동화할 것인가, 궁극적으로는 우리를 능가하고, 우리보다도 똑똑하고, 우리를 쓸모없게 만들고 대체할 수도 있는 비인간적 지능을 개발할 것인가, 우리 문명의 통제를 상실할 위험을 초래할 것이가 우리 스스로에게 질문을 던져야 한다”고 호소했다.

 

인공지능 개척자로 이번 서한에 대한 서명을 주도하고 있는 요슈아 벤지오 몬트리올대 교수는 기자회견에서 “이런 (인공지능) 시스템들이 사회에 위험한 방식으로 사용될 수 있는 수준까지 도달했다”고 우려했다. 생명미래연구소의 맥스 테그마크 소장은 인공지능 개발을 “자살 경쟁"이라고 표현하며, "누가 먼저 도착할 것인가는 중요하지 않다. 이는 인류가 전반적으로 자신의 운명에 대한 통제를 상실할 수 있음을 의미한다”고 지적했다.

 

4. 개발이 먼저인가 윤리가 먼저인가?

 

우리는 지금 AI 기술의 급진전을 주도하는 인간 그룹과 이를 통제하고 규제하려는 인간 그룹간의 첨예한 대립을 목도하고 있다. AI 기술이 없다고 지금 당장 인류가 망하는 것은 분명 아니다. 코로나19 치료제를 개발하기위한 전세계적 노력이나 지구온난화를 멈추기 위한 청정에너지 개발과는 다르게 잠시 AI 개발을 멈춘다고 인류에, 지구에 치명적인 영향이 있는 것도 아니다.

 

그럼에도 불구하고, 모두가 멈추기로 합의하기 전에는 누군가는 앞서가는 AI 기술을 통해 달콤한 과실을 따먹을 것이고, 누군가는 2등시민의 자격을 자손들에게 물려주게 될 것이다. 과거 소위 안보딜레마, 즉 방어를 위해 군비를 증강하더라도 상대국은 만에 하나라는 두려움에 군비를 따라 증강하고 결국 모두가 전쟁을 원하지 않으면서도 군비를 계속해서 증강하게 되어 결국 전쟁의 위협이 높아져가는 치명적인 딜레마가 AI 분야에도 적용된다. 그만큼 AI는 강력한 기술이기 때문이다. 

 

AI윤리와 규범, 법을 통해 AI를 적절히 제어하고 통제할 수 있을 때까지 개발을 멈출 것인가, 아니면 남들이 멈춰있을 때 한 발이라도 더 나아가 경쟁력과 힘의 우위를 점할 것인가, 어느 것이 우리의 미래, 우리의 후손을 진정으로 위하는 선택인가 쉽지 않은 문제다. 결국, 인류가 과거로 부터 얼마나 배웠고 얼마나 더 현명해졌는지, 더 나은 미래를 위한 공동의 선택을 합의해나갈 수 있는지 손에 땀을 쥐게 하는 관전포인트다.