다가오는 AGI 시대, 어떻게 대비해야 할까?

생성형 AI 기술 개발이 가속화되면서 AGI 시대가 곧 도래할 것이라는 전망이 잇따르고 있다. AGI(Artificial General Intelligence, 일반인공지능)의 정의에 대한 명확한 합의는 아직 존재하지 않지만, 머지않아 인공지능이 이해력과 추론 능력 그리고 창의적 문제 해결력 등 고도의 지적 능력이 요구되는 거의 모든 분야(법률, 의료, 금융 등)에서 인간을 뛰어넘을 것이라는 전망에 많은 전문가와 유명 인사들이 동의하고 있다.

마이크로소프트사의 빌 게이츠는 10년 내에 인간의 뇌를 능가하는 슈퍼 AI가 등장할 것이라고 예상한 바 있다. 인공지능 기술을 선도하는 반도체 회사 엔비디아의 CEO 젠슨 황은 AGI의 등장 시기를 그보다 빠른 5년 이내로 예상했다. 반면 여전히 AGI의 등장 시기에 보수적인 견해를 가진 전문가들도 있다. 세계적인 AI 석학 얀 르쿤 메타 수석 AI 과학자는 “현재의 AI 시스템이 단순히 대량 텍스트를 창의적인 방식으로 요약하는 것을 뛰어넘어 상식을 갖춘 지성에 도달하는 데 수십 년이 소요될 것”이라며 반대되는 의견을 펼쳤다.

생성형 AI, 어디까지 왔을까?

인간에 대한 의존도가 높은 현재의 생성형 AI 작동원리를 고려하면 완전히 인간과 동일한 방식으로 세상을 경험하는 의식을 가진 존재를 구현해낸다는 발상은 아직 시기상조일 수 있다. 인간이 구축한 데이터셋에 의한 지도학습(supervised learning)과 인간 피드백에 의한 강화 학습(RLHF, Reinforcement Learning from Human Feedback) 등 여전히 생성형 AI는 매우 인간 의존적인 방식으로 작동되기 때문이다.

그러나 인간과 비슷하거나 더 뛰어난 지적 능력을 가진 인공지능이 거의 모든 직업 분야에서 인간을 대체할 수 있을 것이라는 전망에는 대체로 이견이 없어 보인다. 이는 전혀 먼 미래의 허황된 이야기가 아니다. 현재의 기술 수준을 고려했을 때 5~10년 이내에 인간보다 뛰어난 인공지능 의사와 법조인 그리고 회계사와 마주하게 될 확률은 매우 높기 때문이다. 그러나 우리는 아직 준비되지 않았다. 이번 시간에는 다가오는 AGI 시대를 대비하기 위해 반드시 미리 생각해 보아야 할 몇 가지 요소들에 대해 살펴보자.

젠슨 황 엔비디아 창업자 겸 최고경영자(CEO)는 지난달 스탠퍼드 대학교에서 열린 한 포럼에서 인공지능이 5년 내로 인간이 치르는 모든 시험을 통과할 수 있을 것으로 전망했는데, 이미 초거대언어모델(LLM)의 매개변수(Parameter)가 매년 10배 이상의 규모로 커지고 있는 NLP 무어의 법칙을 따르고 있다는 사실을 고려했을 때 이는 매우 현실성 있는 주장이다.

실제로 GPT-4는 미국 변호사 시험에서 상위 10%의 성적을 받은 것으로 잘 알려져 있다. 오픈 AI에 따르면 전문적 지식 및 추론 능력에서도 GPT-4는 “인간 수준 능력”을 갖췄다고 한다. 기존 GPT-3.5가 미국 모의 변호사 시험에서 하위 10%에 해당하는 성적을 기록한 반면 GPT-4는 어떤 훈련 없이도 상위 10% 성적을 냈다는 점에서 시사하는 바가 크다.

1. 기본소득

전문직을 비롯해 AI가 인간의 지적 능력을 필요로 하는 거의 모든 일자리를 대체해 버린다고 가정하면, 일하지 않는 사람들의 수가 급증할 것이다. 이에 따른 기본 소득 도입 혹은 그에 상응하는 대안에 대한 현실적인 논의가 필요해 보이지만 여전히 뚜렷한 대책은 없다.

알트먼 오픈AI 최고경영자(CEO)는 암호화폐를 통해 이러한 문제를 해결하고자 했다. 더 이상 AI와 사람을 구분할 수 없는 AI 시대가 도래하면 홍채 정보를 통해 인간임을 인증한 이들에게 기본 소득을 지급하겠다는 구상으로 ‘월드코인(World Coin)’이라는 암호화폐를 만들었다. 월드코인 백서(White Paper)에 따르면 홍채 인식 기구 '오브(Orb)'를 통해 개인의 홍채를 데이터화해 블록체인에 연결하고, 실제 사람인지 확인되면 월드 ID를 생성해 기본 소득을 보장한다고 한다.

그러나 월드코인은 뚜렷한 자금원이 없고 암호화폐의 시가총액에 오롯이 의존할 수밖에 없다는 점에서 진정한 의미에서 기본 소득을 마련했다고 하기 힘들다. 각국의 기관과 정부들은 AGI에 의한 위협을 먼 미래의 일이 아닌 눈앞의 일로 받아들이고 관련 시스템 도입을 위한 진지한 논의를 시작할 필요가 있다.

2. 법률 및 제도 마련

이번 달 유엔 회원국들은 최초로 인공지능의 안전한 사용에 관한 국제적인 합의를 시급히 마련해야 한다는 내용의 결의를 컨센서스(만장일치)로 채택했다고 한다. 이번 결의는 미국 주도로 제출되었으며 만장일치로 이루어졌다는 점에서 매우 고무적이라고 할 수 있다.

이번 합의는 논의가 딥페이크와 같은 생성형 AI가 생성한 콘텐츠와 정치적 논쟁의 진실성이나 알고리즘의 편향에 의한 사회분열과 소수자 차별 심화 등  안전한 사용에 관한 국제적인 합의 마련 필요성을 강조한 점에서 긍정적이다. 데이터 편향에 의한 문제 해결이나 가짜 정보 악용을 방지하기 위한 구체적인 논의의 첫걸음이 될 수 있을 것으로 기대를 모으고 있다. 

그러나 여전히 생성형 AI에 의한 일자리 상실과 그에 따른 대책이나 생성형 AI가 생활에 널리 확산되었을 때 매우 중요한 주제가 될 수 있는 AI 개발에 따른 책임 소재 혹은 AI의 권리와 책임 등에 대한 논의는 매우 부족해 보인다.