생성형 AI시대 잠재적 리스크와 그 해결책

의식과 지능 그리고 상호 주관적 현실

생성형 AI 기술이 무서운 속도로 발전하면서 비즈니스뿐 아니라 개인의 삶에도 인공지능이 빠르게 보급되고 있습니다. 한국IDC가 발간한 ‘국내 생성형 AI 업무 적용 사례 연구’ 보고서에 따르면 국내 기업 및 기관의 약 72%가 이미 업무에 생성형 AI를 활용하고 있다고 합니다.

개인 역시 예외는 아닙니다. 딜로이트(deloitte) 그룹에서 발행한 ‘아시아-태평양 지역 내 생성형 AI 업무 활용 현황과 시사점이라는 리포트에 따르면 아태지역 대학생의 약 81%, 그리고 직장인의 약 62%가 생성형 AI를 업무와 학업에서 이미 활용하고 있다고 합니다. 전체 사용자의 경우 아시아-태평양 지역에서 평균적으로 약 67%의 사용자가 이미 생성형 AI를 활용하고 있습니다.

그러나 이처럼 기술의 보급 속도가 가속되는 것과는 상반되게, 생성형 AI 보급에 따르는 잠재적 위험과 이에 대한 해결책 마련에 대한 논의는 아직 활발하게 진행되고 있지 않은 것이 사실입니다. 각국 정부는 여전히 생성형 AI 창작권에 대한 명확한 정의를 내리지 못하고 있으며, 생성형 AI를 둘러싼 윤리 및 법적 이슈에 대한 논의 역시 부족합니다. 

생성형 AI가 우리 생활에 미치게 될 잠재적인 영향에 대해 이해하고 미리 대비하려면 우선 생성형 AI가 어떻게 작동하는지 이해하고, 그것이 어떻게 우리의 삶에 위협이 될 수 있는지 알아보는 것이 중요합니다. 이번시간에는 우리가 눈치채지 못하는 사이에 우리의 일상을 바꾸어 가고 있는 생성형 AI의 잠재적 리스크와 그 해결책에 대해 이야기 해보도록 하겠습니다.

생성형 AI의 지능과 의식, 진짜 중요한 것은?

생성형 AI를 비롯한 인공지능의 위협에 대해 논할 때 우리는 항상 두가지 큰 질문에 직면하게 됩니다. 첫번째는 '인공지능은 과연 사람처럼 의식을 가진 존재인가?'라는 질문이고 두번째는 '인공지능은 사람보다 뛰어난 지능을 가지고 있는가?'라는 질문입니다.

우선 현 시점에서 첫번째 질문에 대한 답을 알아낼 수 있는 방법은 우리에게 없습니다. 우리는 인공지능이 의식을 가지고 있는지, 그래서 세상을 경험하며 감정을 느끼는지, 혹은 궁극적으로 인류를 번영시키거나 멸망시키고자 하는 의도를 가지고 있는지 따위를 궁금해 합니다. 

그러나 기술이 아무리 발전해도 우리는 인공지능이 우리의 질문에 대해 어떻게 답하는지 혹은 어떻게 행동하는지를 보고 인공지능에게 의식이 있을지 유추할 수 있을 뿐 그것을 증명해낼 수 있는 방법은 없습니다.

그 이유는 인공지능의 훈련 및 추론 과정은 철저히 블랙박스화 되어있기 때문입니다.기존의 컴퓨터 알고리즘과는 다르게 초거대언어모델(LLM)은 수 천억, 수조 개의 매개변수의 가중치(weight)를 조정하고 오차함수(loss function)을 최소화 하며 풀고자 하는 문제의 최적값을 찾아가는 방식으로 작동합니다. 

이 때 하나의 매개변수에서 출력된 결과값은 또다른 매개변수의 입력값이 되고, 그 값은 또다시 출력값으로 나와 새로운 매개변수의 입력값이 되는 방식입니다. 이러한 과정들은 마치 우리 뇌의 뉴런의 작동방식과도 비슷합니다. 우리 뇌의 작동 원리를 알아보고 싶다고 해서 머릿속을 갈라볼 수 없듯이, 인공지능 역시 마찬가지입니다.

여기서 중요한 것은 생성형 AI가 인간처럼 의식을 가지고 있느냐 그렇지 않느냐 여부가 아닙니다. 진짜 중요한 것은 두번째 질문 즉 '인공지능은 사람을 능가하는 지능을 가지고 있느냐?'라는 질문입니다. 그렇다면 지능이란 무엇일까요? 지능이란 새로운 상황이나 문제를 해결해 내는데에 필요한 종합적인 능력이라고 정의내려볼 수 있습니다. 

생성형 AI는 여러 테스트와 연구 결과에서 이미 인간을 능가하는 지능을 보여주고 있습니다. OpenAI사에서 지난 10월 공개한 생성형 AI 모델인 o1은 과학과 수학 등 복잡한 추론을 필요로 하는 태스크에서 이미 박사 수준의 지식과 경험을 가진 인간을 능가하는 지능을 보여준 것으로 화제가 되었습니다. 

어떻게 이것이 가능했을까요? 인공지능의 핵심은 방대한 양의 데이터 속에서 패턴화 해내는 능력입니다. 생성형 AI는 단순 계산이나 자연어처리를 넘어 인지와 추론 등 복합적인 지능을 구사할 수 있는 수준에 다다랐습니다. 이처럼 복합적이고 구체화된 지적 능력을 바탕으로 생성형 AI는 이미 지능을 가지고 복잡한 문제를 해결하는데에 탁월한 능력을 보여주고 있으며, 이미 인간의 지능을 넘어서고 있는 것입니다.

지능을 가진 생성형 AI의 통제 불가능성과 상호 주관적 현실

유발 하라리의 책 '넥서스'에는 독일의 소설가이자 시인인 괴테의 시 ‘마법사의 제자’에 나오는 마법 빗자루에 대한 이야기가 등장합니다. 그의 저서에서 유발 하라리는 인공지능과 같은 기술이 어떻게 제어 불가능한 상황을 초래할 수 있는지에 대한 경고를 던집니다. 괴테의 마법 빗자루 이야기는 마법의 도구가 처음에는 작은 도움을 주던 것이 점차 통제를 벗어나 커다란 재앙을 일으킨다는 내용입니다. 이와 비슷하게 생성형 AI는 초기에는 간단한 업무를 처리하는 도구로 활용될 수 있지만, 그 능력이 기하급수적으로 발전하면서 예측할 수 없는 방향으로 우리 삶에 영향을 미칠 수 있습니다.

우리는 생성형 AI가 점차 많은 업무를 대신하면서 기존의 사회적, 경제적 구조를 변화시키는 것을 경험하고 있습니다. 그러나 이 과정에서 생기는 위험은 단순히 기술적인 것에 그치지 않습니다. 생성형 AI는 사회적, 문화적, 심리적 차원에서도 우리의 현실을 변화시키고 있습니다. 그 예로, 생성형 AI가 만들어내는 콘텐츠는 우리가 경험하는 현실의 기준을 흐리게 하고, 각기 다른 사람들이 공유하는 정보와 사실에 대한 이해를 점점 더 주관적이고 개인화된 방식으로 바꾸어 놓을 수 있습니다.

이러한 변화가 일어날 때 중요한 점은 우리가 기술에 대한 통제력을 어떻게 유지할 수 있을지에 대한 문제입니다. 생성형 AI의 발전은 우리가 경험하는 현실을 점점 더 왜곡시킬 가능성이 크기 때문에, 우리가 맞닥뜨리게 될 새로운 형태의 정보와 현실에 대한 신뢰 문제는 더욱 심각해질 것입니다. 예를 들어, 생성형 AI가 만들어낸 가짜 뉴스나 사실이 왜곡된 콘텐츠는 사람들의 인식에 큰 영향을 미칠 수 있으며, 이는 사회적 혼란을 초래할 수도 있습니다.

생성형 AI 시대, 인공지능의 권리와 책임은?

따라서 생성형 AI의 발전과 함께 사회적, 윤리적 책임도 함께 논의되어야 하며, 이러한 기술이 우리의 삶에 미치는 잠재적인 위험을 줄이기 위한 해결책 마련이 시급합니다. 각국 정부와 기업들은 이 기술의 발전을 예측하고, 그것이 인류와 사회에 미치는 영향을 신중하게 고려해야 합니다. AI가 만드는 콘텐츠에 대한 투명성을 보장하고, 그것이 악용되지 않도록 하는 법적, 윤리적 가이드라인을 마련하는 것이 필수적입니다.

생성형 AI 시대, 인간을 뛰어넘는 지능을 가지고 상호 주관적 현실을 통해 우리의 일상에 들어온 생성형 AI를 우리는 하나의 인격이 있는 대상으로 정의해야 할까요? 유발 하라리는 그의 저서 넥서스에서 오늘날 우리가 회사를 ‘법인’ 즉 하나의 인격체로 대하듯이 인공지능 역시 하나의 인격체로서의 권리를 획득하는 날이 올지도 모른다고 말합니다.

결국, 생성형 AI는 기술적 발전을 넘어서 우리의 현실을 재정의할 수 있는 잠재력을 가지고 있으며, 이를 어떻게 관리하고 통제할 것인가는 우리의 미래를 결정짓는 중요한 문제입니다. 이를 위해 우리는 기술에 대한 이해를 넓히고, 이를 바탕으로 AI와 공존할 수 있는 방법을 모색해야 할 때입니다.

* 슈퍼브 블로그의 외부 기고 콘텐츠는 외부 전문가가 작성한 글로 운영 가이드라인에 따라 작성됩니다. 슈퍼브 블로그에서는 독자분들이 AI에 대한 소식을 더 쉽고 간편하게 이해하실 수 있도록 유용한 팁과 정보를 제공하고 있습니다.