AI 도입 시 주의 사항과 고려 사항과 무엇일까요? - AI 기업 리더 숏터뷰 Part 2

슈퍼브에이아이, 마키나락스, 올거나이즈 3사가 공동 주최한 지난 ‘알짜 기업이 쓰는 진짜 AI’ 세미나에서 AI를 도입 · 개발하고자 하는 많은 기업들에게 풍부한 인사이트를 전달했었는데요.

특히 슈퍼브에이아이는 1) 산업 현장에서 AI 서비스가 실패하는 이유, 2) 성공하는 AI 서비스 고도화 방안 및 MLOps 방법론, 그리고 3) 모범 과정 및 실사례를 발표하여 성공적인 AI 개발의 모든 것을 공유했습니다.

AI 기업 리더 숏터뷰 내용을 정리한 지난 Part 1에 이어, 이번 Part 2에서도 많은 AI 인사이트를 얻으시고 AI 도입·개발에 대한 고민을 해결하시길 바랍니다. 😊 

관련 블로그글 확인하기

Q. AI 도입 시 가장 고려해야 할 사항은 무엇일까요?

A. 이현동 슈퍼브에이아이 부대표:

“인공지능 도입 시 성과를 측정·평가하고 경영 성과에 기여할 수 있는지, 보안과 윤리에 문제가 없는지, 기존 시스템과 통합할 수 있는지 고려해야 합니다.”
- 이현동 슈퍼브에이아이 부대표

세 가지로 답변드릴 수 있을 것 같습니다.

첫 번째, AI 성과를 측정·평가하고 경영 성과에 기여할 수 있는가 

AI를 도입하는 이유는 '기업이 가지고 있는 경영의 문제를 해결하기 위함'이라고 생각합니다.

경영의 문제를 해결하기 위해 인공지능을 도구로써 이용하게 된다면 인공지능 도입 후의 성과가 실제 경영 성과에 얼마나 영향을 줄 수 있는지 평가할 수 있어야 합니다.

두 번째, AI 도입 과정에서 보안, 법률, 윤리적인 문제가 없는가

기업이 새로운 기술 및 시스템을 도입할 때 보안, 법률, 윤리 측면에서 위배가 된다면 사실상 도입하지 못하는 것과 같은, 도입을 해서 오히려 생산성이 떨어지는 효과가 날 수 있습니다.

세 번째, 새로 도입한 AI를 기존 시스템과 통합할 수 있는가

아무리 좋은 AI라도 기존 시스템·워크플로우와 연결되지 않는다면 새로운 가치를 만들 수 없습니다.

이 세 가지 중요 요소를 잘 고려한다면 AI 도입을 성공할 수 있습니다. 

A. 허영신 마키나락스 CBO:

"AI로 해결할 수 있는 문제인지 먼저 판단하는 작업을 필수적으로 진행해야 합니다. 그리고 AI 도입 과정에 소요되는 시간과 노력을 얼마나 최소한으로 줄일 수 있는지 계산해야 합니다.”
- 허영신 마키나락스 CBO

AI 도입은 도입 시작에서 끝나는 것은 아니고, 굉장히 긴 여정을 거쳐 고도화해야 합니다. 그런 관점에서 본다면, 해결해야 하는 문제 자체가 충분히 의미 있는 문제여야 합니다. 

그리고 그 긴 여정을 거치는 전 과정에 필요한 노력과 시간, 즉 ROI를 최소화할 수 있는 방법을 고려해야 합니다. 

이 두 가지를 같이 고려해야 성공적인 AI 프로젝트를 진행할 수 있습니다.

A. 이창수 올거나이즈 대표:

“인공지능 도입 시 모델과 데이터에 대한 보안, AI 적용 범위와 프로세스 등에 대한 제어성, 그리고 AI 사용 권한 제공 대상과 범위 등 인공지능을 둘러싼 모든 프롬프트 체인에 대한 관리성을 가장 고려해야 합니다.”
- 이창수 올거나이즈 대표

자사 고객사가 아니더라도 AI 도입을 위해 가장 중요하다고 말씀드리는 세 가지로 답변드릴 수 있습니다.

첫 번째는 보안(Security)입니다. 이미 많은 분들이 너무나도 잘 알고 계신 것이 보안 문제입니다. AI는 데이터와 밀접한 관계에 놓여있고, 데이터를 기반으로 모든 의사결정을 내리기 때문에 현시대의 기업에 있어 데이터는 경쟁력과 우선순위를 결정짓는 가장 중요한 요소입니다.

보안 때문에 AI 모델을 온프레미스(On-premies) 환경에서 구현하는 기업이 많지만 사실 클라우드 기반의 SaaS 또한 온프레미스 만큼이나 안전합니다.

따라서 보안은 온프레미스인가 클라우드 기반인가를 따져볼 것이 아니라, '데이터에 대한 보안이 어떻게 구성되어 있는가', 'AI 모델에 대한 보안이 어떻게 구성되어 있는가', 그리고 '이 데이터와 AI 모델 간의 상호작용에 대한 보안이 어떻게 구성되어 있는가'를 모두 고려해서 '보안이 전체 제품 및 파이프라인에 잘 적용되고 있는가'를 보는 것이 대단히 중요합니다.

두 번째는 제어성(Controllability)입니다. 특히 LLM(거대언어모델)이 등장하면서 인공지능 모델이 할 수 있는 일들이 대단히 많아졌습니다. 그렇지만 AI 모델이 할 수 있는 일이 아무리 많아졌어도, 모델이 기업 내의 워크플로우에 잘 적용이 되어 실제 현업에서 성과를 내고 이를 통해 기업이 이점을 얻지 못한다면 아무런 의미가 없습니다. AI가 아무리 똑똑해도 기업 입장에서는 AI는 그저 도구일 뿐이기 때문입니다. 그래서 제어성은 인공지능 도입 시 고려해야 할 사항 중 하나입니다. 

만약 기업이 기존 워크플로우에 AI를 적용한다면, AI 적용 후 ‘얼마나 넓은 범위를 AI와 사람이 각각 전담할 것인가’, ‘AI가 제대로 동작하기 위해 사내 시스템과 어떻게 연동돼야 하는가’, ‘AI를 기존의 워크플로우에 어떻게 반영시킬 것인가'와 같은 일련의 고려 사항과 작업들을 모두 고려하며 기업은 제어성을 가지고 있어야 합니다. 또한 이 모든 것을 기업이 직접 개발·구현할 것인지, 아니면 외부 솔루션을 구매할 것인지 등도 같이 고려하며 기업의 제어성을 탄탄하게 만들어야 합니다.

마지막은 관리성(Manageability)입니다. 이는 LLM이 등장하면서 매우 중요해졌습니다. LLM을 활용해 할 수 있는 일이 많아졌지만 모든 사내 구성원들이 자유롭고 편하게 쓸 수 있도록 권한을 제공할 것인지, 상용 배포는 어떻게 할 것인지 등 인공지능 모델을 둘러싼 모든 프롬프트 체인을 하나의 시스템 내에서 관리할 수 있어야 합니다. 

Q. AI 개발을 실패하지 않기 위해 항상 염두에 두고 주의해야 하는 사항은 무엇일까요?

A. 이현동 슈퍼브에이아이 부대표:

“현장 문제 및 전문성 데이터화 역량, 사전 분석과 명확한 의사결정, 그리고 AI 도입 과정에서 일어나는 이해관계자 간의 의견 협의과 협업이 중요하므로 항상 염두에 두고 주의해야 합니다.”
- 이현동 슈퍼브에이아이 부대표

‘알짜 기업이 쓰는 진짜 AI’ 세미나에서 제가 발표한 내용과 일맥상통한 답변을 드릴 수 있습니다.

첫 번째, 현장 문제 및 전문성 데이터화 역량

이 부분은 의지로만 해결할 수 있는 영역이 아니라 치밀한 전략과 체계화된 프로세스의 실행을 통해 얻을 수 있는 결과이기 때문에 가장 중요하다고 생각합니다.

두 번째, AI를 도입하기 위한 사전 분석과 명확한 의사결정

경영진의 강력한 의사결정은 AI 시스템을 도입하는 모든 구성원의 집중력을 만들어낼 수 있기 때문에 프로젝트 성공에 직접적으로 기여할 수 있다고 생각합니다. 이 의사결정은 AI 도입에 따른 이점에 근거해야 합니다. 

세 번째, AI 도입 과정에서의 이해관계자 간의 의견 협의(Consensus)와 협업 

다양한 이종 직무의 구성원들이 함께 문제를 정의하고 풀어내는 과정에서 어려운 부분, 몰랐던 부분, 혹은 그 프로세스 단계에서의 전문성들을 서로 터놓고 논의하는 의견 협의과 협업 과정이 중요합니다. 이것이 잘 진행된다면 AI 시스템을 성공적으로 도입할 수 있습니다.

이 세 가지가 중요하기 때문에 AI 도입 시 항상 염두에 두고 주의해야 합니다. 

A. 허영신 마키나락스 CBO:

“AI를 통해 어떤 문제를 해결할 것인지 명확하게 정의해야 합니다. 그리고 AI를 도입하는 담당자들의 성과를 인정받고 제도적인 뒷받침을 제공하여 추진 동력을 유지하는 것 또한 중요합니다.”
- 허영신 마키나락스 CBO

중요한 것은 'AI를 통해 어떤 문제를 해결할 것인가'입니다. AI 모델을 포함하여 여러 기술이 반영된 시스템 혹은 서비스 모두 잘 개발하기 위한 하나의, 완벽한 방법론은 아직까지 없습니다. AI가 가지고 있는 한계가 분명히 존재하기 때문에 AI가 풀 수 없는 문제도 존재합니다. 

이후 AI 도입을 실행할 때, 만약 이 글을 보고 계신 분들이 경영자라고 가정한다면, 실제로 AI를 추진하고 있는 담당자들이 이 업무에 대한 성과를 인정받고 꾸준히 추진할 수 있도록 단순한 동기부여를 넘어 제도적인 뒷받침을 제공해 주는 것이 추진 동력을 유지하는 데 있어 굉장히 중요합니다.

AI 도입 시 많은 기업이 놓치고 있지만 이는 상당히 중요한 요소입니다.

A. 이창수 올거나이즈 대표:

“좋은 AI 파트너와 사내 도메인 전문성을 가지고 있는 팀이 협업을 이뤄 빠르게 AI 모델을 개발하는 것이 경쟁에서 도태되지 않는 방법입니다. ”
- 이창수 올거나이즈 대표

기업이 제일 기본적으로 갖는 고민은 '직접 구축할 것인가 혹은 외부 솔루션을 구매할 것인가 (Build or Buy)'에 대한 부분입니다. 요즘같이 급변하는 환경에서, 특히 AI와 같이 전문 지식이 많이 요구되는 상황에서는 기업이 가진 전문성으로 AI 모델을 자체 개발하는 것은 속도가 느리기 때문에 경쟁에서 도태되게 됩니다.

그렇기 때문에 외부의 주요 파트너, 좋은 파트너와 사내 도메인 전문성을 가지고 있는 팀이 협업을 이뤄 AI 모델 개발을 빠르게 실행해 좋은 사례를 많이 생성하고, 이를 사내에 빠르게 전파하는 것이 훨씬 더 AI에 강한 체질의 기업으로 바꾸는 방법이라고 생각합니다.

Q. 3사 합동 세미나를 통해 얻을 수 있는 최대 인사이트 한 가지만 뽑는다면 무엇이 있을까요?

A. 이현동 슈퍼브에이아이 부대표:

“3사 협동 AI 세미나를 통해 산업 현장에서 발생하는 다양한 문제와 해결 방안을 확인해 보실 수 있는 것이 가장 큰 인사이트라고 생각합니다.”
- 이현동 슈퍼브에이아이 부대표

‘알짜 기업이 쓰는 진짜 AI’ 세미나에서는 방식은 유사할 수 있지만 다른 문제를 해결하고 있는, 3사의 사례집이라고 생각하고 있습니다.

그래서 이번 세미나에 참석하신 많은 분들께서도 기업에 AI의 시스템을 도입하거나, 혹은 3사와 같이 AI 비즈니스 제공하기 참석해 주신 것으로 이해하고 있습니다.

이번 세미나를 통해서 산업 현장에서 발생하는 다양한 문제점과 3사가 다양한 관점에서 해결한 방법을 들으실 수 것이 가장 큰 인사이트라고 생각합니다.

A. 허영신 마키나락스 CBO:

“AI를 먼저 도입한 기업들의 사례들, 그리고 협동 세미나를 주최한 3사의 경험을 공유 받으실 수 있는 것이 가장 큰 인사이트라고 생각합니다.”
- 허영신 마키나락스 CBO

AI가 뉴 노멀(New Normal)이 되는 시대는 올 수밖에 없습니다.

이번 세미나를 통해 'AI를 먼저 고민하고 있는 기업들은 주로 어떤 부분들을 고민하고 있고, 어떻게 해결해 나가고 있다.'와 같은 사례들과 3사의 경험을 공유 받으실 수 있는 것이 가장 큰 인사이트라고 생각합니다.

A. 이창수 올거나이즈 대표:

“AI 프로젝트는 작게 시작하고 이터레이션(Iteration)을 많이 돌아야 합니다. 이를 이해하는 것이 이번 세미나에서 얻으실 수 있는 가장 큰 인사이트라고 생각합니다. ”
- 이창수 올거나이즈 대표

이번 세미나에서  3사가 공통적으로 전달드린 것은 '일단 작게 시작하고 이터레이션(Iteration)을 많이 돌아야 한다’이며 '절대 AI 프로젝트는 런칭하는 것으로 끝이 아니다.'는 것입니다.

특히 경영진 입장에서 AI 프로젝트 런칭으로 모든 것이 한 번에 바뀔 것이라고 기대하시면 AI 프로젝트는 오히려 더 힘들어집니다.

작게 시작하고, 빨리 이터레이션을 하고, 그 이터레이션을 사내에 잘 전파할 수 있는 파이프라인 혹은 프레임워크를 만드는 것들이 훨씬 더 중요하다고 생각하며 이번 세미나를 통해 이 점을 이해하실 수 있는 것이 가장 큰 인사이트라고 생각합니다.

이번 Part 2를 마지막으로 AI 기업 리더 숏터뷰의 모든 내용을 정리했는데요.

AI 도입 시에는 관리성, 성과 측정·평가 가능성, 제어성, 보안·윤리 지침 이행 가능성, 기존 시스템과의 통합 가능성, 데이터화 역량성, 명확한 의사결정 역량성, 빠른 추진력 등 고려해야 하고 주의해야 하는 사항들이 많습니다.

AI 도입은 큰 로드맵과 기나긴 여정을 가진 어려운 대형 프로젝트일 수 있지만, 복잡한 AI를 쉽게 도입할 수 있게 지원하는 좋은 파트너, 슈퍼브에이아이와 같은 파트너를 만나 비교적 쉽게 시작해 보시면 어떠실까요?