Interview: 프랑수아 칸델론 BCG 헨더슨인스티튜트 글로벌 디렉터, 장진석 BCG코리아 매니징 디렉터 파트너
“독점 데이터 최적 활용에 운용 성패 달려
비전문 분야의 리스크는 항상 경계해야”
Article at a Glance
기업이 생성형 AI를 활용해 경쟁 우위를 확보하기 위해서는 단순히 생산성을 높이는 비핵심적인 사용 사례(non-core use cases)뿐만 아니라 기업이 가진 독점 데이터를 최대한 활용할 수 있는 방식으로 접근하는 황금 사용 사례(golden use cases)를 발굴해야 한다. 또한 생성형 AI로 발생할 수 있는 위험에 대비하기 위해 리더는 직원들이 자신의 전문 분야가 아닌 영역에서 생성형 AI를 사용해선 안 된다는 점을 주지시키고 조직의 승인을 받지 않은 AI 서비스를 사용하는 섀도 AI 문제를 완화하는 데 중점을 둬야 한다.
1200억 달러.
보스턴컨설팅그룹(BCG)이 예측한 2027년 생성형 AI의 시장 규모다. 지난해 기준 생성형 AI의 시장 규모는 약 90억 달러 규모로 BCG는 5년 안에 관련 시장 규모가 70% 이상 성장할 것으로 내다봤다. 금융, 헬스케어, 미디어, 공공 부문 등 산업 전반에서 전방위적인 변화가 일어날 것으로 예측되는 가운데 국내에서도 전담 팀을 만들어 생성형 AI로 업무 효율성을 개선하고 가치를 창출하려는 기업의 움직임이 분주하다. 오픈AI의 GPT-3.5 API를 활용해 사내 전용 챗GPT를 개발한 SKT 등 빅테크 기업이 공개한 대규모 언어 모델(LLM)을 기반으로 생성형 AI를 도입하는가 하면 삼성전자 등은 자체적으로 LLM을 구축해 자사에 맞춤화된 생성형 AI를 개발하고 있다.
그러나 한편에서는 비즈니스 혁신에 대한 기대와 함께 생성형 AI 도입으로 인해 발생할 수 있는 위험에 대한 우려의 목소리가 높다. 기업의 민감한 데이터가 유출될 수 있는 보안 문제가 대표적이다. 또한 너도나도 생성형 AI에 뛰어들며 인력과 자원을 투입하는 가운데 기업의 진정한 가치 창출로 이어지는 것이 아닌 ‘AI 버블’에 편승하는 것이 아니냐란 회의적인 시각도 존재한다. 생성형 AI는 비즈니스에 어떤 변화와 위험을 불러올까? 단순히 유행에 편승하는 것이 아닌 생성형 AI를 활용해 진정한 경쟁 우위를 확보하려면 리더는 어떤 전략을 세워야 할까?
BCG는 CEO가 기술 자체에 매몰되기보다 생성형 AI가 조직과 산업에 어떤 영향을 미칠지, 이 기회를 활용하기 위해 어떤 전략적 선택을 내릴지 신중하게 고민해야 한다고 말한다. 특히 기업이 가진 독점 데이터를 학습시킨 생성형 AI를 활용해 다른 경쟁사가 쉽게 진입할 수 없는 ‘황금 사용 사례(golden use cases)’를 발굴하는 데 중점을 둬야 한다고 강조한다. 또한 조직의 적절한 감독 없이 승인되지 않은 AI가 비즈니스에 사용되는 ‘섀도 AI(shadow AI)’ 문제를 완화하는 데 집중할 것을 권한다. CEO가 생성형 AI 혁명에 대비하기 위한 더 자세한 전략을 DBR(동아비즈니스리뷰)이 BCG 싱크탱크인 헨더슨인스티튜트의 프랑수아 칸델론 글로벌 디렉터, 장진석 BCG코리아 매니징 디렉터 파트너와의 인터뷰를 통해 들어봤다.
챗GPT를 포함한 생성형 AI가 미래 비즈니스와 산업에 어떤 영향을 미칠 것으로 보나?
프랑수아 칸델론 글로벌 디렉터(이하 칸델론): 생성형 AI는 모든 비즈니스와 산업 전반에 일하는 방식의 큰 변화를 가져올 것이다. 직원들의 업무 수행 방식을 바꾸고 고객과의 상호작용 방식을 혁신하는 등 흔히 언급되는 명백한 변화가 있다. 챗봇을 웹사이트에 적용해 고객과의 직접 소통을 확장하는 것이 대표적이다. 한편 상대적으로 덜 언급되고 있지만 또 다른 중요한 변화가 가치 사슬 전반에서 일어나고 있다. 일례가 자동화 에이전트를 통해 전체 업무 흐름(workflows)을 자동화할 수 있는 기능이다. 예를 들어 자동화 에이전트는 e메일의 받은 편지함에서 송장을 읽고 정해진 기준에 따라 승인 여부를 자동으로 판단할 수 있다. 이어 송장을 별도의 회계 시스템에 입력하고 제3의 시스템에서 결제하는 등 송장 처리 과정을 자동화할 수 있다. 이런 생성형 AI 에이전트를 통해 공장 전체를 자동화하는 것도 충분히 가능한 일이다.
장진석 매니징 디렉터 파트너(이하 장): 생성형 AI의 등장으로 기업의 AI 진입 장벽이 확연히 낮아질 것이다. 조금 덜 정제돼 있더라도 기업이 가진 데이터를 대량으로 입력하면 데이터 간의 상관관계를 방대한 컴퓨팅 파워가 알아서 분석해주기 때문이다. 이에 기업마다 고유의 지식을 집약해 활용하는 생성형 AI가 등장할 것이라고 본다. 국내에서는 삼성전자가 사내 전용 생성형 AI를 구축하고 있는 것으로 알려져 있다. 해외에서는 블룸버그GPT가 대표 사례다. 곧 상용화 예정인 것으로 알려진 블룸버그GPT의 경우 블룸버그가 가진 데이터, 기업 정보를 학습시켜 오픈AI의 GPT 모델을 가져다 쓰지 않고 자체 LLM을 만들었다. 오픈AI의 GPT 모델이 렌딧, 깃허브 등 여러 웹사이트, 커뮤니티에 있는 데이터를 가져와 학습시켜 정확히 어떤 데이터를 사용했는지 모른다면 블룸버그GPT는 블룸버그가 가진 데이터를 학습에 활용해 보다 정확하고 전문적인 답변을 기대할 수 있다는 게 특징이다.
예를 들어 프라이빗 뱅커가 고객에게 투자 자문을 제공해준다고 가정해보자. 고객이 자신의 자산을 알려주며 넷플릭스나 디즈니 투자에 관심 있다고 얘기하면 프라이빗 뱅커는 블룸버그GPT에 “최근 넷플릭스의 주주 변동 상황을 알려달라”고 물어볼 수 있다. 블룸버그GPT는 “최근 주주 변동이 있어 넷플릭스가 보수적인 기조로 전환되는 것 같다”고 대답하거나 채권에 대해 물어보면 미국, 유럽 채권 시장 상황에 대해 자연어로 모두 대답해줄 수 있다. 과거에는 경영 정보 시스템(MIS, Management Information System) 혹은 경영진이 의사결정에 참고할 수 있도록 데이터를 정량화해 도표로 만들어놓은 대시보드가 활용됐다면 이제는 생성형 AI의 등장으로 의사결정에 필요한 정보를 AI에 자연어로 쉽게 물어보고 참고할 수 있는 시대가 열린 것이다.
또 다른 예로 제조업체 직원이 “내년도에 사업 계획 목표치를 20% 올리려면 업체 소싱을 바꿔야 하지 않을까?”라고 물어보면 작년 데이터를 학습한 생성형 AI가 “맞아요. 지금 A 업체에서 2만 t, B 업체에서 3만 t을 수입하고 있는데 우리는 7만 t이 필요해요. 새로운 업체에서 2만 t을 더 수입해야 할 것 같아요. 새로운 업체 후보로는 국내에 C, D, E 업체가 있고 미국에 F, G, H 업체가 있어요”라고 답해줄 수 있다. 이처럼 조직 내에서 누군가 갖고 있었던 데이터가 기업의 자체 LLM 구축을 통해 전사적으로 쉽게 공유될 수 있는 것이다. 직원들이 자연어로 쉽게 접근할 수 있기 때문에 활용도도 높다.
블룸버그 같은 지식 기반의 비즈니스가 아니더라도 충분히 가능하다. 현재 BCG코리아와 함께 프로젝트 중인 국내 한 회사의 경우도 패널을 제조, 판매하는 기업인데 내부에 방대한 양의 보고서를 갖고 있다. 내부 보고서 내용을 보면 패널 제조와 관련해 이 회사가 가진 노하우가 총집약돼 있다. 이처럼 분야와 업종을 막론하고 회사가 가진 노하우, 데이터가 있다면 이를 집약한 LLM을 충분히 만들 수 있다. 과거에는 구매, 영업, 재무회계 등 팀별로 순차적으로 디지털 전환하며 데이터 기반의 의사결정을 내렸다면 생성형 AI의 등장으로 이제는 조직 내 모든 부서의 데이터를 집약한 전사적인 디지털 전환이 한 번에 일어나고 있다. 이런 동시 다발성이 과거와 다른 큰 차이점이다.
많은 기업이 비즈니스에 생성형 AI를 도입하고 있다. 단순히 시류에 편승하는 것이 아닌 장기적인 이익 창출을 위해 전략적으로 생성형 AI를 활용하려면 어떻게 해야 하나?
칸델론: 시류에 편승하는 대표적인 예가 직원 효율성을 개선하기 위해 생성형 AI를 활용하는 것이다. 이는 기업이 기본적인 수준의 경쟁력을 유지하기 위해 어느 정도 필요하지만 ‘비핵심적인 사용 사례(non-core use cases)’라고 볼 수 있다. 기업이 장기적인 경쟁 우위를 확보하기 위해서는 기업이 가진 독점 데이터를 최대한 활용할 수 있는 방식으로 생성형 AI에 접근해야 한다.
많은 기업은 데이터가 이질적이고 비정형적이며 작업하기 어렵다는 이유로 AI를 쉽게 도입하지 못했다. 그러나 최근 활용되는 생성형 AI의 가장 큰 장점은 비정형 데이터를 포함한 다양한 유형의 데이터로 모델을 학습시킬 수 있다는 점이다. 또한 데이터 정제 프로세스를 자동화하고 합성 데이터를 생성할 수 있어 기업의 AI 도입 과정이 훨씬 수월해졌다.
궁극적으로 기업은 새로운 제품을 만들거나 조직 전반의 효율성을 크게 높이는 등 상당한 가치를 창출할 수 있는 고유한 사용 사례, 즉 ‘황금 사용 사례(golden use cases)’를 발굴해야 한다. 이런 황금 사용 사례는 기업이 가진 독점 데이터 혹은 아직 보유하지 못한 고유한 데이터를 바탕으로 만들어지기 때문에 앞으로 기업은 데이터에 대한 전략적인 고민을 시작해야 한다.
CEO가 황금 사용 사례를 어떻게 찾아낼 수 있나? 비핵심 사용 사례와 구체적으로 다른 점이 무엇인가?
칸델론: 황금 사용 사례와 비핵심 사용 사례의 가장 큰 차이점은 기업이 얻을 수 있는 경쟁 우위일 것이다. 비핵심 사용 사례를 구별하는 간단한 방법은 대부분의 다른 기업이 동일한 사용 사례를 도입하고 있는지 확인하는 것이다. 만약 그렇다면 전반적인 경쟁력을 유지하기 위해 비핵심 사용 사례를 도입해야 하겠지만 이를 통해 고유한 경쟁 우위를 확보할 순 없다. 예를 들어 앞으로 모든 회사가 소프트웨어 엔지니어의 생산성을 높이기 위해 마이크로소프트 자회사 깃허브와 오픈AI가 공동 개발한 코드 작성 보조 도구 코파일럿(Copilot)을 도입할 가능성이 높다. 기업이 이 도구를 도입하지 않으면 사내 엔지니어들이 상당히 불리하겠지만 도입한다고 해서 경쟁 우위를 얻을 수 있는 건 아니다.
반면 황금 사용 사례는 기업이 가진 독점 데이터의 가치를 극대화해 장기적인 경쟁 우위를 확보할 수 있게 해준다. 예를 들어 바이오기업 프로플루언트(ProFluent)는 2억8000만 개의 단백질 서열에 대해 학습된 LLM을 구축해 약물 치료의 발전을 목표로 자연계에 존재하지 않는 새로운 단백질을 찾아내고 있다. 중장비 제조 회사 캐터필러(Caterpillar)는 사물인터넷(IoT) 센서 데이터를 사용해 유지 보수를 위한 생성형 AI 모델을 학습시켜 제품 수명을 개선하고 있다. 이 밖에 제품 회사는 과거의 기기 디자인을 학습한 모델로 새로운 제품에 대한 아이디어를 얻고, 은행은 금융 데이터를 학습한 모델로 고객의 과거 행동에 기반한 맞춤형 투자 조언 등 초개인화된 고객 경험을 제공한다. 이런 황금 사용 사례에서는 기업이 가진 독점 데이터의 품질과 고유성이 경쟁 우위를 좌우한다.
생성형 AI와 전통적인 머신러닝의 차이점은 무엇인가?
각각이 적용되는 분야는 어떻게 다른가?
칸델론: 생성형 AI와 전통적인 ML(traditional ML)의 근본적인 차이점은 파운데이션 모델1 이다. 파운데이션 모델은 단일 모델에 여러 기능이 포함돼 있다는 특징이 있다. 따라서 일부 기능은 전통적인 ML과 중복되는 반면 질문, 답변과 같은 추가적인 기능을 가진다. 감정 분석과 같은 일부 사용 사례에서 생성형 AI 모델이 전통적인 ML보다 성능이 뛰어나다.
하지만 모든 기술이 그렇듯 작업별로 적합한 솔루션을 선택하는 것이 중요하다. 모든 ML 작업을 생성형 AI로 대체해야 하는 건 아니다. 생성형 AI는 전통적인 ML 모델에 비해 사용 비용이 더 비싸다. 생성형 AI의 추론2 은 매우 계산 집약적이기 때문이다. 또한 사기 탐지와 같은 규칙 기반 분류 작업에서는 전통적인 ML이 생성형 AI보다 더 나은 성과를 보이는 경우도 있다. 생성형 AI가 규칙 기반 접근법을 테스트하기 위한 시나리오를 생성해 이런 작업을 강화할 순 있지만 사기 탐지 분야에서는 전통적인 ML의 효율성과 정확성이 더 높다.
또한 생성형 AI는 결과가 어떻게, 무엇을 근거로 나왔는지 설명할 수 없는 블랙박스 모델3 이다. 이는 AI가 편향된 결과를 내놓았을 때 문제가 될 수 있다. 최근 가격 책정, 의료 진단 등 100개 데이터세트를 엄밀히 분석한 결과, 데이터세트 70%에서 화이트박스 모델4 이 더 정확한 결과를 도출한 것으로 나타났다. 따라서 일반적으로 화이트박스 ML 모델로 시작한 후 테스트를 통해 생성형 AI 같은 복잡한 모델이 필요할지 판단할 것을 권장한다.
![GettyImages-1360044937_[변환됨]_1](/upload_dir/source/372/GettyImages-1360044937_[변환됨]_1.png)
생성형 AI로 인해 앞으로 업무 방식이 어떻게 달라질까?
칸델론: 반복적인 업무의 상당 부분을 생성형 AI가 담당할 것이다. 전통적인 ML이 관리자의 더 빠르고 효과적인 의사결정을 도와 팀 관리에 더 집중할 수 있도록 지원한 것처럼 생성형 AI는 조직이 고부가가치를 창출하는 활동에 더 집중할 수 있는 환경을 만들어줄 것이다. 생성형 AI는 문서 작성, 요약, 분석에 드는 시간을 단축해 직원들의 업무 효율을 높일 것이다.
고객 서비스 담당자를 예로 들어보겠다. 현재 고객으로부터 문의를 받고 응대하는 과정은 매우 수동적이다. 앞으로는 생성형 AI가 고객의 문의와 과거 해당 고객과의 대화 기록을 요약해 상담원이 고객을 응대하기 전에 최선의 조치를 추천해줄 것이다. 또 고객 문의에 대한 응답을 자동으로 생성해줄 수도 있다. 이런 솔루션을 통해 고객 서비스 담당자는 고객 문의를 일일이 처리하는 시간을 크게 줄이고 더 깊이 있고 개인화된 고객 지원을 제공하는 데 더 많은 시간을 할애할 수 있을 것이다. 또한 기본적인 문의의 경우 AI 챗봇이 그 의도를 파악하는 등 고객 문의를 스스로 분석해 인간 상담원의 개입 없이 고객에게 셀프서비스 옵션을 즉시 제공할 수도 있다.
미국 MIT대 연구에 따르면 이런 프로세스를 통해 고객 서비스 담당자의 생산성이 37% 향상될 수 있다. 또한 AI 기업 포어소트(Forethought) 역시 자사의 고객 지원용 생성형 AI 솔루션이 고객에 대한 최초 응답 시간을 40% 단축한다고 밝혔다.
생성형 AI의 역할이 점점 커지고 있다.
기업은 인력 측면에서 어떻게 대비해야 할까?
칸델론: 가장 중요한 점은 직원들이 자신의 전문 분야가 아닌 영역에서 생성형 AI를 사용해선 안 된다는 점을 주지하는 것이다. 챗GPT와 같은 도구는 직원들이 프로그래밍 등 새로운 분야를 시도할 수 있다는 잘못된 자신감을 심어줄 수 있다. 예를 들어 마케팅 직원이 사내 IT 관련 규정을 무시하고 생성형 AI를 활용해 새로운 마케팅 도구를 개발하려 할 수 있다. 또한 직원들이 생성형 AI의 문제 해결 능력을 지나치게 신뢰하는 경향으로 인해 결과물의 품질이 낮아지는 경우도 종종 발생한다. 미국 스탠퍼드대 연구에 따르면 개발자가 AI의 능력을 과신해 AI가 작성하는 코드의 품질을 제대로 검사하지 못하는 품질 리스크로 이어질 가능성이 있는 것으로 나타났다. 따라서 기업은 직원들이 생성형 AI의 한계를 깊이 이해하고 그 결과물의 품질을 효과적으로 검사할 수 있도록 업스킬링과 리스킬링을 시작해야 한다.
한편 직원들의 업무 흐름도 급변하고 있다. 예를 들어 마케팅 담당자는 소비자 패턴 감지와 콘텐츠 제작에 대부분의 시간을 할애했다면 이제는 프롬프트 엔지니어링5 과 생성형 AI가 내놓는 결과물의 품질 검사에 더 많은 시간을 쏟을 것이다. 따라서 기업은 직원들이 생성형 AI 도입에 따른 업무 방식 변화에 대비할 수 있도록 전략적 인력 계획을 수립해야 한다. 비즈니스 전반에 걸쳐 AI를 확장하고 의미 있는 가치를 창출한 기업은 일반적으로 AI와 관련해 10%를 알고리즘에, 20%를 기술에, AI를 반영한 비즈니스 프로세스와 애자일 업무 방식을 구축하는 데 70%를 투자한다. 즉, AI를 성공적으로 도입하는 조직은 기술보다 사람과 프로세스에 두 배 더 많이 투자하고 있는 셈이다.
장: 최근 BCG의 기술 전담 조직인 BCG X가 CEO와 조직 관점에서 생성형 AI를 살펴보고 이와 관련해 직원들이 어떤 생각을 하고 있는지 알아보기 위해 설문 조사를 실시했다. 18개국 최고경영진부터 실무 직원까지 1만3000여 명을 조사한 결과 응답자의 71%가 시간 절약, 업무 오류 감소 등 생성형 AI의 이점이 위험보다 더 크다고 생각하는 것으로 나타났다. 생성형 AI가 실험 단계 수준이었던 5년 전 실시했던 비슷한 설문 조사 결과와 비교했을 때 현재 생성형 AI에 대해 더 낙관적인 인식을 갖고 있으며 그 파급 효과에 대해 덜 우려하고 있다고 볼 수 있다.
하지만 데이터를 자세히 들여다보면 얘기가 달라진다. 생성형 AI를 바라보는 리더와 직원의 인식 차이가 컸다. 리더가 직원에 비해 생성형 AI에 대해 더 낙관적인 인식(62% vs. 42%)을 갖고 있었다. 또한 리더가 생성형 AI를 정기적으로 사용할 가능성이 더 높았으며(80% vs. 20%), 생성형 AI 활용 기술을 습득하기 위한 교육을 받은 경험 역시 더 많았다(44% vs. 14%). 이런 격차를 해결하지 않으면 기업이 생성형 AI를 도입하는 데 걸림돌이 될 수 있다. 생성형 AI의 역할이 커지는 지금 리더가 할 일은 직원들이 책임감 있게 새로운 AI 실험에 참여하도록 장려하는 것이다. 직원들이 생성형 AI를 더 자주 사용할수록 그것의 장점은 물론 한계와 관련 위험을 인식할 가능성도 높아지기 때문에 직원 스스로 업무 개선과 조직의 경쟁 우위를 확보하기 위한 더 나은 활용법을 고민해 나갈 수 있다.
생성형 AI를 비즈니스에 도입할 때 발생할 수 있는 위험은 무엇인가? 기업은 이런 위험에 어떻게 대비해야 하나?
칸델론: 생성형 AI는 기존 AI가 가진 위험을 심화할 뿐 아니라 새로운 위험도 야기할 수 있다. 특히 AI 도구의 접근성이 높아지면서 조직의 승인을 받지 않은 AI 서비스를 사용하는 섀도 AI 문제가 확대되고 있다. 이 밖에 생성형 AI가 편향된 결과물을 만들어내거나 민감한 데이터가 유출될 위험도 있다. 생성형 AI에 입력된 정보가 저장돼 모델 학습에 사용될 수 있기 때문에 오픈AI에 상당한 투자를 한 마이크로소프트조차 직원들에게 민감한 데이터를 챗GPT에 공유하지 말라고 경고하기도 했다.
하지만 기업이 실행할 수 있는 위험 완화 전략이 있다. 생성형 AI 모델에 대한 적극적인 모니터링을 통해 이런 위험을 관리할 수 있다. 예를 들어 민감한 데이터는 클라우드 기반 모델에서 추출되기 전에 익명화, 암호화하고 체인화된 모델을 사용해 유출을 차단한다. 생성형 AI의 편향 문제는 사용자의 피드백을 통한 강화 학습으로 완화할 수 있다. 이런 완화 전략은 쉽진 않지만 실행 가능하다. 기업은 생성형 AI 솔루션을 사용하기 전에 이런 위험 완화 전략을 실행하기 위한 준비 작업부터 해야 한다.
기업이 생성형 AI를 비즈니스에 도입하기 전에 수립해야 하는 가이드라인과 내부 정책은 무엇인가?
칸델론: 조직의 적절한 감독 없이 승인되지 않은 AI가 비즈니스에 사용되는 섀도 AI 문제를 완화하는 데 중점을 두고 기업 내부 정책과 가이드라인을 만들어야 한다. 예를 들어 기업은 독점 데이터를 보호하기 위해 직원이 챗GPT와 같은 서드파티 AI 도구를 사용하면 안 되는 경우에 대한 명확한 지침을 수립해야 한다. 모든 사람이 업무를 위해 챗GPT나 구글 바드 등 생성형 AI 솔루션에 쉽게 접근할 수 있게 되면서 섀도 AI의 위험이 크게 증가하는 상황이다. 많은 직원이 기업 정책에 위배된다는 사실을 분명히 알면서도 이 도구들을 사용하며 실험적 사용이 무분별하게 이뤄지고 있다. 만약 기업에 관한 부적절한 콘텐츠가 온라인에 게시되는 등 위험이 적절히 관리되지 못한 경우에는 기업 정책 위반 여부와 관계없이 고객은 부정적인 인식을 가질 것이기 때문에 해당 기업은 공개적으로 책임을 져야 할 것이다. 따라서 기업은 단순히 생성형 AI 사용 정책을 마련하는 것에 그쳐선 안 된다. 고위 경영진은 연설, e메일을 포함한 모든 커뮤니케이션에서 기업의 목적과 가치에 부합하며 혁신적인 비즈니스 효과를 낼 수 있는 ‘책임 있는 AI’를 정기적으로 강조해야 한다. 또한 책임 있는 AI 위원회를 구성해 비즈니스 전반의 위험과 지배구조를 관리해야 한다.
기업이 생성형 AI를 활용해 경쟁 우위를 확보하기 위해서는 단순히 생산성을 높이는 비핵심적인 사용 사례(non-core use cases)뿐만 아니라 기업이 가진 독점 데이터를 최대한 활용할 수 있는 방식으로 접근하는 황금 사용 사례(golden use cases)를 발굴해야 한다. 또한 생성형 AI로 발생할 수 있는 위험에 대비하기 위해 리더는 직원들이 자신의 전문 분야가 아닌 영역에서 생성형 AI를 사용해선 안 된다는 점을 주지시키고 조직의 승인을 받지 않은 AI 서비스를 사용하는 섀도 AI 문제를 완화하는 데 중점을 둬야 한다.
1200억 달러.
보스턴컨설팅그룹(BCG)이 예측한 2027년 생성형 AI의 시장 규모다. 지난해 기준 생성형 AI의 시장 규모는 약 90억 달러 규모로 BCG는 5년 안에 관련 시장 규모가 70% 이상 성장할 것으로 내다봤다. 금융, 헬스케어, 미디어, 공공 부문 등 산업 전반에서 전방위적인 변화가 일어날 것으로 예측되는 가운데 국내에서도 전담 팀을 만들어 생성형 AI로 업무 효율성을 개선하고 가치를 창출하려는 기업의 움직임이 분주하다. 오픈AI의 GPT-3.5 API를 활용해 사내 전용 챗GPT를 개발한 SKT 등 빅테크 기업이 공개한 대규모 언어 모델(LLM)을 기반으로 생성형 AI를 도입하는가 하면 삼성전자 등은 자체적으로 LLM을 구축해 자사에 맞춤화된 생성형 AI를 개발하고 있다.
그러나 한편에서는 비즈니스 혁신에 대한 기대와 함께 생성형 AI 도입으로 인해 발생할 수 있는 위험에 대한 우려의 목소리가 높다. 기업의 민감한 데이터가 유출될 수 있는 보안 문제가 대표적이다. 또한 너도나도 생성형 AI에 뛰어들며 인력과 자원을 투입하는 가운데 기업의 진정한 가치 창출로 이어지는 것이 아닌 ‘AI 버블’에 편승하는 것이 아니냐란 회의적인 시각도 존재한다. 생성형 AI는 비즈니스에 어떤 변화와 위험을 불러올까? 단순히 유행에 편승하는 것이 아닌 생성형 AI를 활용해 진정한 경쟁 우위를 확보하려면 리더는 어떤 전략을 세워야 할까?
BCG는 CEO가 기술 자체에 매몰되기보다 생성형 AI가 조직과 산업에 어떤 영향을 미칠지, 이 기회를 활용하기 위해 어떤 전략적 선택을 내릴지 신중하게 고민해야 한다고 말한다. 특히 기업이 가진 독점 데이터를 학습시킨 생성형 AI를 활용해 다른 경쟁사가 쉽게 진입할 수 없는 ‘황금 사용 사례(golden use cases)’를 발굴하는 데 중점을 둬야 한다고 강조한다. 또한 조직의 적절한 감독 없이 승인되지 않은 AI가 비즈니스에 사용되는 ‘섀도 AI(shadow AI)’ 문제를 완화하는 데 집중할 것을 권한다. CEO가 생성형 AI 혁명에 대비하기 위한 더 자세한 전략을 DBR(동아비즈니스리뷰)이 BCG 싱크탱크인 헨더슨인스티튜트의 프랑수아 칸델론 글로벌 디렉터, 장진석 BCG코리아 매니징 디렉터 파트너와의 인터뷰를 통해 들어봤다.
챗GPT를 포함한 생성형 AI가 미래 비즈니스와 산업에 어떤 영향을 미칠 것으로 보나?
프랑수아 칸델론 글로벌 디렉터(이하 칸델론): 생성형 AI는 모든 비즈니스와 산업 전반에 일하는 방식의 큰 변화를 가져올 것이다. 직원들의 업무 수행 방식을 바꾸고 고객과의 상호작용 방식을 혁신하는 등 흔히 언급되는 명백한 변화가 있다. 챗봇을 웹사이트에 적용해 고객과의 직접 소통을 확장하는 것이 대표적이다. 한편 상대적으로 덜 언급되고 있지만 또 다른 중요한 변화가 가치 사슬 전반에서 일어나고 있다. 일례가 자동화 에이전트를 통해 전체 업무 흐름(workflows)을 자동화할 수 있는 기능이다. 예를 들어 자동화 에이전트는 e메일의 받은 편지함에서 송장을 읽고 정해진 기준에 따라 승인 여부를 자동으로 판단할 수 있다. 이어 송장을 별도의 회계 시스템에 입력하고 제3의 시스템에서 결제하는 등 송장 처리 과정을 자동화할 수 있다. 이런 생성형 AI 에이전트를 통해 공장 전체를 자동화하는 것도 충분히 가능한 일이다.
장진석 매니징 디렉터 파트너(이하 장): 생성형 AI의 등장으로 기업의 AI 진입 장벽이 확연히 낮아질 것이다. 조금 덜 정제돼 있더라도 기업이 가진 데이터를 대량으로 입력하면 데이터 간의 상관관계를 방대한 컴퓨팅 파워가 알아서 분석해주기 때문이다. 이에 기업마다 고유의 지식을 집약해 활용하는 생성형 AI가 등장할 것이라고 본다. 국내에서는 삼성전자가 사내 전용 생성형 AI를 구축하고 있는 것으로 알려져 있다. 해외에서는 블룸버그GPT가 대표 사례다. 곧 상용화 예정인 것으로 알려진 블룸버그GPT의 경우 블룸버그가 가진 데이터, 기업 정보를 학습시켜 오픈AI의 GPT 모델을 가져다 쓰지 않고 자체 LLM을 만들었다. 오픈AI의 GPT 모델이 렌딧, 깃허브 등 여러 웹사이트, 커뮤니티에 있는 데이터를 가져와 학습시켜 정확히 어떤 데이터를 사용했는지 모른다면 블룸버그GPT는 블룸버그가 가진 데이터를 학습에 활용해 보다 정확하고 전문적인 답변을 기대할 수 있다는 게 특징이다.
예를 들어 프라이빗 뱅커가 고객에게 투자 자문을 제공해준다고 가정해보자. 고객이 자신의 자산을 알려주며 넷플릭스나 디즈니 투자에 관심 있다고 얘기하면 프라이빗 뱅커는 블룸버그GPT에 “최근 넷플릭스의 주주 변동 상황을 알려달라”고 물어볼 수 있다. 블룸버그GPT는 “최근 주주 변동이 있어 넷플릭스가 보수적인 기조로 전환되는 것 같다”고 대답하거나 채권에 대해 물어보면 미국, 유럽 채권 시장 상황에 대해 자연어로 모두 대답해줄 수 있다. 과거에는 경영 정보 시스템(MIS, Management Information System) 혹은 경영진이 의사결정에 참고할 수 있도록 데이터를 정량화해 도표로 만들어놓은 대시보드가 활용됐다면 이제는 생성형 AI의 등장으로 의사결정에 필요한 정보를 AI에 자연어로 쉽게 물어보고 참고할 수 있는 시대가 열린 것이다.
또 다른 예로 제조업체 직원이 “내년도에 사업 계획 목표치를 20% 올리려면 업체 소싱을 바꿔야 하지 않을까?”라고 물어보면 작년 데이터를 학습한 생성형 AI가 “맞아요. 지금 A 업체에서 2만 t, B 업체에서 3만 t을 수입하고 있는데 우리는 7만 t이 필요해요. 새로운 업체에서 2만 t을 더 수입해야 할 것 같아요. 새로운 업체 후보로는 국내에 C, D, E 업체가 있고 미국에 F, G, H 업체가 있어요”라고 답해줄 수 있다. 이처럼 조직 내에서 누군가 갖고 있었던 데이터가 기업의 자체 LLM 구축을 통해 전사적으로 쉽게 공유될 수 있는 것이다. 직원들이 자연어로 쉽게 접근할 수 있기 때문에 활용도도 높다.
블룸버그 같은 지식 기반의 비즈니스가 아니더라도 충분히 가능하다. 현재 BCG코리아와 함께 프로젝트 중인 국내 한 회사의 경우도 패널을 제조, 판매하는 기업인데 내부에 방대한 양의 보고서를 갖고 있다. 내부 보고서 내용을 보면 패널 제조와 관련해 이 회사가 가진 노하우가 총집약돼 있다. 이처럼 분야와 업종을 막론하고 회사가 가진 노하우, 데이터가 있다면 이를 집약한 LLM을 충분히 만들 수 있다. 과거에는 구매, 영업, 재무회계 등 팀별로 순차적으로 디지털 전환하며 데이터 기반의 의사결정을 내렸다면 생성형 AI의 등장으로 이제는 조직 내 모든 부서의 데이터를 집약한 전사적인 디지털 전환이 한 번에 일어나고 있다. 이런 동시 다발성이 과거와 다른 큰 차이점이다.
많은 기업이 비즈니스에 생성형 AI를 도입하고 있다. 단순히 시류에 편승하는 것이 아닌 장기적인 이익 창출을 위해 전략적으로 생성형 AI를 활용하려면 어떻게 해야 하나?
칸델론: 시류에 편승하는 대표적인 예가 직원 효율성을 개선하기 위해 생성형 AI를 활용하는 것이다. 이는 기업이 기본적인 수준의 경쟁력을 유지하기 위해 어느 정도 필요하지만 ‘비핵심적인 사용 사례(non-core use cases)’라고 볼 수 있다. 기업이 장기적인 경쟁 우위를 확보하기 위해서는 기업이 가진 독점 데이터를 최대한 활용할 수 있는 방식으로 생성형 AI에 접근해야 한다.
많은 기업은 데이터가 이질적이고 비정형적이며 작업하기 어렵다는 이유로 AI를 쉽게 도입하지 못했다. 그러나 최근 활용되는 생성형 AI의 가장 큰 장점은 비정형 데이터를 포함한 다양한 유형의 데이터로 모델을 학습시킬 수 있다는 점이다. 또한 데이터 정제 프로세스를 자동화하고 합성 데이터를 생성할 수 있어 기업의 AI 도입 과정이 훨씬 수월해졌다.
궁극적으로 기업은 새로운 제품을 만들거나 조직 전반의 효율성을 크게 높이는 등 상당한 가치를 창출할 수 있는 고유한 사용 사례, 즉 ‘황금 사용 사례(golden use cases)’를 발굴해야 한다. 이런 황금 사용 사례는 기업이 가진 독점 데이터 혹은 아직 보유하지 못한 고유한 데이터를 바탕으로 만들어지기 때문에 앞으로 기업은 데이터에 대한 전략적인 고민을 시작해야 한다.
CEO가 황금 사용 사례를 어떻게 찾아낼 수 있나? 비핵심 사용 사례와 구체적으로 다른 점이 무엇인가?
칸델론: 황금 사용 사례와 비핵심 사용 사례의 가장 큰 차이점은 기업이 얻을 수 있는 경쟁 우위일 것이다. 비핵심 사용 사례를 구별하는 간단한 방법은 대부분의 다른 기업이 동일한 사용 사례를 도입하고 있는지 확인하는 것이다. 만약 그렇다면 전반적인 경쟁력을 유지하기 위해 비핵심 사용 사례를 도입해야 하겠지만 이를 통해 고유한 경쟁 우위를 확보할 순 없다. 예를 들어 앞으로 모든 회사가 소프트웨어 엔지니어의 생산성을 높이기 위해 마이크로소프트 자회사 깃허브와 오픈AI가 공동 개발한 코드 작성 보조 도구 코파일럿(Copilot)을 도입할 가능성이 높다. 기업이 이 도구를 도입하지 않으면 사내 엔지니어들이 상당히 불리하겠지만 도입한다고 해서 경쟁 우위를 얻을 수 있는 건 아니다.
반면 황금 사용 사례는 기업이 가진 독점 데이터의 가치를 극대화해 장기적인 경쟁 우위를 확보할 수 있게 해준다. 예를 들어 바이오기업 프로플루언트(ProFluent)는 2억8000만 개의 단백질 서열에 대해 학습된 LLM을 구축해 약물 치료의 발전을 목표로 자연계에 존재하지 않는 새로운 단백질을 찾아내고 있다. 중장비 제조 회사 캐터필러(Caterpillar)는 사물인터넷(IoT) 센서 데이터를 사용해 유지 보수를 위한 생성형 AI 모델을 학습시켜 제품 수명을 개선하고 있다. 이 밖에 제품 회사는 과거의 기기 디자인을 학습한 모델로 새로운 제품에 대한 아이디어를 얻고, 은행은 금융 데이터를 학습한 모델로 고객의 과거 행동에 기반한 맞춤형 투자 조언 등 초개인화된 고객 경험을 제공한다. 이런 황금 사용 사례에서는 기업이 가진 독점 데이터의 품질과 고유성이 경쟁 우위를 좌우한다.
생성형 AI와 전통적인 머신러닝의 차이점은 무엇인가?
각각이 적용되는 분야는 어떻게 다른가?
칸델론: 생성형 AI와 전통적인 ML(traditional ML)의 근본적인 차이점은 파운데이션 모델1 이다. 파운데이션 모델은 단일 모델에 여러 기능이 포함돼 있다는 특징이 있다. 따라서 일부 기능은 전통적인 ML과 중복되는 반면 질문, 답변과 같은 추가적인 기능을 가진다. 감정 분석과 같은 일부 사용 사례에서 생성형 AI 모델이 전통적인 ML보다 성능이 뛰어나다.
닫기하지만 모든 기술이 그렇듯 작업별로 적합한 솔루션을 선택하는 것이 중요하다. 모든 ML 작업을 생성형 AI로 대체해야 하는 건 아니다. 생성형 AI는 전통적인 ML 모델에 비해 사용 비용이 더 비싸다. 생성형 AI의 추론2 은 매우 계산 집약적이기 때문이다. 또한 사기 탐지와 같은 규칙 기반 분류 작업에서는 전통적인 ML이 생성형 AI보다 더 나은 성과를 보이는 경우도 있다. 생성형 AI가 규칙 기반 접근법을 테스트하기 위한 시나리오를 생성해 이런 작업을 강화할 순 있지만 사기 탐지 분야에서는 전통적인 ML의 효율성과 정확성이 더 높다.
또한 생성형 AI는 결과가 어떻게, 무엇을 근거로 나왔는지 설명할 수 없는 블랙박스 모델3 이다. 이는 AI가 편향된 결과를 내놓았을 때 문제가 될 수 있다. 최근 가격 책정, 의료 진단 등 100개 데이터세트를 엄밀히 분석한 결과, 데이터세트 70%에서 화이트박스 모델4 이 더 정확한 결과를 도출한 것으로 나타났다. 따라서 일반적으로 화이트박스 ML 모델로 시작한 후 테스트를 통해 생성형 AI 같은 복잡한 모델이 필요할지 판단할 것을 권장한다.
생성형 AI로 인해 앞으로 업무 방식이 어떻게 달라질까?
칸델론: 반복적인 업무의 상당 부분을 생성형 AI가 담당할 것이다. 전통적인 ML이 관리자의 더 빠르고 효과적인 의사결정을 도와 팀 관리에 더 집중할 수 있도록 지원한 것처럼 생성형 AI는 조직이 고부가가치를 창출하는 활동에 더 집중할 수 있는 환경을 만들어줄 것이다. 생성형 AI는 문서 작성, 요약, 분석에 드는 시간을 단축해 직원들의 업무 효율을 높일 것이다.
고객 서비스 담당자를 예로 들어보겠다. 현재 고객으로부터 문의를 받고 응대하는 과정은 매우 수동적이다. 앞으로는 생성형 AI가 고객의 문의와 과거 해당 고객과의 대화 기록을 요약해 상담원이 고객을 응대하기 전에 최선의 조치를 추천해줄 것이다. 또 고객 문의에 대한 응답을 자동으로 생성해줄 수도 있다. 이런 솔루션을 통해 고객 서비스 담당자는 고객 문의를 일일이 처리하는 시간을 크게 줄이고 더 깊이 있고 개인화된 고객 지원을 제공하는 데 더 많은 시간을 할애할 수 있을 것이다. 또한 기본적인 문의의 경우 AI 챗봇이 그 의도를 파악하는 등 고객 문의를 스스로 분석해 인간 상담원의 개입 없이 고객에게 셀프서비스 옵션을 즉시 제공할 수도 있다.
미국 MIT대 연구에 따르면 이런 프로세스를 통해 고객 서비스 담당자의 생산성이 37% 향상될 수 있다. 또한 AI 기업 포어소트(Forethought) 역시 자사의 고객 지원용 생성형 AI 솔루션이 고객에 대한 최초 응답 시간을 40% 단축한다고 밝혔다.
생성형 AI의 역할이 점점 커지고 있다.
기업은 인력 측면에서 어떻게 대비해야 할까?
칸델론: 가장 중요한 점은 직원들이 자신의 전문 분야가 아닌 영역에서 생성형 AI를 사용해선 안 된다는 점을 주지하는 것이다. 챗GPT와 같은 도구는 직원들이 프로그래밍 등 새로운 분야를 시도할 수 있다는 잘못된 자신감을 심어줄 수 있다. 예를 들어 마케팅 직원이 사내 IT 관련 규정을 무시하고 생성형 AI를 활용해 새로운 마케팅 도구를 개발하려 할 수 있다. 또한 직원들이 생성형 AI의 문제 해결 능력을 지나치게 신뢰하는 경향으로 인해 결과물의 품질이 낮아지는 경우도 종종 발생한다. 미국 스탠퍼드대 연구에 따르면 개발자가 AI의 능력을 과신해 AI가 작성하는 코드의 품질을 제대로 검사하지 못하는 품질 리스크로 이어질 가능성이 있는 것으로 나타났다. 따라서 기업은 직원들이 생성형 AI의 한계를 깊이 이해하고 그 결과물의 품질을 효과적으로 검사할 수 있도록 업스킬링과 리스킬링을 시작해야 한다.
한편 직원들의 업무 흐름도 급변하고 있다. 예를 들어 마케팅 담당자는 소비자 패턴 감지와 콘텐츠 제작에 대부분의 시간을 할애했다면 이제는 프롬프트 엔지니어링5 과 생성형 AI가 내놓는 결과물의 품질 검사에 더 많은 시간을 쏟을 것이다. 따라서 기업은 직원들이 생성형 AI 도입에 따른 업무 방식 변화에 대비할 수 있도록 전략적 인력 계획을 수립해야 한다. 비즈니스 전반에 걸쳐 AI를 확장하고 의미 있는 가치를 창출한 기업은 일반적으로 AI와 관련해 10%를 알고리즘에, 20%를 기술에, AI를 반영한 비즈니스 프로세스와 애자일 업무 방식을 구축하는 데 70%를 투자한다. 즉, AI를 성공적으로 도입하는 조직은 기술보다 사람과 프로세스에 두 배 더 많이 투자하고 있는 셈이다.
장: 최근 BCG의 기술 전담 조직인 BCG X가 CEO와 조직 관점에서 생성형 AI를 살펴보고 이와 관련해 직원들이 어떤 생각을 하고 있는지 알아보기 위해 설문 조사를 실시했다. 18개국 최고경영진부터 실무 직원까지 1만3000여 명을 조사한 결과 응답자의 71%가 시간 절약, 업무 오류 감소 등 생성형 AI의 이점이 위험보다 더 크다고 생각하는 것으로 나타났다. 생성형 AI가 실험 단계 수준이었던 5년 전 실시했던 비슷한 설문 조사 결과와 비교했을 때 현재 생성형 AI에 대해 더 낙관적인 인식을 갖고 있으며 그 파급 효과에 대해 덜 우려하고 있다고 볼 수 있다.
하지만 데이터를 자세히 들여다보면 얘기가 달라진다. 생성형 AI를 바라보는 리더와 직원의 인식 차이가 컸다. 리더가 직원에 비해 생성형 AI에 대해 더 낙관적인 인식(62% vs. 42%)을 갖고 있었다. 또한 리더가 생성형 AI를 정기적으로 사용할 가능성이 더 높았으며(80% vs. 20%), 생성형 AI 활용 기술을 습득하기 위한 교육을 받은 경험 역시 더 많았다(44% vs. 14%). 이런 격차를 해결하지 않으면 기업이 생성형 AI를 도입하는 데 걸림돌이 될 수 있다. 생성형 AI의 역할이 커지는 지금 리더가 할 일은 직원들이 책임감 있게 새로운 AI 실험에 참여하도록 장려하는 것이다. 직원들이 생성형 AI를 더 자주 사용할수록 그것의 장점은 물론 한계와 관련 위험을 인식할 가능성도 높아지기 때문에 직원 스스로 업무 개선과 조직의 경쟁 우위를 확보하기 위한 더 나은 활용법을 고민해 나갈 수 있다.
생성형 AI를 비즈니스에 도입할 때 발생할 수 있는 위험은 무엇인가? 기업은 이런 위험에 어떻게 대비해야 하나?
칸델론: 생성형 AI는 기존 AI가 가진 위험을 심화할 뿐 아니라 새로운 위험도 야기할 수 있다. 특히 AI 도구의 접근성이 높아지면서 조직의 승인을 받지 않은 AI 서비스를 사용하는 섀도 AI 문제가 확대되고 있다. 이 밖에 생성형 AI가 편향된 결과물을 만들어내거나 민감한 데이터가 유출될 위험도 있다. 생성형 AI에 입력된 정보가 저장돼 모델 학습에 사용될 수 있기 때문에 오픈AI에 상당한 투자를 한 마이크로소프트조차 직원들에게 민감한 데이터를 챗GPT에 공유하지 말라고 경고하기도 했다.
하지만 기업이 실행할 수 있는 위험 완화 전략이 있다. 생성형 AI 모델에 대한 적극적인 모니터링을 통해 이런 위험을 관리할 수 있다. 예를 들어 민감한 데이터는 클라우드 기반 모델에서 추출되기 전에 익명화, 암호화하고 체인화된 모델을 사용해 유출을 차단한다. 생성형 AI의 편향 문제는 사용자의 피드백을 통한 강화 학습으로 완화할 수 있다. 이런 완화 전략은 쉽진 않지만 실행 가능하다. 기업은 생성형 AI 솔루션을 사용하기 전에 이런 위험 완화 전략을 실행하기 위한 준비 작업부터 해야 한다.
기업이 생성형 AI를 비즈니스에 도입하기 전에 수립해야 하는 가이드라인과 내부 정책은 무엇인가?
칸델론: 조직의 적절한 감독 없이 승인되지 않은 AI가 비즈니스에 사용되는 섀도 AI 문제를 완화하는 데 중점을 두고 기업 내부 정책과 가이드라인을 만들어야 한다. 예를 들어 기업은 독점 데이터를 보호하기 위해 직원이 챗GPT와 같은 서드파티 AI 도구를 사용하면 안 되는 경우에 대한 명확한 지침을 수립해야 한다. 모든 사람이 업무를 위해 챗GPT나 구글 바드 등 생성형 AI 솔루션에 쉽게 접근할 수 있게 되면서 섀도 AI의 위험이 크게 증가하는 상황이다. 많은 직원이 기업 정책에 위배된다는 사실을 분명히 알면서도 이 도구들을 사용하며 실험적 사용이 무분별하게 이뤄지고 있다. 만약 기업에 관한 부적절한 콘텐츠가 온라인에 게시되는 등 위험이 적절히 관리되지 못한 경우에는 기업 정책 위반 여부와 관계없이 고객은 부정적인 인식을 가질 것이기 때문에 해당 기업은 공개적으로 책임을 져야 할 것이다. 따라서 기업은 단순히 생성형 AI 사용 정책을 마련하는 것에 그쳐선 안 된다. 고위 경영진은 연설, e메일을 포함한 모든 커뮤니케이션에서 기업의 목적과 가치에 부합하며 혁신적인 비즈니스 효과를 낼 수 있는 ‘책임 있는 AI’를 정기적으로 강조해야 한다. 또한 책임 있는 AI 위원회를 구성해 비즈니스 전반의 위험과 지배구조를 관리해야 한다.
인기기사
