SR4. 앵커 퓨리 맥킨지앤드컴퍼니 파트너: 넥스트 노멀, AI를 어떻게 활용할 것인가

AI 도입했는데 효과가 없나요?
부서 간 벽 없애고 협업 문화부터 키워야

336호 (2022년 01월 Issue 1)

Article at a Glance

AI에 대한 장밋빛 전망들은 많지만 실제로 업무에 제대로 적용한 기업은 2% 남짓이다. 실패하는 주요 이유로는 성급하게 조직 전체에 AI를 적용하려고 시도하거나 연결성 및 확장성에 대한 고민이 없었기 때문이다. 또한 현재의 업무 상황에 대한 고려 없이 무조건 적용부터 하려는 것 역시 실패 확률을 높이는 원인이다. AI 적용을 통한 스케일업에 성공하려면 먼저 기업의 전략적 우선순위를 따지는 것이 중요하다. 회사의 비즈니스 우선순위와 AI 도입 타당성 등을 따져 봐야 한다. 다음으로 사일로를 없애기 위해 전담 다기능 팀을 만들고 이들에게 권한을 부여해야 한다.



나는 인공지능(AI)을 비즈니스에 도입하고 대규모로 확장하는 작업을 수행하고 있다. 아마 여러분들은 AI를 어떻게 활용해야 할지 고민하는 이야기를 40∼50년 전부터 들었을 것이다. 하지만 오늘날의 비즈니스는 그 어느 때보다도 AI를 활용할 가능성이 높아지고 있다. 두 가지 요소가 있는데 그중 첫 번째는 ‘데이터 가용성(data availability)’ 때문이다. 지난 수십 년간 기술이 일상생활의 일부가 돼 가면서 가용 가능한 데이터양이 기하급수적으로 증가했다. 거래 데이터, 고객 관계 관리(CRM) 데이터 등 초기 기술 시스템에서 시작해서 최근에는 인터넷을 통해 데이터가 폭발적으로 증가하고 있다. 특히 최근 몇 년 동안 신종 코로나바이러스 감염증(코로나 19)으로 인한 비대면 상황이 장기화되면서 사람들이 온라인 거래를 더 많이 하게 됐고 데이터는 더 빠른 속도로 증가하고 있다. 데이터 가용성의 증가와 함께 데이터 저장 및 처리 비용의 감소 역시 AI의 활용 가능성을 높이고 있다. 이는 무어의 법칙 1 과 반도체 생산 비용의 감소에 의해 주도됐다. 또한 최근에는 퍼블릭 클라우드2 의 가용성이 높아지면서 하드웨어에 큰 투자를 하지 않고도 상당히 정교한 AI를 실제 비즈니스에 활용할 수 있게 됐다. 그 덕분에 기존 비즈니스에서 AI를 활용해 가치를 만들어내려는 시도들이 이뤄지고 있는데 그중 몇 가지 예를 들어보겠다. 특히 여러분의 기업에서 AI를 적용하는 데 무엇이 필요한지 살펴보도록 하겠다.

051


AI 채택 기업 많지만 성공 확률은 2% 남짓

우리는 상당히 많은 연구를 시행했다. 그 연구의 추정치에 따르면 전 세계적으로 10조∼15조 달러 정도의 가치가 AI를 통해 생성될 것으로 추정된다. 이 가치는 한 부분에만 집중된 것이 아니다. 판매, 마케팅 공급망, 제조 등 모든 부문에 걸쳐 영향을 미칠 것으로 전망된다. 즉 비즈니스에서 운영되는 가치사슬의 모든 부분은 데이터와 기술을 기반으로 하는 AI를 사용함으로써 의미 있는 방식으로 이익을 얻을 수 있다. 물론 쉬운 일은 아니다. 우리가 다양한 분야 및 지역에 걸쳐 있는 1000여 개 기업을 대상으로 진행한 조사에서 응답자의 90%는 ‘AI가 중요하다’고 답변했고 17%는 실제로 의미 있는 투자를 진행하기 시작했다. 하지만 현재까지 규모에 맞는 가치를 실제로 달성한 기업은 겨우 2%에 불과하다. (그림 1) 그렇다면 AI를 채택하고 활용한 사람들이 성공한 경우와 성공하지 못한 경우 어떤 차이점이 있는지 살펴보자.

052


AI 도입이 실패하는 이유

AI를 조직에 적용하는 데 있어 첫 번째 문제는 기업 내 모든 부문에 AI를 활용해 보라며 독립적인 프로젝트를 권장하는 등 욕심을 지나치게 낸다는 사실이다. 하지만 이렇게 하면 기업 내에 산별적이고 상호 연결되지 않은 프로젝트가 각각 따로 진행되게 된다. 두 번째 문제도 지나치게 야심 찬 계획을 세우는 데 있다. 많은 기업이 AI 도입을 시도하면서 모든 걸 한꺼번에 바꾸려고 한다. 마지막으로 현재의 업무 방식에 강제로 AI를 도입하는 것이다. 하지만 이러한 접근 방식은 실패 확률을 높인다.

엘리트 스포츠인 ‘요트’와 관련된 실제 기업 사례 하나를 소개한다. 이 요트는 아메리카컵에서 사용되며 작은 항공기처럼 기술이 집약된 배다. 이 요트 팀은 전통적으로 혁신을 위해 많은 노력을 기울였다. 마치 포뮬러1(F1) 자동차처럼 디자인과 기술을 활용해 성능을 개선하려고 했던 것이다. 나와 동료들은 이 요트팀과 협업해 이들이 요트에 어떻게 AI를 적용했는지 알아보기 위해 경기에 나가기 1년 전부터의 기간을 추적했다. 가장 눈여겨볼 점은 이들이 ‘강화 학습’이라는 개념을 사용했다는 점이다. 강화 학습은 무엇일까. 기존의 AI 모델에서는 실제 데이터가 존재한다. 이 데이터를 활용해 AI를 계속 훈련한다. 그러면 AI 모델이 실제 시스템을 그대로 모방한다. 하지만 실제 시스템을 모방하기 위해서는 굉장히 많은 데이터가 필요하다. 실제적으로 필요한 일은 자체적으로 시나리오를 생성해 시스템을 만드는 과정이다. 예를 들어 요트의 보드와 이 보드의 움직임을 그대로 모방하고 따라 하고 실제 가능한 현실 세계의 시나리오를 AI상에서 생성한다. 그러고 나서 AI가 학습을 진행한다. 그러면 이 학습이 루프를 돌며 강화된다. 이 요트팀의 경우 AI로 시나리오를 생성해 실제 대회 코스를 따라 배를 항해해보고자 했다. 이 요트팀은 강화 학습을 지속적으로 수행했지만 역량 있는 선원이 부족하다는 한계가 있었다. 하지만 우리 연구팀의 도움으로 강화 학습 로봇을 활용하면서 매일, 매시간 실험을 진행할 수 있었고 그 결과, 수년간 거쳐서 할 수 있는 혁신을 몇 주 만에 이룰 수 있었다. 뜬금없이 요트 이야기를 꺼낸 것은 AI 기술을 이용하면 다양한 분야에서 개선을 이룰 수 있다는 사실을 보여주기 위해서다. F1 경주나 요트 세일링 경주에만 해당되는 이야기는 아니다. 온라인에서 고객을 확보하려는 은행 사례도 똑같다. 최상의 방법을 통해서 고객을 확보하고, 또 자사의 금융 상품을 구매하도록 하는 은행의 행동과 요트팀이 시도한 일이 다르지 않다.

비즈니스 도메인과 AI 스케일업 4단계

우리는 앞서 설명한 1000여 개 기업 대상 설문을 통해 네 단계 정도의 레서피라고 부를 수 있는 일종의 방법론을 찾아냈다. 하지만 이 방법론에 대한 설명 전에 비즈니스 도메인이라는 개념을 소개하고 싶다. 이는 특히 AI 스케일업을 시도할 때 큰 도움을 줄 수 있는 개념이다.

AI를 활용하는 사례는 보통 다음과 같다. 예를 들어, 어떤 문제가 있다고 치자. 그러면 이 문제 하나를 선택하고 AI를 활용해서 문제를 최적화한다. 그런데 우리 회사를 한번 생각해보자. 회사 내 조직은 기능별, 조직별, 제품별 등으로 나눠져 있다. 여기서 도메인이라고 하는 개념은 하위 집단 내에서 아주 매우 높은 상호작용이 있는 하위 집단 정도로 설명할 수 있다. 예를 들어서 한 기업에서 원자재 조달을 통해 제품을 제조하고 마케팅해서 소매점에 판매한다고 가정을 해보자. 이 과정을 보면 네 가지 영역의 도메인을 갖고 있다고 생각할 수 있다. 조달이 도메인이 될 수가 있고, 제조도 도메인이 되고, 마케팅이나 영업도 도메인이 될 수 있기 때문이다. 그리고 각각의 도메인은 아주 높은 수준의 상호의존성이 있을 것이다. 마케팅은 자체적으로 여러 가지 복합적인 프로세스가 있을 것이고 제조나 세일즈도 마찬가지일 것이다. 그리고 만약 다양한 제품이나 서비스를 다양한 시장에 판매한다면 도메인 간 상호의존성은 훨씬 복잡할 것이다. 그렇다면 핵심은 도메인별로 어떻게 성공적으로 변환시킬 수 있을까가 될 것이다. 여기에 대한 답은 도메인별로 AI 활용의 임계 질량(Critical mass)을 달성하면 해당 도메인의 성능이 급격히 변할 것이라는 사실이다. 앞서 설명한 루프를 활용해 각 루프를 밟아 나갈수록 조직 내 AI 스케일업이 이뤄지도록 하기 위해서는 도메인을 어떻게 변화시켜야 할까.

055

1. 전략

첫 번째 중요한 것은 전략이다. 여러분이 기억해야 할 것은 ‘진정한 목표가 무엇인지’다. 최근에는 이런 이야기를 흔히 듣는다. “여기 시장에 진짜 훌륭한 솔루션이 있습니다. 객체 탐지3 도 되니 우리 이걸로 시작해 봅시다.” 물론 이 AI 솔루션이 문제를 해결할 수는 있다. 하지만 당신의 비즈니스에는 이미 우선순위가 있다. 우선순위는 예컨대 신시장 개척이라든지, 유통망을 확장한다든지, 생산 효율성을 달성한다든지 하는 목표와 관련돼 있을 것이다. 그 때문에 단순히 ‘어떤 좋은 솔루션이 있다’가 출발점이 돼서는 안 된다. 비즈니스의 우선순위가 진정한 출발점이 돼야 한다는 뜻이다. 그래서 이것이 비즈니스의 우선순위에 맞는지 살피는 타당성 검증이 중요하다. 또한 구현 가능성을 생각해야 한다. 이 두 가지를 고민하는 것이 바로 전략의 시작이다. 여러분이 처한 비즈니스 상황, 여러분이 영위하는 도메인 안에서 우선순위를 살펴보고 어디서부터 시작해야 하는지, 준비는 돼 있는지, 그렇다면 어떻게 변화를 도모할 수가 있는지 등을 살펴보는 것이 핵심이다. 특히 과연 현재 나의 사업에서 무엇이 중요한가를 고민해 봐야 한다. 무엇이 타당할까? 현재 우리 기업의 능력 범위 내에서 실현 가능한 게 무엇일까? 이런 질문을 계속 던지고 그 안에서 우선순위를 정해야 한다.

2. 팀 구성

다음은 팀 구성이다. 많은 사람이 AI를 통한 기업 변화를 논할 때 기술을 먼저 떠올리지만 사실 진정한 성공을 불러오는 핵심은 팀 구성에 있다. 어떻게 팀을 구축하고, 어떻게 유지하고, 어떻게 성공적으로 이끌까, 이런 질문들이 정말 중요하다. 여기서 세 가지를 설명하고 넘어가겠다. 전담 다기능 팀, 사일로(Silos)를 없애는 법, 가치 있는 곳에 사람들의 힘을 모을 수 있는 방법에 대한 것이다. 여러분의 조직은 새로운 스킬 세트가 필요하게 될 것이다. 먼저, 데이터 사이언티스트가 필요할 것이고, 데이터 엔지니어, 사이버 보안 전문가가 필요할 것이고, 디자이너가 필요할 것이다. 굉장히 어려운 일처럼 들릴 수 있지만 상대적으로 작은 팀을 갖고도 많은 것을 달성할 수 있다. 많은 기업의 경영진은 이런 부분에 대해서 얘기할 때 약간 불편해하기 시작한다. “왜 굳이 이렇게 다양한 스킬이 필요하죠?” “왜 이렇게 많은 사람이 필요하죠?”라고 불만을 제기한다. 나는 AI 분야가 굉장히 복잡하고 아직도 발전 중이며 매일매일 새롭게 혁신이 이뤄지고 있다고 생각한다. 그렇기 때문에 앞으로 다양한 역할이 폭발적으로 증가할 것이고 모두 전문화될 것이라고 본다. 이 모든 역할이 중요한 퍼즐의 한 조각을 만들 것이다. 물론 수천 명의 인력이 필요한 것은 아니다. 대기업이라면 100여 명 정도의 인력으로 시작할 수 있다. 또 추가적으로 많은 파트너십이 필요하다. 수천 명으로 이뤄진 조직인데도 20∼30명으로 시작하는 경우도 있다. 그런 다음에 그 팀이 다기능 팀을 구성해 실무 부서와 함께 일을 하는 것이다. 이를테면 마케팅 부서 직원들이 데이터 사이언티스트, 데이터 엔지니어들과 같이 힘을 합해서 새로운 솔루션을 만들어 나가는 것이다.

또 부서와 부서 간 벽을 없애야 한다. 많은 조직이 각자 훌륭한 업무 방식을 가지고 있다. 훌륭한 검증 기능도 갖추고 있다. 항상 서로 제대로 된 품질을 만들어내는지 견제하고 체크하는 기능이 조직 내 존재한다. 그런데 종종 흥미로운 딜레마가 발생한다. 견제와 균형이 팀 간 이기주의를 부추기고 사일로를 만드는 것이다. 이러한 현상을 해결하기 위해서는 다기능 팀을 만들어서 충분한 권한을 부여해야 한다.

또한 변화를 위해서는 조직의 한계를 뛰어넘을 권한도 줘야 한다. 뛰어난 인재가 회사를 떠나는 이유는 새로운 시도를 하려고 할 때마다, 예컨대 5명의 이해관계자의 승인을 받아야 되는 일 때문이다. 클라우드 환경이나 서비스에 접근할 때, 장비를 구입할 때, 일부 고객에 대해 새로운 시도를 할 때 여러 단계를 거치지 않아도 되도록 재량과 권한을 부여해야 한다. 여기에는 5가지가 필요하다. 첫째, 샌드박스 환경을 만들어서 필요한 승인들을 미리 다 받아두어야 한다. 그래야만 혁신이 멈추지 않을 수 있다. 팀을 시작하고 난 다음에 승인을 받느라 시간이 지연되면 골든 타임을 놓치게 된다. 또한 도메인에 있어 가장 중요한 문제를 해결해야 한다. 여기서 이 사업을 서포트하는 고위 임원 등 스폰서의 역할이 중요하다. 스폰서가 나타나서 “이게 우리한테 정말 중요한 아이디어다” “중요한 문제를 해결하기 위해서 이 아이디어가 반드시 실행돼야 된다”고 말하며 힘을 실어줘야 한다. 당신이 임원이라면 중요하다고 생각하는 내용을 현업 팀에게 전달하고 우선순위를 알려준 후 그 팀이 독립적으로 일해 프로토타입을 만들 수 있도록 지원해야 한다.

3. 비즈니스 재설계

여러분의 비즈니스를 정말 다른 방식으로 바꿔 내부, 외부 고객에게 서비스를 제공할 수 있는 방법을 찾고 싶다면 몇 가지 사례를 들어보겠다.

첫 번째, 전략을 수립하는 단계를 살펴보면 이 단계는 조직 내 도메인들의 우선순위를 결정한다. 여러분의 비즈니스에서 어떤 도메인이 중요한지, 어떤 게 전략적으로 가장 우선순위가 높은지, 내년에 제일 중요한 도메인이 무엇인지를 출발 포인트로 삼으면 된다. [그림 2]에 고려해야 하는 4가지 요소가 있다. 그중 첫 번째는 잠재적인 영향이다. 두 번째는 상호 연결된 활동이다. 도메인 내 도메인을 살펴보는 것이라고 할 수 있다. 여기서 말하는 도메인은 다른 도메인과 너무 밀접하게 연결돼서는 안 된다. 명확하게 정의된 도메인들 간에도 상호의존성이 있을 텐데 그렇게 된다면 이쪽이 변하기 위해서는 다른 쪽도 같이 변해줘야 하는 어려움이 있을 수 있기 때문이다.

056

다음으로는 앞서 언급한 대로 팀을 지원해줄 스폰서가 필요하다. 이것이 가장 중요하다 해도 과언이 아니다. 비즈니스 리더가 AI 도입에 대해 열정적으로 지원할 의지가 있는지를 살펴봐야 한다. 리더가 이 시도를 통해서 비즈니스를 바꿀 의지가 있는지 살펴봐야 한다. 많은 경우 이 요소가 간과되고 있는 것 같아 안타깝다.

마지막으로 테크놀로지나 데이터가 재사용 가능한지 살펴볼 필요가 있다. 우리가 구축하려는 시스템은 재사용이 가능한 방식이어야 한다. 첫 번째 실험을 하는 데 100일이 걸린다 했을 때 다섯 번째 실험을 했을 때는 30∼40일 만에 끝날 수 있어야 한다. 첫 번째 실험에서 만들어 놓은 여러 가지 구성 요소를 재사용할 수 있다면 앞으로의 실험 기간을 단축할 수 있다.

전체 워크플로에서 페인 포인트를 공략하라

현재 조직의 워크플로를 매핑한 후 어떤 통점이 있는지 살펴보고, 또 어떤 기회가 있는지를 함께 봐야 한다. 예를 들어 여러분이 여러 대의 화물 트럭을 운영한다고 가정해 보자. 화물 트럭을 제대로 활용하려면 유지 보수 기능이 중요하다. 하지만 유지 보수는 대부분의 경우 달력에 날짜를 표시해 일정 기간이 지나면 실시하는 식으로 이뤄진다. 그러니까 트럭을 ○시간 동안 운영했다거나 ×킬로미터 동안 주행을 했다면 이를 기록해 여러 가지 부품이라든지 장비 트럭의 모든 부분이 문제없이 잘 운영되는지를 검토해야 한다. 워크플로 관점에서 생각을 해보자. 유지 보수를 정기적으로 한다고 해도 고장을 100% 막을 수는 없다. 나는 이 회사에 AI를 적용해 워크플로를 혁신해 보고자 했다. 만약 우리가 일주일 전에 미리미리 어떤 트럭이 고장 날지를 예측할 수 있다면 어떨까. 데이터를 주입한 AI를 도입한다면 과거처럼 달력이 아닌 고장 가능성에 따라 수리를 하고, 리스크가 있는 트럭을 집중 관리할 수 있다. 이처럼 프로세스를 바꿔서 기존 캘린더 기반의 유지 보수가 아닌 고장 가능성을 예측한 트리거 기반의 유지 보수로 간다면 가동률을 높일 수 있다. 더 나아가 AI가 어떤 부품이 고장 날지 예측할 수 있게 해준다. 필요한 예비 부품과 전문가를 예측할 수 있으면 문제 해결에 드는 시간도 크게 줄어들 것이다.

변화 관리와 테크놀로지 업그레이드

전체 조직을 변화에 대비하도록 만드는 부분에 대해서 말하겠다. 핵심은 두 가지다. 첫 번째는 변화 관리. 두 번째는 테크놀로지를 업그레이드하는 부분이다. 변화 관리의 중요성은 아무리 강조해도 지나치지 않다. 변화 관리 프로세스는 여러 사람에게 영향을 미칠 수 있기 때문에 더욱 중요하다. 특히 새로운 스킬이 기존 일자리를 뺏는 것 아닐까 걱정하는 사람들의 불안을 달래야 한다. 특히 변화를 시도하는 초반부터 많은 사람을 참여시켜 변화된 모습을 상상하도록 하는 것이 중요하다. 또한 최종적으로 의사결정을 하기 전 프로토타입을 사용해 보도록 해서 이들이 변화 에이전트(Change agent)가 되도록 유도하는 것도 중요하다.

마지막으로 테크놀로지의 중요성을 강조하고 싶다. 클라우드 시스템을 사용한다면 굉장히 많은 성과와 속도를 낼 수 있다. 3∼5년 전까지만 해도 맞춤형으로만 개발됐던 툴을 이제는 클라우드에서 쉽게 이용할 수 있게 됐다. 이러한 테크놀로지를 처음부터 비즈니스 전체에 적용해 동시다발적으로 혁신을 시도할 수도 있을 것이고 하나의 도메인을 선택해 먼저 테크놀로지를 도입해 성공을 입증한 다음, 이것을 다른 사업부까지 확대할 수도 있다. 하지만 나는 개인적으로 먼저 적절한 도메인을 선택한 뒤 이것의 가치를 입증하고 역량을 구축한 뒤 다음 도메인을 선택하라고 권하고 싶다.


앵커 퓨리 맥킨지앤드컴퍼니 파트너
맥킨지앤드컴퍼니(McKinsey&Company) 인도 뉴델리 오피스의 파트너이자 맥킨지 애널리틱스 아카데미(McKinsey’s Analytics Academy)의 글로벌 리더다. 제조 및 서비스를 아우르는 다양한 업종의 기업뿐 아니라 공공 기관의 AI 도입과 역량 강화와 관련한 컨설팅을 진행하고 있다. MIT의 기술 스타트업인 사나(Sana)와 인도 공중보건재단의 창립 멤버로 일했다. MIT, 퍼듀대, 프랑스 국립응용과학원(INSA), 인도 델리공과대 등에서 AI를 연구했다.

정리=장재웅 기자 jwoong04@donga.com
동아비즈니스리뷰 345호 Fake Data for AI 2022년 05월 Issue 2 목차보기