Article at a GlanceAI가 비즈니스 의사결정에 널리 활용되고 있지만 경영진이 과거의 의사결정 방식에 사로잡혀 있으면 오용될 가능성이 크다. 경영진이 AI와 협업하는 가장 좋은 방식은 경영진과 AI가 각각 더 잘 풀 수 있는 문제를 구분하는 것이다. AI는 데이터의 집중이 필요한 예측 문제, 인간은 창의적인 사고 실험에 우월하다. 경영진은 AI가 가져올 의도치 않은 결과도 관리해야 한다. 특히 ‘강화 학습’ 에이전트는 SNS에서 의도치 않게 사회를 분열시키는 위험한 결과를 낳았다. RL 에이전트가 사람 행동에 미치는 영향을 사용자 인터뷰 등을 통해 파악하고 정책, 필요하다면 보상까지 적극적으로 수정해 나가야 한다.
편집자주
본 아티클은 필자가 2021년 HBR(하버드비즈니스리뷰) 온라인 판에 기고한 아티클 “When Should You Use AI to Solve Problems?”과 “5 Rules to Manage AI’s Unintended Consequences”를 번역해 편집했습니다. |
많은 CEO가 직관적인 의사결정을 자랑으로 여긴다. 이들은 로봇처럼 리더십 공식을 따라 해서는 지금의 자리에 오를 수 없다고 여긴다. 물론 리더의 직관과 본능은 중요한 역할을 한다. 무분별하게 사용되지 않는다는 전제하에서 말이다. 하지만 인공지능(AI)이 출현함에 따라 경영 의사결정에서 우리가 오랫동안 높이 평가해 오던 특성들에 숨어 있던 결점이 드러나고 있다. 알고리즘은 과거 선견지명이라고 얘기했던 행동이 단지 운이었고, 이제껏 거의 신성시해온 의사결정 원칙들은 증명할 길이 없으며, 흔들림 없는 신념은 근시안과 마찬가지임을 밝혀버렸다. 멀리 볼 것도 없이 인간이 적극적으로 관리하는 투자 행위의 실적에서 이런 유서 깊은 인간의 의사결정 방식의 단점이 잘 나타난다. 내로라하는 투자가들이 관리한다는 펀드는 십중팔구 장기 수익률에서 인덱스펀드를 밑돌며
1
AI의 알고리즘 거래는 사람이 하는 거래보다 우수한 실적을 내는 것이 일반적이다.
그렇다고 해서 당장 AI가 직관적인 의사결정을 대체하지는 않을 것이다. 하지만 경영진은 자기만의 고유한 의사결정 방식을 거두고 AI의 능력을 전면적으로 활용할 필요가 있다. 불같은 확신을 데이터로 다스리고 자신의 신념을 실험대에 올려서 적절한 문제를 공략하도록 AI의 방향을 설정해야 한다. 포트폴리오 매니저들은 이제 최고의 주식 대신 최고의 알고리즘을 고르는 방법을 배우고 있다. 경영진도 견고한 자아를 깨야 할 시간이 왔다. 기술에 대체되기 싫으면 기술을 활용하는 법을 알아야 한다.
인과관계의 사다리AI가 특정 유형의 문제해결에 인간보다 월등히 앞서는 이유는 무엇일까? 경영진은 여기서 무엇을 배울 수 있을까? 최근 몇 년 동안 AI는 포커, 체스, 제퍼디(Jeopardy!)
2
, 바둑에서 세계 챔피언을 모두 완파했다. 이렇게 AI가 승리한 결과에 놀라는 사람들은 이들 게임에서 승리를 하기 위해 얼마나 많은 기계적 암기와 수리 논리가 필요한지를 과소평가한다. 다른 한편 포커와 체스의 경우에는 여전히 인간 행동에 대한 통찰력이 맡는 역할을 과대평가하기도 한다. 카네기멜론대의 컴퓨터 과학자 투오마스 샌드홀름(Tuomas Sandholm)이 개발한 AI 알고리즘 리브라투스(Libratus)는 세계 최고의 포커 선수들을 격파했다. 그는 이 알고리즘이 일반적으로 확률론적인 예측을 할 뿐, AI에 반하는 대결 상대의 속임수(feint)나 텔(Tell) 같은 행동을 학습하는 것이 승리에 꼭 필요하지는 않다고 말한다.
3
리브라투스는 게임이론과 머신러닝을 적용해 그저 확률 싸움으로 연전연승을 거뒀다. 포커 챔피언십에서도 확률 법칙의 이해가 상대편 행동을 읽는 것보다 훨씬 중요하다는 얘기다.
AI를 이용해 의사결정을 잘하려면 AI가 어떤 종류의 문제에 탁월한지, 또 AI보다 경영자의 직관이 더 잘 해결할 수 있는 문제가 무엇인지 구분할 줄 아는 것이 중요하다. 이를 위해 저명한 컴퓨터 과학자 유디 펄(Judea Pearl)의 가이드를 참고할 필요가 있다. 펄이 고안한 인과관계의 사다리(Ladder of Causation) 개념은 추론적 사고(inferential thinking)의 3가지 수준을 기술하며 인간이 어떻게 한발 물러서 AI를 활용해야 할지에 대한 로드맵을 제공한다. 그는 저서
4
에서 “어떤 기계도 혼자서 가공되지 않은 데이터로부터 설명을 도출해 낼 수 없다. 기계는 자극이 필요하다”고 말했다. 그가 제시한 사다리의 첫 디딤대는 연관성(Association)에 의한 추론(A라면 B)이다. 그다음 디딤대는 개입(Intervention)에 의한 추론이다(입력값 X를 바꾸면 결과 Y에는 무슨 일이 발생하는가?). 마지막 단계는 조건법적 서술(Counterfactuals)에 의한 추론으로, 사실과 상충되는 것처럼 보이는 것이 우리를 비직관적 사고의 새로운 인사이트로 이끈다. 다음에서 이 3가지 추론의 디딤대에서 AI가 할 수 있는 역할을 하나씩 살펴보고자 한다.
닫기
