AI 팀원의 성과는 어디까지 수용 가능할까

Based on “Trust in an AI versus a Human teammate: The effects of teammate identity and performance on Human-AI cooperation” (2023) by Zhang, G., Chong, L., Kotovsky, K., & Cagan, J. in Computers in Human Behavior, Vol. 139

---

무엇을, 왜 연구했나?

혁신 기술과 디지털 경제 분야 투자사인 ARK인베스트먼트에 의하면 인공지능(AI)의 성능이 발전하는 속도는 IT 산업의 발전 속도를 설명하는 ‘무어의 법칙(반도체 집적 회로의 성능이 2년마다 2배로 증가하는 것)’보다 5배에서 100배 정도 빠르다고 한다. 이를 증명하듯 이미 AI 기술은 의료, 교육, 에너지 등 인간 삶의 다양한 영역에 적용되고 있다. 이처럼 AI 기술의 비약적인 발전으로 인해 학계에서는 AI가 ‘인간을 위한 도구’의 역할을 넘어 팀 구성원으로서 역할을 충분히 수행할 수 있을지에 대한 논의가 뜨겁다. 최근 클램슨대의 나단 맥니즈 교수가 이끄는 연구팀은 ‘인간-AI하이브리드 팀’이 위기관리를 위한 자원 배분 문제를 해결하는 과정에서 ‘인간만으로 구성된 팀’보다 우수한 성과를 보여줬다는 연구 결과를 제시하며 ‘인간과 AI의 협업’ 관점에서 새로운 기회를 모색해 볼 수 있다는 관점을 시사한 바 있다.

하지만 선행 연구들은 인간이 AI를 신뢰하지 않아 ‘인간과 AI의 협업’이 지연되고 있다는 결과를 제시하고 있다. 일례로 2000명의 미국 소비자를 대상으로 한 연구에서는 다양한 분야의 AI 응용 프로그램에 대한 인간의 신뢰도가 전체적으로 낮은 수준(의료 진단 16%, 자율주행 13%, 인적 자원 관리 4%)으로 나타났으며 11개 산업 부문 1000명의 고위직 임원을 대상으로 한 연구에서도 AI에 대한 신뢰 수준이 낮아 미국 기업의 80%가 AI를 의사결정에 활용하지 못하고 있다는 결과가 나왔다. 이는 AI가 이미 기술적으로는 인간과 협업할 수 있는 능력을 갖췄지만 인간이 AI를 불신함으로 인해 인간과 AI의 협업에 어려움이 있음을 시사한다.

이런 관점에서 본 연구는 AI에 대한 인간의 신뢰와 인간-AI의 협업 성과에 관해 다루고 있다. 구체적으로, 인간과 AI가 협업하는 상황에서 인간이 AI를 인간으로 인식하고 작업한다면 신뢰와 협업 성과에 어떤 영향을 미치는지 파악하고자 다음의 3가지 연구 질문을 설정했다.