로그인|회원가입|고객센터
Top
검색버튼 메뉴버튼

HR

챗봇 성공하려면 조직 내부 신뢰도 높여야

한지영 | 369호 (2023년 05월 Issue 2)
Based on “Designing trust: The formation of employees’ trust in conversational AI in the digital workplace” (2023) by Gkinko, L, & Elbanna, A. in Journal of Business Research, Vol. 158.



JW3


무엇을, 왜 연구했나?

신종 코로나바이러스 감염증(코로나19) 팬데믹 기간을 거치면서 조직 내에서 디지털 기술의 활용 범위가 큰 폭으로 확장됐다. 특히 원격 근무의 대중화 등으로 가상 공간에서의 협업을 위한 다양한 기술이 폭넓게 활용되면서 그간 고객 중심으로 주로 사용되던 디지털 기술의 활용 범위가 직장과 조직 구성원 중심으로 확대되고 있다. 현재 많은 기업이 ‘AI 챗봇’과 같은 대화형 AI의 도입을 고려하고 있으며 이에 힘입어 직장용 AI 챗봇 시장은 2027까지 매년 20% 이상 성장할 것으로 예상된다. AI 챗봇은 실시간으로 언제 어디서든 질문에 대한 응답을 제공할 수 있으며 다양한 원천에서 정보를 구성해 맞춤형으로 대응할 수 있기 때문에 직장에서 활용될 경우 조직 구성원들이 정보와 시스템에 접근하는 방식이나 정보를 수집하고 사용하는 방식에 변화가 필요하다.

AI 챗봇의 도입과 실행에서 중요한 우선순위 중 하나는 AI 기술을 업무 시스템에 통합적으로 작동시키고, 사용자들에게 새로운 시스템의 역할을 설득해 파트너십을 형성하도록 유도하는 것이다. 이를 위해서는 AI 기술에 대한 신뢰가 반드시 필요하다. 이를 뒷받침하듯 독일 만하임대 연구팀은 신뢰가 AI 기술의 도입과 사용자들의 행동 및 상호작용에 미치는 영향력을 강조하며 직장에서 AI 챗봇의 성공적인 도입과 확산이 사용자들의 신뢰에 달려 있다고 결론지었다.

이처럼 사용자의 신뢰가 조직 내 AI 챗봇 도입과 확산의 성공에 미치는 중요성의 함의에도 불구하고 대부분의 연구는 마케팅이나 고객 서비스와 같은 조직 외부의 사용에 초점을 맞추고 있어 조직 내부의 AI 챗봇 사용에 관한 연구는 아직 초기 단계다. 이에 따라 연구자들은 AI 챗봇을 사용하는 조직 구성원들의 경험적 신뢰 형성에 대한 심도 있는 이해를 제공하고자 글로벌 조직에서 근무하는 구성원들로부터 풍부한 질적 자료를 수집하고 사례 연구 방법을 사용해 AI 챗봇에 대한 신뢰가 어떻게 형성되고 유지되는가에 관해 논의했다.

무엇을 발견했나?

연구팀은 직장 내 AI 챗봇 사용에 초점을 두고 AI 챗봇에 대한 조직 구성원들의 신뢰 형성 과정과 유지에 관해 다뤘다. 이전 연구들이 기술에 대한 사용자의 신뢰 부족이 생산성 향상을 저해할 수 있다는 것을 보여줬다면 본 연구의 결과는 조직 구성원들이 AI 챗봇을 사용하며 세 가지 유형의 상호보완적 신뢰(감정적 신뢰, 인지적 신뢰, 조직적 신뢰)를 경험하고 있다는 것을 강조하고 있다. 또한 각 유형의 신뢰는 각기 다른 요인과 프로세스에 의해 형성되며 다른 역할을 하고 있다는 관점을 제시한다.

첫 번째 유형인 ‘감정적 신뢰’는 사용자가 AI 챗봇과 감정적 유대 관계를 형성하며 얼마나 편안하게 상호작용할 수 있는가에 대한 범위를 일컫는다. 챗봇의 이름, 챗봇이 남긴 아이콘이나 애니메이션과 같은 인간적 모습은 감정적 신뢰를 형성하는 데 도움이 되며 감정적 신뢰가 형성되면 조직 구성원들은 AI 챗봇을 동료로 인식하게 된다. 이 경우 챗봇과 친밀감을 바탕으로 상호작용하게 되며 챗봇이 응답을 예상보다 늦게 하거나 설령 잘못된 응답을 하더라도 조직 구성원들은 기꺼이 감수하려는 의향을 보인다. 이는 감정적 신뢰가 AI 챗봇의 사용과 확산에 매우 중요한 요소라는 것을 시사한다. 두 번째 유형인 ‘인지적 신뢰’는 챗봇의 성능을 기반으로 한다. AI 챗봇이 작업을 올바르고 정확하게 수행할 때 인지적 신뢰가 형성되는 것이다. AI 챗봇이 도출한 결과물에 대한 확신 수준이나 출처를 표시하는 경우나 사용자가 이전에 유사한 기술로부터 신뢰를 형성한 경험이 있는 경우 인지적 신뢰를 형성하는 데 도움이 된다. 인지적 신뢰가 형성되면 사용자들은 같은 용도로 AI 챗봇을 반복해서 사용한다. 그러나, 감정적 신뢰와 달리 인지적 신뢰는 그 이상의 관계로 넘어가지 않는 상황적 신뢰라는 점에서 차이가 있다.

세 번째 유형인 ‘조직적 신뢰’는 AI 챗봇이 조직에서 사용하는 내부 도구이므로 신뢰한다는 관점이다. 조직적 신뢰가 형성된 사용자들은 AI 챗봇이 내부 인트라넷에서 이용 가능하다는 점에서 조직이 엄격한 보안 조치를 할 것이며, 개인 정보가 안전하다는 확신을 가진다. 조직적 신뢰가 형성되면 사용자들은 조직이 지속적으로 챗봇의 성능을 개선할 것이라는 믿음과 함께 미래에는 챗봇이 훨씬 발전적인 방향으로 사용될 수 있을 것이라는 자신감을 가지게 된다.

연구 결과가 어떤 교훈을 주나?

본 연구는 조직 구성원들 사이에서 AI 챗봇에 관한 신뢰의 유형을 상호 보완적인 3가지 유형으로 구분하고 각기 다른 유형의 신뢰가 어떤 요인으로 인해 형성되고, 향후 사용에 어떻게 영향력을 미치는지 논의함으로써 AI 챗봇에 대한 조직 구성원들의 신뢰 형성 프레임워크를 제시했다. 구체적으로 AI 챗봇 사용에서 감정적 신뢰가 형성된 경우 조직 구성원들은 챗봇의 기능적인 실수가 있더라도 지속적으로 챗봇을 사용하고 그 결과 챗봇은 추가 학습을 통해 성능을 향상해 조직의 환경과 사용자의 니즈에 적합한 성능을 가지게 된다. 이에 따라 조직 구성원들의 사용이 더욱 확대되는 선순환이 형성된다. 따라서 AI 챗봇과 조직 구성원들이 개인적인 유대를 형성하는 감정적 신뢰는 챗봇과 협업하는 과정에서 일부 문제가 발생하더라도 지속할 수 있는 유형의 신뢰라는 점에서 그 중요성이 매우 크다고 할 것이다. 또한 조직과의 관계에 대한 신뢰에서 기인하는 조직적 신뢰가 형성되면 조직 구성원들은 챗봇이 조직 내에서 사용하는 도구라는 것만으로도 보안, 안전 측면에서 신뢰하고, 시간이 지날수록 향후 성능이 개선될 것이라는 믿음을 가진다. 이런 관점에서 조직적 신뢰는 새로운 시스템의 초기 신뢰에 강력한 영향력을 행사함과 동시에 챗봇에 대한 구성원들의 인지적, 감정적 신뢰를 지원하는 역할을 한다.

이상과 같이 본 연구 결과는 조직 구성원들의 AI 챗봇에 대한 다양한 측면의 신뢰 유형과 형성 과정을 논의함으로써 조직에서 구성원들이 기술을 신뢰하고 효과적으로 사용하는 데 신뢰의 역할과 긍정적인 사이클에 대해 시사점을 제공했다. 특히 감정적 신뢰와 조직적 신뢰의 중요성과 역할을 인지하고 이를 확보하기 위한 방안을 강구한다면 AI 챗봇과 같은 새로운 시스템과 기술을 성공적으로 도입하고 확산시키는 데 기여할 것으로 보인다. 

  • 한지영 | 비어케이 영업2본부장, 기술경영학 박사

    필자는 서울대 소비자 아동학과를 졸업하고, 고려대 기술경영전문대학원에서 기술경영학 박사학위를 받았다. 다양한 규모의 국내외 기업과 조직에서 15년 이상 C-Level 임원(CMO)으로 일해 왔으며 현재 글로벌 프리미엄 맥주 ‘칭따오’를 수입 유통하는 ‘비어케이’에서 소비자 채널의 영업과 마케팅 업무를 총괄하고 있다. 주요 관심 연구 분야는 조직 및 팀 성과 창출, 조직 변화 관리와 리더십, 마케팅과 커뮤니케이션, 조직 자원 이론 등이다.
    jeo0915@naver.com
    이 필자의 다른 기사 보기
인기기사

질문, 답변, 연관 아티클 확인까지 한번에! 경제〮경영 관련 질문은 AskBiz에게 물어보세요. 오늘은 무엇을 도와드릴까요?

Click!