AI 응대받는 고객, 인간 상담원을 더 비인간적으로 대우

Based on “AI-induced Dehumanization” (2024) by Hye-young Kim and Ann L. McGill in Journal of Consumer Psychology, In-Press.

---

무엇을, 왜 연구했나?

2014년 개봉한 스파이크 존즈 감독의 영화 ‘Her’는 이혼의 아픔을 겪고 있던 고독한 한 남성이 스스로 생각하고 느끼는 인공지능(AI) 운영체제인 사만다에 사랑을 느끼게 되는 스토리로 전개된다. 누군가와 사랑에 빠지는 과정 속에서 만들어지는 연애 감정은 복잡하고 미묘하다. 영화가 아닌 실제 현실에서 그런 감정들을 과연 인간처럼 AI가 느끼고 표현할 수 있을까? 이 질문에 아마 AI 전문가들은 “그렇게 될 것이다”라고 대답할 것이다.

실제로 챗GPT 개발사 오픈AI가 2024년 5월 새로운 AI 모델 GPT-4o를 처음 시연하는 자리에서 GPT-4o가 적용된 챗봇은 인간처럼 이야기하고 감정도 섬세하게 표현했다. 시연자와 음성으로 소통하며 챗봇은 즉각적으로 상황에 맞게 농담을 던지고 끼를 부리는 멘트를 날리기도 했다. 한마디로 AI 시스템은 이제 사용자의 얼굴 표정을 포함한 다양한 몸짓을 읽어내고 그에 따라 감정적인 대응을 할 수 있는 수준에 이르렀다고 볼 수 있다.

이런 AI 기술의 발달에 따라 외로움을 해결해주는 연인, 친구 역할을 해주는 서비스가 앞다퉈 소개되고 있다. 일례로 레플리카(Replika)는 AI 친구, 연인을 만들어 서로 소통하고 추억을 쌓도록 돕는 플랫폼 서비스다. 이 서비스 안에서 사용자들은 본인이 직접 선택한 외모와 성격을 가진 아바타 캐릭터와 로맨틱한 대화에 몰입하며 유사 연애 감정을 느낄 수 있다. 또 다른 예로 캐릭터닷AI(Character.AI)는 실제 인물이나 캐릭터를 기반으로 대화를 나눌 수 있는 서비스다. 팝 가수 테일러 스위프트 같은 유명 셀럽들이나 일론 머스크 등 유명 사업가의 성격과 외모를 부여한 아바타와 대화를 나눌 수 있다. 앞으로는 좋아하는 아이돌 가수와 소통하기 위해 팬 미팅 현장에 가는 대신 아이돌 가수와 비슷한 외모와 목소리를 가진 AI 캐릭터들과 대화하는 일상이 일반화될지 모른다.

인간은 오래전부터 사물에 인간적인 속성을 부여하는 경향이 있었다. 의인화(Anthropomorphism)가 대표적이다. 특정 브랜드를 좋아하고 일상에서 빈번히 이용하다 보면 해당 브랜드를 자신의 일부로 생각하게 되고 심리적이고 상징적인 가치를 자연스레 부여하게 된다. 이 과정을 거쳐 사용자는 브랜드를 점차 인간처럼 느끼고 더 깊은 관계를 쌓아나가게 된다. 다양한 연구 결과에 따르면 코카콜라, 나이키, 아이폰과 같은 유명 브랜드들은 충성 팬들이 뚜렷하고 차별화된 인간적 속성을 투영해 마치 인간처럼 인식하는 것으로 나타났다.

감정을 표현할 수 있는 AI가 구현되면서 인간보다 더 인간적인 AI 서비스가 다양한 방식으로 등장할 전망이다. 사용자가 AI를 인간처럼 느끼게 됨에 따라 기대할 수 있는 여러 긍정적인 효과가 있다. 가령 깊이 있는 대화를 통해 부정적인 감정을 해소할 수 있다는 점이다. 실제로 울산과학기술원(UNIST)과 고려대 정신건강의학 연구팀이 2025년 1월 발표한 소셜 챗봇이 정신 건강에 미치는 영향을 분석한 결과에 따르면 인간처럼 감정을 표현하는 소셜 챗봇과의 정기적인 상호작용은 외로움과 같은 부정적인 감정을 큰 폭으로 감소시킬 수 있는 것으로 나타났다.

반면 AI의 인간화(Humanization)가 초래하는 부정적인 효과도 있다. 최근 학계에서는 AI의 인간화가 구체적인 마케팅 상황에서 어떤 형태로 영향을 미치는지를 밝혀내는 다양한 연구가 진행되고 있다. 영국 런던정경대와 미국 시카고 부스경영대 공동 연구진은 AI 기능을 탑재한 가상 비서와 휴머노이드 로봇과 같은 자율 에이전트가 인간의 지능과 행동뿐만 아니라 사회 정서적 능력(Socio-emotional Capability)까지 구현해냈을 때 인간에게 어떤 영향을 미치는지를 살펴보는 실험 기반 연구를 진행했다.

연구진은 AI가 인간과 비슷해질수록 실제 사람에 대한 인식과 대우에 영향을 미칠 수 있다고 가정했다. 이를 ‘동화에 의한 탈인간화(Assimilation Induced Dehumanization)’ 이론으로 설명한다. 즉 사람들이 AI가 인간과 유사한 마음을 가지고 있다고 인식할 때 무의식적으로 실제 인간과 AI를 서로 비슷한 범주로 묶어 버린다는 것이다. 이 현상으로 인해 실제 사람에 대한 인식을 비인간적인 AI에 더 가깝게 동화시켜 그들을 더 비인간적으로 대우하는 부정적인 영향이 있을 수 있다고 봤다.


무엇을 발견했나?

연구진은 참가자들이 AI가 높은 사회 정서적 능력을 갖췄다고 인식하도록 만드는 조건과 그렇지 않다고 생각하도록 만드는 두 가지 조건으로 나눠 실험을 진행했다. 예를 들어 AI를 탑재한 채 두 발로 걷는 아틀라스(Atlas) 로봇 영상을 두 가지 버전으로 준비했다. 높은 사회 정서적 능력을 갖춘 조건에서는 로봇이 음악에 맞춰 신나게 춤추는 영상을 보여준 반면 낮은 사회 정서적 능력을 가진 조건에서는 로봇이 기계적인 파쿠르(Parkour)1 1맨몸으로 다양한 지형 및 사물을 효율적으로 이용해 이동하는 스포츠 닫기 를 수행하는 영상을 보여줬다. 그 결과 연구진은 단순히 기계적인 파쿠르 동작보다 로봇이 춤추는 영상을 본 참가자들이 로봇으로부터 높은 수준의 인간화를 느꼈다는 점을 발견했다.

이후 AI로부터 인간적인 감정을 느끼는 것이 실재 인간 직원들을 인식하는 데 어떤 영향을 미치는지도 조사했다. 예를 들어 참가자들에게 아마존이 직원들에게 가혹한 근로 환경을 제공한다는 정보를 제공하고 난 후 아마존에서 사용할 수 있는 상품권을 받을지 혹은 코스트코 등 다른 기업의 상품권을 받을지 선택하도록 해 인간 직원에 대한 인식을 측정했다. 다양한 실험 연구 결과, AI가 인간처럼 감정적이고 사회적 능력을 더 많이 갖췄다고 여길수록 참가자들은 인간 직원들에게 더 부정적인 행동을 보이는 것으로 나타났다. 예컨대 인간에게 더 열악한 근로 조건 도입을 지지하거나 직원 복지를 위한 지출을 덜 하는 방향의 의사결정에 호의적인 태도를 보였다.

연구 결과가 어떤 교훈을 주나?

AI 기술의 발전에 따라 AI를 활용한 다양한 인터랙티브 마케팅이 등장하고 있다. 밀리의서재 e북에 접속하면 철학자 쇼펜하우어의 사상과 인격을 학습한 AI 챗봇이 그의 사상을 바탕으로 이용자들의 고민을 상담해주고, 아이돌 걸그룹 스테이씨(STAYC)는 음반 홍보를 위해 AI 챗봇 서비스 ‘닷닷닷봇’을 팬들을 위해 오픈했다. 짝사랑 같은 사용자의 고민을 들어주고 적절한 해결책을 제공하며 사랑이 이어질 성공 가능성 결과를 퍼센트로 알려주기도 한다. 이런 AI 기반 마케팅 서비스의 공통점 중 하나는 AI에 인격을 부여해 더 높은 수준의 인간화를 추구한다는 점이다.

연구는 이런 AI의 인간화가 가져올 수 있는 부정적인 영향을 밝혀냈다는 점에서 의의를 가진다. 연구는 AI와 인간이 결합한 서비스 상황에서 지나치게 인간과 유사한 감정 공감 능력이 AI 서비스에 강조될 경우 소비자가 인간 응대원을 더 비인간적으로 대우할 가능성이 높아질 수 있음을 보여줬다. 특히 통신사나 금융사처럼 AI 챗봇을 통해 1차적으로 고객을 응대하고 더 깊은 수준의 응대에는 인간 직원을 활용하는 경우에는 소비자가 AI를 더 인간처럼 느낄수록 이후 응대하는 인간 직원들에게 더 부정적으로 대우할 수 있다는 점을 고려해야 한다.

또한 연구는 인간보다 더 인간적인 감정을 가진 AI 서비스들이 다양한 방식으로 사회에 등장할수록 사람들이 실제 인간에 대한 탈인간화 현상을 경험할 수 있다는 사실을 보여줬다. 특히 AI와 인간을 결합한 서비스를 제공하는 기업의 경우 AI의 비인간적인 능력을 강조하거나 AI 혹은 인간에 의해 제공되는 서비스를 각각 구분해 명확한 경계를 설정하는 등 의도치 않은 부작용을 완화하도록 노력해야 한다. 동시에 기업은 본질적으로 AI가 꼭 인간을 닮아야 하고, 인간적인 모습이어야 하는가에 대한 근원적인 질문을 던져보며 부정적인 효과를 줄이기 위한 해결책을 찾아나가야 한다.