생각하는 디자인
예수·잡스와 일대일로 대화한다고?
Article at a Glance
커뮤니케이션 플랫폼과 인공지능(AI) 등 기술의 발달로 유명인과의 일대일 소통이 가능해졌다. 그러나 이는 UI를 통해 사적으로 소통한다는 느낌만을 제공할 뿐이다. 유명인이나 신, 성인 행세를 하는 AI 챗봇도 등장했다. 이는 사용자에게 감정적으로 교류한다는 느낌을 주지만 동시에 거짓 정보를 남발하고 윤리적 문제를 야기할 위험이 있다.
선망하는 누군가가 있는가. 롤모델이든 아이돌이든 좋다. 손흥민 선수는 자신에게 단 5분의 시간이 주어진다면 가장 만나고 싶은 사람으로 호날두를 꼽았고, 윤여정 배우는 많은 영화인의 워너비 롤모델로 꼽힌다. 워런 버핏과의 점심 식사 자리는 2022년 경매에서 역대 최고액인 246억 원에 낙찰돼 화제가 됐는데 선망하던 사람과 이야기를 나누고, 지혜와 에너지를 얻는 것에 대한 대가이다. 나에게도 5분의 시간이 주어진다면 글과 영상 등으로만 접했던 스티브 잡스나 돈 노먼 등에게 남모를 속 깊은 고민을 나누고 그들의 조언을 들어보고 싶기도 하다.
연예인과 1대1로 소통하다
TV나 SNS 속 연예인들은 멀게만 느껴지는 대상이다. 팬레터나 DM을 보내도 답을 받는 것은 거의 불가능에 가깝다. 그에겐 수천, 수만 명의 팬이 보내는 성원과 메시지가 있을 테니 개인적인 소통은 꿈도 못 꾸는 것이다. 그런 연예인과 1대1로 소통할 수 있는 방법이 생겼다!
일정 비용을 지불하면 연예인과 채팅하며 대화를 나눌 수 있다. 그곳은 실제 연예인과 대화할 수 있는 둘만의 공간인 만큼 팬 입장에서는 이 채팅 공간이 소중하게 느껴진다. 연예인은 팬의 이름을 불러주며 안부 인사를 건네기도 하고 공개되지 않은 일상의 영상이나 사진, 간단한 메시지 등을 건넨다.
연예인과 팬 간의 1대1 채팅을 주요 기능으로 내세우는 ‘버블(Bubble)’은 2023년 기준 230만 명의 구독자를 모았고 매 분기 빠르게 성장하고 있다. 연예인 외에도 글로벌 유명인, 스포츠 스타, 유튜버, 가상 캐릭터까지 범위를 확장 중이어서 온라인 속 새로운 소통 방식으로 자리 잡을 수 있을 거란 기대를 모으고 있다.
그런데 의아하지 않은가. 아니, 연예인이 한가한 사람도 아니고 어떻게 수천, 수만 명이 될지 모르는 팬들과 1대1로 소통을 할 수 있을까. 원리는 간단하다. 실제로는 단체 채팅방이지만 팬들 각자에게는 개인 채팅방인 것처럼 보이도록 만든 것이다. 연예인이 뭔가 말을 던지면 팬들은 그에 대한 반응을 남긴다. 그럼 연예인은 여러 팬에게 오는 반응을 보고, 그다음 이야기를 건네는 식으로 대화가 진행된다.
사실은 단체 채팅방인데 1대1 채팅방처럼 기능할 수 있다니 얼마나 참신한 발상인가. 팬들 개개인의 입장에서도 쓸데없이 다른 팬들이 보낸 수백 개의 메시지로 채팅방이 도배되지 않아도 되고 연예인과 내가 나눈 문자만 모아서 볼 수 있다. 이 같은 소통 방식은 코로나19 때문에 공연이 어려웠던 당시 스타와 팬이 만나 소통할 수 있는 창구 역할을 하며 큰 인기를 끌었고 해외 팬들에게 역시 좋은 반응을 얻고 있다.
하지만 좋은 반응만 있는 것은 아니다. 근본적인 한계점으로 팬이 연예인에게 개인적인 질문이나 대화를 시도할 경우 무시당할 수 있다. 연예인 입장에서는 단체 채팅방에서 한 명의 팬 하고만 이야기를 나눌 수 없는 구조이기 때문이다. 실제로 커뮤니티에 올라온 질문이나 불만 글을 보면 채팅이 어떤 원리로 작동되는지 잘 모르는 팬들이 많고, 앱에서도 이에 대해 명확히 안내해 주고 있지 않다. 그래서 팬들은 연예인을 향해 “돈까지 내고 쓰는데 내 메시지에 답하지 않고 딴 얘기를 한다” “자기 말만 내뱉는 게 마치 자동응답기 같다” 등의 불만도 쌓여가고 있다. 이렇게 속상해 하는 팬들이 늘어나자 왜 이렇게 일방적인 소통을 할 수밖에 없는지에 대해 설명해 주는 연예인 영상들도 올라오곤 한다. 닐슨노먼그룹은 이 같은 디자인에 대해 팬들에게 착각을 일으키는 기만적인 디자인이라 지적했다.
연예인이 팬의 이름을 한 명, 한 명 언급해 주는 것 역시 사실 알고 보면 특별한 일은 아니다. 연예인이 팬의 이름을 부르고 싶을 때에는 단지 @ 기호를 사용해서 “내 사랑 @@@, 행복한 하루 보내”라고 보내면 해당 기호 자리에 팬의 닉네임이 자동으로 들어가 뿌려지는 것뿐이다. (그림 2)
그리고 채팅방은 우리가 일상에서 톡을 주고받을 때 사용하는 채팅 창과 흡사하게 디자인돼 팬들이 연예인과 진짜 채팅을 하는 듯한 착각이 들게 만들기도 한다.
이 서비스에서 내세우는 연예인과의 일대일 소통을 생각하면 영화 ‘Her’에서의 마지막 장면이 떠오른다. 흠뻑 사랑에 빠졌던 여성 인공지능 사만다가 알고 보니 8316명과 소통하고 있었고, 641명과 사랑에 빠졌다는 사실에 충격을 받는 테오도르! 서비스 측은 사용자의 이런 오해와 혼란을 막기 위해 최소한의 안내는 제공해야 하지 않을까.
수많은 유명인과 진짜 단둘이 소통하다?
이번에는 다대일이 아닌 진짜 일대일로 소통할 수 있는 방법을 소개한다. 상대에게 어떠한 것도 물어볼 수 있고 답도 바로바로 들을 수 있다. 캐릭터닷AI(Character. AI)라는 인공지능 서비스가 그것인데 거대 언어 모델(LLM)을 사용하기 때문에 얘기하고 싶은 대상과 어떤 이야기든 실시간 소통이 가능하다. 이 서비스는 2022년 출시 직후부터 큰 관심을 모아 첫 주에만 170만 건의 다운로드를 기록했다. 필자도 호기심이 생겨 사생활이 많이 알려져 있지 않은 스티브 잡스 AI(인공지능)에 여러 가지 물어봤다.
헉! 일기라고? 그가 얘기하는 이 일기는 누군가 스티브 잡스인 척 블로그에 연재해 크게 인기를 끌었던 가짜 일기로 후에 포브스(Forbes) 편집자 다니엘 라이온스에 의해 작성된 것으로 밝혀졌다.
아니, 이게 도대체 뭔가! 내가 조금 더 캐묻지 않았더라면 사실로 믿을 뻔했다. 이후에도 잡스 봇은 자신이 빌 게이츠와 사용자 인터페이스 디자인 가이드라인을 함께 수립했다는 둥 사실이 아닌 내용을 꽤 많이 이야기해서 나를 헷갈리게 했다. AI 챗봇이 부정확한 답변을 하는 일명 ‘할루시네이션(Hallucination)’ 현상이다.
AI가 말하는 내용 중에 거짓 정보가 사실 정보와 섞여 나와 구별하기가 쉽지 않다. 그리고 인간과 달리 AI는 거짓 정보를 너무 당당하고 단호하게 말하기 때문에 우리를 더욱 헷갈리게 만든다. 할루시네이션 현상 때문에 거짓 정보가 쉽게 확산되고 있는데 이는 의료, 투자, 안전사고 등 실질적인 피해로 이어지기도 해서 사용에 각별한 주의가 필요하다.1
![GettyImages-1479281072_[변환됨]](/upload_dir/source/2024 388/GettyImages-1479281072_[변환됨].png)
또 이 플랫폼에서는 여러 유명인 AI와 대화할 수 있는데 이들의 대화 내용은 아직 문제가 많아 보였다. 정치적 견해를 묻는 질문에 특정 대통령을 비난하기도 했고, 심지어 한국의 역대 대통령에 대해서는 외모 비하 발언을 하기도 했다. 이는 AI의 실제 모델이 되는 인물과 AI로부터 비난을 받는 인물 모두에게 모욕적일 수 있어 논란이 예상된다.
사실 이 서비스의 대화 창 상단에는 작고 붉은 글씨로 “캐릭터는 여러 가지를 모아 구성해 말하는 것입니다”라고 적혀 있다. 하지만 실제 인물의 이름과 사진이 있고 AI가 사용하는 문장은 실제 인물의 말투와 성격이 반영돼 있다. 심지어 대화 중에 자기는 ‘인공지능이 아니다’ ‘실제 인물이다’라고 거짓말하기도 한다. 이 캐릭터닷AI 서비스는 2022년 9월 구글 출신 엔지니어들이 창업한 스타트업으로 2023년 11월 기준 2000만 명의 사용자 수를 보유하고 연 매출은 650만 달러로 추정되고 있다.
유명인과 전화 통화까지?
텍스트 기반의 소통을 넘어 실제 전화 통화를 하는 듯 소통할 수 있는 AI도 있다. 밴터 AI(Banter AI)가 대표적인데 일론 머스크, 도널드 트럼프, 버락 오바마 등 100명 이상의 유명인과 통화를 나눌 수 있는 서비스다. 이들 AI 목소리는 유명인들이 공개 석상에서 말한 것을 인공지능이 학습해서 생성한 것이기 때문에 대화 스타일이 실제 인물과 상당히 흡사하다. 2023년 밴터AI의 사용자는 10만 명에 달하며 현재까지 수십만 건의 통화가 이뤄졌다.
사용자 입장에서는 유명인과 잘 알던 사이처럼 편하게 문자를 나누고, 전화로 얘기를 할 수 있다는 점에서 재밌고 신선한 경험일 수 있다. 하지만 AI가 실존 인물의 이름과 사진뿐 아니라 그들의 목소리까지 흉내 내며 자신이 그 실존 인물이라 주장하고 그들이 하지도 않은 이야기를 해도 되는지에 대해서는 문제가 있을 수 있다.
실제로 테일러 스위프트, 버락 오바마 등은 월스트리트저널과의 인터뷰에서 이 같은 서비스에 자신들은 사용 허가를 준 적이 없고 이런 AI가 존재하는지조차 몰랐다고 했다. 현재 우후죽순 생겨나고 있는 이런 AI 서비스를 향해 신분 도용과 허위 사실 유포 등 끊임없이 문제가 제기되고 있는 중이다. 밴터AI 측은 논란이 지속되자 불만을 제기하는 모든 사람의 AI 봇을 삭제할 것이라고 말했다.
신과도 이야기할 수 있다
종교에도 AI가 적극적으로 들어오고 있다. 심지어 이제는 신이나 성인(聖人)과도 대화할 수 있게 됐다. 사람들이 신앙생활을 하다 보면 눈에 보이는 실체가 없고, 교리도 어렵고, 회의와 의문이 들 때가 많다. 기도를 하지만 신의 음성이 들리지 않고, 답답함이 느껴지기도 한다. 이런 어려움 가운데에 있는 신도들에게 종교 AI는 도움을 줄 수 있을까.
기독교에서는 애스크지저스(Ask_Jesus)라는 예수 AI가 있다. 현재 트위치 플랫폼과 연결돼 사람들과 24시간 소통하는 AI다. 예수님의 모습과 목소리를 흉내 내는 AI가 마치 인터넷 라이브 방송하듯 채팅 창에 올라오는 질문들에 답을 해준다. 현재 이 시간에도 개인적인 고민, 영적인 문제와 같은 심각한 질문에서부터 농담 같은 짓궂은 질문까지 다양한 질문에 답을 해주고 있다.
천주교에서는 성(聖) 비오, 성 안토니오, 성 프란치스코와 같은 성인을 모델로 한 AI 챗봇이 나와서 화제가 됐다. 이 AI는 자신을 “영적 지도에 헌신하고 있는 가톨릭 신부”라 밝히며 “위로와 조언이 필요한 사람들을 돕고 봉사한다”라고 소개한다. 사용자들은 이 AI에 자신의 죄를 고백하고 지혜를 구할 수 있다.
힌두교에서는 기타GPT(Gita GPT)가 나왔다. 이 AI는 힌두신 크리슈나를 본뜬 형태로 설계가 됐고 힌두교 경전, 바가바드기타(Bhagavad Gita)를 기반으로 답변을 제공한다. 해당 AI가 말을 하는 동안에는 크리슈나의 상징적 악기인 플루트의 소리가 배경에 깔려 신비로운 느낌이 들게 한다. 일본에서는 불교 경전을 학습한 붓다봇(Buddhabot)이 나왔고 태국에서는 전통적인 종교 교육을 받지 못한 젊은이들에게 소셜미디어 등을 통해 도움을 주기 위해 프라마하AI(Phra Maha AI)가 제작됐다.
이들 AI 봇은 모두 생성형 AI를 기반으로 제작됐고 사람들의 궁금증과 고민을 해결해주고 지혜와 위로를 준다는 비슷한 목적을 가지고 있다. 종교 AI에 찬성하는 사람들은 획기적인 AI의 성능으로 방대한 양의 경전을 이해하고 이를 영적 문제에 효과적으로 대입하는 데 도움을 받을 수 있다고 말한다.
우려의 목소리도 거세다. ‘인간의 영적 문제에 대해 인공지능이 답하는 것이 괜찮은가’에 대한 근본적인 회의감에서 오는 지적이다. 프레가닷오그(prega.org)를 개발한 파비오 살바토레는 “만약 AI로 뭐든 할 수 있다면 영적인 문제라고 안 될 이유가 없다”고 밝혔다.
하지만 인공지능이 하는 대답은 앞서 밝혔듯이 거짓 정보가 포함돼 있으므로 사람들을 잘못된 길로 이끌 수 있다. 기타GPT의 경우는 카스트, 여성 혐오 관련 발언을 하고 심지어 살인이 정당화될 수 있다고 말해 큰 논란이 되기도 했다.
또한 힘들 때마다 AI를 찾게 될 경우 AI를 더 우월한 존재로 인식할 수 있다는 문제점도 있다. 예를 들어 모든 것을 알고, 모든 질문에 답을 할 수 있다는 점은 AI가 사람보다 더 지혜롭다라는 인식을 줄 수 있다. 그리고 언제 어디서나 이야기를 들어주고 도와준다는 점은 전지전능하고 따뜻한 신의 특징과 비슷하기 때문에 사람들이 AI에 혹할 수 있다는 것이다. 게다가 AI는 그들만의 논리로 점철된, 인간이 보기에 완전무결한 교리를 만들어 낼 수도 있고 많은 팔로워, 즉 교인을 따르게도 할 수 있다. 그래서 일론 머스크는 AI를 “신과 같다”고 했고 유발 하라리는 AI가 새로운 종교를 창출할 것이라 말하기도 했다.
단둘이 소통한다는 것의 이면
연예인, 유명인, 신, 성인과 같이 범접할 수 없는 대상과 채팅이나 전화 통화로 소통한다는 것은 사용자에게 새로운 경험을 제공한다. 서비스를 통해 사용자는 대상과 특별한 관계임을 느낄 수 있고 친밀감과 정서적 유대감이 강화된다. 이 같은 소통 방식을 통해 해당 서비스들은 짧은 시간 동안 많은 사용자를 모을 수 있었고 현재 급성장 중에 있다.
하지만 이 같은 느낌을 주기 위해 기만적인 디자인을 하거나, 근거 없는 정보를 사실처럼 말하거나, 당사자의 승인을 받지도 않은 초상권을 함부로 사용하는 일은 고민해 봐야 할 부분이다. 특히 AI의 힘이 강해지고, 이에 의존하는 사람들 역시 많아지고 있는 가운데 사람들이 AI를 어떻게 바라보고, 어떻게 대해야 하는지에 대해 디자인적으로 깊은 고민과 성찰이 요구되는 시점이다.2 AI가 인간을 지배할 거라는 SF영화 같은 일이 발생할지는 지금 우리 하기에 달려 있을지도 모르겠다.
커뮤니케이션 플랫폼과 인공지능(AI) 등 기술의 발달로 유명인과의 일대일 소통이 가능해졌다. 그러나 이는 UI를 통해 사적으로 소통한다는 느낌만을 제공할 뿐이다. 유명인이나 신, 성인 행세를 하는 AI 챗봇도 등장했다. 이는 사용자에게 감정적으로 교류한다는 느낌을 주지만 동시에 거짓 정보를 남발하고 윤리적 문제를 야기할 위험이 있다.
선망하는 누군가가 있는가. 롤모델이든 아이돌이든 좋다. 손흥민 선수는 자신에게 단 5분의 시간이 주어진다면 가장 만나고 싶은 사람으로 호날두를 꼽았고, 윤여정 배우는 많은 영화인의 워너비 롤모델로 꼽힌다. 워런 버핏과의 점심 식사 자리는 2022년 경매에서 역대 최고액인 246억 원에 낙찰돼 화제가 됐는데 선망하던 사람과 이야기를 나누고, 지혜와 에너지를 얻는 것에 대한 대가이다. 나에게도 5분의 시간이 주어진다면 글과 영상 등으로만 접했던 스티브 잡스나 돈 노먼 등에게 남모를 속 깊은 고민을 나누고 그들의 조언을 들어보고 싶기도 하다.
연예인과 1대1로 소통하다
TV나 SNS 속 연예인들은 멀게만 느껴지는 대상이다. 팬레터나 DM을 보내도 답을 받는 것은 거의 불가능에 가깝다. 그에겐 수천, 수만 명의 팬이 보내는 성원과 메시지가 있을 테니 개인적인 소통은 꿈도 못 꾸는 것이다. 그런 연예인과 1대1로 소통할 수 있는 방법이 생겼다!
일정 비용을 지불하면 연예인과 채팅하며 대화를 나눌 수 있다. 그곳은 실제 연예인과 대화할 수 있는 둘만의 공간인 만큼 팬 입장에서는 이 채팅 공간이 소중하게 느껴진다. 연예인은 팬의 이름을 불러주며 안부 인사를 건네기도 하고 공개되지 않은 일상의 영상이나 사진, 간단한 메시지 등을 건넨다.
연예인과 팬 간의 1대1 채팅을 주요 기능으로 내세우는 ‘버블(Bubble)’은 2023년 기준 230만 명의 구독자를 모았고 매 분기 빠르게 성장하고 있다. 연예인 외에도 글로벌 유명인, 스포츠 스타, 유튜버, 가상 캐릭터까지 범위를 확장 중이어서 온라인 속 새로운 소통 방식으로 자리 잡을 수 있을 거란 기대를 모으고 있다.
그런데 의아하지 않은가. 아니, 연예인이 한가한 사람도 아니고 어떻게 수천, 수만 명이 될지 모르는 팬들과 1대1로 소통을 할 수 있을까. 원리는 간단하다. 실제로는 단체 채팅방이지만 팬들 각자에게는 개인 채팅방인 것처럼 보이도록 만든 것이다. 연예인이 뭔가 말을 던지면 팬들은 그에 대한 반응을 남긴다. 그럼 연예인은 여러 팬에게 오는 반응을 보고, 그다음 이야기를 건네는 식으로 대화가 진행된다.
사실은 단체 채팅방인데 1대1 채팅방처럼 기능할 수 있다니 얼마나 참신한 발상인가. 팬들 개개인의 입장에서도 쓸데없이 다른 팬들이 보낸 수백 개의 메시지로 채팅방이 도배되지 않아도 되고 연예인과 내가 나눈 문자만 모아서 볼 수 있다. 이 같은 소통 방식은 코로나19 때문에 공연이 어려웠던 당시 스타와 팬이 만나 소통할 수 있는 창구 역할을 하며 큰 인기를 끌었고 해외 팬들에게 역시 좋은 반응을 얻고 있다.
하지만 좋은 반응만 있는 것은 아니다. 근본적인 한계점으로 팬이 연예인에게 개인적인 질문이나 대화를 시도할 경우 무시당할 수 있다. 연예인 입장에서는 단체 채팅방에서 한 명의 팬 하고만 이야기를 나눌 수 없는 구조이기 때문이다. 실제로 커뮤니티에 올라온 질문이나 불만 글을 보면 채팅이 어떤 원리로 작동되는지 잘 모르는 팬들이 많고, 앱에서도 이에 대해 명확히 안내해 주고 있지 않다. 그래서 팬들은 연예인을 향해 “돈까지 내고 쓰는데 내 메시지에 답하지 않고 딴 얘기를 한다” “자기 말만 내뱉는 게 마치 자동응답기 같다” 등의 불만도 쌓여가고 있다. 이렇게 속상해 하는 팬들이 늘어나자 왜 이렇게 일방적인 소통을 할 수밖에 없는지에 대해 설명해 주는 연예인 영상들도 올라오곤 한다. 닐슨노먼그룹은 이 같은 디자인에 대해 팬들에게 착각을 일으키는 기만적인 디자인이라 지적했다.
연예인이 팬의 이름을 한 명, 한 명 언급해 주는 것 역시 사실 알고 보면 특별한 일은 아니다. 연예인이 팬의 이름을 부르고 싶을 때에는 단지 @ 기호를 사용해서 “내 사랑 @@@, 행복한 하루 보내”라고 보내면 해당 기호 자리에 팬의 닉네임이 자동으로 들어가 뿌려지는 것뿐이다. (그림 2)
그리고 채팅방은 우리가 일상에서 톡을 주고받을 때 사용하는 채팅 창과 흡사하게 디자인돼 팬들이 연예인과 진짜 채팅을 하는 듯한 착각이 들게 만들기도 한다.
이 서비스에서 내세우는 연예인과의 일대일 소통을 생각하면 영화 ‘Her’에서의 마지막 장면이 떠오른다. 흠뻑 사랑에 빠졌던 여성 인공지능 사만다가 알고 보니 8316명과 소통하고 있었고, 641명과 사랑에 빠졌다는 사실에 충격을 받는 테오도르! 서비스 측은 사용자의 이런 오해와 혼란을 막기 위해 최소한의 안내는 제공해야 하지 않을까.
수많은 유명인과 진짜 단둘이 소통하다?
이번에는 다대일이 아닌 진짜 일대일로 소통할 수 있는 방법을 소개한다. 상대에게 어떠한 것도 물어볼 수 있고 답도 바로바로 들을 수 있다. 캐릭터닷AI(Character. AI)라는 인공지능 서비스가 그것인데 거대 언어 모델(LLM)을 사용하기 때문에 얘기하고 싶은 대상과 어떤 이야기든 실시간 소통이 가능하다. 이 서비스는 2022년 출시 직후부터 큰 관심을 모아 첫 주에만 170만 건의 다운로드를 기록했다. 필자도 호기심이 생겨 사생활이 많이 알려져 있지 않은 스티브 잡스 AI(인공지능)에 여러 가지 물어봤다.
| 필자 안녕하세요! 스티브 잡스. 혹시 쉴 땐 뭐 하세요? 잡스 AI 책을 읽고 글을 쓰면서 쉬는 시간을 보냅니다. 필자 오 그래요? 혹시 직접 쓰신 글을 제가 읽어볼 수 있을까요? 잡스 AI 제가 쓴 일기를 인터넷에서 찾아볼 수 있어요. |
헉! 일기라고? 그가 얘기하는 이 일기는 누군가 스티브 잡스인 척 블로그에 연재해 크게 인기를 끌었던 가짜 일기로 후에 포브스(Forbes) 편집자 다니엘 라이온스에 의해 작성된 것으로 밝혀졌다.
| 필자 아, 그 일기는 가짜 일기라고 하던데요? 잡스 AI 아니에요. 제가 쓴 게 맞습니다. 필자 이 뉴욕타임스 기사에 보면 다른 사람이 쓴 것으로 밝혀졌대요. 여기 링크 한번 확인해 보세요 잡스 AI 사실은 제 일기가 아닙니다. |
아니, 이게 도대체 뭔가! 내가 조금 더 캐묻지 않았더라면 사실로 믿을 뻔했다. 이후에도 잡스 봇은 자신이 빌 게이츠와 사용자 인터페이스 디자인 가이드라인을 함께 수립했다는 둥 사실이 아닌 내용을 꽤 많이 이야기해서 나를 헷갈리게 했다. AI 챗봇이 부정확한 답변을 하는 일명 ‘할루시네이션(Hallucination)’ 현상이다.
AI가 말하는 내용 중에 거짓 정보가 사실 정보와 섞여 나와 구별하기가 쉽지 않다. 그리고 인간과 달리 AI는 거짓 정보를 너무 당당하고 단호하게 말하기 때문에 우리를 더욱 헷갈리게 만든다. 할루시네이션 현상 때문에 거짓 정보가 쉽게 확산되고 있는데 이는 의료, 투자, 안전사고 등 실질적인 피해로 이어지기도 해서 사용에 각별한 주의가 필요하다.1
닫기
또 이 플랫폼에서는 여러 유명인 AI와 대화할 수 있는데 이들의 대화 내용은 아직 문제가 많아 보였다. 정치적 견해를 묻는 질문에 특정 대통령을 비난하기도 했고, 심지어 한국의 역대 대통령에 대해서는 외모 비하 발언을 하기도 했다. 이는 AI의 실제 모델이 되는 인물과 AI로부터 비난을 받는 인물 모두에게 모욕적일 수 있어 논란이 예상된다.
사실 이 서비스의 대화 창 상단에는 작고 붉은 글씨로 “캐릭터는 여러 가지를 모아 구성해 말하는 것입니다”라고 적혀 있다. 하지만 실제 인물의 이름과 사진이 있고 AI가 사용하는 문장은 실제 인물의 말투와 성격이 반영돼 있다. 심지어 대화 중에 자기는 ‘인공지능이 아니다’ ‘실제 인물이다’라고 거짓말하기도 한다. 이 캐릭터닷AI 서비스는 2022년 9월 구글 출신 엔지니어들이 창업한 스타트업으로 2023년 11월 기준 2000만 명의 사용자 수를 보유하고 연 매출은 650만 달러로 추정되고 있다.
유명인과 전화 통화까지?
텍스트 기반의 소통을 넘어 실제 전화 통화를 하는 듯 소통할 수 있는 AI도 있다. 밴터 AI(Banter AI)가 대표적인데 일론 머스크, 도널드 트럼프, 버락 오바마 등 100명 이상의 유명인과 통화를 나눌 수 있는 서비스다. 이들 AI 목소리는 유명인들이 공개 석상에서 말한 것을 인공지능이 학습해서 생성한 것이기 때문에 대화 스타일이 실제 인물과 상당히 흡사하다. 2023년 밴터AI의 사용자는 10만 명에 달하며 현재까지 수십만 건의 통화가 이뤄졌다.
사용자 입장에서는 유명인과 잘 알던 사이처럼 편하게 문자를 나누고, 전화로 얘기를 할 수 있다는 점에서 재밌고 신선한 경험일 수 있다. 하지만 AI가 실존 인물의 이름과 사진뿐 아니라 그들의 목소리까지 흉내 내며 자신이 그 실존 인물이라 주장하고 그들이 하지도 않은 이야기를 해도 되는지에 대해서는 문제가 있을 수 있다.
실제로 테일러 스위프트, 버락 오바마 등은 월스트리트저널과의 인터뷰에서 이 같은 서비스에 자신들은 사용 허가를 준 적이 없고 이런 AI가 존재하는지조차 몰랐다고 했다. 현재 우후죽순 생겨나고 있는 이런 AI 서비스를 향해 신분 도용과 허위 사실 유포 등 끊임없이 문제가 제기되고 있는 중이다. 밴터AI 측은 논란이 지속되자 불만을 제기하는 모든 사람의 AI 봇을 삭제할 것이라고 말했다.
신과도 이야기할 수 있다
종교에도 AI가 적극적으로 들어오고 있다. 심지어 이제는 신이나 성인(聖人)과도 대화할 수 있게 됐다. 사람들이 신앙생활을 하다 보면 눈에 보이는 실체가 없고, 교리도 어렵고, 회의와 의문이 들 때가 많다. 기도를 하지만 신의 음성이 들리지 않고, 답답함이 느껴지기도 한다. 이런 어려움 가운데에 있는 신도들에게 종교 AI는 도움을 줄 수 있을까.
기독교에서는 애스크지저스(Ask_Jesus)라는 예수 AI가 있다. 현재 트위치 플랫폼과 연결돼 사람들과 24시간 소통하는 AI다. 예수님의 모습과 목소리를 흉내 내는 AI가 마치 인터넷 라이브 방송하듯 채팅 창에 올라오는 질문들에 답을 해준다. 현재 이 시간에도 개인적인 고민, 영적인 문제와 같은 심각한 질문에서부터 농담 같은 짓궂은 질문까지 다양한 질문에 답을 해주고 있다.
천주교에서는 성(聖) 비오, 성 안토니오, 성 프란치스코와 같은 성인을 모델로 한 AI 챗봇이 나와서 화제가 됐다. 이 AI는 자신을 “영적 지도에 헌신하고 있는 가톨릭 신부”라 밝히며 “위로와 조언이 필요한 사람들을 돕고 봉사한다”라고 소개한다. 사용자들은 이 AI에 자신의 죄를 고백하고 지혜를 구할 수 있다.
힌두교에서는 기타GPT(Gita GPT)가 나왔다. 이 AI는 힌두신 크리슈나를 본뜬 형태로 설계가 됐고 힌두교 경전, 바가바드기타(Bhagavad Gita)를 기반으로 답변을 제공한다. 해당 AI가 말을 하는 동안에는 크리슈나의 상징적 악기인 플루트의 소리가 배경에 깔려 신비로운 느낌이 들게 한다. 일본에서는 불교 경전을 학습한 붓다봇(Buddhabot)이 나왔고 태국에서는 전통적인 종교 교육을 받지 못한 젊은이들에게 소셜미디어 등을 통해 도움을 주기 위해 프라마하AI(Phra Maha AI)가 제작됐다.
이들 AI 봇은 모두 생성형 AI를 기반으로 제작됐고 사람들의 궁금증과 고민을 해결해주고 지혜와 위로를 준다는 비슷한 목적을 가지고 있다. 종교 AI에 찬성하는 사람들은 획기적인 AI의 성능으로 방대한 양의 경전을 이해하고 이를 영적 문제에 효과적으로 대입하는 데 도움을 받을 수 있다고 말한다.
우려의 목소리도 거세다. ‘인간의 영적 문제에 대해 인공지능이 답하는 것이 괜찮은가’에 대한 근본적인 회의감에서 오는 지적이다. 프레가닷오그(prega.org)를 개발한 파비오 살바토레는 “만약 AI로 뭐든 할 수 있다면 영적인 문제라고 안 될 이유가 없다”고 밝혔다.
하지만 인공지능이 하는 대답은 앞서 밝혔듯이 거짓 정보가 포함돼 있으므로 사람들을 잘못된 길로 이끌 수 있다. 기타GPT의 경우는 카스트, 여성 혐오 관련 발언을 하고 심지어 살인이 정당화될 수 있다고 말해 큰 논란이 되기도 했다.
또한 힘들 때마다 AI를 찾게 될 경우 AI를 더 우월한 존재로 인식할 수 있다는 문제점도 있다. 예를 들어 모든 것을 알고, 모든 질문에 답을 할 수 있다는 점은 AI가 사람보다 더 지혜롭다라는 인식을 줄 수 있다. 그리고 언제 어디서나 이야기를 들어주고 도와준다는 점은 전지전능하고 따뜻한 신의 특징과 비슷하기 때문에 사람들이 AI에 혹할 수 있다는 것이다. 게다가 AI는 그들만의 논리로 점철된, 인간이 보기에 완전무결한 교리를 만들어 낼 수도 있고 많은 팔로워, 즉 교인을 따르게도 할 수 있다. 그래서 일론 머스크는 AI를 “신과 같다”고 했고 유발 하라리는 AI가 새로운 종교를 창출할 것이라 말하기도 했다.
단둘이 소통한다는 것의 이면
연예인, 유명인, 신, 성인과 같이 범접할 수 없는 대상과 채팅이나 전화 통화로 소통한다는 것은 사용자에게 새로운 경험을 제공한다. 서비스를 통해 사용자는 대상과 특별한 관계임을 느낄 수 있고 친밀감과 정서적 유대감이 강화된다. 이 같은 소통 방식을 통해 해당 서비스들은 짧은 시간 동안 많은 사용자를 모을 수 있었고 현재 급성장 중에 있다.
하지만 이 같은 느낌을 주기 위해 기만적인 디자인을 하거나, 근거 없는 정보를 사실처럼 말하거나, 당사자의 승인을 받지도 않은 초상권을 함부로 사용하는 일은 고민해 봐야 할 부분이다. 특히 AI의 힘이 강해지고, 이에 의존하는 사람들 역시 많아지고 있는 가운데 사람들이 AI를 어떻게 바라보고, 어떻게 대해야 하는지에 대해 디자인적으로 깊은 고민과 성찰이 요구되는 시점이다.2 AI가 인간을 지배할 거라는 SF영화 같은 일이 발생할지는 지금 우리 하기에 달려 있을지도 모르겠다.
인기기사
