생각하는 디자인
고인(故人) AI, 소망과 현실 사이
Article at a Glance
고인이 된 사람을 AI를 통해 복원하는 기술이 점차 상용화되고 있다. 고인 AI를 마주한 사람들은 감정적인 교감을 나누기도 하고 괴리감을 느끼기도 한다. 고인 AI는 고인에 대해 강한 그리움을 느끼며 정서적으로 취약한 유족에게 강한 의존 경향을 야기할 수 있다. 아울러 AI의 기술적 한계로 고인의 생전 의도와는 관계 없는 말과 행동을 뱉을 수도 있다. 고인을 계속 만나기 위해서 결제를 유도하게 하는 디자인 장치를 숨기기도 쉽다. 제한된 시간과 공간에서 고인AI를 접할 수 있게 하거나 고인이 살아 생전에 실제로 했던 말만을 토대로 AI를 만드는 등의 대안이 제시되고 있다.
호기심이 많은 해리 포터는 투명 망토를 쓰고 호그와트 마법 학교의 제한 구역 이곳저곳을 돌아다닌다. 그러다 우연히 오래된 거울 하나를 발견한다. 커다랗고 화려한 장식을 한 거울에 자신의 모습을 비추자 꿈에 그리던 돌아가신 부모님을 만나게 된다. 어머니는 해리와 같은 초록색 눈을 가졌고, 아버지는 안경을 쓰고 흐트러진 머리를 하고 있었다. 부모님은 해리에게 반갑게 미소 지으며 손을 흔들었고, 그들은 오랜 시간 함께 시간을 보냈다. 해리는 행복해하며 다음 날, 그다음 날에도 부모님을 만나기 위해 거울로 찾아온다.
많은 이가 가슴속에 그리움을 품고 산다. 단 한 번만이라도 볼 수 있다면 해주고 싶은 말이 많지만 이미 떠난 자를 다시 볼 수 없기에 마음속으로만 되뇐다. 해리가 봤던 이 거울이 우리에게도 있다면 어떨까.
고인 AI, 의미 있는 존재인가, 허상인가
몇 년 전부터 고인(故人)을 디지털 휴먼으로 재현해 낸 프로그램들이 큰 관심을 모으고 있다. ‘너를 만났다’라는 다큐멘터리에서는 어머니와 사망한 딸, 그리고 남편과 사망한 아내 등이 디지털 기술을 통해 다시 마주했고, 드라마 ‘전원일기’에서 응삼이 역을 맡았던 고(故) 박윤배 배우가 다른 출연진과 재회하는 시간을 갖기도 했다. 이 밖에도 신해철, 울랄라세션의 임윤택, 김광석, 유재하, 거북이의 임성훈(터틀맨) 등 유명을 달리했던 가수들이 디지털 휴먼으로 환생해 무대에 섰는데 이들을 그리워했던 사람들에게 놀라움과 반가움을 선사했다.
고인을 추모하고 애도할 수 있도록 돕는 이 같은 기술을 ‘애도 기술(Grief Tech)’이라 부르기도 하는데 최근 방송에 소개되면서 시청자들은 “돈이 얼마가 들더라도 이 기술을 사용해 보고 싶다” “나도 아버지의 웃는 얼굴 보며 인사드릴 수 있다면 마음이 한결 편해질 것 같다” “비통함을 겪고 있는 가족들에게 큰 위로를 주는 선한 기술이다”라며 큰 관심을 보였다.
긍정적인 시각만 있는 것은 아니었다. 일부 사람은 “이들이 대면하는 고인은 결국 프로그래밍 된 허상일 뿐이지 않느냐” “고인이 아닌데 고인의 모습으로 고인인 척 행동하는 것 자체가 괴이하다” “유가족들이 그리웠던 사람을 만나 잠시 위안을 얻을 수 있었겠지만 결국 현실과의 괴리 때문에 더 큰 상처가 될 것”이라는 비판적인 의견들을 남기기도 했다.
기술이 발전하면서 고인 디지털 휴먼(이하 ‘고인 AI’)이 사람의 모습과 점점 비슷해지고 있는 가운데 한쪽에서는 고인 AI가 위로를 줄 수 있는 ‘의미 있는 존재’로 인식하고, 다른 한쪽에서는 AI를 ‘실제 사람과 혼동하면 안 된다’며 우려하고 있다. 이는 오랜 논쟁거리였던 ‘AI가 인간에게 어떤 존재여야 하는가’에 대한 철학적 쟁점과 관련이 있다. 고인 AI를 인간과 ‘대등한’ 위치에서 적극적으로 위로를 주는 존재로 디자인해야 하는지, 아니면 AI를 인간의 도구, 즉 수동적 존재로 한정시켜야 하는 것인지에 대한 것이다.
지금까지의 AI 기술들은 주로 약(弱)인공지능 형태로 도구 역할을 수행해 왔다. 그러나 최근 나타나는 AI는 사람들에게 큰 신뢰를 얻으며 점점 인간의 보조적 역할을 하는 도구의 위치를 넘어 인간과 대등한 수준으로 한 걸음씩 나아가는 중이다.
누구나 고인과 재회할 수 있다
고인 AI는 많은 비용과 시간이 소요되는 기술이기 때문에 그동안 방송 프로그램에서나 간간히 접할 수 있었다. 하지만 많은 사람이 이 기술에 관심을 갖게 되고 점차 기술의 가격도 낮아지면서 일반인들도 사용할 수 있는 서비스들이 생겨나고 있다.
먼저, 아마존은 2022년 한 콘퍼런스에서 그들의 AI 스피커인 알렉사(Alexa)가 고인의 목소리를 낼 수 있는 새로운 기능을 소개했다. 소개 영상에서 한 소년이 알렉사에 “할머니가 오즈의 마법사 책을 끝까지 읽어줄 수 있을까?”라고 묻자, 알렉사는 돌아가신 할머니 목소리로 책을 읽어주었고 소년이 이를 행복하게 듣는 모습이 공개됐다.
히어에프터AI(Hereafter AI)는 고인의 과거 기록과 사진, 목소리 등의 기록에 기반한 AI 챗봇을 만들어 준다. 기록은 고인이 살아생전에 하거나 유가족이 남길 수 있다. AI 챗봇 형태이므로 유가족들은 고인이 보고 싶거나 궁금한 게 있을 때마다 언제 어디서든 대화를 나눌 수 있다. 이 서비스는 히어에프터AI의 대표가 돌아가신 아버지를 그리워하던 중 아버지 기록에 기반한 챗봇(Dadbot)을 만든 것에서부터 시작됐다고 한다.
스토리파일(Storyfile) 도 비슷한 방식으로 작동한다. 고인이 살아생전에 서비스가 제공하는 수백 가지 질문에 대해 영상으로 답을 해 놓으면 그것에 기반해 유가족들은 영상통화하듯 고인과 대화를 나눌 수 있다. 스토리파일의 CEO는 자신의 어머니 장례식에서 이 기술을 선보였는데 여기서 어머니와 대화하는 장면이 공개돼 화제가 됐다.
YOV(You, Only Virtual)는 가장 최근에 나온 서비스다. 사용자와 고인 간에 나눴던 문자 데이터로 AI를 학습시키고, 이렇게 만들어진 고인 AI도 이 사용자만을 위해 제작된다. 이 때문에 훨씬 더 개인 맞춤화된 봇을 만들 수 있고 윤리적 문제도 덜하다고 주장한다. YOV는 ‘고인과 작별 인사할 필요가 없다(Never Have to Say Goodbye)’는 점을 강조하며 고인과 소중한 순간들을 계속 이어 나가라고 말한다.
국내에는 딥브레인AI(DeepbrainAI)사의 리;메모리(Re;memory) 서비스가 있다. 고인이 생전에 스튜디오에서 3시간 정도 촬영과 인터뷰에 참여하면 이 데이터를 바탕으로 고인 AI가 구현되는 원리다. 고인이 살아 있을 때 촬영에 임해야 하고, 유가족이 고인 AI를 만나기 위해서는 서울 청담동에 위치한 딥브레인의 쇼룸에 방문해야 한다. 딥브레인은 상조 업계와도 손잡고 새로운 장례 문화를 개척하기 위해 노력 중이다.
많은 사람이 그리운 대상을 만나고 싶은 염원이 있는 만큼 이 서비스들이 그들의 소망을 어느 정도 해결해 줄 것이다. 또 윤리적 문제인 ‘고인의 동의 여부’에 관한 문제도 고인이 생전에 동의하고 참여까지 한 데이터를 사용하게 함으로써 어느 정도 해소할 수 있다. 그럼에도 불구하고 이 기술에 대해 근본적으로 생각해 볼 부분들이 있다.
고인과의 지속적 연결은 좋을까
“AI가 상실의 고통을 없앨 수는 없지만 우리의 기억을 지속시키는 것은 가능하다.”
아마존의 수석 부사장인 로힛 프라사드가 고인이 된 할머니 목소리로 말하는 알렉사를 선보이는 자리에서 한 말이다. 고인 AI를 사용하는 주된 목적은 유가족의 상실감을 줄이는 데 있는데 현재로서는 고인과의 연결을 지속하는 기술 자체에만 초점이 맞춰져 있는 듯하다. 아마존은 1분 미만의 샘플만 있어도 고인과 흡사하게 만들 수 있다고 하니 비약적인 기술 발전이다. 하지만 정작 사용자의 경험(UX)적 측면에 대해서는 많이 고민한 결과물인지 의문이 든다.
설령 고인 AI 기술이 위안을 줄 수 있을지라도 이 기술을 사용하는 것이 사용자에게 정말 유익할 것인지에 대해서는 주의를 기울일 필요가 있다. 고인 AI를 통해 사용자의 슬픈 감정이 ‘처리’될 경우 그들은 감정 조절을 위해 이 기술에 더욱 의존하게 될 것이기 때문이다. 특히 이 기술을 사용하는 사람들은 사별을 통해 슬픔을 겪고 있는, 정서적으로 취약한 상태에 있는 사람들이기 때문에 의존과 중독의 위험성이 더욱 크다.
일각에서는 지나친 우려라고 말한다. 기존에도 고인과 나눴던 메시지를 읽어보고 사진을 보며 대화를 나누기도 했던 만큼 고인 AI 서비스는 이것을 좀 더 인터랙티브(interactive)하게 만든 것일 뿐이라는 것이다. 고인 AI가 단순히 ‘도구’로서 작동하는 것이기 때문에 위험하지 않다는 의견이다. 그러나 최근 사람들이 AI에 속마음을 털어 놓고 사람보다 더 신뢰하고 의지하는 사례들이 늘어나는 것을 보면1 단순히 수동적 ‘도구’로 사용되는 단계는 넘어서고 있는 모양새다.
나아가 고인의 메시지를 읽고 고인의 사진과 대화를 나누는 추모 행위가 지속되다 보면 유가족을 과거에 머물게 하고, 사회로부터 고립시킬 위험이 있으며, 슬픔과 고통이 오히려 증가된다고 한다. 고인 AI 기술도 마찬가지로 분리 불안, 상실에 대한 집착을 유발한다. 슬픔과 고통을 가중시켜 결국 ‘지속적 애도 장애(Prolonged Grief Disorder)’로 이어질 수 있다고 전문가들은 우려한다. 이 때문에 고인 AI 기술을 꼭 필요한 사람들을 위해 ‘치료 목적’으로만 사용할 것을 제안하기도 한다.
고인이 살아 있었다면 정말 그렇게 했을까
2023년 초, 전원일기에서 응삼이 역을 맡았던 고 박윤배 배우가 디지털휴먼이 돼 전원일기 배우들과 만났을 때의 일이다. 죽었던 이가 눈앞에서 말하는 것을 보자 몇몇 배우는 눈이 휘둥그레지며 놀라워 했고, 무섭다며 눈을 피하는 배우도 있었다. 응삼이 AI는 배우 한 명, 한 명과 개인적인 추억을 공유하기도 하고, 상대 배우를 놀리는 농담을 던지기도 했다.2 이들의 대화는 겉보기엔 훈훈하게 보이기도 했다. 그러나 실제 박윤배 배우 입장에선 공개하기 꺼렸을 만한 개인사가 포함됐을 수도 있고, 자신이 하지 않았을 법한 짓궂은 농담을 던졌을 수도 있다.
또 다른 방송에서는 고(故) 김광석 가수가 AI로 소환돼 후배 김범수 가수의 ‘보고 싶다’를 불렀다. 김광석의 독특한 창법으로 듣는 명곡이었기에 시청자에게는 신기하고도 흥미로운 경험이었다. 무엇보다 이 기술이 아니었다면 쉽사리 접할 수 없는 경험이기도 했다. 하지만 실제 김광석의 입장에서는 어땠을까. 다른 가수의 노래를 부르는 걸 원치 않았을 수도 있고, 자신의 목소리가 이런 식으로 소비되는 게 불쾌했을 수도 있다. 더 안타까운 것은 이 방송 이후 이 기술이 일반인들에게까지 사용되면서 김광석 가수의 목소리로 여러 다른 후배 가수의 노래를 커버하는 영상들이 끊임없이 유튜브에 올라오고 있다. 음악 평론가 사이먼 레이놀즈는 이 같은 현상을 가리켜 ‘유령 노예질(Ghost slavery)’이라 지적하며 강하게 비판했다.
앞서 소개한 히어에프터 등의 고인 AI 서비스들은 사용자와의 매끄러운 대화를 위해 대형언어모델(LLM)에 기반한 생성형 AI 기술을 사용할 예정이다. 고인의 데이터가 많지 않은 상황에서도 AI가 그럴듯하게 소통할 수 있도록 문장을 생성해 주기 때문에 서비스 입장에서는 무척 유용한 기술이다. 그러나 이런 기술을 탑재한 시스템은 문장을 생성하는 과정에서 정보를 조작하는 경향이 있기 때문에 고인 AI가 하는 이야기 중 사실이 아니거나 고인이 하지 않았을 법한 이야기가 포함될 가능성이 높다. 결국 고인이 생전에 자신의 음성과 데이터 사용을 허락했을지라도 AI가 그것을 변형 및 확장할 수 있는 범위가 아직은 모호하기 때문에 여전히 윤리적으로 문제 될 소지가 있다.
진정 사용자를 위한 디자인이 가능할까
고인 AI 서비스들은 고인과의 ‘연결’에 지나치게 초점을 맞추는 경향이 있다. 그래서 고인이 보고 싶을 때 언제 어디서든 연결될 수 있다는 점을 강조한다. 앞서 살펴봤듯이 이 쉽고 잦은 ‘연결성’은 오히려 유족들에게 더 큰 고통을 줄 수 있다. 이보다는 사용자에게 더 초점을 맞춰 그들이 슬픔을 이겨내고 고인을 건강하게 떠나보낼 수 있도록 도와주는 것에 관심을 가질 필요가 있다.
딥브레인의 리;메모리 서비스는 고인 AI를 사용자의 모바일이나 PC에서 만나는 방식이 아닌 사용자가 외부의 ‘쇼룸’을 직접 방문해야 30분간 만날 수 있도록 디자인 설계했다. 이런 한정적인 만남이 사용자를 위하는 마음에서 비롯된 디자인인지는 밝혀지지 않았지만 의존과 중독의 위험성은 모바일 서비스에 비해 상대적으로 낮다고 볼 수 있다.
한편 사용자가 고인 AI와 어떤 방식으로 소통해야 하고 사용자에게 일어나는 효과는 어떤지에 대한 연구 역시 현재 부족한 실정이다. 고인 AI 서비스에서 행해지는 소통 방식은 현실의 채팅이나 영상통화 방식을 그대로 답습하고 있다. 이 때문에 고인을 살아 있는 사람으로 착각하기도 하고, 지나치게 의존하게 되는 혼란이 생기고 있는 것이다. 사용자의 소통 대상이 현실에 존재하지 않는 AI임을 자각할 수 있도록 명시해야 하고, 사용자에게 진정 위로가 되고 도움이 되는 소통 방식에 대한 학계의 관심과 연구가 요구된다.
사용자가 고인 AI와 소통할 때 어떤 이야기를 나눠야 하는지도 문제다. 고인 AI가 고인의 모습으로 사용자와 이런저런 많은 이야기를 할 수 있다면 신기하고 흥미로운 서비스가 될 수는 있겠으나 사실이 아닌 내용을 포함하게 될 가능성도 그만큼 커진다. 그렇다고 소통을 거의 하지 않게 된다면 사진을 보는 것과 크게 다를 바 없어지게 된다.
이에 대해 스토리파일은 고인이 생전에 말했던 영상들로만 소통하는 방식을 택했다. 사용자가 고인 AI에 질문을 하면 그 답에 해당되는 내용의 영상이 재생되는 셈이다. 고인은 생전에 수많은 질문에 대한 답을 영상으로 찍어야 하는 번거로움이 있고 사용자 입장에서는 고인 AI가 답을 못하는 경우가 많아 답답함이 있을 수 있겠지만 선을 넘지 않기 위한 스토리파일의 선택이자 노력인 것이다.
마지막으로, 고인 AI 서비스는 사용자를 현혹하고 기만하는 ‘디자인트랩’ 기법이 적용되기 특히 쉬운 분야이다. 예를 들어, 고인 AI 서비스 사용자가 서비스를 해지를 하고 싶을 때, 사용자는 고인을 포기하는 것이 쉽지 않을 것이다. 마치 드라마 ‘블랙미러’에서 죽은 연인을 꼭 닮은 고인 봇을 주인공이 차마 폐기하지 못하는 심리와 비슷하다. 이런 사용자의 죄책감을 이용해서 고인 AI를 업그레이드하라고 부추기거나 “고인과 좀 더 얘기하고 싶으면 돈을 더 내야 한다”는 식의 디자인은 결국 고인을 상업화한다는 비판으로 이어질 수 있으므로 주의가 요구된다.
현실을 잃지 않게 하는 소망의 거울을 위해
해리 포터는 거울에서 부모님을 본 이후 일상생활이 어려울 정도로 거울 생각만 했다. 해리는 다음 날과 그다음 날에도 거울을 보러 갔고, 그때마다 돌아가신 엄마, 아빠는 그를 따뜻하게 맞아줬다. 행복해 하는 해리를 지켜보던 덤블도어는 해리에게 그 거울에 대해 다음과 같이 설명한다.
“해리, 이 거울은 우리의 마음속 소망을 보여주는 거울이란다. 우리에게 진실을 보여주는 게 아니야. 하지만 사람들은 이 거울이 보여주는 게 진짜인지 가짜인지 알지 못한 채 자신이 본 것에 넋을 잃고 미쳐서 이 거울 앞에서 헛되이 시간을 보내지. 해리, 다시는 이 거울을 찾지 말거라. 꿈에 집착해서 현실을 잃어버리지 말길 바란다.”
고인 AI가 아직은 낯설고 생소하지만 미래에는 흔한 풍경이 될 수도 있지 않을까 생각해 본다. 고인 AI는 앞으로 소망이 투영된 거울이 될까, 아니면 상실감을 채워줄 위로자 같은 존재가 될까. 이는 서비스 측에서 어떤 의도를 갖고 이 기술을 디자인하느냐에 달려 있다. 사람들은 서비스에서 설계한 방향으로 이 기술을 이용할 것이기 때문이다. 사람들이 소망에 집착해 현실을 잃어버리지 않도록 디자인적 책임감이 요구되는 시점이다.
참고문헌
1 Mu..ller, Vincent C. “Ethics of artificial intelligence and robotics.” (2020). The Stanford Encyclopedia of Philosophy
2 Amazon “Amazon re:MARS 2022 - Day 2 - Keynote” https://youtu.be/22cb24-sGhg
3 Hereafter “Interactive Memory App” https://www.hereafter.ai/
4 Storyfile “Conversational Video AI SaaS Technology” https://storyfile.com/
5 Justin Stoneman(2022) “Grandmother talks to mourners at her own funeral” The Telegraph
6 You Only Virtual “YOV – Build A Versona - Never Have to Say Goodbye”
7 https://www.myyov.com/index.html
8 Re;memory “Remembrance without regrets” https://rememory.deepbrain.io/
9 https://www.yna.co.kr/view/AKR20220819084900017
10 Krueger, Joel, and Lucy Osler. “Engineering affect.” Philosophical Topics 47, no. 2 (2019): 205-232.
11 https://www.businessinsider.com/ai-make-money-china-grieving-raise-dead-griefbot-2023-5
12 Amber Louise Bryce(2023) “The rise of ‘grief tech’: AI is being used to bring the people you love back from the dead” Euronews
13 Stroebe, Margaret, Henk Schut, and Wolfgang Stroebe. “Attachment in coping with bereavement: A theoretical integration.” Review of general psychology 9, no. 1 (2005): 48-66.
14 Aimee Pearcy(2023) “‘It was as if my father were actually texting me’: grief in the age of AI” The Guardian
15 Lindemann, Nora Freya. “The Ethics of ‘Deathbots’.” Science and Engineering Ethics 28, no. 6 (2022): 60.
16 Owen Myers(2019) “‘It’s ghost slavery’: the troubling world of pop holograms” The Guardian
17 Steven Levy(2023) “Gary Marcus Used to Call AI Stupid—Now He Calls It Dangerous” Wired
18 UCR NEWS(2021) “Artificial intelligence is bringing the dead back to ‘life’ — but should it?” UC Riverside News
19 윤재영(2022), 『디자인 트랩』, 김영사
20 조앤 K 롤링, 김혜원 옮김(2003) “해리포터와 마법사의 돌” 문학수첩
고인이 된 사람을 AI를 통해 복원하는 기술이 점차 상용화되고 있다. 고인 AI를 마주한 사람들은 감정적인 교감을 나누기도 하고 괴리감을 느끼기도 한다. 고인 AI는 고인에 대해 강한 그리움을 느끼며 정서적으로 취약한 유족에게 강한 의존 경향을 야기할 수 있다. 아울러 AI의 기술적 한계로 고인의 생전 의도와는 관계 없는 말과 행동을 뱉을 수도 있다. 고인을 계속 만나기 위해서 결제를 유도하게 하는 디자인 장치를 숨기기도 쉽다. 제한된 시간과 공간에서 고인AI를 접할 수 있게 하거나 고인이 살아 생전에 실제로 했던 말만을 토대로 AI를 만드는 등의 대안이 제시되고 있다.
호기심이 많은 해리 포터는 투명 망토를 쓰고 호그와트 마법 학교의 제한 구역 이곳저곳을 돌아다닌다. 그러다 우연히 오래된 거울 하나를 발견한다. 커다랗고 화려한 장식을 한 거울에 자신의 모습을 비추자 꿈에 그리던 돌아가신 부모님을 만나게 된다. 어머니는 해리와 같은 초록색 눈을 가졌고, 아버지는 안경을 쓰고 흐트러진 머리를 하고 있었다. 부모님은 해리에게 반갑게 미소 지으며 손을 흔들었고, 그들은 오랜 시간 함께 시간을 보냈다. 해리는 행복해하며 다음 날, 그다음 날에도 부모님을 만나기 위해 거울로 찾아온다.
많은 이가 가슴속에 그리움을 품고 산다. 단 한 번만이라도 볼 수 있다면 해주고 싶은 말이 많지만 이미 떠난 자를 다시 볼 수 없기에 마음속으로만 되뇐다. 해리가 봤던 이 거울이 우리에게도 있다면 어떨까.
고인 AI, 의미 있는 존재인가, 허상인가
몇 년 전부터 고인(故人)을 디지털 휴먼으로 재현해 낸 프로그램들이 큰 관심을 모으고 있다. ‘너를 만났다’라는 다큐멘터리에서는 어머니와 사망한 딸, 그리고 남편과 사망한 아내 등이 디지털 기술을 통해 다시 마주했고, 드라마 ‘전원일기’에서 응삼이 역을 맡았던 고(故) 박윤배 배우가 다른 출연진과 재회하는 시간을 갖기도 했다. 이 밖에도 신해철, 울랄라세션의 임윤택, 김광석, 유재하, 거북이의 임성훈(터틀맨) 등 유명을 달리했던 가수들이 디지털 휴먼으로 환생해 무대에 섰는데 이들을 그리워했던 사람들에게 놀라움과 반가움을 선사했다.
고인을 추모하고 애도할 수 있도록 돕는 이 같은 기술을 ‘애도 기술(Grief Tech)’이라 부르기도 하는데 최근 방송에 소개되면서 시청자들은 “돈이 얼마가 들더라도 이 기술을 사용해 보고 싶다” “나도 아버지의 웃는 얼굴 보며 인사드릴 수 있다면 마음이 한결 편해질 것 같다” “비통함을 겪고 있는 가족들에게 큰 위로를 주는 선한 기술이다”라며 큰 관심을 보였다.
긍정적인 시각만 있는 것은 아니었다. 일부 사람은 “이들이 대면하는 고인은 결국 프로그래밍 된 허상일 뿐이지 않느냐” “고인이 아닌데 고인의 모습으로 고인인 척 행동하는 것 자체가 괴이하다” “유가족들이 그리웠던 사람을 만나 잠시 위안을 얻을 수 있었겠지만 결국 현실과의 괴리 때문에 더 큰 상처가 될 것”이라는 비판적인 의견들을 남기기도 했다.
기술이 발전하면서 고인 디지털 휴먼(이하 ‘고인 AI’)이 사람의 모습과 점점 비슷해지고 있는 가운데 한쪽에서는 고인 AI가 위로를 줄 수 있는 ‘의미 있는 존재’로 인식하고, 다른 한쪽에서는 AI를 ‘실제 사람과 혼동하면 안 된다’며 우려하고 있다. 이는 오랜 논쟁거리였던 ‘AI가 인간에게 어떤 존재여야 하는가’에 대한 철학적 쟁점과 관련이 있다. 고인 AI를 인간과 ‘대등한’ 위치에서 적극적으로 위로를 주는 존재로 디자인해야 하는지, 아니면 AI를 인간의 도구, 즉 수동적 존재로 한정시켜야 하는 것인지에 대한 것이다.
지금까지의 AI 기술들은 주로 약(弱)인공지능 형태로 도구 역할을 수행해 왔다. 그러나 최근 나타나는 AI는 사람들에게 큰 신뢰를 얻으며 점점 인간의 보조적 역할을 하는 도구의 위치를 넘어 인간과 대등한 수준으로 한 걸음씩 나아가는 중이다.
누구나 고인과 재회할 수 있다
고인 AI는 많은 비용과 시간이 소요되는 기술이기 때문에 그동안 방송 프로그램에서나 간간히 접할 수 있었다. 하지만 많은 사람이 이 기술에 관심을 갖게 되고 점차 기술의 가격도 낮아지면서 일반인들도 사용할 수 있는 서비스들이 생겨나고 있다.
먼저, 아마존은 2022년 한 콘퍼런스에서 그들의 AI 스피커인 알렉사(Alexa)가 고인의 목소리를 낼 수 있는 새로운 기능을 소개했다. 소개 영상에서 한 소년이 알렉사에 “할머니가 오즈의 마법사 책을 끝까지 읽어줄 수 있을까?”라고 묻자, 알렉사는 돌아가신 할머니 목소리로 책을 읽어주었고 소년이 이를 행복하게 듣는 모습이 공개됐다.
히어에프터AI(Hereafter AI)는 고인의 과거 기록과 사진, 목소리 등의 기록에 기반한 AI 챗봇을 만들어 준다. 기록은 고인이 살아생전에 하거나 유가족이 남길 수 있다. AI 챗봇 형태이므로 유가족들은 고인이 보고 싶거나 궁금한 게 있을 때마다 언제 어디서든 대화를 나눌 수 있다. 이 서비스는 히어에프터AI의 대표가 돌아가신 아버지를 그리워하던 중 아버지 기록에 기반한 챗봇(Dadbot)을 만든 것에서부터 시작됐다고 한다.
스토리파일(Storyfile) 도 비슷한 방식으로 작동한다. 고인이 살아생전에 서비스가 제공하는 수백 가지 질문에 대해 영상으로 답을 해 놓으면 그것에 기반해 유가족들은 영상통화하듯 고인과 대화를 나눌 수 있다. 스토리파일의 CEO는 자신의 어머니 장례식에서 이 기술을 선보였는데 여기서 어머니와 대화하는 장면이 공개돼 화제가 됐다.
YOV(You, Only Virtual)는 가장 최근에 나온 서비스다. 사용자와 고인 간에 나눴던 문자 데이터로 AI를 학습시키고, 이렇게 만들어진 고인 AI도 이 사용자만을 위해 제작된다. 이 때문에 훨씬 더 개인 맞춤화된 봇을 만들 수 있고 윤리적 문제도 덜하다고 주장한다. YOV는 ‘고인과 작별 인사할 필요가 없다(Never Have to Say Goodbye)’는 점을 강조하며 고인과 소중한 순간들을 계속 이어 나가라고 말한다.
국내에는 딥브레인AI(DeepbrainAI)사의 리;메모리(Re;memory) 서비스가 있다. 고인이 생전에 스튜디오에서 3시간 정도 촬영과 인터뷰에 참여하면 이 데이터를 바탕으로 고인 AI가 구현되는 원리다. 고인이 살아 있을 때 촬영에 임해야 하고, 유가족이 고인 AI를 만나기 위해서는 서울 청담동에 위치한 딥브레인의 쇼룸에 방문해야 한다. 딥브레인은 상조 업계와도 손잡고 새로운 장례 문화를 개척하기 위해 노력 중이다.
많은 사람이 그리운 대상을 만나고 싶은 염원이 있는 만큼 이 서비스들이 그들의 소망을 어느 정도 해결해 줄 것이다. 또 윤리적 문제인 ‘고인의 동의 여부’에 관한 문제도 고인이 생전에 동의하고 참여까지 한 데이터를 사용하게 함으로써 어느 정도 해소할 수 있다. 그럼에도 불구하고 이 기술에 대해 근본적으로 생각해 볼 부분들이 있다.
고인과의 지속적 연결은 좋을까
“AI가 상실의 고통을 없앨 수는 없지만 우리의 기억을 지속시키는 것은 가능하다.”
아마존의 수석 부사장인 로힛 프라사드가 고인이 된 할머니 목소리로 말하는 알렉사를 선보이는 자리에서 한 말이다. 고인 AI를 사용하는 주된 목적은 유가족의 상실감을 줄이는 데 있는데 현재로서는 고인과의 연결을 지속하는 기술 자체에만 초점이 맞춰져 있는 듯하다. 아마존은 1분 미만의 샘플만 있어도 고인과 흡사하게 만들 수 있다고 하니 비약적인 기술 발전이다. 하지만 정작 사용자의 경험(UX)적 측면에 대해서는 많이 고민한 결과물인지 의문이 든다.
설령 고인 AI 기술이 위안을 줄 수 있을지라도 이 기술을 사용하는 것이 사용자에게 정말 유익할 것인지에 대해서는 주의를 기울일 필요가 있다. 고인 AI를 통해 사용자의 슬픈 감정이 ‘처리’될 경우 그들은 감정 조절을 위해 이 기술에 더욱 의존하게 될 것이기 때문이다. 특히 이 기술을 사용하는 사람들은 사별을 통해 슬픔을 겪고 있는, 정서적으로 취약한 상태에 있는 사람들이기 때문에 의존과 중독의 위험성이 더욱 크다.
일각에서는 지나친 우려라고 말한다. 기존에도 고인과 나눴던 메시지를 읽어보고 사진을 보며 대화를 나누기도 했던 만큼 고인 AI 서비스는 이것을 좀 더 인터랙티브(interactive)하게 만든 것일 뿐이라는 것이다. 고인 AI가 단순히 ‘도구’로서 작동하는 것이기 때문에 위험하지 않다는 의견이다. 그러나 최근 사람들이 AI에 속마음을 털어 놓고 사람보다 더 신뢰하고 의지하는 사례들이 늘어나는 것을 보면1 단순히 수동적 ‘도구’로 사용되는 단계는 넘어서고 있는 모양새다.
닫기나아가 고인의 메시지를 읽고 고인의 사진과 대화를 나누는 추모 행위가 지속되다 보면 유가족을 과거에 머물게 하고, 사회로부터 고립시킬 위험이 있으며, 슬픔과 고통이 오히려 증가된다고 한다. 고인 AI 기술도 마찬가지로 분리 불안, 상실에 대한 집착을 유발한다. 슬픔과 고통을 가중시켜 결국 ‘지속적 애도 장애(Prolonged Grief Disorder)’로 이어질 수 있다고 전문가들은 우려한다. 이 때문에 고인 AI 기술을 꼭 필요한 사람들을 위해 ‘치료 목적’으로만 사용할 것을 제안하기도 한다.
고인이 살아 있었다면 정말 그렇게 했을까
2023년 초, 전원일기에서 응삼이 역을 맡았던 고 박윤배 배우가 디지털휴먼이 돼 전원일기 배우들과 만났을 때의 일이다. 죽었던 이가 눈앞에서 말하는 것을 보자 몇몇 배우는 눈이 휘둥그레지며 놀라워 했고, 무섭다며 눈을 피하는 배우도 있었다. 응삼이 AI는 배우 한 명, 한 명과 개인적인 추억을 공유하기도 하고, 상대 배우를 놀리는 농담을 던지기도 했다.2 이들의 대화는 겉보기엔 훈훈하게 보이기도 했다. 그러나 실제 박윤배 배우 입장에선 공개하기 꺼렸을 만한 개인사가 포함됐을 수도 있고, 자신이 하지 않았을 법한 짓궂은 농담을 던졌을 수도 있다.
또 다른 방송에서는 고(故) 김광석 가수가 AI로 소환돼 후배 김범수 가수의 ‘보고 싶다’를 불렀다. 김광석의 독특한 창법으로 듣는 명곡이었기에 시청자에게는 신기하고도 흥미로운 경험이었다. 무엇보다 이 기술이 아니었다면 쉽사리 접할 수 없는 경험이기도 했다. 하지만 실제 김광석의 입장에서는 어땠을까. 다른 가수의 노래를 부르는 걸 원치 않았을 수도 있고, 자신의 목소리가 이런 식으로 소비되는 게 불쾌했을 수도 있다. 더 안타까운 것은 이 방송 이후 이 기술이 일반인들에게까지 사용되면서 김광석 가수의 목소리로 여러 다른 후배 가수의 노래를 커버하는 영상들이 끊임없이 유튜브에 올라오고 있다. 음악 평론가 사이먼 레이놀즈는 이 같은 현상을 가리켜 ‘유령 노예질(Ghost slavery)’이라 지적하며 강하게 비판했다.
앞서 소개한 히어에프터 등의 고인 AI 서비스들은 사용자와의 매끄러운 대화를 위해 대형언어모델(LLM)에 기반한 생성형 AI 기술을 사용할 예정이다. 고인의 데이터가 많지 않은 상황에서도 AI가 그럴듯하게 소통할 수 있도록 문장을 생성해 주기 때문에 서비스 입장에서는 무척 유용한 기술이다. 그러나 이런 기술을 탑재한 시스템은 문장을 생성하는 과정에서 정보를 조작하는 경향이 있기 때문에 고인 AI가 하는 이야기 중 사실이 아니거나 고인이 하지 않았을 법한 이야기가 포함될 가능성이 높다. 결국 고인이 생전에 자신의 음성과 데이터 사용을 허락했을지라도 AI가 그것을 변형 및 확장할 수 있는 범위가 아직은 모호하기 때문에 여전히 윤리적으로 문제 될 소지가 있다.
진정 사용자를 위한 디자인이 가능할까
고인 AI 서비스들은 고인과의 ‘연결’에 지나치게 초점을 맞추는 경향이 있다. 그래서 고인이 보고 싶을 때 언제 어디서든 연결될 수 있다는 점을 강조한다. 앞서 살펴봤듯이 이 쉽고 잦은 ‘연결성’은 오히려 유족들에게 더 큰 고통을 줄 수 있다. 이보다는 사용자에게 더 초점을 맞춰 그들이 슬픔을 이겨내고 고인을 건강하게 떠나보낼 수 있도록 도와주는 것에 관심을 가질 필요가 있다.
딥브레인의 리;메모리 서비스는 고인 AI를 사용자의 모바일이나 PC에서 만나는 방식이 아닌 사용자가 외부의 ‘쇼룸’을 직접 방문해야 30분간 만날 수 있도록 디자인 설계했다. 이런 한정적인 만남이 사용자를 위하는 마음에서 비롯된 디자인인지는 밝혀지지 않았지만 의존과 중독의 위험성은 모바일 서비스에 비해 상대적으로 낮다고 볼 수 있다.
한편 사용자가 고인 AI와 어떤 방식으로 소통해야 하고 사용자에게 일어나는 효과는 어떤지에 대한 연구 역시 현재 부족한 실정이다. 고인 AI 서비스에서 행해지는 소통 방식은 현실의 채팅이나 영상통화 방식을 그대로 답습하고 있다. 이 때문에 고인을 살아 있는 사람으로 착각하기도 하고, 지나치게 의존하게 되는 혼란이 생기고 있는 것이다. 사용자의 소통 대상이 현실에 존재하지 않는 AI임을 자각할 수 있도록 명시해야 하고, 사용자에게 진정 위로가 되고 도움이 되는 소통 방식에 대한 학계의 관심과 연구가 요구된다.
사용자가 고인 AI와 소통할 때 어떤 이야기를 나눠야 하는지도 문제다. 고인 AI가 고인의 모습으로 사용자와 이런저런 많은 이야기를 할 수 있다면 신기하고 흥미로운 서비스가 될 수는 있겠으나 사실이 아닌 내용을 포함하게 될 가능성도 그만큼 커진다. 그렇다고 소통을 거의 하지 않게 된다면 사진을 보는 것과 크게 다를 바 없어지게 된다.
이에 대해 스토리파일은 고인이 생전에 말했던 영상들로만 소통하는 방식을 택했다. 사용자가 고인 AI에 질문을 하면 그 답에 해당되는 내용의 영상이 재생되는 셈이다. 고인은 생전에 수많은 질문에 대한 답을 영상으로 찍어야 하는 번거로움이 있고 사용자 입장에서는 고인 AI가 답을 못하는 경우가 많아 답답함이 있을 수 있겠지만 선을 넘지 않기 위한 스토리파일의 선택이자 노력인 것이다.
마지막으로, 고인 AI 서비스는 사용자를 현혹하고 기만하는 ‘디자인트랩’ 기법이 적용되기 특히 쉬운 분야이다. 예를 들어, 고인 AI 서비스 사용자가 서비스를 해지를 하고 싶을 때, 사용자는 고인을 포기하는 것이 쉽지 않을 것이다. 마치 드라마 ‘블랙미러’에서 죽은 연인을 꼭 닮은 고인 봇을 주인공이 차마 폐기하지 못하는 심리와 비슷하다. 이런 사용자의 죄책감을 이용해서 고인 AI를 업그레이드하라고 부추기거나 “고인과 좀 더 얘기하고 싶으면 돈을 더 내야 한다”는 식의 디자인은 결국 고인을 상업화한다는 비판으로 이어질 수 있으므로 주의가 요구된다.
현실을 잃지 않게 하는 소망의 거울을 위해
해리 포터는 거울에서 부모님을 본 이후 일상생활이 어려울 정도로 거울 생각만 했다. 해리는 다음 날과 그다음 날에도 거울을 보러 갔고, 그때마다 돌아가신 엄마, 아빠는 그를 따뜻하게 맞아줬다. 행복해 하는 해리를 지켜보던 덤블도어는 해리에게 그 거울에 대해 다음과 같이 설명한다.
“해리, 이 거울은 우리의 마음속 소망을 보여주는 거울이란다. 우리에게 진실을 보여주는 게 아니야. 하지만 사람들은 이 거울이 보여주는 게 진짜인지 가짜인지 알지 못한 채 자신이 본 것에 넋을 잃고 미쳐서 이 거울 앞에서 헛되이 시간을 보내지. 해리, 다시는 이 거울을 찾지 말거라. 꿈에 집착해서 현실을 잃어버리지 말길 바란다.”
고인 AI가 아직은 낯설고 생소하지만 미래에는 흔한 풍경이 될 수도 있지 않을까 생각해 본다. 고인 AI는 앞으로 소망이 투영된 거울이 될까, 아니면 상실감을 채워줄 위로자 같은 존재가 될까. 이는 서비스 측에서 어떤 의도를 갖고 이 기술을 디자인하느냐에 달려 있다. 사람들은 서비스에서 설계한 방향으로 이 기술을 이용할 것이기 때문이다. 사람들이 소망에 집착해 현실을 잃어버리지 않도록 디자인적 책임감이 요구되는 시점이다.
참고문헌
1 Mu..ller, Vincent C. “Ethics of artificial intelligence and robotics.” (2020). The Stanford Encyclopedia of Philosophy
2 Amazon “Amazon re:MARS 2022 - Day 2 - Keynote” https://youtu.be/22cb24-sGhg
3 Hereafter “Interactive Memory App” https://www.hereafter.ai/
4 Storyfile “Conversational Video AI SaaS Technology” https://storyfile.com/
5 Justin Stoneman(2022) “Grandmother talks to mourners at her own funeral” The Telegraph
6 You Only Virtual “YOV – Build A Versona - Never Have to Say Goodbye”
7 https://www.myyov.com/index.html
8 Re;memory “Remembrance without regrets” https://rememory.deepbrain.io/
9 https://www.yna.co.kr/view/AKR20220819084900017
10 Krueger, Joel, and Lucy Osler. “Engineering affect.” Philosophical Topics 47, no. 2 (2019): 205-232.
11 https://www.businessinsider.com/ai-make-money-china-grieving-raise-dead-griefbot-2023-5
12 Amber Louise Bryce(2023) “The rise of ‘grief tech’: AI is being used to bring the people you love back from the dead” Euronews
13 Stroebe, Margaret, Henk Schut, and Wolfgang Stroebe. “Attachment in coping with bereavement: A theoretical integration.” Review of general psychology 9, no. 1 (2005): 48-66.
14 Aimee Pearcy(2023) “‘It was as if my father were actually texting me’: grief in the age of AI” The Guardian
15 Lindemann, Nora Freya. “The Ethics of ‘Deathbots’.” Science and Engineering Ethics 28, no. 6 (2022): 60.
16 Owen Myers(2019) “‘It’s ghost slavery’: the troubling world of pop holograms” The Guardian
17 Steven Levy(2023) “Gary Marcus Used to Call AI Stupid—Now He Calls It Dangerous” Wired
18 UCR NEWS(2021) “Artificial intelligence is bringing the dead back to ‘life’ — but should it?” UC Riverside News
19 윤재영(2022), 『디자인 트랩』, 김영사
20 조앤 K 롤링, 김혜원 옮김(2003) “해리포터와 마법사의 돌” 문학수첩
인기기사
