Top
검색버튼 메뉴버튼

AI Impact: 아는 만큼 보이는 AI

AI를 제어하고 싶은 자, 지식부터 키워라

유재연 | 347호 (2022년 06월 Issue 2)
Article at a Glance

인공지능(AI) 기술은 우리 삶에 침투해 있다. 그 영향력을 인지할 수 있는 경우가 있는 반면 알 수 없이 스며 있는 경우도 많다. 개인이 민감하게 느끼는 정도에 따라 또는 AI에 대한 지식수준에 따라 그 영향력을 인지하는 것도 다르다. AI를 자각하는 것은 기계가 내리는 판단에 대해 여러 결정을 내릴 권한을 가지는 것이다. 사람들은 자신의 배움이나 성별, 환경에 관계없이 AI에 대해 더 많이 알아야 한다. 그래야 AI의 영향력을 스스로 제어하는 힘을 가질 수 있다.



인공지능(AI) 발전 속도가 급속도로 빨라지고 있다. 텍스트를 기반으로 일러스트를 뚝딱 그려내는 것은 물론 소량의 데이터만 가지고도 사람의 목소리를 금세 흉내 내는 일이 가능해졌다. 자연어 소통도 사람 못지않게 잘해 내는데 최근 나온 한 초거대 모델의 사례를 검토해 보니 사람이 쓴 것과 구분할 수 없을 정도였다. 5, 6년 전까지만 해도 기계가 이미지 속 사물들을 문장으로 묘사하는 것 자체가 상당히 도전적인 연구 주제가 될 만큼 어려웠는데 이제는 사람의 상상력을 넘어서는 그림을 AI가 그리는 세상이 됐다.


구별이 필요한 이유

최근 미국의 AI 연구소 ‘오픈AI’1 가 발표한 ‘DALL-E 2’는 불과 15개월 전에 나온 이전 버전의 수준으로부터 퀀텀 점프를 하고야 말았다. 그전에는 ‘아보카도 의자’를 그리라는 메시지에 대해 아보카도로 그려낼 수 있는 아이콘 느낌의 일러스트를 생성해냈다. (그림 1) 그리 높지 않은 해상도의, 인간의 관점에서 볼 때 딱히 흠잡을 수 없을 정도의 만족감을 줬고, 사실 그 자체만으로도 이미 놀라운 기술이었다.2

109


그런데 지난 4월에 나온 새로운 버전은 AI라는 주체가 가진 상상력을 인간이 가늠하게 될 정도로 입이 떡 벌어지는 기술을 선보였다. 이제는 똑같은 아보카도를 가지고 ‘하와이에서 음주가무 하는 모습’을 그리라는 주문에 대해서도 AI는 거침없이 새로운 그림을 창조해 낸다. 주제에 적합하게 의인화를 하는 것뿐 아니라 배경과의 관계를 토대로 문맥을 만들고 효과를 주기도 한다. 초현실적인 그림도 척척 생성해낸다. 이러한 알고리즘을 다룬 논문에 따르면 AI가 생성한 그림들에 대한 미학적 지표를 따져본 결과, 기존 모델을 뛰어넘는 높은 성능을 보이는 걸로 나타났다. 인간의 눈으로 봐도 이미 매우 훌륭한 작품이 DALL-E 2 인스타그램을 통해 매일같이 쏟아지고 있다.

사람들의 AI 생성 작품들에 대한 인식은 어떨까? 2020년에 나온 연구3 에서는 ‘AI가 그렸다’는 것을 사람들에게 알리고 그림에 대해 질문을 던졌는데 당시까지만 해도 ‘AI 가 그렸으니까…’라는 전제와 이를 둘러싼 편견이 상당한 것으로 나타났다고 한다. 기껏 2년밖에 지나지 않았지만 이제 그 답변은 달라지리라 생각이 든다. 사람이 그린 것인지, AI가 그린 것인지 구분조차 쉽지 않고 감탄만 나오는 상황이니 말이다.

이쯤 되면 AI의 역할과 결과물을 구별하는 일이 굳이 필요한지 되짚어보게 된다. 하지만 구별은 인간의 창작 능력에 도전하는 AI와 겨루기 위해서만 필요한 건 아니다. 우리 삶 속 모든 과정에서 AI를 구별해냄으로써 무엇이 AI의 결과물인지, 그것이 우리의 생활에 어떤 영향을 끼치고 있는지, 나아가 내 생각을 어떻게 바꾸어 놓고 있는지 등을 포괄적으로 생각해볼 수 있다. 자각을 해야 우리는 기계가 내리는 결정에 대해 판단을 할 수 있는 권한을 갖게 된다.

110


삶에 침투한 AI를 알아내는 방법

일상 속에 깊이 들어와 있는 AI를 알아내는 가장 쉬운 방법은 사실 시간을 재보는 것이다. 아주 높은 만족도를 부여하는 서비스를 이용할 때, 같은 일을 사람이 했을 때 걸리는 시간을 예상해보고 실제 서비스가 작동하는 시간이 그보다 획기적으로 적다면 여기에는 AI가 개입됐을 가능성이 높다. 유튜브에서 소름 끼치도록 높은 우선순위로 추천되는 ‘다음 영상 리스트’들은 인간이 화면 뒤에서 일일이 하기에는 턱없이 힘든 일이다. 휴대폰으로 대충 찍은 서류 사진이 무척이나 정갈하게 문서 형태로 스캔이 됐다면 거기에도 딥러닝 기술이 켜켜이 스며 있다. 사람이 일일이 그 사진으로부터 문자와 그림을 복사해 문서 형태로 만들기엔 시간이 엄청나게 소요될 것이다. 기술 덕에 몇 초 걸리지 않아도 충분히 만족스러운 문서로 구현이 된다. 이전의 규칙 기반 서비스들은 그만한 만족도를 내지 못했다는 사실을 우린 이미 알고 있다. 그래서 더 나은 서비스에 대한 비밀을 짐작해 볼 수 있다.

그러나 텍스트나 이미지처럼 기계가 뱉어낸 생성물 자체에 대한 구별은 여전히 쉽지 않다. 그래서 창과 방패처럼 기계가 생성한 것을 알아맞히는 알고리즘에 대한 연구도 지속적으로 이뤄지고 있다. 최근 미국 스탠퍼드대 HAI연구소가 발표한 AI 리포트4 에 따르면 딥페이크 데이터세트에 대해 이를 검출해내는 알고리즘들의 정확도가 99% 안팎으로 나온다. AI가 생성한 이미지들은 이제 인간의 눈으로는 구별이 힘든 상황에 이르렀는데 이렇게 우리 눈에는 보이지 않는 교묘한 패턴들을 알고리즘이 파악해 진위 여부를 가려주는 세상이 온 것이다.

111


사람마다 다르게 인지하면 그로 인한
불평등도 있을까?

하지만 모든 알고리즘에 대해 대항하는 알고리즘이 나올 리는 만무하다. 그래서 인간이 스스로 여러 가설을 바탕으로 이를 구별할 수 있어야 한다. 그런데 이 지점에서 사람 간 격차가 드러난다. AI나 딥러닝, 최신 기술에 대한 배움이 조금 더 있는 사람들은 그리 어렵지 않게 패턴을 파악할 수 있다. 가령 최신형 스마트폰의 기본 카메라 앱으로 사람을 찍는다고 하자. 유독 사람 얼굴이 예쁘게 나온다거나, 전면 카메라를 쓸 때 참 편리하게 광각 모드가 작동한다거나, 또는 어둠 속 촬영 결과물이 또렷하게 보인다거나 하는 일을 겪어봤을 것이다. 많은 경우, 카메라의 성능이 좋아진 정도로만 인식하고 지나칠 수도 있는 일이다. 하지만 그 안에는 얼굴을 비롯한 객체 인식, 색조에 대한 데이터 기반 선호 같은 여러 알고리즘의 결정이 켜켜이 들어가 있다. 이를 안 이상 객체 인식으로 인해 반달이 보름달로 보정되는 일이나 과도하게 미백 효과가 반영되는 셀카 같은 결과물을 더 비판적으로 바라볼 수 있다.

알고리즘의 영향을 깨닫느냐, 아니냐의 차이는 길게는 개개인이 겪는 손익과도 연관이 돼 있다. 당장 알고리즘을 둘러싼 격차 연구는 아직 많지 않지만 ‘디지털 격차’라는 이름의 논의는 꽤 오랜 기간 깊이 있게 진행돼 왔다. 디지털 격차5 는 주로 ‘소득, 연령, 학력, 성에 따른 계층별 디지털 격차와 지역 간 디지털 격차의 실태를 디지털 인프라와 디지털 활용이라는 측면에서 평가한다’고 한다. 국내에서는 ‘지능정보화기본법’ 제66조 및 제67조에 의해 디지털 정보 격차 실태 조사가 진행되고 있다. 이때 조사되는 디지털 정보화 수준이란 지표는 디지털에 얼마나 접근성이 높은지(인터넷 사용 여부와 정보기기 보유 여부), 얼마나 잘 이용할 만한 역량이 있는지(PC와 모바일에 대해), 실제 얼마나 활용을 잘하는지(인터넷 이용 여부와 이용 다양성, 심화 활용 정도)를 묶어 점수로 매긴 값이다.

111_2


디지털 격차 연구들은 격차로 인해 개인의 경쟁력이 떨어지고, 삶의 질이 향상될 수 있는 기회를 잃으며, 관련 편익을 제대로 누리지 못하는 것에 대한 문제점을 제기한다. AI도 마찬가지다. AI는 우리가 사는 세상을 아주 섬세한 구석부터 큼직한 구조에 이르기까지 총체적으로 바꾸어 나가고 있다. 그런데 일부 전문가 집단이나 자본가를 제외한 많은 이가 여전히 딥러닝의 어려움과 알고리즘에 대한 거리감에 부딪혀 진입조차 힘겨워하는 상황이다. 알고리즘을 둘러싼 격차가 발생하고 있다.

112


AI 리터러시는 새로운 권력

AI는 우리 삶 곳곳에 침투해 강력한 영향을 미치고 있다. 알고리즘에 의해 추천된 콘텐츠를 큰 거리낌 없이 시청하는 것도, 비 오는 밤 콜택시의 가격 변동을 그러려니 하고 받아들이는 것도, 지도 앱이 알려주는 최적 경로에 별다른 의심을 하지 않는 것도, 모두가 AI의 ‘인간 삶에 대한 조용한 침투’가 바탕이 된다. 그만큼 기술이 거슬리지 않게 잘 어우러져야 서비스는 지속될 수 있고, 확산될 수 있기 때문이다. 최근 한 연구6 에서는 애플리케이션의 종류나 기술이 전달되는 맥락에 따라 사람들이 AI 결과물에 대해 느끼는 자율성이나 저항이 조금씩 달라진다고 주장하기도 했다. 이렇게 인간과 AI가 더 잘 얽혀 살아갈 수 있도록 만들려는 상호작용 연구는 다방면에서 이뤄지고 있다.

AI 디자인에 대한 고민만큼 사람에 대한 고민도 더 적극적으로 이뤄져야 한다. 사람들 각자 삶의 궤적에 따라 동일한 기술도 달리 느껴질 수 있다. 하지만 사람들이 자신의 배경과 상관없이 인터넷을 쓸 줄 알고 인터넷에 대해 이야기할 수 있게 된 것처럼 앞으로의 시대를 살아가는 사람들에겐 기본적으로 AI에 대한 감수성과 예민함, 지식이 있어야 한다. AI에 대해 기본적으로 의미를 이해하고 자신의 언어로 설명할 수 있을 정도의 문해력, 즉 AI 리터러시가 필요하다. 그래야 사람들은 AI가 침투한 영역을 구별하고, AI의 결과물을 이해하며, AI를 잘 써먹을 수 있는 판단력을 가질 수 있다. AI에 휘둘리지 않을 힘을 누구나 갖게 되는 것이다.


유재연 옐로우독 AI펠로우 jane@yellowdog.kr
필자는 서울대 융합과학기술대학원에서 석사 학위를 마치고 현재 박사과정에 있다. 인간과 컴퓨터 상호작용(HCI) 분야에서 데이터사이언스를 공부했고 주로 인공지능 기술과 인간이 함께 협력해가는 모델에 대해 연구하고 있다. 현재는 소셜임팩트 벤처캐피털 옐로우독에서 AI펠로우로 일하고 있다.
관련기사