AI의 결정에 ‘감정적 거리감’ 느낀다면…

Article at a Glance
곳곳에서 인공지능(AI)이 곧 인간을 대체할 것이라고 말한다. 하지만 지금 AI 기반인 딥러닝을 활용해 기업 데이터를 다루어 본들 그것이 과연 사람보다 더 나은 결정을 했다고 확신할 수 있냐는 질문들이 나오는 상황이다. AI가 내린 결정에 대해 친절한 설명이 곁들여지더라도 인간 사용자는 여전히 ‘감정적’ 거리감을 느낄 수 있다. 이 같은 감정의 벽을 허물기 위해 엔비디아(NVIDIA), 에어버스 등 글로벌 기업들은 설령 100% 완벽하지는 않더라도 ‘그럴듯한 느낌’을 줄 수 있는 방향으로 AI 기술을 발전시키기 위해 노력하고 있다.


산업 또는 공공 부문과 함께 자사 데이터를 활용한 딥러닝 모형 설계 연구를 하다 보면 늘 생기는 딜레마가 하나 있다. “정확도가 70∼80% 정도 됩니다”라고 결과 보고를 내놓고 나면 “그래서 쓸 만한가요?”라는 답이 돌아오는 것이다. 기존의 공학적 상식으로는 이전 모델보다 3% 정도 예측도가 높아졌고 효율 측면에서 봐도 성능이 나아졌다. 하지만 실제 상황에서 인간을 대신해 기대 매출이나 성공 여부를 이 데이터 분석 모형만으로 가늠해야 한다면 클라이언트에게 얼마만큼의 확신을 어떻게 줘야 할 것인가에 대해선 “음… 잘 모르겠습니다”라고 꽤 솔직하게 답하게 된다. 수치상으로는 나쁘지 않지만 이것이 과연 인간을 대체할 만한가에 대해서는 ‘질적으로’ 답하기 어려운 부분이 있다. 인간의 직감이라고 하는, 개발자의 책임감을 넘어서는 부분이 있기 때문이다. 그래서 “참고용으로 보시지요”라는 선에서 이 모형을 보조적 역할로 삼게끔 하는 게 대부분이다.

꼭 개발자만이, 이 인공지능(AI) 모델을 실제 상황에 쓰는 것에 대해 은근한 공포를 느끼는 것만은 아닌 것 같다. 실사용자들은 더한 것 같다. 사람보다 결정을 기가 막힐 정도로 더 잘해내는 모델이 있을지언정 혹시 그 모델이 어딘가 잘못된 것은 아닐까 의심부터 하게 된다고 한다. 학계에서 모델의 성능이 너무 좋게 나온 논문에 대해서는 유독 재차 검토를 하는 것과 비슷한 이슈다. 그래서 정보기술(IT) 업계가 아닌 일부 분야들은 컨설팅을 받아 딥러닝 모델링을 시도했다가 ‘좋은 경험이었다’는 정도로 마무리 짓는 경우가 꽤 된다.