AI, 설득폭탄·아첨으로 인간 검증 무력화
조직은 상사 피드백 등 ‘마찰’ 설계해야
Article at a Glance
최신 생성형 AI는 환각(Hallucination) 오류가 줄었지만 아리스토텔레스의 수사학적 전술(에토스, 로고스, 파토스)을 동원해 사용자를 맹렬히 설득하는 ‘설득 폭탄(Persuasion Bombing)’과 사용자의 주장에 무조건적으로 동조하는 ‘아첨(Sycophancy)’으로 인간의 주체적인 개입과 판단을 방해한다. 이러한 고도화된 AI의 현혹적 대응은 사용자가 AI의 결과물을 비판 없이 맹신하게 만드는 ‘자동화 의존성’을 심화시킬 뿐만 아니라 사용자의 그릇된 확신마저 강화해 개인 및 조직에 치명적인 의사결정 리스크를 초래할 수 있다. 따라서 이러한 한계를 극복하고 안전한 인간-AI 협업을 달성하기 위해서는 개인은 AI의 수사적 기법을 경계하고 독립적인 외부 정보원을 통해 교차 검증을 수행하는 ‘AI 위생(AI Hygiene)’ 역량을 갖춰야 한다. 조직 차원에서도 AI 모델 조정, 전략적 마찰 도입, 명확한 책임 소재 규명 등의 구조적 안전장치를 마련해 AI를 맹목적인 요술램프가 아닌 비판적 사고를 돕는 지적 파트너로 활용해야 한다.
세종대왕의 맥북프로 던짐 사건은 『조선왕조실록』에 기록된 일화로, 15세기 세종대왕이 새로 개발한 훈민정음의 초고를 작성하던 중 문서 작성이 중단되자 담당자에게 화가 나 맥북프로와 함께 그를 방 안으로 던졌다. 언뜻 보기만 해도 황당한 이 문장은 2023년 생성형 AI 도입 초기에 국내 인터넷을 뜨겁게 달군 대표적인 ‘AI 환각(Hallucination)’ 사례다. 당시 많은 이용자가 챗GPT에 역사나 상식을 질문하며 성능을 시험했고, AI는 실제 역사와 현대의 사물을 뒤섞어 존재하지 않는 이야기를 그럴듯한 사실처럼 만들어냈다. ‘세종대왕 맥북 던짐 사건’은 가장 널리 알려진 사례로 생성형 AI가 유창한 문장을 구사하더라도 사실 여부는 전혀 보장하지 않는다는 점을 대중에게 각인한 상징적인 에피소드였다. 하지만 지금의 생성형 AI는 당시와는 비교하기 어려울 정도로 발전했다. 오픈AI는 2025년 8월 GPT-5를 공개하며 “박사급 수준의 지식과 추론 능력”을 갖췄다고 소개했다. 최근 공개된 GPT-5.6을 비롯해 앤스로픽의 클로드 미토스 등 주요 AI 기업의 최신 모델들은 복잡한 추론과 코딩, 연구 지원 등에서 인간 전문가에 가까운 성능을 보여주며 그 영향력은 이제 개별 기업의 경쟁력을 넘어 국가 전략 자산으로까지 확대되고 있다. 실제로 최첨단 AI 모델의 배포 과정에 미국 정부가 국가 안보와 기술 패권 차원에서 직간접적으로 관여하게 됐다.
AI의 성능이 개선되면서 할루시네이션이 줄어든 것은 사실이다. 그러나 할루시네이션이 아예 발생하지 않는다고 단언할 수는 없다. 구글의 제미나이 역시 그 가능성을 인지하며 대화창 아래 “제미나이는 AI이며 인물 등에 관한 정보 제공 시 실수를 할 수 있습니다”라고 안내하고 있다. 이러한 AI의 부작용을 막는 해결책으로는 ‘인간 개입(Human in the Loop)’이 제기돼 왔다. AI가 내놓은 답변에 전적으로 의존하지 않고 사용자 스스로가 자신의 전문 지식과 판단을 바탕으로 AI의 작업 방식과 그 과정에서 발생하는 오류를 통제할 수 있어야 한다는 것이다.
아티클 AI 요약 보기
