AI 시대 보안은 전사적 종합 과제

보이스피싱은 더 이상 개인만 겨냥하는 범죄가 아니다. 생성형 AI의 등장으로 보이스피싱은 기업의 신뢰, 평판, 비즈니스 연속성을 직접 위협하는 ‘기업 리스크’로 확대됐다. 소비자 개인을 넘어 기업이 보이스피싱 공격의 핵심 표적이 되고 있는 것이다.

AI 기반 보이스피싱은 단순히 목소리를 흉내 내는 수준을 넘어섰다. 가족, 임직원, 기관 담당자의 말투·감정·습관까지 그대로 재현하는 딥보이스 기술과 영상·이미지를 실시간으로 변조하는 딥페이크 기술을 범죄자가 악용하면서 기존 인증 체계가 순식간에 무력화되고 있다. 전화, 문자를 비롯해 결재 승인, 화상 회의에 이르기까지 기업이 신뢰 기반으로 운영하던 거의 모든 접점이 이제 사칭 공격의 통로가 되고 있는 셈이다.

실제로 임원을 사칭한 AI 음성으로 송금을 유도하거나 고객센터 상담원을 흉내 내 고객 정보를 탈취하는 등 기업을 매개로 한 2차 피해가 빠르게 증가하고 있다. 공격자는 표면적으로 소비자를 노리는 것처럼 보이지만 궁극적으로는 기업의 신뢰와 브랜드 가치를 훼손하고 나아가 기업이 법적 책임까지 부담해야 하는 위험을 초래할 수 있다.

이 문제는 향후 더 심각해질 가능성이 크다. 딥보이스와 딥페이크 기술이 고도화될수록 기업 내부 결재·승인 체계, 비대면 업무, 고객 응대 등 보안 사각지대는 더욱 넓어질 수 있다. 공격 비용은 점점 낮아지고 성공률은 높아지며 대응 가능한 시간은 짧아지고 있다. 기술의 발달로 범죄 방식이 지능화되고 있지만 정작 기업의 보안은 그 속도를 따라가지 못하고 있다.

이에 글로벌 규제는 위협의 확산을 방지하기 위한 새로운 기준을 요구하고 있다. 미국, 유럽연합(EU), 대한민국과 같은 주요국을 중심으로 AI가 생성한 콘텐츠에 대한 워터마킹이 법·제도적으로 의무화되고 있다. 이는 투명한 AI 사용과 위조 콘텐츠 추적을 위한 필수 장치이지만 기업에는 새로운 난제가 된다. 특히 식별이 어려운 비가시 워터마킹에 대한 사용자 요구가 강화되면서 이를 도입해야 하는 기업의 부담은 점차 커지고 있다. 플랫폼·국가별 규제 기준 불일치, 연산·저장 비용 증가로 인한 운영 부담, 기술 성숙도와 실제 적용 사이의 간극 등이 대표적이다.

AI 활용이 고도화될수록 기업은 혁신, 규제 준수, 운영 효율성을 동시에 충족해야 하는 복합적 요구에 당면할 것이다. AI 시대의 보안은 더 이상 기술 부서만의 문제가 아니다. 리스크 관리, 고객 보호, 경영 전략, 규제 대응 등 전사 수준의 종합 과제가 됐다. 기업은 기술 개발에 앞서 AI 시대에 걸맞은 신뢰를 쌓는 데 주력해야 한다. AI로 인한 신용 사기 등이 진화하는 속도를 기업의 대응 체계가 따라가지 못한다면 소비자뿐만이 아니라 기업에도 치명적인 타격이 예상된다. AI가 위험을 빠르게 확산시킬수록 기업이 구축해야 할 핵심 인프라는 다름 아닌 신뢰(Trust)다. AI 시대의 신뢰를 지켜내는 기업만이 고객과 시장으로부터 선택받을 수 있을 것이다.