기본권-안전 침해하는 ‘고위험 AI’가 타깃 사람과 상호작용하는 AI도 규제 대상

Article at a Glance

유럽연합 인공지능법에서 우리 기업들이 주목해야 할 주요 사항은 다음과 같다.

1. 기계학습 외 방법으로 자가 학습한 AI 시스템도 법안 적용 대상에 포함된다.

2. EU 내 법인이나 사무소를 두지 않은 역외 기업도 자사의 AI 시스템/서비스의 결과물이 EU 시장 내에서 이용될 경우 법 적용을 받는다.

3. 다크패턴 AI 같은, 인간의 잠재의식에 영향을 주는 조작·기만적 AI 시스템은 전면 금지된다.

4. 고위험군 AI의 공급자(provider)는 물론 이용사업자(deployer) 또한 다양한 의무를 수행해야 한다.

5. 무엇이 고위험군 AI에 해당하는지 구체적 판단 기준과 실제 활용 사례(use cases)가 추후 제시될 예정이다.

---

EU AI법, 올여름부터 단계적 시행

오랫동안 인류는 인공지능(AI)이 따라올 수 없는, 고도의 지적 능력과 복잡한 사고력을 요하는 영역이 있다고 믿어왔다. 2016년 등장한 바둑 AI 알파고는 인류가 가진 이 같은 자만에 균열을 내는 계기가 됐다. 그로부터 몇 년 후, 이번에는 생성형 AI(Generative AI)가 인류에게 새로운 충격을 주고 있다. 영원히 인간의 고유 영역으로 남으리라 여겼던 문화 및 예술 분야조차 그렇지 않을 수 있음이 새삼 확인됐기 때문이다. 앞으로 AI가 산업과 문화, 더 나아가 우리 삶의 방식과 패러다임에 미칠 영향이 어느 정도인지 그 누구도 예단하기 어렵다. 그러나 적어도 AI의 기술 혁신이 ‘상상 이상의 것’을 보여주고 있음은 분명하다.

AI가 가져오는 미래에는 기대와 우려가 공존한다. AI 기술을 활용한 제품/서비스가 제공하는 다양한 혜택 이면에 여러 위험이 도사리고 있기 때문이다. 학습 데이터 편향성에 기인한 인종 및 성별 간 차별의 심화, 딥페이크(deepfake)로 대표되는 가짜뉴스의 범람, AI의 블랙박스 속성1 1AI 모델이 내부적으로 어떻게 작동하는지 관찰하거나 이해하기 어려운 문제. 수많은 파라미터(parameter, 매개변수)가 상호작용하는 복잡한 딥러닝 기반의 AI 모델에서 두드러지게 나타나는 속성이다. 닫기 에 따른 AI 오류나 오작동에 대한 불명확한 책임 소재 등 우리는 이미 AI 관련 위험을 다양하게 겪고 있다. AI의 개발과 활용에 따라 새롭게 대두되는 위험을 효과적으로 규율하기 위한 입법과 정책 마련이 늦어져선 안 되는 이유가 여기에 있다.