로그인|회원가입|고객센터
Top
검색버튼 메뉴버튼

‘유럽연합 인공지능법’ 자세히 들여다보니

기본권-안전 침해하는 ‘고위험 AI’가 타깃
사람과 상호작용하는 AI도 규제 대상

강지원 | 395호 (2024년 6월 Issue 2)
Article at a Glance

유럽연합 인공지능법에서 우리 기업들이 주목해야 할 주요 사항은 다음과 같다.

1. 기계학습 외 방법으로 자가 학습한 AI 시스템도 법안 적용 대상에 포함된다.

2. EU 내 법인이나 사무소를 두지 않은 역외 기업도 자사의 AI 시스템/서비스의 결과물이 EU 시장 내에서 이용될 경우 법 적용을 받는다.

3. 다크패턴 AI 같은, 인간의 잠재의식에 영향을 주는 조작·기만적 AI 시스템은 전면 금지된다.

4. 고위험군 AI의 공급자(provider)는 물론 이용사업자(deployer) 또한 다양한 의무를 수행해야 한다.

5. 무엇이 고위험군 AI에 해당하는지 구체적 판단 기준과 실제 활용 사례(use cases)가 추후 제시될 예정이다.



GettyImages-1149284824

EU AI법, 올여름부터 단계적 시행

오랫동안 인류는 인공지능(AI)이 따라올 수 없는, 고도의 지적 능력과 복잡한 사고력을 요하는 영역이 있다고 믿어왔다. 2016년 등장한 바둑 AI 알파고는 인류가 가진 이 같은 자만에 균열을 내는 계기가 됐다. 그로부터 몇 년 후, 이번에는 생성형 AI(Generative AI)가 인류에게 새로운 충격을 주고 있다. 영원히 인간의 고유 영역으로 남으리라 여겼던 문화 및 예술 분야조차 그렇지 않을 수 있음이 새삼 확인됐기 때문이다. 앞으로 AI가 산업과 문화, 더 나아가 우리 삶의 방식과 패러다임에 미칠 영향이 어느 정도인지 그 누구도 예단하기 어렵다. 그러나 적어도 AI의 기술 혁신이 ‘상상 이상의 것’을 보여주고 있음은 분명하다.

AI가 가져오는 미래에는 기대와 우려가 공존한다. AI 기술을 활용한 제품/서비스가 제공하는 다양한 혜택 이면에 여러 위험이 도사리고 있기 때문이다. 학습 데이터 편향성에 기인한 인종 및 성별 간 차별의 심화, 딥페이크(deepfake)로 대표되는 가짜뉴스의 범람, AI의 블랙박스 속성1 에 따른 AI 오류나 오작동에 대한 불명확한 책임 소재 등 우리는 이미 AI 관련 위험을 다양하게 겪고 있다. AI의 개발과 활용에 따라 새롭게 대두되는 위험을 효과적으로 규율하기 위한 입법과 정책 마련이 늦어져선 안 되는 이유가 여기에 있다.

가입하면 무료

  • 강지원jiwon.kang@kimchang.com

    김·장 법률사무소 외국변호사(미국 뉴욕주)

    필자는 미국 뉴욕 소재 카도조 로스쿨(Cardozo School of Law)을 졸업하고 서울대에서 법학 박사학위를 받았다. 국회 입법조사처에서 AI, 플랫폼, 공정거래, 소비자 보호와 관련한 입법·정책 및 해외 규제 동향에 대한 국회 자문 업무를 맡아 왔다. 김·장 법률사무소에서는 특히 AI를 개발·활용하는 기업들의 위험관리 및 컴플라이언스 자문 업무에 주력하고 있다.

    이 필자의 다른 기사 보기
인기기사
DBR AI

아티클 AI요약 보기

30초 컷!
원문을 AI 요약본으로 먼저 빠르게 핵심을 파악해보세요. 정보 서칭 시간이 단축됩니다!

Click!