인공지능(AI) 개발 분야를 대표하는 미국 기업의 전·현직 직원들이 회사가 AI의 위협 요인에 대해 충분히 알리지 않고 있다며 비판의 목소리를 높여 화제가 되고 있습니다.
6월 4일(현지 시간) 오픈AI와 구글 직원 13명은 ‘최첨단 AI에 대한 경고 권리’라는 이름의 공동성명을 발표하면서 “AI는 불평등의 심화와 허위 조작 정보의 확산, 나아가 인류 멸종까지 초래할 수 있는 상황인데 기업들은 이를 자체적으로 해결할 수 없다”고 우려했습니다. 이들은 “위험 우려가 공유될 수 있도록 내부 고발자에 대한 보호조치를 마련해야 할 것”이라고 목소리를 높였습니다.
얼마 전에는 AI가 100년 안에 인간을 멸종시킬 수 있는 확률이 99.9%라는 전망도 나온 바 있습니다. 이렇게 주장한 얌폴스키 루이빌대 사이버보안연구소 교수가 “결국 인류는 이 3가지 운명 중 하나를 맞을 것”이라며 제시한 시나리오를 보면 더욱 심란합니다. ① AI가 모두를 죽이는 상황 ② AI로 인해 모두가 고통받고 차라리 죽기를 바라는 상황 ③ 모든 인간이 목적을 완전히 상실하면서 인간의 존재 가치가 없어지는 상황이기 때문입니다.
이처럼 AI가 인류에 미칠 영향에 대한 우려가 커지는 가운데 유럽연합이 세계 최초의 AI 규제 법인인 인공지능법(EU AI Act, 인공지능 위험성에 대비한 규제 법안)을 최근 승인했습니다. 당장 6월 중 정식 발효되며 유예 기간을 거쳐 향후 2년 내 전면 시행을 앞두고 있어 적절한 대응이 시급합니다.
국내 기업들도 참여 중인 디지털 헬스케어, 신용평가 등의 분야도 기본권 침해 우려를 이유로 강력 규제 대상에 포함됩니다. 이와 관련된 일부 AI 기술은 아예 금지될 수도 있어 실제 적용 여부를 면밀히 따져볼 필요가 있습니다.
전문가들은 이 법이 국제 AI 규제의 주요 이정표가 될 것이며 다른 나라도 이를 따르게 될 것으로 전망하고 있습니다. AI 이용에 따른 소비자 보호 등 관련 법 및 규칙 제정이 당면 과제로 떠오른 한국 정부도 마찬가지입니다.
예상가능하듯 EU의 인공지능법 역시 험난한 과정을 통해 탄생했습니다. 2023년에는 지멘스, 카르푸, 에어버스 등 유럽 소재 163개 기업이 인공지능 규제 법안을 반대하는 공개서한을 유럽의회에 제출하기도 했습니다.
이 법이 과도한 규제로 유럽 AI 산업의 경쟁력과 기술 주권을 위태롭게 할 것이라는 주장이었습니다. 하지만 결국 규제 법안 도입이 확정되자 이젠 빅테크들을 중심으로 법안에 따른 충격을 최소화하는 한편, 거스를 수 없는 대세가 된 규제를 기회로 활용하려는 움직임이 분주해지고 있습니다.
우리 기업들도 ‘규제하면 혁신이 저하된다’는 등의 소극적 대응 대신 어떻게 하면 최소 비용으로 규제 레짐에 대응할 수 있을지, 더 나아가 어떻게 하면 AI 윤리 이슈에 리더십을 발휘해 새로운 기회로 활용할지에 관심을 집중해야 한다고 전문가들은 강조합니다.
특히 저개발국들은 AI 기술을 통한 획기적인 도약을 꿈꾸지만 미국에서 관련 기술을 도입할 경우 데이터 안보, 데이터 주권을 해치게 될까 두려워한다고 합니다. 이러한 틈새시장을 노려 상대 국가의 사회문화, 윤리 규범까지 고려해 충실하게 대응하는 조건으로 AI 기술 프로젝트를 수주하는 방법도 추천됩니다.
HBR(하버드비즈니스리뷰)은 최근 호에 세계 최초의 AI 규제법 발효에 따른 대응 방법을 전하면서 현 상황을 ‘준비가 됐든, 되지 않았든 다가올 현실’로 규정했습니다.
그러면서 “윤리 위반으로 인해 신뢰를 잃지 않도록 애쓰면서, 그럼에도 혁신을 최우선 과제로 생각해야 한다”고 강조했습니다. 역시 AI 법을 ‘방어’보다는 새로운 ‘공격’ 기회로 여기라는 주문인 셈입니다.
인간이 ‘멸종’을 막기 위해 스스로 만든 새로운 기회 속에서 또 다른 진화를 가져다줄 혁신을 꿈꾼다면 이번 호 스페셜 리포트에 각별히 주목해주시기 바랍니다.
인기기사
