유럽연합이 인공지능법을 전격 제정하면서 AI 비즈니스 환경이 크게 달라졌다. 하지만 AI 분야의 글로벌 전문가들은 현재 대부분의 기업이 AI 위험에 대처하는 리스크 관리 역량이 부족하다고 평가한다. AI 기술의 급속한 발전이 역량 개선 속도를 앞지르고 있는 데다 기업의 AI 위험에 대한 이해가 부족하고, 관련 투자에도 적극적이지 않기 때문이다. 평가 기준조차 없는 게 현실이더라도 AI 위험에 대응하는 기업의 역량 구축이 시급하다. 기업은 높은 수준의 내부 지침을 마련하고 지속적으로 학습하며 AI 위험 관리에 민첩하게 대응해야 한다.
편집자주 | 이 글은 MIT 슬론 매니지먼트 리뷰(SMR) 홈페이지에 2024년 4월 23일 게재된 ‘AI-Related Risks Test the Limits of Organizational Risk Management’(BIG IDEA: RESPONSIBLE AI)를 번역한 것입니다.
MIT 슬론 매니지먼트 리뷰(SMR)와 보스턴컨설팅그룹(BCG)은 3년 전부터 학자, 업계 실무자를 포함한 글로벌 AI 전문가 패널을 구성해 기업과 조직에서 ‘책임 있는 인공지능(Responsible AI, RAI)’이 어떻게 구현되고 있는지 통찰력을 모아오고 있다. 이 프로젝트를 통해 2023년에는 ‘제3자(상용) AI 도구의 확산에 따른 RAI 프로그램의 강력한 구현’이라는 보고서를 발표한 바 있다.11원제는 ‘Building Robust RAI Programs as Third-Party AI Tools Proliferate’. 보고서 원문은 다음에서 확인할 수 있다. https://sloanreview.mit.edu/projects/building-robust-rai-programs-as-third-party-ai-tools-proliferate/닫기
우선 우리는 패널에 참여한 전문가들과 거대 언어 모델(LLM)에 다음 진술에 대한 견해를 물었다.
“기업은 AI 위험에 대처할 수 있는 리스크 관리 역량을 충분히 갖추고 있다.”
전문가 패널의 과반수(62%)가 이 진술에 동의하지 않거나 매우 동의하지 않는다고 대답했다. (그림 1, 표 1) 효과적인 리스크 관리의 장애물로는 기술 발전 속도, 리스크의 모호성, 규제의 한계를 꼽았다.
이제부터는 전문가 패널의 인사이트를 공유하며 RAI 이니셔티브에서의 우리의 관찰과 경험을 바탕으로 AI 위험을 해결하기 위해 기업의 리스크 관리 역량을 어떻게 활용해야 하는지 여러 의견을 제시하도록 하겠다.
엘리자베스 M. 레니에리스 (Elizabeth M. Renieris)
MIT 슬론 매니지먼트 리뷰 프로그램의 객원 편집자, 옥스퍼드 AI 윤리연구소의 선임 연구원, 국제거버넌스혁신센터의 선임 연구원
필자는 MIT 슬론 매니지먼트 리뷰의 ‘책임있는 AI 빅 아이디어(Responsible AI Big Idea program)’ 프로그램의 객원 편집자이자 옥스퍼드 AI 윤리연구소의 선임 연구원, 국제거버넌스혁신센터의 선임 연구원이다. 저서로는 『비욘드 데이터(Beyond Data): 메타버스에서 인권 되찾기』 (MIT Press, 2023)가 있다.
닫기
