로그인|회원가입|고객센터
Top
검색버튼 메뉴버튼

AI 위험 대응 어떻게… 전문가 패널 조언

“AI 위험은 코앞 닥쳐도 보이지 않아
최고 수준 대응 지침 재빨리 가동을”

엘리자베스 M. 레니에리스 (Elizabeth M. Renieris),데이비드 키론(David Kiron),스티븐 밀스 (Steven Mills) | 395호 (2024년 6월 Issue 2)
Article at a Glance

유럽연합이 인공지능법을 전격 제정하면서 AI 비즈니스 환경이 크게 달라졌다. 하지만 AI 분야의 글로벌 전문가들은 현재 대부분의 기업이 AI 위험에 대처하는 리스크 관리 역량이 부족하다고 평가한다. AI 기술의 급속한 발전이 역량 개선 속도를 앞지르고 있는 데다 기업의 AI 위험에 대한 이해가 부족하고, 관련 투자에도 적극적이지 않기 때문이다. 평가 기준조차 없는 게 현실이더라도 AI 위험에 대응하는 기업의 역량 구축이 시급하다. 기업은 높은 수준의 내부 지침을 마련하고 지속적으로 학습하며 AI 위험 관리에 민첩하게 대응해야 한다.


편집자주 | 이 글은 MIT 슬론 매니지먼트 리뷰(SMR) 홈페이지에 2024년 4월 23일 게재된 ‘AI-Related Risks Test the Limits of Organizational Risk Management’(BIG IDEA: RESPONSIBLE AI)를 번역한 것입니다.


AI위험_예시1_S

MIT 슬론 매니지먼트 리뷰(SMR)와 보스턴컨설팅그룹(BCG)은 3년 전부터 학자, 업계 실무자를 포함한 글로벌 AI 전문가 패널을 구성해 기업과 조직에서 ‘책임 있는 인공지능(Responsible AI, RAI)’이 어떻게 구현되고 있는지 통찰력을 모아오고 있다. 이 프로젝트를 통해 2023년에는 ‘제3자(상용) AI 도구의 확산에 따른 RAI 프로그램의 강력한 구현’이라는 보고서를 발표한 바 있다.1

올해는 세계 최초의 포괄적 인공지능 규제 법안인 유럽연합의 인공지능법이 법제화된 상황에서 AI 관련 위험(AI-related risks, 이하 AI 위험)에 대처할 수 있는 기업의 역량을 살펴보고자 한다.2

우선 우리는 패널에 참여한 전문가들과 거대 언어 모델(LLM)에 다음 진술에 대한 견해를 물었다.

“기업은 AI 위험에 대처할 수 있는 리스크 관리 역량을 충분히 갖추고 있다.”

전문가 패널의 과반수(62%)가 이 진술에 동의하지 않거나 매우 동의하지 않는다고 대답했다. (그림 1, 표 1) 효과적인 리스크 관리의 장애물로는 기술 발전 속도, 리스크의 모호성, 규제의 한계를 꼽았다.

이제부터는 전문가 패널의 인사이트를 공유하며 RAI 이니셔티브에서의 우리의 관찰과 경험을 바탕으로 AI 위험을 해결하기 위해 기업의 리스크 관리 역량을 어떻게 활용해야 하는지 여러 의견을 제시하도록 하겠다.

가입하면 무료

  • 엘리자베스 M. 레니에리스 (Elizabeth M. Renieris)

    MIT 슬론 매니지먼트 리뷰 프로그램의 객원 편집자, 옥스퍼드 AI 윤리연구소의 선임 연구원, 국제거버넌스혁신센터의 선임 연구원

    필자는 MIT 슬론 매니지먼트 리뷰의 ‘책임있는 AI 빅 아이디어(Responsible AI Big Idea program)’ 프로그램의 객원 편집자이자 옥스퍼드 AI 윤리연구소의 선임 연구원, 국제거버넌스혁신센터의 선임 연구원이다. 저서로는 『비욘드 데이터(Beyond Data): 메타버스에서 인권 되찾기』 (MIT Press, 2023)가 있다.

    이 필자의 다른 기사 보기
  • 데이비드 키론(David Kiron)

    MIT 슬론 매니지먼트 리뷰 편집이사

    필자는 『노동력 생태계(Workforce Ecosystems): 사람, 파트너, 기술을 통한 전략적 목표 달성』(MIT Press, 2023)을 공동 집필했다.

    이 필자의 다른 기사 보기
  • 스티븐 밀스 (Steven Mills)

    보스턴컨설팅그룹(BCG) 상무이사 겸 파트너, 최고 AI 윤리 책임자

    필자는 보스턴컨설팅그룹(BCG) 상무이사 겸 파트너로 최고 AI 윤리 책임자를 맡고 있다.

    이 필자의 다른 기사 보기
인기기사
DBR AI

아티클 AI요약 보기

30초 컷!
원문을 AI 요약본으로 먼저 빠르게 핵심을 파악해보세요. 정보 서칭 시간이 단축됩니다!

Click!