AlI That Tech

기술 개발 위해 윤리는 제쳐둬도 될까?
AI야, 네가 답해봐!

284호 (2019년 11월 Issue 1)

Article at a Glance
AI 기술 개발이 가속화됨에 따라 전 세계는 AI 윤리 이슈 논의에 한창이다. 그러나 중국은 AI 윤리 문제보다는 패권에 더 집중하며 데이터 확보를 위해서라면 거대 감시 네트워크 구축, 광범위한 안면 인식 및 합성 기술 적용도 불사하고 있다. 이 덕분에 중국은 빠른 속도로 미국을 추격하고, 나아가 일부 영역에서는 미국을 이미 앞서고 있다. 위기의식을 느낀 미 트럼프 행정부도 AI 이니셔티브(America AI Initiative)를 발표하고 미국의 AI 글로벌 리더 지위 유지를 주문하고 있다. 그러나 법과 제도, 문화적 측면에서 중국식 접근이 허용되지 않고 윤리적 과제까지 고려해야 한다는 문제를 안고 있다. 기술 개발과 윤리 사이의 딜레마에서 양국의 행보가 주목된다.


미·중 AI 패권 경쟁의 가속화

얼마 전 일본 시가총액 2위에 달하는 소프트뱅크사의 손정의 회장이 문재인 대통령을 만나 ‘첫째도, 둘째도, 셋째도 AI’라고 강조했다. 이 정도로 인공지능(AI)의 중요성과 이를 향한 관심은 날로 커지고 있다. AI 기술을 둘러싼 치열한 패권 경쟁은 이미 전 세계적으로 진행되고 있으며 그 한복판에서 AI 리더 지위를 놓고 다투는 대표적인 국가는 미국과 중국이다.

미국은 현재 AI 기술 수준 및 연구의 양과 질 측면에서 최선도국이다. 2017년 기준, 지난 5년간 AI 분야 학술연구 건수는 2위(3만966건), 피인용 수는 1위(12만8653건)에 달했다. 이처럼 미국은 AI 관련 종합 지표에서 가장 우수한 역량을 갖추고 있다. 1 우리나라도 AI 분야 현황을 점검할 때 미국을 기준점으로 삼고 있다. AI 분야에서 미국은 우리나라보다 기술력은 1.8년 앞서고, 기술 수준은 약 28% 넘게 앞선다. 2 경쟁 중인 중국과 비교해도 미국의 기술력은 1.4년, 기술 수준은 약 18% 앞선다.

그런데 최근 미국 데이터혁신센터(Center for Data Innovation)는 AI 개발과 연구에 있어 아직은 미국이 선두에 있으나 앞으로는 중국이 우위를 점할 수도 있다고 분석했다. 3 이 외에도 몇몇 보고서에서 중국의 약진을 주목하며 중국이 글로벌 AI 패권 경쟁의 승자가 될 것이라고 점치고 있다. 4

중국의 미국 대비 기술 격차 1.4년은 2017년 기준으로, 현재는 이 차이가 더 줄어든 것으로 보인다. 이미 AI 분야 학술 연구의 양은 세계 1위(4만9096건)로 미국의 1.5배를 넘어서고 있고 피인용 건수는 2위(8만59건)에 이른다. 피인용 지수가 연구의 양에 대비해서 낮다는 점은 상대적으로 연구의 질이 떨어질 수 있다는 의미로 해석될 수도 있다. 그러나 그렇다 치더라도 두 지표 모두 매우 높은 수치이며 연구의 양과 인용 건수 모두 성장세로 점차 그 비율의 간극이 줄어들고 있다는 점은 주목할 만하다.


DBR mini box I: 미·중 간 AI 패권 장악을 위한 역량 비교

현재 AI 경쟁에서 전반적으로는 미국이 중국을 앞서고 있다. 그러나 중국은 AI 적용 규모와 수집하는 데이터의 양에서 미국을 넘어섰다. 하드웨어 인프라도 전체 평가 척도에서는 중국이 미국보다 낮은 점수이지만 규모는 훨씬 앞선다. AI 스타트업에 대한 투자금액도 중국(81억 달러)이 미국(60억 달러)보다 많다(2017년 기준). 스타트업 투자 수 또한 격차를 점차 줄여가고 있다.



중국의 AI 분야 성장 요인 : 데이터와 인프라, 강력한 정책 기조와 체제

AI 기술은 학습량에 따라 성능이 달라진다. 지난 2016년 알파고가 16만 개의 기보학습을 바탕으로 높은 성능을 보였고 후속 버전도 그랬던 것처럼 학습 데이터의 절대량이 우선 뒷받침돼야 한다. 물론 왜곡되지 않은 양질의 데이터를 학습해야 AI가 정확히 판단할 수 있다.

중국은 AI 발전의 핵심인 데이터의 양이 다른 나라를 압도한다. 예를 들어, 작년 기준으로 전체 인구의 45%(약 5억2500만 명 이상)가 자국 기업의 앱을 활용한 모바일 결제를 이용하고 있다. 이는 미국 내 모바일 결제 이용자 수의 열 배에 달하는 수치다. 엄청난 규모의 결제 건수는 이와 연동된 다양한 유통 및 금융 인프라를 통해 매일 엄청난 양의 데이터를 생산하고 있다. 중국 정부와 기업들은 이를 다양한 영역에 활용한다. 마찬가지로, 중국에서 발생한 사물인터넷(IoT) 데이터 또한 2018년 한 해 1억5200만 테라바이트(TB)로 미국(6900만 TB)의 두 배가 넘는다.

중국의 기술 발전에는 기술 외적인 요인들도 크게 작용했다. 그 요인 중 하나가 바로 자금력이다. 그동안 ‘made in China’의 제품이 아닌 것을 찾아보기 힘들어졌을 정도로 중국은 값싼 노동력을 바탕으로 세계 제조품 시장을 장악해왔다. 이를 통해 막대한 부를 축적한 중국은 이 자금을 이용해 많은 영역에 있어 글로벌 패권을 위한 도약을 추진하고 있다. ICT 영역에서 4차 산업혁명의 핵심 기술로 주목받는 AI도 당연히 예외가 아니다.

특히 자본이 많이 투자되는 인프라 영역에서의 약진은 이를 잘 증명한다. 중국은 이미 미국보다 더 많은 인프라를 확보하고 있다. 컴퓨팅파워 인프라는 고성능 AI의 또 다른 전제 조건이다. 세계에서 성능 500위 내의 슈퍼컴퓨터 중 219대를 중국이 보유하고 있으며, 이는 미국(116대)의 두 배에 가까운 수치다. 양국은 서로 최고 성능의 신형 슈퍼컴퓨터를 번갈아 내놓으며 1위 자리를 뺏고 뺏기는 상황에 있다.

중국 AI 기술 약진의 또 다른 요인은 중화사상(中華思想) 5 에 입각한 강력한 정책 기조에 있다. 최근 중국이 발표한 정책을 보면 4차 산업혁명 시대의 글로벌 패권을 장악하고자 하는 의지가 강하게 드러난다. 지난 2017년 7월 중국 정부는 ‘차세대 AI 발전 계획’을 발표하며 2030년까지 세계 1위 AI 강국이 되는 것을 목표로 제시했다. 지난 2018년 10월에는 시진핑 주석이 중국 내 주요 관계자들을 모아놓고 ‘AI는 중국이 세계 기술 경쟁의 주도권을 장악하기 위한 핵심 기술’이라 언급하며 미국의 견제를 AI로 돌파하겠다는 의지를 천명했다.

이러한 정책이 강하게 추진되게 하는 밑바탕에는 중앙집중식 국가 체계가 있다. 중국은 일원화된 국가 체계를 갖추고 있고, 정부의 통제력은 막강하다. 정부가 추진하면 기업들은 수긍한다. 이런 체제가 옳은지, 그른지 하는 가치판단은 배제하더라도 이 특성 자체가 갖는 방향성과 추진력은 무서울 정도다.

한 예로, 중국은 정부가 ICT 영역에서 바깥세계와의 연결을 통제한다. 외국의 포털 서비스 접속을 원천 차단하고 온라인 공간에서는 연일 검열이 이뤄지고 있다. 2017년 6월에는 ‘사이버보안법’을 통해 중국에서 영업하는 모든 IT 관련 기업은 데이터를 중국 안에 보관하게 하고, 중국 정부가 요구하면 모든 데이터 암호 해독 정보를 제공해야 함을 공표했다. 2019년 6월에는 우리나라의 한 포털사이트도 차단했다. 이로 인해 글로벌 IT 기업이 서비스를 축소하거나 클라우드 기업이 철수하는 사태가 빚어지고 있으며 세계 많은 국가가 비난하고 있지만 이런 정책은 변함없이 추진되고 있다.


DBR mini box II: AI 연구의 새로운 패러다임, AI 윤리


미 국립과학재단(NSF)은 오래전부터 AI 연구를 지원해 왔는데 최근 데이터의 활용 및 AI로 인해 변화하는 일자리 환경 대응과 같은 사회 윤리 문제 해결형 연구지원 사업을 추진 중이다. 국방 기술 개발 및 기술의 상용화에도 많은 영향을 미치고 있는 미 방위고등연구계획국(DARPA) 또한 사회 윤리적인 차원의 AI 수용을 위해 ‘설명 가능한 AI(eXplainable AI, X AI)’ 연구를 추진하고 있다. 하버드 케네디스쿨의 The Future Society그룹은 법률 및 의료 분야에서의 AI 활용과 발생할 수 있는 윤리 문제에 대한 대응 방안을 폭넓게 연구 중이다. 스탠퍼드의 인간 중심 인공지능 연구소(HAI)는 인간과 AI가 파트너십을 유지할 수 있는 주제로 AI 윤리 문제를 다루고 있고, MIT 미디어랩은 AI의 윤리와 거버넌스를 담당하는 연구그룹을 구성하고 정치, 사회, 문화, 복지, 법률 등의 분야에서 포용적 AI를 주제로 연구를 진행하고 있다.

또한, OECD는 지난 5월 인공지능 권고안을 36개 회원국 i 만장일치로 채택·발표하고 AI의 윤리적인 고려를 강조했다. 권고안에는 포용성과 지속가능성, 인간 가치와 공정성, 투명성과 설명 가능성, 안전성, 책임성 등의 일반 원칙이 담겨 있다. 이는 AI에 대한 개발이 인권과 민주적 가치, 그리고 법을 존중해야 한다는 원칙, AI를 개발 및 서비스하는 기업과 사용자들은 책임 의식을 가지고 안전성과 투명성을 지켜야 한다는 가이드라인을 포함한다.



AI 윤리 문제의 대두

한편, AI 기술의 연구개발이 진행되면서 전 세계의 학자와 연구 협·단체 및 기관들이 주목하기 시작한 것은 AI 윤리 문제다. AI가 산업과 사회 전반에 확산되면서 야기될 수 있는 문제들을 예측해보고 대응 방안을 세우고자 하는 연구가 AI 선도국을 중심으로 활발하게 진행되고 있다. 이러한 윤리 연구는 AI를 개발 및 구축할 때 고려해야 할 사항들을 사전 설계에 반영하고 경영자와 개발자들이 사회·법적 책임의식을 갖도록 종용하고 있다.

모든 기술이 마찬가지지만 윤리적 고려는 반드시 필요하다. 얼마 전 드론으로 사우디 석유 시설을 테러한 사건에서 보이듯이 기술은 사회 주요 기반 시설을 파괴하고 국민의 생명과 안전을 위협하는 수단으로 얼마든지 변질될 수 있다. 더욱이 기술의 파급효과가 크고 자칫 통제가 어려울 수도 있는 고성능 AI라면 더욱 이 문제에 신경 써야 한다.


AI 윤리를 다루는 미국과 중국의 자세

이와 유사한 맥락에서 미국 사회는 기업들을 육성하는 정책을 펴다가도 해당 기업이 시장에서 독점적 지위를 남용할 우려가 보이는 순간 강력한 규제를 시행한다. 미국인의 전반적인 의식 흐름 속에는 시장 질서를 어지럽히는 것을 용납하지 않는 정서가 깔려 있다. 시장 질서를 지키는 게 기업의 성장보다 중요한 가치로도 종종 인식된다. 미국 사회가 AI의 윤리 문제를 적극적으로 논의하는 이유이기도 하다. AI 기술 자체가 가져올 수 있는 부작용을 사전에 점검하고 단순한 AI 성능 고도화에서 한발 더 나아가 ‘인류의 미래’와 ‘사회 질서의 유지’라는 거시적인 접근을 취하고자 한다. 이는 AI 기술을 개발할 때도 윤리적인 부작용이 발생할 수 있는 사안은 최대한 지양하려는 경향으로 나타난다.

이런 관점에서 AI 윤리 문제를 고려하는 게 기업들의 기술 개발 및 발전에 걸림돌로 작용할 수 있다는 의견도 있다. 이는 기업들이 고려해야 할 사항이 늘어난다는 것을 의미하며 상용화 과정에서 정부나 국제기구·사회단체 등으로부터 검증받거나 이를 설득시키는 과정이 추가된다는 것을 뜻한다. 기술은 일찌감치 개발됐지만 윤리적인 문제로 인허가가 나지 않는다든지, 처음부터 다시 설계해야 하는 상황이 발생할 수도 있다. 기술 개발의 속도가 늦춰지는 효과가 나타날 수 있는 대목이다. 특히 후발주자들에게는 더욱 그렇다. 기술 추격을 하기에도 바쁜 상황에서 윤리적인 사항까지 고려하는 것은 분명 기술 축적의 측면에서는 제약사항이 될 수 있다.

반면 중국은 이런 측면을 사실상 무시하고 있다. 그동안 줄곧 추격자였던 중국은 우선 성장하고 보려는 경향이 강했다. 많은 영역에서 질보단 양적인 측면이 강조됐고 규모의 경제를 잘 활용해 지금의 자리까지 이르렀다. 최근에서야 시진핑 주석이 양적 발전에서 질적 발전으로 전환해야 함을 주문했다고 하나 여전히 성장 우선의 관성은 남아 있다. 앞서 설명한 대로 우선 성장하고 보자는 주의, 미국과의 경쟁에서 이기고 글로벌 패권을 장악하겠다는 야심, 강력한 일원주의 정부 통제형 국가 체계가 맞물려서 AI 영역에서 새로운 중화사상을 표출하고 있다. 이렇게 되면 기술의 개발과 적용 과정에서 윤리적인 차원의 문제는 상대적으로 뒤로 밀리기 마련이다. 오히려 인권 침해 같은 논란을 무시한 채 AI 기술을 국민 통제 수단으로까지 활용하려는 모습도 보인다.

대표적인 사례로 안면인식 기술이 있다. 현재 중국의 안면인식 기술은 세계 최고 수준이다. 중국은 이미 대중교통과 각종 서비스에 안면인식 기술을 도입해 서비스하고 있다. 지하철 요금 계산도 안면인식을 통해 처리한다. 이 밖에도 금융, 유통, 모바일, 공공 서비스, 치안 등 전반에 걸쳐 안면인식 기술이 적용되고 있다. 국가 차원에서 대대적으로 투자와 지원을 하고 있고 기존 대기업을 비롯해 스타트업까지 적극적으로 양성해 기술을 축적하고 있는 실정이다.

도심은 물론 지역 농촌까지 수만 대에 달하는 CCTV를 설치하고 주민들의 휴대전화나 차량, 가정의 TV나 도어락까지 네트워크와 연동하는 시스템을 구축하고 있다. 공공 안전과 사회적 신용 제도를 구축하는 것이라지만 사실상 국가 전체에 대한 감시 네트워크를 만드는 셈이다. 아이러니한 것은 이런 감시 네트워크를 통해 생성되고 수집되는 데이터 분량이 천문학적이고 이 덕분에 중국은 AI 시스템을 기술적으로 고도화해 고성능의 AI를 보유하게 됐다는 것이다.



게다가 이제는 안면인식을 넘어서 안면 합성 기술까지 등장했다. 자오(Zao) 6 라는 앱은 딥페이크(Deep Fake) 7 기술을 활용한 안면합성 앱인데 앱 사용자가 얼굴 사진을 업로드하면 특정 영상 속 얼굴을 업로드된 사진의 얼굴로 바꿔준다. 기존 영상 인물의 안면을 파악할 뿐만 아니라 얼굴의 세세한 움직임까지 계산해 새로운 얼굴 사진을 기반으로 제법 자연스럽게 합성된 안면 영상을 구현해준다. 마음만 먹으면 얼마든지 조작된 영상을 제작하고 배포하는 게 가능하다는 의미다.

막대한 규모의 내수 시장, 폐쇄적인 중국의 ICT 정책은 자국 기업의 성장을 촉진할 수 있는 좋은 토양이자 울타리가 됐다. 막대한 자금력을 기반으로 구축한 인프라, 국가 차원의 강력하고 강제적인 정책, 데이터 산유국이란 수식어만으로 부족할 만큼 많은 데이터를 만들어내는 인구수가 맞아떨어지면서 중국 AI 성장세는 빨라지는 중이다. 특히 순수한 기술 상용화만이 목적이 아닌 국가 통제 수단을 확보하려는 중국 정부의 이해관계도 맞아떨어져 이 같은 추이를 가속화하고 있다. 마치 브레이크가 고장 난 기관차 같다.

2018년 9월 출간된 서적 『AI슈퍼파워』 8 에서는 후발주자인 중국이 미국을 앞설 가능성이 언급됐고 최근 AT커니의 조사 자료에서도 설문에 응한 CEO의 39%가 AI 분야에서 조만간 중국이 미국을 앞지를 것으로 예측했다. 9


어떤 전략이 옳은가?

중국의 행보에 위기의식을 느낀 미 트럼프 행정부도 최근 ‘미국의 AI 분야 리더십 지위 유지’라는 주문을 각 기관과 기업에 전달했다. 지난 2월 AI 이니셔티브(America AI Initiative)를 발표하면서 연구개발, 인프라, 거버넌스, 인력, 국제적 참여 등 5대 핵심 요소를 제시했다. 이 중 거버넌스는 미 백악관 과학기술정책실(OSTP) 전문가 그룹을 중심으로 AI의 안전하고 윤리적인 사용을 보장하기 위한 지침을 마련하자는 것이고, 국제적 참여는 미국의 우위와 이익을 보장하면서 타 국가들과 협력하는 방안을 마련하자는 것이다. 즉, 윤리 문제를 고려하되 미국의 기술적 리더 지위도 유지하자는 취지다.

홍콩의 한 언론사는 이러한 트럼프 행정부의 조치를 기술 선도국이 안심하다가 후발국의 빠른 추격에 충격을 받는 상황을 의미하는 ‘스푸트니크 모멘트’라고 표현했다. 이를 냉전 시대의 미국과 소련의 우주개발 경쟁과 비유한 것이다. 최근 트럼프 행정부는 실제 중국의 도전에 대응해 중국 기업들에 대한 압박과 견제, 미국 내 중국 유학생이나 학자에 대한 이민·비자 관련 제재 등을 취하고 있다.

미국에서 중국 같은 거대 AI 네트워크 구축, 이런 것이 공공연하게 가능할까? 비밀리에 한다면 모를까 미국뿐 아니라 우리나라를 포함한 세계 대부분의 나라에서 불가능할 것이다. 현재 중국에서 상용화하거나 개발하고 있는 일부 AI의 경우 미국이 기술 난이도를 따라잡지 못해 구현하지 못하는 것은 아니다. 법과 제도, 문화적 측면에서 중국식 접근이 허용되지 않기 때문이다.

보통 법과 제도는 기술 개발 속도를 따라가지 못한다. 파급 효과가 큰 기술일수록 많은 부분에서 사회적 합의를 이끌어내야 한다. 미국을 비롯한 유럽, 우리나라는 개인의 인권과 권리를 더 중요시하는 의식이나 관련 법규 때문에 특정 AI 신기술이 개발된다 하더라도 급격한 사회 확산 및 적용 속도가 상대적으로 더딜 수밖에 없다.

AI 선도국들의 이러한 경쟁 양상을 보면서 우리는 어떠한 전략을 취해야 하는가. 기술 추격자로서 앞뒤 안 가리고 기술 패권 장악에만 몰두하는 것은 사실상 인류 미래를 위해서 좋을 것이 없다. 이는 많은 부작용을 초래할 것이다. 게다가 우리는 중국과 체질적으로 다르기에 이를 따라 할 수 있는 상황도 아니다.

부작용이 없는 AI 시대를 맞이하기 위해서는 조금 시간이 걸리더라도 짚고 넘어가야 할 문제들은 찬찬히 살펴 다져가는 것이 옳다. 물론, 기술 개발 및 확산에 제약사항이 되는 법규들은 수정돼야 한다. 빠른 기술 개발 및 확산과 윤리 문제 고려라는 다소 이율배반적인 딜레마 사이에서 균형 있는 전략이 필요한 때다.


필자소개 안성원 소프트웨어정책연구소 선임연구원 swahn@spri.kr
안성원 선임연구원은 고려대 전산학과를 졸업하고 동 대학원에서 전산이학 석사와 컴퓨터공학 박사 학위를 취득했다. 한국발명진흥회 지식재산평가센터 전문위원을 거쳐 2016년부터 소프트웨어정책연구소에서 근무 중이다. 현재는 AI정책연구팀에서 AI, 클라우드 등에 대한 연구 활동을 수행하고 있다.
동아비즈니스리뷰 350호 Smart Worcation 2022년 08월 Issue 1 목차보기