Tech & Business

온디바이스 AI 시대, ‘스몰데이터’ 활용 역량 키워야

298호 (2020년 6월 Issue 1)

Article at a Glance

클라우드 컴퓨팅의 대안으로 온디바이스 AI가 부상하고 있다. 온디바이스 AI는 빠른 서비스 제공, 강화된 정보 보안, 에너지 소모 절감 등에서 클라우드 컴퓨팅의 단점을 보완할 수 있을 것으로 기대된다. 앞으로 온디바이스 AI는 하드웨어 경쟁력 강화, 클라우드 AI와의 연계, AI 반도체 기술 개발을 중심으로 발전할 전망이다. 앰비언트 컴퓨팅 시대를 맞아 기업은 AI 중심의 비즈니스 전략을 세우고 스몰데이터 활용 역량을 키우는 노력이 필요하다.


1. 온디바이스 AI의 부상

인공지능(AI)은 이제 IT 기업만의 전유물이 아니다. 거의 모든 산업에서 AI가 핵심 경영 테마로 자리 잡았다. R&D, 마케팅, HR, 법률, 재무 등 각종 비즈니스 분야에 AI를 적용하려는 시도가 확산되고 있다. 구글, IBM 등 여러 기업은 이구동성으로 AI 기업으로의 변신을 선언했다. AI를 구현하기 위한 기술 중 가장 큰 관심을 받는 것이 바로 딥러닝(Deep Learning)이다. 인간의 뇌신경 구조에 착안한 신경망 네트워크(Neural network) 알고리즘을 기반으로 탄생한 딥러닝은 다량의 데이터 입력을 통해 점진적으로 성능을 강화하고 이를 통해 상황과 조건에 적합한 판단을 내릴 수 있다. 오늘날 학계 및 기업이 선보이는 AI 연구의 대부분이 딥러닝 기반으로 이뤄질 정도로 딥러닝은 AI의 대표 기술로 자리 잡았다.

딥러닝 구현을 위해서는 무엇보다도 알고리즘 학습을 위한 대량의 데이터와 이를 빠르게 처리할 수 있는 고성능 컴퓨팅 능력이 필수적이다. 그러나 신경망 네트워크가 막 연구될 당시에는 이런 요건을 충족하기 어려웠다. 대규모의 데이터 확보 및 저장이 어렵고, 당시 거대한 메인프레임 컴퓨터도 오늘날 스마트폰보다 컴퓨팅 수준이 낮았기 때문이다. 이런 이유로 딥러닝 연구 성과는 오랜 기간 매우 더뎠다. 이런 문제는 클라우드 컴퓨팅의 등장으로 해결됐다. 클라우드 컴퓨팅을 수행하는 데이터센터는 대규모 데이터를 저장할 수 있으며, 수많은 컴퓨터의 집약 설치를 통해 고수준의 컴퓨팅 능력을 갖출 수 있기 때문에 엄청난 작업량을 요구하는 문제도 수월하게 처리할 수 있다. 클라우드 컴퓨팅 활용을 통해 딥러닝은 뛰어난 AI 성능을 자랑할 수 있게 됐다.

소프트웨어, 플랫폼 등 각종 IT 서비스의 편리한 제공을 통해 저변을 넓혀 온 클라우드 컴퓨팅은 딥러닝을 통해 빠르게 성장했다. AI를 기반으로 각종 응용 서비스를 만들기 위해 클라우드 컴퓨팅을 활용하는 사례가 크게 늘었다. 아마존과 마이크로소프트, 구글 등 클라우드 컴퓨팅 전문 기업들은 대기업, 스타트업 등 고객들의 AI 활용 지원을 강화하고 있으며, 인텔과 엔비디아 등 반도체 기업들 역시 클라우드 컴퓨팅의 AI 구현을 위한 반도체 개발에 집중 투자하고 있다. 클라우드 컴퓨팅 기반의 AI, 즉 클라우드 AI는 오늘날 AI 구현의 사실상 (De-facto) 시장 표준으로 자리 잡았다.

현재 클라우드 AI는 스마트폰이나 스마트 스피커 등 사용자 단말을 통해 실행된다. 예컨대, 아마존의 에코(Echo) 등 스마트 스피커는 사용자의 음성 명령을 수집해 음성 인식 기능을 실행하는 데이터센터로 전송한다. 데이터센터는 사용자의 음성 데이터를 분석해 의도를 파악하고 여기에 적합한 결과를 다시 스마트 스피커로 전송한다. 즉 사용자는 단말을 매개로 데이터센터와 AI 처리 요청 및 결과 데이터를 주고받는 것이다. 이처럼 현재 단말은 AI 사용의 보조적 수단에 머물러 있지만 최근 학계 및 업계에서는 AI의 클라우드 컴퓨팅 의존도를 낮추기 위한 연구가 주목받고 있다. 즉 사용자의 단말이 주변 데이터를 기반으로 딥러닝 등 AI를 직접 수행하는 것이다.

115


단말 자체적으로 AI를 수행하는 기술을 온디바이스 AI(On-Device AI), 혹은 스몰 AI(Tiny AI)라고 한다.(그림 1) 1 온디바이스 AI의 목표는 클라우드 AI와 달리 충분한 데이터 수집이 어렵고 컴퓨팅 능력도 부족한 환경에서 사용자가 필요한 AI를 원활히 지원하는 것이다. 이는 딥러닝 구현에 필요한 핵심 전제 요건을 뛰어넘으려는 시도라는 점에서 미래 AI 시장 발전의 원동력이 될 것이라는 전망도 많다.

온디바이스 AI는 아직 초기 연구 및 상용화 단계다. 그러나 글로벌 학계 및 업계의 온디바이스 AI 기술 개발 투자도 꾸준히 늘고 있다. MIT는 2020년 10대 유망 기술 중 하나로 온디바이스 AI를 꼽았으며 2 글로벌 유수 대학은 물론 벨기에의 IMEC 등 여러 연구소도 온디바이스 AI 기술 연구 및 활용 사례 발굴에 주력하고 있다.

115_2

강력한 클라우드 컴퓨팅 인프라를 활용해 글로벌 AI 시장을 선점한 구글과 아마존, 마이크로소프트는 물론, 애플, 인텔, 엔비디아, 알리바바 등 거의 모든 IT 기업이 이구동성으로 온디바이스 AI를 미래 AI의 격전지로 꼽고 있다. 우리나라 대기업 및 스타트업, 연구소 등 다양한 기관 역시 온디바이스 AI 연구에 적극 뛰어들고 있다.

2. 온디바이스 AI의 장점

1) 빠른 AI 서비스 제공

클라우드 데이터센터는 사용자 단말과 지속적으로 데이터를 주고받아야 한다. 이 과정에서 데이터를 주고받는 속도와 데이터 무결성 수준을 결정하는 것이 바로 네트워크 상태다. 만일 네트워크 상태가 원활하지 않다면 적시에 데이터센터로부터 AI 지원을 받기 어려울 수 있다. 네트워크 인프라 수준이 높은 도시에서도 무선 네트워크가 미치지 못하는 음영지역이 존재하기 때문에 네트워크 안정성은 클라우드 AI의 성능에 큰 영향을 미칠 수 있다.

네트워크 불안정으로 클라우드 AI 지원 속도가 더디다면, 특히 정보의 실시간성이 요구되는 서비스 운영이 어려울 수 있다. 예컨대, 자율주행차는 수천 분의 1초 단위로 주변 지형 및 도로 상황을 판단하고 대응할 수 있어야 한다. 그러나 터널이나 도시 외곽 등 네트워크 상태가 불안정하다면 클라우드 AI 지원이 어려워지면서 자율주행차 주행도 불가능하게 된다. 한편으로는 고속 그래픽 처리가 중요한 게임 역시 클라우드 AI를 기반으로 구동된다면 네트워크 상태에 따라 서비스 만족도(Quality of Service)가 크게 저하될 수 있다.

반면 온디바이스 AI는 이런 문제에서 자유롭다. 단말 자체적으로 AI를 실행할 수 있기 때문에 네트워크 연결이 끊어져도 안정적으로 AI 관련 서비스를 처리할 수 있다. 가상/증강현실, 드론, 로봇 등 실시간 정보 처리가 필요한 제품 및 서비스는 늘어날 가능성이 크다. 이런 까닭에 온디바이스 AI를 통해 AI 처리 속도 및 안정성을 높이려는 시도가 더욱 많아질 것으로 예상된다.

116

2) 정보 보안 강화

클라우드 데이터센터가 대규모 데이터를 집중 보관하기 때문에 발생할 수 있는 보안 이슈가 최근 IT 업계의 주요 이슈로 떠올랐다. 클라우드 컴퓨팅 사용이 증가하면서 개인정보를 담은 데이터가 클라우드 데이터센터로 집약되는 현상이 심화되고 있다. 클라우드 컴퓨팅은 언제 어디서나 필요한 업무를 처리할 수 있는 편리성을 제공하지만 동시에 해킹, 디도스 등 보안 공격의 집중 표적이 될 수 있다. 보안 공격의 피해가 과거에는 소수의 기기에만 영향을 미쳤다면 사물인터넷(IoT)이 일상화된 오늘날에는 광범위하게 확산될 수 있다.

IT 기업들의 막대한 개인정보 데이터 수집에 대한 비판적 여론도 크게 늘었다. 거대 기업들이 개인의 사생활 보호보다 데이터를 활용한 알고리즘 기술 강화 및 수익 창출 활동만 신경 쓰고 있다는 것이다. 유튜브는 광고 수익을 위해 13세 미만 아동의 정보를 불법 수집했다는 이유로 미국 정부로부터 1억7000만 달러의 벌금을 부과받았다. 페이스북도 사용자 정보 관리를 이유로 50억 달러의 벌금을 납부해야 했다.

온디바이스 AI는 단말을 중심으로 AI를 실행하므로 개인정보 데이터의 클라우드 데이터센터 전송을 최소화할 수 있다. 또 온디바이스 AI는 필요한 데이터만 선별적으로 데이터센터로 전송하거나, 혹은 데이터에서 민감한 부분을 사전에 제거(필터링)하는 등 데이터 자체의 보안성 강화에 기여할 수 있을 것으로 예상된다.

3) 에너지 소모 절감

클라우드 컴퓨팅이 소비하는 엄청난 전력도 IT 업계의 새로운 고민거리다. 구글이 발표한 AI 언어 처리 알고리즘 BERT(Bidirectional Encoder Representations from Trans-formers)는 단어 문맥과 의미를 반영해 언어를 해석하는 등 기존 언어 처리 기술보다 훨씬 뛰어난 성능을 자랑한다. 그러나 BERT를 구동하기 위해서는 엄청난 에너지가 필요하다. 33억 개 이상의 단어 데이터를 활용해 학습하는 BERT는 한 번에 미국 가정이 50일간 사용하는 에너지를 소비한다고 한다. 3

데이터센터의 소비 에너지를 절감하기 위한 클라우드 컴퓨팅 기업들의 고심도 깊어지고 있다. 꾸준히 증가하는 데이터를 보관 및 처리하기 위해서는 데이터센터의 컴퓨팅 능력을 지속적으로 강화해야 하는데, 이를 위해 소비되는 에너지 역시 이에 비례해 크게 늘고 있기 때문이다. 클라우드 컴퓨팅 저변 확대로 인한 데이터센터 건설 붐이 글로벌 기후 온난화를 심화한다는 우려의 목소리도 커지고 있다.

이런 까닭에 온디바이스 AI가 클라우드 컴퓨팅의 에너지 절감에 기여할 것이라는 의견도 등장하고 있다. 예컨대, 특정 기능을 위한 AI 서비스는 클라우드 AI 대신 온디바이스 AI를 활용해 단말이 직접 처리한다면 클라우드 컴퓨팅의 데이터 처리 부담을 크게 줄일 수 있다. 향후 다양한 산업에 걸쳐 AI 저변이 확산될수록 클라우드 컴퓨팅의 과부하 및 에너지 문제 해결을 위한 온디바이스 AI의 중요성은 커질 것으로 보인다.

2. 온디바이스 AI가 이끄는 신(新)트렌드

1) AI를 통한 하드웨어 경쟁력 강화

하루가 멀다 하고 높은 사양(Spec)을 가진 하드웨어 기기가 출시되고 있지만 정작 사용자들은 이런 사양을 충분히 체감하지 못한다는 지적이 많다. 하드웨어의 역량 활용도가 낮다면 아무리 값비싼 제품이라도 만족 수준을 높이기 어렵다. 이런 까닭에 AI, 특히 온디바이스 AI는 프로세서, 메모리 등 하드웨어 역량을 충분히 활용할 수 있도록 지원할 뿐 아니라 신기능 구현에도 필요한 핵심 기술로 각광받고 있다.

이런 움직임은 특히 고사양 하드웨어 경쟁이 치열한 스마트폰을 중심으로 두드러지고 있다. 애플은 아이폰에 사용자의 얼굴로 잠금을 해제하는 안면 인식 기능을 구현하기 위해 온디바이스 AI를 탑재했다. 이를 시작으로 음성 인식 서비스 시리(Siri)와 특수 문자 등을 빠르게 입력할 수 있는 퀵타입(Quick Type) 키보드 등 클라우드 AI로 지원됐던 기능을 온디바이스 AI로 구현하고 있다.

구글 역시 자사의 스마트폰 픽셀(Pixel) 폰 내 온디바이스 AI 탑재에 적극적이다. 구글은 기존에 클라우드 AI로 지원됐던 AI 비서 구글 어시스턴트(Google Assistant)를 온디바이스 AI로 구현해 실행 속도를 10배 가까이 끌어올렸다. 구글 CEO 순다 피차이는 수백 기가바이트(GB) 용량의 알고리즘으로 실행됐던 딥러닝을 아주 작은 스마트폰 안에 넣을 수 있는 시대가 도래할 것이라고 주장했다.

픽셀 폰에서는 온디바이스 AI를 사용해 어두운 곳에서 촬영한 사진을 생생하게 재생할 수 있는 ‘나이트 사이트(Night Sight)’라는 기능을 제공한다. 나이트 사이트의 원리는 동시에 15장의 사진을 촬영한 후 이를 하나로 결합해 픽셀의 밝기, 색상 등 미세 부분을 AI로 조정하는 것이다. 이런 기능 덕분에 픽셀 폰은 경쟁 스마트폰 대비 낮은 하드웨어 사양에도 불구하고 우수한 품질의 사진을 재생할 수 있다. 애플 역시 이와 유사하게 9장의 사진을 조합해 AI로 사진 품질을 보정하는 ‘딥 퓨전(Deep Fusion)’ 기술을 아이폰에 탑재했다.

온디바이스 AI를 활용해 하드웨어 경쟁력을 강화하려는 시도는 더욱 늘어날 전망이다. 자율주행차, 드론, 로봇 등 AI 적용 기기가 빠르게 늘어날 것으로 예상된다. 클라우드 AI만으로는 수많은 기기에 필요한 AI를 효과적으로 지원하기 어려울 것으로 예상되므로 단말의 특성에 최적화된 AI를 수행하기 위한 온디바이스 AI의 역할도 한층 커질 것으로 기대된다.

2) 클라우드 AI와의 연계를 통한 AI 저변 확대

온디바이스 AI의 여러 장점에도 불구하고, 고수준의 AI를 구현하기 위해서는 클라우드 AI의 활용 역시 필요하다. 스마트폰 등 단말의 컴퓨팅 능력이 급속히 발전하고 있지만 AI를 위한 빅데이터 수집과 분석 능력은 클라우드 데이터센터보다 한참 뒤떨어질 수밖에 없다. 이런 측면에서 현실적으로 온디바이스 AI는 단독 적용되기보다는 클라우드 AI와 연계해 활용될 가능성이 높다. 즉 온디바이스 AI와 클라우드 AI의 유기적 결합을 통해 AI를 적용할 수 있는 단말과 서비스 범위를 확대하는 것이다.

딥러닝은 크게 학습(Learning)과 추론(Inference)의 두 단계로 구성된다. 학습 단계는 딥러닝 알고리즘이 방대한 데이터 입력을 통해 특정 작업을 수행하기 위한 지식을 배우는 것이다. 추론 단계는 학습을 거친 알고리즘이 명령을 받거나 상황을 인식하면 가장 적합한 결과를 산출하는 것이다. 딥러닝은 이 두 과정을 반복 실행해 성능을 강화할 수 있다.

온디바이스 AI는 클라우드 AI와 학습과 추론 역할을 분담할 수 있다. 예컨대, 클라우드 AI는 대규모 데이터를 분석해 AI 알고리즘의 수준을 높이는 학습을 담당하고, 클라우드 AI에서 학습한 알고리즘을 바탕으로 시사점을 도출하거나 특정 동작을 수행하는 추론은 온디바이스 AI를 탑재한 단말이 처리하는 것이다. 이런 원리로 클라우드 AI와 연계된 온디바이스 AI는 높은 AI 수준을 요구하는 서비스도 지원할 수 있는 역량을 가질 수 있다.(그림 2)

118

물론 온디바이스 AI의 궁극적 발전 방향은 클라우드 컴퓨팅에 대한 의존도를 낮추는 것이다. 단말과 클라우드 데이터센터 간 데이터 송수신이 여전히 큰 부담이기 때문이다. 최근 온디바이스 AI 연구 역시 클라우드 컴퓨팅이 강점을 가지는 학습 역할까지 담당하는 온디바이스 AI 개발이 큰 비중을 차지하고 있다. 예컨대, 단말에 탑재될 수 있도록 기존 딥러닝 알고리즘을 수정하거나 혹은 온디바이스 AI에 적합한 새로운 알고리즘을 만드는 등의 연구가 활발히 이뤄지고 있다.

구글은 단말 스스로 학습과 추론을 수행할 수 있는 연합학습(Federated Learning)이라는 기술을 소개했다.4 연합학습이 탑재된 단말은 개별 사용자의 니즈에 맞게 알고리즘을 자가 발전하는 한편, 클라우드 데이터센터로 알고리즘을 전송하게 된다. 클라우드 데이터센터는 여러 단말의 알고리즘을 분석해 공통적인 성능 개선 요소를 만든 후 다시 각 단말로 전송한다. 연합학습이 이뤄지는 동안 학습과 추론에 사용되는 데이터는 그대로 단말에 남아 있기 때문에 클라우드 컴퓨팅의 의존도를 훨씬 낮출 수 있다.(그림 3)

119

현재 구글은 이용자에게 특정 검색어를 추천하는 키보드인 지보드(Gboard) 등에 연합학습 기술을 적용하고 있다. 마찬가지로 다른 IT 기업들 역시 학습과 추론을 모두 수행해 다양한 상황에서도 AI를 지원할 수 있는 온디바이스 AI 연구에 나서고 있다.

3) 핵심 경쟁력으로 부상하는 AI 반도체

온디바이스 AI가 큰 주목을 받으면서 특히 AI 반도체에 대한 관심도 커지고 있다. 중앙연산처리장치(CPU) 등 현재의 주력 반도체는 처리 속도가 느리고 단말의 에너지를 과다 소모하는 등 AI 지원에 적합하지 않다는 문제점이 지적됐다. 게다가 CPU가 본연의 역할 외 AI까지 담당하면 과중한 부담 때문에 전체 시스템 성능이 저하될 수 있다는 주장도 있다. 이런 까닭에 여러 IT 기업은 AI를 전담하는 반도체를 사용하고 있다.5 이를 위해 그래픽처리장치(GPU)를 활용하거나 AI 처리에 특화된 자체 개발 반도체(ASIC)를 탑재하는 사례도 늘고 있다.

120

오늘날 AI 반도체 경쟁은 스마트폰을 중심으로 전개되는 가운데 스마트 스피커, TV, 자동차 등 타 기기로 확산될 조짐이다.(그림 4) 2017년 애플이 아이폰의 3차원 안면 인식을 위한 AI 반도체를 개발해 스마트폰 AP(Application Processor)에 탑재한 이후, 퀄컴이나 화웨이 등 스마트폰 기업들도 증강현실, 이미지 품질 개선 등의 기능을 지원하기 위해 AI 프로세서를 개발하고 있다.

구글은 원래 AI 바둑 프로그램 알파고(Alpha Go)를 구동하기 위해 GPU를 집중 사용했으나 이후 개선된 알파고를 위해 텐서플로 프로세서(Tensor Flow Processor, TPU)라는 AI 반도체를 개발했다. 구글은 온디바이스 AI를 구현하기 위해 TPU를 개선한 에지(Edge) TPU, 픽셀 폰 내 이미지를 AI로 처리하기 위한 픽셀 비주얼 코어(Pixel Visual Core) 등 다수 AI 반도체를 선보였다.

AI 구현의 완성도를 높이기 위해서는 궁극적으로 시스템의 근본인 반도체의 변화가 필수적이란 인식이 확산되고 있다. 최근에는 페이스북, 아마존 등 반도체와 관련 없는 기업들도 AI 반도체 기술 선점을 서두르고 있으며 그래프코어 등 신생 스타트업의 AI 반도체도 높은 주목을 받고 있다.

3. 온디바이스 AI의 미래

1) 앰비언트 컴퓨팅 시대의 도래

미래에는 스마트폰을 넘어 많은 기기로 AI 적용이 확대되고 활용 분야 역시 다양해질 것으로 보인다. AI 자체가 특정 목적을 위한 기술이 아니라 거의 모든 제품 및 서비스의 혁신과 영감을 강화하는 범용 기술로 자리 잡고 있다. 6

구글 등 다수 IT 기업 및 전문가는 AI가 생활 곳곳에 자리 잡는 개념을 ‘앰비언트 컴퓨팅(Ambient Computing)이라 정의한다. 7 앰비언트 컴퓨팅 시대에는 고성능 IT는 사용자의 일상생활에 자연스럽게 내포돼 있기 때문에 사용자는 기술을 사용하고 있다는 사실 자체를 인지하지 못한다. 이용자는 음성이나 동작 등 일상적 행동만으로 기존에 IT 기기를 의식적으로 조작해야 했던 일을 쉽게 처리할 수 있다. 예컨대, 아마존의 무인 매장 아마존고(Amazon Go)와 같이 사람들은 아마존고에 필요한 물건을 집어 들고 매장 밖을 나오면 된다. 물건을 계산대에 놓고 직원에게 가격을 지불해야 했던 번거로운 일은 사용자가 의식하지 못하는 앰비언트 컴퓨팅 기술, 즉 AI, 클라우드, IoT 등의 유기적 연계를 통해 처리된다.

이와 같은 앰비언트 컴퓨팅 시대에는 온디바이스 AI의 역할도 커질 전망이다. 앰비언트 컴퓨팅 시나리오 구현을 위해서는 사용자의 선택과 판단을 대신하는 AI를 서로 다른 제품 및 서비스에 어떻게 적용할지가 관건이 될 수 있다. 간단한 기능을 처리하는 AI부터 복잡한 분석과 알고리즘이 필요한 AI까지 사용 목적에 맞는 적합한 AI를 선택해야 한다. 네트워크 상태, 데이터 활용 등 각종 변수를 고려하면 클라우드 AI가 많은 앰비언트 컴퓨팅 시나리오를 적시 대응하기 어렵기 때문에 온디바이스 AI는 앰비언트 컴퓨팅 실현의 핵심 기술로 활용될 것으로 보인다.

지금까지의 AI 적용은 개별 제품의 특정 기능에 초점을 맞춰왔다. 그러나 미래 앰비언트 컴퓨팅 시대에는 사용자의 행동 흐름, 라이프스타일 등 맥락을 고려해 여러 기기 간 AI가 어떻게 자연스럽게 연계될 수 있는지도 이슈가 될 수 있다. 이런 관점에서 각 기기의 온디바이스 AI가 조화롭게 운용될 수 있는 방안 역시 미래 AI 연구의 주요 과제로 부상할 수 있다.

121


2) AI 중심의 비즈니스 전략 강화

여전히 AI 기술 자체는 특정 기업의 전유물이라는 인식이 강하다. 그러나 온디바이스 AI의 확산은 AI 시장의 진입장벽을 낮추는 계기가 될 수 있다. 풍부한 데이터 확보나 고성능 컴퓨팅 활용이 어려운 제약들이 온디바이스 AI 활용을 통해 극복될 여지가 커지고 있다.

아무리 뛰어난 AI 역량을 보유한 기업이라도 각각 다른 활용 목적을 지원할 수 있는 범용 AI를 개발하는 것은 어렵다. 특히 미래에는 AI를 필요로 하는 제품이나 서비스가 더욱 세분화될 가능성도 높다. 그러므로 향후에는 기업들이 자사의 제품에 적합한 AI를 탑재하기 위해 온디바이스 AI를 적극적으로 활용하게 될 것으로 보인다. 8

온디바이스 AI의 저변 확대는 AI가 비즈니스 전략과 밀접하게 연계되는 트렌드를 가속화할 전망이다. AI 기술 자체보다는 당면 문제를 해결하기 위한 목표를 정의하고, 이를 위한 적정 AI 방법을 선정하는 것이 핵심 전략으로 고려될 것이다. 여기에서 온디바이스 AI는 AI의 효과적 활용을 돕는 옵션이 될 수 있다. 안정성, 보안, 운용 효율성 등 AI 적용 시 고려해야 할 요구 조건을 충족하기 위해 온디바이스 AI를 사용하는 사례가 늘어날 것으로 예상된다.

하지만 신기술 등장 이면에는 부정적 측면도 존재한다. 뜨겁게 각광받는 기술은 충분한 활용 사례가 적은 데다 주로 긍정적 효과가 강조되면서 잠재적 문제를 간과할 수 있다. 온디바이스 AI 역시 예기치 못한 문제를 겪게 될 가능성이 크다.

예컨대, 온디바이스 AI 탑재가 기기 성능에 큰 영향을 줄 수 있다. 제한된 하드웨어 사양 및 컴퓨팅 능력 등의 한계로 발열이나 오작동 등이 발생할 수 있기 때문이다. 게다가 AI가 개별 단말에서 구동되므로 알고리즘의 치명적 오류나 딥 페이크 등 AI의 악용 위험을 사전에 제어하기 어려워질 것이라는 우려도 있다. 9 한편으로 딥러닝이 왜곡된 데이터만 집중적으로 학습하게 될 경우 왜곡된 판단을 내릴 우려도 크기 때문에10 풍부한 데이터 확보가 어려운 온디바이스 AI가 이런 우려를 어떻게 극복할 수 있을지도 관건이다.

따라서 온디바이스 AI 개발 및 제품 적용 시에는 다양한 리스크 시나리오에 대응하기 위한 전략 마련도 필요하다. 예컨대, 온디바이스 AI 적용 제품 및 서비스 유형, 요구되는 데이터 및 알고리즘 수준, 사용 시나리오 등 여러 요인 분석을 통해 잠재 리스크를 파악하거나 실제 제품 적용에 앞서 단계적 개선 과정을 통해 리스크를 해결하려는 노력이 강조될 것이다.

122

3) 스몰데이터 전략의 부상

온디바이스 AI는 최근 주목받는 스몰데이터(Small Data) 전략과 맥을 같이한다. 11 스몰데이터 전략이란 데이터 분석을 위해 대규모 데이터가 필요하다는 고정관념에서 벗어나 상대적으로 작은 규모의 데이터에서 인사이트를 얻기 위한 데이터 분석 방법론을 의미한다.

빅데이터 분석의 중요성은 꾸준히 강조되고 있지만 풍부한 규모의 데이터 확보 및 처리는 몇몇 기업만이 가능할 뿐 대부분의 기업에 쉽지 않은 것이 사실이다. 이런 까닭에 가치 높은 데이터를 활용해 빅데이터 분석에 버금가는, 혹은 부족하지만 실제 사용에는 큰 문제 없는 적정 수준의 성능을 확보하는 스몰데이터 전략이 대안으로 부상하고 있다.

온디바이스 AI 기반의 스몰데이터 전략이 강조될수록 기업의 데이터 경쟁력 역시 새롭게 정의될 가능성이 높다. 데이터 합성 등의 방법으로 규모를 늘리는 데이터 증강(Data Augmentation) 기술이 관심을 받고 있는 가운데 확보하기 힘든 데이터는 외부에서 쉽게 구할 수 있는 시대가 도래한다는 주장도 있다. 이런 관점에서 미래의 데이터 경쟁력이란 데이터 확보는 물론 비즈니스 전략 수립 및 실행을 위해 의미 있는 정보를 발굴하는 능력 수준이 좌우할 것으로 보인다.

이런 관점에서 데이터를 통해 가치를 발굴할 수 있는 알고리즘의 중요성이 더욱 커질 것이다. 사용자 맞춤형 추천, 리스크 예지 대응 등 AI 알고리즘 기술 및 적용 수준도 빠르게 고도화되고 있다. 구글, 넷플릭스, 아마존 등 다수 기업은 알고리즘을 핵심 자산으로 선언하고, 정교한 알고리즘을 기반으로 전사 전략, 제품 개발, 위기 대응 등 다방면에 활용하고 있다. 디지털 트랜스포메이션이 미래를 대비하기 위한 필수 전략으로 강조되면서 알고리즘이 비즈니스에 미치는 영향력은 갈수록 커질 것으로 보인다. 따라서 데이터 알고리즘의 자산화 및 활용 역량이 소수 IT 기업을 넘어 많은 기업의 비즈니스 성공과 직결되는 역량으로 강조될 전망이다.

고도의 알고리즘 활용 역량이 하드 스킬이라면 우수한 인재 확보, 데이터 분석을 강조하는 조직문화 등 스몰데이터 전략을 뒷받침하는 소프트 스킬의 중요성도 간과할 수 없다. 아무리 뛰어난 하드 스킬이라도 소프트 스킬의 뒷받침이 없다면 우수한 성과를 만들기 어려울 것이다. 이런 까닭에 하드 스킬과 소프트 스킬의 조화가 미래 데이터 경제 시대의 성공 역량으로 부상하게 될 것이다.
동아비즈니스리뷰 306호 Gender at Work 2020년 10월 Issue 1 목차보기