Article at a Glance클라우드 컴퓨팅의 대안으로 온디바이스 AI가 부상하고 있다. 온디바이스 AI는 빠른 서비스 제공, 강화된 정보 보안, 에너지 소모 절감 등에서 클라우드 컴퓨팅의 단점을 보완할 수 있을 것으로 기대된다. 앞으로 온디바이스 AI는 하드웨어 경쟁력 강화, 클라우드 AI와의 연계, AI 반도체 기술 개발을 중심으로 발전할 전망이다. 앰비언트 컴퓨팅 시대를 맞아 기업은 AI 중심의 비즈니스 전략을 세우고 스몰데이터 활용 역량을 키우는 노력이 필요하다.
1. 온디바이스 AI의 부상인공지능(AI)은 이제 IT 기업만의 전유물이 아니다. 거의 모든 산업에서 AI가 핵심 경영 테마로 자리 잡았다. R&D, 마케팅, HR, 법률, 재무 등 각종 비즈니스 분야에 AI를 적용하려는 시도가 확산되고 있다. 구글, IBM 등 여러 기업은 이구동성으로 AI 기업으로의 변신을 선언했다. AI를 구현하기 위한 기술 중 가장 큰 관심을 받는 것이 바로 딥러닝(Deep Learning)이다. 인간의 뇌신경 구조에 착안한 신경망 네트워크(Neural network) 알고리즘을 기반으로 탄생한 딥러닝은 다량의 데이터 입력을 통해 점진적으로 성능을 강화하고 이를 통해 상황과 조건에 적합한 판단을 내릴 수 있다. 오늘날 학계 및 기업이 선보이는 AI 연구의 대부분이 딥러닝 기반으로 이뤄질 정도로 딥러닝은 AI의 대표 기술로 자리 잡았다.
딥러닝 구현을 위해서는 무엇보다도 알고리즘 학습을 위한 대량의 데이터와 이를 빠르게 처리할 수 있는 고성능 컴퓨팅 능력이 필수적이다. 그러나 신경망 네트워크가 막 연구될 당시에는 이런 요건을 충족하기 어려웠다. 대규모의 데이터 확보 및 저장이 어렵고, 당시 거대한 메인프레임 컴퓨터도 오늘날 스마트폰보다 컴퓨팅 수준이 낮았기 때문이다. 이런 이유로 딥러닝 연구 성과는 오랜 기간 매우 더뎠다. 이런 문제는 클라우드 컴퓨팅의 등장으로 해결됐다. 클라우드 컴퓨팅을 수행하는 데이터센터는 대규모 데이터를 저장할 수 있으며, 수많은 컴퓨터의 집약 설치를 통해 고수준의 컴퓨팅 능력을 갖출 수 있기 때문에 엄청난 작업량을 요구하는 문제도 수월하게 처리할 수 있다. 클라우드 컴퓨팅 활용을 통해 딥러닝은 뛰어난 AI 성능을 자랑할 수 있게 됐다.
소프트웨어, 플랫폼 등 각종 IT 서비스의 편리한 제공을 통해 저변을 넓혀 온 클라우드 컴퓨팅은 딥러닝을 통해 빠르게 성장했다. AI를 기반으로 각종 응용 서비스를 만들기 위해 클라우드 컴퓨팅을 활용하는 사례가 크게 늘었다. 아마존과 마이크로소프트, 구글 등 클라우드 컴퓨팅 전문 기업들은 대기업, 스타트업 등 고객들의 AI 활용 지원을 강화하고 있으며, 인텔과 엔비디아 등 반도체 기업들 역시 클라우드 컴퓨팅의 AI 구현을 위한 반도체 개발에 집중 투자하고 있다. 클라우드 컴퓨팅 기반의 AI, 즉 클라우드 AI는 오늘날 AI 구현의 사실상 (De-facto) 시장 표준으로 자리 잡았다.
현재 클라우드 AI는 스마트폰이나 스마트 스피커 등 사용자 단말을 통해 실행된다. 예컨대, 아마존의 에코(Echo) 등 스마트 스피커는 사용자의 음성 명령을 수집해 음성 인식 기능을 실행하는 데이터센터로 전송한다. 데이터센터는 사용자의 음성 데이터를 분석해 의도를 파악하고 여기에 적합한 결과를 다시 스마트 스피커로 전송한다. 즉 사용자는 단말을 매개로 데이터센터와 AI 처리 요청 및 결과 데이터를 주고받는 것이다. 이처럼 현재 단말은 AI 사용의 보조적 수단에 머물러 있지만 최근 학계 및 업계에서는 AI의 클라우드 컴퓨팅 의존도를 낮추기 위한 연구가 주목받고 있다. 즉 사용자의 단말이 주변 데이터를 기반으로 딥러닝 등 AI를 직접 수행하는 것이다.
단말 자체적으로 AI를 수행하는 기술을 온디바이스 AI(On-Device AI), 혹은 스몰 AI(Tiny AI)라고 한다.(그림 1)
1
온디바이스 AI의 목표는 클라우드 AI와 달리 충분한 데이터 수집이 어렵고 컴퓨팅 능력도 부족한 환경에서 사용자가 필요한 AI를 원활히 지원하는 것이다. 이는 딥러닝 구현에 필요한 핵심 전제 요건을 뛰어넘으려는 시도라는 점에서 미래 AI 시장 발전의 원동력이 될 것이라는 전망도 많다.
온디바이스 AI는 아직 초기 연구 및 상용화 단계다. 그러나 글로벌 학계 및 업계의 온디바이스 AI 기술 개발 투자도 꾸준히 늘고 있다. MIT는 2020년 10대 유망 기술 중 하나로 온디바이스 AI를 꼽았으며
2
글로벌 유수 대학은 물론 벨기에의 IMEC 등 여러 연구소도 온디바이스 AI 기술 연구 및 활용 사례 발굴에 주력하고 있다.
강력한 클라우드 컴퓨팅 인프라를 활용해 글로벌 AI 시장을 선점한 구글과 아마존, 마이크로소프트는 물론, 애플, 인텔, 엔비디아, 알리바바 등 거의 모든 IT 기업이 이구동성으로 온디바이스 AI를 미래 AI의 격전지로 꼽고 있다. 우리나라 대기업 및 스타트업, 연구소 등 다양한 기관 역시 온디바이스 AI 연구에 적극 뛰어들고 있다.
닫기
