이번 포스팅은 클라우드 AI와 엣지 AI 개요에 대한 두 번째 글로 엣지AI 부상과 클라우드AI와 엣지AI 정의와 장단점을 알아보고 마지막으로 이를 잘 활용하고 있는 테슬라의 클라우드 기반 분산형 컴퓨팅 사례를 정리해보고자 합니다.
참고로 이번 포스팅은 클라우드AI와 엣지AI 개요에 대해 아래 2가지 글로 구분해보았습니다.
클라우드AI와 엣지AI (1) 클라우드, 엣지 및 포그 컴퓨팅 정의 및 차이점
클라우드AI와 엣지AI (2) 엣지 AI 부상과 테슬라의 클라우드 기반 분산형 컴퓨팅 (이번 포스팅)
앞선 포스팅에서는 클라우드 컴퓨팅와 엣지 컴퓨팅 그리고 포그 컴퓨팅을 각각 정의해보고 엣지 컴퓨팅이 주목받기 시작하는 배경에 대해 정리해보았습니다.
이번 포스팅에서는 이러한 엣지 컴퓨팅, 클라우드 컴퓨팅 개념에서 더 나아가 인공지능과 접목하여 엣지AI 부상하고 있는 배경과 이러한 엣지 AI와 클라우드AI를 잘 활용하고 있는 테슬라 사례를 정리하고자 합니다.
엣지AI 부상과 클라우드AI
예전에는 전통적으로 AI알고리즘이 대량의 데이터를 처리하고 엄청난 컴퓨팅 리소스를 소비함에 따라 소프트웨어 공급자를 중심으로 클라우드 AI(Cloud-based AI)가 발전하였지만 점점 하드웨어 공급자 중심으로 디바이스에서의 인공지능인 엣지AI 부상하고 있습니다.
대략적으로 20년까지 AI 기술을 사용하는 기업 중 90%는 클라우드 기반 소프트웨어를 통해 AI 역량을 확보하고 80% 가량은 클라우드 기반 개발 서비스를 이용하여 AI 어플리케이션을 만들었다는 보고서도 존재 합니다. (딜로이트)
실질적으로 아직도 AI를 선도하고 있는 글로벌 IT기업들은 대부분 클라우드 서비스를 리딩하고 있습니다.
그러나 20년대 이후 사용자들의 디바이스에 대한 의존도가 높아지고 데이터 디바이스 확보 중요성이 대두되면서 기업에서도 더 많은 서비스를 제공하기 위해 디바이스에 필수 컴퓨팅을 가져오게 되었습니다.
그런 이유로 원래는 데이터의 90% 이상이 중앙 집중식 데이터 센터에서 처리되었으나 점점 전체 데이터의 70~80% 이상이 엣지에서 분석 및 처리가 진행되고 요즘에는 대부분 스마트폰에 온디바이스 AI가 탑재되면서 엣지AI 부상되는 중입니다.
클라우드 AI와 엣지AI 장단점
클라우드 AI
[개요] 이미지 인식, 빅데이터 분석 및 다양한 AI도구를 클라우드에서 제공하고 대량의 데이터를 처리하고 다량의 컴퓨팅 리소스 사용이 가능하도록 효율적인 솔루션 제공
[주요 사례} 아마존웹서비스, 마이크로소프트 애저, 구글 클라우드와 같은 클라우드 기반 (클라우드기반 서비스형 AI)
[장점] 방대한 양의 데이터를 관리할 수 있도록 효율적인 솔루션을 제공하고 사용자가 AI를 쉽게 사용 가능
[단점] 개인 정보 보호 및 정보 보안 이슈 발생 그리고 통신 인프라에 대한 높은 의존성이 비즈니스 적용에 한계로 작용
엣지 AI
[개요] 원격 서버가 아닌 로컬 컴퓨터 또는 임베디드 시스템에서 AI 알고리즘을 실행
[주요 사례] 스마트폰, 자율주행자동차, 지능형 스피커 등 자체적으로 AI 서비스가 구현되는 온디바이스 AI
[장점] 클라우드 기반 AI에서 발생되는 데이터 전송 시간 단축 및 클라우드 이용/네트워크 연결 비용 절감 가능. 데이터 수집과 활용에 따른 민감 정보 유출 논란을 경감시킬 수 있음
[단점] AI가 구현되는 디바이스의 사양에 따라 성능이나 구동 제약이 존재할 수 있음
엣지AI 부상에 따른 전망 및 변화 예측
엣지 AI는 클라우드 기반의 여러가지 단점을 보완할 수 있다는 점에서 각광받고 있습니다.
또한 이용자의 디바이스에 대한 의존도가 증가하고 있고 스마트기기와 센서의 발전으로 하드웨어 공급자 중심으로 엣지AI 부상하는 중 입니다.
하지만 클라우드 AI에서 엣지 AI로 전환 또는 주류가 될 것이라는 전망 보다는 엣지AI 활용 영역이 확장된다는 것이 적절해보입니다.
클라우드 AI와 엣지 AI가 각각 다른 분명한 장단점을 가지고 있고 하나의 시장이 다른 시장을 대체하기 는 불가능하기 때문입니다. 오히려 상호 아래 이미지와 같이 상호보완관계로 성장할 가능성이 높아 보입니다.
클라우드 AI는 방대한 양의 데이터와 함께 연산 능력으로 AI 알고리즘을 구축하고 훈련하는 “학습용” 목적으로 지속 발전할 것이고
엣지 AI는 훈련된 알고리즘을 디바이스에서 추론 및 판단하는 과정에서 활용 범위가 넓어질 것 같습니다.
엣지 AI의 부상은 우선 하드웨어 산업에 있어 추론용 AI 반도체 시장 시장 확대를 할 것이고 스마트폰, 자율주행자동차 등의 디바이스 제조사는 AI기능이 탑재된 기기를 통해 제품 차별화 기회를 갖게 될 것 입니다.
테슬라의 클라우드 기반 분산형 컴퓨팅
앞서 설명한 바와 같이 사실 클라우드AI와 엣지AI는 완전히 다른 시장이고 한쪽이 다른 시장을 대체할 수는 없습니다. 이 두가지를 활용하여 상호 보완적 활용이 가능하며, 이를 가장 잘 응용하는 것이 바로 테슬라 입니다.
테슬라는 엣지 디바이스와 엣지AI, 클라우드AI의 상호 보완적 활용을 통해서 더 높은 사용 효율성을 확보하고 있습니다.
우선 초대용량 데이터를 실시간으로 처리할 수 있는 엣지디바이스인 자율주행차량에서 엣지AI를 통해 추론을 진행하고 추론 모델의 역량을 강화시키는 클라우드AI(도조)에서 훈련을 반복하는 프레임워크를 만들었습니다.
즉, 정리하자면 아래 프로세스로 진행되게 됩니다.
1) 엣지에서 추론 모델을 통해 센서 입력값을 처리하고 동작 장치에 제어신호를 보내 반응속도 최적화
2) 입력값이 추론 모델 조건에 부합하지 않으면 클라우드로 전송하여 훈련하고 추론 모델을 개선
3) 개선된 추론 모델을 네트워크를 통해 모든 엣지디바이스(자율주행차량)에 전송 및 적용
이를 통해 데이터를 축적 > 인공지능 모델 훈련 > 자율주행 기능 강화 하는 선순환 구조를 만든 것이 특징이라고 할 수 있겠습니다.
참고로 이러한 테슬라의 데이터디바이스 구축 관련해서 메리츠증권 김준성 애널리스트의 datawar 리뷰를 통해 여기 링크에서 한번 정리한 바 있습니다.
이번 포스팅에서는 이러한 엣지 컴퓨팅, 클라우드 컴퓨팅 개념에서 더 나아가 인공지능과 접목하여 엣지AI 부상하고 있는 배경과 이러한 엣지 AI와 클라우드AI를 잘 활용하고 있는 테슬라 사례를 정리해보았습니다.
참고로 EDGE AI 관련해서는 여기 링크(영문) 엔비디아 블로그에도 정리가 잘 되어 있어 참고할 수 있을 것 같습니다.
참고로 이번 포스팅은 클라우드AI와 엣지AI 개요에 대해 아래 2가지 글로 구분해보았습니다.
클라우드AI와 엣지AI (1) 클라우드, 엣지 및 포그 컴퓨팅 정의 및 차이점
클라우드AI와 엣지AI (2) 엣지 AI 부상과 테슬라의 클라우드 기반 분산형 컴퓨팅 (이번 포스팅)