가치를같이읽다

인공지능(AI)이란 이름을 공유한다고 모두 똑같은 AI가 아니다. AI마다 특징이 다르고, 장단점도 제각각이다. 하지만 이를 이해하는 건 어려운 일이다. 용어도, 용례도 어렵기 때문이다. 그렇다고 모른척 외면할 수도 없다. 지금은 익숙해진 사물인터넷(IoT)처럼, 클라우드ㆍ엣지ㆍ엔드포인트 등의 용어도 워낙 많이 사용돼서다. 반도체 설계기업 Arm이 AI의 다양한 용례를 풀어봤다.

인공지능(AI)이 더 똑똑해지기 위해선 ‘데이터의 양量’이 중요하다는 걸 이제는 모두 안다. 더 많은 데이터를 학습할수록 AI는 더욱 인간다워지며, 데이터도 효율적으로 처리할 수 있다. 오늘날 AI라고 불리는 대부분의 기술이 머신러닝인 이유도 여기에 있다. 머신러닝은 데이터를 통해 학습하는 AI의 한 부류다.

그런데 데이터양만 중요한 게 아니다. ‘데이터를 어디에서 처리해야 하느냐’도 중요한 과제다. 데이터의 처리 위치가 중요한 이유는 간단하다. 스마트폰과 각종 가전기기, 아울러 의료ㆍ물류ㆍ제조업 등 산업 곳곳에서 쓰이는 AI 소프트웨어에선 매일 방대한 양의 데이터가 생성된다. 이렇게 만들어진 데이터는 다시 ‘컴퓨팅 플랫폼’으로 옮겨져 처리된다. 

하지만 컴퓨팅 플랫폼에도 종류가 다양하다. 예컨대 어떤 플랫폼은 컴퓨팅 성능이 떨어지지만 가까운 곳에 있다. 또다른 컴퓨팅 플랫폼은 성능은 뛰어나지만 거리가 멀어 이동하는 데 시간이 걸린다. 

이는 데이터의 쓰임새에 따라 달리 활용될 수 있다. 비유하자면 편의점에선 당장 필요한 물품을 사는 덴 좋지만 가격이 비싸고, 대형마트는 가격이 저렴하지만 급하게 쓸 물건을 사기엔 비효율적이라는 점과 유사하다. 

글로벌 반도체 설계기업 Arm은 컴퓨팅 플랫폼 중에서도 클라우드ㆍ엣지ㆍ엔드포인트 등 세가지 카테고리를 주목하면서 이렇게 설명했다. “어떤 카테고리에서든 머신러닝을 사용해 데이터를 처리할 수 있지만 가장 적합한 걸 선택하긴 쉽지 않다. 컴퓨팅 성능이 뛰어나면 데이터가 더욱 유용하게 쓰이도록 처리ㆍ관리할 수 있지만, 단순히 컴퓨팅 성능이 뛰어나다는 이유만으로 선택할 순 없다.” 각각의 컴퓨팅 플랫폼별 장단점과 쓰임새가 다르다는 건데, 과연 어떤 차이가 있는지 지금부터 살펴보자.

■클라우드 AI = 클라우드 AI란 클라우드 데이터센터 내에서 데이터를 처리하는 걸 말한다. 가장 큰 장점은 엄청난 양의 데이터를 처리할 수 있다는 점이다. 이는 컴퓨팅 플랫폼 중에서도 클라우드 AI가 오랜 시간 가장 많이 쓰여 온 이유 중 하나다.

특히 즉각적으로 대응할 필요가 없거나 복잡한 문제들을 해결해야 할 때는 클라우드 AI가 큰 힘을 발휘한다. 예컨대 과거 데이터들을 학습해야 할 땐 클라우드 AI에서 처리하는 게 가장 좋다. 그만큼 비용적인 측면에서의 효율성과 신뢰성, 컴퓨팅 성능이 높기 때문이다.

하지만 클라우드 AI에도 단점은 있다. 상대적으로 ‘응답속도’가 늦다는 점이다. 스마트기기에서 수집된 데이터가 데이터센터까지 수천㎞를 이동해야 하는 경우가 비일비재해서다. 이런 단점은 실시간 반응이 중요한 분야에선 더욱 두드러질 공산이 크다.

Arm 연구팀은 “안전이 생명인 자동화 시스템이나 자유주행차, 의료 분야에선 불과 밀리세컨드(1000분의 1초) 전에 생성된 데이터에 즉각적으로 답을 해야 하는데, 클라우드 AI에선 지연시간이 발생해 해당 데이터의 가치를 제로로 만들 수 있다”면서 “최근 많은 기업들이 데이터와 좀 더 가까운 컴퓨팅 플랫폼을 찾는 이유”라고 설명했다.

■엣지 AI = 이런 클라우드 AI의 단점을 해소할 수 있는 컴퓨팅 플랫폼이 엣지 AI다. 데이터가 생성되는 기기와 가까운 곳에 있는 서버를 엣지 서버라고 하는데, 엣지 서버에서 데이터를 처리하는 걸 엣지 AI라고 한다.

쉽게 말해, 클라우드가 중앙 집중 플랫폼이라면 엣지는 지역적으로 분산된 로컬 플랫폼이다. 당연히 데이터와의 물리적인 위치가 가까운 만큼 응답시간도 짧다. 데이터의 가치도 온전하게 유지할 수 있다.

엣지 AI의 장점은 이뿐만이 아니다. 주변의 근거리 통신망 내에서 데이터의 흐름을 분석할 수 있는 데다, 자체적으로 데이터에 관한 의사결정을 내릴 수 있다. 그 결과, 클라우드로 보내는 데이터를 최소화하고 백홀(Backhaulㆍ근거리 통신망을 광대역 통신망과 연결하는 체계)을 대폭 줄일 수 있는데, 그에 따라 보안성과 안정성, 효율성을 높일 수 있다. 데이터가 더 멀리 이동할수록 손상될 가능성이 높고, 보안도 취약해지기 때문이다.

엣지 AI의 주요 기능 중 하나인 ‘센서 퓨전’ 기능도 주목할 만하다. 센서 퓨전이란 특정 상황과 환경에 맞춰 여러 센서의 데이터를 결합하는 걸 뜻한다. 가령, 제조공장 내에 있는 여러 센서의 데이터를 통해 기계가 고장날 만한 시기를 예측할 수 있다.
 

■엔드포인트 AI = 그렇다면 데이터를 만들어내는 곳에서 바로 데이터를 처리할 수 있다면 어떨까. 데이터를 이동할 필요가 없기 때문에 데이터에서 얻을 수 있는 인사이트를 극대화할 수 있다. 이것이 엔드포인트 AI다. 엔드포인트는 스마트폰을 비롯해 IoT 기기, 자동차, 센서 등 데이터를 생성하는 장치를 말한다. 

실제로 스마트폰은 오랫동안 엔드포인트 AI를 위한 테스트베드 역할을 도맡아왔다. 그 대표적인 예가 스마트폰 카메라다. 수년 전만 해도 카메라로 사진을 찍는 게 전부였다. 하지만 지금은 생체 인증을 하거나 AI를 활용해 사진을 보정하는 것(컴퓨테이셔널 포토그래피)도 가능하다. 예컨대 카메라 화면에 담긴 배경을 실시간으로 흐릿하게 만들거나 귀여운 토끼 귀를 붙여 셀카를 찍는 식이다.

스마트폰뿐만이 아니다. 이런 기술은 다양한 IoT 기기에도 적용되고 있다. 이른바 ‘AIoT(사물지능)’이라고 하는데, IoT 성능을 500배가량 향상하는 동시에 비용적인 측면에서도 효율성을 높일 수 있다. 아울러 좁쌀 만한 마이크로컨트롤러유닛(MCU)을 포함한 엔드포인트 기기로 ㎽ 단위의 전력만을 소비해 머신러닝 기능을 지원하는 ‘타이니 머신러닝(Tiny ML)’도 엔드포인트 AI 분야에서 주목을 받고 있다. 

물론 엔드포인트 AI도 한계는 있다. 클라우드 AI, 엣지 AI보다 성능과 전력, 관리 능력이 떨어진다는 점이다. 단일 기기에서 수집된 데이터인 만큼 활용성과 가치가 낮다는 점도 단점이다.

클라우드 AI, 엣지 AI, 엔드포인트 AI는 각각의 장단점이 뚜렷하다. 중요한 건 가장 적합한 곳에 컴퓨팅 플랫폼을 배치해 효과를 극대화하는 것이다. 

글=Arm 블루프린트팀

고준영 더스쿠프 기자
shamandn2@thescoop.co.kr