2023년 AI 붐을 일으켰던 키워드는 생성형 AI입니다. 오픈AI가 본격적인 생성형 AI의 상용화를 알렸고, 여러 빅테크와 인공지능 스타트업도 이에 질세라 생성형 AI를 발전시켰죠. 그리고 2024년, 생성형 AI 대중화를 앞당길 새로운 트렌드가 또 다시 등장을 예고했습니다. 바로 올해의 주인공이 될 온디바이스 AI인데요.
생성형 AI가 사람들을 깜짝 놀라게 만든 기술이었다면, 온디바이스 AI는 이 생성형 AI를 어떻게 사용할지에 관한 트렌드입니다. 온디바이스 AI가 어떻게 발전하고 있고, 세상을 어떻게 바꿔 놓을지 그 놀라운 변화를 자세히 짚어 보겠습니다.
왜 온디바이스 AI가 떠오르나?
📱 온디바이스 AI란: 보통의 인공지능은 클라우드를 이용합니다. 사용자가 인공지능을 사용하면 커다란 데이터센터 내에 있는 클라우드 서버로 정보가 전송되고 연산이 진행됩니다. 그리고 다시 사용자의 기기로 결과가 전송되고 우리는 인공지능이 내놓은 결과물을 받을 수 있죠. 이 때, 인공지능을 사용하기 위해서는 커다란 서버와 인터넷 연결이 필수입니다. 그런데 온디바이스 AI는 다릅니다. 사용자의 기기 자체에서 정보를 수집하고 인공지능 연산을 수행하기 때문입니다. 기기 자체에 인공지능 모델을 탑재한 칩을 넣어 인터넷 없이도 인공지능 연산을 가능케 한 기술이죠.