온디바이스 AI는 데이터를 클라우드 서버로 보내 응답을 기다리는 대신, 스마트폰이나 PC 등 기기 자체의 칩에서 AI 모델을 바로 구동하는 방식이다. 통신이 덜 필요하고 개인정보 보호에 유리하지만, 기기 안에 충분한 메모리와 연산 성능을 갖춰야 해서 반도체 업체들이 더 조밀하고 효율적인 모바일 메모리·프로세서 개발 경쟁을 벌이고 있다.