지난 15년간 번역 기술은 한 가지 방식으로만 작동해 왔다. 사용자의 말이 서버로 전송되고, 처리된 뒤, 번역된 결과가 돌아오는 방식이다. Google Translate, DeepL, Pocketalk, iTranslate — 모두 동일한 구조를 따른다. 스마트폰은 그저 마이크와 화면일 뿐이고, 실제 작업은 어딘가 다른 곳에서 이루어진다.
이 모델이 무너지려 하고 있다.
클라우드 번역이 나쁘기 때문이 아니다. 클라우드 번역은 놀라울 만큼 뛰어나다. Google Translate는 249개 언어를 지원하고, DeepL은 사람이 쓴 것처럼 자연스러운 텍스트를 만들어낸다. 이는 진정한 공학적 성취다.
하지만 클라우드 모델에는 서버 측 개선만으로는 해결할 수 없는 세 가지 근본적인 문제가 있다. 그리고 스마트폰에서 직접 실행되는 새로운 세대의 AI가 그 문제들을 무의미하게 만들려 하고 있다.
문제 1: 인터넷이 없으면 번역도 없다
클라우드 번역 모델 전체는 사용자가 온라인 상태라는 가정 위에 서 있다. 그 가정은 현실에서 끊임없이 빗나간다.
지하철, 농촌 지역, 비행 중, 개발도상국, 지하 공간, 기지국이 포화 상태인 혼잡한 행사장. 번역이 가장 필요한 순간들 — 낯선 곳에서 길을 잃었거나, 표지판을 읽으려 하거나, 다른 언어를 쓰는 사람과 소통하려 할 때 — 은 정작 인터넷이 가장 불안정한 순간들이다.
번역 기기 업계는 이 문제가 존재하지 않는 척한다. Pocketalk는 350달러짜리 기기임에도 모든 번역에 인터넷이 필요하다. Vasco는 389~489달러로, 마찬가지로 클라우드 전용이다. 여행자를 위해 만들어졌다고 홍보하지만, 셀 신호가 닿지 않는 곳에서는 무용지물이 되어버리는 300달러 이상의 기기들이다.
Google Translate는 오프라인 언어 팩을 제공하지만, 품질이 눈에 띄게 떨어진다. 복잡한 문장, 관용 표현, 문맥에 따라 달라지는 표현들이 뭉개진다. 오프라인 모드는 보조 기능일 뿐, 제대로 된 기능이 아니다.
Apple은 이 문제를 일찍이 파악했다. Apple Translate는 품질 저하 없이 완전히 온디바이스로 실행된다. 하지만 Apple이 지원하는 언어는 20개뿐으로, 여행자에게 실제로 필요한 언어에 비하면 극히 일부에 불과하다.
진정한 해결책은 더 나은 오프라인 대안이 아니다. 온디바이스를 보조 수단이 아닌 기본 모드로 만드는 것이다.
문제 2: 개인적인 대화가 사실 개인적이지 않다
클라우드 번역기를 사용할 때마다 사용자의 말은 다른 누군가의 서버로 전달된다. 사람들이 실제로 번역하는 내용을 생각해 보라.
의학적 증상과 진단. 법적 문서와 계약서. 비즈니스 협상과 전략. 이민 서류. 가족에게 보내는 사적인 메시지. 정부 관련 서류.
Google의 개인정보 처리방침은 번역된 텍스트를 "서비스 개선"을 위해 사용할 수 있도록 허용하고 있다. Microsoft는 무추적 정책을 주장하지만, 데이터는 처리를 위해 여전히 기기를 떠난다. Yandex는 러시아 데이터 공유 법률의 적용을 받는 러시아 서버에서 데이터를 처리하며, 2023년 소스 코드 유출로 가구 프로파일링 사실이 드러났다.
2024년, 독일의 한 병원은 직원이 환자 기록에 Google Translate를 사용했다는 이유로 GDPR 위반으로 460,000유로의 벌금을 받았다. 번역은 의학적으로 필요한 행위였지만, 규제 당국은 이를 문제 삼았다. 명시적 동의 없이 식별 가능한 건강 데이터를 미국 기술 회사로 전송한 것이 법 위반이었다.
이는 예외적인 사례가 아니다. 구조적인 문제다. 번역이 서버에 데이터를 전송하는 방식인 한, 민감한 번역은 언제나 잠재적인 규정 위반이자 프라이버시 노출이자 신뢰 침해가 된다.
더 나은 개인정보 보호 정책이 해결책이 아니다. 정책은 언제든 바뀔 수 있다. 진정한 해결책은 데이터가 기기를 물리적으로 벗어나지 못하도록 만드는 아키텍처다.
문제 3: 이미 스마트폰이 대체한 300달러짜리 하드웨어
Pocketalk, Timekettle, Vasco, iFlytek 같은 전용 번역 기기 시장은 2018년에는 타당했던 전제 위에 세워졌다. 당시 스마트폰은 번역 모델을 로컬에서 실행할 만큼 성능이 충분하지 않았기 때문에 전용 하드웨어가 필요했다.
그 전제는 이미 사라졌다.
지금 주머니 속 스마트폰에는 AI 모델 실행을 위해 특별히 설계된 신경처리장치(NPU)가 탑재되어 있다. Apple의 A17 Pro와 M 시리즈 칩은 3년 전만 해도 서버에서나 가능했던 속도로 CoreML 모델을 실행한다. Qualcomm의 Snapdragon 8 Gen 3와 MediaTek의 Dimensity 9300에는 전용 AI 가속기가 내장되어 있다. 2025년형 중급 스마트폰도 양자화된 언어 모델을 실행할 수 있는 NPU를 갖추고 있다.
350달러짜리 Pocketalk가 필요 없다. 389달러짜리 Vasco도 필요 없다. 별도의 기기를 들고 다니고, 충전하고, 관리할 필요가 없다. 필요한 하드웨어는 이미 주머니 안에 있다.
부족한 것은 소프트웨어뿐이다. 그리고 그것이 빠르게 변하고 있다.
변화의 계기: 온디바이스 AI의 임계점
2024년부터 2026년 사이 세 가지 변화가 맞물리면서 온디바이스 번역이 실현 가능해졌다.
모델이 충분히 작아졌다. Google의 Gemma(20억 파라미터), 다양한 크기의 Whisper, NVIDIA의 Parakeet — 이 모델들은 스마트폰 메모리에 올라가면서도 프로덕션 수준의 결과물을 낸다. 양자화 기법(INT4, INT8)은 품질 손실을 최소화하면서 메모리 요구량을 절반으로 줄였다. 이제 좋은 번역을 위해 700억 파라미터 모델이 필요하지 않다.
프레임워크가 성숙해졌다. Apple CoreML, Google LiteRT(TensorFlow Lite의 후속), Meta의 ExecuTorch, 그리고 sherpa-onnx 같은 커뮤니티 도구들이 "스마트폰에서 AI 모델 실행"을 연구 프로젝트에서 실제 프로덕션 기능으로 변환시켰다. 도구도, 문서도, 엣지 케이스 해결책도 모두 갖춰졌다.
하드웨어가 따라잡았다. NPU는 플래그십 전용이 아닌 스마트폰의 기본 사양이 됐다. 2025년형 중급 스마트폰은 양자화된 20억 파라미터 모델을 실용적인 속도로 실행할 수 있다. 모바일 GPU 추론(iOS의 Metal, Android의 Vulkan)은 강력한 NPU가 없는 기기의 공백을 채운다.
결과: 5년 전에는 데이터 센터가 필요했던 일을 이제 스마트폰의 앱이 할 수 있다.
온디바이스 번역이 실제로 어떤 모습인가
온디바이스 번역은 클라우드 번역의 열화 버전이 아니다. 제대로 구현했을 때 그것은 근본적으로 다른 제품이다.
어디서나 작동한다. WiFi도, 셀 신호도, 관계없다. 비행기 안, 농촌 마을, 지하 시장, 지하철 — 집에서 쓰는 것과 동일한 품질을 어디서든 경험할 수 있다. "오프라인 모드"라는 것이 별도로 존재하지 않는다. 벗어나야 할 "온라인 모드"가 없기 때문이다.
데이터는 사용자의 것이다. 개인정보 보호 정책 덕분이 아니라, 서버가 아예 없기 때문이다. 목소리는 기기에서 인식되고, 텍스트는 기기에서 번역되고, 카메라 캡처도 기기에서 처리된다. 데이터가 기기를 물리적으로 벗어날 수 없다.
그룹 대화에 인프라가 필요 없다. 클라우드 기반 그룹 번역은 모든 참여자가 인터넷에 연결되어 있어야 하고, 조율하는 서버가 필요하다. 블루투스 메시 위에서 실행되는 온디바이스 번역은 스마트폰끼리 직접 연결해, 각자의 언어로 메시지를 주고받을 수 있다. 서버도, WiFi도, 단일 장애점도 없다.
화면 번역이 가능해진다. 번역 엔진이 로컬에서 실행될 때, 스마트폰의 모든 앱에서 — 메시지, 게임, 뉴스, 스트리밍 자막 — 텍스트를 시스템 오버레이로 번역할 수 있다. 클라우드 번역기는 화면을 캡처해 업로드해야 하기 때문에 이것이 불가능하다.
파일 전사가 즉각적이고 비공개로 이루어진다. 녹화된 회의, 음성 메시지, 다른 언어의 팟캐스트 — 모두 기기에서 전사되고 번역된다. 누군가의 서버로 오디오 파일이 업로드되지 않는다.
이것은 가상의 이야기가 아니다. Traverba 같은 앱은 이미 이 모든 기능을 완전한 온디바이스 방식으로 제공하며, 음성, 카메라, 화면 번역, 오프라인 그룹 채팅에 걸쳐 108개 언어를 지원한다. Apple Translate도 20개 언어에 대해 이를 실현하고 있다. Meta의 SeamlessM4T 모델은 미래의 온디바이스 제품을 구동할 수 있는 음성 간 직접 번역을 실행한다.
누가 손해를 보나
번역 기기 회사들. 기존 스마트폰에서 무료 앱이 동일하거나 그 이상을 오프라인으로 제공할 때, 300달러 이상 전용 기기의 가치 제안은 사라진다. 하드웨어의 남은 장점이라면 배터리 수명과 전용 물리 버튼 정도지만, 대부분의 사람에게 그 가격을 정당화하기엔 역부족이다.
데이터 수익화에 의존하는 클라우드 우선 번역 앱들. 무료 티어가 사용자 데이터로 모델을 개선하는 방식에 기댄다면, 온디바이스 대안들은 그 가치 교환을 없앤다. 사용자는 비용을 지불하지 않고도 프라이버시를 얻게 된다.
문자당 과금하는 엔터프라이즈 번역 API. 번역이 로컬에서 실행될 때 문자당 비용은 없다. API 호출이 없으면 API 청구서도 없다. 매달 수백만 단어를 번역하는 기업에게 이 절감액은 상당하다.
누가 이득을 보나
여행자. WiFi가 있을 때만이 아니라, 모든 상황에서 작동하는 번역.
프라이버시를 중시하는 사용자들. 의료 전문가, 변호사, 비즈니스 협상가, 언론인, 이민자 — 민감한 내용을 번역하면서 다른 누군가의 서버에 남기고 싶지 않은 모든 이들.
신흥 시장. 인터넷 접근 비용이 높거나 불안정하거나 감시가 이루어지는 지역에서, 온디바이스 번역은 연결성의 장벽을 완전히 없앤다.
접근성. 실시간 온디바이스 번역은 청각 장애인, 정부 서비스를 이용하는 이민자, 기술에 익숙하지 않은 노년층의 소통을 가능하게 한다 — 데이터 요금제 없이도.
언어 보존. 소수 언어와 멸종 위기 언어는 클라우드 서비스가 경제적으로 지속 가능하려면 필요로 하는 방대한 훈련 데이터 없이도 로컬 모델로 지원될 수 있다. 모델이 온디바이스로 실행될 때, 10만 명이 쓰는 언어를 지원하는 것은 1억 명이 쓰는 언어를 지원하는 것만큼 실현 가능하다.
전환은 이미 일어나고 있다
Apple은 iOS 14(2020년)에서 온디바이스 번역을 시스템 기능으로 만들었고, 그 이후로 줄곧 온디바이스 방식을 유지해 왔다. 지원 언어 수보다 프라이버시와 오프라인 안정성을 선택한 것이다. 이는 하나의 신호였다.
Google은 양쪽을 모두 추구하고 있다. Gemini 기반의 새로운 실시간 번역 기능은 Pixel 스마트폰에서 부분적으로 온디바이스로 실행된다. 클라우드를 버리지는 않지만, 온디바이스 역량에 분명히 투자하고 있다.
Meta는 음성 간 직접 번역이 가능한 오픈소스 모델 SeamlessM4T를 공개했다. 이미 Meta의 Ray-Ban 스마트 글라스에서 실행되고 있으며, 온디바이스 작동을 위해 설계된 모델이다.
독립 개발자들은 완전한 온디바이스 AI 번역을 갖춘 프로덕션 앱을 출시하고 있다. Traverba는 음성, 카메라, 화면 번역, 다인 오프라인 그룹 채팅을 포함한 108개 언어를 — 클라우드 의존 없이 스마트폰 프로세서 위에서 — 지원한다.
클라우드가 사라지지는 않는다. 희귀 언어 쌍, 전문 분야, 연결이 안정적인 환경에서 최고 품질이 필요한 경우에는 클라우드가 여전히 최선의 선택일 것이다. 하지만 번역의 일상적인 현실 — 대화, 메뉴, 표지판, 메시지, 회의 — 에서는 온디바이스가 더 나은 선택이 되고 있다.
당신에게 의미하는 것
번역 도구를 자주 사용한다면, 온디바이스 옵션을 사용해 보고 품질이 충분한지 확인해 보라. 대부분의 일반적인 언어 쌍에서는 충분할 것이다.
의료, 법률, 금융, 또는 번역 내용이 민감할 수 있는 분야에서 일한다면, 지금 사용하는 번역 도구를 점검하라. 기밀 내용의 클라우드 번역은 온디바이스 대안으로 해소할 수 있는 규정 준수 리스크다.
번역이 포함된 제품을 개발하고 있다면, 클라우드 API가 여전히 올바른 아키텍처인지 고민해 보라. 온디바이스 추론은 규모에서 더 저렴하고(호출당 비용 없음), 오프라인으로 작동하며, 약관 업데이트로 취소될 수 없는 프라이버시 보장을 사용자에게 제공한다.
2026년에 300달러 이상의 전용 번역기를 구매하려 한다면, 스스로에게 물어보라. 이 기기가 내 스마트폰으로 할 수 없는 것을 과연 할 수 있는가?
클라우드 번역의 시대는 놀라운 발전을 이루었다. 249개 언어를 수십억 명의 사람들에게 무료로 제공했다. 그것은 중요한 성취다.
하지만 다음 시대 — 어디서나, 모두를 위해 작동하는 비공개, 오프라인, 온디바이스 번역 — 는 이미 여기에 있다. 모델은 충분히 좋아졌다. 스마트폰은 충분히 빨라졌다. 남은 질문은 업계가 얼마나 빨리 따라잡느냐뿐이다.
Traverba는 음성, 카메라, 화면 번역, 오프라인 그룹 채팅을 지원하는 108개 언어의 무료 온디바이스 번역기입니다. 어떤 데이터도 기기를 떠나지 않습니다. Google Play와 App Store에서 이용 가능합니다. 자세한 내용은 traverba.com을 방문하세요.