Tôi đã xây dựng một ứng dụng dịch thuật chạy hoàn toàn trên điện thoại của bạn. Không có đám mây. Không gọi API. Không có dữ liệu nào rời khỏi thiết bị. 108 ngôn ngữ. Dịch giọng nói, camera, màn hình, và trò chuyện nhóm offline qua Bluetooth.
Tất cả bắt đầu vì tôi không tìm được thứ mình cần, và nó đã phát triển thành điều lớn hơn tôi tưởng.
Vấn Đề
Tôi sống ở Hồng Kông. Cuộc sống hàng ngày của tôi xoay quanh tiếng Quảng Đông, tiếng Quan Thoại, tiếng Anh, và đôi khi cả tiếng Nhật. Gia đình bạn đời của tôi nói tiếng Quảng Đông. Công việc của tôi bằng tiếng Anh. Các biểu mẫu chính phủ bằng chữ Hán phồn thể. Thực đơn nhà hàng trong khu phố thường bằng tiếng Trung giản thể hoặc tiếng Nhật.
Tôi đã thử mọi ứng dụng dịch thuật trên thị trường:
Google Translate hoạt động tạm được khi có mạng, nhưng chất lượng offline giảm rõ rệt. Và nó gộp tiếng Quảng Đông vào "tiếng Trung," điều mà bất kỳ ai nói tiếng Quảng Đông đều biết là vô lý — giống như gộp tiếng Bồ Đào Nha vào "tiếng Tây Ban Nha" vậy. Hai thứ tiếng chia sẻ chữ viết nhưng hoàn toàn khác nhau về phát âm, ngữ pháp và từ vựng.
Pocketalk có giá $323 và cần internet cho mỗi lần dịch. Tôi không thể dùng nó trong MTR (tàu điện ngầm Hồng Kông) vì nửa số ga không có sóng.
Apple Translate có thiết kế đẹp và xử lý tốt trên thiết bị, nhưng chỉ hỗ trợ khoảng 20 ngôn ngữ. Không có tiếng Quảng Đông. Trong một thành phố mà 95% dân số nói tiếng Quảng Đông. Điều đó nói lên tất cả về cách các công ty công nghệ lớn đặt ưu tiên cho các ngôn ngữ.
iTranslate giấu các tính năng cốt lõi sau paywall $50/năm. DeepL thậm chí không hỗ trợ giọng nói hay camera.
Không ứng dụng nào xử lý được một bữa tối với gia đình bạn đời, nơi mọi người chuyển đổi giữa tiếng Quảng Đông, Quan Thoại và tiếng Anh giữa chừng. Không ứng dụng nào dịch được tin nhắn thoại tiếng Quảng Đông tôi nhận trên WhatsApp. Không ứng dụng nào hoạt động đáng tin cậy ở những nơi kết nối kém.
Vậy là tôi bắt tay vào xây dựng.
Phiên Bản Đầu Tiên Rất Tệ
Nguyên mẫu đầu tiên là một ứng dụng Flutter với một mô hình ASR duy nhất (Whisper, chạy trên thiết bị qua sherpa-onnx) và dịch NMT cơ bản. Nó chỉ xử lý được khoảng 15 ngôn ngữ. Nhận dạng giọng nói chậm. Bản dịch tầm thường. Giao diện xấu.
Nhưng nó hoạt động offline. Và chính sự thật duy nhất đó — rằng tôi có thể dịch một câu tiếng Quảng Đông sang tiếng Anh trên máy bay không có WiFi — đã giữ tôi tiếp tục.
Cái Hố Sâu Kiến Trúc
Một khi bạn cam kết với AI trên thiết bị, bạn sẽ rơi vào một cái hố sâu thực sự.
ASR (nhận dạng giọng nói): Một mô hình không phù hợp cho tất cả ngôn ngữ. Cuối cùng tôi đã tích hợp ba mô hình: Parakeet (tối ưu cho tiếng Anh, tích hợp sẵn), Whisper.cpp (đa ngôn ngữ rộng, tải về thêm), và Qwen3-ASR (tối ưu cho CJK, tải về thêm). Ứng dụng tự động chọn mô hình tốt nhất dựa trên ngôn ngữ nguồn.
Dịch thuật: Các mô hình ML truyền thống bao phủ 61 cặp ngôn ngữ có đủ tài nguyên. Với 47 ngôn ngữ còn lại (Yoruba, Amharic, Lào, Myanmar và các ngôn ngữ khác), một LLM Gemma được lượng tử hóa chạy cục bộ đảm nhận việc dịch. Đây là bước đột phá giúp nâng số ngôn ngữ từ 61 lên 108.
OCR camera: Hai engine. ML Kit cho nhận dạng nhanh. PaddleOCR cho nhận dạng kỹ lưỡng các chữ viết phức tạp. iOS yêu cầu thêm thủ công các pod theo từng chữ viết vì Apple chỉ tích hợp sẵn mô hình Latin. Mất cả ngày để debug vì lỗi hoàn toàn im lặng.
Trò chuyện nhóm: Bluetooth mesh kết nối tới 7 thiết bị. Mỗi điện thoại tự xử lý ASR và dịch thuật. Tin nhắn phát sóng đến tất cả thiết bị. Không có server nào điều phối.
Quản lý bộ nhớ: Thách thức kỹ thuật thực sự. Ba mô hình ASR, các mô hình dịch thuật, một LLM và các engine OCR không thể cùng tồn tại trong RAM điện thoại một lúc. Ứng dụng có một bộ lập lịch ngân sách bộ nhớ, tải và giải phóng các mô hình dựa trên những gì người dùng đang làm.
Con Số
- Thời gian phát triển: Khoảng 18 tháng từ commit đầu tiên đến khi ra mắt trên App Store / Play Store
- Ngôn ngữ: 108 (61 ML truyền thống + 47 AI qua Gemma)
- Ngôn ngữ ASR: 30 ngôn ngữ có nhận dạng giọng nói trên thiết bị
- Ngôn ngữ OCR: 92 ngôn ngữ có nhận dạng văn bản qua camera
- Kích thước ứng dụng: ~150MB cơ bản + các mô hình tải về thêm
- Giá: Miễn phí với tất cả tính năng cốt lõi. Premium ở mức $1.99/tháng hoặc $19.99/năm cho trò chuyện nhóm, chuyển đổi tệp âm thanh và tóm tắt cuộc họp
- Quy mô đội ngũ: 1 người
Những Gì Tôi Làm Đúng
Quyền riêng tư như kiến trúc, không phải chính sách. "Chúng tôi không chia sẻ dữ liệu của bạn" là một chính sách. Nó có thể thay đổi. "Dữ liệu của bạn không bao giờ rời khỏi điện thoại vì không có server" là kiến trúc. Nó không thể thay đổi nếu không xây dựng lại ứng dụng. Người dùng hiểu sự khác biệt này một cách trực quan.
Tiếng Quảng Đông như ngôn ngữ hạng nhất. Hầu hết các ứng dụng dịch thuật coi tiếng Quảng Đông như tiếng Trung với giọng khác. Traverba có mô hình ASR riêng cho tiếng Quảng Đông. Điều này tạo tiếng vang mạnh với người dùng ở Hồng Kông và Quảng Đông — những người đã mệt mỏi vì bị đối xử như thứ yếu.
Gói miễn phí hào phóng. Dịch giọng nói, camera, màn hình và văn bản đều miễn phí và không giới hạn. Paywall chỉ áp dụng cho trò chuyện nhóm, chuyển đổi tệp âm thanh và tóm tắt cuộc họp. Điều này quan trọng vì những người cần dịch thuật nhất — người nhập cư, khách du lịch ở nơi xa lạ, học sinh — thường không đủ khả năng trả phí đăng ký cao cấp.
Thiết kế offline-first. Mọi tính năng đều hoạt động không cần internet. Internet không phải chế độ giảm hiệu năng. Offline CHÍNH LÀ chế độ. Đây là đề xuất giá trị mạnh hơn "cũng hoạt động offline."
Những Gì Tôi Làm Sai
Đánh giá thấp thiết bị cấu hình thấp. Quá trình phát triển diễn ra trên điện thoại flagship. Lần đầu tiên tôi thử nghiệm trên điện thoại 3GB RAM, một nửa tính năng bị crash. Quản lý bộ nhớ lẽ ra phải là thứ đầu tiên tôi xây dựng, không phải thêm vào sau.
Quy trình review của iOS. Apple từ chối lần nộp đầu tiên vì không triển khai App Tracking Transparency (ATT). Dù Traverba không theo dõi người dùng, SDK AdMob vẫn kích hoạt yêu cầu này. Việc tích hợp ATT đúng cách qua Flutter với thời điểm chính xác (sau khi ứng dụng khởi chạy, trước khi khởi tạo quảng cáo) tốn nhiều lần thử.
Không ra mắt sớm hơn. Tôi dành nhiều tháng đánh bóng những tính năng người dùng không yêu cầu trước khi ra mắt. Phản hồi nhận được sau khi ra mắt lại về những thứ hoàn toàn khác so với tôi mong đợi. Ra mắt sớm, lắng nghe, cải tiến. Ai cũng nói điều này. Tôi vẫn sa vào cái bẫy đó.
Cơ Hội Thị Trường
Thị trường dịch thuật trị giá hơn $40 tỷ và đang tăng trưởng. Nhưng nó bị thống trị bởi hai thái cực:
- Ứng dụng đám mây miễn phí (Google Translate, Apple Translate) đủ tốt cho hầu hết mọi người nhưng hy sinh quyền riêng tư và độ tin cậy offline
- Thiết bị phần cứng đắt tiền (Pocketalk $323, Timekettle $299, Vasco $350+) cần internet và giải quyết vấn đề mà điện thoại của bạn đã có thể làm được
Khoảng trống ở giữa — một ứng dụng miễn phí/giá phải chăng với xử lý hoàn toàn trên thiết bị và thực sự hoạt động tốt — vẫn còn bỏ trống đáng ngạc nhiên. DeepL chỉ có văn bản. iTranslate chặn tính năng cốt lõi sau paywall. Hầu hết các công cụ dịch thuật AI chỉ hoạt động trên đám mây.
AI trên thiết bị đã vượt ngưỡng chất lượng. Các mô hình đã đủ tốt. Điện thoại đã đủ nhanh. Các framework (CoreML, ONNX, sherpa-onnx, LiteRT) đã đủ trưởng thành. Thứ còn thiếu là ai đó xây dựng lớp sản phẩm bên trên.
Tiếp Theo Là Gì
Lộ trình trước mắt:
- Thêm ngôn ngữ ASR. 30 là một khởi đầu tốt nhưng các ngôn ngữ ít phổ biến hơn cũng cần nhận dạng giọng nói.
- Cải thiện dịch thuật LLM. Gemma 2B đã tốt. Các mô hình mới hơn, nhỏ hơn có thể tốt hơn. Kiến trúc hỗ trợ thay thế mô hình mà không cần thay đổi ứng dụng.
- Tối ưu hóa cho iPad và máy tính bảng. Ứng dụng hoạt động trên máy tính bảng nhưng giao diện chưa được tối ưu cho màn hình lớn hơn.
- Tăng tốc Android Vulkan. iOS có Metal và CoreML cho suy luận GPU. Câu chuyện tăng tốc GPU của Android (Vulkan qua whisper.cpp) cần thêm công sức.
Tầm nhìn lớn hơn: một thế giới nơi ngôn ngữ không còn là rào cản kết nối giữa người với người, và nơi việc phá bỏ rào cản đó không đòi hỏi phải giao những cuộc trò chuyện riêng tư của bạn cho server của một công ty công nghệ.
Nếu bạn đọc đến đây, hãy thử ứng dụng. Miễn phí hoàn toàn. Tôi đọc từng phản hồi.
Traverba có sẵn trên Google Play và App Store. Tìm hiểu thêm tại traverba.com. Câu hỏi, phản hồi hoặc yêu cầu tính năng: [email protected]