Tamamen telefonunuzda çalışan bir çeviri uygulaması geliştirdim. Bulut yok. API çağrısı yok. Cihazdan çıkan veri yok. 108 dil. Ses, kamera, ekran çevirisi ve Bluetooth üzerinden çevrimdışı grup konuşmaları.
İhtiyacım olanı bulamadığım için başladı ve beklediğimden çok daha büyük bir şeye dönüştü.
Sorun
Hong Kong'da yaşıyorum. Günlük hayatım Kantonca, Mandarin, İngilizce ve zaman zaman Japonca içeriyor. Partnerimin ailesi Kantonca konuşuyor. İşim İngilizce yürüyor. Devlet formları Geleneksel Çince. Semtteki restoran menüleri ise çoğunlukla Basitleştirilmiş Çince ya da Japonca.
Piyasadaki her çeviriyi denedim:
Google Translate çevrimiçiyken yeterince iyi çalışıyor, ancak çevrimdışı kalitesi ciddi şekilde düşüyor. Ayrıca Kantonca'yı "Çince" olarak toplu hale getiriyor; bu da Kantonca bilen herkesin bileceği gibi, Portekizce'yi "İspanyolca" ile aynı kefeye koymak gibi bir şey. Karakterleri paylaşıyorlar ama telaffuz, dilbilgisi ve kelime hazinesi tamamen farklı.
Pocketalk 323 dolara mal oluyor ve her çeviri için internete ihtiyaç duyuyor. İstasyonların yarısında sinyal olmayan MTR'de (Hong Kong metrosu) kullanamıyorum.
Apple Translate güzel bir tasarıma ve iyi bir cihaz içi işleme sahip, ancak yaklaşık 20 dili destekliyor. Kantonca yok. Nüfusun yüzde 95'inin Kantonca konuştuğu bir şehirde. Bu tek başına büyük teknoloji şirketlerinin dillere nasıl öncelik verdiğini anlatıyor.
iTranslate temel özelliklerini yıllık 50 dolarlık bir ödeme duvarının arkasına kilitliyor. DeepL ise ses veya kamera desteği bile sunmuyor.
Hiçbiri, partnerimin ailesinin olduğu bir akşam yemeğinde insanların konuşma ortasında Kantonca, Mandarin ve İngilizce arasında geçiş yaptığı durumu çözemedi. Hiçbiri WhatsApp'ta aldığım Kantonca sesli mesajları çeviremedi. Hiçbiri zayıf bağlantı olan yerlerde güvenilir şekilde çalışmadı.
Böylece geliştirmeye başladım.
İlk Sürüm Berbattı
İlk prototip, tek bir ASR modeliyle (Whisper, sherpa-onnx aracılığıyla cihaz üzerinde çalışan) ve temel NMT çevirisiyle oluşturulmuş bir Flutter uygulamasıydı. Belki 15 dili kapsıyordu. Ses tanıma yavaştı. Çeviriler vasat kalıyordu. Arayüz çirkindi.
Ama çevrimdışı çalışıyordu. Ve bu tek gerçek, WiFi olmayan bir uçakta Kantonca bir cümleyi İngilizce'ye çevirebildiğim gerçeği, beni ilerlemeye itti.
Mimari Tavşan İni
Cihaz üzerinde yapay zekaya bağlı kaldığınızda, derin bir tavşan inine dalıyorsunuz.
ASR (konuşma tanıma): Tek bir model tüm dillere uymuyor. Sonunda üç model göndermeye karar verdim: Parakeet (İngilizce için optimize edilmiş, uygulamayla birlikte gelir), Whisper.cpp (geniş çok dilli destek, indirilebilir) ve Qwen3-ASR (CJK dilleri için optimize edilmiş, indirilebilir). Uygulama, kaynak dile göre en iyi modele otomatik olarak yönlendiriyor.
Çeviri: Geleneksel ML modelleri 61 iyi desteklenen dil çiftini kapsıyor. Geri kalan 47 dil için (Yoruba, Amharca, Laos, Myanmar ve diğerleri) yerel olarak çalışan kuantize edilmiş bir Gemma LLM çeviriyi üstleniyor. Bu, dil sayısını 61'den 108'e taşıyan kilit gelişmeydi.
Kamera OCR: İki motor. ML Kit hızlı tanıma için. PaddleOCR ise karmaşık yazı tiplerinin kapsamlı tanıması için. iOS'ta, Apple'ın varsayılan olarak yalnızca Latin modelini paketlemesi nedeniyle komut dosyasına özgü pod'ları manuel olarak eklemek gerekti. Hata tamamen sessiz olduğundan bunu ayıklamak bir gün aldı.
Grup sohbeti: 7 cihaza kadar bağlanabilen Bluetooth mesh ağı. Her telefon kendi ASR ve çevirisini hallediyor. Mesajlar tüm cihazlara yayınlanıyor. Hiçbir şeyi koordine eden sunucu yok.
Bellek yönetimi: Asıl mühendislik zorluğu. Üç ASR modeli, çeviri modelleri, bir LLM ve OCR motorları aynı anda telefon RAM'inde barınamıyor. Uygulama, kullanıcının o anda ne yaptığına göre modelleri yükleyip boşaltan bir bellek bütçe planlayıcısına sahip.
Rakamlar
- Geliştirme süresi: İlk commit'ten App Store / Play Store lansmanına yaklaşık 18 ay
- Diller: 108 (61 geleneksel ML + 47 Gemma aracılığıyla yapay zeka)
- ASR dilleri: Cihaz üzerinde konuşma tanıma ile 30 dil
- OCR dilleri: Kamera metin tanıma ile 92 dil
- Uygulama boyutu: ~150MB temel + indirilebilir modeller
- Fiyatlandırma: Tüm temel özelliklerle ücretsiz katman. Grup sohbeti, dosya transkripsiyonu ve toplantı özetleri için aylık 1,99 dolar veya yıllık 19,99 dolar Premium
- Ekip büyüklüğü: 1 kişi
Doğru Yaptıklarım
Gizliliği politika değil mimari olarak benimsemek. "Verilerinizi paylaşmıyoruz" bir politikadır. Değişebilir. "Sunucu olmadığı için verileriniz telefonunuzdan çıkmıyor" ise bir mimaridir. Uygulamayı yeniden inşa etmeden değişemez. Kullanıcılar bu ayrımı sezgisel olarak anlıyor.
Kantonca'ya birinci sınıf dil statüsü vermek. Çoğu çeviri uygulaması Kantonca'ya farklı aksanı olan Çince gibi davranıyor. Traverba, Kantonca için özel bir ASR modeline sahip. Bu durum, ikinci planda bırakılmaktan bıkan Hong Kong ve Guangdong kullanıcı tabanında güçlü bir yankı uyandırdı.
Ücretsiz katmanın cömert olması. Ses çevirisi, kamera çevirisi, ekran çevirisi ve metin çevirisi ücretsiz ve sınırsız. Ödeme duvarı yalnızca grup sohbet özelliklerini, dosya transkripsiyonunu ve toplantı özetlerini kapsıyor. Bu önemli çünkü çeviriye en çok ihtiyaç duyan insanlar, göçmenler, tanımadıkları yerlerde seyahat edenler, öğrenciler, çoğunlukla premium abonelik ücretini karşılayamıyor.
Çevrimdışı öncelikli tasarım. Her özellik internetsiz çalışıyor. İnternet, düşürülmüş bir mod değil. Çevrimdışı, asıl moddur. Bu, "ayrıca çevrimdışı da çalışır" önermesinden çok daha güçlü bir değer sunuyor.
Yanlış Yaptıklarım
Düşük seviyeli cihazları küçümsemek. Geliştirme amiral gemisi telefonlarda yapıldı. 3 GB RAM'li bir telefonda ilk test ettiğimde özelliklerin yarısı çöktü. Bellek yönetimi ilk inşa etmem gereken şey olmalıydı, sonradan eklenen bir düzeltme değil.
iOS inceleme süreci. Apple, App Tracking Transparency (ATT) uygulanmaması nedeniyle ilk başvuruyu reddetti. Traverba kullanıcıları takip etmese de AdMob SDK bu gereksinimi tetikliyor. ATT'yi Flutter üzerinden doğru zamalamayla (uygulama başlatıldıktan sonra, reklamlar başlatılmadan önce) düzgün şekilde bağlamak birden fazla iterasyon gerektirdi.
Daha erken lansman yapmamak. Kullanıcıların istemediği özellikler üzerinde aylarca parlatma yaptım, ardından lansman yaptım. Lansmanın ardından aldığım geri bildirimler, beklediğimden tamamen farklı konulardaydı. Erken gönder, dinle, yinele. Herkes bunu söylüyor. Yine de bu tuzağa düştüm.
Piyasa Fırsatı
Çeviri pazarı 40 milyar doların üzerinde ve büyümeye devam ediyor. Ancak iki uç tarafından domine ediliyor:
- Ücretsiz bulut uygulamaları (Google Translate, Apple Translate) çoğu insan için yeterince iyi ama gizlilik ve çevrimdışı güvenilirliğinden ödün veriyor
- Pahalı donanım cihazları (Pocketalk 323 dolar, Timekettle 299 dolar, Vasco 350 dolar+) internet gerektiriyor ve telefonunuzun zaten çözebileceği bir sorunu çözüyor
Ortadaki boşluk, gerçekten çalışan tam cihaz içi işleme sahip ücretsiz/uygun fiyatlı bir uygulama, şaşırtıcı biçimde hâlâ boş. DeepL yalnızca metin. iTranslate temel özellikleri ödeme duvarına kilitliyor. Yapay zeka çeviri araçlarının büyük çoğunluğu yalnızca bulut tabanlı.
Cihaz üzerinde yapay zeka kalite eşiğini aştı. Modeller yeterince iyi. Telefonlar yeterince hızlı. Çerçeveler (CoreML, ONNX, sherpa-onnx, LiteRT) yeterince olgun. Eksik olan tek şey, bu altyapının üzerine ürün katmanını inşa eden biriydi.
Sırada Ne Var
Yakın vadeli yol haritası:
- Daha fazla ASR dili. 30 iyi bir başlangıç ama uzun kuyruklu diller de konuşma tanıma gerektiriyor.
- Geliştirilmiş LLM çevirisi. Gemma 2B iyi. Daha yeni, daha küçük modeller daha iyi olabilir. Mimari, uygulamayı değiştirmeden model takasını destekliyor.
- iPad ve tablet optimizasyonu. Uygulama tabletlerde çalışıyor ancak arayüz henüz büyük ekranlar için optimize edilmedi.
- Android Vulkan hızlandırması. iOS GPU çıkarımı için Metal ve CoreML'e sahip. Android'in GPU hızlandırma hikayesi (whisper.cpp aracılığıyla Vulkan) daha fazla çalışma gerektiriyor.
Daha büyük vizyon: dilin insan bağlantısına engel olmadığı ve bu engeli aşmanın özel konuşmalarınızı bir teknoloji şirketinin sunucularına teslim etmeyi gerektirmediği bir dünya.
Buraya kadar geldiyseniz, uygulamayı deneyin. Ücretsiz. Her geri bildirimi okuyorum.
Traverba Google Play ve App Store'da mevcut. Daha fazla bilgi için traverba.com. Sorular, geri bildirimler veya özellik talepleri: [email protected]