Ich habe eine Übersetzer-App gebaut, die vollständig auf dem Telefon läuft. Keine Cloud. Keine API-Aufrufe. Keine Daten, die das Gerät verlassen. 108 Sprachen. Sprach-, Kamera- und Bildschirmübersetzung sowie Offline-Gruppengespräche über Bluetooth.
Es begann damit, dass ich nicht finden konnte, was ich brauchte – und wurde zu etwas, das größer war als erwartet.
Das Problem
Ich lebe in Hongkong. Mein Alltag umfasst Kantonesisch, Mandarin, Englisch und gelegentlich Japanisch. Die Familie meiner Partnerin spricht Kantonesisch. Meine Arbeit läuft auf Englisch. Die Behördenformulare sind auf Traditionellem Chinesisch. Die Speisekarten der Restaurants in meiner Gegend sind oft auf Vereinfachtem Chinesisch oder Japanisch.
Ich habe jeden Übersetzer auf dem Markt ausprobiert:
Google Translate funktioniert online gut genug, aber die Qualität offline lässt stark nach. Und Kantonesisch wird einfach unter "Chinesisch" eingeordnet – wer Kantonesisch spricht, weiß, das ist so, als würde man Portugiesisch unter "Spanisch" subsumieren. Sie teilen Schriftzeichen, aber nicht Aussprache, Grammatik oder Wortschatz.
Pocketalk kostet 323 Dollar und braucht für jede Übersetzung eine Internetverbindung. In der MTR, der Hongkonger U-Bahn, wo in der Hälfte der Stationen kein Empfang ist, komme ich damit nicht weit.
Apple Translate hat ein schönes Design und gute On-Device-Verarbeitung, unterstützt aber nur etwa 20 Sprachen. Kein Kantonesisch. In einer Stadt, wo 95 % der Bevölkerung Kantonesisch spricht. Das sagt alles darüber aus, wie die großen Technologiekonzerne Sprachen priorisieren.
iTranslate steckt die wichtigsten Funktionen hinter eine Bezahlschranke von 50 Dollar pro Jahr. DeepL bietet nicht einmal Sprach- oder Kameraübersetzung.
Keiner von ihnen konnte mit einem Abendessen bei der Familie meiner Partnerin mithalten, bei dem die Menschen mitten im Gespräch zwischen Kantonesisch, Mandarin und Englisch wechseln. Keiner konnte die kantonesischen Sprachnachrichten übersetzen, die ich auf WhatsApp bekomme. Keiner funktionierte zuverlässig in Gebieten mit schlechter Verbindung.
Also fing ich an zu bauen.
Die erste Version war schrecklich
Der erste Prototyp war eine Flutter-App mit einem einzigen ASR-Modell (Whisper, On-Device via sherpa-onnx) und einfacher NMT-Übersetzung. Damit konnten vielleicht 15 Sprachen verarbeitet werden. Die Spracherkennung war langsam. Die Übersetzungen waren mittelmäßig. Die Benutzeroberfläche war hässlich.
Aber es funktionierte offline. Und diese eine Tatsache – dass ich auf einem Flug ohne WLAN einen kantonesischen Satz ins Englische übersetzen konnte – hielt mich am Laufen.
Das Architektur-Kaninchenloch
Wenn man sich einmal auf On-Device-KI festlegt, landet man in einem tiefen Kaninchenloch.
ASR (Spracherkennung): Ein Modell passt nicht für alle Sprachen. Am Ende habe ich drei ausgeliefert: Parakeet (für Englisch optimiert, gebündelt), Whisper.cpp (breit mehrsprachig, herunterladbar) und Qwen3-ASR (für CJK optimiert, herunterladbar). Die App wählt automatisch das beste Modell basierend auf der Quellsprache aus.
Übersetzung: Klassische ML-Modelle decken 61 gut ausgestattete Sprachpaare ab. Für die verbleibenden 47 Sprachen (Yoruba, Amharisch, Laotisch, Birmanisch und andere) übernimmt ein lokal ausgeführtes, quantisiertes Gemma-LLM die Übersetzung. Das war der Durchbruch, der die Sprachanzahl von 61 auf 108 erhöhte.
Kamera-OCR: Zwei Engines. ML Kit für schnelle Erkennung. PaddleOCR für die gründliche Erkennung komplexer Schriften. Unter iOS musste ich manuell schriftspezifische Pods hinzufügen, weil Apple standardmäßig nur das lateinische Modell bündelt. Das hat einen ganzen Tag zum Debuggen gebraucht, weil der Fehler vollkommen lautlos auftritt.
Gruppen-Chat: Bluetooth-Mesh mit bis zu 7 Geräten. Jedes Telefon verarbeitet seine eigene ASR und Übersetzung. Nachrichten werden an alle Geräte gesendet. Kein Server koordiniert irgendetwas.
Speicherverwaltung: Die eigentliche Ingenieursherausforderung. Drei ASR-Modelle, Übersetzungsmodelle, ein LLM und OCR-Engines können nicht gleichzeitig im RAM eines Telefons leben. Die App hat einen Speicherbudget-Planer, der Modelle basierend auf der aktuellen Nutzertätigkeit lädt und entlädt.
Die Zahlen
- Entwicklungszeit: Etwa 18 Monate vom ersten Commit bis zur Veröffentlichung im App Store / Play Store
- Sprachen: 108 (61 klassisches ML + 47 KI via Gemma)
- ASR-Sprachen: 30 mit On-Device-Spracherkennung
- OCR-Sprachen: 92 mit Kamera-Texterkennung
- App-Größe: ~150 MB Basis + herunterladbare Modelle
- Preisgestaltung: Kostenlose Stufe mit allen Kernfunktionen. Premium für 1,99 $/Monat oder 19,99 $/Jahr für Gruppen-Chat, Dateitranskription und Meeting-Zusammenfassungen
- Teamgröße: 1 Person
Was ich richtig gemacht habe
Datenschutz als Architektur, nicht als Richtlinie. "Wir geben Ihre Daten nicht weiter" ist eine Richtlinie. Sie kann sich ändern. "Ihre Daten verlassen das Telefon nie, weil es keinen Server gibt" ist Architektur. Das lässt sich nicht ändern, ohne die App neu zu bauen. Nutzer verstehen diesen Unterschied intuitiv.
Kantonesisch als erstklassige Sprache. Die meisten Übersetzer behandeln Kantonesisch als Chinesisch mit einem anderen Akzent. Traverba hat ein eigenes ASR-Modell für Kantonesisch. Das kam bei der Nutzerbasis in Hongkong und Guangdong sehr gut an – Menschen, die es leid sind, als Nachgedanke behandelt zu werden.
Die kostenlose Stufe ist großzügig. Sprachübersetzung, Kameraübersetzung, Bildschirmübersetzung und Textübersetzung sind alle kostenlos und unbegrenzt nutzbar. Die Bezahlschranke gilt nur für Gruppen-Chat-Funktionen, Dateitranskription und Meeting-Zusammenfassungen. Das ist wichtig, weil diejenigen, die Übersetzung am dringendsten brauchen – Einwanderer, Reisende an unbekannten Orten, Studenten – sich oft keine Premium-Abonnements leisten können.
Offline-First-Design. Jede Funktion funktioniert ohne Internet. Internet ist kein Beeinträchtigungsmodus. Offline IST der Modus. Das ist ein stärkeres Wertversprechen als "funktioniert auch offline."
Was ich falsch gemacht habe
Die Unterschätzung von Einstiegsgeräten. Die Entwicklung fand auf Flaggschiff-Telefonen statt. Als ich zum ersten Mal auf einem Telefon mit 3 GB RAM testete, stürzte die Hälfte der Funktionen ab. Die Speicherverwaltung hätte das Erste sein sollen, was ich gebaut habe – nicht ein nachträglicher Umbau.
Der iOS-Review-Prozess. Apple lehnte die erste Einreichung ab, weil App Tracking Transparency (ATT) nicht implementiert war. Obwohl Traverba keine Nutzer trackt, löst das AdMob SDK die Anforderung aus. ATT über Flutter korrekt einzubinden – mit dem richtigen Timing (nach dem App-Start, vor der Initialisierung der Werbeanzeigen) – erforderte mehrere Iterationen.
Nicht früher veröffentlichen. Ich verbrachte Monate damit, Funktionen zu verfeinern, die Nutzer gar nicht angefragt hatten, bevor ich veröffentlichte. Das Feedback nach der Veröffentlichung drehte sich um völlig andere Dinge als erwartet. Früh veröffentlichen, zuhören, iterieren. Das sagt jeder. Ich bin dennoch in die Falle getappt.
Die Marktchance
Der Übersetzungsmarkt ist über 40 Milliarden Dollar wert und wächst. Aber er wird von zwei Extremen dominiert:
- Kostenlose Cloud-Apps (Google Translate, Apple Translate), die für die meisten Menschen gut genug sind, aber Datenschutz und Offline-Zuverlässigkeit opfern
- Teure Hardware-Geräte (Pocketalk 323 $, Timekettle 299 $, Vasco 350 $+), die Internet benötigen und ein Problem lösen, das das eigene Telefon bereits löst
Die Lücke in der Mitte – eine kostenlose/erschwingliche App mit vollständiger On-Device-Verarbeitung, die wirklich funktioniert – ist überraschend leer. DeepL ist nur Text. iTranslate sperrt Kernfunktionen hinter Bezahlschranken. Die meisten KI-Übersetzungstools sind Cloud-only.
On-Device-KI hat die Qualitätsschwelle überschritten. Die Modelle sind gut genug. Die Telefone sind schnell genug. Die Frameworks (CoreML, ONNX, sherpa-onnx, LiteRT) sind reif genug. Was fehlte, war jemand, der die Produktschicht darüber baut.
Was als Nächstes kommt
Die unmittelbare Roadmap:
- Mehr ASR-Sprachen. 30 ist ein guter Anfang, aber auch die weniger verbreiteten Sprachen brauchen Spracherkennung.
- Verbesserte LLM-Übersetzung. Gemma 2B ist gut. Neuere, kleinere Modelle könnten besser sein. Die Architektur unterstützt den Austausch von Modellen, ohne die App zu ändern.
- iPad- und Tablet-Optimierung. Die App funktioniert auf Tablets, aber die Benutzeroberfläche ist noch nicht für größere Bildschirme optimiert.
- Android Vulkan-Beschleunigung. iOS hat Metal und CoreML für GPU-Inferenz. Androids GPU-Beschleunigung (Vulkan via whisper.cpp) braucht noch mehr Arbeit.
Die größere Vision: eine Welt, in der Sprache keine Barriere für menschliche Verbindung ist – und wo das Überwinden dieser Barriere nicht bedeutet, private Gespräche an die Server eines Technologiekonzerns weiterzugeben.
Wenn du bis hierher gelesen hast, probiere die App aus. Sie ist kostenlos. Ich lese jedes Feedback.
Traverba ist verfügbar bei Google Play und im App Store. Mehr erfahren unter traverba.com. Fragen, Feedback oder Feature-Anfragen: [email protected]