Baidu stellt Unlimited OCR vor: viele Seiten, konstanter Speicherbedarf und bessere Erkennung.
In Kürze
- R‑SWA hält den KV‑Cache konstant (nur letzte 128 Tokens)
- Bessere Benchmarks und schnellere Token‑Verarbeitung
- Code und Modelle offen auf GitHub/Hugging Face
Stell dir vor, ein OCR‑System könnte Dutzende Seiten eines Dokuments in einem Durchlauf lesen, ohne dass der Speicher alle paar Seiten explodiert — genau das hat Baidu jetzt vorgestellt. Ihr neues Modell heißt Unlimited OCR und verspricht, lange Dokumente deutlich effizienter zu verarbeiten, ohne dass Speicherbedarf und Verarbeitungszeit mit jeder zusätzlichen Seite steigen.
Worum es technisch geht
Das Kernproblem vieler End‑to‑End‑OCR‑Modelle ist der sogenannte KV‑Cache: Während das Modell Text generiert, muss es alle bisherigen Ausgaben zwischenspeichern. Je mehr Text, desto größer der Cache — das macht das System langsamer und limitiert die maximale Lauflänge. Deshalb verarbeiten viele Systeme mehrseitige Dokumente Seite für Seite.
Baidus Ansatz, Reference Sliding Window Attention (R‑SWA), löst das so: Die Bildinformationen werden einmal kodiert und bleiben konstant verfügbar, der Prompt ebenfalls. Vom generierten Text speichert das Modell aber nur die zuletzt 128 Tokens. So bleibt der KV‑Cache in der Größe konstant, egal wie viele Seiten noch folgen. Man kann sich das vorstellen wie beim Abschreiben: Du brauchst die Vorlage vor Augen und nur ein kurzes aktives Erinnerungsfenster, nicht jede bereits abgeschriebene Zeile im Kopf.
Wie das Modell aufgebaut ist
Unlimited OCR basiert auf dem offenen Deepseek OCR. Ein sogenannter DeepEncoder komprimiert ein 1024×1024‑Bild auf 256 Bild‑Tokens. Die Modellarchitektur nutzt eine Mixture‑of‑Experts‑Strategie — mehrere Spezialistenmodule, von denen bei einer Inferenz nur ein Teil aktiviert wird. Insgesamt hat das System etwa 3 Milliarden Parameter; bei der Inferenz sind davon rund 500 Millionen tatsächlich in Benutzung.
Betriebsmodi
- Base ist auf mehrseitige Dokumente ausgelegt und verwendet eine feste, effizientere Auflösung.
- Gundam setzt auf dynamische Auflösung für Einzelseiten mit hohem Detailanspruch.
Trainiert wurde das Modell mit rund zwei Millionen Dokumentbeispielen (Verhältnis 9:1 Einzel‑ zu Mehrseiten). Einzelseiten wurden mit Paddle OCR annotiert; Mehrseiten‑Sets wurden synthetisch aus Einzelseiten zusammengesetzt. Die Trainingsdaten wurden als Sequenzen bis zu 32.000 Tokens organisiert. Training lief 4000 Schritte auf 8×16 Nvidia A800 GPUs; der DeepEncoder blieb eingefroren, trainiert wurden nur die Sprachmodell‑Parameter.
Leistung in Benchmarks
In standardisierten Tests zeigt Unlimited OCR klare Verbesserungen gegenüber der Deepseek‑Baseline. Auf dem OmniDocBench v1.5 erreicht das Modell ungefähr 93 % Gesamtwertung — rund 6 Prozentpunkte mehr als die Vorlage. Auf v1.6 kommt es auf 93,92 % und rangiert dort als bestes End‑to‑End‑System.
Konkret bedeutet das: etwas weniger Fehler bei reiner Texterkennung (gemessen als Edit‑Distanz) und deutlich bessere Erkennung von Tabellenstrukturen (fast +6 Prozentpunkte). In einem Long‑Horizon‑Test bleibt die Edit‑Distanz auch bei mehr als 40 Seiten unter 0,11. Die Autoren führen verbleibende Fehler eher auf die begrenzte Auflösung des DeepEncoders im Base‑Modus (sehr kleiner Text) zurück, nicht auf verlorenen Kontext.
- Geschwindigkeit: Im Base‑Modus verarbeitet Unlimited OCR etwa 5.580 Tokens/s gegenüber 4.951 Tokens/s bei Deepseek (+12,7 %).
- Theoretisch, bei optimaler Parallelität und sehr langen Ausgaben, liegt Unlimited OCR sogar rund 35 % vor der Baseline.
Verhalten und Stabilität
Die Begrenzung des Ausgabefensters auf 128 Tokens scheint die Genauigkeit bei Einzelseiten nicht zu verschlechtern; teils gibt es sogar leichte Verbesserungen — die Autoren vermuten, dass das Modell dadurch fokussierter arbeitet. Wichtig ist auch: Bei klassischen Sliding‑Window‑Ansätzen verändern sich Bildzustände laufend und verwischen mit der Zeit; R‑SWA verhindert das, weil die visuellen Tokens nicht wiederholt aktualisiert werden.
Einschränkungen und Weiteres
„Unlimited“ ist nicht wörtlich unbegrenzt: Das System ist durch eine feste Kontextlänge von aktuell 32.000 Tokens limitiert. Visuelle Tokens summieren sich mit jeder Seite, daher bleibt eine Obergrenze bestehen. Baidu plant kurzfristig Modelle mit 128.000 Tokens Kontext und langfristig einen „Prefill‑Pool“, aus dem das Modell gezielt passende KV‑Blöcke auswählt — vergleichbar mit gezieltem Durchblättern eines Buchs, statt alles sequentiell abzuarbeiten.
- Kurzfristig: Modelle mit 128.000 Tokens Kontext.
- Langfristig: „Prefill‑Pool“, aus dem passende KV‑Blöcke selektiert werden.
- Die Autoren sehen R‑SWA außerdem als übertragbar auf andere Referenz‑Aufgaben wie automatische Spracherkennung oder Übersetzung.
Offenheit und Verfügbarkeit
Code und Modellgewichte sind offen auf GitHub und Hugging Face verfügbar. Unlimited OCR lässt sich über ModelScope sowie Inferenz‑Engines wie vLLM und SGLang nutzen; es gibt außerdem eine Demo auf Hugging Face Spaces.
Branchenkontext
OCR bleibt ein umkämpftes Feld, in dem Token‑Effizienz ein entscheidendes Unterscheidungsmerkmal ist. Ansätze, die Bilder von Text kostengünstiger verarbeiten, werden auch genutzt, um das „Gedächtnis“ von Sprachmodellen für lange Chats oder umfangreiche Dokumente zu erweitern und Token‑Kosten zu senken. Gleichzeitig sorgt die Möglichkeit, große Buchscans schnell zu verarbeiten, für Diskussionen zu Datenschutz und Urheberrecht — insbesondere, weil große Modelle bereits Passagen aus geschützten Werken reproduziert haben. Baidus Unlimited OCR ist Teil einer breiteren KI‑Offensive des Unternehmens; parallel laufen Projekte wie Ernie 5.0 und weitere Fortschritte im OCR‑Bereich von anderen Anbietern.
Quellen
- Quelle: Baidu
- Der ursprüngliche Artikel wurde hier veröffentlicht
- Dieser Artikel wurde im Podcast KI-Briefing-Daily behandelt. Die Folge kannst du hier anhören.
