Datalab otwiera Lift: model 9B, który wyciąga JSON z PDF-ów lokalnie

Wyciąganie konkretnych danych z dokumentu to jedno z tych zadań, które brzmią banalnie, a w praktyce zżerają tygodnie. Numer faktury, kwota, pozycje na liście, data z rocznego raportu finansowego spółki (w amerykańskich realiach to formularz 10-K). Niby wszystko jest na stronie, ale dokument bywa zeskanowany krzywo, kluczowa wartość rozjeżdża się na dwie strony, a model raz po raz zwraca prawie poprawny JSON, w którym brakuje jednego nawiasu. Datalab właśnie udostępnił na licencji open-source narzędzie, które celuje dokładnie w ten problem: Lift, model wizyjny o dziewięciu miliardach parametrów, który dostaje dokument i schemat, a oddaje gotowy obiekt JSON pasujący do tego schematu.

Mechanizm, który robi tu różnicę, działa tak: zamiast pozwolić modelowi pisać dowolny tekst i liczyć na to, że trafi w poprawną strukturę, Lift ogranicza go już na poziomie generowania kolejnych tokenów, tak że wynik fizycznie nie może wyłamać się ze schematu. Twórcy nazywają to schema-constrained decoding, czyli dekodowaniem ograniczonym schematem. Podajesz definicję pól, których szukasz, a w odpowiedzi dostajesz obiekt, który zawsze daje się sparsować. To różnica między "model zwykle zwraca poprawny JSON" a "model nie potrafi zwrócić niepoprawnego". Dla kogoś, kto budował kiedyś pipeline z trzema warstwami retry i regexpem ratującym urwany nawias, to realna oszczędność nerwów.

Reszta jest prosta jak na narzędzie tej klasy. Instalujesz przez pip install lift-pdf, podajesz na wejściu PDF albo obrazek i schemat w standardowym JSON Schema, a Lift ogarnia nawet dokumenty wielostronicowe w jednym przebiegu, łącznie z wartościami rozjeżdżającymi się między stronami. Model działa lokalnie, na jednej karcie graficznej, w trybie HuggingFace albo przez serwer vLLM. Jest też CLI do przemielenia całego katalogu naraz i mała aplikacja Schema Studio do składania i testowania schematów. Kto woli nie trzymać modelu u siebie, dostaje płatne API Datalabu, które dokłada cytowania i oceny pewności dla każdego pola.