Lokale Modelle · Liquid AI

LFM lokal ausführen: Welches Liquid-Modell läuft auf deinem Handy oder PC?

LFM3 ist für Geräte gebaut, nicht für Rechenzentren. Hier steht, was die Familie kann, was Quantisierung bedeutet und ob dein Gerät mitkommt.

Kurz gesagt

LFM3 von Liquid AI ist eine Familie aus sechs Modellen der 2B-Klasse für Text, Bild, Audio und Entscheidungen. Das Textmodell hat 1,73 Milliarden Parameter. Seine 4-Bit-Gewichtsdatei ist laut Hersteller rund 1 GB groß [1][3]. Das ist nur die Datei. Dazu kommen Speicher für den Kontext und die Software. Ob ein Modell auf deinem Gerät läuft, hängt von Modell, Format, Kontextlänge, Gesamtspeicher und Software ab. Der Gerätecheck unten schätzt den Speicherbedarf und legt jede Annahme offen. Eine Geschwindigkeit sagt er nicht voraus.

Die LFM3-Familie im Überblick

Alle Modelle stammen von Liquid AI und zweigen vom gemeinsamen Backbone LFM3-1.7B-Base ab [1]. Ausführliche Analyse: LFM3: Liquid AIs 2B-Familie für jede Modalität im Check.

ModellEingabeAusgabeWofür
LFM3-1.7B
Text
TextTextLokale Agenten, Werkzeugaufrufe, Fine-Tuning. Laut Modellkarte nicht empfohlen für agentisches Coding und komplexes mehrstufiges Reasoning. [1][3][7]
LFM3-VL-2B
Bild und Video
Text, Bild, VideoTextVisuelles Verstehen, erstmals mit Video-Eingabe. [1][9]
LFM3-Audio-2B
Sprache und Audio
Text, Audio (16 kHz)Text, Sprache (24 kHz)Sprachchat, Transkription, Audio-Verstehen. [1][4][5]
LFM3-Omni-2B
Alles in einem
Text, Bild, Video, AudioText, SpracheSieht, hört und antwortet gesprochen in einem Modell. [1][11]
d1 (2B)
Entscheidungsmodell
Text, Bild, VideoKalibrierte AntwortenEntscheidungsmodell, kein Chatmodell: liefert für typisierte Fragen kalibrierte Wahrscheinlichkeiten in einem Forward-Pass. [1][10]
d1-Omni-2B
Entscheidungsmodell, Omni-Variante
siehe Blogsiehe BlogSechstes Modell der Familie, auf Basis von LFM3-Omni-2B (Herstellerangabe). Hier nicht näher beschrieben. [1]

Alle Angaben sind Herstellerangaben. Ein Eintrag in einer Modellsammlung belegt nicht, dass jede Funktion in jeder Software läuft.

Warum LFM3 so flüssig laufen soll

Drei Gründe nennt Liquid, und wir ordnen sie ein:

  1. Wenig Rechenarbeit pro Wort. 13 der 24 Schichten sind kurze Faltungen, nur 5 Schichten nutzen Aufmerksamkeit mit kleinem Fenster (256 Token) und 6 volle Aufmerksamkeit [1][3]. Je weniger volle Aufmerksamkeit, desto weniger wächst der Speicher mit langem Text.
  2. Kleiner Kontext-Speicher. Ein voller 128K-Kontext belegt laut Liquid 1,6 GB KV-Cache, bei Qwen3.5-4B sind es 4,3 GB [1]. Der KV-Cache ist der Zwischenspeicher, in dem sich das Modell merkt, was schon gesagt wurde.
  3. Auf echten Geräten entworfen. Die Architektur wurde mit einer Suche entwickelt, die direkt auf 14 Geräte- und Software-Kombinationen misst, vom Samsung Galaxy S26 Ultra bis zum Raspberry Pi 5 [1].

Das sind Herstellerangaben. Wir haben keine eigenen Geschwindigkeitsmessungen gemacht und geben deshalb keine Tokens pro Sekunde für bestimmte Geräte an.

Quantisierung ohne Fachchinesisch

Ein Modell besteht aus Milliarden Zahlen, den Gewichten. Quantisierung speichert jede Zahl mit weniger Bits. Das ist wie ein Foto mit weniger Farben: kleinere Datei, aber feine Unterschiede können verloren gehen. Wie stark sich das auswirkt, hängt von Modell, Format und Aufgabe ab. Eine allgemeingültige Rangliste für Qualität oder Tempo gibt es nicht.

FormatUngefähr Bit pro GewichtIn einfachen Worten
bf1616Unkomprimiert (16 Bit). Größte Datei und höchster Speicherbedarf.
q8_0ca. 8,5Etwa halb so groß wie bf16. Der Qualitätsverlust ist oft klein, hängt aber von Modell und Aufgabe ab.
q4_K_Mca. 4,8Verbreiteter Kompromiss: etwa ein Drittel der Größe von bf16, mit Qualitätsverlust, der von Modell und Aufgabe abhängt.
q4_0ca. 4,5Einfaches 4-Bit-Format, ältere Bauart. Bei LFM3-1.7B ist die q4_0-Datei laut Hugging Face allerdings der QAD-Checkpoint (siehe nächste Zeile).
qad-q4_0ca. 4,5Ein q4_0-Modell, das mit „Quantization-Aware Distillation“ (QAD) nachtrainiert wurde, damit beim Runterrechnen weniger Qualität verloren geht. Die q4_0-Datei von LFM3-1.7B ist laut Hugging Face-README dieser QAD-Checkpoint. [7][8]
mxfp8, nvfp4, mlx-bf168 / 4 / 16Weitere Tags in der Ollama-Library. „MLX“ ist Apples Framework für Apple-Chips, kein Rundungsverfahren. „MX“ steht für Microscaling: Kleine Gruppen von Zahlen teilen sich einen gemeinsamen Skalierungsfaktor. mxfp8 und nvfp4 sind Gleitkomma-Formate mit 8 beziehungsweise 4 Bit. Ob deine Software sie kann und ab welcher Version, musst du vorher prüfen. [7]

Bit-Werte sind gerundete Näherungen aus der llama.cpp-Dokumentation [6]. Die echte Dateigröße weicht ab, weil nicht alle Teile eines Modells gleich stark komprimiert werden.

Erklär-Simulator: welches Modell, welches Format?

Wähle ein Modell und ein Format. Dateigrößen von LFM3-1.7B stammen aus den Repositories, Bit-Werte sind Näherungen.

Gerätecheck: läuft das auf meinem Gerät?

Das ist eine Speicherschätzung, keine Messung. Du siehst, wie viel Speicher ein Modell mit Kontext ungefähr braucht und ob dein Gerät genug frei hat. Zur Geschwindigkeit geben wir bewusst keine Zahl an: Sie hängt von Chip, Software und Einstellungen ab und lässt sich seriös nur auf deinem Gerät messen.

Lokal starten

Liquid nennt Unterstützung für die Programme llama.cpp, MLX, vLLM und SGLang sowie das ONNX-Format. GGUF ist dabei das Dateiformat, das llama.cpp und Ollama lesen [1][8]. Versionen zählen: Laut den Hugging Face-Hinweisen braucht LFM3 ein aktuelles llama.cpp (ab Build b11960) und Ollama ab Version 0.40.12, je nach Plattform 0.40.13. Die NVFP4-Dateien laufen erst ab llama.cpp b12088, ältere Builds liefern laut README falsche Ausgaben. Prüfe die Version, bevor du ein Format ausprobierst.

  • LFM3-1.7B: ollama pull lfm3
    Eintrag und Tags laut Ollama-Library gelistet (Stand 07.11.2026); von uns nicht selbst ausgeführt. [7]
  • LFM3-VL-2B: ollama pull lfm3-vl
    Eintrag laut Ollama-Library gelistet (Stand 07.11.2026). Video-Eingabe ist dort laut Ollama-Eintrag noch nicht verfügbar; von uns nicht selbst ausgeführt. [9]
  • LFM3-Audio-2B: ollama pull lfm3-audio
    Laut Ollama-Library gelistet (Stand 07.11.2026); von uns nicht selbst ausgeführt. [5]
  • LFM3-Omni-2B: ollama pull lfm3-omni
    Eintrag laut Ollama-Library gelistet (Stand 07.11.2026); von uns nicht selbst ausgeführt. [11]
  • d1 (2B): ollama pull d1:2b
    Tag d1:2b laut Ollama-Library gelistet. Wichtig: d1:latest zeigt laut Ollama-Library auf das ältere 3B-Modell. d1 ist ein Entscheidungsmodell, kein Chatmodell. Von uns nicht selbst ausgeführt. Die Dateigröße steht beim jeweiligen Tag in der Library; sie ist hier nicht übernommen. [10]

Ein Eintrag in der Ollama-Library heißt nicht, dass jede Funktion (zum Beispiel Video oder Sprachausgabe) dort schon läuft. Für d1-Omni-2B geben wir hier keine Startanleitung an. Einen eigenen Test haben wir nicht durchgeführt.

Grenzen dieser Seite

  • Keine eigenen Benchmarks. Herstellerzahlen bleiben Herstellerzahlen.
  • Der Gerätecheck kennt dein Gerät nicht. Er rechnet mit Klassenwerten, die du ändern kannst.
  • Bilder, Video und Audio brauchen zusätzlichen Speicher, den die Schätzung nicht abbildet.
  • Die LFM Open License v1.0 begrenzt kommerzielle Nutzung. Lies den Lizenztext, bevor du ein Modell einsetzt.

Häufige Fragen

Welches lokale Modell läuft gut auf einem normalen Rechner?

Liquid AI baut die LFM3-Modelle für Geräte statt Rechenzentren: Das Textmodell LFM3-1.7B hat 1,73 Milliarden Parameter, seine 4-Bit-Gewichtsdatei ist laut Hersteller etwa 1 GB groß (nur die Datei). Ob es auf deinem Gerät flüssig läuft, hängt von Speicher, Chip und Software ab. Der Gerätecheck auf dieser Seite schätzt den Speicherbedarf mit offen gelegten Annahmen, er misst nichts.

Was ist LFM3?

LFM3 ist die dritte Generation der Liquid Foundation Models von Liquid AI: sechs Modelle der 2B-Klasse: Text, Bild, Audio, Omni und zwei Entscheidungsmodelle (d1 und d1-Omni), alle vom Backbone LFM3-1.7B-Base abgeleitet (Herstellerangabe).

Was bedeuten q4_K_M, q8_0 und bf16?

Es sind Speicherformate für die Gewichte eines Modells. Weniger Bits pro Gewicht heißt: kleinere Datei und weniger Speicherbedarf, aber meist etwas mehr Qualitätsverlust. bf16 ist das unkomprimierte 16-Bit-Format, q8_0 benutzt etwa 8 Bit, q4_K_M etwa 4 bis 5 Bit pro Gewicht.

Wie viel Arbeitsspeicher brauche ich?

Faustregel: Gewichte plus Kontext-Speicher (KV-Cache) plus etwas Laufzeit-Overhead, und das Betriebssystem braucht seinen Teil. Der Rechner auf dieser Seite zeigt die Rechnung und die Annahmen dahinter.

Kann ich LFM3 mit Ollama starten?

Die Ollama-Library listet lfm3, lfm3-vl, lfm3-audio, lfm3-omni und d1 (Tag d1:2b). Wir haben keinen dieser Pulls selbst ausgeführt. Ob eine bestimmte Funktion (zum Beispiel Video oder Sprachausgabe) in Ollama schon unterstützt wird, steht beim jeweiligen Modell in der Library.

Sind die Benchmarks unabhängig geprüft?

Die Zahlen auf dieser Seite stammen von Liquid AI. Wir haben sie nicht nachgemessen. Der Gerätecheck liefert keine Benchmarks und keine Tokens pro Sekunde, sondern nur eine Speicherschätzung.

Quellen

  1. Introducing LFM3: Every Modality for Specialized Intelligence · Liquid AI · abgerufen 2026-11-07
  2. Build specialized multimodal models with LFM3 · Hugging Face Blog / Liquid AI · abgerufen 2026-11-07
  3. LiquidAI/LFM3-1.7B - Modellkarte · Hugging Face / Liquid AI · abgerufen 2026-11-07
  4. LiquidAI/LFM3-Audio-2B - Modellkarte · Hugging Face / Liquid AI · abgerufen 2026-11-07
  5. lfm3-audio - Ollama Library · Ollama · abgerufen 2026-11-07
  6. llama.cpp: tools/quantize (README) · ggml-org · abgerufen 2026-11-07
  7. lfm3 Tags - Ollama Library · Ollama · abgerufen 2026-11-07
  8. LiquidAI/LFM3-1.7B-GGUF - Dateien · Hugging Face / Liquid AI · abgerufen 2026-11-07
  9. lfm3-vl - Ollama Library · Ollama · abgerufen 2026-11-07
  10. d1 - Ollama Library · Ollama · abgerufen 2026-11-07
  11. lfm3-omni - Ollama Library · Ollama · abgerufen 2026-11-07

Weiterlesen: Lokale Modelle: Wann sich der eigene Rechner lohnt · LLM-Kostenrechner · Quantisierung im Detail · Inferenz und Kosten · Glossar: Quantisierung · Glossar: KV-Cache

Stand 7. November 2026. Erstellt mit KI-Unterstützung, redaktionell verantwortet.