Qwen 3.8 27B bringt multimodale KI auf lokale Hardware
Alibaba hat Qwen 3.8 27B unter der Apache-2.0-Lizenz veröffentlicht. Das Modell verarbeitet Text und Bilder, erzeugt Code und kann externe Werkzeuge aufrufen. Mit 27 Milliarden Parametern ist es für leistungsstarke lokale Rechner ausgelegt.
Die quantisierte Variante Q4_K_M belegt rund 17 GB Speicherplatz. Bei einer Quantisierung werden Modellgewichte mit geringerer Genauigkeit gespeichert, um Platzbedarf und Rechenlast zu reduzieren. Die Dateigröße allein sagt allerdings noch nichts über den gesamten Arbeitsspeicherbedarf in einer produktiven Umgebung aus.
| Merkmal | Qwen 3.8 27B |
|---|---|
| Parameter | 27 Milliarden |
| Lizenz | Apache 2.0 |
| Q4_K_M-Dateigröße | rund 17 GB |
| Maximales Kontextfenster | 262.144 Tokens |
| Funktionen | Text, Bildanalyse, Code-Generierung und Tool-Calling |
Damit unterscheidet sich die Veröffentlichung von Modellen, bei denen der Begriff Open Source trotz fehlender Gewichte oder reiner API-Verfügbarkeit unklar bleibt. Diese Abgrenzung war bereits bei der Frage relevant, ob Qwen3.8-Max tatsächlich Open Source ist.
Die Standardeinstellung denkt zu lange nach
Qwen 3.8 27B unterstützt den Parameter reasoning_effort. Er regelt, wie viel Rechenzeit das Modell für interne Denkschritte verwendet. Verfügbar sind die Stufen xhigh, medium und low, wobei ausgerechnet xhigh voreingestellt ist.
Diese Einstellung kann selbst einfache Aufgaben unnötig aufblähen. In einem Praxistest benötigte das Modell für eine SVG-Grafik 22.276 Reasoning-Tokens und rund 21 Minuten. Mit deaktiviertem Reasoning sank die Laufzeit bei einer vergleichbaren Aufgabe auf 137 Sekunden.
| Konfiguration | Reasoning-Tokens | Generierungsdauer |
|---|---|---|
xhigh | 22.276 | 21 Minuten |
| Reasoning deaktiviert | nicht angegeben | 137 Sekunden |
Für den Einstieg ist
lowoder vollständig deaktiviertes Reasoning sinnvoller. Die maximale Denktiefe sollte komplexen Aufgaben vorbehalten bleiben.
Auch das Kontextfenster muss bewusst konfiguriert werden. LM Studio verwendet standardmäßig ein Limit von 8.192 Tokens, während Qwen 3.8 27B bis zu 262.144 Tokens unterstützt. Bei langen internen Denkprozessen kann das niedrige Standardlimit schnell ausgeschöpft sein.
Bildanalyse und Coding-Agenten
Zu den auffälligen Fähigkeiten gehört die Bounding-Box-Erkennung. Dabei liefert das Modell Koordinaten für erkannte Objekte in einem Bild. In Tests konnte es einzelne Objekte präzise lokalisieren und die Ergebnisse als strukturierte JSON-Daten ausgeben.
Qwen 3.8 27B unterstützt außerdem Tool-Calling, also den kontrollierten Aufruf externer Funktionen durch das Modell. In Verbindung mit einem Agenten-Werkzeug wie Pi ließ sich das Modell zur Code-Generierung und zum Erstellen kleiner Anwendungen einsetzen.
Damit passt die Veröffentlichung in einen breiteren Trend zu chinesischen Open-Weight-Modellen als Alternative zu geschlossenen US-Angeboten. Unabhängige Benchmarks zum direkten Vergleich mit führenden proprietären Modellen liegen für Qwen 3.8 27B bislang jedoch nicht vor.
Optimierte Laufzeit bringt 72 Prozent mehr Tempo
In LM Studio wurden auf einem M5 Max MacBook Pro und einer NVIDIA DGX Spark zwischen 15 und 30 Tokens pro Sekunde gemessen. Das ist für lokale Nutzung brauchbar, bleibt aber deutlich von hochoptimierten Cloud-Angeboten entfernt. Veröffentlichte Vergleichswerte nennen 74 Tokens pro Sekunde für OpenAI 5.6 Sol und 184 Tokens pro Sekunde für 5.6 Luna, allerdings unter nicht unmittelbar vergleichbaren Betriebsbedingungen.
Mehr Leistung war mit llama.cpp und Multi-Token Prediction möglich. Bei diesem Verfahren sagt das Modell mehrere folgende Tokens gemeinsam voraus. Der Parameter --spec-type draft-mtp steigerte die Geschwindigkeit gegenüber der Standardkonfiguration in LM Studio um rund 72 %.
| Betriebsart | Gemessene Geschwindigkeit |
|---|---|
| Qwen 3.8 27B in LM Studio | 15 bis 30 Tokens pro Sekunde |
| Qwen 3.8 27B mit MTP in llama.cpp | rund 72 % schneller als der LM-Studio-Standard |
| OpenAI 5.6 Sol, veröffentlichter Vergleichswert | 74 Tokens pro Sekunde |
| OpenAI 5.6 Luna, veröffentlichter Vergleichswert | 184 Tokens pro Sekunde |
Lokaler Betrieb reduziert externe Abhängigkeiten
Für Unternehmen im DACH-Raum liegt der wichtigste Vorteil im lokalen Betrieb. Bilddaten, Quellcode und interne Dokumente müssen nicht automatisch an einen Cloud-Anbieter in den USA oder China übertragen werden. Das erleichtert datenschutzfreundliche Architekturen, ersetzt aber weder eine rechtliche Prüfung noch technische Schutzmaßnahmen.
Unter Apache 2.0 kann Qwen 3.8 27B in eigene Anwendungen und Coding-Agenten integriert werden. Zusammen mit offenen Agenten wie Goose als Alternative zu Claude Code entstehen damit Systeme, die nicht zwingend an ein festes Software-Abo gebunden sind.
Der Preis dafür ist eigener Betriebsaufwand. Reasoning-Stufe, Kontextlimit, Quantisierung und Laufzeit müssen zur jeweiligen Aufgabe passen. Für produktive Multi-User-Szenarien fehlen bislang konkrete Hardwareangaben, und auch die Qualität bei komplexen deutschsprachigen Aufgaben ist noch offen.
Qwen 3.8 27B zeigt damit zugleich das Potenzial und die Grenze lokaler Modelle. Die Funktionen sind auf eigener Hardware verfügbar, doch eine ungeprüfte Standardkonfiguration kann die praktische Nutzbarkeit massiv verschlechtern. Wer Abos ersetzen will, spart nicht automatisch Aufwand, sondern verschiebt ihn in Betrieb und Optimierung.