Die passende Hardware für lokale KI bestimmt eine einzige Kennzahl: der Grafikspeicher (VRAM) beziehungsweise der gemeinsame Speicher bei Apple Silicon. Er entscheidet, welche Modellgröße Sie betreiben können. Alles Weitere: Preise, Optionen, Fallstricke. Ordnet diese Kaufberatung ein. Alle Preisangaben stammen aus aktuellen Marktdaten, Stand siehe unten.
Fakten geprüft, Stand: August 2026
Modelle werden fast immer quantisiert betrieben (Q4), das spart rund zwei Drittel Speicher gegenüber der Vollversion. Die folgenden Richtwerte gelten für Q4-Quantisierung inklusive Reserve für Kontext und Zwischenspeicher:
| Modellklasse | VRAM-Bedarf (Q4) | Praxis-Einordnung |
|---|---|---|
| 8B | ca. 5 bis 8 GB | Läuft komfortabel auf 8 bis 12-GB-Karten und jedem aktuellen Mac |
| 13B | ca. 8 bis 10 GB | 12 GB VRAM sind die entspannte Unterkante |
| 32B | ca. 18 bis 22 GB | Passt auf eine RTX 4090 (24 GB). Die Grenze für Consumer-Karten |
| 70B | ca. 40 bis 48 GB | Erfordert Profi-Hardware mit 48 GB oder mehr |
Der Mac Studio mit M4 Max ist die unkomplizierteste Einstiegsoption: leise, kompakt, ohne Treiber-Aufwand. Apple listet das Modell ab 2.499 US-Dollar; in Deutschland liegen die Preise je nach Konfiguration bei etwa 2.900 bis 5.000 Euro. Der gemeinsame Speicher (Unified Memory) reicht von 36 GB in der Basis bis 64 GB beim M4 Max, die Ultra-Variante bietet laut Apple bis zu 96 GB.
Damit eignet sich der Mac Studio hervorragend für Modelle bis etwa 13B und bedingt für 32B. Für 70B-Modelle stößt er an Speichergrenzen. Ideal für: kleine Teams, Büros ohne Serverraum, Dienstleister mit dokumentenlastigen Aufgaben.
Eine Workstation mit RTX 4090 (24 GB VRAM) kostet neu grob 2.100 bis 3.400 US-Dollar, die neuere RTX 5090 (32 GB VRAM) etwa 2.950 bis 4.500 US-Dollar, die Straßenpreise schwanken mit der Verfügbarkeit. Damit betreiben Sie Modelle bis 32B flüssig.
Wichtige Grenze: 70B-Modelle in Q4 passen nicht sauber auf eine einzelne 24- oder 32-GB-Karte. Dafür braucht es Multi-GPU-Setups oder Server-Hardware. Ideal für: technikaffine Unternehmen, die aufrüsten und selbst warten wollen.
Für große Modelle und viele gleichzeitige Nutzer ist die Serverklasse die richtige Wahl: Eine NVIDIA L40S bietet 48 GB VRAM, eine H100 80 GB. Beim Kauf reden wir über deutlich fünfstellige Beträge. Deshalb ist Miete oft wirtschaftlicher: L40S-Instanzen liegen bei etwa 0,79 bis 2,24 US-Dollar pro GPU-Stunde, H100-Instanzen bei rund 2,70 bis 3,20 US-Dollar (Marktmedian, einzelne Anbieter abweichend).
Achtung bei der Miete: Für DSGVO-sensible Daten kommen nur Anbieter mit Servern in der EU und Auftragsverarbeitungsvertrag infrage, oder eben der eigene Server im Haus. Ideal für: Unternehmen mit vielen Nutzern, hohen Qualitätsanforderungen oder 70B-Pflicht.
Der Anschaffungspreis ist nur die halbe Rechnung. Eine Workstation mit High-End-GPU zieht unter Last 400 bis 600 Watt, bei Dauerbetrieb spürbar in der Stromrechnung. Server brauchen zudem Kühlung, Platz und Wartung. In die Betriebskosten gehören außerdem Modell-Updates, Backups und Monitoring. Wer das nicht leisten will, fährt mit einem betreuten System langfristig günstiger.
Nein. Ein 70B-Modell in Q4-Quantisierung benötigt rund 40 bis 48 GB Grafikspeicher. Die RTX 4090 hat 24 GB, die RTX 5090 hat 32 GB. Für 70B brauchen Sie eine Karte mit 48 GB oder mehr (z. B. L40S) oder einen Mac mit entsprechend viel Unified Memory.
Beides funktioniert. Der Mac Studio ist leiser, einfacher und stromsparender; die PC-Workstation bietet mehr Aufrüstoptionen und bessere Software-Kompatibilität für Spezialfälle. Für die meisten Büros ist der Mac der pragmatischste Einstieg.
Null Euro, wenn Ihre Rechner 16 GB RAM haben. Kleine Modelle laufen darauf bereits. Ein dedizierter Mac Studio beginnt bei rund 2.900 Euro in Deutschland. Die teuerste Option ist selten die richtige: Entscheidend ist die Modellklasse, die Sie tatsächlich brauchen.
Bei Workstations ja, mit Einschränkungen: Gebrauchte RTX-4090-Karten sind deutlich günstiger, aber ohne Garantie und mit unbekannter Laufhistorie. Für den Produktivbetrieb empfehlen wir neue oder gewartete Hardware mit Gewährleistung.
Ein Mac Studio bleibt typischerweise unter 150 Watt, eine RTX-Workstation zieht unter Last 400 bis 600 Watt, ein Server deutlich mehr. Bei einem Strompreis von 30 Cent pro Kilowattstunde macht das im Dauerbetrieb einen spürbaren, aber planbaren Posten.
Sieben kurze Fragen – und Sie erhalten eine ehrliche Einschätzung, welcher Einstieg zu Ihrem Unternehmen passt. Unverbindlich und kostenlos.
