Foundation Model und LLM Business Cases: Ökonomie und Strategie

Foundation Model- und LLM-Business-Cases erscheinen inzwischen in 12-15% der Technologie-Consulting-Interviews. Basierend auf unserer Analyse aktueller Case-Muster testen diese Fragen, ob Sie die Ökonomie der Entwicklung großer Sprachmodelle vom Hype trennen können — und eine Empfehlung strukturieren können, die Trainingskosten, Inferenz-Effizienz und strategische Positionierung berücksichtigt.

Was Foundation Model Cases wirklich testen

Foundation Model Cases sind keine technischen Tiefenanalysen. Sie werden nicht gebeten, Transformer-Architekturen oder Backpropagation-Algorithmen zu erklären. Stattdessen testen Interviewer drei Fähigkeiten:

Verständnis der Kostenstruktur: Können Sie die Stückkosten-Ökonomie von Training und Betrieb von Foundation Models zerlegen? Die Aufteilung zwischen Anfangskapital (Training) und laufenden Betriebskosten (Inferenz) definiert das gesamte Geschäftsmodell.

Strategisches Urteilsvermögen: Sollte dieses Unternehmen ein Foundation Model entwickeln, ein bestehendes fein abstimmen (Fine-Tuning) oder es einfach über eine API nutzen? Die Antwort hängt von Skalierung, Differenzierungsbedarf und Zeithorizont ab — nicht von technischem Ambitionsniveau.

Risikobewusstsein: Verstehen Sie die versteckten Kosten, die die meisten Foundation-Model-Projekte zum Scheitern bringen? Datenvorbereitung, Model Drift, Mitarbeiterbindung und laufendes Fine-Tuning übersteigen oft das ursprüngliche Trainingsbudget.

Das Foundation Model Economics Framework

Wenn Sie einen Foundation Model Case erhalten, strukturieren Sie Ihre Analyse anhand von vier Kostendimensionen. Dieses Framework gilt unabhängig davon, ob der Kunde ein Startup ist, das eine Modellentwicklung erwägt, oder ein Unternehmen, das Build-vs-Buy evaluiert.

flowchart TD
    A[Foundation Model Ökonomie] --> B[Trainingskosten]
    A --> C[Inferenzkosten]
    A --> D[Datenkosten]
    A --> E[Wartungskosten]
    
    B --> B1[Compute: GPU-Stunden]
    B --> B2[Infrastruktur]
    B --> B3[Talent: ML-Ingenieure]
    
    C --> C1[Kosten pro Token]
    C --> C2[Latenzanforderungen]
    C --> C3[Skalierung: Anfragen/Tag]
    
    D --> D1[Datenbeschaffung]
    D --> D2[Bereinigung & Labeling]
    D --> D3[Speicherung & Governance]
    
    E --> E1[Fine-Tuning-Zyklen]
    E --> E2[Model-Drift-Überwachung]
    E --> E3["Alignment & Sicherheit"]
    
    style A fill:#1e3a5f,color:#fff
    style B fill:#2563eb,color:#fff
    style C fill:#2563eb,color:#fff
    style D fill:#2563eb,color:#fff
    style E fill:#2563eb,color:#fff

Trainingskosten: Die Anfangsinvestition

Das Training eines Foundation Models ist kapitalintensiv. Basierend auf öffentlich zugänglichen Zahlen und unserer Case-Analyse kostet ein Modell in der Größenordnung von GPT-3 (175 Mrd. Parameter) allein 4-12 Millionen US-Dollar an Compute. Größere Modelle skalieren überlinear — eine Verdoppelung der Parameter mehr als verdoppelt in der Regel die Trainingskosten.

Wesentliche Komponenten:

1. Compute: GPU-Cluster, die wochen- oder monatelang laufen. Ein Modell mit 175 Mrd. Parametern benötigt etwa 3,14 × 10²³ FLOPS. Bei aktuellen Cloud-Preisen entspricht das 4-8 Mio. US-Dollar an reinem Compute.
2. Infrastruktur: Speicherung, Netzwerk, Orchestrierung. Rechnen Sie mit 20-30% zusätzlich zu den Compute-Kosten.
3. Talent: ML-Ingenieure, Research Scientists, Infrastruktur-Spezialisten. Für ein Foundation-Model-Projekt sind 8-15 Vollzeit-Ingenieure über 6-12 Monate zu erwarten. Bei vollständig beladenen Kosten von 200-300 Tsd. US-Dollar ergibt das 1,6-4,5 Mio. US-Dollar an Personalkosten.
4. Fehlgeschlagene Experimente: Nicht jeder Trainingslauf ist erfolgreich. Budgetieren Sie 2-3 größere Iterationen, bevor Ergebnisse in Produktionsqualität erreicht werden.

Gesamte Trainingskosten für ein mittelgroßes Foundation Model: 8-20 Mio. US-Dollar.

Inferenzkosten: Die laufende Belastung

Training ist eine einmalige Kostenposition. Inferenz — die Bereitstellung von Vorhersagen für Nutzer — ist laufend und skaliert mit der Nutzung. Bei Foundation Models bestimmen die Inferenzkosten pro Token die Stückkosten-Ökonomie.

Aktuelle Marktbenchmarks:

Das Inferenz-Dilemma: Bei 1 Million täglichen Nutzern, die jeweils 50 Tokens generieren, kostet ein 70-Mrd.-Modell 120-180 US-Dollar pro Tag (43-65 Tsd. US-Dollar jährlich) allein an Inferenz. Bei einer Skalierung auf 10 Millionen Nutzer erreichen die jährlichen Inferenzkosten 430-650 Tsd. US-Dollar.

Deshalb sind viele Startups, die zunächst eigene Modelle entwickelt hatten, zu API-basierter Nutzung übergegangen. Der Umschlagpunkt, an dem Self-Hosting günstiger wird als die API-Nutzung, liegt typischerweise bei 500 Mio.-1 Mrd. Tokens pro Monat — was eine anhaltend hohe Nutzung voraussetzt.

Datenkosten: Der versteckte Multiplikator

Foundation Models sind datenhungrig. Das Training eines wettbewerbsfähigen LLM erfordert hunderte Milliarden bis Billionen von Text-Tokens. Zu den Datenkosten gehören:

1. Beschaffung: Web-Scraping-Infrastruktur, Lizenzvereinbarungen für hochwertige Korpora. Budgetieren Sie 500 Tsd.-2 Mio. US-Dollar für einen umfassenden Datensatz.
2. Bereinigung und Filterung: Entfernen von Duplikaten, Filtern schädlicher Inhalte, Sicherstellung der Qualität. Dies ist arbeitsintensiv — rechnen Sie mit 3-6 Monaten Data-Engineering-Arbeit.
3. Labeling: Für Instruction-Tuning oder RLHF (Reinforcement Learning from Human Feedback) benötigen Sie gelabelte Beispiele. Bei 5-20 US-Dollar pro gelabeltem Beispiel und einem Bedarf von 50-100 Tsd. Beispielen sind das 250 Tsd.-2 Mio. US-Dollar.
4. Speicherung und Governance: Speicherung im Petabyte-Maßstab, Versionskontrolle, Compliance. Laufende Kosten von 50-200 Tsd. US-Dollar jährlich.

Nach unserer Erfahrung bei der Analyse von Technologie-Cases unterschätzen Unternehmen Datenkosten durchweg um das 3-5-Fache.

Wartung: Die permanente Belastung

Foundation Models sind nicht “einmal trainieren, für immer nutzen”. Sie erfordern laufende Wartung:

• Fine-Tuning-Zyklen: Da sich Nutzerbedürfnisse weiterentwickeln und neue Daten verfügbar werden, müssen Modelle neu trainiert werden. Rechnen Sie mit quartalsweisem Fine-Tuning zu 10-20% der ursprünglichen Trainingskosten.
• Model-Drift-Überwachung: Die Leistung verschlechtert sich mit der Zeit, da sich Sprache weiterentwickelt. Überwachung und Gegenmaßnahmen kosten 100-300 Tsd. US-Dollar jährlich.
• Alignment und Sicherheit: Red Teaming, Bias-Testing, Sicherheits-Guardrails. Ein dediziertes Team von 2-4 Personen kostet 400 Tsd.-1,2 Mio. US-Dollar jährlich.

Gesamte jährliche Wartungskosten: 1-3 Mio. US-Dollar für ein produktives Foundation Model.

Die Build-vs-Buy-vs-Fine-Tune-Entscheidung

Die zentrale Frage in den meisten Foundation Model Cases: Sollte der Kunde ein Modell entwickeln (Build), über eine API nutzen (Buy) oder ein bestehendes Modell fein abstimmen (Fine-Tune)?

flowchart TD
    A{Foundation-Model-Entscheidung} --> B{Strategische Differenzierung?}
    
    B -->|Core IP| C{"Skalierung: >1 Mrd. Tokens/Monat?"}
    B -->|Nicht Core| D[Buy: API]
    
    C -->|Ja| E{"Kapital: 20 Mio. $+ verfügbar?"}
    C -->|Nein| F[Fine-Tuning eines bestehenden Modells]
    
    E -->|Ja| G[Build: Eigenentwicklung]
    E -->|Nein| F
    
    D --> D1[Nutzung von OpenAI, Anthropic, etc.]
    F --> F1[Start mit Llama, Mistral, etc.]
    G --> G1[Vollständiges Training von Grund auf]
    
    style A fill:#1e3a5f,color:#fff
    style B fill:#2563eb,color:#fff
    style C fill:#2563eb,color:#fff
    style E fill:#2563eb,color:#fff

Wann man selbst bauen sollte

Ein Foundation Model von Grund auf zu entwickeln, ergibt nur Sinn, wenn alle drei Bedingungen zutreffen:

1. Strategische Differenzierung: Die Modellarchitektur oder der Trainingsansatz ist Kern-IP, die einen dauerhaften Wettbewerbsvorteil schafft.
2. Skalierung: Die Nutzung übersteigt 1 Mrd. Tokens/Monat, wodurch Self-Hosting über 12-18 Monate günstiger ist als eine API.
3. Kapitalverfügbarkeit: 20-50 Mio. $ Budget für die initiale Entwicklung plus 2-3 Jahre finanzieller Spielraum für Iteration und Wartung.

Beispiel: Ein Unternehmen, das ein KI-nativen Produkt entwickelt, bei dem das Modellverhalten die Nutzererfahrung bestimmt, mit 10 Mio.+ täglich aktiven Nutzern und 100 Mio.+ $ an Finanzierung. Man denke an Jasper, Character.AI oder spezialisierte vertikale KI-Anwendungen.

Wann man kaufen sollte (API)

Die API-Nutzung ist optimal, wenn:

• Die Nutzung unter 500 Mio. Tokens/Monat liegt
• Modellqualität wichtiger ist als Kosten pro Token
• Die Markteinführungsgeschwindigkeit entscheidend ist (Launch in Wochen, nicht Jahren)
• Dem Unternehmen ML-Infrastruktur-Expertise fehlt

Wirtschaftlicher Break-even-Punkt: Für die meisten Anwendungsfälle ist die API günstiger als Self-Hosting, bis man 500 Mio.-1 Mrd. Tokens/Monat erreicht. Bei aktuellen Preisen kosten 500 Mio. Tokens/Monat über die API 12-30k $, erfordern aber 15-25k $/Monat an Infrastruktur für Self-Hosting (zuzüglich der initialen Trainingskosten).

Wann man Fine-Tuning betreiben sollte

Fine-Tuning bietet den Mittelweg:

• Start mit einem Open-Source-Foundation-Model (Llama 3, Mistral, etc.)
• Fine-Tuning mit proprietären Daten zur Verbesserung der domänenspezifischen Leistung
• Deployment auf eigener Infrastruktur oder über Fine-Tuning-APIs

Kostenstruktur: Das Fine-Tuning eines 70B-Modells kostet 50-150k $ (10-20x weniger als das Training von Grund auf). Man gewinnt Anpassungsfähigkeit ohne die volle Kapitalbelastung. Dieser Ansatz funktioniert, wenn die Differenzierung aus spezialisierten Daten und nicht aus einer neuartigen Architektur stammt.

Kompromiss: Man ist von den Einschränkungen und der Architektur des Basismodells abhängig. Wenn das Basismodell bei logischem Schlussfolgern schwach ist oder grundlegende Fähigkeitslücken aufweist, kann Fine-Tuning dies nicht vollständig ausgleichen.

Analyse einer Foundation-Model-Investition: Das ROI-Framework

Bei der Bewertung, ob ein Kunde in die Entwicklung eines Foundation Models investieren sollte, strukturieren Sie Ihre ROI-Analyse wie folgt:

Umsatzseite: Das Modell muss entweder:

1. Ein neues Produkt ermöglichen, das ausreichend Umsatz generiert, um einen Jahresverbrauch von 10 Mio.+ $ zu decken
2. Kosten an anderer Stelle senken, und zwar um mehr als die Betriebskosten des Modells (z. B. durch Ersetzen menschlicher Arbeitskraft)
3. Konversion oder Kundenbindung ausreichend verbessern, um die Investition zu rechtfertigen (erfordert einen sehr hohen LTV pro Nutzer)

Break-even-Analyse: Wenn das Modell die Konversion eines Geschäfts mit 50 Mio. $ ARR um 2 % verbessert, entspricht das einem Nutzen von 1 Mio. $/Jahr — unzureichend, um eine Investition von 10 Mio.+ $ zu rechtfertigen. Man benötigt entweder eine Wirkung von 10 %+ oder eine deutlich größere Umsatzbasis.

Häufige Fallstricke bei Foundation-Model-Cases

Basierend auf unserer Analyse von über 800 Technologie-Cases machen Kandidaten folgende Fehler:

1. Unterschätzung der Inferenzkosten: Fokussierung ausschließlich auf die Trainingskosten, während die laufenden Pro-Token-Ausgaben ignoriert werden, die die langfristige Wirtschaftlichkeit dominieren.
2. Ignorieren der Datenkosten: Die Annahme, Trainingsdaten seien “kostenlos”, obwohl sie oft 20-40 % der Gesamtprojektkosten ausmachen.
3. Verwechslung von Parametern mit Leistungsfähigkeit: Mehr Parameter bedeuten nicht immer eine bessere Leistung. Ein gut fine-getuntes 7B-Modell kann ein generisches 70B-Modell bei spezifischen Aufgaben übertreffen.
4. Übersehen der Wartung: Das Modelltraining als einmaliges Ereignis behandeln statt als kontinuierlichen Prozess.
5. Empfehlung von “Selbst bauen” ohne Skalierungsrechtfertigung: Selbst bauen ergibt nur bei sehr hohen Nutzungsvolumina Sinn. Die meisten Unternehmen sollten kaufen oder Fine-Tuning betreiben.

Wichtige Erkenntnisse

• Die Wirtschaftlichkeit von Foundation Models gliedert sich in vier Kostenblöcke: Training (einmalig, 8-20 Mio. $), Inferenz (laufend, skaliert mit der Nutzung), Daten (1-5 Mio. $) und Wartung (1-3 Mio. $ jährlich)
• Die Inferenzkosten pro Token bestimmen die langfristige Unit Economics — der häufigste Fehler ist die Unterschätzung dieser laufenden Ausgabe
• Selbst bauen nur, wenn alle drei Bedingungen zutreffen: strategische Differenzierung, Skalierung (>1 Mrd. Tokens/Monat) und Kapital (20 Mio.+ $ verfügbar)
• Fine-Tuning bietet eine 10-20-fache Kostenreduktion gegenüber dem Training von Grund auf und funktioniert, wenn die Differenzierung aus proprietären Daten statt aus der Architektur stammt
• API-Nutzung ist optimal, bis man 500 Mio.-1 Mrd. Tokens/Monat erreicht — der Wendepunkt, an dem Self-Hosting günstiger wird
• Die Datenkosten werden durchweg um das 3-5-fache unterschätzt — man sollte Beschaffung, Bereinigung, Labeling und laufende Governance einplanen
• Die ROI-Analyse muss mehrjährige Betriebskosten berücksichtigen, nicht nur die initiale Trainingsinvestition

Bereit, diese Frameworks anzuwenden? Entdecken Sie KI- und Emerging-Tech-Cases für einen breiteren KI-Strategiekontext, Technologiebranche-Cases in unserer Case-Bibliothek, oder üben Sie mit einem KI-Mock-Interview, um Ihre Analysefähigkeiten für Foundation Models in Echtzeit zu testen.

Die Landschaft des KI-Case-Coachings entwickelt sich weiter — sehen Sie, wie Plattformen wie CasesCoach die Wirtschaftlichkeit von Foundation Models in interaktive Übungssitzungen integrieren. Unser Guided Mode hilft Ihnen, komplexe Technologie-Cases mit Echtzeit-Hinweisen zu strukturieren, der Expert Mode simuliert den Druck der Analyse von Investitionsentscheidungen über 20 Mio.+ $, und mit Chat with Case können Sie LLM-Geschäftsmodelle anhand von über 835 realen Technologie-Cases erkunden. Starten Sie mit 3 kostenlosen vollständigen Cases, um Ihre KI-Strategie-Intuition aufzubauen, und upgraden Sie dann auf Pro, um die vollständige Bibliothek und unbegrenzte KI-Mock-Interview-Sitzungen für eine umfassende Vorbereitung freizuschalten.