KI-ROI-Landkarte: Wo sich KI-Investitionen rechnen
Dr. Oliver Gausmann · 30. März 2026 · 10 Min.
Executive Summary
Der deutsche Mittelstand hat seine KI-Investitionen 2025 auf 0,35 Prozent des Umsatzes gesenkt, während der Gesamtmarkt auf 0,50 Prozent gestiegen ist [1]. 81 Prozent der KMU messen den KI-ROI nicht systematisch [2]. Unternehmen mit drei oder mehr KI-Anwendungen in Produktion erreichen 160 Prozent ROI, Einzelprojekte landen bei 40 Prozent [3]. Die KI-ROI-Landkarte für den Mittelstand sortiert Investitionen nach Breakeven-Geschwindigkeit und Vorhersagbarkeit und benennt vier Faktoren, die über den Erfolg entscheiden.
Die Frage, die jeder Geschäftsführer stellt
Frau Kettner (Name geändert) leitet einen familiengeführten Fleischverarbeiter im Emsland. 190 Mitarbeiter, Räucherwaren und regionale Wurstsortimente, Belieferung von Lebensmitteleinzelhandel und Fachgroßhandel, 32 Millionen Umsatz. Als ein Kollege aus unserem Team letzte Woche bei ihr saß, legte sie zwei Ausdrucke auf den Tisch. Links eine Kalkulation ihres Controllers: KI-Lizenzen, Beratungskosten, Schulung, Gesamtinvestition 95.000 Euro. Rechts eine Schätzung ihres Vertriebsleiters: Zeitersparnis, weniger Retouren, bessere Angebotserstellung, geschätzte Einsparung 110.000 Euro im Jahr.
Ihre Frage: „Wer hat Recht?"
Beide. Und genau das ist das Problem. Der Controller hat Recht, weil KI-Investitionen real sind und sofort anfallen. Der Vertriebsleiter hat Recht, weil die Einsparungen real sind, aber zeitversetzt kommen. Solange beide keine gemeinsame Formel haben, reden sie aneinander vorbei.
Wir haben aus zwölf aktuellen Studien und den Erfahrungen der letzten Monate eine Landkarte abgeleitet, die genau diese Lücke schließt. Sie sortiert KI-Investitionen im Mittelstand nach zwei Achsen: Wie schnell kommt der Return? Und wie vorhersagbar ist er?
Die KI-ROI-Formel für den Mittelstand
Bevor Sie die Landkarte lesen, brauchen Sie eine Rechengrundlage. Die folgende Formel ist keine Wissenschaft, sondern eine Servietten-Rechnung, die wir bei Convios mit Geschäftsführern durchgehen. Sie passt auf eine halbe DIN-A4-Seite und Ihr Aufsichtsrat versteht sie beim ersten Lesen.
Was bei Frau Kettner herauskam, als wir die Formel mit ihren Zahlen gefüllt haben:
Diese Rechnung funktioniert, weil Rechnungsverarbeitung repetitiv ist, einen klaren Input und Output hat und wenig menschliches Urteil erfordert. Thomson Reuters beziffert den First-Year-Return für Dokumentenautomatisierung auf 200 bis 400 Prozent [3]. Frau Kettners Zahlen liegen im unteren Bereich dieses Korridors, weil ihr Unternehmen kleiner ist. Die Formel bleibt dieselbe.
Die KI-ROI-Landkarte: Wo liegt Ihr Use Case?
Nicht jede KI-Investition rechnet sich so schnell. Die Landkarte zeigt drei Zonen mit sehr unterschiedlichen Rendite-Profilen.
| Grüne Zone: 2 bis 4 Monate | Gelbe Zone: 6 bis 12 Monate | Rote Zone: 2 bis 4 Jahre | |
|---|---|---|---|
| Was KI hier tut | Sortiert, klassifiziert, extrahiert | Erkennt Muster, sagt Ausfälle vorher | Recherchiert, bewertet, empfiehlt |
| Konkrete Aufgaben | Rechnungen, E-Mails, Verträge, Lieferscheine | Qualitätsprüfung, Maschinenwartung, Kundentickets | Wissensmanagement, Entscheidungshilfe, Prozessumbau |
| First-Year ROI | 200 bis 400% [3] | 80 bis 160% | Oft negativ, ab Jahr 2 bis 3 positiv |
| Was Sie brauchen | Strukturierte Dokumente, SaaS-Tool, 1 bis 2 Wochen | Betriebs- und Maschinendaten, Pilot 4 bis 8 Wochen, Schulung | Implizites Wissen, Change Management, 6 bis 12 Monate |
| Wenn es scheitert | Wenig verloren (5.000 bis 30.000 EUR) | Dateninfrastruktur-Kosten bleiben | Hoher Invest, langer Zeitraum, schwer rückgängig |
| Wo es funktioniert | Jede Branche mit Verwaltung | Fertigung, Maschinenbau, Handel | Beratung, Medizintechnik, Finanzen |
Ein Maschinenbauer hat mit Computer Vision seine Fehlerquote um 42 Prozent gesenkt [2]. Das ist gelbe Zone: 6 bis 12 Monate bis zum Breakeven, weil die Kameras installiert, die Bilder gelabelt und das System trainiert werden mussten. Ein anderer Hersteller reduzierte mit Predictive Maintenance seinen Ausschuss um 30 Prozent [4]. Auch gelbe Zone, selbes Muster. Was beide gemeinsam haben: Sie brauchten unternehmensspezifische Daten. Ohne Sensoren an den Maschinen und ohne bereinigtes Datenmaterial funktioniert Predictive Maintenance nicht.
Die rote Zone beginnt beim Wissensmanagement. Thomson Reuters sieht 300 bis 500 Prozent ROI über drei Jahre [3]. Das klingt verlockend. Die ehrliche Zahl dahinter: Nur 6 Prozent aller KI-Projekte erreichen den Payback in unter einem Jahr [6]. Der typische Zeitraum liegt bei zwei bis vier Jahren, drei- bis viermal länger als bei normalen IT-Investitionen. Wer in der roten Zone anfängt, braucht einen langen Atem und einen Aufsichtsrat, der das mitträgt.
Was passiert, wenn Sie nicht investieren?
Der CIO eines Automobilzulieferers, 310 Mitarbeiter, hat unserem Team drei KI-Prototypen gezeigt. Alle drei funktionierten technisch. Keiner war in den Produktivbetrieb gegangen. „Wir haben die Technologie", sagte er. „Was uns fehlt, ist der Weg danach."
95 Prozent der generativen KI-Piloten scheitern [7]. Die IBM CEO Study bestätigt: 25 Prozent der KI-Initiativen liefern den erwarteten ROI, 16 Prozent werden skaliert [8]. Die Ursache ist keine Technik. Es sind Kultur, fehlende Governance, isolierte Workflows und mangelnde Datenstrategie [8].
Beim Automobilzulieferer sah das so aus: Einen Prototypen hatte die Fachabteilung per Vibe Coding in zwei Tagen gebaut, für unter 500 Euro. Das Ergebnis war brauchbar. Was fehlte, war die Antwort auf drei Fragen, die beim Übergang vom Pilot in den Echtbetrieb regelmäßig scheitern: Wer pflegt das System, wenn der begeisterte Entwickler im Urlaub ist? Wer prüft, ob die KI eine Rechnung richtig klassifiziert hat? Und wer trägt die Haftung, wenn nicht?
Ein Prototyp ist kein Produkt. Vibe Coding drückt die Kosten für einen Proof of Concept unter 1.000 Euro. Aber der Übergang in den Produktivbetrieb braucht Architektur, Sicherheit und eine klare Trennung zwischen Green Zone (KI arbeitet eigenständig) und Red Zone (ein Mensch prüft jedes Ergebnis) [9].
Die unbequeme Rechnung, die der CIO des Automobilzulieferers nicht aufgemacht hatte: Sein Wettbewerber, zwei Orte weiter, hatte die Rechnungsverarbeitung bereits automatisiert. 65.000 Euro Einsparung im ersten Jahr (Schätzung). Im dritten Jahr sind das 195.000 Euro Vorsprung, und zwei Mitarbeiter, die der Wettbewerber in die Angebotskalkulation verschoben hat. Der Rückstand wächst mit jedem Quartal, in dem niemand eine Entscheidung trifft.
Warum die Organisation über den ROI entscheidet
BCG hat 2.000 Führungskräfte befragt. Ein Ergebnis sticht heraus: Unternehmen, deren Geschäftsführung sich persönlich und substanziell mit KI beschäftigt, sind 12-mal wahrscheinlicher in den Top 5 Prozent der KI-Gewinner [10]. Zwölfmal. Bei einem Automobilzulieferer mit 310 Mitarbeitern bedeutet das konkret: Es reicht nicht, wenn der IT-Leiter ein Budget bekommt und drei Prototypen baut. Jemand in der Geschäftsführung muss sagen: „Dieses Projekt geht am 1. Juli in den Produktivbetrieb. Ich trage die Verantwortung."
Futurum hat 820 Unternehmen befragt: Firmen auf der höchsten KI-Reifestufe haben dreimal häufiger einen Chief AI Officer als primären KI-Entscheider (29,4 Prozent gegenüber 11,5 Prozent) [11]. Für einen Mittelständler mit 200 Mitarbeitern ist ein Vollzeit-CAIO unrealistisch. Was sich übertragen lässt: Eine Person in der Geschäftsführung, die KI-Verantwortung mit eigenem Budget und eigenen KPIs trägt. Keine Zusatzaufgabe für den IT-Leiter.
Der zweite Hebel überrascht viele: Der höchste ROI entsteht oft gar nicht in Vertrieb und Marketing, sondern in der Back-Office-Automatisierung [12]. BPO-Verträge kündigen. Agenturgebühren reduzieren. Externe Beraterhonorare durch interne KI-Fähigkeiten ersetzen. Hier sitzen die stillen Einsparungen, die auf der GuV sichtbar werden, ohne dass die Belegschaft Angst bekommt.
Den dritten Faktor unterschätzen die meisten. Tran (2026) hat in einer Studie untersucht, warum manche KI-Projekte funktionieren und andere Geld verbrennen [14]. Die Antwort: Governance-Fähigkeit ist die Voraussetzung, nicht das Ergebnis. Wer ein Framework an die Wand hängt, aber keine operativen Regeln daraus ableitet (wer prüft was, wer entscheidet was, wer haftet wofür), bekommt keinen ROI. PwC bestätigt: 60 Prozent der Befragten sagen, dass Responsible AI den ROI verbessert [15]. Governance ist das, was den Prototyp des IT-Leiters produktionsreif macht.
Das Jevons-Paradoxon in Ihrer KI-Budgetplanung
Eine Zahl hat uns bei Convios stutzig gemacht, als wir die Budgets mehrerer Mandanten verglichen haben. Die Kosten pro KI-Anfrage sind seit 2023 um rund 92 Prozent gefallen. Das klingt nach sinkenden Gesamtkosten. Gleichzeitig sind die Gesamtausgaben für KI-Inference um rund 320 Prozent gestiegen [13].
William Stanley Jevons hat dieses Muster 1865 bei Kohle beschrieben: Effizientere Dampfmaschinen senkten den Kohlepreis pro Einheit, aber der Gesamtverbrauch stieg, weil plötzlich viel mehr Anwendungen wirtschaftlich waren. Bei KI passiert dasselbe. Fallende Token-Preise machen Anwendungen möglich, die vor einem Jahr noch zu teuer waren: längere Reasoning-Ketten, Multi-Agent-Workflows, ständig laufende Hintergrundanalysen.
Für Ihre Budgetplanung heißt das: Planen Sie nicht mit sinkenden Kosten. Planen Sie mit steigenden Kosten bei sinkendem Preis pro Einheit. Die FinOps-Disziplin, die im Cloud Computing die Budgetexplosion eingedämmt hat, wird für KI genauso notwendig. Ein KI-Budget ohne monatliches Monitoring ist wie ein Cloud-Budget ohne Kostenwarnungen: Es läuft weg.
Unsere Einordnung
Fast jeder Geschäftsführer, mit dem wir bei Convios sprechen, sagt uns eine Variante desselben Satzes: „Wir wissen, dass wir etwas tun müssen. Wir wissen nur nicht, wo."
Die Landkarte gibt eine Antwort. Starten Sie in der grünen Zone. Rechnungsverarbeitung, E-Mail-Klassifikation, Dokumentensortierung. Hier liegt der schnellste ROI, das geringste Risiko und der klarste Lerneffekt. Ein Pilot mit Vibe Coding kostet unter 1.000 Euro und dauert eine Woche. Wenn er funktioniert: Architektur, Governance und Schulung planen, in den Produktivbetrieb bringen. Wenn er nicht funktioniert: nächster Pilot. Diese Iteration kostet weniger als ein einziger Beratertag.
Was wir dabei immer wieder sehen: Der entscheidende Moment ist keiner der Technologie. Es ist der Moment, in dem jemand in der Geschäftsführung sagt: „Ich übernehme die Verantwortung für dieses Projekt." Neulich hat ein Kollege das in einem Gespräch mit dem CIO eines Maschinenbauers so zusammengefasst: Die teuerste KI-Entscheidung ist die, die niemand trifft.
Die Red Queen Hypothese aus der Evolutionsbiologie beschreibt Ihre Situation: Sie müssen laufen, um auf der Stelle zu bleiben. Ihre Wettbewerber investieren 0,50 Prozent des Umsatzes in KI [1]. Sie investieren 0,35 Prozent. Drei Jahre mit diesem Abstand ergeben 450.000 Euro Investitionslücke bei einem 100-Millionen-Euro-Unternehmen. Können Sie sich diese Lücke leisten?
Wie die 25 KI-Begriffe hinter der Landkarte zusammenhängen, zeigt der KI-Vokabular-Artikel für Geschäftsführer. Welche Frameworks Ihnen den Einstieg strukturieren, beschreibt der KI-Frameworks-Artikel für den Mittelstand.