Du weißt, dass du KI nutzen solltest. Die Frage ist nur: Wo fängst du an?
KI im Unternehmen einführen klingt nach einem Großprojekt mit IT-Abteilung, sechs Monaten Vorlauf und einem Budget, das ein Fünf-Personen-Betrieb nie hat. Genau diese Vorstellung ist das Problem.
Laut Bitkom setzen inzwischen 41 Prozent der deutschen Unternehmen KI aktiv ein. Ein Jahr zuvor waren es erst 17 Prozent. Die Technik ist also längst im Mittelstand angekommen. Trotzdem stehen gerade kleine Teams oft still. Nicht weil das Tool fehlt. Sondern weil niemand einen Plan hat, mit welchem Schritt man anfängt.
Dieser Artikel ist dieser Plan. Ein Fahrplan in sechs Schritten, gedacht für Teams von zwei bis zwanzig Leuten, mit konkreten Anwendungsfällen, echten Kosten, den rechtlichen Pflichten und einer KI-Richtlinie zum Kopieren.
Warum kleine Teams KI anders einführen als Konzerne
Die meisten Leitfäden zur KI-Einführung sind für Konzerne geschrieben. Da geht es um Transformationsprozesse, Change-Management-Strategien, KI-Governance-Boards und den ganzen Konzern-Krams. Für ein kleines Team ist das, als würdest du eine Bauanleitung für ein Hochhaus lesen, wenn du eigentlich nur einen Fahrradschuppen brauchst.
Kleine Teams haben einen echten Vorteil: Es gibt keine Abteilungssilos, keine sechs Freigabe-Ebenen und keine Abstimmungsrunden über Wochen. Wenn du als Inhaber heute entscheidest, KI auszuprobieren, kann dein Team morgen anfangen.
Der Nachteil: Niemand hat Zeit für ein Monsterprojekt. Du brauchst etwas, das nebenbei läuft und nach ein paar Wochen ein sichtbares Ergebnis bringt. Genau darauf ist dieser Fahrplan ausgelegt.
Und du brauchst keine eigene KI zu bauen. Für kleine Teams schlägt ein fertiges Werkzeug fast immer die selbstgebaute Lösung. ChatGPT, Claude oder Microsoft Copilot kosten ein paar Euro pro Person und Monat und lösen 90 Prozent der typischen Aufgaben sofort.
# Neuer Artikel? Du erfährst es als Erstes.
# Kein Spam. Ein kurzes Mail, wenn etwas erscheint.
Der Fahrplan: KI im Unternehmen einführen in 6 Schritten
Die etablierten Frameworks von Mittelstand-Digital, der IHK und diversen Beratungen klingen unterschiedlich, sagen aber im Kern dasselbe. Hier ist die destillierte Version für kleine Teams.
Schritt 1: Den größten Zeitfresser finden, nicht das Tool
Das ist der wichtigste Schritt und der, den die meisten überspringen. Sie kaufen erst ein Tool und suchen dann nach einem Einsatzzweck. Das ist die Reihenfolge, an der KI-Projekte scheitern.
Mach es umgekehrt. Frag dich: Welche Aufgabe frisst jede Woche am meisten Zeit, wiederholt sich ständig und braucht keinen kreativen Geniestreich? Das ist dein erster Anwendungsfall.
Typische Kandidaten: E-Mails beantworten, Angebote aus Vorlagen schreiben, Meeting-Protokolle, Social-Media-Posts, Rechnungen erfassen. Such dir genau einen aus. Den mit dem klarsten, langweiligsten Ablauf.
Setz dir dabei ein messbares Ziel. Nicht "wir wollen effizienter werden", sondern "die Bearbeitungszeit für Kundenanfragen soll in drei Monaten um 30 Prozent sinken". Ohne Zahl weißt du am Ende nicht, ob es funktioniert hat.
Schritt 2: Datencheck, die häufigste Bruchstelle
Bevor du loslegst, ein kurzer Blick auf deine Daten. Wenn dein Anwendungsfall auf interne Informationen zugreift, etwa eine KI, die Kundenanfragen aus deinem Handbuch beantwortet, dann steht und fällt alles mit der Qualität dieser Daten.
Hier scheitern überraschend viele. Laut der KI-Studie 2025 von Maximal Digital kämpfen 76 Prozent der kleinen und mittleren Unternehmen mit unzureichender Datenqualität und verstreuten Datensilos. Heißt im Klartext: Die Infos liegen in fünf verschiedenen Tools, drei Excel-Dateien und im Kopf von Petra aus dem Backoffice.
Die gute Nachricht: Für den ersten Use Case brauchst du keine perfekte Datenlandschaft. Du brauchst nur die paar Dokumente, die zu deiner einen Aufgabe gehören, sauber an einem Ort. Räum genau die auf, nicht das ganze Unternehmen.
Schritt 3: Tool-Auswahl für kleine Teams
Jetzt erst kommt das Werkzeug. Für die meisten kleinen Teams reicht eine Kombination aus drei Bausteinen:
- Ein universeller Chatbot für Texte, Recherche und Entwürfe: ChatGPT oder Claude.
- Eine Office-integrierte KI, wenn ihr ohnehin in Outlook, Word und Teams arbeitet: Microsoft 365 Copilot.
- Ein Automatisierungswerkzeug, das feste Abläufe ohne dein Zutun ausführt, etwa eine neue Anfrage automatisch sortieren und weiterleiten (n8n).
Wichtig bei der Auswahl: Achte auf eine geschäftstaugliche Version mit Auftragsverarbeitungsvertrag und EU-Datenraum (mehr dazu im Datenschutz-Abschnitt). Die kostenlose Privat-Version von ChatGPT gehört nicht in den Geschäftsalltag.
Für besonders sensible Aufgaben gibt es eine vierte Option: kleine, spezialisierte Sprachmodelle, die komplett auf deinem eigenen Rechner oder Server laufen (SLMs, Small Language Models). Sie sind nicht so universell wie ChatGPT, reichen für eng umrissene Aufgaben aber oft völlig aus. Der Vorteil: Deine Daten verlassen nie das Haus. Ein echtes Argument, wenn du mit Gesundheits-, Mandanten- oder Personaldaten arbeitest. Der Preis dafür ist etwas technischer Aufwand beim Aufsetzen. Für die meisten Teams ist das nicht der erste Schritt. Aber gut zu wissen, dass es die Möglichkeit gibt. Wie ein DSGVO-konformes Setup mit lokalen Modellen aussieht, zeigt der Artikel zu DSGVO-konformem KI-Einsatz.
Schritt 4: Der Pilot, 8 bis 12 Wochen mit einem Kernteam
Der Pilot ist das Herzstück. Hier testest du deinen einen Use Case unter realen Bedingungen, bevor du ihn auf alle ausrollst.
Die Praxis-Leitfäden für den Mittelstand sind sich erstaunlich einig: Ein realistischer Pilot läuft 8 bis 12 Wochen mit einem Kernteam von 3 bis 5 Personen. Nicht das ganze Unternehmen, nicht ein einziger Tag. Lang genug, um echte Effekte zu sehen, klein genug, um niemanden zu überfordern.
Benenne eine Person, die den Piloten verantwortet. Diese Pilot-Owner-Rolle sorgt dafür, dass das Projekt nicht im Tagesgeschäft untergeht. Und miss am Ende deine eine Kennzahl aus Schritt 1. Hat sich die Bearbeitungszeit wirklich verkürzt? Nutzen die Leute das Tool freiwillig?
Schritt 5: Schulung und Einbindung
Du gibst deinem Team Zugang zu ChatGPT. Nach drei Wochen nutzen es zwei Leute regelmäßig, der Rest gar nicht. Kennst du das?
Das liegt fast nie am Interesse. Es liegt daran, dass niemand gezeigt hat, wie KI konkret in den eigenen Arbeitsalltag passt. Ein Video über "Was ist generative KI?" bringt keiner Buchhalterin Zeitersparnis bei der nächsten Rechnung.
Eine gute KI-Schulung für Mitarbeiter zeigt echte Anwendungsfälle aus eurem Arbeitsumfeld. Und sie ist ohnehin Pflicht, dazu gleich mehr. Die Akzeptanz deines Teams entscheidet über Erfolg oder Frust. Bezieh die Leute früh ein, hör auf ihre Bedenken und feier die ersten kleinen Erfolge sichtbar.
Schritt 6: Skalieren und Governance
Erst wenn der Pilot funktioniert, rollst du aus. Auf weitere Personen, dann auf den nächsten Use Case. Wer mit Quick Wins beginnt, hat in drei bis sechs Monaten messbare Ergebnisse statt einer teuren Bauruine.
Jetzt brauchst du auch ein paar Spielregeln. Welche Tools sind erlaubt, welche Daten dürfen rein, wer entscheidet über Neues? Das muss kein dickes Regelwerk sein. Eine einseitige KI-Richtlinie reicht für den Anfang völlig. Eine Vorlage dafür findest du weiter unten.
KI-Anwendungsfälle für kleine Unternehmen
Wo lohnt sich der Einstieg konkret? Laut McKinsey konzentrieren sich rund 75 Prozent des wirtschaftlichen Potenzials generativer KI auf vier Bereiche: Marketing und Vertrieb, Kundenservice, Softwareentwicklung und Produktentwicklung. Für kleine Teams sind vor allem die ersten beiden sofort nutzbar.
Marketing: Blogartikel-Entwürfe, Social-Media-Posts in mehreren Varianten, Newsletter-Betreffzeilen, Anzeigentexte. Was früher ein halber Arbeitstag war, dauert mit dem richtigen Kontext in Claude oft 20 Minuten. Die Strategie und die Freigabe bleiben bei dir, die Mechanik übernimmt die KI. Wie du diese Schritte an einen KI-Agenten fürs Marketing übergibst, der den ganzen Ablauf selbstständig durchläuft, zeigt der eigene Artikel dazu.
Vertrieb: Antwortvorschläge auf Anfragen, Angebotstexte aus Vorlagen, Zusammenfassungen langer Kundenmails. Mit einem Automatisierungswerkzeug lassen sich Folge-E-Mails und Erinnerungen an Trigger koppeln, etwa ein neues Lead-Formular.
Kundenservice: Ein interner KI-Assistent schlägt deinen Support-Leuten Antworten aus eurem Handbuch vor. Das verkürzt die Bearbeitung pro Anfrage spürbar, ohne dass der Kunde je mit einem Bot reden muss.
Backoffice: Meeting-Protokolle, Vertragszusammenfassungen, Rechnungserfassung, Standardbriefe. Die KI liefert die Rohfassung, ein Mensch prüft und gibt frei.
Wenn du tiefer wissen willst, wo KI echten Wert bringt und wo sie zum Risiko wird, lies den ausführlichen Artikel zu KI für Unternehmen. Er geht auf die einzelnen Bereiche und ihren Return on Investment genauer ein.
Was die KI-Einführung kostet
Die häufigste Frage zuerst: Was kostet das? Die ehrliche Antwort lautet weniger, als die meisten denken. Die Lizenzen sind günstig, die versteckten Kosten stecken woanders.
Aktuelle Preise pro Person und Monat (Stand Juni 2026):
- ChatGPT Business: rund 30 $ pro Nutzer
- Claude Team: ab 25 $ pro Sitz, Mindestabnahme 5 Sitze
- Microsoft 365 Copilot Business: aktuell 15,60 € pro Nutzer (regulär 18,20 €), zusätzlich zur normalen Microsoft-365-Lizenz
- n8n für Automatisierung: ab 20 € im Monat in der Cloud, abgerechnet nicht pro Person sondern pro Ausführung. n8n ist quelloffen, du kannst es alternativ kostenlos auf einem eigenen Server hosten, etwa bei Hetzner
Für ein Fünf-Personen-Team, das mit einem Chatbot und etwas Automatisierung startet, landest du realistisch bei 120 bis 250 € im Monat. Nicht jeder im Team braucht jedes Tool, du zahlst nur für die Sitze, die wirklich genutzt werden.
Die eigentliche Investition ist Zeit. Setup, das Aufräumen der Daten und vor allem die Schulung. Plan diesen Aufwand bewusst ein. Wer nur Lizenzen kauft und auf das Beste hofft, gehört zu denen, bei denen KI später als "hat bei uns nicht funktioniert" abgehakt wird.
DSGVO und EU AI Act: Was ein kleines Team wirklich beachten muss
Hier werden viele nervös. Zu Recht ein Thema, aber kein Grund zur Panik. Die wichtigste Erkenntnis vorweg: Die Pflichten richten sich nach dem Risiko deiner Anwendung, nicht nach deiner Unternehmensgröße. Ein Freelancer mit einem Chatbot ist rechtlich genauso in der Pflicht wie ein Mittelständler.
Drei Dinge musst du wirklich auf dem Schirm haben.
1. Schulungspflicht (EU AI Act, Artikel 4). Seit dem 2. Februar 2025 verlangt die EU-KI-Verordnung, dass Mitarbeiter, die mit KI arbeiten, ein ausreichendes Grundverständnis haben. Eine formale Zertifizierung ist nicht nötig. Du solltest aber dokumentieren, dass du etwas getan hast, etwa eine interne Schulung mit Teilnehmerliste.
2. Transparenz bei Chatbots (Artikel 50). Ab dem 2. August 2026 gilt: Wenn Kunden direkt mit einer KI schreiben, müssen sie das erkennen können. Ein Hinweis wie "Sie chatten mit einem KI-Assistenten" reicht. Interne KI, die nur deinen Mitarbeitern Antworten vorschlägt, ist davon nicht betroffen.
3. Datenschutz nach DSGVO. Schließe mit deinem Anbieter einen Auftragsverarbeitungsvertrag (AVV), nutze nach Möglichkeit einen EU-Datenraum und schalte die Modell-Trainings-Option aus, damit deine Eingaben nicht zum Training verwendet werden. Keine sensiblen Personendaten in die kostenlose Privat-Version eines Tools. Wie du KI rechtssicher einsetzt, vertieft der Artikel zu DSGVO-konformem KI-Einsatz.
Für typische kleine Betriebe, die KI für Texte, interne Assistenz und Automatisierung nutzen, bewegst du dich im Bereich mit Transparenz- und Schulungspflicht. Den Hochrisiko-Bereich mit seinen strengen Auflagen erreichst du damit nicht.
KI-Richtlinie für kleine Teams: Vorlage zum Kopieren
Eine KI-Richtlinie klingt nach Bürokratie. Ist aber das Gegenteil: ein einfaches Dokument, das Wildwuchs verhindert und allen klar macht, was erlaubt ist. Die IHK Schwaben empfiehlt für kleine Betriebe genau so ein knappes Muster.
Hier eine Vorlage, die du direkt übernehmen und anpassen kannst:
KI-Richtlinie [Firmenname]
Stand: [Datum]
1. Zweck
Diese Richtlinie regelt den Einsatz von KI-Tools in unserem Team.
Ziel: produktiver arbeiten, ohne Daten oder Recht zu gefährden.
2. Erlaubte Tools
Freigegeben sind: [z. B. ChatGPT Business, Claude Team, Microsoft Copilot].
Neue Tools werden vorher mit [Name / Rolle] abgestimmt.
3. Was rein darf und was nicht
Erlaubt: interne Texte, Entwürfe, Recherche, Zusammenfassungen.
Verboten ohne Freigabe: personenbezogene Kundendaten, Zugangsdaten,
vertrauliche Vertragsinhalte.
4. Datenschutz
Nur geschäftliche Tool-Versionen mit AVV nutzen.
Modell-Training mit unseren Eingaben ist deaktiviert.
Im Zweifel: Daten anonymisieren, bevor sie in die KI gehen.
5. Transparenz
KI-gestützte Kundenchats werden als solche gekennzeichnet.
Mit KI erstellte Inhalte werden vor Veröffentlichung geprüft.
6. Verantwortung
Ansprechpartner für KI-Fragen: [Name].
Schulung neuer Mitarbeiter: bei Eintritt, danach jährlich.
7. Überprüfung
Diese Richtlinie wird alle 12 Monate aktualisiert,
bei neuen gesetzlichen Vorgaben früher.
Eine Seite, mehr braucht es am Anfang nicht. Du deckst damit die Schulungspflicht, den Datenschutz und die Transparenzregel ab und gibst deinem Team eine klare Orientierung.
Die häufigsten Fehler bei der KI-Einführung
Du hast oben gelesen, dass viele KI-Pilotprojekte keinen messbaren Erfolg bringen. Das liegt selten an der Technik. Es sind fast immer dieselben vier Fehler:
- Mit dem Tool statt mit dem Problem starten. Erst kaufen, dann nach einem Einsatz suchen. Dreh es um.
- Zu groß anfangen. Das ganze Team, alle Tools, fünf Use Cases gleichzeitig. Ein Use Case, ein Kernteam, ein Pilot.
- Schulung weglassen. Zugang allein reicht nicht. Ohne gezeigte Anwendungsfälle versandet die Nutzung.
- Den Erfolg nicht messen. Ohne Kennzahl aus Schritt 1 weißt du nie, ob es sich gelohnt hat. Im Team kannst du es dann auch nicht überzeugend vertreten.
Wer diese vier vermeidet, gehört zur Minderheit, bei der KI tatsächlich ankommt. Das ist kein Hexenwerk. Es ist Disziplin in der Reihenfolge.
Wenn du lieber mit jemandem zusammen den ersten Schritt machst, statt allein loszulegen: Genau dafür gibt es den Workshop. Wir suchen euren ersten Use Case, testen die Tools an euren echten Aufgaben und ihr habt am Ende einen konkreten Plan statt einer Idee. Für eine ausführlichere Begleitung über den Pilot hinaus lohnt sich ein Blick auf die KI-Beratung für Berliner Teams.
