KI im Unternehmen: was kleine Betriebe wirklich brauchen

Das Angebot, das abends noch am Küchentisch fertig werden muss, zwanzig Mails mit derselben Frage, Baustellenfotos, aus denen irgendwann ein Bericht werden soll: Bei solcher Arbeit kann KI dir im kleinen Betrieb wirklich etwas abnehmen.

Meine These dazu: Wer beim Tool anfängt, hat schnell ein Abo, das keiner mehr öffnet. Ich fange bei der Aufgabe an. Nach einem kurzen Test weißt du dann, ob es dir etwas bringt.

Ich baue seit 2001 Websites, und heute gehört die KI-Integration für kleine Betriebe zu meinem Angebot. Selbst arbeite ich jeden Tag mit KI, vom Programmieren über Angebote und Webanalysen bis zur Automatisierung meines eigenen CRM. Meine Einschätzungen zu Einsatz und Aufwand kommen aus dieser Praxis. Was die Werkzeuge mit deinen Daten machen, habe ich nach den Angaben der Hersteller zusammengefasst, den rechtlichen Teil nach den Primärquellen, Stand Oktober 2026.

Wie kann ich KI im Unternehmen einsetzen?

Am meisten bringt KI dort, wo sich eine Aufgabe jede Woche wiederholt und aus Sprache besteht. Sprachmodelle lesen, fassen zusammen, formulieren und sortieren, und genau das fällt im Büro eines kleinen Betriebs dauernd an.

Ob eine Aufgabe ein guter Kandidat ist, prüfe ich mit vier Fragen:

1. Kommt sie jede Woche wieder? Sonderfälle lohnen den Aufwand selten.
2. Hat sie ein Muster? Anfragen, die sich ähneln. Angebote nach demselben Aufbau. Berichte mit festen Punkten.
3. Geht es um Text oder Sprache? Darin ist KI stark. Für Kalkulation und exakte Zahlen braucht sie die Daten aus deinen anderen Systemen.
4. Kannst du das Ergebnis schnell prüfen? Die KI liefert den Entwurf, du gibst frei. Dauert die Prüfung länger als die Arbeit selbst, ist es der falsche Fall.

Die vierte Frage ist mir am wichtigsten. Sprachmodelle erfinden gelegentlich Dinge, die plausibel klingen und trotzdem falsch sind. Was an deine Kunden rausgeht, entscheidest deshalb du.

Die besten Startpunkte sind meist langweilig. Ein guter erster Kandidat ist die Vorlage, die aus deinen Stichpunkten ein sauberes Angebot macht. Dafür muss nichts umgebaut werden, und du merkst schnell, ob es sich lohnt. Welche Abläufe sich darüber hinaus automatisieren lassen, zeige ich auf meiner Seite zur KI-Automatisierung für kleine Unternehmen.

Du hast eine Aufgabe im Kopf, die alle vier Fragen besteht? Schick sie mir in zwei Sätzen, dann sage ich dir, ob sie sich als Start eignet.

Welche KI für kleine Unternehmen und Handwerk?

Zum Start reicht oft ein KI-Assistent in einer Geschäftsversion, zum Beispiel ChatGPT Business oder Microsoft Copilot mit Geschäftskonto. Damit lassen sich Angebote, E-Mails und Berichte vorbereiten. Welches Werkzeug am Ende passt, entscheidet die Aufgabe. Die Namen in der Tabelle sind Beispiele, keine Empfehlung. Hoher Aufwand heißt, dass mehrere Systeme ineinandergreifen.

Wo KI im Handwerk hilft

Auf der Baustelle selbst hilft KI nach meiner Einschätzung selten. Interessant wird es beim Papierkram drumherum, der abends liegen bleibt.

• Angebote. Du sprichst oder tippst die Stichpunkte, die KI formuliert einen sauberen Text in deinem Aufbau. Mengen und Preise kommen aus deiner Kalkulation, nie aus der KI.
• Dokumentation. Eine Sprachnotiz nach dem Termin, daraus ein strukturierter Bericht. Dafür braucht es eine klare Regel, welche Kundendaten in welches Werkzeug dürfen.
• Kundenkommunikation. Antworten auf wiederkehrende Fragen und Terminbestätigungen. Die KI schreibt den Entwurf, du schickst ab.

Ob du Elektriker bist oder Fliesenleger, spielt dabei kaum eine Rolle. Welche KI für Handwerker passt, entscheidet sich daran, wo im Büro die Zeit verschwindet. Wenn du KI selbstständig Aufgaben erledigen lassen willst, lies meinen Beitrag über KI-Agenten für kleine Unternehmen. Was KI-Baukästen für die eigene Website können und wo sie aufhören, steht im Praxis-Check Website mit KI erstellen.

KI im Unternehmen einführen: meine Methode in vier Schritten

In vier Schritten führst du KI im Unternehmen ein: Use Case finden, klein testen, in bestehende Systeme einbauen, Team einweisen. So gehe ich vor, wenn du mich dazu holst. Die Schritte funktionieren auch, wenn du sie allein gehst.

1. Use Case zuerst

Wir schauen auf deine Woche: Wo geht regelmäßig Zeit verloren? Daraus entsteht eine kurze Liste von Kandidaten, geprüft mit den vier Fragen von oben, und eine zweite Liste mit Aufgaben, bei denen KI keine Antwort ist. Die zweite spart dir Ausgaben, die nichts bringen.

2. Kleiner Test mit echten Daten

Der vielversprechendste Fall wird klein getestet, mit deinen echten Anfragen, Angeboten oder Berichten. Danach weißt du, ob es Zeit spart und ob die Qualität stimmt. Wenn nicht, hat dich das wenig gekostet. Schon der Test läuft mit einer Geschäftsversion und geklärtem Datenschutz.

3. Integration in deine bestehenden Systeme

Die KI wird in das eingebaut, was du schon nutzt: Postfach, Website, Shop, CRM. Ziel ist, dass niemand sein System wechseln oder ein Programm lernen muss, das nach vier Wochen wieder verschwindet. Beispiele dafür, etwa E-Mail-Vorsortierung, CRM-Follow-ups oder n8n-Workflows zwischen Shop und Buchhaltung, findest du bei der KI-Integration in bestehende Abläufe.

4. Einweisung fürs Team

Zur Einführung gehört eine Einweisung, damit dein Team dem Werkzeug traut: Was kann es, wo liegen seine Grenzen, was darf hinein, wer prüft das Ergebnis? Halte das in einem kurzen schriftlichen Leitfaden fest. Mit Einweisung und Leitfaden setzt du praxisnah um, was Art. 4 AI Act für die KI-Kompetenz verlangt. Wie ein Projekt bei mir abläuft, liest du unter so arbeite ich.

Was müssen Unternehmen beim Einsatz von KI beachten?

Für kleine Betriebe zählen drei Punkte: die KI-Kompetenzpflicht aus Art. 4 AI Act, der KI-Hinweis bei Chatbots nach Art. 50 und die DSGVO. Keiner davon ist ein Grund, die Finger von KI zu lassen.

Knapp jedes vierte kleine Unternehmen nutzt schon KI: Laut IKT-Erhebung 2025 des Statistischen Bundesamts sind es 23 % der Unternehmen mit 10 bis 49 Beschäftigten. Kleinunternehmen dieser Größe, die KI erwogen und nicht eingeführt haben, nennen fehlendes Wissen (73 %), Unklarheit über die rechtlichen Folgen (64 %) und Datenschutzbedenken (60 %). Betriebe mit weniger als zehn Beschäftigten und Solo-Selbstständige erfasst die Erhebung nicht. Arbeitest du allein oder mit zwei, drei Leuten, kennst du diese Bremsen vermutlich trotzdem.

Gegen die erste helfen ein kleiner Test und eine gute Einweisung. Die beiden anderen sind rechtlich, und dabei ist der AI Act für die typische Nutzung in einem kleinen Betrieb überschaubar. Hier der Stand vom Oktober 2026, nach der Verordnung, den Fragen und Antworten der EU-Kommission und den Informationen der Bundesnetzagentur. Eine Rechtsberatung ersetzt das nicht.

KI-Kompetenzpflicht nach dem AI Act

Wer KI beruflich in eigener Verantwortung nutzt, ist im Sinne des AI Act „Betreiber“. Das gilt laut EU-Kommission ausdrücklich auch, wenn im Büro nur ChatGPT für Werbetexte oder Übersetzungen läuft. Seit dem 2. Februar 2025 müssen Betreiber sich darum kümmern, dass ihre Leute mit KI umgehen können und Risiken wie erfundene Antworten kennen.

Am 27. Juli 2026 wurde diese Pflicht entschärft. Die EU hat Art. 4 mit dem sogenannten Digital-Omnibus neu gefasst, der Verordnung (EU) 2026/1744. Jetzt heißt es sinngemäß: Du tust etwas dafür, dass deine Leute mit KI umgehen können. Ein bestimmtes Niveau musst du nicht garantieren. Die Pflicht besteht also weiter, mit einem realistischen Maßstab. Für deinen Betrieb heißt das:

• Eine Einweisung für alle, die KI nutzen, und ein kurzer interner Leitfaden zu Risiken wie erfundenen Antworten.
• Ein Zertifikat oder eine Prüfung brauchst du nicht. EU-Kommission und Bundesnetzagentur stellen klar, dass eine externe Zertifizierung nicht vorgeschrieben ist.
• Eine kurze Notiz, wer wann eingewiesen wurde. Das empfiehlt die EU-Kommission. Laut Bundesnetzagentur kann fehlende KI-Kompetenz als Verletzung der Sorgfaltspflicht gelten, vor allem wenn ein Schaden entsteht.

Ein eigenes Bußgeld für fehlende KI-Kompetenz sehen weder der AI Act noch das deutsche Durchführungsgesetz vor. Laut EU-Kommission werden Behörden eher dann tätig, wenn ein Vorfall nachweisbar auf fehlende Schulung zurückgeht. Du kannst die Einweisung also entspannt angehen. Weglassen würde ich sie trotzdem nicht.

Wenn du KI mit mir einführst, gehört die Einweisung dazu, zugeschnitten auf die Werkzeuge, die ihr tatsächlich nutzt. Nutzt dein Team bereits KI und dir fehlt nur dieser Teil, sprich mich im kostenlosen Erstgespräch darauf an.

Der Pflicht-Hinweis beim KI-Chatbot (Art. 50)

Hast du einen KI-Chatbot auf der Website, muss spätestens bei der ersten Interaktion klar sein, dass hier eine KI antwortet. Das gilt seit dem 2. August 2026 nach Art. 50 AI Act. Mein Rat: Bau den Hinweis in jeden Chatbot von Anfang an ein.

Genau genommen trifft diese Pflicht den Anbieter, der das System baut. Bindest du einen fertigen Dienst ein, bist du in der Regel Betreiber. Lässt du dir einen Chatbot bauen und betreibst ihn unter eigenem Namen, kannst du selbst Anbieter sein, je nach Einzelfall.

Für Angebote, Blogtexte oder Social-Media-Posts, die du mit KI schreibst und selbst prüfst, gibt es keine allgemeine Kennzeichnungspflicht. Bei Texten greift sie nur, wenn sie die Öffentlichkeit über Themen von öffentlichem Interesse informieren und nicht von einem Menschen geprüft und redaktionell verantwortet werden. Deepfakes, also täuschend echte KI-Bilder, -Töne oder -Videos, musst du dagegen immer kennzeichnen. Die Bundesnetzagentur hat dazu einen Praxisleitfaden zur Transparenz veröffentlicht.

Wer kontrolliert das? Bundesnetzagentur und KI-Service-Desk

In Deutschland ist das KI-MIG, das Durchführungsgesetz zum AI Act, seit dem 29. Juli 2026 in Kraft. Die Bundesnetzagentur ist damit Marktüberwachungsbehörde und zentrale Anlaufstelle. Seit August 2026 kann sie kontrollieren. Für kleine Unternehmen bietet sie vor allem Hilfen an. Über ihren KI-Service-Desk unter bundesnetzagentur.de/ki bekommst du einen Compliance-Kompass zum Selbstcheck und ein Factsheet für KMU.

Quellen: Verordnung (EU) 2026/1744 (eur-lex.europa.eu), EU-Kommission, Fragen und Antworten zur KI-Kompetenz (Stand 27. Juli 2026), Bundesnetzagentur, KI-MIG.

Ist ein KI-Beauftragter Pflicht?

Nein, einen KI-Beauftragten musst du nicht benennen. Die EU-Kommission schreibt in ihren Fragen und Antworten zur KI-Kompetenz ausdrücklich, dass keine bestimmte Governance-Struktur vorgeschrieben ist. Die Bundesnetzagentur nennt den KI-Beauftragten „nicht vorgeschrieben“, und auch das KI-MIG kennt keine solche Pflicht.

Oft wird das mit dem Datenschutzbeauftragten verwechselt. Den brauchst du nach § 38 BDSG in der Regel, wenn mindestens 20 Personen ständig mit der automatisierten Verarbeitung personenbezogener Daten beschäftigt sind. Unabhängig von der Zahl brauchst du ihn zum Beispiel, wenn eine Datenschutz-Folgenabschätzung nötig ist. Im Zweifel lass das prüfen.

Sinnvoll ist trotzdem, dass eine Person den Überblick behält: welche Werkzeuge im Einsatz sind, wer eingewiesen ist, wo der Leitfaden liegt. Im kleinen Betrieb ist das oft die Chefin oder der Chef selbst.

Worauf du bei KI und DSGVO im Alltag achtest

Im Alltag entscheidet sich der Datenschutz meist an drei Stellen. Du nutzt eine Geschäftsversion mit Auftragsverarbeitungsvertrag, schaltest die Trainingsnutzung aus und legst fest, welche Daten hinein dürfen. Grundlage ist die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, die die Datenschutzkonferenz (DSK) am 6. Mai 2024 veröffentlicht hat. Für kleine Betriebe lässt sie sich auf fünf Punkte herunterbrechen:

• Zweck vorher festlegen. Wofür nutzt ihr das Werkzeug, und auf welcher Rechtsgrundlage?
• Geschäftsaccount nutzen. Private oder Gratis-Accounts haben im Betrieb nichts zu suchen. Bei einem externen Anbieter ist häufig ein Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO nötig. OpenAI bietet ihn zum Beispiel für ChatGPT Business, Enterprise und die API an.
• Trainingsnutzung ausschließen. Bei ChatGPT Business und Enterprise ist das standardmäßig so, und Microsoft Copilot mit Geschäftskonto nutzt Prompts und Antworten nicht für das Training der Basismodelle. Europäisch heißt dabei nicht automatisch datensparsam: Bei Mistral, dessen Chat inzwischen Vibe heißt, trainieren Free, Pro und Team standardmäßig mit deinen Eingaben. In den Einstellungen kannst du das abschalten. Nur Enterprise ist von vornherein ausgenommen.
• Interne Regeln mit Beispielen. Was darf hinein, was nicht? Konkrete Beispiele helfen deinem Team mehr als Paragrafen.
• Folgenabschätzung prüfen. Bei hohem Risiko für die Betroffenen, etwa bei sensiblen Daten, kann eine Datenschutz-Folgenabschätzung nötig sein.

Und die USA? Übermittlungen dorthin sind derzeit über das EU-US Data Privacy Framework zulässig, wenn der Anbieter zertifiziert ist. Ein Verfahren dazu läuft noch vor dem Europäischen Gerichtshof. Für ChatGPT Business bietet OpenAI keine Datenspeicherung in Europa an, nur für die API und neue Enterprise- und Edu-Workspaces. Welcher Account und welche Einstellung zu deinem Fall passen, kläre ich bei einer Einführung als Erstes.

Lokale Sprachmodelle für sensible Daten

Die DSK hält „technisch geschlossene Systeme“ für vorzugswürdig. Am konsequentesten ist ein Sprachmodell auf deinem eigenen Rechner oder Server. Auf meiner eigenen Maschine laufen lokale Modelle, gerade wegen des Datenschutzes. Mit Ollama (MIT-Lizenz, für macOS, Windows und Linux) laufen offene Modelle wie Gemma, Qwen oder Mistral direkt bei dir, ohne dass Daten an einen Anbieter oder in ein Drittland gehen. Die DSGVO-Pflichten gelten trotzdem.

Aufpassen musst du bei den Cloud-Modellen von Ollama, erkennbar an der Endung „:cloud“. Die laufen nicht lokal. Außerdem passen auf normale Hardware nur kleinere Modelle. Für Zusammenfassungen, Sortieren und Entwürfe reicht das nach meiner Einschätzung oft, für anspruchsvolle Texte nicht immer.

Zusammen mit n8n, das einen eigenen Ollama-Knoten mitbringt und das du für interne Zwecke ohne Lizenzgebühr selbst hosten kannst, entsteht so eine Automatisierung, bei der die Daten auf deinem eigenen Server bleiben. Sobald du einen Cloud-KI-Knoten anbindest, gehen die Daten an diesen Anbieter. Ob lokal oder Cloud zu deinem Fall passt, klären wir gleich zu Beginn.

Und wenn KI gar nicht die richtige Lösung ist?

Dann sage ich dir das.

Es kann sich im ersten Schritt zeigen, dass dein Problem gar keine KI braucht. Oft reicht eine Online-Terminbuchung, ein Formular, das im richtigen Postfach landet, oder eine kleine Schnittstelle zwischen zwei Systemen. Dafür brauchst du kein KI-Abo, und es läuft zuverlässig.

Mir geht es darum, dass dein Betrieb hinterher besser läuft. Ist der Weg ohne KI kürzer, nehmen wir den. Ein Tool, nur weil es gerade alle haben, baue ich dir nicht ein.

Häufige Fragen zu KI im Unternehmen

01 Lohnt sich KI für einen kleinen Betrieb?

Das zeigt ein kleiner Test mit einer echten Aufgabe. Spart dir der KI-Entwurf bei einer Aufgabe, die jede Woche wiederkommt, spürbar Zeit und lässt er sich schnell prüfen, lohnt es sich. Wenn nicht, weißt du das, bevor du Geld in Werkzeuge steckst.

02 Wie viele kleine Unternehmen nutzen schon KI?

Laut IKT-Erhebung 2025 des Statistischen Bundesamts nutzen 23 % der Unternehmen mit 10 bis 49 Beschäftigten KI, über alle Unternehmen ab 10 Beschäftigten sind es 26 %. Betriebe mit weniger als zehn Beschäftigten und Solo-Selbstständige erfasst die Erhebung nicht.

03 Brauche ich ein Zertifikat für die KI-Kompetenz?

Nein. Art. 4 AI Act verlangt seit Februar 2025, dass du dich um die KI-Kompetenz deiner Leute kümmerst. Seit dem 27. Juli 2026 gilt die entschärfte Fassung: Du ergreifst Maßnahmen, ein Mindestniveau, eine Prüfung oder ein Zertifikat sind nicht vorgeschrieben. Praxisnah sind eine Einweisung und ein kurzer Leitfaden. Eine Notiz, wer wann eingewiesen wurde, empfiehlt die EU-Kommission.

04 Muss ich Texte kennzeichnen, die ich mit KI geschrieben habe?

In der Regel nicht. Texte, die du selbst prüfst und verantwortest, brauchen keine allgemeine Kennzeichnung. Kennzeichnen musst du Deepfakes, und ein KI-Chatbot muss spätestens bei der ersten Interaktion zeigen, dass eine KI antwortet.

05 Was ist der Unterschied zwischen KI-Assistent und KI-Agent?

Ein KI-Assistent liefert dir einen Entwurf, und du entscheidest, was damit passiert. Ein KI-Agent erledigt mehrere Schritte selbstständig, etwa eine Anfrage lesen, einen Termin eintragen und eine Antwort zur Freigabe vorbereiten. Für den Einstieg in kleinen Betrieben reicht meist der Assistent. Mehr dazu im Beitrag über KI-Agenten für kleine Unternehmen.

06 Welche KI kann ich datenschutzkonform nutzen?

Datenschutzkonform wird KI durch die Art, wie du sie einsetzt: Geschäftsversion mit Auftragsverarbeitungsvertrag, Trainingsnutzung ausgeschaltet, klare Regeln, was hinein darf. Wenn Daten das Haus gar nicht verlassen sollen, ist ein lokales Sprachmodell die Alternative, etwa über Ollama, ohne dessen Cloud-Modelle.

Fazit: erst die Aufgabe, dann das Werkzeug

Für kleine Betriebe lohnt sich KI, wenn sie bei einer Aufgabe anfängt, die jede Woche wiederkommt. Rechtlich brauchst du vor allem eine Einweisung, und mit Geschäftsversion, AVV und klaren Regeln ist auch der Datenschutz lösbar. Der erste Schritt ist immer derselbe: die eine Aufgabe finden. Wie es danach weitergeht, erkläre ich auf der Seite zur KI-Beratung und Automatisierung für kleine Betriebe.