Ziele

Zielbild ist ein belastbarer, skalierbarer Chatbot im Kundenservice, der messbar Conversion, CSAT und Effizienz steigert – ohne rechtliche Fallstricke. Primäre Zielgrößen für die ersten 90 Tage des Piloten sind: a) Containment/First-Contact-Resolution in Self-Service für priorisierte Top-Use-Cases (z. B. Auftragsstatus, Rechnungen, Retouren) bei ≥ 30–40 % mit CSAT ≥ 85 %; b) AHT-Reduktion in eskalierten Fällen um ≥ 15 % via Agent-Assist; c) Deflection von Low-Value-Kontakten um ≥ 20 % bei < 3 % Fehl-Eskalen. Diese Ziele sind ambitioniert, aber marktkompatibel und werden an Benchmarks gespiegelt, die u. a. McKinsey und Zendesk für 2024/2025 berichten (adaptiert, da Branchen-/Datenreife stark variieren). McKinsey & Company+2McKinsey & Company+2

Annahmen (transparent): durchschnittlich ≥ 50 k monatliche Kontakte, top drei Anliegen machen ≥ 45 % des Volumens aus, bestehendes CRM/Ticketing (z. B. Salesforce/Zendesk/ServiceNow) ist angebunden, Wissensquellen sind auffindbar (Confluence/SharePoint/FAQ), DSGVO-konformer Rechtsrahmen und DPA mit Anbietern sind umsetzbar. Wo diese Annahmen nicht zutreffen, weichen Aufwand, Risiko und KPI-Bandbreiten ab.

Compliance-Leitplanken (knapp): Transparenzpflichten des EU-AI-Acts (Kennzeichnung „Sie chatten mit einem KI-System“; „Limited-Risk“-Kategorie) und DSGVO-Pflichten (Rechtsgrundlage Art. 6, Auftragsverarbeitung Art. 28, Grenzen automatisierter Einzelentscheidungen Art. 22) sind verbindlich zu berücksichtigen; ISO 27001-Kontrollen stützen das ISMS. itgovernance.co.uk+6EUR-Lex+6EUR-Lex+6

Vorgehen/Schritte

1) Use-Case-Fokussierung & Business Case
Wir priorisieren drei klar abgrenzbare Anliegen mit hohem Volumen und geringer Regulatorik (z. B. Bestellstatus, Rechnungskopie, Rücksendelabel). Für jeden Use-Case definieren wir Impact-Hypothesen, Messpunkte (Containment, CSAT, Latenz, Policy-Verstöße), Eskalationskriterien und Abbruchkosten. Skeptische Annahme: keine generische „Wunder-KI“ – stattdessen granularer Funktionsnachweis pro Intent. McKinsey zeigt, dass gezielte, eng geschnittene Anwendungsfälle signifikant eher liefern als „Big-Bang“-Einführungen. McKinsey & Company+1

2) Architektur-Skizze (Umsetzungsskizze)
Ein modularer Stack minimiert Lock-in und steuert Risiken:
— Frontend/Channels: Web-Widget, In-App, ggf. WhatsApp/Apple Messages; einheitliche Session- und Analytics-Layer.
— Orchestrator: Intent-Router + Policy-Engine (Guardrails, Eskalationslogik, Off-Policy-Blocker).
— Antwort-Engine (Gen-AI + RAG): LLM wird strikt an unternehmensinterne Quellen gebunden (Retrieval-Augmented Generation) mit Hybrid-Suche (BM25+Vektor), Re-Ranking, Zitationspflicht im Bot-Output („Quelle: Hilfeartikel X, Stand TT.MM.JJJJ“). Microsoft/NIST empfehlen dies zur Reduktion von Halluzinationen und für Nachvollziehbarkeit. Microsoft Learn+2Microsoft+2
— Wissensquellen: versionierte, geprüfte Inhalte (FAQ, Richtlinien, Produktdaten, SLA); tägliche Ingestion-Pipelines + Staging/Review. kapa.ai
— Agent-Assist: gleiches Backend liefert Agenten kontextuelle Vorschläge, Makros und Zusammenfassungen; McKinsey berichtet hier frühe Effizienzgewinne. McKinsey & Company
— Integrationen: CRM/Ticket, Order-API, Identity (SSO/OAuth), Consent-Store, Logging/Observability.
— Sicherheit & Compliance: PII-Redaktion im Prompt/Log, Verschlüsselung, Least-Privilege; DPA/AVV, TOMs nach ISO 27001 Annex A. itgovernance.co.uk+1

3) Daten-, Prompt- & Policy-Governance
Wir etablieren Content-Governance (Owner pro Quelle, Review-Zyklus, Ablaufdaten), Prompt-Governance (Vorlagen, Testkataloge, Rollback), und eine Risikomatrix entlang des NIST-AI-RMF (Validität, Robustheit, Erklärbarkeit, Sicherheit, Datenschutz). Ergebnis sind reproduzierbare Experimente (A/B), Offline-Eval-Suiten (Exact-Match, Faithfulness, Harm), Canary-Deployments und eine „Human-in-the-Loop“-Eskalation bei Unsicherheit. NIST Veröffentlichungen

4) Evaluation & KPIs (schrittweise, skeptisch)
Vor Go-Live führen wir Offline-Evals an Gold-Datensätzen und Shadow-Mode in Produktion durch. Wir bewerten Containment und CSAT getrennt (hohe Containment-Werte bei schlechtem CSAT sind ein Negativsignal). Benchmarks werden kontextualisiert; Marketing-Zahlen (z. B. „80 % Interaktionen KI-beteiligt“) sind keine Plan-KPIs, sondern Best-Case-Ausblicke. Zendesk

5) Recht & Datenschutz (Pflichtprogramm)
— Transparenz: Der Bot kennzeichnet sich als KI und zeigt auf Wunsch einen Human-Handoff an (Best Practice; beim AI-Act für „Limited-Risk“ vor allem Kennzeichnung verpflichtend). Künstliche Intelligenz Gesetzgebung EU+1
— Rechtsgrundlage (DSGVO Art. 6): i. d. R. Vertragserfüllung für Bestandkundenservice, berechtigtes Interessefür Nutzungsanalysen mit strenger Interessenabwägung; Einwilligung bei Training auf Gesprächsdaten zu Verbesserungszwecken. AVV/DPA mit Anbietern (Art. 28). Art. 22 vermeiden (keine ausschließlich automatisierten, rechtlich/ähnlich erheblichen Entscheidungen). Datenschutz-Grundverordnung+3EUR-Lex+3Datenschutz-Grundverordnung+3
— Sicherheitsstandard: ISMS nach ISO/IEC 27001:2022; Logging-/Zugriffs-Kontrollen aus Annex A. ISO+1

6) Rollout in drei Wellen (je 4–6 Wochen)
Welle 1 (Pilot): 3 Use-Cases, rein informativ + Transaktionsprototyp (z. B. Rechnungsversand), Shadow-Mode Agent-Assist. Welle 2: +2 Use-Cases, Self-Service-Transaktionen (Status/Retoure), Omnichannel, härtere Guardrails. Welle 3:Skalierung, KANBAN-Backlog, kontinuierliche Wissens-Publikation, automatisierte Regression-Tests, ROI-Tracking. Erfahrungswerte (McKinsey) stützen schrittweises Skalieren statt Big-Bang. McKinsey & Company

7) Qualitätssicherung mit Selbstkritik & Korrekturen
Wir verankern „Red-Team-Evals“ (toxische Inhalte, PII-Leaks, Falschberatung), Guardrail-Prompts und Moderator-Policies. Ergebnisse werden als wöchentlicher Drift-Report an Product-Owner, DSB und Legal gespielt. Offene Unsicherheit: künftige Detailleitlinien des AI-Acts und EDPB-Interpretationen können die Kennzeichnungs-/Protokollpflichten nachschärfen; wir planen einen Compliance-Change-Buffer. EUR-Lex+1

8) Few-Shot (1–2) + Positiv/Negativ-Beispiele (Stil & Format)
Few-Shot #1 (Rechnungskopie – positiv): Nutzer: „Ich brauche die Rechnung für Bestellung #78421.“ Bot (korrekt, belegt): „Gern. Ich sende die PDF an die hinterlegte E-Mail ***@firma.de. Alternativ sofortiger Download: [Link]. Quelle: Hilfeartikel ‘Rechnungen’, Stand 15.09.2025. Möchten Sie die Rechnungsadresse aktualisieren?“
Few-Shot #2 (Retoure – sicherheitskritisch): Nutzer: „Paket verloren – brauche Ersatz.“ Bot (regelkonform): „Ich kann einen Ersatz veranlassen, sobald wir eine Verlustbestätigung haben. Ich erstelle ein Ticket und übergebe an einen Agenten (SLA 2 h). Zwischenstand teile ich hier.“
Negativ-Beispiel (zu vermeiden): Bot „halluziniert“ Kulanzregeln („24-Monate-Ersatz in jedem Fall“), fordert unnötige PII (Geburtsdatum) und blockiert den Human-Handoff. Kontrolle: Policy-Engine blockt Kulanzzusagen ohne verifizierte Quelle und zwingt Eskalation. (Dieses Kontrollmuster folgt gängigen Safety-Empfehlungen und NIST-RMF-Prinzipien.) NIST Veröffentlichungen+1

9) Risiken (konkret) & Gegenmaßnahmen
— Halluzination/Fehlinformation: RAG-Zitationspflicht, Top-k Re-Ranking, Antwort-Konfidenz → Human-Handoff. Microsoft Learn
— Datenschutzverletzung/PII-Leak: Prompt-/Log-Redaktion, DLP, Pseudonymisierung, Zugriff nach Need-to-Know, Audit-Trails (ISO 27001). itgovernance.co.uk
— Bias/Unfaire Behandlung: Testdatensätze mit geschützten Merkmalen, Monitoring auf disparate Error-Rates (NIST-RMF). NIST Veröffentlichungen
— Regulatorische Entwicklungen: AI-Act-Roadmap überwachen (gestaffelte Anwendungsfristen, 6–36 Monate je Kapitel). AI Act
— Organisatorische Adaption: Agenten-Upskilling, Change-Management (McKinsey verweist auf Skill-Gaps als Engpass). McKinsey & Company

Nächste Schritte

Kurzfristig richten wir ein 4-Wochen-Discovery aus: Daten-/Intent-Audit, Rechtsgrundlagen-Check mit DSB, Content-Governance, Tech-Fit-Analyse (RAG-Stack, CRM-Connectoren), KPI-Baselining. Parallel entwickeln wir Minimal-Viable-Playbooks (Prompts, Antwort-Stil, Eskalations-SOPs) und erstellen eine Eval-Suite mit 100–200 realen Tickets. Danach Pilot Welle 1 mit Shadow-Mode und kleinem, aber hochqualitativem Wissens-Korpus. Wir kommunizieren früh sichtbar („Beta“-Label, Feedback-Button, Transparenz-Hinweis gem. AI-Act). Künstliche Intelligenz Gesetzgebung EU

Alternativen sauber abgewogen:
— Regelbasiert vs. Gen-AI: Regelbasierte Bots sind robuster, aber limitiert in Abdeckung; Gen-AI skaliert Reichweite, braucht jedoch RAG-Kontrollen und Governance.
— Managed (z. B. Azure OpenAI + Cognitive Search) vs. Self-Hosted/Open-Source: Managed beschleunigt Time-to-Value und Security-Baselines; Self-Hosted bietet Datensouveränität, aber höhere TCO und Betriebsrisiko. Entscheidungen erfolgen je nach Datenklassifizierung und Regulatorik. Microsoft Learn

Compliance-Hinweise (konkret umsetzbar):
— Kennzeichnungspflicht und Bot-Disclosure an allen Entry-Points; Opt-Out in Mensch-Kanal als Best Practice. Künstliche Intelligenz Gesetzgebung EU
— Rechtsgrundlage je Verarbeitung dokumentieren (Art. 6), AVV/DPA abschließen (Art. 28), DPIA bei höherem Risiko (z. B. Identitätsprüfung). Kein ausschließlich automatisiertes Handeln mit erheblichen Auswirkungen (Art. 22) ohne Ausnahmen + Human-Review. EUR-Lex+2Datenschutz-Grundverordnung+2
— ISMS/ISO 27001 als Rahmen; Zugriffskontrollen, Protokollierung, Schulungen. ISO

Akzeptanzkriterien

Ein „Go“ nach 90 Tagen erfolgt nur, wenn folgende messbare Kriterien erfüllt sind (alle messbar im Analytics-Layer):

1. Containment ≥ 30–40 % in den drei Pilot-Use-Cases bei CSAT ≥ 85 % (Bandbreite spiegelt konservative Lesart der publizierten Markttrends). McKinsey & Company+1

2. AHT-Reduktion in eskalierten Fällen ≥ 15 % durch Agent-Assist (Abgleich mit Kontrollgruppe). McKinsey & Company

3. Policy-Violations (falsche Zusagen, Non-Compliance) < 1 % der Bot-Antworten; kritische Fehl-Eskalen < 3 %.

4. Antwortlatenz P50 ≤ 2 s, P95 ≤ 5 s; Uptime ≥ 99,9 %.

5. Compliance-Checks bestanden: Bot-Disclosure aktiv, Rechtsgrundlage/DPA dokumentiert, Logging/Privacy-Kontrollen aktiv, ISO-Kontrollen nachweisbar; AI-Act-Transparenz umgesetzt. EUR-Lex+1

6. Wissens-Governance etabliert: Owner, Review-Zyklus ≤ 30 Tage, automatische Re-Ingestion, Offline-Eval-Suite mit ≥ 200 geprüften Beispielen. kapa.ai

Qualitätssicherung (Gegenlesen, Widersprüche, Unsicherheiten):
Das Konzept vermeidet den Widerspruch „hohe Deflection bei schlechter Kundenerfahrung“, indem Containment undCSAT als gleichrangige Kriterien verankert sind. Risiken wie Halluzinationen werden nicht verharmlost, sondern technisch (RAG + Zitation + Konfidenz-Gates) und prozessual (Human-Handoff) mitigiert. Offene Unsicherheiten: a) Detail-Fristen/Richtlinien unter dem AI-Act können sich konkretisieren; b) Benchmarks variieren stark nach Branche und Self-Service-Reife – die hier gesetzten Ziele sind konservativ kalibriert und werden in Sprint-Reviews angepasst; c) Lieferantenspezifische Sicherheits-Features ändern sich dynamisch, weshalb wir Security-Reviews halbjährlicheinplanen. AI Act+1

Selbstkritik & Korrektur:
Die häufigste Fehleinschätzung ist, „mehr Training“ löse Wissenslücken. In Realität dominiert Content-Hygiene(Quellenqualität, Aktualität, Metadaten) die Antwortgüte; daher priorisieren wir Governance und Evaluations-Pipelines über Modell-Tuning. Falls Volumina kleiner sind als angenommen, verlegen wir den Fokus stärker auf Agent-Assist (höherer ROI bei geringeren Traffic-Zahlen). kapa.ai

Maximal drei präzise Rückfragen (nur falls essenziell, um sofort präziser zu planen):

1. Welche drei Anliegen verursachen heute den meisten Aufwand (Volumen, Eskalationsrate, CSAT) – mit welchen Systemen/Prozessen sind sie verknüpft?

2. Welche Kanäle und Sprachen sind für den Pilot zwingend (Web/App/WhatsApp/Telefon-IVR-Deflection) und welches CRM/Ticket-System nutzen Sie?

3. Gibt es besondere regulatorische Rahmen (z. B. Gesundheits-/Finanzdienstleistung), die über Standard-DSGVO hinausgehen, und ist der DSB frühzeitig verfügbar?

Quellen (Stand: 03.10.2025; Auswahl, für die Kernthesen):
— EU-AI-Act: Verordnung (EU) 2024/1689; OJ L, 12.07.2024; Transparenzpflichten für Chatbots („limited risk“). EUR-Lex+1
— AI-Act-Explorer / Überblick & Zeitplan (Bestätigung der Einstufung/Fristen). Künstliche Intelligenz Gesetzgebung EU+1
— DSGVO: Art. 6 (Rechtsgrundlage), Art. 28 (AVV), Art. 22 (automatisierte Entscheidungen). EUR-Lex+2Datenschutz-Grundverordnung+2
— NIST AI RMF 1.0 und GenAI-Profil (2024) für Risiko-/Governance-Rahmen. NIST Veröffentlichungen+1
— ISO/IEC 27001:2022 (ISMS) / Annex-A-Kontrollen (aktuelle Struktur, 93 Kontrollen). ISO+1
— McKinsey 2024/2025 zu Gen-AI in Customer Care (Skalierungs-Lessons, Effizienzfälle). McKinsey & Company+1
— Zendesk 2025 (Adoptions-/Erwartungs-Trends; als Trend-Signal, nicht als Plan-Ziel). Zendesk

Transparenz zu Limits: Einige Quellen sind Thought-Leadership/Hersteller-nah; wir nutzen sie als Trend-Indikatoren, nicht als harte Benchmarks. Rechtliche Aussagen basieren auf Primärtexten (EUR-Lex, EDPB) und werden kontextualisiert; dies ersetzt keine Rechtsberatung.