OnlineBerufsbegleitend
Erklärbare KI (XAI): Methoden und Anwendungen für transparente Modelle
infofeld GmbH
Beschreibung
Modul 01: Einführung in Explainable AI (XAI)
- Warum Erklärbarkeit in KI wichtig ist
- Begriffsklärung: Erklärbarkeit, Transparenz, Interpretierbarkeit
- Regulatorische Anforderungen (z. B. EU AI Act)
- Typen erklärbarer Systeme: intrinsisch vs. post-hoc
Modul 02: Methoden der Modellinterpretation
- Modellagnostische vs. modellinterne Verfahren
- Globale vs. lokale Erklärbarkeit
- Feature Importance (Permutation, Gain)
- Partial Dependence Plots (PDP) und ALE-Plots
- Counterfactual Explanations und Kontrastive Erklärungen
- Surrogatmodelle (z. B. Entscheidungsbäume zur Vereinfachung komplexer Modelle)
- Visualisierungsstrategien und Interpretationshilfen
Modul 03: Praktische Einführung: SHAP, LIME & Co.
- Theorie und Anwendungsbereiche von LIME
- SHAP-Werte und Shapley-Theorie
- Vergleich SHAP vs. LIME vs. Permutation Importance
- Implementierung und Visualisierung in Python
- Interpretation von Ergebnissen und typische Stolperfallen
Modul 04: Use Cases und Branchenbeispiele
- Erklärbarkeit in der Industrie (z. B. Qualitätssicherung, Wartung)
- XAI im Finanzsektor und Gesundheitswesen
- Erfahrungsberichte aus realen Projekten
- Diskussion: Vertrauen und Transparenz als Wettbewerbsvorteil
Modul 05: Grenzen, Herausforderungen und Ausblick
- Black Box vs. White Box Trade-offs
- Bias und Fairness im Kontext von XAI
- Verständnis von Unsicherheit und Vertrauensintervallen
- Zukunftsperspektiven: Causal XAI, Neuro-Symbolic AI
- Abschließende Reflexion und Diskussion