Explainable AI (XAI) sa zaoberá vytváraním modelov AI, ktorých rozhodnutia a predpovede sú zrozumiteľné a transparentné pre ľudí. XAI je dôležité pre dôveru, reguláciu a zlepšenie rozhodovacieho procesu. Hlavné prístupy zahŕňajú:
- Modely s inherentnou interpretovateľnosťou: Jednoduché modely ako lineárne regresie alebo rozhodovacie stromy, ktoré sú prirodzene interpretovateľné.
- Post-hoc interpretabilita: Techniky na interpretáciu zložitých modelov ako hlboké neurónové siete, vrátane LIME (Local Interpretable Model-agnostic Explanations) a SHAP (SHapley Additive exPlanations).
- Vizualizácia a analýza citlivosti: Metódy na vizualizáciu vplyvu vstupov na výstupy modelu a analýzu dôležitosti rôznych rysov.
