Explainable AI: Was ist XAI & wo wird es schon eingesetzt?


Es existieren verschiedene Methoden bzw. Ansätze, um Transparenz und Verständnis für künstliche Intelligenz zu schaffen. In den folgenden Absätzen haben wir die wichtigsten für Sie zusammengefasst:

Die Layer-wise Relevance Propagation (LRP; etwa: „Schicht für Schicht erfolgende Übertragung von Bedeutung“) wurde erstmals 2015 beschrieben. Hierbei handelt es sich um eine Technik zur Bestimmung der Merkmale von Eingangsvektoren, die am stärksten zum Ausgabeergebnis eines neuronalen Netzwerks beitragen.

Die Counterfactual Method („kontrafaktische Methode“) beschreibt, wie Daten-Input (Texte, Bilder, Diagramme etc.) nach Erhalt eines Resultats ganz gezielt verändert werden. Im Anschluss wird beobachtet, inwiefern sich das Ausgaberesultat dadurch verändert hat.

Local Interpretable Model-Agnostic Explanations (LIME) ist ein Erklärmodell mit ganzheitlichem Anspruch. Es will jeden maschinellen Klassifikator und die daraus folgende Prognose erklären können. Dadurch sollen die Daten und Vorgehensweisen auch für fachfremde Nutzer verständlich gemacht werden.

Die Rationalization ist ein Verfahren, das speziell bei AI-basierten Robotern eingesetzt wird. Dabei wird die Maschine so konzipiert, dass sie in der Lage ist, ihre Handlungen selbstständig zu erklären.



Source link

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.