Warum Ihre KI nicht erklären kann, was sie tut

“Warum hat die KI das entschieden?” Diese Frage stellen nicht nur Endanwender, sondern auch Auditoren, Datenschutzbeauftragte – und bald der AI-Act der EU. Die Antwort in den meisten Systemen: ein Schulterzucken. Denn die Daten, auf denen die Entscheidung basierte, sind längst überschrieben. Der aktuelle Zustand ist bekannt, der Weg dorthin nicht.

Das Problem ist nicht die KI. Es ist die Art, wie wir Daten speichern. Wäre es nicht schön, wenn Sie jederzeit rekonstruieren könnten, welche Informationen zum Entscheidungszeitpunkt vorlagen, ohne nachträgliche Forensik, ohne separates Logging-Monster?

In diesem Vortrag zeige ich, wie sich Systeme von Grund auf so bauen lassen, dass Nachvollziehbarkeit kein nachträglicher Aufwand ist, sondern ein Nebenprodukt der Architektur.