KI darf keine Blackbox bleiben: Es ist Zeit zu verstehen, wie sie zu ihren Entscheidungen kommt
Dieser Gedanke war das zentrale Thema der Winter School on Causality and Explainable AI an der Sorbonne Université, einer Woche mit führenden Forschenden von DeepMind, UCL, TUM, Charité und Inria.
Im Oktober 2025 durfte ich an der Winter School on Causality and Explainable AI an der Sorbonne Université teilnehmen. Es war eine inspirierende Woche mit einigen der weltweit führenden Forschenden zu Kausalität, Erklärbarkeit und verantwortungsvoller KI, darunter Professorinnen und Professoren von UCL, TUM, Charité Berlin, Inria und DeepMind.
Ehrlich gesagt: Es war großartig. Nicht nur wegen der Tiefe der Vorlesungen, sondern auch wegen der Menschen. Trotz des enormen Fachwissens im Raum gab es keine Hierarchie: Professorinnen und Professoren, Promovierende und Forschende aus der Industrie tauschten sich auf Augenhöhe aus. Nach ihren eigenen Vorlesungen setzten sich weltbekannte Wissenschaftlerinnen und Wissenschaftler ins Publikum, machten Notizen und stellten Fragen wie alle anderen. Dazu kamen die herzliche Atmosphäre, die Energie auf dem Campus und (ja!) hervorragendes Essen. Eine Woche, die ich so schnell nicht vergesse.
Was ich für unsere Arbeit bei Asseco Platform mitnehme
Bei Asseco Platform trainieren und betreiben wir Bilderkennungsmodelle für Kunden aus FMCG und Pharma. Unsere Lösungen tragen dazu bei, dass Produkte am Point of Sale verfügbar, richtig platziert und wirksam beworben sind. Was ich an der Winter School gelernt habe, fließt direkt in die Art ein, wie wir diese Modelle erklären, trainieren und verbessern.
Eine zentrale Botschaft zog sich durch viele Vorlesungen:
„Wir können KI nicht länger als Blackbox behandeln: Wir müssen verstehen, wie sie zu ihren Entscheidungen kommt.“
Dieses Prinzip passt genau zu unserer aktuellen Richtung in Forschung und Entwicklung. In den kommenden Monaten beginnen wir, Erklärbarkeitsverfahren aus der Winter School anzupassen, zum Beispiel konzeptbasierte erklärbare Modelle (CBMs) und Structure-Aware Recourse, damit unsere Bilderkennungssysteme transparenter und besser interpretierbar werden.
Das bedeutet zwei Dinge:
- Klügeres Training: Wir gestalten unsere Architekturen bewusster und nutzen kausal inspirierte Ansätze, damit die Modelle wirklich lernen, worauf es in den Daten ankommt.
- Bessere Qualitätskontrolle: Wenn wir das „Warum“ hinter jeder Vorhersage verstehen, werden wir Falscherkennungen reduzieren und die Genauigkeit und Zuverlässigkeit unserer Lösungen insgesamt verbessern können.
Am Ende werden unsere Bilderkennungsmodelle dadurch nicht nur besser arbeiten, sondern sich auch besser erklären können. Das ist ein entscheidender Schritt zu vertrauenswürdigerer KI in kommerziellen Anwendungen.
Ein persönlicher Rückblick
Über die technischen Erkenntnisse hinaus hat mir die Woche an der Sorbonne gezeigt, wie schön KI-Forschung an sich ist. In den Vorlesungen ging es nicht nur um Algorithmen. Im Mittelpunkt standen Beweise, Argumentation und die mathematische Eleganz hinter dem maschinellen Lernen. Wir haben nicht einfach hingenommen, was wir zu „wissen“ glaubten. Wir haben es hinterfragt, neu aufgebaut und noch einmal bewiesen, diesmal strenger.
Das hat mich daran erinnert, warum ich dieses Fach liebe. Bei KI geht es nicht nur um Metriken. Es geht um Verstehen, Entdecken und ständiges Hinterfragen.
Und ja, ich komme sicher wieder. Vielleicht eines Tages sogar für eine Promotion. Die Atmosphäre aus Neugier und offener Zusammenarbeit an der Sorbonne war etwas ganz Besonderes.
Zum Schluss
Veranstaltungen wie die Winter School zeigen, wohin sich KI entwickelt: zu Systemen, die nicht nur intelligent, sondern auch erklärbar sind. Für uns bei Asseco Platform ist das ein Weg, den wir konsequent gehen.
Kausalität hilft uns zu verstehen, wie Dinge funktionieren. Erklärbarkeit hilft uns, den Modellen zu vertrauen. Zusammen helfen sie uns, bessere KI zu bauen.
