„Wir wollen Künstliche Intelligenz vertrauenswürdig machen“, sagt Lukas Bieringer, Chief Operating Officer des Saarbrücker Start-ups QuantPi, und formuliert damit ein ehrgeiziges Ziel.
Denn Vertrauen in Künstliche Intelligenz setzt voraus, dass wir sie verstehen und ihre Entscheidungen für uns nachvollziehbar sind. Mit seiner AutoXAI-Software ermöglicht QuantPi, das 2020 von KI- und Business-Experten des CISPA und der Universität des Saarlandes gegründet wurde, Unternehmen umfassende Einblicke in die Entscheidungsprozesse der von ihnen eingesetzten KI-Modelle.
Künstliche Intelligenz (KI) begegnet uns täglich: Beim Online-Shopping entscheidet sie darüber, welche Waren uns angepriesen werden, Streamingdienste nutzen sie, um Serienvorschläge an unsere Vorlieben anzupassen und Suchmaschinen lernen mithilfe von KI, welche Suchergebnisse für uns relevant sind. KI gilt als die Technologie der Zukunft. Dabei versteckt sich hinter dem Begriff KI genau genommen eine ganze Reihe von Technologien und Methoden, die auf verschiedenen Algorithmen des maschinellen Lernens basieren. Ziel ist es menschliches Denken zu imitieren und datenbasierte Vorhersagen zu treffen. In vielen Bereichen hinken KI-Systeme den Fähigkeiten der Menschen noch deutlich hinterher. In anderen übertreffen sie diese allerdings um Längen. Selbstfahrende Autos, das Internet der Dinge und nicht zuletzt die Medizin bauen auf das wachsende Potential von KI.
Doch bei all der damit verknüpften Hoffnung gibt es bislang noch ein großes Problem mit KI, welches häufig im Begriff der „Black Box“ auf den Punkt gebracht wird. „Man weiß oft einfach nicht genau, was die KI gelernt hat und wie sie zu ihren Vorhersagen gelangt“, erklärt Philipp Adamidis, Chief Executive Officer (CEO) und einer der drei Gründer von QuantPi. Je komplizierter die Systeme und Algorithmen sind, die zum Einsatz kommen, desto schwieriger ist es, ihre Entscheidungen nachzuvollziehen. „Es gäbe noch weit mehr Möglichkeiten, KI zu nutzen, aber die mangelnde Transparenz und Erklärbarkeit kann zum rechtlichen und wirtschaftlichen Risiko für Unternehmen werden“, sagt Adamidis. Aus diesem Grund schaffen es viele Unternehmen nicht, KI-Pilotprojekte in reale Anwendungen und Produkte zu übertragen.
Mit der von QuantPi entwickelten Software soll sich das ändern. Auf der Grundlage einer mathematischen Theorie zur Modellierung komplexer Netzwerke, die Dr. Antoine Gautier in seiner Dissertation entwickelt hat, haben die drei Gründer Adamidis, Gautier und Artur Suleymanov eine Methode entwickelt, Entscheidungsprozesse von KI-Systemen nachvollziehbar und transparent zu machen. Die Software analysiert und überwacht KI-Modelle – egal, welcher Lernalgorithmus im Unternehmen des Kunden eingesetzt wird. Die Software stellt – ganz nach Wunsch und Bedürfnis der jeweiligen Unternehmer:innen – übersichtlich dar, welche Daten und Kriterien in eine KI-Entscheidung eingeflossen sind. Das ermöglicht nicht nur zu verstehen, warum die KI in einer bestimmten Weise handelt, sondern auch die Datenverarbeitungsprozesse zu verbessern.
Um die neuartige Technologie stetig weiterzuentwickeln und in die Unternehmen der Welt zu bringen, rauchen im Co-Working-Space Halle 4 in Saarbrücken nahezu täglich die Köpfe. Das internationale Team von QuantPi besteht inzwischen aus 12 Mitarbeiter:innen. „Wir wachsen weiter und suchen immer gute Leute“, sagt Bieringer.
Nach einer langen Phase der Forschung und Entwicklung bis hin zur Marktreife sollen die Erkenntnisse von QuantPi jetzt endlich auch den Markt erobern. In einigen Pilotprojekten kommt die QuantPi-Software bereits zum Einsatz. „Wenn alles klappt, brauchen die Unternehmen ab 2023 nicht mal mehr unsere Hilfe bei der Implementierung, da sich die Software automatisiert an die KI-Modelle und jeweiligen Anforderungen anpassen soll“, sagt Bieringer.
Der CISPA Incubator und das Team Techtransfer unterstützten die Gründer mit Workshops und halfen ihnen bei der Bewerbung um Mittel aus dem Programm StartUpSecure des Bundesministeriums für Bildung und Forschung (BmBF). Zudem ist CISPA-Faculty Prof. Dr. Jilles Vreeken, Experte auf dem Feld der vertrauenswürdigen Künstlichen Intelligenz, einer der Beiräte des jungen Teams. Zukunftsthemen sind ebenfalls bereits ausgemacht: Mit Physik-Professor Dr. Frank Wilhelm-Mauch von der Universität des Saarlandes wollen die Forscher:innen daran arbeiten, die Erklärbarkeit von KI auch in eine Zukunft voller Quantencomputer zu denken. Bieringer resümiert: „Es gibt noch viel zu tun.“
