Frau Sikes, seit 2021 ist das BSI mit einem eigenen Stützpunkt für KI und IT-Sicherheit in Saarbrücken vertreten. Warum dort und welche Vorteile hat eine physische Präsenz vor Ort?

Das Saarland bietet beste Möglichkeiten für die Vernetzung und den Austausch. Hier gibt es eine hervorragende Universität, renommierte Forschungsinstitute wie das CISPA und interessante Startups. Das Saarland hat mit Cybr360 selbst die Initiative ergriffen, um das Thema IT-Sicherheit voranzutreiben. Mit der Informatik der Universität Saarbrücken, dem DFKI, dem CISPA und deren Ausgründungen arbeiten wir eng zusammen. Vor Ort sind wir, weil trotz aller vir­tuellen Kommuni­kationstools der persönliche Austausch und vor allem der Erstkontakt dadurch erheblich erleichtert werden, und das funktioniert auf dem Campus in Saarbrücken besonders gut.

Wie schätzen Sie die Sicherheitslage bei KI derzeit ein? 

Die Bedrohungslage ist hoch, und Angriffe finden statt. Es ist wichtig, dass Maßnahmen ergriffen werden, die das Sicherheitsniveau erhöhen und das Know-how bei der Cybersicherheit in Deutschland insgesamt steigern. Der Austausch mit dem CISPA und anderen Partnern bietet die Chance, unsere Arbeit mit der Forschung so zu verknüpfen, dass wir gesellschaftlich relevante Resultate erzielen. Die Zusammenarbeit zwischen Wirtschaft, Politik und Wissenschaft muss reibungslos funktionieren, und hier sind wir am Standort Saarland hervorragend aufgestellt. Nur durch Kooperation werden wir es schaffen, das Sicherheitsniveau in Deutschland zu er­höhen.

In welchen Branchen besteht besonders großer Bedarf für Sicherheit in der KI?

Im Automobilbereich wird viel mit KI gearbeitet, aber auch in der Biometrie, also der Technik, die bei hoheitlichen Aufgaben wie Grenzkontrollen eingesetzt wird. Wichtig sind die Medizin und das Finanzwesen, wo wir derzeit an konkreten Bewertungsverfahren arbeiten, um den Einsatz von KI-Produkten sicher zu machen.

Was unterscheidet KI-Systeme bei der Sicherheit von anderen IT-Systemen? 

Bei der KI liegt unser Fokus darauf, wie nach­vollziehbar und sicher ihre Anwendung ist. Wir entwickeln Verfahren, mit denen wir überprüfen können, ob sich die KI so verhält, wie sie soll. Diese Sicherheit ist wichtig für Verbraucher und für die Hersteller, die KI in ihre Produkte integrieren. Darüber hinaus hat das Thema IT-Sicherheit im Zusammenhang mit KI mehrere Aspekte. KI kann selbst zur IT-Sicherheit bei­tragen, indem sie beispielsweise Angriffe ver­hindert, erkennt und die Reaktionsgeschwindigkeit erhöht. KI kann auch genutzt werden, um neue Angriffsmethoden zu entwickeln und anzuwenden. Und schließlich kann KI selbst ange­griffen werden. Diese Aspekte bearbeiten wir in Saarbrücken auch gemeinsam mit dem CISPA.

Warum muss KI erklärbar sein und wie wird dies erreicht?

Wir analysieren Modelle und Verfahren, die in einer KI zum Einsatz kommen, prüfen, wie sie trainiert wurde, und betrachten ihre möglichen Anwendungsbereiche. Am Beispiel der popu­lären generativen KI wie ChatGPT erklärt: Es ist wichtig, klarzustellen, dass dieses Tool keine Fakten liefert, sondern nur Resultate, die auf Wahrscheinlichkeiten beruhen. Was davon richtig ist, müssen die Nutzerinnen und Nutzer selbst überprüfen. Wichtig ist es auch zu klären, auf welcher Datenbasis die KI trainiert wurde und ob ein eventuell vorhandener Bias, also Vor­urteile, ausgeglichen wurde. Auch das gehört für uns zur Sicherheit von KI.

Wie unterstützen Sie damit die Verbrauche­rinnen und Verbraucher?

Wir wollen ihre Fähigkeit stärken, KI-gestützte Systeme zu beurteilen. Je mehr die Gesellschaft – und damit meinen wir auch Wirtschaft und Politik – über KI weiß, desto besser kann diese eingesetzt werden. Die Stärkung dieser Bewertungskompetenz ist ein Thema, das wir auch gemeinsam mit dem CISPA verfolgen wollen. Dazu gab es bereits einen Austausch mit dem Saar­brücker Startup QuantPi, das aus dem CISPA hervorgegangen ist. Dessen Software legt die Grundlagen offen, die zu den Entscheidungen einer KI führen. Verbraucher sollen erkennen können, wann eine KI zum Einsatz kommt, mit welchen Daten und nach welchen Wertvor­stellungen sie trainiert wurde. Wir wollen ein Bewusstsein für die Risiken im Umgang mit KI schaffen.