QS und KI - Was kommt da auf uns zu?

KI – meist in der Form von Maschinellem Lernen – ist ein Thema, dass nicht mehr wegzudenken ist und auf vielen Ebenen und in vielen Domänen Raum gewinnt. Dabei werden neben zum Teil erstaunlichen Ergebnissen und Chancen auch Risiken und Herausforderungen sichtbar, die wir als Gemeinschaft gar nicht so schnell analysieren und abwägen können. Das betrifft den gesamten Lebenszyklus von Software und Systemen vom Requirements Engineering bis Deployment und Betrieb. Grundsätzlich müssen wir dabei zwei Seiten der Medaille betrachten: wie wir KI-basierte Systeme oder Komponenten entwickeln ist die eine Seite davon, die andere ist aber wie KI uns in den verschiedenen Teilprozessen der Software-Entwicklung helfen könnte und die entstehenden Teilprodukte womöglich qualitativ verbessern können. Die Literatur und Erfahrungsberichte dazu sind mittlerweile vielfältig, dennoch bleiben grundlegende Fragen, denen wir uns insbesondere im Hinblick auf kritische Systeme widmen müssen, die wir z.B. im Bereich von Automobilen, Luftfahrt, medizinischer Diagnostik oder auch von predictive analytics mit Auswirklungen auf strategische und finanzielle Entscheidungen in Unternehmen finden. Die Veränderungen, die schon stattfinden, sind ebenso disruptive wie in anderen Bereichen der Digitalisierung. Um nur einige dieser Fragen sichtbar zu machen ein paar Beispiele:

• Wie können wir künftig Systeme testen, die KI-basierte Komponenten enthalten? Ein durchgängiger Unit-Level Test bis auf die Ebene von Bedingungsüberdeckungen wie zum Beispiel im Luftfahrtbereich für kritische Komponenten gefordert wird nicht möglich sein – aber was machen wir stattdessen? Sind Ansätze wie SOTIF (Safety Of The Intended Function), wie sie im Automobilbereich etabliert werden dafür ausreichend?
• Wenn wir KI-Werkzeuge zur Generierung von Anforderungen, Code oder Tests einsetzen – wie überprüfen wir dann, dass die Resultate auch den Qualitätsanforderungen entsprechen, insbesondere denen, die über die Korrektheit hinausgehen?
• Wie lassen sich die Anforderungen und Empfehlungen zum Einsatz KI-basierter Systeme umsetzen, wie sie aktuell von der EU oder spezieller dem BSI vorgegeben werden? Solche Anforderungen betreffen nicht nur technische, sondern u.a. auch rechtliche Aspekte, wie man schnell sieht, wenn man sich mit Anforderungen nach Fairness und Diskriminierungsfreiheit konfrontiert sieht.
• Wie integrieren wir die spezifischen KI-bezogenen Aspekte von Testen, XAI und Robustness, die im Rahmen von KI zT andere Bedeutung haben als die uns geläufigen in einen ganzheitlichen QS-Ansatz?

Wer beschäftigt sich heute und schon vorher mit solchen Aspekten? Ich möchte in meinem Vortrag und vor allem der Diskussion sichtbar machen, was heute schon passiert und wo es noch weiteren Handlungsbedarf gibt.