3,1 Status Quo 
Zi Fraunhofer Zi Fraunhofer 
CML 160 
werden, um entsprechende Verbesserungen zu tätigen. Beim Betrieb eines KIl-Modells spielt die Beobachtung des 
Modellverhaltens in seiner Umgebung eine zentrale Rolle. Für Modelle, die auf Online-Training setzen gilt dies, weil 
ihr Modellverhalten mit der Zeit veränderlich ist. Abgesehen davon gilt für alle Modelle, dass ihre Umgebung nicht 
statisch ist, sondern sich mit der Zeit verändert und dies Auswirkung auf das Modellverhalten haben kann. Am 
Ende des Lebenszyklus findet die Außerbetriebnahme des Modells statt. 
Die Phasen im LZM werden in diesem Qualitätsmetamodell darüber hinaus aus den folgenden Perspektiven 
betrachtet: 
e Risiko (niedrige oder hohe Risikobeurteilung) 
e Ebene (Umgebung, Plattform, Daten, Model) 
e Qualität (Funktionalität und Performanz, Robustheit, Nachvollziehbarkeit) 
Das Dokument DIN SPEC 92001-2 nutzt dieses Qualitätsmetamodell und beschreibt darauf basierend qualitäts- 
sichernde Prozesse, die den Lebenszyklusphasen und den betrachteten Perspektiven zugeordnet werden [BI]. 
Vergleichbar mit den DIN SPEC zum Qualitätsmetamodell wird im Leitfaden zur Gestaltung vertrauenswürdiger 
Kl ein Prüfkatalog eingeführt [BE]. Dieser Prüfkatalog umfasst Maßnahmen zur Prüfung einer Kl-Anwendung hin- 
sichtlich sechs Dimensionen entlang des Lebenszyklus einer Kl-Anwendung. Beim Lebenszyklus wird zwischen den 
folgenden Phasen unterschieden: 
e Daten 
e Entwicklung und Modellbildung der KI-Komponente 
e Einbettung 
e Betrieb der Kl-Anwendung 
Bei den Dimensionen, denen die Maßnahmen zugeordnet werden, handelt es sich um folgende: 
® Fairness 
® Autonomie und Kontrolle 
e Transparenz 
e Verlässlichkeit 
e Sicherheit 
e Datenschutz 
Diese Dimensionen lassen sich mit den Qualitätsmerkmalen des LZM aus [Z9, BI] vergleichen, wobei sie in 
diesem Leitfaden breiter und detaillierter aufgefasst werden. 
Der technische Bericht ISO/IEC TR 29119-11 [BI] befasst sich mit den Herausforderungen bei der Prüfung von 
verschiedenen KlI-basierten Systemen. Hierfür werden zunächst die Grundlagen von KlI-basierten Systemen ein- 
geführt und anschließend um ihre spezifischen Charakteristika erweitert. Basierend auf den Charakteristika von 
Kl-basierten Systemen, werden ihre Herausforderungen hinsichtlich ihrer Prüfung abgeleitet und mögliche Prü- 
Fungsansätze vorgeschlagen. 
In DIN SPEC 13266 wird ein Leitfaden spezifisch für die Entwicklung von DL-basierten Bilderkennungssystem 
vorgestellt [BZ]. In Anlehnung an den in DIN SPEC 92001-1 [ZI] eingeführten Lebenszyklus bildet der Leitfaden 
Prozesse innerhalb der Phasen Konzeption, Entwicklung und Inbetriebnahme ab. 
Der internationale Standard ISOAEC IS 22989 gibt einen breiten Überblick über KI im Allgemeinen [BA]. Dabei 
werden verschiedene Konzepte behandelt, beispielsweise die Unterscheidung zwischen starker und schwacher Kl, 
Konzepte aus dem Bereich ML und soziale, Juristische oder organisatorische Fragestellungen wie beispielsweise 
Vertrauenswürdigkeit von Kl. 
Der internationale Standard ISO/IEC IS 23053 gibt einen Überblick über ML-basierte KI [BA]. Hierfür werden aus 
diesem Bereich grundlegende Begriffe eingeführt, um ein entsprechendes System, seine Komponenten sowie Funk- 
tionen beschreiben zu können. Dabei wird auf ein Entwicklungs- oder Prüfkonzept verzichtet. Auf Messmethoden 
der Leistungsfähigkeit wird beschränkt eingegangen. 
Bei der technischen Spezifikation ISO/IEC TS 4213 handelt es sich um ein spezifischeres Dokument, als ISOAEC 
23053 [BG]. Es werden vorwiegend Methoden zur Messung der Leistungsfähigkeit von ML-basierten Klassifie- 
rungssystemen, zu denen auch Objekterkennungs- und -segmentierungssysteme zählen.