3.1 Status Quo 
Rahmen für Datenbeschaffung, 
Entwicklung und Prüfung im Kontext 
sicherheitskritischer Objekterkennung 
» 
4 
u: 
Sesetzliche Anforderungen 
an Datenmanagement und 
Entwicklung 
Lebenszyklen-Prozesse und 
Qualitätsanforderungen 
DINSSPEUSZU0 FR 
ande rim 
KXonsistente Konzepte für 
zntwicklung und Prüfung 
BE Le PT 
Robustheit 
al 
Ze 
Anwendungsbeispiele für, 
jenerische und spezifische 
Ratrarhtung | 
Maßnahmen zur 
Prüfung von KI- | 
Anwendunger 
be LE 
Entwürfe, Richtlinien, 
Spezifikationen und 
Standards über: 
ı allgemein: KI und MI 
spezifisch: ML-basierte 
Klassifizierung oder 
Bilderkennung 
IUCN A = A a & 
EEE 
Zi Fraunhofer ZZ Fraunhofer 
CML 160 
>nhwickeln Lind Tasten 
5, 
„ s 
7. 
FSU Tale WOEK ZA 
4 & 
reis NE! 
En 
Rus R REDET, 
dE WEISE 
141: L- 
Ai 
B Sad ARE, 
a Ce N 
ES 
Abbildung 1: Ontologische Darstellung zu gesichteten Dokumenten. 
In der Studie VerifAl werden in den aktuellen Prüf- und Zulassungsprozessen für Kl-basierte Schiffstechnologien 
Handlungsbedarfe identifiziert [ZI]. Diese Handlungsbedarfe zielen darauf ab die Lücke zu schließen, welche durch 
den Fortschritt von Kl-basierten Schiffstechnologien auf der einen Seite und fehlender Prüf- und Zulassungsprozesse 
auf der anderen Seite entsteht. Aus der Studie geht insbesondere hervor, dass die Verwendung von Kamerasys- 
*emen in Kl-basierten Schiffstechnologien weit verbreitet ist, wenngleich hierfür noch keine dedizierten Prüf- und 
Zulassungsprozesse existieren. Damit ist die Relevanz der Bewertung von Algorithmen für nautische Anwendun- 
gen (BAnA) offensichtlich. Bei der Prüfung der Schiffstechnologien soll demnach der Fokus auf der Beantwortung 
der Frage ob und nicht wie das vorliegende System funktioniert. Die Prüfprozesse hierfür sollen einem modellag- 
nostischen Ansatz folgen, um verschiedenartige KI-Modelle einheitlich prüfen zu können. Ferner wird in VerifAl 
vorgeschlagen augmentierte oder gänzlich synthetische Testdaten bei der Prüfung zu verwenden. Dies hat den 
Vorteil, dass Testdaten ziel- und anwendungsorientiert beschaffen werden und so dass keine Testdaten aus der 
Entwicklung verwendet werden. 
In DIN SPEC 92001-1 wird ein Qualitätsmetamodell vorgestellt [ZI], anhand welchem relevante Qualitätssiche- 
rungsprozesse entlang des Lebenszyklus (Life Cycle) einer KI im allgemeinen abgeleitet werden. Dieses Lebenszy- 
klusmodell (LZM) stammt aus dem System- und Software-Ingenieurswesen (Vgl. ISO/ECAEEE 12207:2017 [BIA)). Als 
Lebenszyklusphasen werden folgende aus dem Englischen übersetzten Begriffe eingeführt: 
1. Konzeption (Concept) 
2. Entwicklung (Development) 
3. Inbetriebnahme (Deployment) 
4. Betrieb (Operation) 
5. Außerbetriebnahme (Retirement) 
Die erste Lebenszyklusphase, Konzeption, beinhaltet alle Schritte, die vor der eigentlichen Entwicklung eines Kl- 
Modells stattfinden. Dies ist insbesondere die Problemdefinition sowie Evaluation geeigneter Modelle. Darüber hin- 
aus sollten für Qualitätssicherungszwecke Akzeptanzkriterien definiert werden. Diese Schritte decken sich mit der 
Formalisierung als Teil des Sicherheitskonzepts in der Studie VerifAl. In der nächsten Lebenszyklusphase findet die 
eigentliche Entwicklung statt. Klassische Schritte dieser Phase, die aus dem System- und Software-Ingenieurswesen 
stammen, sind System-Design, Prototypen-Entwicklung, Implementation und Integration. Im Kl-Kontext kommen 
bei datengetriebenen Lösungen noch spezifische Schritte hinzu, beispielsweise Datenbeschaffung und -analyse. 
Bei Expertensystemen werden in dieser Phase Regeln oder Regelsysteme formuliert. Am Ende dieser Phase wird 
ain Modell samt Hyperparametern gewählt, welches das zuvor definierte Problem löst und die Akzeptanzkriterien 
erfüllt. In der dritten Phase, der Inbetriebnahme, wird das KI-Modell in die vorgesehene Umgebung übertragen und 
darin gegebenenfalls nachtrainiert. In dieser Phase stellt sich heraus, wie das Modell unter Realbedingungen agiert. 
Falls die Erwartungen an das Modell nicht erfüllt werden, kann im Lebenszyklus zur Entwicklung zurückgekehrt