Zi Fraunhofer Zi Fraunhofer 
CML 160 
Leitfaden zur Entwicklung sicherheitskritischer 
Deep-Learning-Anwendungen 
Das Kapitel zum Leitfaden zur Entwicklung sicherheitskritischer Deep-Learning-Anwedungen besteht aus zwei Ab- 
schnitten. Zunächst wird der aktuelle Stand behandelt, welcher insbesondere durch Veröffentlichungen von den 
Einrichtungen Deutsches Institut für Normung (DIN) oder Internationale Organisation für Normung (ISO) abgebildet 
wird. Anschließend werden die für diese Studie relevanten Maßnahmen zusammengefasst und, sofern notwendig, 
ergänzt. 
3 
3.1 Status Quo 
Im Rahmen der Studie sind mehrere Dokumente auf Anwendbarkeit bei der Entwicklung von DL-basierten, sicher- 
heitskritischen Objekterkennungs- und -segmentierungssystemen untersucht worden. Dabei handelt es sich um 
folgende Dokumente: 
e VerifAl, Studie zur zielbasierten Standardisierung in der Prüfung und Zulassung intelligenter Entscheidungs- 
einrichtungen von teilautonomen Überwasserfahrzeugen [23] 
» DIN SPEC 92001-1:2019-04, Künstliche Intelligenz - Life Cycle Prozesse und Qualitätsanforderungen - Teil 1: 
Qualitäts-Meta-Modell [29] 
» DIN SPEC 92001-2:2020-12, Künstliche Intelligenz - Life Cycle Prozesse und Qualitätsanforderungen - Teil 2: 
Robustheit [BY] 
* Leitfaden zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz [BY] 
e DIN SPEC 13266:2020-04, Leitfaden für die Entwicklung von Deep-Learning-Bilderkennungssystemen [BA] 
» ISOAEC Technical Report 29119-11, Software and systems engineering - Software testing - Part 11: Guidelines 
on the testing of Al-based systems [BA] 
» ISOAEC International Standard 22989: Information Technology - Artificial Intelligence - Artificial Intelligence 
Concepts and Terminology [PA] 
» |SOAEC International Standard 23053:2022-06, Framework for Artificial Intelligence (Al) Systems Using Ma- 
chine Learning (ML) [BY] 
» ISOAEC Technical Specification 4213, Information technology - Artificial intelligence - Assessment of machine 
‚earning classification performance [E94] 
® |SOAEC Technical Report 24030, Information Technology - Artificial Intelligence (Al) - Use Cases [BA 
Diese Dokumente bearbeiten das Themenfeld KI aus unterschiedlichen Perspektiven und betrachten Fragestel- 
lung allgemein ohne konkreten Kontext- oder Anwendungsbezug bis hin zu sehr spezifisch im Bereich Objekterken- 
nung und -segmentierung unter Verwendung von mit DL entwickelten Modellen. In Abbildung [] auf der nächsten 
Seite wird die Ontologie dieser Dokumente dargestellt.