Systeme Künstlicher Intelligenz (KI) spielen in vielen Bereichen eine immer wichtigere Rolle. Zentrales Element dieser Technologie ist das sogenannte Machine Learning. Die Komplexität der Prozesse dahinter stellt bisher eine große Hürde für deren Einsatz in sicherheitsrelevanten Bereichen wie etwa im Gesundheits- oder Automotive-Bereich dar. Gemeinsam mit dem Partner Incenda AI GmbH haben die Experten von TÜV SÜD nun einen zuverlässigen Machine Learning Lifecycle im White Paper „A reliable AI data labeling process“ beschrieben. Der Fokus: Datenqualität und -sicherheit im Labeling-Prozess. Das Dossier steht im Internet zum kostenlosen Download bereit.
„Bisher weiß man nur sehr wenig darüber, wie KI-Systeme genau lernen. Sie können eigene Rückschlüsse ziehen und treffen autonome Entscheidungen. Die Prozesse dahinter werden noch nicht ganz verstanden. Mit unserem White Paper zeigen wir den gesamten Lifecycle maschinellen Lernens und definieren einen Labeling-Prozess – ein wichtiger Beitrag für die weitere wissenschaftliche Entwicklung und Diskussion rund um ein besseres Verständnis der Lernprozesse und hierdurch für mehr Prozess- und Datensicherheit. Damit präsentieren wir den ersten frei verfügbaren und zuverlässigen Prozess in diesem Bereich“, sagt Dr. Patrick Scharpfenecker, Senior Expert Artificial Intelligence bei TÜV SÜD. Am Beispiel automatisiertes Fahren zeigt sich ganz plakativ, worum es in der Praxis geht. Denn es muss sichergestellt sein, dass diese Autos am Ende auch korrekt im Sinne der Verkehrssicherheit reagieren. Die Prüfung solcher Systeme stellt eine besondere Herausforderung dar. Das White Paper „A reliable AI data labeling process“ zeigt den gesamten Machine Learning Lifecycle von der Planung und Entwicklung überwachten Lernens solcher Systeme bis hin zu deren Stilllegung.
Wissen, warum das Auto bremst
Stichwort: automatisiertes Fahren. KI-Systeme finden immer mehr Eingang in die Elektronik autonomer Fahrzeuge, um die enorme Zahl möglicher Verkehrssituationen sicher meistern zu können. Wie schwierig es ist, Methoden für die Sicherheit von Systemen mit Künstlicher Intelligenz zu entwickeln, liegt auf der Hand. Denn die KI-Systeme ziehen ihre eigenen Schlüsse aus den vorhandenen Daten und lernen beim Trainieren von Verkehrssituationen jedes Mal neu dazu. Die Sicherheit, dass das Fahrzeug richtig reagiert, wird dadurch kontinuierlich höher.
Das White Paper trägt hier maßgeblich dazu bei, die Entwicklungsprozesse des maschinellen Lernens zu verstehen. Zentrales Element der Forschungsarbeit ist der Blick auf den Labeling-Prozess, durch den sich die eingesetzte Künstliche Intelligenz iterativ selbst verbessern kann. Der Aufwand für händisches Labeln von Daten wird dadurch deutlich reduziert. Die Bewertung, ob Daten zu guten oder zu schlechten Ergebnissen in der Entwicklung geführt haben, ist fester Bestandteil der integrierten Qualitätsoptimierung des vorgestellten Prozesses. Dazu Christian Pahlke, Head of Software & Systems Quality bei TÜV SÜD: „Wir müssen genau verstehen, was beim Machine Learning passiert. Denn nur dann können wir eingreifen und das Lernen gezielt steuern. Wir müssen nicht nur wissen, ob ein Fahrzeug bremst, sondern auch warum.“
Offene Plattform für OEM, Zulieferer und Technologieunternehmen
Das White Paper ist gemeinsam mit dem Partner Incenda AI GmbH im Rahmen des Forschungsprojekts openGENESIS erarbeitet worden. Hier erforschen die Partner das Lernverhalten von KI-Systemen, um deren Reaktionen kontrollieren zu können. Kernstück ist die Entwicklung einer offenen Plattform für OEM, Zulieferer und Technologieunternehmen.
Download-Link für das White Paper: https://wiki.eclipse.org/OpenGENESIS_WG#A_reliable_AI_data_labeling_process Weitere Infos zu TÜV SÜD unter https://www.tuvsud.com/de.
„Bisher weiß man nur sehr wenig darüber, wie KI-Systeme genau lernen. Sie können eigene Rückschlüsse ziehen und treffen autonome Entscheidungen. Die Prozesse dahinter werden noch nicht ganz verstanden. Mit unserem White Paper zeigen wir den gesamten Lifecycle maschinellen Lernens und definieren einen Labeling-Prozess – ein wichtiger Beitrag für die weitere wissenschaftliche Entwicklung und Diskussion rund um ein besseres Verständnis der Lernprozesse und hierdurch für mehr Prozess- und Datensicherheit. Damit präsentieren wir den ersten frei verfügbaren und zuverlässigen Prozess in diesem Bereich“, sagt Dr. Patrick Scharpfenecker, Senior Expert Artificial Intelligence bei TÜV SÜD. Am Beispiel automatisiertes Fahren zeigt sich ganz plakativ, worum es in der Praxis geht. Denn es muss sichergestellt sein, dass diese Autos am Ende auch korrekt im Sinne der Verkehrssicherheit reagieren. Die Prüfung solcher Systeme stellt eine besondere Herausforderung dar. Das White Paper „A reliable AI data labeling process“ zeigt den gesamten Machine Learning Lifecycle von der Planung und Entwicklung überwachten Lernens solcher Systeme bis hin zu deren Stilllegung.
Wissen, warum das Auto bremst
Stichwort: automatisiertes Fahren. KI-Systeme finden immer mehr Eingang in die Elektronik autonomer Fahrzeuge, um die enorme Zahl möglicher Verkehrssituationen sicher meistern zu können. Wie schwierig es ist, Methoden für die Sicherheit von Systemen mit Künstlicher Intelligenz zu entwickeln, liegt auf der Hand. Denn die KI-Systeme ziehen ihre eigenen Schlüsse aus den vorhandenen Daten und lernen beim Trainieren von Verkehrssituationen jedes Mal neu dazu. Die Sicherheit, dass das Fahrzeug richtig reagiert, wird dadurch kontinuierlich höher.
Das White Paper trägt hier maßgeblich dazu bei, die Entwicklungsprozesse des maschinellen Lernens zu verstehen. Zentrales Element der Forschungsarbeit ist der Blick auf den Labeling-Prozess, durch den sich die eingesetzte Künstliche Intelligenz iterativ selbst verbessern kann. Der Aufwand für händisches Labeln von Daten wird dadurch deutlich reduziert. Die Bewertung, ob Daten zu guten oder zu schlechten Ergebnissen in der Entwicklung geführt haben, ist fester Bestandteil der integrierten Qualitätsoptimierung des vorgestellten Prozesses. Dazu Christian Pahlke, Head of Software & Systems Quality bei TÜV SÜD: „Wir müssen genau verstehen, was beim Machine Learning passiert. Denn nur dann können wir eingreifen und das Lernen gezielt steuern. Wir müssen nicht nur wissen, ob ein Fahrzeug bremst, sondern auch warum.“
Offene Plattform für OEM, Zulieferer und Technologieunternehmen
Das White Paper ist gemeinsam mit dem Partner Incenda AI GmbH im Rahmen des Forschungsprojekts openGENESIS erarbeitet worden. Hier erforschen die Partner das Lernverhalten von KI-Systemen, um deren Reaktionen kontrollieren zu können. Kernstück ist die Entwicklung einer offenen Plattform für OEM, Zulieferer und Technologieunternehmen.
Download-Link für das White Paper: https://wiki.eclipse.org/OpenGENESIS_WG#A_reliable_AI_data_labeling_process Weitere Infos zu TÜV SÜD unter https://www.tuvsud.com/de.
