Das Bundesamt für Sicherheit in der Informationstechnik (BSI) und das Technologieunternehmen ZF haben in den vergangen zwölf Monaten im gemeinsamen Projekt AIMobilityAuditPrep Konzepte und Methoden zur Prüfung der IT-Sicherheit von KI-Systemen in Kraftfahrzeugen erarbeitet.
Basierend auf wissenschaftlichen Erkenntnissen und bestehenden Standards wurden 50 technisch relevante Anforderungen an KI-Systeme zusammengestellt, eine erweiterbare Testumgebung für KI-Systeme entwickelt sowie die grundsätzliche Machbarkeit und praktische Umsetzbarkeit der Tests anhand ausgewählter Anwendungsfälle in einer Simulation demonstriert.
Mit dem Folgeprojekt AIMobilityAudit soll die praktische Umsetzung von Sicherheits-Checks für KI beim automatisierten Fahren vorangetrieben werden. Dabei werden konkrete Prüfkriterien und Handlungsempfehlungen erarbeitet, die künftig u.a. in die Entwicklung von Sicherheitstests für Kraftfahrzeuge einfließen sollen. Bis September 2024 wird das AI Lab von ZF das Projekt in Zusammenarbeit mit dem BSI als Auftraggeber umsetzen. Als weiterer Projektpartner ist die TÜV Informationstechnik GmbH (TÜVIT) eingebunden, ein auf IT-Sicherheit spezialisiertes Unternehmen der TÜV NORD GROUP.
Aufbauend auf den Ergebnissen des Vorprojekts sollen im nun gestarteten Projekt AIMobilityAudit die Erprobung und Weiterentwicklung von Anforderungen, Methoden und Werkzeugen gezielt an zwei Use Cases durchgeführt werden. Ziel ist es, auf Basis der gewonnenen Erkenntnisse eine modulare technische Richtlinie zu erstellen. Die Arbeiten an der technischen Richtlinie sollen im kommenden Jahr aufgenommen werden. Sie kann dann beispielsweise als Grundlage für eine internationale Standardisierung bzw. Abstimmung, u.a. auf Ebene des UNECE World Forum for Harmonization of Vehicle Regulations, genutzt werden.
„Künstliche Intelligenz ist eine Schlüsseltechnologie für hochautomatisiertes Fahren“, sagt Dr. Georg Schneider, Leiter des ZF AI Labs am Standort Saarbrücken. „Um die enormen Chancen nutzen zu können, müssen wir uns auch sorgfältig mit den möglichen Risiken auseinandersetzen. Unser Anliegen bei ZF ist es, den Einsatz von künstlicher Intelligenz für die Mobilität der Zukunft nachvollziehbar, sicher und in jeder Beziehung vertrauenswürdig zu gestalten.“
“IT-Sicherheit als Grundvoraussetzung für eine vertrauenswürdige Digitalisierung muss auch für den Einsatz von KIhinreichend garantiert werden. Aktuell sind hierfür benötigte Informationen, Methoden und praktisch einsetzbare Werkzeuge jedoch nicht hinreichend verfügbar. Das BSI hat als Thought Leader im Bereich IT-Sicherheit einerseits die Aufgabe, die Risiken des Einsatzes dieser neuen Technologie und deren Absicherungsmöglichkeiten frühzeitig zu untersuchen, und andererseits als Dienstleister von Behörden, Gesellschaft und Industrie die Aufgabe, frühzeitig an der Übertragung von Forschungsergebnissen in die Praxis und an der Erstellung von Handlungsempfehlungen und Richtlinien mitzuwirken. Hierfür essentiell ist ein enger Austausch mit Forschung, Industrie und Behörden, wie im vorliegenden gemeinsamen Projekt mit ZF und TÜVIT für das automatisierte Fahren“, betont Arndt von Twickel, Projektleiter im BSI.
Quelle: BSI
- Cyber Security Bericht 2024 – Handlungsempfehlung nach BSI IT-Grundschutz
- BSI und ZF entwickeln Sicherheits-Check für Künstliche Intelligenz im Automobil
- BSI-Lagebericht 2022: Gefährdungslage im Cyber-Raum hoch wie nie
- BSI bestätigt Sicherheitseigenschaften von iPhone und iPad
- BSI führt Zertifizierung für 5G-Komponenten ein
- BSI erteilt erste IT-Sicherheitskennzeichen für Breitbandrouter
- BSI warnt vor Einsatz der Virenschutzsoftware des Unternehmens Kaspersky
- BSI empfiehlt Unternehmen, Organisationen und Behörden ihre Sicherheitsmaßnahmen zu erhöhen.
- IT – Security | BSI warnt vor Einsatz von iOS-App „Mail“
- BSI-Infopaket: Sicher vernetzt in Corona-Zeiten
- Internet Security – BSI zertifiziert technische Sicherheitseinrichtungen für Kassensysteme
- Cyber Sicherheit – BSI führt IT-Grundschutz-Testat nach Basis-Absicherung ein
- Cyber Sicherheit – BSI warnt vor gezielten Ransomware-Angriffen auf Unternehmen