5. Forschungstag IT-Sicherheit NRW - Thema: IT-Sicherheit für Maschinelles Lernen und Künstliche Intelligenz

Als Teil der weiter voranschreitenden Globalisierung und Digitalisierung vernetzt sich unsere Welt immer schneller: Unternehmen, Privatpersonen, Maschinen und Computer sind vernetzter denn je. Selbstfahrende Autos, "intelligente" Häuser und Service-Roboter sind nur einige Beispiele für neuartige, autonome Systeme. Sie sind lernfähig, entwickeln sich kontinuierlich weiter und treffen sogar in unvorhergesehen Situationen eigene Entscheidungen, die auch sicherheitskritisch sein können. Diese Fortschritte im Bereich der Künstlichen Intelligenz - insbesondere dem Maschinellen Lernen - stellt die IT-Sicherheitsforschung vor viele neue Herausforderungen. Das Bedrohungspotential für autonome System ist groß, vor allem da sich die Angriffspunkte vervielfachen und die zu verarbeitenden Datenmengen erhöhen. Ein Angriffspotenzial liegt zum Beispiel in den Mechanismen zur Wahrnehmung der Außenwelt, da das System über diese Art Input manipulierbar ist. Wie kann die Datenqualität durch das autonome System richtig beurteilt werden und wie kann verhindert werden, dass eine falsche Umgebung dem selbstlernenden System vorgetäuscht oder gelehrt wird?

Autonome Systeme haben ein ausgeprägtes Verständnis der eigenen Aufgabe und Fähigkeiten selbstständig Handlungsentscheidungen zu treffen. Es besteht die Gefahr, dass ein nicht-intendiertes Außerkraftsetzen der IT-Sicherheit die Sicherheit der Nutzer und Produktionsabläufe gefährdet. Durch das hohe Maß an Eigenständigkeit und Flexibilität bieten autonome Systeme bislang unbekannte und unerforschte Einfallstore von außen. Es stellen sich zum Beispiel die Fragen, wie die autonomen Systeme die Qualität der Daten richtig beurteilen können und wie selbstlernende Systeme vor simulierten oder manipulierten Außeninformationen geschützt werden können.

weitere Informationen:

www.forschungstag-it-sicherheit.nrw