Smartphones überlisten

DiBSE Projektforscher Martin Nocker als Speaker beim Pint of Science Festival in Innsbruck

Beim Pint of Science Festival wird Forschung im Gastlokal nebenan präsentiert. Mit dabei DiBSE Projektforscher Martin Nocker, der seine neuesten Erkenntnisse unter dem Motto: Cat or Guacamole? How to fool machines that we think of as 'intelligent' teilt.

Wussten Sie, dass Sie praktisch jeden Tag mehrere KI-Dienste (künstliche Intelligenz) nutzen? Ob Sie Netflix schauen, mit Siri oder Alexa sprechen oder Ihr Telefon mit Ihrem Gesicht entsperren. Alle diese Anwendungen haben gemeinsam, dass künstliche Intelligenz dahintersteckt. KI-Algorithmen sind bereits extrem leistungsfähig. Aber, vertrauen wir diesen Technologien zweifelsfrei?

Im Science Festival Vortrag von DiBSE Projektforscher Martin Nocker erfährt das Publikum nicht nur, wie einfach es ist, sogenannte "intelligente" Systeme zu täuschen, die zum Beispiel unsere zukünftigen Autos steuern sollen. Martin Nocker verrät auch, was wir gegen mögliche Attacken auf KI tun können.

Martin, was konkret haben nun aber Katzen und Guacamole mit KI zu tun?

Es ist relativ einfach, ein Bild einer Katze so zu manipulieren, dass es für Maschinen aussieht wie Guacamole, während Menschen keinen Unterschied erkennen können. Das kann zu sehr gefährlichen Situationen führen, wenn KI bspw. für sicherheitsrelevante Aufgaben zum Einsatz kommt. Zwar müssen selten Katzen von Guacamole unterschieden werden, jedoch können Straßenschilder von autonomen Fahrzeugen fehlinterpretiert werden. Auf ähnliche Weise können Smartphones ausgetrickst werden, indem Schwachstellen der Gesichtserkennung ausgenutzt werden.

Martin Nocker @nockermartin

Nach seinem Bachelorstudium der Informatik an der LFU Innsbruck wechselte Martin Nocker für das Masterstudium der Elektro- und Informationstechnik an die TU München. Zurück in Tirol sammelte er für zwei Jahre Berufserfahrung als Softwareentwickler. Seit Februar 2021 forscht Martin Nocker zusammen mit erfahrenen Expertinnen und Experten der Research Unit Digitale Transformation im Bereich maschinelles Lernen unter Wahrung der Vertraulichkeit von Daten.

Pint of Science…

… will Wissenschafterinnen und Wissenschafter aus den Laboren der Stadt heraus holen, um sie im Lokal nebenan ins wohlverdiente Rampenlicht zu rücken. Dort können sie allen Interessierten im gemütlichen Rahmen ihre Arbeit erklären, ihre neuesten Ergebnisse präsentieren sowie deren gesellschaftlichen Dimensionen diskutieren. Das Publikum braucht keine Fachkenntnisse - die Vorträge sind an die allgemeine Öffentlichkeit gerichtet und bieten allen die Möglichkeit, mit den Forscherinnen und Forschern in Kontakt zu kommen. Das Festival findet jährlich an drei Abenden im Mai statt - und das überall auf dem Globus, seit 2021 auch in Österreich, neben Innsbruck u.a. in Wien, Graz und Krems. Quelle: https://pintofscience.at/