MCI-Projektforscher als Speaker auf ICMLT in Stockholm

Mit zwei Konferenzbeiträgen repräsentierte Martin Nocker in Schweden die Research Unit Digitale Transformation

Die achte Auflage der ICMLT International Conference on Machine Learning Technologies fand Mitte März in Stockholm statt. Ziel der Konferenz ist es, die nächste Generation von Forscher:innenn zu motivieren, ihre Interessen im Bereich des Maschinellen Lernens zu fördern. Dabei wird der neueste technische Stand erörtert und die jüngsten Trends in Forschung und Anwendung von Machine Learning aufgegriffen.

Für Martin Nocker, Projektforscher des Departments Digital Business & Software Engineering, bot sich auf der ICMLT die Gelegenheit, gleich zwei seiner neuesten Publikationen zu präsentieren:

Der erste inhaltliche Block galt dem Thema: HE-MAN – Homomorphically Encrypted MAchine Learning with oNnx Models

Machine Learning (ML) Algorithmen sind Stand heute entscheidend für den Erfolg von vielen Produkten, jedoch zögern Menschen durchaus nachvollziehbar, sensible Daten mit ML-Anbietern zu teilen. Vollständig homomorphe Verschlüsselung (Fully Homomorphic Encryption, FHE) ist eine vielversprechende Technik, die ML Anwendungen unter Verwendung sensibler Daten ermöglicht, ohne die Privatsphäre zu gefährden oder das zugrundeliegende Modell preiszugeben. Jedoch sind bestehende FHE-Implementierungen nicht benutzerfreundlich. Hier setzt unsere Implementierung „HE-MAN“ an. HE-MAN ist ein Open-Source-Toolset, welches maschinelles Lernen mit sensiblen Daten ermöglicht, indem Daten mittels FHE vor unbefugtem Zugriff geschützt werden. Zugleich werden kryptografische Details abstrahiert, sodass keine FHE-Kenntnisse der Benutzer:innen erforderlich sind. Die Evaluierung zeigt, dass HE-MAN Genauigkeiten knapp unter jenen von Berechnungen auf Klartext aufweist, jedoch auf Kosten erhöhter Laufzeit.

Originaltitel des 2. Talks: On the Effect of Adversarial Training Against Invariance-based Adversarial Examples

Sogenannte Adversarial Examples (zu deutsch “feindliche Beispiele”) tricksen Klassifizierer des maschinellen Lernens aus. Dabei kann man diese in zwei Arten kategorisieren: sensitivitätsbasierte und invarianzbasierte Adversarial Examples. Sensitivitätsbasierte Beispiele fügen Bildern für Menschen nicht wahrnehmbare Änderungen hinzu, sodass der Klassifizierer „getäuscht“ wird und sich dessen Resultat ändert. Im Gegensatz dazu ändert sich bei invarianzbasierte Beispielen die Wahrnehmung von Menschen, jedoch nicht die des Machine Learning Modells. Adversarial Training kann Klassifikatoren gegen beide Arten robuster machen. In dieser Arbeit werden die bisher unerforschten Auswirkungen von Adversarial Training unter Verwendung invarianzbasierter Adversarial Examples untersucht.

Martin Nocker unterstreicht: „Konferenzen wie bspw. die ICMLT geben uns Wissenschafter:innen die Möglichkeit, unsere Ideen und Forschungsergebnisse zu präsentieren, uns auszutauschen und mögliche Chancen für eine künftige Zusammenarbeit mit verschiedensten Stakeholdern, sei es Industriellen, Akademiker:innen und anderen Fachleuten aus aller Welt, zu entwickeln. Das schätze ich an derartigen Formaten und freue mich, jedes Mal aufs Neue über eine Teilnahme!“