In dem Vortrag über Angriffe auf AI Systeme werden verschiedene Angriffsmöglichkeiten erklärt und im Anschluss deren Auswirkungen auf die Gesellschaft diskutiert. Folgende Punkte werden dabei behandelt: 1. **Direct Prompt Injection**: Dabei wird der KI ein Befehl oder eine Eingabeaufforderung gegeben, die sie direkt auffordert, eine verbotene Aktion durchzuführen oder sensible Informationen preiszugeben. Ein Benutzer könnte zum Beispiel versuchen, eine Eingabeaufforderung zu erstellen, die der KI vorgaukelt, dass sie sich in einem anderen Kontext befindet, in dem ihre üblichen Regeln nicht gelten. 2. **Contextual Manipulation**: In diesem Fall könnte der Angreifer eine Reihe scheinbar harmloser Aufforderungen verwenden, um das Gespräch allmählich in einen Kontext zu lenken, in dem die KI sensible Informationen preisgibt oder unerwünschte Aktionen durchführt. 3. **Adversarial Inputs**: Das sind Eingaben, die darauf abzielen, die KI zu verwirren oder in die Irre zu führen. Im Zusammenhang mit der Verarbeitung natürlicher Sprache kann dies bedeuten, dass Sätze so strukturiert werden, dass die KI sie falsch versteht oder falsch reagiert. 4. **Exploiting Model Biases**: Jedes KI-Modell kann auf der Grundlage seiner Trainingsdaten Verzerrungen aufweisen. Angreifer können diese Verzerrungen ausnutzen, um der KI bestimmte Antworten oder Verhaltensweisen zu entlocken. 5. **Data Poisoning**: Hierbei handelt es sich eher um eine langfristige Strategie, bei der der Angreifer versucht, den Trainingsprozess der KI zu beeinflussen, indem er verzerrte oder bösartige Daten einspeist, die zu fehlerhaftem Lernen und verzerrten Ergebnissen führen können. 6. **Evasion Techniques**: Hier geht es darum, Eingaben so zu gestalten, dass sie von den Schutzmechanismen der KI nicht erkannt werden. Zum Beispiel durch verschlüsselte Sprache oder indirekte Verweise, um Inhaltsfilter zu umgehen. Edgar R. Weippl ist Professor für Sicherheit und Datenschutz an der Universität Wien und Forschungsdirektor von SBA Research, Leiter des Christian Doppler Labors für Sicherheit und Qualitätsverbesserung in Produktionssystemen und Key Researcher für einen Bereich im Austrian Blockchain Center (ABC). Edgar konzentriert sich auf (1) Grundlagen- und angewandte Forschung zu Blockchain- und Distributed-Ledger-Technologien und (2) Sicherheit in der Produktionssystemtechnik. Er ist Mitglied des Editorial Board von IEEE Transactions on Information Forensics and Security (T-IFS) und der Zeitschrift Computers & Security (COSE) von Elsevier, war PC Chair von ESORICS 2015, General Chair von ACM CCS 2016 und PC Chair von SACMAT 2017 sowie General Chair von Euro S&P 2021. Nach dem Abschluss seines Doktoratsstudiums an der TU Wien arbeitete Edgar zwei Jahre lang in einem Forschungs-Startup. Er verbrachte ein Jahr als Assistenzprofessor in den USA. Von 2002 bis 2004 arbeitete er bei ISIS Papyrus als Berater in New York und für die Finanzindustrie in Frankfurt, Deutschland. Im Jahr 2004 wechselte er an die TU Wien und gründete gemeinsam mit A Min Tjoa und Markus Klemen das Forschungszentrum SBA Research. Im Jahr 2020 wurde Edgar Professor an der Universität Wien und Gastprofessor am National Institute of Informatics (NII), Tokio. Vortragende*r: Univ.-Prof. DI Mag. Dr. Edgar Weippl Gebühr: 7 € Anmeldung unter https://www.vhs.at/de/k/279675837 oder per Mail an mariahilf@vhs.at