Adversarial Machine LearningModulbeschreibung #41117 / Version 1
- 6 LP
- Schriftliche Prüfung
- Benotet
- Wintersemester
- Englisch
| Modul / Version | #41117 / #1 |
|---|---|
| Gültigkeit | Seit WiSe 2023/24 |
| Verfügbare Sprache(n) | Englisch |
| Leistungspunkte | 6 |
| Modulverantwortliche*r | Rieck, Konrad |
| Benotung | Benotet |
| Prüfungsform | Schriftliche Prüfung |
| Lehrsprache(n) | Englisch |
Zugehörigkeit
| Fakultät | Fakultät IV |
|---|---|
| Institut | Institut für Softwaretechnik und Theoretische Informatik |
| Fachgebiet | 34353000 FG Maschinelles Lernen und IT-Sicherheit |
Kontakt
| Sekretariat | Keine Angabe |
|---|---|
| Ansprechpartner*in | Rieck, Konrad |
| E-Mail-Adresse | rieck@tu-berlin.de |
| Webseite | https://mlsec.tu-berlin.de |
Lernergebnisse
Nach Abschluss des Modules haben die Studierenden ein umfassendes Verständnis von Angriffen und Verteidigungsmaßnahmen im Bereich des maschinellen Lernens. Sie sind in der Lage, Sicherheitsziele zu definieren, Bedrohungen zu formalisieren und Schwachstellen bei der Anwendung von Lernalgorithmen zu identifizieren. Sie kennen die Funktionsprinzipien von Angriffsarten und können diese auf neue Domänen übertragen. Zu diesen Angriffsarten gehören Adversarial Examples, Poisoning, Backdoors sowie Inferenzangriffe. Sie können Abwehrmechanismen, wie z.B. Adversarial Training, zertifizierte Robustheit und Angriffserkennung anwenden. Schließlich sind sich die Studierenden der ethischen Implikationen von Adversarial Learning bewusst und verstehen dessen Auswirkungen auf Gesellschaft und Politik.
Lehrinhalte
Die Vorlesung behandelt klassische und aktuelle Themen im Bereich des Adversarial Machine Learning. Diese Themen umfassen
- White-Box- und Black-Box-Bedrohungsmodelle
- Techniken für die Erzeugung von Adversarial Examples
- Poisoning- und Backdoor-Angriffe
- Membership-Inferenz und Modellextraktion
- Problemraum-Angriffe und Angriffe in strukturierten Domänen
- Adversial Preprocessing
- Gegenmaßnahmen und Abwehrmechanismen
- Methoden zur Erkennung von Angriffen und Hintertüren
- Prinzipien der Versuchsplanung
- White-Box- und Black-Box-Bedrohungsmodelle
- Techniken für die Erzeugung von Adversarial Examples
- Poisoning- und Backdoor-Angriffe
- Membership-Inferenz und Modellextraktion
- Problemraum-Angriffe und Angriffe in strukturierten Domänen
- Adversial Preprocessing
- Gegenmaßnahmen und Abwehrmechanismen
- Methoden zur Erkennung von Angriffen und Hintertüren
- Prinzipien der Versuchsplanung
Modulbestandteile
Pflichtbereich
Die folgenden Veranstaltungen sind für das Modul obligatorisch:
| Lehrveranstaltungen | Art | Nummer | Turnus | Sprache | SWS | VVZ |
|---|---|---|---|---|---|---|
| Adversarial Machine Learning | Integrierte Veranstaltung | Wintersemester | [en] | 4 | WiSe 2026/27 (2) ISIS |
Veranstaltungen im Vorlesungsverzeichnis
Veranstaltungen, die aus den Lehrveranstaltungen dieses Moduls angelegt wurden.
WiSe 2026/27 (2)
Adversarial Machine Learning (Integrierte Veranstaltung) 2
- Adversarial Machine Learning (Integrierte Veranstaltung) Adversarial Machine Learning (Exercise)
- Adversarial Machine Learning (Integrierte Veranstaltung) Adversarial Machine Learning (Lecture)
Arbeitsaufwand und Leistungspunkte
Adversarial Machine Learning (Integrierte Veranstaltung)
| Aufwandbeschreibung | Multiplikator | Stunden | Gesamt |
|---|---|---|---|
| Präsenzzeit | 15 | 4 h | 60 h |
| Vor-/Nachbereitung | 15 | 4 h | 60 h |
| Übungsaufgaben | 10 | 4 h | 40 h |
| Klausurvorbereitung | 1 | 20 h | 20 h |
| 180 h | |||
Der Aufwand des Moduls summiert sich zu 180 Stunden. Damit umfasst das Modul 6 Leistungspunkte.
Beschreibung der Lehr- und Lernformen
Dieser integrierte Kurs besteht aus einer Vorlesung in Kombination mit Übungsaufgaben. Letztere erfordern das selbständige Lösen von Programmieraufgaben unter Anleitung.
Voraussetzungen für die Teilnahme / Prüfung
Wünschenswerte Voraussetzungen für die Teilnahme an den Lehrveranstaltungen:
- Sehr gute Kenntnisse des maschinellen Lernens
- Empfohlen: Programmierkenntnisse in Python
- Hilfreich, aber nicht zwingend erforderlich: Grundkenntnisse in IT-Sicherheit
- Empfohlen: Programmierkenntnisse in Python
- Hilfreich, aber nicht zwingend erforderlich: Grundkenntnisse in IT-Sicherheit
Verpflichtende Voraussetzungen für die Modulprüfungsanmeldung:
Dieses Modul hat keine Prüfungsvoraussetzungen.
Abschluss des Moduls
| Benotung | Benotet |
|---|---|
| Prüfungsform | Schriftliche Prüfung |
| Sprache | Englisch |
| Dauer/Umfang | 90 minutes |
Dauer des Moduls
Für Belegung und Abschluss des Moduls ist folgende Semesteranzahl veranschlagt: 1 Semester.
Dieses Modul kann in folgenden Semestern begonnen werden: Wintersemester.
Maximale teilnehmende Personen
Dieses Modul ist nicht auf eine Anzahl Studierender begrenzt.
Anmeldeformalitäten
Eine Anmeldung ist nicht erforderlich aber hilfreich zur Planung. Eine Anmeldung zum Kurs ist auf der Lehrplattform ISIS möglich.
Literaturhinweise, Skripte
Skript in Papierform
nicht verfügbar
Skript in elektronischer Form
nicht verfügbar
Empfohlene Literatur
Keine empfohlene Literatur angegeben
Zugeordnete Studiengänge
Diese Modulversion wird in folgenden Studiengängen verwendet:
| Studiengang / StuPO | Semester | Studiengangsbereich |
|---|---|---|
| Computer Engineering StuPO 2015 | SoSe 2025 | Wahlpflicht Studiengebiete Fak. IV › Medientechnik und Mensch-Maschine-Interaktion / Digital Media and Human-Computer Interaction |
| WiSe 2025/26 | Wahlpflicht Studiengebiet B › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| SoSe 2026 | Wahlpflicht Studiengebiet B › Medientechnik und Mensch-Maschine-Interaktion / Digital Media und Human-Computer Interaction | |
| WiSe 2026/27 | Wahlpflichtbereich › Studiengebiet B › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| Computer Science (Informatik) StuPO 2015 | SoSe 2025 | Wahlpflicht Studiengebiete Fak. IV › Medientechnik und Mensch-Maschine-Interaktion / Digital Media and Human-Computer Interaction |
| WiSe 2025/26 | Studiengebiete › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| SoSe 2026 | Studiengebiete › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| WiSe 2026/27 | Wahlpflichtbereich › Studiengebiet › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| Elektrotechnik StuPO 2015 | SoSe 2025 | Wahlpflicht Studiengebiete Fak. IV › Medientechnik und Mensch-Maschine-Interaktion / Digital Media and Human-Computer Interaction |
| WiSe 2025/26 | Wahlpflicht Studiengebiete Fak. IV › Medientechnik und Mensch-Maschine-Interaktion / Digital Media and Human-Computer Interaction | |
| SoSe 2026 | Wahlpflicht Studiengebiete Fak. IV › Medientechnik und Mensch-Maschine-Interaktion / Digital Media and Human-Computer Interaction | |
| WiSe 2026/27 | Wahlpflichtbereich › Studiengebiete Fak. IV › Medientechnik und Mensch-Maschine-Interaktion / Digital Media and Human-Computer Interaction | |
| Information Systems Management (Wirtschaftsinformatik) StuPO 2017 | SoSe 2025 | Wahlpflichtbereich › Fachstudium Informatik › Verteilte Systeme und Netze / Distributed Systems and Networks |
| WiSe 2025/26 | Wahlpflichtbereich › Fachstudium Informatik › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| SoSe 2026 | Wahlpflichtbereich › Fachstudium Informatik › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| WiSe 2026/27 | Wahlpflichtbereich › Fachstudium Informatik › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| Medieninformatik StuPO 2017 | SoSe 2025 | Wahlpflichtbereich › Technische Profilbereiche (A) › Profilbereich Mensch-Maschine-Interaktion |
| WiSe 2025/26 | Wahlpflichtbereich › Technische Profilbereiche (A) › Profilbereich Mensch-Maschine-Interaktion | |
| SoSe 2026 | Wahlpflichtbereich › Technische Profilbereiche (A) › Profilbereich Mensch-Maschine-Interaktion | |
| WiSe 2026/27 | Wahlpflichtbereich › Technische Profilbereiche (A) › Mensch-Maschine-Interaktion | |
| Medientechnik StuPO 2022 | WiSe 2026/27 | Wahlpflichtbereich › weitere Profibereiche › Mensch-Maschine-Interaktion |
| Wirtschaftsingenieurwesen StuPO 2026 | WiSe 2026/27 | Ingenieurwissenschaften / Studienrichtungen › Software Systems Engineering › Distributed Systems and Networks |
Sonstiges
Keine Angabe