Fairness, Rechenschaftspflicht und Transparenz beim maschinellen LernenModulbeschreibung #40994 / Version 2
- 6 LP
- Portfolioprüfung
- Benotet
- Winter- und Sommersemester
- Englisch
| Modul / Version | #40994 / #2 |
|---|---|
| Gültigkeit | Seit SoSe 2025 |
| Verfügbare Sprache(n) | Englisch, Deutsch |
| Leistungspunkte | 6 |
| Modulverantwortliche*r | Berendt, Bettina |
| Benotung | Benotet |
| Prüfungsform | Portfolioprüfung |
| Lehrsprache(n) | Englisch |
Zugehörigkeit
| Fakultät | Fakultät IV |
|---|---|
| Institut | Institut für Telekommunikationssysteme |
| Fachgebiet | 34332900 FG Internet und Gesellschaft |
Kontakt
| Sekretariat | HFT 8 |
|---|---|
| Ansprechpartner*in | Hanslik, Lelia Friederike |
| E-Mail-Adresse | sekretariat@ias.tu-berlin.de |
| Webseite | https://www.tu.berlin/ias/studium-lehre/lehrveranstaltungen |
Lernergebnisse
Am Ende des Kurses werden die Studierenden in der Lage sein:
- Unterschiedliche Narrative und Konzepte rund um Machine Learning / KI zu erklären und zu verstehen, wie sie aktuelle Forschungsrichtungen und Implementierungen beeinflussen.
- Situationen und soziotechnische Systeme zu identifizieren, in denen automatisierte Entscheidungsfindung legitim ist und wo nicht.
- Wichtige Metriken zu Fairness und Bias sowie Strategien zur Bias-Minderung in der algorithmischen Entscheidungsfindung und NLP zu diskutieren und anzuwenden, einschließlich der Erklärung des Fairness-Unmöglichkeitstheorems.
- Transparenzmaßnahmen wie Modell- und Dokumentationsmethoden für Daten zu verstehen und Transparenztechniken wie interpretierbare ML-Methoden anzuwenden, um Entscheidungsprozesse von Modellen und NLP zu analysieren.
- Konzepte der Verantwortlichkeit zu erklären und aktuelle Bemühungen in der EU zur Regulierung von KI / ML zu benennen.
- Konzepte von FAccT-ML anzuwenden, um soziotechnische Systeme zu analysieren und zu bewerten und Audit-Studien durchführen zu können.
- Unterschiedliche Narrative und Konzepte rund um Machine Learning / KI zu erklären und zu verstehen, wie sie aktuelle Forschungsrichtungen und Implementierungen beeinflussen.
- Situationen und soziotechnische Systeme zu identifizieren, in denen automatisierte Entscheidungsfindung legitim ist und wo nicht.
- Wichtige Metriken zu Fairness und Bias sowie Strategien zur Bias-Minderung in der algorithmischen Entscheidungsfindung und NLP zu diskutieren und anzuwenden, einschließlich der Erklärung des Fairness-Unmöglichkeitstheorems.
- Transparenzmaßnahmen wie Modell- und Dokumentationsmethoden für Daten zu verstehen und Transparenztechniken wie interpretierbare ML-Methoden anzuwenden, um Entscheidungsprozesse von Modellen und NLP zu analysieren.
- Konzepte der Verantwortlichkeit zu erklären und aktuelle Bemühungen in der EU zur Regulierung von KI / ML zu benennen.
- Konzepte von FAccT-ML anzuwenden, um soziotechnische Systeme zu analysieren und zu bewerten und Audit-Studien durchführen zu können.
Lehrinhalte
Maschinelle Lernsysteme (ML) und Systeme für algorithmische Entscheidungsfindung (ADM) werden in immer mehr Kontexten eingesetzt. Diese Systeme filtern, sortieren, empfehlen und personalisieren Inhalte/Daten. Sie werden zunehmend auch in Entscheidungsprozessen verwendet, die erhebliche Auswirkungen auf das Leben von Individuen und somit auf die Gesellschaft haben, wie etwa beim Zugang zu Krediten, Versicherungen, Gesundheitsversorgung, Bewährung und Einwanderung.
Dieser Kurs konzentriert sich auf die informatischen und sozialen Perspektiven sowie Methoden zur Analyse und Bewertung von automatisierter Entscheidungsfindung und ML-Systemen und deren Auswirkungen. Zu den im Kurs behandelten Konzepten zählen Biases und Fairness, Transparenzmaßnahmen wie Erklärbarkeit, Interpretierbarkeit und Dokumentation von ML-Systemen sowie die Bewertung und Auditierung solcher Systeme.
Zusammengefasst werden im Kurs folgende Themen behandelt:
- Überblick über das Feld „Fairness, Verantwortlichkeit und Transparenz (FAccT) im Maschinellen Lernen“
- Narrative rund um maschinelles Lernen, soziotechnische Systeme und die Legitimität automatisierter Entscheidungsfindung
- Begriffe von Fairness, Bias und Fairness-Metriken sowie Methoden zur Bias-Minderung
- Fairness und NLP
- Transparenz (Erklärbarkeit, Interpretierbarkeit, Dokumentation etc.)
- Interpretierbarkeit und NLP
- Verantwortlichkeit (Verantwortungen, Audit-Studien, EU-Regulierung, Lieferkette für ML)
Dieser Kurs konzentriert sich auf die informatischen und sozialen Perspektiven sowie Methoden zur Analyse und Bewertung von automatisierter Entscheidungsfindung und ML-Systemen und deren Auswirkungen. Zu den im Kurs behandelten Konzepten zählen Biases und Fairness, Transparenzmaßnahmen wie Erklärbarkeit, Interpretierbarkeit und Dokumentation von ML-Systemen sowie die Bewertung und Auditierung solcher Systeme.
Zusammengefasst werden im Kurs folgende Themen behandelt:
- Überblick über das Feld „Fairness, Verantwortlichkeit und Transparenz (FAccT) im Maschinellen Lernen“
- Narrative rund um maschinelles Lernen, soziotechnische Systeme und die Legitimität automatisierter Entscheidungsfindung
- Begriffe von Fairness, Bias und Fairness-Metriken sowie Methoden zur Bias-Minderung
- Fairness und NLP
- Transparenz (Erklärbarkeit, Interpretierbarkeit, Dokumentation etc.)
- Interpretierbarkeit und NLP
- Verantwortlichkeit (Verantwortungen, Audit-Studien, EU-Regulierung, Lieferkette für ML)
Modulbestandteile
Pflichtbereich
Die folgenden Veranstaltungen sind für das Modul obligatorisch:
| Lehrveranstaltungen | Art | Nummer | Turnus | Sprache | SWS | VVZ |
|---|---|---|---|---|---|---|
| Fairness, Accountability, and Transparency in Machine Learning (FAccT-ML) | Integrierte Veranstaltung | Sommersemester | [en] | 4 | ISIS |
Arbeitsaufwand und Leistungspunkte
Fairness, Accountability, and Transparency in Machine Learning (FAccT-ML) (Integrierte Veranstaltung)
| Aufwandbeschreibung | Multiplikator | Stunden | Gesamt |
|---|---|---|---|
| Präsenzzeit | 15 | 4 h | 60 h |
| Vor-/Nachbereitung | 15 | 8 h | 120 h |
| 180 h | |||
Der Aufwand des Moduls summiert sich zu 180 Stunden. Damit umfasst das Modul 6 Leistungspunkte.
Beschreibung der Lehr- und Lernformen
Der Kurs wird als „integriertes Präsenzlernen“ angeboten und umfasst Vorlesungen, Leseaufgaben, studentische Präsentationen und praktische Übungen im Labor. Die Studierenden sind angehalten, sich durch intensives Selbststudium aktueller Literatur vertieftes Wissen zu ausgewählten Aspekten anzueignen.
Voraussetzungen für die Teilnahme / Prüfung
Wünschenswerte Voraussetzungen für die Teilnahme an den Lehrveranstaltungen:
Die Studierenden haben entweder Machine Learning 1 oder 2, Machine Intelligence 1 oder 2 oder gleichwertige ML- oder Data-Science-Kurse abgeschlossen. Sie verfügen über ausreichende Englischkenntnisse (mindestens CEFRL-Niveau B2 oder gleichwertig), um Diskussionen zu Informatik- und interdisziplinären Themen zu folgen und daran teilzunehmen, wissenschaftliche Artikel zu lesen und wissenschaftliche Essays zu schreiben.
Verpflichtende Voraussetzungen für die Modulprüfungsanmeldung:
Dieses Modul hat keine Prüfungsvoraussetzungen.
Abschluss des Moduls
| Benotung | Benotet |
|---|---|
| Prüfungsform | Portfolioprüfung |
| Art der Portfolioprüfung | 100 Punkte insgesamt |
| Sprache | Englisch |
Prüfungselemente
| Name | Punkte/Gewicht | Kategorie | Dauer/Umfang |
|---|---|---|---|
| Hausarbeiten | 40 | schriftlich | 3 Hausarbeiten |
| Projekt-Implementierung | 30 | praktisch | 6 Wochen Projekt |
| Projektpräsentation | 30 | mündlich | 20 min |
Prüfungsbeschreibung (Abschluss des Moduls)
In den ersten zwei Dritteln des Semesters werden 5-7 kleine Prüfungen durchgeführt, die sowohl theoretische Tests als auch praktische Hausaufgaben umfassen können. Im letzten Drittel des Semesters arbeiten die Studierenden an einem Praxisprojekt, um ihr Verständnis der FAccT-ML-Prinzipien zu demonstrieren, indem sie diese zur Analyse eines realen soziotechnischen Systems anwenden. Dieses Projekt endet mit einer benoteten Präsentation.
Dauer des Moduls
Für Belegung und Abschluss des Moduls ist folgende Semesteranzahl veranschlagt: 1 Semester.
Dieses Modul kann in folgenden Semestern begonnen werden: Winter- und Sommersemester.
Maximale teilnehmende Personen
Die maximale Teilnehmerzahl beträgt 30.
Anmeldeformalitäten
Das Anmeldeverfahren wird veröffentlicht und auf der ergänzenden Webseite dieses Moduls verfügbar gemacht.
Literaturhinweise, Skripte
Skript in Papierform
nicht verfügbar
Skript in elektronischer Form
verfügbar – Fariness: https://fairmlbook.org/
Empfohlene Literatur
Keine empfohlene Literatur angegeben
Zugeordnete Studiengänge
Diese Modulversion wird in folgenden Studiengängen verwendet:
| Studiengang / StuPO | Semester | Studiengangsbereich |
|---|---|---|
| Computer Engineering StuPO 2015 | SoSe 2025 | Wahlpflicht Studiengebiete Fak. IV › Kognitive Systeme / Cognitive Systems |
| WiSe 2025/26 | Wahlpflicht Studiengebiet B › Kognitive Systeme / Cognitive Systems | |
| SoSe 2026 | Wahlpflicht Studiengebiet B › Kognitive Systeme / Cognitive Systems | |
| WiSe 2026/27 | Wahlpflichtbereich › Studiengebiet B › Kognitive Systeme / Cognitive Systems | |
| Computer Science (Informatik) StuPO 2015 | SoSe 2025 | Wahlpflicht Studiengebiete Fak. IV › Kognitive Systeme / Cognitive Systems |
| WiSe 2025/26 | Studiengebiete › Kognitive Systeme / Cognitive Systems | |
| SoSe 2026 | Studiengebiete › Kognitive Systeme / Cognitive Systems | |
| WiSe 2026/27 | Wahlpflichtbereich › Studiengebiet › Kognitive Systeme / Cognitive Systems | |
| Elektrotechnik StuPO 2015 | SoSe 2025 | Wahlpflicht Studiengebiete Fak. IV › Kognitive Systeme / Cognitive Systems |
| WiSe 2025/26 | Wahlpflicht Studiengebiete Fak. IV › Kognitive Systeme / Cognitive Systems | |
| SoSe 2026 | Wahlpflicht Studiengebiete Fak. IV › Kognitive Systeme / Cognitive Systems | |
| WiSe 2026/27 | Wahlpflichtbereich › Studiengebiete Fak. IV › Kognitive Systeme / Cognitive Systems | |
| Information Systems Management (Wirtschaftsinformatik) StuPO 2017 | SoSe 2025 | Wahlpflichtbereich › Fachstudium Wirtschaftsinformatik › Informationssysteme / Information Systems |
| WiSe 2025/26 | Wahlpflichtbereich › Fachstudium Wirtschaftsinformatik › Informationssysteme / Information Systems | |
| SoSe 2026 | Wahlpflichtbereich › Fachstudium Wirtschaftsinformatik › Informationssysteme / Information Systems | |
| WiSe 2026/27 | Wahlpflichtbereich › Fachstudium Wirtschaftsinformatik › Informationssysteme / Information Systems | |
| Wirtschaftsingenieurwesen StuPO 2026 | WiSe 2026/27 | Ingenieurwissenschaften / Studienrichtungen › AI Engineering › Cognitive Systems |
Sonstiges
Die Materialien werden ab Beginn des Semesters online bereitgestellt.