Fortgeschrittene natürliche SprachverarbeitungModulbeschreibung #41270 / Version 1
- 6 LP
- Portfolioprüfung
- Benotet
- Wintersemester
- Englisch
| Modul / Version | #41270 / #1 |
|---|---|
| Gültigkeit | Seit WiSe 2025/26 |
| Verfügbare Sprache(n) | Englisch, Deutsch |
| Leistungspunkte | 6 |
| Modulverantwortliche*r | Möller, Sebastian |
| Benotung | Benotet |
| Prüfungsform | Portfolioprüfung |
| Lehrsprache(n) | Englisch |
Zugehörigkeit
| Fakultät | Fakultät IV |
|---|---|
| Institut | Institut für Softwaretechnik und Theoretische Informatik |
| Fachgebiet | 34355300 FG S-Professur Quality and Usability |
Kontakt
| Sekretariat | MAR 6-7 |
|---|---|
| Ansprechpartner*in | Jettkowski, Tobias |
| E-Mail-Adresse | module@qu.tu-berlin.de |
| Webseite | https://www.tu.berlin/qu/studium-und-lehre/lehrangebot |
Lernergebnisse
Nach erfolgreichem Abschluss dieses Moduls sind die Studierenden in der Lage:
- Zentrale Konzepte großer Sprachmodelle (LLMs), einschließlich Sprachmodellierung, Attention-Mechanismen, Transformer-Architekturen sowie Pre-Training, Fine-Tuning und Instruction Tuning zu beschreiben und zu analysieren;
- Fortgeschrittene Techniken wie Reinforcement Learning mit menschlichem Feedback (RLHF) und Retrieval-augmented Generation (RAG) zu erklären und deren Einsatzbereiche einzuschätzen;
- Die Funktionsweise von LLMs auf typische Aufgaben der natürlichen Sprachverarbeitung (z. B. Textgenerierung, Zusammenfassung, maschinelle Übersetzung, Konversationssysteme) anzuwenden und deren Eignung für spezifische Aufgaben zu beurteilen;
- Domänenspezifische Anwendungen, etwa im Gesundheitswesen, zu entwickeln und dabei Datenschutz-, Fairness- und Fehlinformationsaspekte zu berücksichtigen.
- Zentrale Konzepte großer Sprachmodelle (LLMs), einschließlich Sprachmodellierung, Attention-Mechanismen, Transformer-Architekturen sowie Pre-Training, Fine-Tuning und Instruction Tuning zu beschreiben und zu analysieren;
- Fortgeschrittene Techniken wie Reinforcement Learning mit menschlichem Feedback (RLHF) und Retrieval-augmented Generation (RAG) zu erklären und deren Einsatzbereiche einzuschätzen;
- Die Funktionsweise von LLMs auf typische Aufgaben der natürlichen Sprachverarbeitung (z. B. Textgenerierung, Zusammenfassung, maschinelle Übersetzung, Konversationssysteme) anzuwenden und deren Eignung für spezifische Aufgaben zu beurteilen;
- Domänenspezifische Anwendungen, etwa im Gesundheitswesen, zu entwickeln und dabei Datenschutz-, Fairness- und Fehlinformationsaspekte zu berücksichtigen.
Lehrinhalte
In diesem Kurs werden aktuelle grundlegende Themen der Verarbeitung natürlicher Sprache mit einem Schwerpunkt auf großen Sprachmodellen (LLMs) vermittelt. Die Inhalte umfassen zentrale Konzepte wie Sequenzmodellierung, Attention-Mechanismen, Transformer-Architekturen, Pre-Training und Fine-Tuning von LLMs, Prompting, Reinforcement Learning mit menschlichem Feedback (RLHF) sowie Retrieval-augmented Generation (RAG). Darüber hinaus werden verschiedene NLP-Aufgaben wie Textgenerierung, Zusammenfassung, maschinelle Übersetzung, Konversationssysteme, Informationsextraktion und domänenspezifische Anwendungen (z. B. im Gesundheitswesen) behandelt. Auch ethische und technische Fragestellungen wie Datenschutz, Fairness, Textanonymisierung und die Erkennung von Fehlinformationen sind Teil des Kurses.
Der Kurs beinhaltet praxisorientierte Projektarbeit, bei der die erlernten Methoden auf reale Anwendungsfälle angewendet werden. Daher werden Grundkenntnisse in Python-Programmierung, maschinellem Lernen und Natural Language Processing empfohlen.
Der Kurs beinhaltet praxisorientierte Projektarbeit, bei der die erlernten Methoden auf reale Anwendungsfälle angewendet werden. Daher werden Grundkenntnisse in Python-Programmierung, maschinellem Lernen und Natural Language Processing empfohlen.
Modulbestandteile
Pflichtbereich
Die folgenden Veranstaltungen sind für das Modul obligatorisch:
| Lehrveranstaltungen | Art | Nummer | Turnus | Sprache | SWS | VVZ |
|---|---|---|---|---|---|---|
| Advanced Natural Language Processing | Integrierte Veranstaltung | Wintersemester | [en] | 3 | WiSe 2026/27 (2) ISIS |
Veranstaltungen im Vorlesungsverzeichnis
Veranstaltungen, die aus den Lehrveranstaltungen dieses Moduls angelegt wurden.
WiSe 2026/27 (2)
Advanced Natural Language Processing (Integrierte Veranstaltung) 2
Arbeitsaufwand und Leistungspunkte
Advanced Natural Language Processing (Integrierte Veranstaltung)
| Aufwandbeschreibung | Multiplikator | Stunden | Gesamt |
|---|---|---|---|
| Präsenzzeit | 12 | 3 h | 36 h |
| Projekt | 3 | 20 h | 60 h |
| Vor-/Nachbereitung | 15 | 4 h | 60 h |
| 156 h | |||
Der Aufwand des Moduls summiert sich zu 156 Stunden. Damit umfasst das Modul 6 Leistungspunkte.
Beschreibung der Lehr- und Lernformen
Das Lernen mit den Online-Videos auf der Lernplattform, die Diskussion von Themen und das Stellen von Fragen im Forum sowie das Bearbeiten von Quizzen und Projekten.
Voraussetzungen für die Teilnahme / Prüfung
Wünschenswerte Voraussetzungen für die Teilnahme an den Lehrveranstaltungen:
Grundkenntnisse in Python-Programmierung, Natural Language Processing und maschinellem Lernen werden empfohlen.
Verpflichtende Voraussetzungen für die Modulprüfungsanmeldung:
Dieses Modul hat keine Prüfungsvoraussetzungen.
Abschluss des Moduls
| Benotung | Benotet |
|---|---|
| Prüfungsform | Portfolioprüfung |
| Art der Portfolioprüfung | 100 Punkte insgesamt |
| Sprache | Englisch |
Prüfungselemente
| Name | Punkte/Gewicht | Kategorie | Dauer/Umfang |
|---|---|---|---|
| (Punktuelle Leistungsabfrage) Schriftlicher Test | 40 | schriftlich | 60 Minuten |
| (Ergebnisprüfung) Projektergebnisse | 60 | praktisch | ca. 20 Seiten |
Dauer des Moduls
Für Belegung und Abschluss des Moduls ist folgende Semesteranzahl veranschlagt: 1 Semester.
Dieses Modul kann in folgenden Semestern begonnen werden: Wintersemester.
Maximale teilnehmende Personen
Die maximale Teilnehmerzahl beträgt 50.
Anmeldeformalitäten
Kontaktieren sie den Kursleiter
Literaturhinweise, Skripte
Skript in Papierform
nicht verfügbar
Skript in elektronischer Form
nicht verfügbar
Empfohlene Literatur
Keine empfohlene Literatur angegeben
Zugeordnete Studiengänge
Diese Modulversion wird in folgenden Studiengängen verwendet:
| Studiengang / StuPO | Semester | Studiengangsbereich |
|---|---|---|
| Computer Engineering StuPO 2015 | WiSe 2025/26 | Wahlpflicht Studiengebiete Fak. IV › Medientechnik und Mensch-Maschine-Interaktion / Digital Media and Human-Computer Interaction |
| SoSe 2026 | Wahlpflicht Studiengebiet B › Medientechnik und Mensch-Maschine-Interaktion / Digital Media und Human-Computer Interaction | |
| WiSe 2026/27 | Wahlpflichtbereich › Studiengebiet A › Medientechnik und Mensch-Maschine-Interaktion / Digital Media and Human-Computer Interaction | |
| Computer Science (Informatik) StuPO 2015 | WiSe 2025/26 | Wahlpflicht Studiengebiete Fak. IV › Medientechnik und Mensch-Maschine-Interaktion / Digital Media and Human-Computer Interaction |
| SoSe 2026 | Studiengebiete › Medientechnik und Mensch-Maschine-Interaktion / Digital Media und Human-Computer Interaction | |
| WiSe 2026/27 | Wahlpflichtbereich › Studiengebiet › Medientechnik und Mensch-Maschine-Interaktion / Digital Media und Human-Computer Interaction | |
| Elektrotechnik StuPO 2015 | WiSe 2025/26 | Wahlpflicht Studiengebiete Fak. IV › Medientechnik und Mensch-Maschine-Interaktion / Digital Media and Human-Computer Interaction |
| SoSe 2026 | Wahlpflicht Studiengebiete Fak. IV › Medientechnik und Mensch-Maschine-Interaktion / Digital Media and Human-Computer Interaction | |
| WiSe 2026/27 | Wahlpflichtbereich › Studiengebiete Fak. IV › Medientechnik und Mensch-Maschine-Interaktion / Digital Media and Human-Computer Interaction | |
| Medieninformatik StuPO 2017 | WiSe 2025/26 | Wahlpflichtbereich › Technische Profilbereiche (A) › Profilbereich Mensch-Maschine-Interaktion |
| SoSe 2026 | Wahlpflichtbereich › Technische Profilbereiche (A) › Profilbereich Mensch-Maschine-Interaktion | |
| WiSe 2026/27 | Wahlpflichtbereich › Technische Profilbereiche (A) › Mensch-Maschine-Interaktion | |
| Medientechnik StuPO 2022 | WiSe 2025/26 | Wahlpflicht weitere Profibereiche › weiterer Profilbereich Mensch-Maschine-Interaktion |
| SoSe 2026 | Wahlpflichtbereich Profilbereiche › Profilbereich Mensch-Maschine-Interaktion | |
| WiSe 2026/27 | Wahlpflichtbereich › Profilbereich › Mensch-Maschine-Interaktion |
Sonstiges
Keine Angabe