Zum Inhalt springen
Technische Universität Berlin English
Vorlesungsverzeichnis und Modultransfersystem

Architecture of Machine Learning SystemsModulbeschreibung #41078 / Version 2

← Zur Modulseite English version
Modul / Version#41078 / #2
GültigkeitSeit SoSe 2025
Verfügbare Sprache(n)Englisch
Leistungspunkte6
Modulverantwortliche*rBöhm, Matthias
BenotungBenotet
PrüfungsformSchriftliche Prüfung
Lehrsprache(n)Englisch

Zugehörigkeit

FakultätFakultät IV
InstitutInstitut für Softwaretechnik und Theoretische Informatik
Fachgebiet34352900 FG Big Data Engineering

Kontakt

SekretariatKeine Angabe
Ansprechpartner*inBöhm, Matthias
E-Mail-Adressematthias.boehm@tu-berlin.de
WebseiteKeine Angabe

Lernergebnisse

Machine learning (ML) applications profoundly transform our lives, and many domains such as health care, finance, media, transportation, production, and information technology itself. In a narrow sense, ML systems are software systems underpinning theses ML applications. However, in a broad sense, ML systems comprise the entire systems from ML applications, over the compiler/runtime stack, to the underlying heterogeneous hardware devices.

The overall objective of this module is to provide a holistic overview of the architecture, internals, and important concepts of modern (large-scale) ML systems. To this end, students acquire important competencies related to ML systems:
O1: Understanding of the characteristics of ML systems and alternatives, which enables a better evaluation and usage of such systems
O2: Understanding of effective techniques related to ML systems, which enables building and extending ML and data systems

Lehrinhalte

This module covers the architecture and essential concepts of modern machine learning (ML) systems for both local and large-scale machine learning. These architectures include systems for data-parallel execution, parameter servers, ML lifecycle systems, and the integration of ML into database systems. The covered topics focus both on a microscopic view of internal compilation, execution, and data management techniques, as well as a macroscopic view of end-to-end ML pipelines. In detail, the module covers the following topics which also reflect the lecture calendar (with a separate 90-120min lecture per topic):

A: Overview and ML System Internals
01 Introduction and Overview
02 Languages, Architectures, and System Landscape
03 Size Inference, Rewrites, and Operator Selection
04 Operator Fusion and Runtime Adaptation
05 Data- and Task-Parallel Execution
06 Parameter Servers
07 Hybrid Execution and HW Accelerators
08 Caching, Partitioning, Indexing and Compression

B: ML Lifecycle Systems
09 Data Acquisition, Cleaning, and Preparation
10 Model Selection and Management
11 Model Debugging, Fairness, and Explainability
12 Model Serving Systems and Techniques

The module contains both lectures and exercises/programming projects which are offered as separate courses in order to increase flexibility.

Modulbestandteile

Pflichtbereich

Die folgenden Veranstaltungen sind für das Modul obligatorisch:

LehrveranstaltungenArtNummerTurnusSpracheSWSVVZ
Architecture of Machine Learning SystemsÜbung Sommersemester[en]2 ISIS
Architecture of Machine Learning SystemsVorlesung Sommersemester[en]3 ISIS

Arbeitsaufwand und Leistungspunkte

Architecture of Machine Learning Systems (Übung)

AufwandbeschreibungMultiplikatorStundenGesamt
Präsenzzeit32 h6 h
Vor-/Nachbereitung180 h80 h
86 h

Architecture of Machine Learning Systems (Vorlesung)

AufwandbeschreibungMultiplikatorStundenGesamt
Exam Preparation130 h30 h
Präsenzzeit153 h45 h
Vor-/Nachbereitung151 h15 h
90 h

Der Aufwand des Moduls summiert sich zu 176 Stunden. Damit umfasst das Modul 6 Leistungspunkte.

Beschreibung der Lehr- und Lernformen

This module combines traditional lectures (on ML system internals and ML lifecycle systems), supporting examples of open source ML systems, as well as practical exercises/projects on related topics. For the practical part, teams of 1-3 students can pick one of two alternatives:
a) Contribution of a unique feature to an open-source ML system (from a list of project proposals), or
b) Alternative exercise on data-centric ML pipelines from data preparation, over model building, tuning, and parallelization, to model debugging

Voraussetzungen für die Teilnahme / Prüfung

Wünschenswerte Voraussetzungen für die Teilnahme an den Lehrveranstaltungen:

Completed bachelor degree
Completed basic courses on applied machine learning, data management, and distributed systems

Verpflichtende Voraussetzungen für die Modulprüfungsanmeldung:

Die Prüfungsvoraussetzungen konnten nicht abgerufen werden.

Abschluss des Moduls

BenotungBenotet
PrüfungsformSchriftliche Prüfung
SpracheEnglisch
Dauer/Umfang90min

Dauer des Moduls

Für Belegung und Abschluss des Moduls ist folgende Semesteranzahl veranschlagt: 1 Semester.

Dieses Modul kann in folgenden Semestern begonnen werden: Sommersemester.

Maximale teilnehmende Personen

Die maximale Teilnehmerzahl beträgt 250.

Anmeldeformalitäten

Registration in ISIS and exercise/project selection within the first 4 weeks of the semester.

Literaturhinweise, Skripte

Skript in Papierform

nicht verfügbar

Skript in elektronischer Form

verfügbar – https://mboehm7.github.io/teaching/ss22_amls/index.htm

Empfohlene Literatur

  • Matthias Boehm, Arun Kumar, Jun Yang: Data Management in Machine Learning Systems. Synthesis Lectures on Data Management, Morgan & Claypool Publishers 2019

Zugeordnete Studiengänge

Diese Modulversion wird in folgenden Studiengängen verwendet:

Studiengang / StuPOSemesterStudiengangsbereich
Computer Engineering
StuPO 2015
SoSe 2025Wahlpflicht Studiengebiete Fak. IV › Verteilte Systeme und Netze / Distributed Systems and Networks
WiSe 2025/26Wahlpflicht Studiengebiet B › Verteilte Systeme und Netze / Distributed Systems and Networks
SoSe 2026Wahlpflicht Studiengebiet B › Verteilte Systeme und Netze / Distributed Systems and Networks
WiSe 2026/27Wahlpflichtbereich › Studiengebiet B › Verteilte Systeme und Netze / Distributed Systems and Networks
Computer Science (Informatik)
StuPO 2015
SoSe 2025Wahlpflicht Studiengebiete Fak. IV › Kognitive Systeme / Cognitive Systems
WiSe 2025/26Studiengebiete › Data and Software Engineering / Data and Software Engineering
SoSe 2026Studiengebiete › Verteilte Systeme und Netze / Distributed Systems and Networks
WiSe 2026/27Wahlpflichtbereich › Studiengebiet › Verteilte Systeme und Netze / Distributed Systems and Networks
Elektrotechnik
StuPO 2015
SoSe 2025Wahlpflicht Studiengebiete Fak. IV › Verteilte Systeme und Netze / Distributed Systems and Networks
WiSe 2025/26Wahlpflicht Studiengebiete Fak. IV › Data and Software Engineering / Data and Software Engineering
SoSe 2026Wahlpflicht Studiengebiete Fak. IV › Data and Software Engineering / Data and Software Engineering
WiSe 2026/27Wahlpflichtbereich › Studiengebiete Fak. IV › Data and Software Engineering / Data and Software Engineering
Information Systems Management (Wirtschaftsinformatik)
StuPO 2017
SoSe 2025Wahlpflichtbereich › Fachstudium Informatik › Verteilte Systeme und Netze / Distributed Systems and Networks
WiSe 2025/26Wahlpflichtbereich › Fachstudium Informatik › Verteilte Systeme und Netze / Distributed Systems and Networks
SoSe 2026Wahlpflichtbereich › Fachstudium Informatik › Data and Software Engineering
WiSe 2026/27Wahlpflichtbereich › Fachstudium Informatik › Verteilte Systeme und Netze / Distributed Systems and Networks
Wirtschaftsingenieurwesen
StuPO 2026
WiSe 2026/27Ingenieurwissenschaften / Studienrichtungen › AI Engineering › Data and Software Engineering

Sonstiges

Zuordnung Master:

Studiengebiete
Verteilte Systeme und Netze
Data und Software Eng.
Kognitive Systeme