Information Theory and ApplicationsModulbeschreibung #40981 / Version 1
- 6 LP
- Portfolioprüfung
- Benotet
- Sommersemester
- Englisch
| Modul / Version | #40981 / #1 |
|---|---|
| Gültigkeit | Seit SoSe 2020 |
| Verfügbare Sprache(n) | Englisch |
| Leistungspunkte | 6 |
| Modulverantwortliche*r | Caire, Giuseppe |
| Benotung | Benotet |
| Prüfungsform | Portfolioprüfung |
| Lehrsprache(n) | Englisch |
Zugehörigkeit
| Fakultät | Fakultät IV |
|---|---|
| Institut | Institut für Telekommunikationssysteme |
| Fachgebiet | 34331600 FG Theoretische Grundlagen der Kommunikationstechnik |
Kontakt
| Sekretariat | HFT 6 |
|---|---|
| Ansprechpartner*in | Caire, Giuseppe |
| E-Mail-Adresse | caire@tu-berlin.de |
| Webseite | http://www.commit.tu-berlin.de |
Lernergebnisse
In this Lecture + Exercises course the students will be exposed to state of the art research papers and will have to prepare a project including
reading and understanding, doing some Matlab or Pyton implementation (independent project work) and preparing a final oral presentation.
reading and understanding, doing some Matlab or Pyton implementation (independent project work) and preparing a final oral presentation.
Lehrinhalte
Information Theory (VL)
- Definition and main properties of entropy, cross-entropy (information divergence) and mutual information
- Fundamental Limits of data compression;
- Fundamental Limits of Data Transmission and Channel capacity;
- Fundamental limits of source compression (rate-distortion theory);
- Multiple Access Channel and Broadcast Channels as models for the uplink and downlink of wireless networks
- Coping with interference
- Relaying networks
- Definition and main properties of entropy, cross-entropy (information divergence) and mutual information
- Fundamental Limits of data compression;
- Fundamental Limits of Data Transmission and Channel capacity;
- Fundamental limits of source compression (rate-distortion theory);
- Multiple Access Channel and Broadcast Channels as models for the uplink and downlink of wireless networks
- Coping with interference
- Relaying networks
Modulbestandteile
Pflichtbereich
Die folgenden Veranstaltungen sind für das Modul obligatorisch:
Arbeitsaufwand und Leistungspunkte
Information Theory and Applications (Vorlesung)
| Aufwandbeschreibung | Multiplikator | Stunden | Gesamt |
|---|---|---|---|
| Präsenzzeit | 15 | 2 h | 30 h |
| Examination preparation | 1 | 30 h | 30 h |
| Pre/post processing | 15 | 2 h | 30 h |
| 90 h | |||
Information Theory and Applications (Übung)
| Aufwandbeschreibung | Multiplikator | Stunden | Gesamt |
|---|---|---|---|
| Präsenzzeit | 15 | 2 h | 30 h |
| Examination preparation | 1 | 30 h | 30 h |
| Pre/post processing | 15 | 2 h | 30 h |
| 90 h | |||
Der Aufwand des Moduls summiert sich zu 180 Stunden. Damit umfasst das Modul 6 Leistungspunkte.
Beschreibung der Lehr- und Lernformen
The first component of the module consists of conventional frontal teaching in class,
developing theoretical and mathematical concepts, exercises developed in class,
in order to develop problem-solving skills and reinforce comprehension of the theory,
proposed homework exercises in order to develop independent and autonomous thinking skills in the students.
The second component of the module consists of independent reading and project work development, and
preparation of a scientific presentation, training the students to develop independent thinking, spirit of initiative,
and ability to present their findings in a scientific conference-like environment.
developing theoretical and mathematical concepts, exercises developed in class,
in order to develop problem-solving skills and reinforce comprehension of the theory,
proposed homework exercises in order to develop independent and autonomous thinking skills in the students.
The second component of the module consists of independent reading and project work development, and
preparation of a scientific presentation, training the students to develop independent thinking, spirit of initiative,
and ability to present their findings in a scientific conference-like environment.
Voraussetzungen für die Teilnahme / Prüfung
Wünschenswerte Voraussetzungen für die Teilnahme an den Lehrveranstaltungen:
Students must have taken the module Foundations of Stochastic Processes (40256). Special permission can be granted on a case by case basis.
In this case, students should contact directly Prof. Caire.
In this case, students should contact directly Prof. Caire.
Verpflichtende Voraussetzungen für die Modulprüfungsanmeldung:
Dieses Modul hat keine Prüfungsvoraussetzungen.
Abschluss des Moduls
| Benotung | Benotet |
|---|---|
| Prüfungsform | Portfolioprüfung |
| Art der Portfolioprüfung | 100 Punkte insgesamt |
| Sprache | Englisch |
Prüfungselemente
| Name | Punkte/Gewicht | Kategorie | Dauer/Umfang |
|---|---|---|---|
| (Examination) Midterm test | 20 | schriftlich | 60 minutes |
| (Examination) Final test | 30 | schriftlich | 60 minutes |
| (Deliverable assessment) Project presentation and oral discussion | 50 | mündlich | 30 minutes |
Prüfungsbeschreibung (Abschluss des Moduls)
The final grade according to § 47 (2) AllgStuPO will be calculated according to Notenschlüssel 3 of Faculty IV.
Dauer des Moduls
Für Belegung und Abschluss des Moduls ist folgende Semesteranzahl veranschlagt: 1 Semester.
Dieses Modul kann in folgenden Semestern begonnen werden: Sommersemester.
Maximale teilnehmende Personen
Dieses Modul ist nicht auf eine Anzahl Studierender begrenzt.
Anmeldeformalitäten
The examination registration is running with Qispos.
Literaturhinweise, Skripte
Skript in Papierform
nicht verfügbar
Skript in elektronischer Form
verfügbar – The script is provided in ISIS
Empfohlene Literatur
- T. Cover and J. Thomas, Elements of Information Theory, 2nd Ed., Wiley Interscience, 2006.
- El Gamal, Abbas, and Young-Han Kim. Network information theory. Cambridge University Press, 2011.
Zugeordnete Studiengänge
Diese Modulversion wird in folgenden Studiengängen verwendet:
| Studiengang / StuPO | Semester | Studiengangsbereich |
|---|---|---|
| Computer Engineering StuPO 2015 | SoSe 2025 | Wahlpflicht Studiengebiete Fak. IV › Verteilte Systeme und Netze / Distributed Systems and Networks |
| WiSe 2025/26 | Wahlpflicht Studiengebiet B › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| SoSe 2026 | Wahlpflicht Studiengebiet B › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| WiSe 2026/27 | Wahlpflichtbereich › Studiengebiet B › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| Computer Science (Informatik) StuPO 2015 | SoSe 2025 | Wahlpflicht Studiengebiete Fak. IV › Grundlagen der Informatik / Foundations of Computing |
| WiSe 2025/26 | Studiengebiete › Grundlagen der Informatik / Foundations of Computing | |
| SoSe 2026 | Studiengebiete › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| WiSe 2026/27 | Wahlpflichtbereich › Studiengebiet › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| Elektrotechnik StuPO 2015 | SoSe 2025 | Wahlpflicht Studiengebiete Fak. IV › Kommunikationssysteme / Communication Systems |
| WiSe 2025/26 | Wahlpflicht Studiengebiet Kommunikationssysteme / Communication Systems › Wahlpflicht Studienrichtung Kommunikationssysteme / Communication Systems | |
| SoSe 2026 | Wahlpflicht Studiengebiete Fak. IV › Grundlagen der Informatik / Foundations of Computing | |
| WiSe 2026/27 | Wahlpflichtbereich › Studiengebiete Fak. IV › Grundlagen der Informatik / Foundations of Computing | |
| Information Systems Management (Wirtschaftsinformatik) StuPO 2017 | SoSe 2025 | Wahlpflichtbereich › Fachstudium Informatik › Verteilte Systeme und Netze / Distributed Systems and Networks |
| WiSe 2025/26 | Wahlpflichtbereich › Fachstudium Informatik › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| SoSe 2026 | Wahlpflichtbereich › Fachstudium Informatik › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| WiSe 2026/27 | Wahlpflichtbereich › Fachstudium Informatik › Verteilte Systeme und Netze / Distributed Systems and Networks | |
| Technomathematik StuPO 2014 | SoSe 2025 | Studienrichtungen › Elektrotechnik › Elektrotechnik › Gesamtangebot Master ET |
| WiSe 2025/26 | Studienrichtungen › Elektrotechnik › Elektrotechnik › Gesamtangebot Master ET | |
| SoSe 2026 | Studienrichtungen › Elektrotechnik › Elektrotechnik › Gesamtangebot Master ET | |
| WiSe 2026/27 | Studienrichtungen › Elektrotechnik › Elektrotechnik › Gesamtangebot Master ET | |
| Technomathematik StuPO 2014 | SoSe 2025 | Studienrichtungen › Technisches Gebiet - Elektrotechnik › Technisches Gebiet - Elektrotechnik › Katalog Elektronik und Informationstechnik |
| WiSe 2025/26 | Studienrichtungen › Technisches Gebiet - Elektrotechnik › Technisches Gebiet - Elektrotechnik › Katalog Elektronik und Informationstechnik | |
| SoSe 2026 | Studienrichtungen › Technisches Gebiet - Elektrotechnik › Technisches Gebiet - Elektrotechnik › Katalog Elektronik und Informationstechnik | |
| WiSe 2026/27 | Studienrichtungen › Technisches Gebiet - Elektrotechnik › Technisches Gebiet - Elektrotechnik › Katalog Elektronik und Informationstechnik | |
| Wirtschaftsingenieurwesen StuPO 2015 | SoSe 2020 | Ingenieurwissenschaftliche Studienrichtungen/Engineering Majors › Informations- und Kommunikationssysteme/Information and Communication Systems (IKS) › Informations- und Kommunikationssysteme/Information and Communication Systems (Wahlpflicht/Compulsory-Elective) › Distributed Systems and Networks |
| WiSe 2020/21 | Ingenieurwissenschaftliche Studienrichtungen/Engineering Majors › Informations- und Kommunikationssysteme/Information and Communication Systems (IKS) › Informations- und Kommunikationssysteme/Information and Communication Systems (Wahlpflicht/Compulsory-Elective) › Distributed Systems and Networks | |
| SoSe 2021 | Ingenieurwissenschaftliche Studienrichtungen/Engineering Majors › Informations- und Kommunikationssysteme/Information and Communication Systems (IKS) › Informations- und Kommunikationssysteme/Information and Communication Systems (Wahlpflicht/Compulsory-Elective) › Distributed Systems and Networks | |
| WiSe 2021/22 | Ingenieurwissenschaftliche Studienrichtungen/Engineering Majors › Informations- und Kommunikationssysteme/Information and Communication Systems (IKS) › Informations- und Kommunikationssysteme/Information and Communication Systems (Wahlpflicht/Compulsory-Elective) › Distributed Systems and Networks | |
| SoSe 2022 | Ingenieurwissenschaftliche Studienrichtungen/Engineering Majors › Informations- und Kommunikationssysteme/Information and Communication Systems (IKS) › Informations- und Kommunikationssysteme/Information and Communication Systems (Wahlpflicht/Compulsory-Elective) › Distributed Systems and Networks | |
| WiSe 2022/23 | Ingenieurwissenschaftliche Studienrichtungen/Engineering Majors › Informations- und Kommunikationssysteme/Information and Communication Systems (IKS) › Informations- und Kommunikationssysteme/Information and Communication Systems (Wahlpflicht/Compulsory-Elective) › Distributed Systems and Networks | |
| SoSe 2023 | Ingenieurwissenschaftliche Studienrichtungen/Engineering Majors › Informations- und Kommunikationssysteme/Information and Communication Systems (IKS) › Informations- und Kommunikationssysteme/Information and Communication Systems (Wahlpflicht/Compulsory-Elective) › Distributed Systems and Networks | |
| WiSe 2023/24 | Ingenieurwissenschaftliche Studienrichtungen/Engineering Majors › Informations- und Kommunikationssysteme/Information and Communication Systems (IKS) › Informations- und Kommunikationssysteme/Information and Communication Systems (Wahlpflicht/Compulsory-Elective) › Communication Systems | |
| SoSe 2024 | Ingenieurwissenschaftliche Studienrichtungen/Engineering Majors › Informations- und Kommunikationssysteme/Information and Communication Systems (IKS) › Informations- und Kommunikationssysteme/Information and Communication Systems (Wahlpflicht/Compulsory-Elective) › Distributed Systems and Networks | |
| WiSe 2024/25 | Ingenieurwissenschaftliche Studienrichtungen/Engineering Majors › Informations- und Kommunikationssysteme/Information and Communication Systems (IKS) › Informations- und Kommunikationssysteme/Information and Communication Systems (Wahlpflicht/Compulsory-Elective) › Distributed Systems and Networks | |
| SoSe 2025 | Ingenieurwissenschaftliche Studienrichtungen/Engineering Majors › Informations- und Kommunikationssysteme/Information and Communication Systems (IKS) › Informations- und Kommunikationssysteme/Information and Communication Systems (Wahlpflicht/Compulsory-Elective) › Distributed Systems and Networks | |
| WiSe 2025/26 | Ingenieurwissenschaftliche Studienrichtungen/Engineering Majors › Informations- und Kommunikationssysteme/Information and Communication Systems (IKS) › Informations- und Kommunikationssysteme/Information and Communication Systems (Wahlpflicht/Compulsory-Elective) › Distributed Systems and Networks | |
| SoSe 2026 | Ingenieurwissenschaftliche Studienrichtungen/Engineering Majors › Informations- und Kommunikationssysteme/Information and Communication Systems (IKS) › Informations- und Kommunikationssysteme/Information and Communication Systems (Wahlpflicht/Compulsory-Elective) › Communication Systems | |
| WiSe 2026/27 | Ingenieurwissenschaftliche Studienrichtungen/Engineering Majors › Informations- und Kommunikationssysteme/Information and Communication Systems (IKS) › Informations- und Kommunikationssysteme/Information and Communication Systems (Wahlpflicht/Compulsory-Elective) › Distributed Systems and Networks | |
| Wirtschaftsingenieurwesen StuPO 2026 | WiSe 2026/27 | Ingenieurwissenschaften / Studienrichtungen › Software Systems Engineering › Distributed Systems and Networks |
Sonstiges
Keine Angabe