Informationstheorie
Sommersemester 2025
| Umfang: | 4 SWS (2/2/0) |
|---|---|
| Dozent: | Dr. Martin Mittelbach |
| Kursassistentin: | Dr. Anne Wolf |
| Lehrsprache: | deutsch |
| Abschluss: | schriftliche Prüfung über 120 Minuten |
| Einordnung: |
Bestandteil des Pflichtmoduls
|
| OPAL-Webseite: | https://bildungsportal.sachsen.de/opal/auth/RepositoryEntry/23048454161 |
Aktuelles
-
[11.03.2025] Durchführung im Sommersemester 2025
Die Lehrveranstaltung Informationstheorie wird im Sommersemester 2025 als Präsenz-Lehrveranstaltung durchgeführt. -
[11.03.2025] Einschreibung über OPAL
Für die Teilnahme an der Lehrveranstaltung Informationstheorie im Sommersemester 2025 ist es notwendig, dass Sie sich über OPAL für diese Lehrveranstaltung anmelden:
https://bildungsportal.sachsen.de/opal/auth/RepositoryEntry/23048454161.
Bitte schreiben Sie sich bis Montag, den 07.04.2025, ein, damit Sie alle erforderlichen Informationen zur Teilnahme erhalten. -
[11.03.2025] Pfingstexkursion des Instituts für Nachrichtentechnik
Die Professur für Informationstheorie und maschinelles Lernen organisiert dieses Jahr die Pfingstexkursion des Instituts für Nachrichtentechnik. Die Exkursion findet im Zeitraum vom 10.06.2025 bis 12.06.2025 statt und richtet sich an Studierende der Fakultät Elektrotechnik und Informationstechnik. Detaillierte Informationen und der Link zur Anmeldung sind auf der Webseite der Exkursion zu finden:
https://tu-dresden.de/ing/elektrotechnik/ifn/itml/die-professur/news/pfingstexkursion-informationstechnik-2025.
Ort und Zeit
| Veranstaltung | Tag | Zeit | Woche | Ort |
|---|---|---|---|---|
| Vorlesung | Mi | 2. DS | BAR 205 | |
| Übung / Tutorium | Do | 2. DS | BAR 205 |
eventuelle Terminverschiebungen siehe Tabelle
Vorlesung
In der Lehrveranstaltung wird eine Einführung in die Grundlagen der Shannonschen Informationstheorie gegeben. Ziel ist es, wesentliche informationstheoretische Resultate zur maximal möglichen verlustlosen (Quellencodierung) und verlustbehafteten (Rate-Distortion-Theorie) Komprimierung von Daten sowie zu den theoretischen Grenzen einer zuverlässigen, codierten Datenübertragung (Kanalcodierung) herzuleiten. Die für die analytischen Betrachtungen benötigten Hilfsmittel in Form von Informationsmaßen (Entropie, Transinformation, Kapazität usw.) sowie deren Eigenschaften werden ebenso behandelt wie in der Praxis einsetzbare, einfache Codes.
Materialien zur Vorlesung / Skript
Das Material zu den Vorlesungen wird im Laufe des Semesters auf dieser Webseite zur Verfügung gestellt.
siehe Tabelle
Das Skript zur Lehrveranstaltung wird zu Beginn des Semesters zum Herunterladen zur Verfügung gestellt. Eine handliche, gedruckte Ringbuchversion kann zu Beginn der Lehrveranstaltung erworben werden.
Das Skript zur Lehrveranstaltung kann unter diesem Link heruntergeladen werden. Eine handliche, gedruckte Ringbuchversion kann zu Beginn der Lehrveranstaltung erworben werden.
Übung, Tutorium und Hausaufgaben
Es finden im wöchentlichen Wechsel Übungen und Tutorien statt.
Die Übungen dienen der Festigung und Anwendung des in den Vorlesungen behandelten Stoffes. Sie vermitteln Techniken zur Lösung typischer Aufgabenstellungen und schaffen damit insbesondere die Voraussetzungen für die erfolgreiche Bearbeitung vergleichbarer Aufgaben im Selbststudium.
Die Hausaufgaben sind an die vorhergehenden Übungen angepasst und sollen die Beschäftigung mit dem behandelten Stoff intensivieren. Vorrangiges Ziel beim Bearbeiten der Aufgaben sind die überwiegend eigenständige und zeitnahe Auseinandersetzung mit dem aktuellen Inhalt der Lehrveranstaltung sowie die Anwendung der zuvor vermittelten Lösungstechniken.
Die Tutorien dienen der Besprechung der Hausaufgabenlösungen und der Festigung des behandelten Stoffes. Es können aber auch offene Fragen zu den Vorlesungen und Übungen diskutiert werden.
Materialien zu Übung / Tutorium
Das Material zu den Übungen und Tutorien wird im Laufe des Semesters auf dieser Webseite zur Verfügung gestellt.
siehe Tabelle
Termine
Die folgende Tabelle enthält alle Termine für Vorlesungen (V), Übungen (Ü) und Tutorien (T) sowie die entsprechenden Lehrmaterialien zu den einzelnen Veranstaltungen.
| Woche | Datum | DS | V / Ü / T | Bemerkung / Material |
|---|---|---|---|---|
| 15 | 09.04.2025 | 2. | V | Folien |
| 16 | 16.04.2025 | 2. | V | Folien |
| 17 | 23.04.2025 | 2. | V | Folien (Update) |
| 18 | 30.04.2025 | 4. | V | |
| 19 | 07.05.2025 | 2. | V | |
| 20 | 14.05.2025 | 2. | V | |
| 21 | 21.05.2025 | 2. | − | dies academicus |
| 22 | 28.05.2025 | 2. | V | |
| 23 | 04.06.2025 | 2. | V | |
| 24 | 11.06.2025 | 2. | − | Pfingstferien |
| 25 | 18.06.2025 | 2. | V | |
| 26 | 25.06.2025 | 2. | V | |
| 27 | 02.07.2025 | 2. | V | |
| 28 | 09.07.2025 | 2. | V | |
| 29 | 16.07.2025 | 2. | V |
Prüfung
Die schriftliche Prüfung wird in der Prüfungszeit des Semesters stattfinden.
Die Prüfungsdauer beträgt 120 Minuten.
Zugelassene Hilfsmittel sind das Skript zur Lehrveranstaltung, Materialien aus Vorlesung, Übung und Tutorium, eigene Aufzeichnungen zur Lehrveranstaltung, Bücher sowie von der Fakultät zugelassene Taschenrechner.
Literatur
Empfehlenswerte Literatur zur Vorlesung:
-
R. W. Yeung:
Information Theory and Network Coding, Part I,
Springer, 2008.
Kapitel zu diskreten Modellen identisch zu:
R. W. Yeung:
A First Course in Information Theory,
Springer, 2002. -
R. G. Gallager:
Information Theory and Reliable Communication,
Wiley, 1968. -
R. G. Gallager:
Principles of Digital Communication,
Cambridge University Press, 2008.
Kontakt
Kommentare zur Vorlesung und zum Tutorium sowie Fragen zu den Hausaufgaben und zum Skript bitte an:
Dr. Martin Mittelbach
Kommentare zur Übung und zum Tutorium sowie Fragen zu den Übungs- und Hausaufgaben sowie zum allgemeinen Ablauf bitte an:
Dr. Anne Wolf