Informationstheorie

Sommersemester 2017

Umfang: 4 SWS (2/2/0)
Dozent: Dr. Meik Dörpinghaus
Kursassistenten: Dr. Anne Wolf, Hans-Georg Engler
Lehrsprache: deutsch
Abschluss: schriftliche Prüfung über 120 Minuten
  • Hinweis: Nach- und Wiederholer im Studiengang Informationssystemtechnik (bis inkl. Jahrgang 2013) müssen eine schriftliche Prüfung über 180 Minuten (als gemeinsame Prüfung mit der Lehrveranstaltung Nachrichtentechnik) ablegen.
Einordnung: Bestandteil des Pflichtmoduls
  • Informationstheorie im Studiengang Elektrotechnik, Studienrichtung Informationstechnik (6. Semester),
  • Signalverarbeitung und Informationstheorie im Studiengang Informationssystemtechnik (6. Semester) ab Jahrgang 2014,
  • Grundlagen der Nachrichtentechnik im Studiengang Informationssystemtechnik (6. Semester) bis inkl. Jahrgang 2013.

Aktuelles


Ort und Zeit

Vorlesung Mi 2. DS BAR 205
Übung / Tutorium Do 2. DS BAR 205

eventuelle Terminverschiebungen siehe Tabelle


Vorlesung

In der Lehrveranstaltung wird eine Einführung in die Grundlagen der Shannonschen Informationstheorie gegeben. Ziel ist es, wesentliche informationstheoretische Resultate zur maximal möglichen verlustlosen (Quellencodierung) und verlustbehafteten (Rate-Distortion-Theorie) Komprimierung von Daten und zur maximalen Geschwindigkeit einer zuverlässigen Datenübertragung (Kanalcodierung) herzuleiten. Die für die analytischen Betrachtungen benötigten Hilfsmittel in Form von Informationsmaßen (Entropie, Transinformation, Kapazität usw.) sowie deren Eigenschaften werden ebenso behandelt wie in der Praxis einsetzbare, einfache Codes.

Materialien zur Vorlesung

Das Skript zur Lehrveranstaltung kann unter folgendem Link heruntergeladen werden. Es wird zu Beginn des Semesters auch in gedruckter Form zur Verfügung gestellt. Studenten, die das Skript aus dem Sommersemester 2016 besitzen, können dieses auch im Sommersemester 2017 verwenden.

weiteres aktuelles Material siehe Tabelle


Übung, Tutorium und Hausaufgaben

Es finden im wöchentlichen Wechsel Übungen und Tutorien statt.

Die Übungen dienen der Festigung und Anwendung des in den Vorlesungen behandelten Stoffes. Sie vermitteln Techniken zur Lösung typischer Aufgabenstellungen und schaffen damit insbesondere die Voraussetzungen für die erfolgreiche Bearbeitung vergleichbarer Aufgaben im Selbststudium.

Die Hausaufgaben sind an die vorhergehenden Übungen angepasst und sollen die Beschäftigung mit dem behandelten Stoff intensivieren. Vorrangiges Ziel beim Bearbeiten der Aufgaben sind die überwiegend eigenständige und zeitnahe Auseinandersetzung mit dem aktuellen Inhalt der Lehrveranstaltung sowie die Anwendung der zuvor vermittelten Lösungstechniken.

Die Tutorien dienen der Besprechung der Hausaufgabenlösungen und der Festigung des behandelten Stoffes. Es können aber auch offene Fragen zu den Vorlesungen und Übungen diskutiert werden.

Materialien zu Übung / Tutorium

aktuelles Material siehe Tabelle


Termine

Die folgende Tabelle enthält alle Termine für Vorlesungen (V), Übungen (Ü) und Tutorien (T) sowie die entsprechenden Lehrmaterialien zu den einzelnen Veranstaltungen.

Woche Datum DS V / Ü / T Bemerkung / Material
14 05.04.2017 2. V Folien
06.04.2017 2. Ü Aufgaben Lösung Aufgaben 4 und 5
15 12.04.2017 2. V Folien
13.04.2017 2. T Hausaufgaben Lösung Aufgabe 9
16 19.04.2017 2. V Folien
20.04.2017 2. Ü Aufgaben Folien Aufgaben 11, 12 und 13 Material Eigenschaften Funktionen
17 26.04.2017 2. V Folien
27.04.2017 2. T Hausaufgaben
18 03.05.2017 2. V keine neuen Folien
04.05.2017 2. V Folien
19 10.05.2017 2. V Folien
11.05.2017 2. Ü Aufgaben Folien Aufgaben 18, 19 und 22 Material Markowketten
20 17.05.2017 dies academicus
18.05.2017 2. T Hausaufgaben
21 24.05.2017 2. V Folien Zusatzmaterial Kanalkodiertheorem-Erreichbarkeit
25.05.2017 Himmelfahrt
22 31.05.2017 2. V keine neuen Folien
01.06.2017 2. Ü Aufgaben Folien Aufgaben 26, 27 und 28 (korrigiert: 28d)) Material Quellencodierung + symmetrische DMCs
23 07.06.2017 Pfingstferien
08.06.2017 Pfingstferien
24 14.06.2017 2. V Folien
15.06.2017 2. T Hausaufgaben Lösung Aufgabe 31 Lösung Aufgabe 32
25 21.06.2017 2. V Folien
22.06.2017 2. Ü Aufgaben Folien Aufgaben 33 und 35 Übersicht Informationsmaße
26 28.06.2017 2. V Folien
29.06.2017 2. T Hausaufgaben
27 05.07.2017 2. V Folien
06.07.2017 2. Ü Aufgaben Material Gaußkanal Material Normalverteilung
28 12.07.2017 2. T Hausaufgaben Lösung Aufgabe 44a) Lösung Aufgabe 46c)
13.07.2017 2. Ü Aufgaben

Prüfung

Die Konsultation zur Lehrveranstaltung Informationstheorie wird am Freitag, dem 21.07.2017, in der 2. / 3. Doppelstunde im Raum BAR 106 stattfinden.

Die schriftlichen Prüfungen werden in der Prüfungszeit des Semesters wie folgt stattfinden (siehe auch Hinweise zur Prüfungseinschreibung):

  • schriftliche Prüfung über 120 Minuten
    am Montag, dem 24.07.2017, in der 4. / 5. Doppelstunde, im Raum ZEU 250
    für folgende Studien- und Jahrgänge:
    • Diplom Elektrotechnik (Studienordnungen 2010 und 2013),
    • Master Elektrotechnik (Studienordnung 2013),
    • Diplom Informationssystemtechnik (Studienordnung 2014) und
    • Studiengänge anderer Fakultäten.
    Zugelassene Hilfsmittel sind das Skript zur Lehrveranstaltung, Materialien aus Vorlesung, Übung und Tutorium, eigene Aufzeichnungen zur Lehrveranstaltung, Bücher sowie von der Fakultät zugelassene Taschenrechner.
  • schriftliche Prüfung über 180 Minuten
    (als gemeinsame Prüfung mit der Lehrveranstaltung Nachrichtentechnik)
    am Montag, dem 07.08.2017, in der 5. / 6. Doppelstunde, im Raum HSZ 304
    für folgende Studien- und Jahrgänge:
    • Diplom Informationssystemtechnik (Studienordnung 2010).
    Zugelassene Hilfsmittel sind das Skript zur Lehrveranstaltung, Materialien aus Vorlesung, Übung und Tutorium sowie eigene Aufzeichnungen zur Lehrveranstaltung. Bücher und Taschenrechner sind nicht zugelassen.

Literatur

Die Vorlesung orientiert sich an den Darstellungen in:

  • R. W. Yeung:
    Information Theory and Network Coding, Part I,
    Springer, 2008.
    Kapitel zu diskreten Modellen identisch zu:
    R. W. Yeung:
    A First Course in Information Theory,
    Springer, 2002.
  • T. M. Cover und J. A. Thomas:
    Elements of Information Theory,
    Wiley-Interscience, 2006.

Weitere empfehlenswerte Literatur:

  • R. G. Gallager:
    Information Theory and Reliable Communication,
    Wiley, 1968.
  • R. G. Gallager:
    Principles of Digital Communication,
    Cambridge University Press, 2008.

Kontakt

Kommentare zur Vorlesung bitte an:
Dr. Meik Dörpinghaus

Kommentare zur Übung, Fragen zu den Übungsaufgaben und zum allgemeinen Ablauf bitte an:
Dr. Anne Wolf

Kommentare zum Tutorium und zu den Hausaufgaben bitte an:
Hans-Georg Engler

Kommentare und Fragen zum Skript bitte an:
Dr. Martin Mittelbach


Rückmeldung zur Lehrveranstaltung

Wir freuen uns über persönliche Rückmeldungen zur Lehrveranstaltung. Darüber hinaus besteht auch die Möglichkeit, anonyme Kommentare zur Lehrveranstaltung abzugeben.


Zu dieser Seite

Letzte Änderung: 14.07.2017