RUB » LMI » Lehre » Theorie des Maschinellen Lernens Sommer 2016

Theorie des Maschinellen Lernens Sommer 2017

LVR-Nr: 150 338
Veranstaltung: Theorie des Maschinellen Lernens
4 std.
NA 1/64, Di 12:00-14:00 und
NA 1/64, Mi 12:00-14:00
Dozent: Hans U. Simon
Übungen Christoph Ries
2 std.
NA 5/24, Di 8:30-10:00

Aktuelles

  • Mündliche Prüfung: Die Termine für die mündliche Prüfung stehen jetzt fest (siehe Unterpunkt "Prüfung").

Informationen aus dem Vorlesungsverzeichnis

Kommentar

Die Vorlesung richtet sich an Studierende der Mathematik und an Studierende der Angewandten Informatik. Gegenstand der Vorlesung ist die Statistik- und Algorithmen-basierte Theorie des Maschinellen Lernens aus zufälligen Beispielen. Wir befassen uns mit der Bestimmung der Informations- und der Berechnungskomplexität von Lernproblemen. Im ersten Teil der Vorlesung behandeln wir die grundlegenden Begriffe und Resultate der Theorie des maschinellen Lernens. Im zweiten Teil der Vorlesung beschäftigen wir uns mit verschiedenen Ansätzen zum Design von maschinellen Lernalgorithmen (wie zum Beispiel Boosting, stochastischer Gradientenabstieg, kernbasierte Verfahren, Entscheidungsbäume, Nearest Neighbor).

Voraussetzungen

Mathematische Grundkenntnisse, wie sie in den ersten drei Semestern der Bachelorphase erworben werden, sowie Grundkenntnisse in Wahrscheinlichkeitstheorie werden vorausgesetzt.

Literatur

Die Vorlesung orientiert sich an dem Lehrbuch "Understanding Machine Learning: from Theory to Algorithms" der Autoren Shai Shalev-Shwartz und Shai Ben-David.

Materialien

Übungsblätter

Zusatzmaterial

Vorlesungsstoff

Termin Kapitel im Buch
18.04., 19.04.1, 2
25.04., 26.04.3, 4, 5.2, 6.1
02.05., 03.05.6.2, 6.3, 6.5.11, 5.3*, 4.3*
09.05., 10.05.7.1, 7.2, 7.3
16.05., 17.05.Effizientes PAC-Lernen
23.05., 24.05.Effizientes PAC-Lernen
30.05., 31.05.9.1, 9.2
13.06., 14.06.9.3, 10.1-10.3
20.06., 21.06.11, 15.1-15.3
27.06., 28.06.16.1, 16.2
04.07., 05.07.17.1, 17.2
11.07., 12.07.17.3-17.5, 18.1
18.07., 19.07.18.2, 19, 20.1, 20.2
25.07.20.3-20.5

Die Kapitelangaben beziehen sich, falls nicht anders angegeben, auf das Buch von Shalev-Shwartz und Ben-David (siehe oben).
1 Der Beweis des Lemmas von Sauer folgt der Version von Shay Moran.
* Die Angabe bezieht sich auf das Buch "Neural Network Learning: Theoretical Foundations" von Anthony und Bartlett.

Prüfung

Die Prüfungsleistung zur Vorlesung ist in Form einer mündlichen Prüfung zu erbringen. Zu diesem Zweck werden zwei Termine angeboten:

  • Mittwoch, 26. Juli 2017
  • Mittwoch, 27. September 2017

Die Prüfungsanmeldung erfolgt nach den Regeln des für Sie zuständigen Prüfungsamtes.

Bitte lassen Sie sich vor der Anmeldung zur Prüfung einen Termin mit Uhrzeit von Christoph Ries geben.

Übungsaufgaben

Während der Vorlesungszeit wird jeden Dienstag auf dieser Seite ein neues Aufgabenblatt online gestellt, das bis zum folgenden Dienstag bearbeitet werden kann. Die Abgabe der Lösungen und die Rückgabe der korrigierten Aufgaben erfolgt in der Regel Dienstag morgens in der Übung. Falls eine Teilnahme an der Übung nicht möglich ist, können Aufgaben bei Christoph Ries in NA 1/69 eingereicht werden.

Die Blätter können in Gruppen von bis zu drei Personen bearbeitet und abgegeben werden. Jedes Gruppenmitglied muss aber in der Lage sein, in der Übung die Aufgaben an der Tafel zu präsentieren.

Teilnahmeschein

Für einen unbenoteten Teilnahmeschein sind 50% der Übungspunkte zu erreichen. Außerdem ist eine regelmäßige Teilnahme an der Übung (inklusive der Präsentation einer eigenen Lösung) notwendig.

Kontakt