Theorie des Maschinellen Lernens Sommer 2016
LVR-Nr: | 150 338 |
---|---|
Veranstaltung: | Theorie des Maschinellen Lernens 4 std. NA 1/64, Di 12:00-14:00 und NA 1/64, Mi 12:00-14:00 |
Dozent: | Hans U. Simon |
Übungen | Christoph Ries 2 std. NA 5/24, Di 8:30-10:00 |
Aktuelles
- Mündliche Prüfung: Die Termine für die mündliche Prüfung der zweiten Prüfungsperiode stehen jetzt fest
(siehe Unterpunkt "Prüfung").
Informationen aus dem Vorlesungsverzeichnis
Kommentar
Die Vorlesung richtet sich an Studierende der Mathematik und an Studierende der Angewandten Informatik. Gegenstand der Vorlesung ist die Statistik- und Algorithmen-basierte Theorie des Maschinellen Lernens aus zufälligen Beispielen. Wir befassen uns mit der Bestimmung der Informations- und der Berechnungskomplexität von Lernproblemen. Im ersten Teil der Vorlesung behandeln wir die grundlegenden Begriffe und Resultate der Theorie des maschinellen Lernens. Im zweiten Teil der Vorlesung beschäftigen wir uns mit verschiedenen Ansätzen zum Design von maschinellen Lernalgorithmen (wie zum Beispiel Boosting, stochastischer Gradientenabstieg, kernbasierte Verfahren, Entscheidungsbäume, Nearest Neighbor).
Voraussetzungen
Mathematische Grundkenntnisse, wie sie in den ersten drei Semestern der Bachelorphase erworben werden, sowie Grundkenntnisse in Wahrscheinlichkeitstheorie werden vorausgesetzt.
Literatur
Die Vorlesung orientiert sich an dem Lehrbuch "Understanding Machine Learning: from Theory to Algorithms" der Autoren Shai Shalev-Shwartz und Shai Ben-David.
Materialien
Hier finden Sie im laufenden Semester Übungsblätter und Materialien zur Vorlesung.
Übungsblätter
Zusatzmaterial
- Notation
- Concentration bounds
- Lineare Voraussagefunktionen
- Boosting
- Support-Vector Maschinen und Kernel-Methoden
- Multiklassen-Klassifizierung und Rangordnungsprobleme
Vorlesungstoff
Termin | Kapitel im Buch |
---|---|
12.04., 13.04. | 1, 2 |
19.04., 20.04. | 3, 4, 5, 6.1. bis 6.4 |
26.04., 27.04. | 6.5 (ersetzt durch: 4.1* bis 4.3*), 7.1, 7.2 |
03.05., 04.05. | 7.3, 8 (ergänzt durch 1.3**) |
10.05., 11.05. | 1.3-1.5**, 7.2** |
24.05., 25.05. | 9 (siehe Zusatzmaterial) |
31.05., 01.06. | 10 (siehe Zusatzmaterial) |
07.06., 08.06. | 10-11 |
14.06., 15.06. | 15-16 (siehe Zusatzmaterial) |
21.06., 22.06. | 16-17.1 (siehe Zusatzmaterial) |
28.06., 29.06. | 17.2,17.3,18 |
05.07., 06.07. | 19,20 |
12.07., 13.07. | 20,17.4 |
Die mit einem Sternen markierten Kapitel beziehen sich auf das Buch "Neural Network Learning: Theoretical Foundations" von Anthony und Bartlett. Die mit zwei Sternen markierte Kapitel gehören zu dem Buch "An introduction to computational learning theory" von Kearns und Vazirani. Alle anderen Kapitel sind dem Buch von Shalev-Shwartz und Ben-David (siehe oben) entnommen.
Prüfung
Die Prüfungsleistung zur Vorlesung ist in Form einer mündlichen Prüfung zu erbringen. Zu diesem Zweck werden zwei weitere Termine angeboten,
- Donnerstag, der 16. Februar 2017
- Donnerstag, der 20. April 2017
Die Prüfungsanmeldung erfolgt nach den Regeln des für Sie zuständigen Prüfungsamtes.
Bitte lassen Sie sich vor der Anmeldung zur Prüfung einen Termin mit Uhrzeit von Christoph Ries geben.
Übungsaufgaben
Während der Vorlesungszeit wird jeden Dienstag auf dieser Seite ein neues Aufgabenblatt online gestellt, das bis zum folgenden Dienstag bearbeitet werden kann. Die Abgabe der Lösungen und die Rückgabe der korrigierten Aufgaben erfolgt in der Regel Dienstag morgens in der Übung. Falls eine Teilnahme an der Übung nicht möglich ist, können Aufgaben bei Christoph Ries in NA 1/69 eingereicht werden.
Die Blätter können in Gruppen von bis zu drei Personen bearbeitet und abgegeben werden. Jedes Gruppenmitglied muss aber in der Lage sein, in der Übung die Aufgaben an der Tafel zu präsentieren.
Teilnahmeschein
Für einen unbenoteten Teilnahmeschein sind 50% der Übungspunkte zu erreichen. Außerdem ist eine regelmäßige Teilnahme an der Übung (inklusive der Präsentation einer eigenen Lösung) notwendig.
Kontakt
- Hans U. Simon, NA 1/73
- Christoph Ries, NA 1/69