RUB » LMI » Lehre » Seminar über Algorithmisches Lernen SS 2013

Seminar über Algorithmisches Lernen SS 2013

LVR-Nr: 150 544
Veranstaltung: Seminar über Algorithmisches Lernen
Mo 16.15 - 17.45, NA 1/64
Hinweis: Alle Vortragstermine sind bereits belegt.
Daher sind keine weiteren Anmeldungen möglich.
Dozent: Hans U. Simon

News

  • Wer die Absicht hat, die Bachelorarbeit als Ausarbeitung des Seminarvortrages zu schreiben: bitte bis zum Ende der Vorlesungszeit bei mir melden zwecks Absprache.

Kommentar

Im Seminar behandeln wir ein populäres und erfolgreiches Werkzeug des Algorithmischen Lernens namens "Support-Vector Machine" oder kurz "SVM". Der Erfolg der SVM beruht zum großen Teil auf der (nichtlinearen) Einbettung von Datenpunkten in hochdimensionale Räume, die sogenannten "Feature Spaces", so dass auf letzteren lineare Klassifikations- oder Regressionsmethoden angewendet werden können. Dabei wird der berüchtigte "Curse of Dimensionality" u.a. durch folgende Manöver entschärft:

  • Kontrolle des Generalisierungsfehlers mit Hilfe von "Large Margin"-Methoden
  • Zeiteffizienz durch Verwendung des sogenannten "Kernel-Tricks"

Bedingungen für den Erhalt des Seminarscheins sind regelmäßige Teilnahme an den Seminarsitzungen sowie ein erfolgreicher Seminarvortrag .

Im Anschluss an das Seminar werden Themen sowohl für Bachelor- als auch für Masterarbeiten vergeben.

Voraussetzungen

Bei den Studierenden im Bachelorstudienabschnitt werden die Kentnisse der Grundvorlesungen Mathematik erwartet wie sie in den ersten drei Semestern vermittelt werden. Bei den Studierenden im Master-Studienabschnitt werden die im Bachelorstudienabschnitt erworbenen Kenntnisse in Mathematik erwartet.

Literatur

Das Seminar orientiert sich hauptsächlich an den folgenden Fachbüchern:

Buch 1
Nello Cristianini und John Shawe-Taylor, "Support Vector Machines"
Buch 2
John Shawe-Taylor und Nello Cristianini, "Kernel Methods for Pattern Analysis"
Buch 3
Michael J. Kearns und Umesh V. Vazirani, "Computational Learning Theory"

Die drei Bücher stehen ab 11. Februar in der Mathe-Bibliothek als Präsenzexemplare zur Verfügung.

Zeitplan

08.04.2013 Buch 1, Kap. 2.1, Linear Learning Machines Carina Schulte
15.04.2013 Orginalarbeit von Littlestone A New Linear Threshold Algorithm Marius Deutschmann
22.04.2013 Buch 2, Kap. 3.1, 3.2 Properties of Kernels (Teil 1) Maren Pfeifer und Laura Szafranski
29.04.2013 Buch 2, Kap. 3.3, 3.4 Properties of Kernels (Teil 2) Maren Pfeifer und Laura Szafranski
06.05.2013 Buch 2, Kap. 9.1-9.3 Basic Kernels and Kernel Types Puya Jafari
13.05.2013 Buch 3, Kapitel 3.1-3.5 The Vapnik-Chervonenkis Dimension Cedric Browatzki
27.05.2013 Buch 1, Kap. 4.3 Margin-Based Bounds on Generalisation Felix Grünewald
03.06.2013 Buch 1, Kap. 5 Optimisation Theory Luisa Soodmann
10.06.2013 Buch 1, Kap. 6.1 Support Vector Classification Michael Breuer und Daniel Loop
17.06.2013 Buch 1, Kap. 6.2 Support Vector Regression Michael Breuer und Daniel Loop
24.06.2013 Buch 1, Kap. 7.4, 7.5 Sequential Minimal Optimisation Patricia Wienen
01.07.2013 Orginalarbeit von Hush,Scovel Decomposition Algorithms I Sevtap Ince
08.07.2013 Orginalarbeit von List,Simon Decomposition Algorithms II Sandra Pasucha
15.07.2013 Orginalarbeit von Wang,Lin Decomposition Algorithms III Christoph Ries