Neuronale Netze / Deep Learning (NNW)

Inhalte

• Motivation
• Aufgabenstellungen (Klassifikation, Regression; überwachtes/unüberwachtes Lernen)
• Grundkonzepte neuronaler Netze (Elemente, Nomenklatur, Lernvorgang, Matrixdarstellung, Fehlerfunktionen)
• Bayes’sche Klassifikation und Wahrscheinlichkeitsrechnung
• Deep Feedforward Networks (Eigenschaften, Error Backpropagation, Probleme beim Training tiefer Netze, fortgeschrittene Verfahren zur Minimierung von Fehlerfunktionen)
• Convolutional Neural Networks
• Sequenzen: Rekurrente Netze und Transformer, Large Language Models (LLMs), Vision Transformers
• Kernel-basierte Methoden (Radiale Basisfunktionen, Support-Vektor Machines)
• Undirected Models, Generative Models und Autoencoder (Grundlagen, Restricted Boltzmann Machines, Deep Belief Networks)
• Evaluation und Merkmalsauswahl

Lernziele/Kompetenzen

Die Studierenden sind in der Lage,

• die mathematischen Hintergründe und Eigenschaften neuronaler Netze zu erklären,
• neuronale Netze für Klassifikations- und Regressionsaufgaben anzuwenden,
• neuronale Netze in den Kontext anderer maschineller Lernverfahren einzuordnen.

Literatur

• C.M. Bishop, H. Bishop: Deep Learning. Springer, 2024
• K. Murphy: Probabilistic Machine Learning: An Introduction. MIT Press, 2022
• K. Murphy: Probabilistic Machine Learning: Advanced Topics. MIT Press, 2023
• I. Goodfellow, Y. Bengio, A. Courville: Deep Learning. MIT Press, 2016
• S. Theodoridis, K. Konstantinos: Pattern Recognition. Academic Press, 2009
• C.M. Bishop: Pattern Recognition and Machine Learning. Springer, 2006
• C.M. Bishop: Neural Networks for Pattern Recognition. Oxford University Press, 1996
• D. Yu, L. Deng: Automatic Speech Recognition – A Deep Learning Approach. Springer, 2015
• R.O. Duda et al.: Pattern classification. Wiley-Interscience, 2001

Dozentinnen / Dozenten

• Prof. Dr. Ivo Wolf

Empfohlene Vorkenntnisse

• Kenntnisse der Linearer Algebra und Analysis
• Von Vorteil, aber nicht Voraussetzung, sind Kenntnisse in Wahrscheinlichkeitsrechnung und Statistik.

Daten zum Modul

Semester	1/2
Unterrichtssprache	Deutsch
Häufigkeit	Unregelmäßig
Kreditpunkte	5
Modulverantwortlich	Prof. Dr. Ivo Wolf
Dauer	1 Semester
Studienleistung	Keine
Prüfungsvorleistung	Pflichtübung (PU)
Prüfungsleistung	Klausur 90 Minuten (K90)

Semesterwochenstunden

Vorlesung	2 SWS
Übung	2 SWS
Summe	4 SWS

Arbeitsaufwand (work load)

Vorlesung	30 h
Labor	30 h
Selbststudium	30 h
Aufgaben	30 h
Prüfungsvorbereitung	30 h
Summe	150 h