Das Streben nach Künstlicher Intelligenz (KI) hat die Menschheit über viele Jahrzehnte hinweg in Atem gehalten und ist seit den 60er Jahren ein aktives Forschungsgebiet. Dieser Kurs gibt einen detaillierten Überblick über die historischen Entwicklungen, Erfolge und Rückschläge in der KI sowie über moderne Ansätze in der Entwicklung der Künstlichen Intelligenz wie generative KI. Der Kurs gibt eine Einführung in das Reinforcement Learning, einen Prozess, der der Art und Weise ähnelt, wie Menschen und Tiere die Welt erleben: Erkundung der Umgebung und Ableitung der besten Aktion. Der Kurs behandelt auch die Grundsätze der Verarbeitung natürlicher Sprache und des Computer-Visualisierungsverfahrens, beides Schlüsselkomponenten für eine künstliche Intelligenz, die mit ihrer Umgebung interagieren kann.

1. Geschichte der KI
   1. Historische Entwicklung
   2. KI-Winter
   3. Expertensysteme
   4. Bemerkenswerte Fortschritte
2. Moderne KI-Systeme
   1. Schwache KI, starke KI und künstliche Superintelligenz
   2. Anwendungsbereiche
3. Bestärkendes Lernen
   1. Was ist bestärkendes Lernen?
   2. Markov-Entscheidungsprozess und Wertfunktionen
   3. Temporales Differenzlernen und Q-Learning
4. Natural Language Processing (NLP)
   1. Einführung in NLP und Anwendungsbereiche
   2. Grundlegende NLP-Techniken
   3. Daten vektorisieren
   4. Fortschrittliche NLP-Modelle
5. Computer Vision
   1. Einführung in Computer Vision
   2. Bilddarstellung und -Geometrie
   3. Feature Engineering
   4. Semantische Segmentierung
   5. Techniken zur Bildgenerierung

Dieser Kurs dient als grundlegende Einführung in das Gebiet des maschinellen Lernens mit dem Schwerpunkt auf Supervised Learning (d.h. Lernen aus gelabelten Daten), wobei die am häufigsten verwendeten Modelle zur Regression und Klassifikation vorgestellt werden. Darüber hinaus bietet der Kurs eine Einführung in die Konzepte der Large-Margin-Classifier und der Baum-basierten Algorithmen des maschinellen Lernens.

1. Einführung in das maschinelle Lernen
   1. Mustererkennungssysteme
   2. Der Entwicklungszyklus für maschinelles Lernen
   3. Technische Begriffe
   4. Underfitting und Overfitting
2. Regression
   1. Lineare Regression
   2. Lasso- und Ridge-Regularisierung
   3. Generalisierte Lineare Modelle
   4. Logistische Regression
3. Grundlegende Klassifizierungsverfahren
   1. k-Nearest-Neighbors
   2. Naïve Bayes
4. Support-Vektor-Maschinen (SVM)
   1. Large-Margin-Klassifizierung
   2. Der Kernel-Trick
5. Entscheidungs- und Regressionsbäume
   1. Entscheidungs- und Regressionsbäume
   2. Random Forest
   3. Gradient Boosting

Dieser Kurs befasst sich mit den Werkzeugen und Techniken des Unsupervised Learnings und Feature Engineerings. Unsupervised Learning bezeichnet Ansätze des maschinellen Lernens, die ohne gelabelte Daten angewendet werden können. Das Ziel ist es, Muster oder statistische Regelmäßigkeiten in Daten zu extrahieren, um geeignete Features abzuleiten, was der Schlüssel für die erfolgreiche Anwendung von maschinellen Lernmodellen ist.

Daher ist es für jeden Datenwissenschaftler von entscheidender Bedeutung, über ein solides Set an Ansätzen und Tools für diese Aufgabe zu verfügen. Dieser Kurs stellt die wichtigsten Methoden vor und zeigt, wie Techniken des Unsupervised Learnings eingesetzt werden können, um verlässliche und aussagekräftige Features zu finden. Dabei werden die Konzepte und Techniken anhand konkreter Beispiele demonstriert, die den Einsatz dieser Techniken zur Schaffung eines Mehrwerts für die Gesellschaft als Ganzes widerspiegeln, im Gegensatz zu ethisch fragwürdigen Anwendungsfällen.

1. Einführung in Unsupervised Learning und Feature Engineering
   1. Unsupervised Machine Learning
   2. Feature Engineering
2. Clustering
   1. k-Means
   2. Gaussian Mixture Model Clustering
   3. Hierarchisches Clustering
3. Dimensionsreduktion
   1. Hauptkomponentenanalyse (engl. Principal Component Analysis, PCA)
   2. Multidimensionale Skalierung
   3. Local Linear Embedding
4. Feature Engineering
   1. Numerische Features
   2. Kategoriale Features
   3. Text-Features
5. Feature-Auswahl
   1. Feature Importance
   2. Feature-Varianz
   3. Korrelationsmatrix
   4. Rekursive Feature-Auswahl
6. Automatisierte Feature-Generierung
   1. Automatisierte Feature-Generierung
   2. Feature Engineering versus Deep Learning

Neuronale Netze und Deep-Learning-Ansätze haben in den letzten Jahren die Bereiche der Datenwissenschaft und der künstlichen Intelligenz revolutioniert. Anwendungen, die auf diesen Techniken aufbauen, haben in vielen Spezialanwendungen die menschliche Leistung erreicht oder übertroffen. Nach einem kurzen Überblick über die Ursprünge neuronaler Netze und des Deep Learning wird in diesem Kurs ausführlich vermittelt, wie Feed-Forward-Netze aufgebaut und trainiert werden. Neben Feed-Forward-Netzen werden weitere gängige Netzarchitekturen wie Faltungsnetze (Convolutional Neural Networks) und rekurrente neuronale Netze behandelt. Darüber hinaus werden anhand der begleitenden Lehrmittel die Auswirkungen von Designentscheidungen und der Erhebung der benötigten Daten hinsichtlich Fragen der algorithmischen Fairness sowohl im Hinblick auf ihre Auswirkung auf Individuen, als auch ihre gesellschaftliche Dimension diskutiert.

1. Einführung in neuronale Netze
   1. Struktur des menschlichen Gehirns
   2. Bausteine neuronaler Netze
   3. Tiefe und flache neuronale Netze
   4. Überwachtes Lernen
   5. Reinforcement Learning
2. Vorwärtsgerichtete neuronale Netze
   1. Grundlegende Netzwerkarchitekturen und Initialisierung der Gewichte
   2. Kostenfunktionen
   3. Backpropagation und Gradientenabstiegsverfahren
   4. Batch-Normalisierung
3. Vermeidung von Übertraining
   1. Was ist Übertraining?
   2. Early-Stopping
   3. L1- und L2-Regularisierung
   4. Dropout
   5. Pruning
4. Convolutional Neural Networks
   1. Entstehungshintergrund und Anwendungsbereiche
   2. Convolutional Neural Networks in der Bildverarbeitung
   3. Grundlegende CNN-Architektur(en)
   4. Beispiele praxisrelevanter CNN-Architekturen
5. Rekurrente neuronale Netze
   1. Rekurrente neuronale Netze
   2. Gedächtniszellen
   3. LSTM-Netzwerke
   4. Training rekurrenter neuronaler Netze durch zeitliche Entfaltung

Methoden des verstärkenden Lernens erlauben Computern, Lösungsstrategien für Aufgaben zu entwickeln, ohne dass sie dafür explizit programmiert werden, angelehnt an den Lernprozess von Menschen und Tieren. Nach einer allgemeinen Einführung in das Gebiet des verstärkenden Lernens werden sequentielle Entscheidungsprozesse und dynamische Programmierung im Detail besprochen. Diese Konzepte bilden die Grundlage, auf der wesentliche Teile der Theorie des verstärkenden Lernens aufbauen; sie sind für das weitere Verständnis des Themengebiets von entscheidender Bedeutung. Der Kurs behandelt insbesondere Temporal-Difference-Learning als klassischen Ansatz im verstärkenden Lernen und betrachtet die zwei wichtigsten Algorithmen: Q-Learning und SARSA, sowie das Verständnis des Verhältnisses zwischen Exploration und Exploitation.

Danach wendet sich der Kurs modernen Reinforcement-Learning-Ansätzen mit tiefen neuronalen Netzen zu, einschließlich einer detaillierten Betrachtung, wie das Training tiefer neuronaler Netzen im Kontext des verstärkenden Lernens optimiert werden kann. Weiterhin werden wichtige Anwendungen und Beispiele vorgestellt.

1. Einführung in das Reinforcement Learning
   1. Ziele von Reinforcement Learning
   2. Komponenten von Reinforcement-Learning-Systemen
   3. Reinforcement Learning im Vergleich zu Supervised und Unsupervised Learning
2. Sequenzieller Entscheidungsprozess
   1. Einführung in sequenzielle Entscheidungsprozesse
   2. Zustände, Aktionen und Belohnungen
   3. Markov-Entscheidungsprozess
3. 3. Dynamische Programmierung
   1. Policies und Aktionen
   2. Wertfunktionen
   3. Bellman-Gleichungen
   4. Policy und Value-Iteration
4. Algorithmen des Reinforcement Learnings und deren Eigenschaften
   1. Temporal Difference Learning und Q-Faktoren
   2. Exploration versus Exploitation
   3. On-Policy Learning: SARSA
   4. Off-Policy Learning: Q-Learning
5. Deep Reinforcement Learning
   1. Neuronale Netze im Q-Learning
   2. Optimierung des Deep Reinforcement Learnings
   3. Anwendungen und Beispiele

In diesem Kurs werden die Grundlagen für das Verständnis von Computer Vision geschaffen. Zu Beginn wird der Prozess des Sehens aus biologischer Sicht, sowie die Bilderfassung bei technischen Systemen behandelt. Als nächstes wird die Bedeutung von Filtern in der Bildverarbeitung erläutert und die relevanten Konzepte vorgestellt. Darauf aufbauend wird erklärt, wie wichtige elementare Bildmerkmale aus den Rohdaten extrahiert werden können, wie beispielsweise Kanten. Im weiteren Verlauf wird erläutert, wie höhere Abstraktionsebenen betrachtet werden können, wie beispielsweise die Objekterkennung oder Klassifikation von Bildern. Abschließend wird die Verarbeitung von Videoinformationen behandelt und es werden moderne Ansätze zur Lösung wichtiger Computer Vision Aufgaben in diesem Umfeld vorgestellt.

1. Grundlagen der Computer Vision
   1. Das menschliche Sehsystem
   2. Lochkameras und Kameras mit Objektiv
   3. Bildsensoren
2. Filter in der Bildverarbeitung
   1. Invariante Systeme unter linearen Verschiebungen, Faltungen und die Punktverteilungsfunktion
   2. Fourier-Transformation und Ortsfrequenz
   3. Gängige Bildfilter (Gaußsche Glättung, Median-, Modusfilter, Rangordnung)
3. Low-Level-Vision
   1. Regionen mit konstanten Parametern (Blobs)
   2. Kanten und Linien
   3. Ecken und Points of Interest
4. High-Level-Vision
   1. Klassifizierung von Bildern
   2. Semantische Segmentierung
   3. Objekterkennung
5. Video
   1. Grundlagen von Videodaten, Bewegung und optischem Fluss
   2. Nachverfolgung von Ojekten
   3. Klassifizierung von Aktionen und Bewegungen

In diesem Kurs werden traditionelle und moderne Ansätze der Verarbeitung natürlicher Sprache vermittelt. Dazu werden Techniken, Herausforderungen und Lösungsansätze vorgestellt, und ein umfassender Überblick über relevante Themen und Techniken gegeben. Zusätzlich wird gezeigt, wie NLP in verschiedenen Anwendungsszenarien erfolgreich eingesetzt werden kann - sowohl theoretisch als auch anhand praktischer Beispiele.

1. Grundlegende Begriffe und Konzepte
   1. Was ist NLP?
   2. Syntax
   3. Semantik
   4. Prosodie
   5. Grammatik
2. Sprache und Sprechen
   1. Menschlicher Stimmapparat
   2. Sprachproduktion
   3. Phonetik
3. Herausforderungen im NLP
   1. Daten für NLP
   2. Bewertung von NLP-Systemen
   3. Domänenbedingte Herausforderungen
   4. Mehrsprachige Anwendung
4. Techniken
   1. Regeln versus Statistik
   2. Reguläre Ausdrücke
   3. N-Gramme
   4. Vektorisierung von Daten
   5. NLP-Modelle
5. Anwendungsszenarien
   1. Spracherkennung und Sprachsynthese
   2. Maschinelle Übersetzung
   3. Informationsgewinnung
   4. Sentimentanalyse
   5. Chatbots
   6. NLP mit Python

Viele der jüngsten Fortschritte in der Datenwissenschaft, insbesondere beim maschinellen Lernen und bei der künstlichen Intelligenz, beruhen auf umfassender Datenspeicherung und Rechenleistung. Cloud Computing ist eine Möglichkeit, diese Leistung auf skalierbare Weise und ohne beträchtliche Vorabinvestitionen in Hardware- und Software-Ressourcen bereitzustellen. Dieser Kurs führt in den Bereich des Cloud Computing zusammen mit seinen technologischen Voraussetzungen ein. Darüber hinaus werden die neuesten Fortschritte, wie Serverless Computing und Speicherung, veranschaulicht. Schließlich wird ein gründlicher Überblick über beliebte Cloud-Angebote, insbesondere im Hinblick auf Analysemöglichkeiten, gegeben.

1. Einführung in Cloud Computing
   1. Grundlagen des Cloud Computing
   2. Cloud-Service-Modelle
   3. Nutzen und Risiken
2. Technologische Voraussetzungen
   1. Virtualisierung und Containerisierung
   2. Speichertechnik
   3. Netzwerke und RESTful-Dienste
3. Serverloses Rechnen
   1. Einführung in Serverless Computing
   2. Vorteile
   3. Einschränkungen
4. Etablierte Cloud-Plattformen
   1. Google-Cloudplattform
   2. Amazon-Webdienste
   3. Microsoft Azure
5. Datenwissenschaft in der Cloud
   1. Google-Dienste für Datenwissenschaft und maschinelles Lernen
   2. Amazon Web Services für Datenwissenschaft und maschinelles Lernen
   3. Microsoft Azure für Datenwissenschaft und maschinelles Lernen