Das Streben nach Künstlicher Intelligenz (KI) hat die Menschheit über viele Jahrzehnte hinweg in Atem gehalten und ist seit den 60er Jahren ein aktives Forschungsgebiet. Dieser Kurs gibt einen detaillierten Überblick über die historischen Entwicklungen, Erfolge und Rückschläge in der KI sowie über moderne Ansätze in der Entwicklung der Künstlichen Intelligenz wie generative KI. Der Kurs gibt eine Einführung in das Reinforcement Learning, einen Prozess, der der Art und Weise ähnelt, wie Menschen und Tiere die Welt erleben: Erkundung der Umgebung und Ableitung der besten Aktion. Der Kurs behandelt auch die Grundsätze der Verarbeitung natürlicher Sprache und des Computer-Visualisierungsverfahrens, beides Schlüsselkomponenten für eine künstliche Intelligenz, die mit ihrer Umgebung interagieren kann.

1. Geschichte der KI
   1. Historische Entwicklung
   2. KI-Winter
   3. Expertensysteme
   4. Bemerkenswerte Fortschritte
2. Moderne KI-Systeme
   1. Schwache KI, starke KI und künstliche Superintelligenz
   2. Anwendungsbereiche
3. Bestärkendes Lernen
   1. Was ist bestärkendes Lernen?
   2. Markov-Entscheidungsprozess und Wertfunktionen
   3. Temporales Differenzlernen und Q-Learning
4. Natural Language Processing (NLP)
   1. Einführung in NLP und Anwendungsbereiche
   2. Grundlegende NLP-Techniken
   3. Daten vektorisieren
   4. Fortschrittliche NLP-Modelle
5. Computer Vision
   1. Einführung in Computer Vision
   2. Bilddarstellung und -Geometrie
   3. Feature Engineering
   4. Semantische Segmentierung
   5. Techniken zur Bildgenerierung

Dieser Kurs dient als grundlegende Einführung in das Gebiet des maschinellen Lernens mit dem Schwerpunkt auf Supervised Learning (d.h. Lernen aus gelabelten Daten), wobei die am häufigsten verwendeten Modelle zur Regression und Klassifikation vorgestellt werden. Darüber hinaus bietet der Kurs eine Einführung in die Konzepte der Large-Margin-Classifier und der Baum-basierten Algorithmen des maschinellen Lernens.

1. Einführung in das maschinelle Lernen
   1. Mustererkennungssysteme
   2. Der Entwicklungszyklus für maschinelles Lernen
   3. Technische Begriffe
   4. Underfitting und Overfitting
2. Regression
   1. Lineare Regression
   2. Lasso- und Ridge-Regularisierung
   3. Generalisierte Lineare Modelle
   4. Logistische Regression
3. Grundlegende Klassifizierungsverfahren
   1. k-Nearest-Neighbors
   2. Naïve Bayes
4. Support-Vektor-Maschinen (SVM)
   1. Large-Margin-Klassifizierung
   2. Der Kernel-Trick
5. Entscheidungs- und Regressionsbäume
   1. Entscheidungs- und Regressionsbäume
   2. Random Forest
   3. Gradient Boosting

Dieser Kurs befasst sich mit den Werkzeugen und Techniken des Unsupervised Learnings und Feature Engineerings. Unsupervised Learning bezeichnet Ansätze des maschinellen Lernens, die ohne gelabelte Daten angewendet werden können. Das Ziel ist es, Muster oder statistische Regelmäßigkeiten in Daten zu extrahieren, um geeignete Features abzuleiten, was der Schlüssel für die erfolgreiche Anwendung von maschinellen Lernmodellen ist.

Daher ist es für jeden Datenwissenschaftler von entscheidender Bedeutung, über ein solides Set an Ansätzen und Tools für diese Aufgabe zu verfügen. Dieser Kurs stellt die wichtigsten Methoden vor und zeigt, wie Techniken des Unsupervised Learnings eingesetzt werden können, um verlässliche und aussagekräftige Features zu finden. Dabei werden die Konzepte und Techniken anhand konkreter Beispiele demonstriert, die den Einsatz dieser Techniken zur Schaffung eines Mehrwerts für die Gesellschaft als Ganzes widerspiegeln, im Gegensatz zu ethisch fragwürdigen Anwendungsfällen.

1. Einführung in Unsupervised Learning und Feature Engineering
   1. Unsupervised Machine Learning
   2. Feature Engineering
2. Clustering
   1. k-Means
   2. Gaussian Mixture Model Clustering
   3. Hierarchisches Clustering
3. Dimensionsreduktion
   1. Hauptkomponentenanalyse (engl. Principal Component Analysis, PCA)
   2. Multidimensionale Skalierung
   3. Local Linear Embedding
4. Feature Engineering
   1. Numerische Features
   2. Kategoriale Features
   3. Text-Features
5. Feature-Auswahl
   1. Feature Importance
   2. Feature-Varianz
   3. Korrelationsmatrix
   4. Rekursive Feature-Auswahl
6. Automatisierte Feature-Generierung
   1. Automatisierte Feature-Generierung
   2. Feature Engineering versus Deep Learning

Neuronale Netze und Deep-Learning-Ansätze haben in den letzten Jahren die Bereiche der Datenwissenschaft und der künstlichen Intelligenz revolutioniert. Anwendungen, die auf diesen Techniken aufbauen, haben in vielen Spezialanwendungen die menschliche Leistung erreicht oder übertroffen. Nach einem kurzen Überblick über die Ursprünge neuronaler Netze und des Deep Learning wird in diesem Kurs ausführlich vermittelt, wie Feed-Forward-Netze aufgebaut und trainiert werden. Neben Feed-Forward-Netzen werden weitere gängige Netzarchitekturen wie Faltungsnetze (Convolutional Neural Networks) und rekurrente neuronale Netze behandelt. Darüber hinaus werden anhand der begleitenden Lehrmittel die Auswirkungen von Designentscheidungen und der Erhebung der benötigten Daten hinsichtlich Fragen der algorithmischen Fairness sowohl im Hinblick auf ihre Auswirkung auf Individuen, als auch ihre gesellschaftliche Dimension diskutiert.

1. Einführung in neuronale Netze
   1. Struktur des menschlichen Gehirns
   2. Bausteine neuronaler Netze
   3. Tiefe und flache neuronale Netze
   4. Überwachtes Lernen
   5. Reinforcement Learning
2. Vorwärtsgerichtete neuronale Netze
   1. Grundlegende Netzwerkarchitekturen und Initialisierung der Gewichte
   2. Kostenfunktionen
   3. Backpropagation und Gradientenabstiegsverfahren
   4. Batch-Normalisierung
3. Vermeidung von Übertraining
   1. Was ist Übertraining?
   2. Early-Stopping
   3. L1- und L2-Regularisierung
   4. Dropout
   5. Pruning
4. Convolutional Neural Networks
   1. Entstehungshintergrund und Anwendungsbereiche
   2. Convolutional Neural Networks in der Bildverarbeitung
   3. Grundlegende CNN-Architektur(en)
   4. Beispiele praxisrelevanter CNN-Architekturen
5. Rekurrente neuronale Netze
   1. Rekurrente neuronale Netze
   2. Gedächtniszellen
   3. LSTM-Netzwerke
   4. Training rekurrenter neuronaler Netze durch zeitliche Entfaltung

Viele der jüngsten Fortschritte in der Datenwissenschaft, insbesondere beim maschinellen Lernen und bei der künstlichen Intelligenz, beruhen auf umfassender Datenspeicherung und Rechenleistung. Cloud Computing ist eine Möglichkeit, diese Leistung auf skalierbare Weise und ohne beträchtliche Vorabinvestitionen in Hardware- und Software-Ressourcen bereitzustellen. Dieser Kurs führt in den Bereich des Cloud Computing zusammen mit seinen technologischen Voraussetzungen ein. Darüber hinaus werden die neuesten Fortschritte, wie Serverless Computing und Speicherung, veranschaulicht. Schließlich wird ein gründlicher Überblick über beliebte Cloud-Angebote, insbesondere im Hinblick auf Analysemöglichkeiten, gegeben.

1. Einführung in Cloud Computing
   1. Grundlagen des Cloud Computing
   2. Cloud-Service-Modelle
   3. Nutzen und Risiken
2. Technologische Voraussetzungen
   1. Virtualisierung und Containerisierung
   2. Speichertechnik
   3. Netzwerke und RESTful-Dienste
3. Serverloses Rechnen
   1. Einführung in Serverless Computing
   2. Vorteile
   3. Einschränkungen
4. Etablierte Cloud-Plattformen
   1. Google-Cloudplattform
   2. Amazon-Webdienste
   3. Microsoft Azure
5. Datenwissenschaft in der Cloud
   1. Google-Dienste für Datenwissenschaft und maschinelles Lernen
   2. Amazon Web Services für Datenwissenschaft und maschinelles Lernen
   3. Microsoft Azure für Datenwissenschaft und maschinelles Lernen

Die Nutzung von Rechnerressourcen als Gebrauchsgut (Commodity Computing) in Form eines Dienstes, der über eine Netzwerkschnittstelle angeboten wird, ist ein wichtiger technischer Aspekt der von IT-Organisationen erbrachten Dienste: Die Dienste des Cloud-Computings funktionieren innerhalb einer Serverumgebung und die Allgegenwärtigkeit des Netzwerks macht den Dienst von überall her erreichbar, mit hoher Verfügbarkeitsgarantie und flexibler Skalierbarkeit. Ziel des Kurses ist die dokumentierte Realisierung eines Cloud-Dienstes, der alle Attribute eines solchen aufweist. Dabei setzen die Studierenden ihr Wissen über verteilte Computersysteme ein und vertiefen es, um einen skalierbaren Dienst in der Cloud planen, erstellen, bereitstellen, testen, messen und dokumentieren zu können.

• In diesem Kurs erstellen die Studierenden einen Cloud-Service, der die Kernaspekte der Cloud-Service-Programmierung durch eine explizite Dokumentation und eine messbare konkrete Umsetzung demonstriert. Dazu wählen sie einen PaaS-Cloud-Service-Hoster, richten einen Service ein, beschreiben dessen Schnittstellen (API) und wie die Kerneigenschaften von Cloud-Services erreicht werden:
  • Horizontale oder vertikale Skalierbarkeit: Wie der Service in seiner Ressourcennutzung erweitert oder reduziert werden kann, um auf Schwankungen in der Nachfrage zu reagieren.

    Hohe Verfügbarkeit: Was garantiert einen Failover, falls eine Komponente des Dienstes ausfällt und welche Art von Degradierung auftreten kann.

  • Messbarkeit: Wie die Nutzung von Ressourcen gemessen wird und wie diese Messungen eine proaktive Planung ermöglichen können.
  • Orchestrierung und Bereitstellung: Wie der Dienst bereitgestellt wird und wie Änderungen in seiner Ressourcenzuweisung nach Bedarf der Nutzung des Dienstes erfolgen.
• Der Cloud-Dienst sollte von externen Benutzern getestet und demonstriert werden können. Ein Plan, wie er getestet werden kann, sollte Teil der Dokumentation sein, einschließlich der Nutzungsdimensionen sowie der API-Definitionen des Dienstes. Der Dienst sollte ein erkennbares Geschäftsbedürfnis erfüllen und durch eine API-Definition und eine Benutzerschnittstelle für seine Nutzung dokumentiert sein, die auf jeder Plattform mit Internetzugang lauffähig ist. Da es sich um einen Dienst im Internet handelt, sollten seine Sicherheitseinschränkungen zugänglich und verständlich sein. Basierend auf diesen Aspekten realisieren die Studierenden eine Arbeit in Form von Software-Artefakten in einem Versionierungssystem und einer visuell lesbaren Dokumentation der Realisierung und ihres Prozesses. Die Realisierung und ihre Dokumentation sollen aktuellen Trends im Cloud Engineering folgen.