KI-Algorithmen mit Python

Die codegestützte Einführung ins Machine Learning In Zeiten von Claude, Gemini, ChatGPT und Co. ist längst bekannt: KI ist nicht gleich KI. In diesem Buch lernen Sie die zentralen lernenden Algorithmen kennen, die Sie für Ausbildung und Beruf benötigen. Von K-Nearest Neighbours bis Reinforcement Learning zeigt Ihnen Jens Gaulke, wie Sie jeden dieser Algorithmen in Python von Grund auf implementieren. Mit vielen Übungen und Best Practices bleibt es praxisnah und codeorientiert: Denn wer KI verstehen will, muss sie selbst konstruieren.- Grundlegende KI-Algorithmen verstehen und in Python implementieren- Anwendungsfelder, Stolperfallen und Best Practices für jedes Verfahren- Inklusive Übungen zu den Grenzen der Algorithmen Aus dem Inhalt:- Das richtige Software-Setup- Mathematische Grundlagen- K-Nearest Neighbours- Naive Bayes- Lineare und logistische Regression- K-Means Clustering- Entscheidungsbäume- Support-Vector-Maschinen- Neuronale Netze- Verstärkendes Lernen- KI und Ethik

Jens Gaulke ist Diplominformatiker, der nach 14 Jahren Lehrtätigkeit nun seit 12 Jahren im Bereich Informationssicherheit arbeitet. Er unterrichtete am bib International College in Paderborn Programmierung, Game Development, Skriptsprachen, Netzwerke, Datenbanken, Betriebssysteme, IT-Sicherheit und Software Engineering. Diese breite Lehrerfahrung prägt seinen Schreibstil: technisch präzise, aber immer mit dem Leser im Blick. Heute arbeitet Jens Gaulke im Bereich Informationssicherheit bei Arvato Systems. Seine Schwerpunkte liegen auf ISMS, BCM, ISO-Normen, Cloud Computing und Künstlicher Intelligenz. Als Schulungsverantwortlicher für Security Awareness weiß er, wie man komplexe Themen verständlich vermittelt. In seiner Freizeit fotografiert er, wird von zwei Katzen regiert und schreibt. Seine Themen sind so vielfältig wie sein Werdegang: Spieleprogrammierung, maschinelles Lernen, Kryptographie und allgemeine Informatik. Hauptsache Python, Hauptsache praxisnah.

Materialien zum Buch ... 21
Danksagung ... 23
1. Einleitung ... 25
1.1 ... Voraussetzungen und Haltung ... 26
1.2 ... Für wen ist dieses Buch geeignet? ... 27
1.3 ... Warum Python? ... 28
1.4 ... Wie wir in diesem Buch lernen ... 28
1.5 ... Mathematik ohne Angst ... 30
1.6 ... Machine Learning im Kontext von Data Science ... 31
1.7 ... Wie Sie mit diesem Buch arbeiten ... 32
1.8 ... Die Landschaft des Machine Learnings ... 33
1.9 ... Verstehen heißt Verantwortung übernehmen ... 36
2. Das Starter-Kit für KI-Algorithmen ... 37
2.1 ... Anaconda-Distribution ... 37
2.2 ... Arbeiten mit Jupyter Notebook ... 40
2.3 ... Module und Bibliotheken ... 41
2.4 ... Virtuelle Umgebungen ... 43
2.5 ... Exkurs: Bibliotheken reproduzierbar verwalten ... 44
2.6 ... Visual Studio Code ... 45
2.7 ... Testlauf ... 48
2.8 ... Von der Werkstatt zur Idee ... 51
3. Mathematik für KI-Algorithmen ... 53
3.1 ... Lineare Algebra und KI ... 55
3.2 ... Statistik und Datenverständnis ... 66
3.3 ... Wahrscheinlichkeit und Bayes-Theorem ... 81
3.4 ... Optimierung und Ableitungen ... 92
3.5 ... Generalisierung und das Bias-Varianz-Dilemma ... 102
3.6 ... Weiterführende Literatur ... 107
4. Data Science und KI-Algorithmen ... 109
4.1 ... Was ist Data Science? ... 110
4.2 ... Die Data-Science-Pipeline ... 110
4.3 ... Understand the Business ... 111
4.4 ... Data Acquisition ... 112
4.5 ... Einschub: Datenqualität ... 113
4.6 ... Data Cleaning ... 113
4.7 ... Exploratory Data Analysis ... 121
4.8 ... Feature Engineering ... 128
4.9 ... Machine Learning ... 130
4.10 ... Data Visualization ... 133
4.11 ... Weiterführende Literatur ... 134
5. Evaluationsmetriken ... 137
5.1 ... Metriken: Das Maß des Lernens ... 137
5.2 ... Von der Theorie zur Praxis ... 140
5.3 ... Unser Datensatz ... 141
5.4 ... Regression ... 143
5.5 ... Klassifikation ... 150
5.6 ... Clustering ... 162
5.7 ... Problemtyp und geeignete Evaluationsmetriken ... 172
5.8 ... Ausblick ... 173
5.9 ... Weiterführende Literatur ... 173
6. k-Nearest Neighbours ... 175
6.1 ... Was macht der Algorithmus eigentlich? ... 176
6.2 ... Wofür kann man die Methode verwenden? ... 177
6.3 ... Wie funktioniert die Methode? ... 177
6.4 ... Algorithmusbeschreibung ... 178
6.5 ... Beispiel: Katze oder Kaninchen ... 179
6.6 ... Mach's kaputt ... 184
6.7 ... Beispiel: Wisconsin Breast Cancer Dataset ... 186
6.8 ... Recommender-System ... 203
6.9 ... Eine Simulation in pygame ... 207
6.10 ... Grenzen von kNN ... 208
6.11 ... Weiterführende Literatur ... 209
7. Naive-Bayes-Klassifikator ... 211
7.1 ... Was macht der Algorithmus eigentlich? ... 212
7.2 ... Wofür kann man die Methode verwenden? ... 212
7.3 ... Was ist Spam? ... 213
7.4 ... Wie funktioniert die Methode? ... 213
7.5 ... Kurzbeschreibung des Naive-Bayes-Algorithmus ... 218
7.6 ... Beispiel: Spam oder Ham ... 219
7.7 ... Beispiel: Produkt-Sentiment-Bewertung ... 232
7.8 ... Eine Simulation in pygame ... 238
7.9 ... Mach's kaputt ... 239
7.10 ... Ethische Betrachtung von Naive Bayes ... 241
7.11 ... Grenzen von Naive Bayes ... 242
7.12 ... Weiterführende Literatur ... 243
8. Lineare Regression ... 245
8.1 ... Was macht der Algorithmus eigentlich? ... 246
8.2 ... Wofür kann man die Methode verwenden? ... 247
8.3 ... Wie funktioniert die Methode? ... 248
8.4 ... Algorithmusbeschreibung ... 249
8.5 ... Beispiel: Ringgröße -- statische Variante ... 250
8.6 ... Die ML-Variante ... 254
8.7 ... Mach's kaputt ... 262
8.8 ... Die vektorisierte Variante und scikit-learn ... 264
8.9 ... Metriken ... 268
8.10 ... Grenzen der Methode ... 269
8.11 ... Weiterführende Literatur ... 269
9. Logistische Regression ... 271
9.1 ... Was macht der Algorithmus eigentlich? ... 272
9.2 ... Wofür kann man die Methode verwenden? ... 273
9.3 ... Wie funktioniert die Methode? ... 273
9.4 ... Algorithmusbeschreibung ... 279
9.5 ... Beispiel: Kreditvergabe ... 283
9.6 ... Mach's kaputt ... 292
9.7 ... Beispiel: Heiratsantrag ... 295
9.8 ... Heiratsantrag mit sklearn ... 300
9.9 ... Eine Simulation in pygame ... 302
9.10 ... Ethische Betrachtung der logistischen Regression ... 303
9.11 ... Grenzen des Modells ... 304
9.12 ... Weiterführende Literatur ... 305
10. Decision Trees ... 307
10.1 ... Hinweis zur Struktur dieses Kapitels ... 307
10.2 ... Was ist ein (Entscheidungs-)Baum? ... 308
10.3 ... Was macht der Algorithmus eigentlich? ... 314
10.4 ... Wofür kann man die Methode verwenden? ... 329
10.5 ... Algorithmusbeschreibung ... 331
10.6 ... Mach's kaputt ... 334
10.7 ... Beispiele ... 336
10.8 ... Grenzen des Modells ... 336
10.9 ... Weiterführende Literatur ... 337
11. k-Means Clustering ... 339
11.1 ... Was macht der Algorithmus eigentlich? ... 339
11.2 ... Wofür kann man die Methode verwenden? ... 341
11.3 ... Wie funktioniert die Methode? ... 342
11.4 ... Algorithmusbeschreibung ... 343
11.5 ... Beispiel: Hochzeitsparty-Planung ... 346
11.6 ... Mach's kaputt ... 352
11.7 ... Beispiel: Glasfaser im Neubaugebiet ... 357
11.8 ... Ethische Betrachtung ... 360
11.9 ... Metriken ... 360
11.10 ... Simulationen ... 361
11.11 ... Weiterführende Literatur ... 362
12. Support Vector Machines ... 363
12.1 ... Was ist eine Support Vector Machine? ... 364
12.2 ... Wofür kann man die Methode verwenden? ... 368
12.3 ... Wie funktioniert die Methode? ... 369
12.4 ... Algorithmusbeschreibung ... 384
12.5 ... Beispiel ... 387
12.6 ... Mach's kaputt ... 394
12.7 ... Metriken ... 395
12.8 ... Ethische Betrachtung ... 396
12.9 ... Grenzen des Modells ... 397
12.10 ... Weiterführende Literatur ... 398
13. Neuronale Netze ... 401
13.1 ... Was ist ein neuronales Netz? ... 402
13.2 ... Vom Modell zur Implementierung ... 409
13.3 ... Beispiel: Two Moons ... 425
13.4 ... Deep Learning ... 427
13.5 ... Beispiel: Ziffernerkennung ... 438
13.6 ... Mach's kaputt ... 439
13.7 ... Ethische Betrachtung ... 441
13.8 ... Grenzen des Modells ... 442
13.9 ... Weiterführende Literatur ... 443
14. Reinforcement Learning ... 445
14.1 ... Was ist Reinforcement Learning? ... 446
14.2 ... Die formale Struktur des Entscheidungsprozesses ... 447
14.3 ... Die Markov-Eigenschaft ... 449
14.4 ... Das Bellman-Prinzip ... 455
14.5 ... Exploration und Exploitation ... 457
14.6 ... Beispiel: Swampy Fields ... 458
14.7 ... Mach's kaputt ... 466
14.8 ... Beispiel: Tic-Tac-Toe ... 468
14.9 ... Wofür kann man die Methode verwenden? ... 476
14.10 ... Ethische Betrachtung ... 477
14.11 ... Von der Optimierung zur Verantwortung ... 478
14.12 ... Weiterführende Literatur ... 479
15. KI und Ethik ... 481
15.1 ... Was bedeutet Ethik im Kontext von KI? ... 482
15.2 ... KI als Assistent -- nicht als Orakel ... 483
15.3 ... Wenn KI heute anders antwortet als gestern ... 483
15.4 ... Fallbeispiele aus der Praxis ... 486
15.5 ... Resümee: Human in the Loop ... 494
15.6 ... Literaturverzeichnis und Quellenangaben ... 495
16. Ausblick ... 499
Index ... 501