PyTorch

PyTorch-Programmierung professionell! Das meistbenutzte Deep-Learning-Framework in der Praxis: Lernen Sie für spezifische Aufgaben aus realen Projektszenarien, wie Sie mit PyTorch KI-Modelle trainieren, optimieren und produktiv einsetzen. Bert Gollnick zeigt Ihnen in diesem Buch alle einschlägigen Verfahren inklusive Python-Implementierung, von linearer Regression über große Sprachmodelle bis zur Kombination mehrerer Verfahren. Die Anwendungen beinhalten Computer Vision, RAG-Systeme, Zeitreihenanalysen und vieles mehr. Sie evaluieren und deployen Ihre Modelle mit modernsten Methoden und lernen dafür Tools wie FlowML, TensorBoard und FastAPI kennen. Profitieren Sie von vollständigen Codebeispielen, die auf handelsüblicher Hardware lauffähig sind, und entdecken Sie das Zusammenspiel mit PyTorch Lightning, HuggingFace und weiteren Tools.- Deep Learning von der Datenaufbereitung über Training und Fineturing bis zum Deployment- Vielfältige Architekturen wie Autoencoder, RNNs, LLMs, RAG-Systeme etc.- Inkl. PyTorch Lightning, TensorBoard, LangChain, FastAPI u. v. m. Aus dem Inhalt:- Installation des Frameworks- Deep-Learning-Grundkonzepte- Vortrainierte Modelle verwenden- Daten vorbereiten- Klassifizierungsaufgaben- Computer Vision- Empfehlungssysteme- Graph Neural Networks - Große Sprachmodelle (LLMs)- Zeitreihen-Vorhersagen- PyTorch Lightning- LangChain- Cloud-Deployment mit Heroku- FlowML, TensorBoard und WandB- Lokaler Einsatz mit FastAPI

Bert Gollnick ist Senior Data Scientist mit Schwerpunkt auf künstlicher Intelligenz. Er unterrichtet Kurse zu Data Science und Machine Learning inklusive generativer KI und natürlicher Sprachverarbeitung. Bert hat an der Technischen Universität Berlin Luft- und Raumfahrttechnik und an der Universität Hagen Volkswirtschaftslehre studiert. Nach 17 Jahren in der Industrie fokussiert er sich nun auf seine Schulungsfirma, um Teilnehmern künstliche Intelligenz näherzubringen.Er lebt und arbeitet in Hamburg und bietet Präsenzkurse im deutschsprachigen Raum sowie Online-Kurse auch für ein internationales Publikum an.

1. Vorwort ... 13 1.1 ... An wen richtet sich dieses Buch? ... 15 1.2 ... Voraussetzungen ... 15 1.3 ... Die Struktur des Buches ... 16 1.4 ... Wie Sie dieses Buch effektiv nutzen ... 16 1.5 ... Konventionen in diesem Buch ... 17 1.6 ... Der Code zum Herunterladen und weitere Materialien ... 18 1.7 ... Systemeinrichtung ... 18 1.8 ... Danksagung ... 25 2. Einführung in das Deep Learning ... 27 2.1 ... Was ist Deep Learning? ... 28 2.2 ... Wofür kann Deep Learning verwendet werden? ... 29 2.3 ... Wie funktioniert Deep Learning? ... 33 2.4 ... Historische Entwicklung ... 35 2.5 ... Perzeptron ... 36 2.6 ... Netzwerkaufbau und -schichten ... 37 2.7 ... Aktivierungsfunktionen ... 38 2.8 ... Verlustfunktion ... 41 2.9 ... Optimierer und Parameter-Update ... 43 2.10 ... Umgang mit Tensoren ... 45 2.11 ... Zusammenfassung ... 53 3. Unser erstes PyTorch-Modell ... 55 3.1 ... Datenvorbereitung ... 56 3.2 ... Modell-Erstellung ... 66 3.3 ... Modellklasse und Optimierer ... 74 3.4 ... Batches ... 78 3.5 ... Dataset und DataLoader ... 83 3.6 ... Modelle speichern und laden ... 88 3.7 ... Data Sampling ... 91 3.8 ... Zusammenfassung ... 100 4. Klassifizierungsmodelle ... 103 4.1 ... Klassifizierungstypen ... 104 4.2 ... Konfusionsmatrix ... 105 4.3 ... ROC-Kurve ... 108 4.4 ... Binäre Klassifizierung ... 110 4.5 ... Multi-Class-Klassifizierung ... 124 4.6 ... Zusammenfassung ... 137 5. Computer-Vision ... 139 5.1 ... Wie werden Bilder in Modellen behandelt? ... 141 5.2 ... Netzwerkarchitekturen ... 142 5.3 ... Bildklassifizierung ... 147 5.4 ... Objekterkennung ... 177 5.5 ... Semantische Segmentierung ... 193 5.6 ... Stiltransfer ... 204 5.7 ... Zusammenfassung ... 213 6. Empfehlungssysteme ... 215 6.1 ... Konzepte ... 215 6.2 ... Coding: Empfehlungssystem ... 218 6.3 ... Zusammenfassung ... 236 7. Autoencoder ... 237 7.1 ... Architektur ... 238 7.2 ... Autoencoder-Implementierung ... 239 7.3 ... Variational Autoencoder ... 248 7.4 ... Coding: Variational Autoencoder ... 249 7.5 ... Zusammenfassung ... 259 8. Graph Neural Networks ... 261 8.1 ... Einführung in die Graphentheorie ... 261 8.2 ... Coding: Aufbau eines Graphen ... 266 8.3 ... Coding: Training eines GNN ... 271 8.4 ... Zusammenfassung ... 280 9. Zeitreihen ... 281 9.1 ... Modellierungsansätze ... 281 9.2 ... Coding: Eigenes Modell ... 286 9.3 ... Coding: Nutzung von PyTorch Forecasting ... 301 9.4 ... Zusammenfassung ... 310 10. Sprachmodelle ... 311 10.1 ... Nutzung von LLMs mit Python ... 312 10.2 ... Modellparameter ... 328 10.3 ... Modellauswahl ... 331 10.4 ... Nachrichtentypen ... 335 10.5 ... Prompt-Templates ... 336 10.6 ... Chains ... 340 10.7 ... Strukturierte Outputs ... 343 10.8 ... Deep Dive: Wie funktionieren Transformer? ... 346 10.9 ... Zusammenfassung ... 353 11. Vortrainierte Netzwerke und Finetuning ... 355 11.1 ... Vortrainierte Netzwerke mit Hugging Face ... 356 11.2 ... Transferlernen ... 359 11.3 ... Coding: Finetuning eines Computer-Vision-Modells ... 362 11.4 ... Coding: Finetuning eines Sprachmodells ... 370 11.5 ... Zusammenfassung ... 376 12. PyTorch Lightning ... 377 12.1 ... Vergleich zwischen PyTorch und PyTorch Lightning ... 378 12.2 ... Coding: Modelltraining ... 379 12.3 ... Callbacks ... 386 12.4 ... Zusammenfassung ... 389 13. Modellevaluierung, Logging und Monitoring ... 391 13.1 ... TensorBoard ... 392 13.2 ... MLflow ... 401 13.3 ... Weights and Biases (WandB) ... 406 13.4 ... Zusammenfassung ... 413 14. Deployment ... 415 14.1 ... Deployment-Strategien ... 415 14.2 ... Lokales Deployment ... 418 14.3 ... Heroku ... 424 14.4 ... Microsoft Azure ... 431 14.5 ... Zusammenfassung ... 440 Index ... 443