Scripting

Scripting ist die Kunst, Probleme in wenigen Zeilen zu lösen. Denn viele Aufgaben in der IT erfordern keine komplexen Lösungen in einer Hochsprache - oft reichen ein paar Zeilen Python-, Bash- oder PowerShell-Code. Michael Kofler zeigt Ihnen in diesem Praxisbuch, wie Sie die Macht der Scripting-Umgebungen nutzen. Anhand zahlreicher Praxisbeispiele erfahren Sie, wie Sie Aufgaben automatisieren und wie Ihnen Shell- oder Pythonscripts viel Arbeit abnehmen können. Mit dabei ist ein Überblick über moderne Shell-Werkzeuge und IDEs: Visual Studio Code, Git, SSH und mehr. Aus dem Inhalt: - Bash, ZSH und die Linux-Toolbox - PowerShell und CmdLets - Python und Pip - SSH, VSCode, Git, Curl: Werkzeugenkasten für moderne Scripts - Scripts automatisch ausführen: Cron und Task Scheduler - Backups automatisieren - Bilder verarbeiten - Monitoring: Logging-Dateien auswerten - Web-Scraping und -Mining - Scripting in der AWS-Cloud - Automatisierte Builds mit Docker-Containern

Michael Kofler hat Telematik an der TU Graz studiert und ist einer der erfolgreichsten deutschsprachigen IT-Fachbuchautoren. Zu seinen Themengebieten zählen neben Linux auch IT-Sicherheit, Python, Swift, Java und der Raspberry Pi. Er ist Entwickler, berät Firmen undarbeitet als Lehrbeauftragter.

Vorwort ... 11
TEIL I. Scripting-Sprachen ... 15
1. Scripting: Do one thing ... ... 17
1.1 ... Was heißt Scripting? ... 17
1.2 ... Script-Sprachen ... 20
1.3 ... Die Qual der Wahl ... 24
2. Zehn mal zehn Zeilen ... 27
2.1 ... Markdown-Rechtschreibkorrektur (Bash) ... 27
2.2 ... Bilder nach Aufnahmedatum sortieren (PowerShell) ... 28
2.3 ... JSON-Datei in das XML-Format umwandeln (Python) ... 29
2.4 ... Tägliches Server-Backup (Bash) ... 30
2.5 ... Web Scraping (Python) ... 31
2.6 ... Wetterdaten protokollieren (Python) ... 32
2.7 ... Hyper-V-Aufräumaktion (PowerShell) ... 33
2.8 ... Statistische Auswertung einer Logging-Datei (Bash) ... 34
2.9 ... Datei-Upload in die Cloud (PowerShell) ... 35
2.10 ... Virtuelle Maschinen klonen (Bash) ... 35
3. Bash und Zsh ... 37
3.1 ... Terminal, Shell und Bash ... 37
3.2 ... Installation ... 38
3.3 ... Kommandos interaktiv ausführen ... 42
3.4 ... Zsh als Bash-Alternative ... 45
3.5 ... Das erste Bash-Script ... 47
3.6 ... Kommandos ausführen ... 53
3.7 ... Standardeingabe und Standardausgabe ... 56
3.8 ... Globbing, Brace Extension, Umgang mit Datei- und Verzeichnisnamen ... 59
3.9 ... Variablen ... 63
3.10 ... Zeichenketten ... 69
3.11 ... Verzweigungen ... 77
3.12 ... Schleifen ... 83
3.13 ... Funktionen ... 87
3.14 ... Umgang mit Fehlern ... 88
4. PowerShell ... 91
4.1 ... Installation ... 91
4.2 ... Das Windows-Terminal ... 96
4.3 ... Aufruf von CmdLets und Funktionen ... 98
4.4 ... Kommandos kombinieren ... 105
4.5 ... Das erste Script ... 108
4.6 ... Variablen, Zeichenketten und Objekte ... 114
4.7 ... Arrays und Hashtables ... 125
4.8 ... Ausgabeumleitung ... 128
4.9 ... Schleifen ... 132
4.10 ... Verzweigungen ... 135
4.11 ... Funktionen und Parameter ... 137
4.12 ... Module ... 142
4.13 ... Fehlerabsicherung ... 145
5. Python ... 149
5.1 ... Python installieren ... 150
5.2 ... Python in einem Terminalfenster kennenlernen ... 152
5.3 ... Eigene Scripts programmieren ... 153
5.4 ... Elementare Syntaxregeln ... 155
5.5 ... Zahlen ... 157
5.6 ... Zeichenketten ... 159
5.7 ... Listen ... 166
5.8 ... Tupel, Sets und Dictionaries ... 169
5.9 ... Variablen ... 172
5.10 ... Operatoren ... 176
5.11 ... Verzweigungen (if) ... 178
5.12 ... Schleifen (for und while) ... 180
5.13 ... Funktionen ... 186
5.14 ... Textdateien verarbeiten ... 190
5.15 ... Fehlerabsicherung ... 193
5.16 ... Systemfunktionen ... 194
5.17 ... Module ... 197
5.18 ... Zusatzmodule installieren mit 'pip' ... 199
TEIL II. Arbeitstechniken und Werkzeuge ... 205
6. Linux-Toolbox ... 207
6.1 ... Verzeichnisse und Dateien ... 208
6.2 ... Dateien suchen ... 209
6.3 ... Dateien komprimieren und archivieren ... 211
6.4 ... Arbeiten mit root-Rechten ... 213
6.5 ... Prozesse verwalten ... 215
6.6 ... Software-Installation ... 219
6.7 ... Sonstige Kommandos ... 220
7. CmdLets für die PowerShell ... 223
7.1 ... Verzeichnisse und Dateien ... 223
7.2 ... Dateien suchen ... 227
7.3 ... Dateien komprimieren und archivieren ... 231
7.4 ... Prozessverwaltung ... 232
7.5 ... Registrierdatenbank und Systeminformationen ... 236
7.6 ... CmdLet-Ergebnisse verarbeiten ... 239
7.7 ... Sonstige CmdLets ... 244
7.8 ... Zusatzmodule installieren ... 244
7.9 ... Standard-Aliasse ... 247
8. Textauswertung mit Filtern und Pipes ... 249
8.1 ... grep, sort, cut und uniq ... 250
8.2 ... Beispiel: Automatische Coronazahlenauswertung ... 257
8.3 ... Beispiel: ping-Auswertung ... 259
8.4 ... Beispiel: Apache-Log-Analyse ... 260
8.5 ... CSV-Dateien ... 264
9. Reguläre Muster ... 269
9.1 ... Syntaxregeln für reguläre Ausdrücke ... 270
9.2 ... Gruppen und Alternativen ... 272
9.3 ... Reguläre Muster in der Bash (grep, sed) ... 278
9.4 ... Reguläre Muster in der PowerShell ... 283
9.5 ... Reguläre Muster in Python (re-Modul) ... 287
10. JSON, XML und INI ... 291
10.1 ... JSON in der PowerShell ... 291
10.2 ... JSON und Python ... 295
10.3 ... JSON in der Bash ... 299
10.4 ... XML in der PowerShell ... 302
10.5 ... XML und Python ... 306
10.6 ... XML in der Bash ... 310
10.7 ... INI-Dateien ... 312
11. Scripts automatisch ausführen ... 315
11.1 ... Cron ... 315
11.2 ... Beispiel: Webserver-Monitoring ... 319
11.3 ... Windows Task Scheduler ... 321
11.4 ... Beispiel: Währungskurse speichern ... 326
11.5 ... Änderungen im Dateisystem verfolgen ... 327
12. SSH ... 331
12.1 ... SSH-Client und -Server installieren ... 332
12.2 ... Mit SSH arbeiten ... 335
12.3 ... scp und rsync ... 340
12.4 ... SSH-Authentifizierung mit Schlüsseln ... 342
12.5 ... Beispiel: Bilder-Upload auf einen Linux-Webserver ... 345
12.6 ... Beispiel: Auswertung virtueller Maschinen ... 348
13. Visual Studio Code ... 351
13.1 ... Einführung ... 351
13.2 ... Sprachspezifische VSCode-Erweiterungen ... 353
13.3 ... Remote-SSH-Erweiterung ... 355
14. Git ... 359
14.1 ... Git-Crashkurs ... 360
14.2 ... Der richtige Umgang mit Einstellungen und Passwörtern ... 368
14.3 ... Git-Automatisierung ... 371
14.4 ... Git Hooks ... 374
TEIL III. Anwendungen und Beispiele ... 377
15. Backups ... 379
15.1 ... Verzeichnisse auf externen Datenträger synchronisieren ... 379
15.2 ... WordPress-Backup ... 384
15.3 ... SQL-Server-Backup ... 387
16. Bildverarbeitung ... 389
16.1 ... Bilddateien manipulieren ... 389
16.2 ... Fotos nach Aufnahmedatum sortieren ... 394
16.3 ... EXIF-Metadaten in SQL-Kommandos umwandeln ... 397
17. Web Scraping ... 403
17.1 ... Websites mit wget herunterladen ... 405
17.2 ... Web Scraping mit regulären Mustern ... 408
17.3 ... Web Scraping mit Beautiful Soup ... 409
17.4 ... Web Scraping mit Requests-HTML ... 414
17.5 ... Web Scraping mit der PowerShell ... 417
18. REST-APIs nutzen ... 419
18.1 ... curl und wget ... 420
18.2 ... REST-APIs in der PowerShell nutzen ... 425
18.3 ... Beispiel: Aktuelles Wetter ermitteln ... 428
18.4 ... REST-APIs in Python nutzen ... 429
18.5 ... Beispiel: Strompreise ermitteln und grafisch darstellen ... 430
19. Datenbanken ... 435
19.1 ... Datenbanken aktualisieren und warten ... 436
19.2 ... Neuen Kunden-Account einrichten ... 437
19.3 ... EXIF-Metadaten in einer Datenbank speichern ... 440
19.4 ... JSON-Daten in eine Tabelle importieren ... 444
20. Scripting in der Cloud ... 447
20.1 ... AWS CLI ... 447
20.2 ... Beispiel: Verschlüsselte Backup-Dateien in die Cloud hochladen ... 452
20.3 ... AWS-PowerShell-Modul ... 454
20.4 ... Beispiel: GroT1ss e Dateien einer Webseite in die Cloud auslagern ... 457
21. Virtuelle Maschinen ... 461
21.1 ... Virtuelle Maschinen einrichten und ausführen (KVM) ... 461
21.2 ... Netzwerkkonfiguration automatisieren (KVM) ... 464
21.3 ... Hyper-V steuern ... 467
22. Docker und Scripting ... 473
22.1 ... Beispiel: EXIF-Sorter als Docker-Image ... 474
22.2 ... Beispiel: Markdown/Pandoc-Umgebung ... 477
Index ... 485