DEEPL-HPC-Tutorial: Efficiently using & analysing deep learning frameworks on HPC resources

Deep-Learning-APIs wie TensorFlow oder PyTorch garantieren in der Regel keine effiziente Nutzung von HPC-Ressourcen. Mit bestehenden HPC-Tools ist die Effizienzanalyse von Deep-Learning-Anwendungen schwieriger als bei klassischen HPC-Anwendungen. Dieses Tutorial zielt darauf ab, die Lücke zwischen Deep-Learning-APIs und klassischer HPC-Infrastruktur zu schließen und stellt praktische Ansätze und Rezepte für ein effizientes Modelltraining auf HPC-Ressourcen vor. Darüber hinaus zeigen wir Methoden zur Analyse der Leistung von DeepLearning-Anwendungen.

Agenda

• Installation/Verwendung von Frameworks über PIP, CONDA, EasyBuild-Module und Container. Vor-und Nachteile.
• CPU- und GPU-Zuweisung für die TensorFlow- und PyTorch-Frameworks mit dem SLURM-Batch-System
• Effizientes Bereitstellen und Lesen von (Trainings-)Eingabedaten für verschiedene Klassen von Dateisystemen
• Verwenden von vorgefertigten Containern von Anbietern
• Paralleles Training / Skalierung des Trainings
• Möglichkeiten, die Leistung zu überprüfen

The course is free of charge. Course language: English.
Please register here until 22nd November 2022: Registration DEEPL-HPC-Tutorial

You will receive the access data via email to your registered email address before the event. If you have any questions, please do not hesitate to contact Ms. Anja Gerbes  ().