🛠 PyData на YouTube: доклад о d9d — фреймворке распределённого обучения LLM
Канал PyData 23 августа выложил запись 50-минутного доклада Максима Афанасьева из Tochka с PyData & PyCon Yerevan 2026: как устроен d9d — открытый Apache-2.0 фреймворк распределённого обучения, построенный нативно на PyTorch 2.0 и проверенный при масштабировании MoE-моделей до 235 млрд параметров.
🌍 d9d занимает нишу между монолитами вроде Megatron-LM и собственной сборкой инфраструктуры: нативные примитивы PyTorch 2.0, масштабирование от одного GPU до 6D-параллелизма, стриминг-чекпоинтинг и pipeline parallelism на torch.distributed.pipelining.
👤 Запись — практичный разбор распределённого обучения LLM: от 6D-параллелизма до конкретных API. Код открыт (Apache-2.0): можно склонировать, почитать и позаимствовать инженерные приёмы.
Источник 1: https://www.youtube.com/watch?v=BGTtk3geHoY Источник 2: https://pretalx.pycon.am/pydata-pycon-2026/talk/E7DZBU/