Описание
Lakehouse для аналитиков и инженеров данных
Научитесь эффективно использовать Data Lakehouse c разделенным Compute и Storage на основе Iceberg и Trino.
- Познакомиться с архитектурой LakeHouse, последним поколением аналитических систем
с разделенными слоями хранения (Iceberg/S3) и вычисления (Trino/k8s). - На практике научиться использовать кластер Trino over k8s, который будет обращаться к данным на S3 в формате Iceberg.
- Научиться строить гибридные пайплайны обработки данных с использованием SQL, Python, Spark.
- Освоить масштабирование до х100 раз без смены парадигм и технологий.
Программа обучения
Встречи: 6 недель (1 встреча в неделю)
Занятие 1. Lakehouse, Iceberg, разделение Compute и Storage
Занятие 2. Структура формата Iceberg. Формат Parquet
Занятие 3. Практика
Занятие 4. Метрики запросов в Trino
Занятие 5. Еще раз о формате Iceberg
Занятие 6. Пайплайны и финальная Q&A-сессия
