[Перевод] При работе с Delta Lake оптимизируем через кластеризацию, а не через сегментирование

Источник
[Перевод] При работе с Delta Lake оптимизируем через кластеризацию, а не через сегментирование

Сегментирование в стиле Hive применяется для оптимизации физического диска и более качественной компоновки данных, о чём подробнее рассказано в статье Organizing Data: Partition by Disk to Hive-style Partitioning. Но при работе с облачными объектными хранилищами сегментирование — не лучшая стратегия, и нам следует переосмыслить наш подход к организации данных. В этой статье обсудим, как путём пропуска данных (data skipping) и использования Z-порядка сократить объём тех данных, которые приходитс…

Полный текст не публикуется. Источник: Habr

Поиск по Loople