Telegram-канал
БАЗА ЗНАНИЙ MADE

Разбираем по полочкам

Практика Data Engineering, рабочие инструменты и опыт из реальных задач. Автор — Максим Костенко.

Все публикации · 6

CDC / ЧАСТЬ 3
CDC
CAPTURE. STREAM. APPLY.

CDC на примере. Часть 3

Разбираем путь заказа через PostgreSQL, Debezium, Kafka и обработчик — от создания до удаления.

2 мин
CDC / ЧАСТЬ 2
CDC
CAPTURE. STREAM. APPLY.

CDC: подводные камни. Часть 2

Снапшоты, повторные события, удаления и лаг: что нужно учесть при построении CDC-пайплайна.

1 мин
CDC / ЧАСТЬ 1
CDC
CAPTURE. STREAM. APPLY.

CDC: как таскать изменения из базы. Часть 1

Как отслеживать INSERT, UPDATE и DELETE и передавать изменения из рабочей базы в аналитическое хранилище.

1 мин
AIRFLOW / ПРАКТИКА
DAG
OBSERVE. DEBUG. REPEAT.

Еженедельный бомбёж, или что бесит дата-инженера

История зависшего DAG: диагностика HTTP-соединения, Spark, наблюдаемость и сроки интеграционных задач.

3 мин
DOCKER / ЧАСТЬ 2
compose
DESCRIBE. BUILD. RUN.

Docker vs Docker Compose. Часть 2

Где помогает Compose, зачем нужны healthcheck и restart и почему архитектура всё ещё важна.

2 мин
DOCKER / ЧАСТЬ 1
compose
DESCRIBE. BUILD. RUN.

Docker vs Docker Compose. Часть 1

Почему дело не в количестве контейнеров и как описать окружение проекта в одном файле.

1 мин