Managed Apache Kafka

Потоковая платформа для событий и интеграций — без боли администрирования.

Кластер Apache Kafka в несколько шагов: три брокера с репликацией, декларативное управление топиками и шифрование трафика. Сервис живёт в вашем пространстве DevSpace, рядом с базами и приложениями проекта — стройте событийную архитектуру, а обновления, восстановление и координацию кластера оставьте платформе..

Что вы получаете
  • Кластер, готовый к production
    несколько брокеров с репликацией партиций между ними
  • Декларативные топики
    партиции, фактор репликации и политики хранения задаются конфигурацией, а не скриптами на брокере
  • Шифрование трафика
    TLS между компонентами кластера и на внешнем подключении
  • Стандартный протокол Kafka
    работают все клиенты экосистемы: Java, Go, Python, Kafka Connect, ksqlDB
  • Масштабирование
    рост числа брокеров и ресурсов по мере увеличения потока
Как устроен сервис
Кластером управляет Strimzi — открытый Kubernetes-оператор для Apache Kafka и проект CNCF, стандарт де-факто для запуска Kafka в Kubernetes:
  • Топики как конфигурация

    Топик описывается декларативно: имя, число партиций, фактор репликации, политики (retention, compaction и другие настройки Kafka). Оператор приводит кластер к описанию — удобно для GitOps.

  • Управляемый жизненный цикл

    Strimzi выполняет rolling-обновления — брокеры перезапускаются по одному, без остановки кластера, и следит за согласованностью конфигурации.

  • TLS внутри кластера — всегда

    Межброкерный трафик и служебные подключения шифруются, PKI кластера оператор ведёт автоматически.

  • Персистентные тома
    Данные брокеров хранятся на блочном хранилище платформы, доступны реплицируемые классы хранилища.
Возможности
Сценарии использования
  • Событийная архитектура
    асинхронный обмен между микросервисами вместо хрупких синхронных цепочек. Сами сервисы при этом могут работать в managed Kubernetes в том же пространстве и ходить к брокерам по внутренним адресам — выставлять Kafka наружу не обязательно
  • Потоковая обработка
    метрики, клики, телеметрия, IoT: приём и обработка событий в реальном времени
  • Интеграционная шина
    надёжная доставка данных между системами, включая CDC-репликацию из баз данных
  • Буфер и разгрузка
    сглаживание пиков нагрузки между продюсерами и потребителями
Как развернуть Apache Kafka в облаке — три шага
  • 1
    Добавьте сервис «Kafka» в своём пространстве DevSpace: ресурсы брокеров и размер хранилища.
  • 2
    Опишите топики — партиции, реплики и политики хранения, прямо в конфигурации сервиса.
  • 3
    Подключите продюсеров и консьюмеров стандартными Kafka-клиентами по адресу из панели.

Вопросы–ответы