Руководство по настройке
- Учетная запись Estuary
- Один или несколько capture в Estuary, которые получают данные из нужных вам источников
- Учетная запись ClickHouse Cloud с разрешениями на работу с ClickPipe
Создайте materialization в Estuary
Чтобы передавать данные из исходных collection в Estuary в ClickHouse, сначала нужно создать materialization.- В панели мониторинга Estuary перейдите на страницу Destinations.
- Нажмите + New Materialization.
- Выберите коннектор ClickHouse.
-
Заполните данные в разделах Materialization, Endpoint и Source Collections:
- Materialization Details: укажите уникальное имя для вашей materialization и выберите data plane (облачного провайдера и регион)
- Endpoint Config: укажите защищенный Auth Token
- Source Collections: привяжите существующий capture или выберите collection данных, которые нужно предоставить ClickHouse
- Нажмите Next, а затем Save and Publish.
-
На странице сведений о materialization запишите полное имя вашей materialization ClickHouse. Оно будет выглядеть примерно так:
your-tenant/your-unique-name/dekaf-clickhouse.
Введите сведения о подключении Kafka
Настройте новый Kafka ClickPipe в ClickHouse и введите сведения о подключении:- В панели мониторинга ClickHouse Cloud выберите Data sources.
- Создайте новый ClickPipe.
- Выберите Apache Kafka в качестве источника данных.
-
Введите сведения о подключении Kafka, используя данные брокера и registry из Estuary:
- Укажите имя для вашего ClickPipe
- Для брокера используйте:
dekaf.estuary-data.com:9092 - Оставьте аутентификацию со значением по умолчанию
SASL/PLAIN - В поле пользователя введите полное имя вашей materialization из Estuary (например,
your-tenant/your-unique-name/dekaf-clickhouse) - В поле пароля введите токен аутентификации, который вы указали для своей materialization
-
Включите параметр schema registry
- Для URL схемы используйте:
https://dekaf.estuary-data.com - Ключ схемы будет таким же, как пользователь брокера (имя вашей materialization)
- Секрет будет таким же, как пароль брокера (ваш токен аутентификации)
- Для URL схемы используйте:
Настройте входящие данные
- Выберите один из ваших Kafka топиков (одну из ваших collection данных из Estuary).
- Выберите offset.
- ClickHouse обнаружит сообщения топика. После этого можно перейти к разделу Parse information, чтобы настроить сведения о таблице.
- Выберите создание новой таблицы или загрузку данных в подходящую существующую таблицу.
- Сопоставьте поля источника со столбцами таблицы, проверив имя столбца, тип и возможность значения NULL.
- В заключительном разделе Details and settings можно выбрать разрешения для выделенного пользователя базы данных.
Дополнительные ресурсы
- См. документацию Estuary по materialization в ClickHouse.
- Estuary предоставляет данные в виде сообщений Kafka с помощью Dekaf. Подробнее о Dekaf можно узнать здесь.
- Список источников, которые можно передавать в ClickHouse через Estuary в потоковом режиме, см. в разделе capture-коннекторов Estuary.