Перейти к основному содержимому
Перейти к основному содержимому

Руководство по настройке общего источника Postgres

к сведению

Если вы используете одного из поддерживаемых провайдеров (в боковой панели), обратитесь к конкретному руководству для этого провайдера.

ClickPipes поддерживает версии Postgres 12 и выше.

Включение логической репликации​

  1. Чтобы включить репликацию на вашем экземпляре Postgres, убедитесь, что следующие настройки установлены:

    wal_level = logical

    Чтобы проверить это, вы можете выполнить следующую SQL команду:

    SHOW wal_level;

    Результат должен быть logical. Если нет, выполните:

    ALTER SYSTEM SET wal_level = logical;

  2. Дополнительно рекомендуется установить следующие параметры на экземпляре Postgres:

    max_wal_senders > 1
max_replication_slots >= 4

    Чтобы проверить это, вы можете выполнить следующие SQL команды:

    SHOW max_wal_senders;
SHOW max_replication_slots;

    Если значения не соответствуют рекомендованным, вы можете выполнить следующие SQL команды, чтобы установить их:

    ALTER SYSTEM SET max_wal_senders = 10;
ALTER SYSTEM SET max_replication_slots = 10;

  3. Если вы внесли какие-либо изменения в конфигурацию, как указано выше, вам НЕОБХОДИМО ПЕРЕЗАПУСТИТЬ экземпляр Postgres, чтобы изменения вступили в силу.

Создание пользователя с разрешениями и публикациями​

Давайте создадим нового пользователя для ClickPipes с необходимыми разрешениями, подходящими для CDC, и также создадим публикацию, которую мы будем использовать для репликации.

Для этого вы можете подключиться к своему экземпляру Postgres и выполнить следующие SQL команды:

  CREATE USER clickpipes_user PASSWORD 'clickpipes_password';
  GRANT USAGE ON SCHEMA "public" TO clickpipes_user;
  GRANT SELECT ON ALL TABLES IN SCHEMA "public" TO clickpipes_user;
  ALTER DEFAULT PRIVILEGES IN SCHEMA "public" GRANT SELECT ON TABLES TO clickpipes_user;

-- Дать разрешение на репликацию ПОЛЬЗОВАТЕЛЮ
  ALTER USER clickpipes_user REPLICATION;

-- Создать публикацию. Мы используем это при создании канала
  CREATE PUBLICATION clickpipes_publication FOR ALL TABLES;
примечание

Убедитесь, что заменили clickpipes_user и clickpipes_password на желаемое имя пользователя и пароль.

Включение подключений в pg_hba.conf для пользователя ClickPipes​

Если вы управляете сервисом самостоятельно, вам необходимо разрешить подключения к пользователю ClickPipes с IP-адресов ClickPipes, следуя приведенным ниже шагам. Если вы используете управляемый сервис, вы можете сделать то же самое, следуя документации провайдера.

  1. Внесите необходимые изменения в файл pg_hba.conf, чтобы разрешить подключения к пользователю ClickPipes с IP-адресов ClickPipes. Пример записи в файле pg_hba.conf будет выглядеть так:

    host    all   clickpipes_user     0.0.0.0/0          scram-sha-256

  2. Перезагрузите экземпляр PostgreSQL, чтобы изменения вступили в силу:

    SELECT pg_reload_conf();

Увеличение max_slot_wal_keep_size​

Это рекомендуемое изменение конфигурации, чтобы гарантировать, что крупные транзакции/коммиты не вызывают удаление слота репликации.

Вы можете увеличить параметр max_slot_wal_keep_size для вашего экземпляра PostgreSQL до более высокого значения (по крайней мере 100 ГБ или 102400), обновив файл postgresql.conf.

max_slot_wal_keep_size = 102400

Вы можете перезагрузить экземпляр Postgres, чтобы изменения вступили в силу:

SELECT pg_reload_conf();
примечание

Для получения лучших рекомендаций по этому значению вы можете обратиться к команде ClickPipes.

Что дальше?​

Теперь вы можете создать свой ClickPipe и начать прием данных с вашего экземпляра Postgres в ClickHouse Cloud. Не забудьте записать детали подключения, которые вы использовали при настройке вашего экземпляра Postgres, так как они понадобятся вам во время процесса создания ClickPipe.