Привет, настраиваю tls c сертификатом Lets encrypt
При подключении через клиента получаю такую ошибку
Code: 210. DB::NetException: SSL Exception: error:1000007d:SSL routines:OPENSSL_internal:CERTIFICATE_VERIFY_FAILEDКонфиг

<openSSL>
<server>
<certificateFile>/etc/clickhouse-server/server.crt</certificateFile>
<privateKeyFile>/etc/clickhouse-server/server.key</privateKeyFile>
<dhParamsFile>/etc/clickhouse-server/dhparam.pem</dhParamsFile>
<verificationMode>none</verificationMode>
<loadDefaultCAFile>true</loadDefaultCAFile>
<caConfig>/etc/clickhouse-server/certs/chain.pem</caConfig>
<cacheSessions>true</cacheSessions>
<disableProtocols>sslv2,sslv3</disableProtocols>
<preferServerCiphers>true</preferServerCiphers>
</server>
</openSSL>Сертификат верифицируется если проверять через openssl

```openssl verify -CAfile ca.cer server.crt```Версия клика clickhouse:21.1.2.15

Что может быть не так?

на клиенте тоже должна быть цепочка сертификатов в CA от let's encrypt

> Code: 210. DB::NetException: SSL Exception: error:1000007d:SSL routines:OPENSSL_internal:CERTIFICATE_VERIFY_FAILED
`
вы эту ошибку где получаете?
в clickhouse-client ?

да в clickhouse-client
это значит мне в конфиге клиента указать caConfig с ca.cer от let's encrypt ?

ну да, там параметры есть
ну еще можно попробовать ca-certificates проапгрейдить попробовать возможно у вас просто нет корневого сертификата Let's encrypt в OS в /etc/ папке

Понял, спасибо
Буду пробовать

Коллеги, а /clickhouse/shadow/ - это кто? Бекап?

это хардлинки? они могут быть при FREEZE
который обычно делается для backup

https://clickhouse.tech/docs/en/operations/backup/#manipulations-with-parts

Да, спасибо, уже нашел от куда freeze делается, только вот почему-то места /shadow/занимает прилично

их можно удалить безболезненно?

он сам не занимает места

если вы du -s -h делаете hardlink
то это он ссылается на старые партиции
которые возможно кто-то удалил

Если добавить колонку с MATERIALIZED expr, то значение будет вычисляться при каждом SELECT ?

если я правильно всё понял при инсерте будет вычисляться expr и сохраняться.
старые данные будут вычисляться при каждом SELECT пока не произейдет merge этого PART

Тогда в чем отличие от DEFAULT, он вроде тоже вычисляется при INSERT если не указан

как лучше сделать?
Пишутся события, домен отдельно не пишется. Фильтр по домену часто используется. Хочу сделать колонку c выражением domainWithoutWWW(page_url), по логике это должно ускорить запросы.

Идеально конечно при записи сразу слать домен отдельно, но если ограничиться только возможностями CH

выше писали что отличие от дефолт только в том что дефолт выбирается по SELECT * и можно явно вставлять значение

в любых ситуациях лучше использовать дефолт

Он исторические данные при мердже также дозаполнит?

вот

если верить @den_crane - то да

я не тестил, честно

спасибо, вроде все ясно

Помогите, пожалуйста, с этим вопросом.

партиционирвание сделано не для ускорения запросов в первую очередь, а для манипуляций

Понять что хардлинки не занимают место нелегко. Надо слелать du -sh на все каталоги кх, du учитывает что этот inode уже был и не включает в сумму второй раз. Ну и парты которые помержены будут занимать место конечно.

Опыты с составными ключами в partition by, подобные
PARTITION BY (toYYYYMMDD(event_date), event_type, event_region)
у меня ни к чему хорошему не привели. Во первых сильно стала проседать скорость, когда обьём данных накопился более-менее приличный, несколько лет. Партиций стало слишком много. И во вторых, пришлось увеличивать max_partitions_per_insert_block со 100 до 1000+, иначе при вставке репликация ставала колом, реплики просто не принимали такие запросы, и пока я не заметил, их в буфере Distributed накопилось уже приличное количество, и они бесконечно пытались раскидаться по шардам.
После увеличения max_partitions_per_insert_block оно, конечно, рассосалось, но деградация скорости стала такой, что просто перелили с простым партицированием по месяцам.
А дневные юзаются для кеш-таблиц, в которые триггером копируется из основных таблиц. Дневные - чтобы по крону раз в сутки можно было чистить кеш.
Вот такой опыт получился.

Все правильно вы поняли.
Обычно невозможно напихать столько полей в partition by потому что будет очень много партов и замедляются инсетры. Чаще всего удается добавить в partitiin by какое-то одно низкокардинальное поле которое не хочется класть в order by

storage-ch]# du -sh clickhouse/
14T clickhouse/
storage-ch]# du -sh clickhouse/shadow/
3.3T clickhouse/shadow/
правильно я понимаю, что в shadow что-то потярялось?

Спасибо за ваш опыт, учту.

У меня просто есть таблицы, созданные с кривыми ключами сортировки, и там добавление условия по полю из ключа партиционирования ускоряет запросы иногда в десятки раз.
И есть много однотипных таблиц, которые хочу схлопнуть без потери скорости работы с ними.

Денис, спасибо.

Добрый день!
Удалось разобраться в чем проблема?
Мы как раз сейчас интегрируем catboost и ловим такую ошибку

Неа, так и работало на файликах которые из тутора выкачал

Хех)
Ничего нового за два года
Спасибо!

Господа, подскажите, что будет происходить, когда количество свободного места на диске упрётся в параметр keep_free_space_bytes, и перемещать с него данные уже некуда, ибо это последний диск в очереди storage_policy? Будут дропаться старые данные или всё станет колом и база станет read only?

Либо я не умею гуглить, либо документация тактично отмалчивается по этому поводу. Фраза keep_free_space_bytes — размер зарезервированного свободного места на диске. как-то не очень подробно раскрывает суть параметра.

du -sh clickhouse/*

Всем привет, подскажите плз
arrayFirstIndex будет пробегать по всему массиву или остановит итерации на первом элементе, который удовлетворяет условию функции ?

ну так arrayFirstIndex же

с точки зрения кода функции - останавливает

Спасибо

Добрый день! Подскажите пожвалуйста

Можно ли без настройки DSN в файле подключить внешний словарь по ODBC?

кто-нибудь сетапил суперсет для кх ?

Ребят, всем привет!
Кто-то может посоветовать сис.админа, который развернет КХ на чистом серваке и настроит его оптимально под используемое железо? На серваке кроме КХ ничего не будет.
Возмездно конечно)

Altinity же как раз для этого вроде

Подскажите пожалуйста, как правильно отследить какие запросы в CH отъедают проц? Перезагружаешь CH все работает нормально, потом через какое то время проц отъедается на 100 процентов. Версия 21.1.2.15

select * from system.merges
select * from system.mutations where not is_done
select * from system.processes

Спасибо! Пока кого-то из РФ ищу)

альтинити работает РФ, но вроде такого не делает, вообще разовых задач не делает, только годовые контракты

Понял, спасибо

Парни, добрый день,
Альтер мат вью сумминг мерж еще нет такого, да?

ручками надо, да?

Да ваще несложно это сделать, только вот серверов надо бы как минимум два.

А два зачем?

Сравнивать тюнинг, нет же абсолютных истин

да вроде и процессов 2-3 и там селекты в основном не большие. есть ли какие рекомендации по тюнингу для ускорения СН?

я в видео про MV показывал варианты кажется

Варианты, я помню и использую. Но там был намек что один чел делает "альтер"

Вот не сделал еще, да?

в смысле результат показал только запрос select * from system.processes ?
или что?

да, именно так, только мой запущенный запрос select * from system.processes

Напишу в личку

он в тикете сказал что не будет. Им не нужно MV, у них только MV to, поэтому он запилит возможно совсем нечто иное

а cpu используется в этот момент?

что в логе КХ ?

в логах ероров нет (

почему ероров ?
что кх пишет в лог в момент нагрузки на cpu ?

Привет.
Подскажите, пожалуйста, как на практике реализуется работа с CollapsingMergeTree ? Меня смущает тот момент, что для затирания старой записи нужно вставлять её копию, но с другим знаком. Это значит, что данную копию нужно сначала залочить, потом прочитать, потом записать, потом снять блокировку. Это хорошо работает, когда подобные запросы льются через одного демона. Но как быть, если один демон не справляется и их нужно несколько пишут они одни и те же данные?

1. залочить? в КХ нет локов.
2. не нужно копию, нужна запись с таким же ключом и -1 в sign
3. таких вопросов не должно быть, если вы не помните вне КХ был такой ключ или нет и вам надо выбирать, то вам не подходит CollapsingMergeTree, берите Replacing

имелось ввиду залочить не в КН, а в демонах.

Спасибо за ответ.

Ребята, привет.
Есть здесь Clickhouse девы из Украины? Может кому-то интересно будет рассмотреть предложение?

Гениально

Всю базу тоже скиньте пожалуйста

) случайно вставил

гитхаб аккаунт есть?
там можно gist-ы cоздавать https://gist.github.com/den-crane/35c4a488f06ec29293d096970ef21693

спасибо за подсказку

Вечер добрый!
Подскажите пожалуйста, как решить проблему с ALTER TABLE ... UPDATE ...
Отправляю запрос (реакция и на другие запросы такая же):
ALTER TABLE s_ko.funnel_crm
UPDATE
utm_source='test', utm_medium='test'
WHERE
projects_id=123
AND key IN ('crmLeads')
AND leads_id=1
В system.mutations.command:
UPDATE utm_source = 'test', utm_medium = 'test' WHERE (projects_id = 123) AND (key IN ('crmLeads')) AND (leads_id = 1)

А latest_fail_reason:
Code: 60, e.displayText() = DB::Exception: Table s_ko.crmLeads doesn't exist. (version 20.6.4.44 (official build))

В чем может быть проблема?

Подскажите, пожалуйста, есть playground , который позволяет создавать свои таблицы? Тут https://play.clickhouse.tech/ пишет
DB::Exception: playground: Not enough privileges. To execute this query it's necessary to have the grant CREATE TABLE ON datasets.posts (version 20.8.12.2 (official build))

Подскажите почему agregationFunction sum и simpleagregationfunction sum выдают разные результаты?

ну баг ,

напишите AND key = 'crmLeads'

ну ошибка в 6й строке, вы опечатались, у вас переполнение из-за неверного типа данных

В КХ все ОК, я проверял (правда я проверял не все типы данных)

Пробовал, выдает такой же результат.
Также, пробовал ставить "key", key, key. Не помогает.

Вопрос. А чем вызано наличие настройки max_table_size_to_drop равным по дефолту 50GB?

не верю, покажите AND key = 'crmLeads' ошибку и что в system.mutations

ничем, просто Алексей любит все обкладывать safe-limiter-ами, и 50ГБ просто довольно большая величина, выше которой ему некомфортно терять данные при случайном drop table

Ааа, я просто думал что там какие-то хитрые логики есть за этим, тогда окей

Был такой command, ошибка та же.
UPDATE utm_content = 'test', utm_term = 'test' WHERE (projects_id = 123) AND (key = 'crmLeads') AND (leads_id = 1)

В списке mutations было множество ошибок таких, начал их чистить и при повторной отправке этот запрос сработал.
Проверю остальные запросы.
Спасибо.

`key`?

в любой вариации

да тут дело явно в IN ('crmLeads')

я проверю починено это или нет

20.6.4.44 естественно out of support уже давно

и кстати есть 20.6.11.1

не воспроизводится в свежих кх
https://gist.github.com/den-crane/47809d29e4850b9eb6c12add0d90c221

Запрос с IN тоже прошел.
Правда clickhouse обновил до 21.1.2.15, пока ковырялся.

Было похоже на то, что одна ошибка с IN не давала выполниться и остальным запросам.

мм, смело. Я тестирую 6 месяцев перед апргейдом.

Ребята, а не подскажите, что нужно в clickhouse отправлять в бинарном виде на порт 9000, чтобы провести корректный healthcheck ?
Надоела ошибка в логах.
<Warning> TCPHandler: Client has not sent any data.

Например для FPM приводится пример проверки такого рода:
backend be_phpfpm
# ...
option tcp-check
# FCGI_BEGIN_REQUEST
tcp-check send-binary 01 # version
tcp-check send-binary 01 # FCGI_BEGIN_REQUEST
tcp-check send-binary 0001 # request id
…..

Впрочем у меня нету полной уверенности, что это из-за tcp проверок.
Пардон, вопрос следует более детального изучения.

Возможно поможет /replicas_status урл. Она 500 отдает в случае ошибок

curl localhost:9000
Port 9000 is for clickhouse-client program.
You must use port 8123 for HTTP.

в логе

<Trace> TCPHandlerFactory: TCP Request. Address: [::1]:54946
<Debug> TCPHandler: Client has connected to wrong port.
<Debug> TCPHandler: Done processing connection.

можно на go написать маленьку софтину, чтобы по 9000 select 1 (с пользователем и паролем) делать

(без пароля)
curl localhost:8123/ping
Ok.

всем привет
подскажите пожалуйста со следующим вопросом
загужаю 15лямов записей в кх через буферную таблицу а кх показывает что кол-во строк а меня 5лямов где могли потеряться 10лямов записей?

Смержиться если строки повторяются а за буфером replacingmergetree например

да у меня движок ReplacingMergeTree
данные разные но почему то он их схлопывает((

спасибо огромное, поменял движок
все начало писаться

Привет, коллеги. Создал таблицу для вычитки из Кафки:

CREATE TABLE t ( message String )
ENGINE = Kafka
SETTINGS
kafka_broker_list = 'xxx:9092',
kafka_topic_list = 'xxx',
kafka_group_name = 'xxx',
kafka_format = 'JSONAsString'

После первого чтения (например так: select * from t), перестаёт читать, в логах ошибка:

<Fatal> BaseDaemon: (version 20.12.5.14 (official build), no build id) (from thread 2806) (query_id: 2d2d8a45-a70e-4947-9ea8-a1df253e6ef6) Received signal Segmentation fault (11)
<Fatal> BaseDaemon: Address: NULL pointer. Access: read. Address not mapped to object.

Вроде в более старых версиях была схожая проблема, но её устранили(?). Кто-нибудь сможет подсказать возможное решение? Заранее спасибо)

а разве эта таблица предназначена для чтения напрямую? materialized view к ней обычно прикручивают

Прикручивал, результат тот же(

вы пишете, что читали из этой таблицы

в любом случае segfault быть не должно

Читал селектом, чтобы проверить, когда начинается проблема. Матвью тоже ведь читает из неё, только по тригеру.

Вообще сначала делал по инструкции из документации, но получал одну и ту же ошибку.

Кстати, первый селект отрабатывает и отдаёт верный результат

это как раз не удивительно)

кафку проверили? руками топик норм забирается 2 раза подряд?

это не hard limit
база в readonly встанет тогда когда место реально кончится

К кафке к тому же топику подключено много консьюмеров, сомнений в её работоспособности нет. Не может же из-за Кафки быть segfault?

segfsult не должен быть в любом случае

Привет.
Скажите, пожалуйста, какие сейчас годные альтернативы генерации значений автоинкремента? Про UUID в курсе.

кто-то сказал snowflake? :)

а, автоинкремент...

Друзья, подскажите, пожалуйста, почему ReplacingMergeTree не склеивает записи.
Может ли это быть связано с тем, что в таблице есть поле DateTime Default Now()
?

Это поле является частью Order By?

Нет, order by другое поле

CREATE TABLE oferta_test
(
idItem Int64,
sellerId Int32,
idCategory Int32,
offerName Nullable(String),
price Decimal(10, 2),
updated_at DateTime DEFAULT NOW('Europe/Berlin'),
INDEX idItem idItem TYPE set(0) GRANULARITY 4,
INDEX idCategory idCategory TYPE set(0) GRANULARITY 4,
INDEX sellerId sellerId TYPE set(0) GRANULARITY 4
)
ENGINE = ReplacingMergeTree()
ORDER BY idItem
SETTINGS index_granularity = 8192

Вот структура таблицы

Должно клеить по idItem, но нет..

Ну не должно, а может. Когда решит, что надо

Уже неделю жду ((
Optimize table тоже не помогает

А в system.merges не висит?

Нет. system.merges пустая

Получилось побороть?
Тоже сыпет сотни логов. Бесят )

неа... но уверен что проблема решится если приложения будут обращаться к серверу по порту 9000 )

Добрый день! Подскажите, насколько правильно использовать не временные поля при партиционировании, а какие-нибудь относительно низкокардинальные поля? При том, что это низкокардинальное поле уже часть ключа сортировки. Чувствую, что здесь что-то неправильно, но не могу аргументировать в споре.

Неудобно удалять старые данные (если это вообще требуется)

ну это через TTL можно решить, не обязательно DROP PARTITION делать

главное чтобы ВСЕ запросы в КХ выбирались по этому ключу.

Зависит от задачи

главная цель партиций в том, чтобы у вас были разнесенные на диске наборы данных "не пересекающиеся"
и чтобы в каждой партиции данные из PK были размазаны равномерно
и чтобы куски данных внутри партиций (system.parts) имели на диске нормальный размер чтобы их быстро можно было full scan сделать если что...

то есть определение партиций для сканирования это первый этап

если партиций слишком много (десятки тысяч) а данные вы вставляете все равно "по времени"
то при вставке можете получить ошибку что слишком много мелких партов надо вставить в слишком большое кол-во партиций

А в ReplacingMergeTree схлопывание происходит в рамках партиции же или по всей таблице при FINAL ?

в рамках партиции

"full scan сделать если что" - это если вдруг надо сделать запрос мимо ключа сортировки? Или в каких случаях это ещё надо?

ну вот вы делаете запрос по полю которого нет ни в PRIMARY KEY ни в ORDER BY ни в PARTITION BY ...
будут паралельно тогда сканироваться все файлы <имя_колонки.bin> с распаковкой
и с применением SECONDARY INDEX data skip алгоритмом если вдруг вы CREATE INDEX сделали

Да, это понимаю. Уточнил просто, вдруг есть ещё какие подводные камни.
Спасибо.

Привет ребят,

Я создал таблицу, в которой у меня есть столбцы с некоторыми идентификаторами.
Эти идентификаторы могут быть удалены в основной базе данных mysql, и я должен добавить их для каждого запроса CH в качестве фильтра (предложение NOT IN).
Что я могу использовать для этого хранилища удаленных идентификаторов?
Раз в неделю или месяц я хочу обновить эти удаленные идентификаторы в CH и удалить записи из основной таблицы CH.

признателен за любую помощь, спасибо!

summingMergeTree
для каждого идентификатора вставлять обратное значение , и они со временем удалятся

ну на стороне MySQL сделайте отдельную таблицу с этими идентификаторами типа (id, delete_date)
и сделайте на стороне ClickHouse
словарь CREATE DICIONARY с SOURCE MySQL
и выбирайте
SELECT ... FROM db.clickhouse_table WHERE dictGetOrDefault('db.dictionary','delete_date', tuple(id),toDate('0000-00-00')) = toDate('0000-00-00')

а потом через TTL или через мутации удаляйте
ALTER TABLE db.clickhouse_table DELETE WHERE dictGetOrDefault('db.dictionary','delete_date', tuple(id),toDate('0000-00-00')) != toDate('0000-00-00')

тоже хороший вариант, можно collapsingMergeTree только

а потом через TTL удаляйте? должен быть калонка с настроенным TTL? или на любую калонку можно присвоить TTL ?

ALTER TABLE ... MODIFY TTL

Всем привет, есть какое-то решение?

было переименование таблицы
rename table table_name to table_name_old;

запрос упал из-за нехватки на сервере дискового пространства.

теперь получилось так, что файлы в дериктории для таблицы table_name_old есть, а самой таблицы нет.
DB::Exception: Target path already exists: /var/lib/clickhouse/data/db/table_name_old/

нагуглил решение с attach table, но оно не помогло, ошибка

DB::Exception: Table table_name_old doesn't exist

Буду рад любым подсказкам

version 20.4.7.67 (official build)

можно на всю таблицу, также дополнительно можно на любые колонки

коллеги, такой вопрос, есть таблица, в ней есть парты, я хочу получить размер на диске только метаданных, т.е. размер парта минус размер всех bin файлов, есть такая возможность?

DESCIBE system.parts;
если там нет, то нет

SELECT formatReadableSize(sum(bytes_on_disk)-sum(data_compressed_bytes)) FROM system.parts GROUP BY database, table, partitions

но что вы подразумеваете под "метаданными"?
mrk + secondary индексы?

ATTACH table делал сокращенным образом - без определения полей

все решилось, когда в attach сделал определение всей структуры таблицы

в принципе да, марки и индексы
сеичас попытаюсь проверить...

Добрый день, хотим хранить данные в таблице за 3 дня. Хорошая ли практика сделать почасовые партиции? и каким выражением правильно задать их?

Пойдет
PARTITION BY toStartOfHour(ts)

спасибо, на это и смотрел.
листал историю чата, и часто упоминают, что в ЗК будет проблема при часовых партициях. в чем будет проблема? и будет ли она при хранении 3-х дней, потом удаление партици и заново.

сколько данных
миллиадр строк в день?

в ZK проблема не в том что партиции почасовые
а в том что партов может быть СЛИШКОМ много для синхронизации
когда делают почасовые партиции а данные вставляют каждый раз "за последний день"
и соответсвенно новые куски данных появляются в слишком большом кол-ве партиций...

ZK не любит когда кол-во транзакций очень большое...

но это крайние кейсы редко встречаемые

в зависимости от того сколько у вас данных и как вы их вставляете, проблем c ZK у вас быть не должно

На самом деле с zookeeper и часовые партиции видимо проблема в этом

https://github.com/ClickHouse/ClickHouse/issues/3322

от 30 до 100млн в сутки

Наверное тогда не стоит мучатся с часовыми
PARTITION BY toDate(ts)
ORDER BY (toStartOfHour(ts),...)

Будет аналогично +-

IMHO тогда особого смысла делать почасовые партиции нет
если дата есть в ORDER BY
тогда оно равномерно по mrk файлам засечки сделает, и спокойно их фильтровать будет

подневные партиции+в ключе сортировки на 1 месте?

Да, ну точнее даже вопрос, вы как фильтруете по дате в запросе?

да, дата есть в ключе сортировки

да, будет фильтр по датам

По датам только, по часам нет? (тогда toStartOfHour вам вообще не нужен)

по часам тоже фильтруем, но думаю будет реже чем просто запрос за последний день/два дня.

Колеги плиз хелп, есть ошибка DB::Exception: ALTER ADD INDEX is not supported for tables with the old syntax. Что за old syntax не могу найти информацию что бы почитать и сделать new syntax :) Спасибо.

MergeTree(date-column [, sampling_expression], (primary, key), index_granularity)
Старый

https://clickhouse.tech/docs/en/engines/table-engines/mergetree-family/mergetree/#mergetree-query-clauses

Deprecated Method for Creating a Table

вроде логично то что этот запрос выдает. спасибо

в ключе сортировки если указать id+toStartOfHour(ts) это будет лучше?

все запросы всегда идут с id и toStartOfHour(ts) ?

нет
id/toStartOfHour(ts) - 90/10

вообще ORDER BY поля лучше всего в таблице указывать от МЕНЬШЕЙ кардинальности к большей
то есть
toStartOfHours явно меньшую кардинальность имеет чем id
поэтому ее лучше сначала поместить
Данные лучше сжиматься будут в остальных полях

Добрый день!
Подскажите по восстановлению бекапа в кластере
бекап делаю так alter table db.table freeze
рестор ALTER TABLE db.table ATTACH PARTITION ’11’
бекап из shadow/{{ increment }} кладу сюда /var/lib/clickhouse/data/db/table/detached/{{ increment }}
далее создаю бд и создаю 3 таблицы на каждой ноде clickhouse и после этого рестор

рестор отрабатывает со статусом - ok, но данных нет.
может еще что-то надо сделать?

https://github.com/AlexAkulov/clickhouse-backup
посмотрите как тут сделано

если правильно понял на новых версиях кх движок атомик и там симлинки поэтому clickhouse-backup не работает на новых версиях

опс, да извините, вы правильно поняли

Подскажите, пожалуйста.

Есть кластер, состоящий из двух шардов. Над этим кластером создана схема, в которой лежит основная таблица, которая, соответственно, шардируется.

Хочется добавить в ту же схему ещё одну доп таблицу, но чтобы она не шардировалась, а просто реплицировалась на все ноды.

Такого эффекта можно вроде бы достичь, если при создании этой новой реплицируемой таблицы указать путь в зукипере, не содержащий имени шарда.

Это, вообще, рабочее решение или костыль? Может быть, есть другие способы?

Спасибо.
Подобрал правильные параметры генерации и заработало отлично!

Рабочее, мы используем - проблем нет

добрый день! А есть ли готовый мониторинг с аналитикой запросов в кликхаус, который метрики из query_log/query_thread_log сам заберет и разложит по полочкам, как сделано для постгреса в pgwatch2/powa4 или для MySQL в PMM?

А как КН переносить внезапное отключение виртуалки, в которой он активно работает? Что может приключиться?

а какую именно либу используете? я для Go нашёл такое: https://github.com/beinan/fastid

Я про таблицу во всех шардах отвечал, про ID ничего подсказать не могу.

всем привет, а подскажите как лучше прочитать всю таблицу

Есть таблица
create table solder
(
id String,
number String,
cost Int32,
currency Nullable(String),
prize Nullable(Int32),
date_sold DateTime,
date Date,
game_id Int32,
user_id Int32,
session_guid Nullable(String),
session_id Nullable(String),
session_balance Nullable(Int32),
g_count Nullable(Int8),
is_free Nullable(Int8),
is_refund Nullable(Int8),
roundnum Nullable(String),
ip Nullable(String),
ua Nullable(String),
platform Nullable(String),
date_updated Nullable(DateTime),
is_real Nullable(Int8),
is_gt_max Nullable(Int8) default CAST(0, 'Nullable(Int8)'),
promotion_id Nullable(Int32) default CAST(0, 'Nullable(Int32)'),
is_suspicious_activities Nullable(Int8) default CAST(0, 'Nullable(Int8)')
)
engine = MergeTree() PARTITION BY toYYYYMMDD(date) ORDER BY (id, date, date_sold, game_id, user_id) SETTINGS index_granularity = 8192

как только делаю в запросе CASE, пишет Read Time out
select tx.user_id, sum(ts.cost-ts.prize), sum(ts.cost), count(ts.id), sum(case when ts.date between today() - 7 and today() then ts.cost - ts.prize else 0 end)
from solder ts
group by ts.user_id

Что в таком случае делать, спасибо (

tx.user_id -> ts.user_id

потеряются некоторые последние инсерты

А сама БД не попортится?

нет

И сервер запустится без ручных манипуляций?

да с вероятностью 99.99999%

Спасибо за отличную новость!

Вопрос про мутации

1) Были сделаные 225 мутаций вида update set cola = 2 where colb = 30;
2) Данных порядка 2.5 млрд
3) В system.mutations мутаций которые в процессе — нет, то есть все завершены
4) При этом select показывает еще старые данные

В чем может быть дело? Кроме того что я не правильно сделал select

есть 38 багов на эту тему. Давайте начнем с версии КХ. И вы когда-нибудь делали рестор базы? Испольуете clickhouse-backup ?

1) 20.12.3.3
2) Не делал через clickhouse-backup, есть просто в tar.gz копии некоторых партов (нужных)

И в догонку еще, — это вот второй шард, а первый шард на нем так же порядка 2.5млрд но там все мутации висят в статусе что они "в процессе", уже минут 25, можно как либо понять может быть косвенно что процесс вообще идёт, ясно что реврайт партов не быстрый процесс

На втором шарде селект стал показывать то что нужно !

Успех

>просто в tar.gz копии
рестор был?

Рестора не было

В общем на втором шарде всё ок, на первом тупо висят как "в процессе" все мутации :(

таблица replicated?

все я запутался.

В system.mutations мутаций которые в процессе — нет, то есть все завершены
При этом select показывает еще старые данные
На втором шарде селект стал показывать то что нужно

Таблица не replicated но на неё смотрит Distributed. Всего 2 шарда на каждому запущено было 225 мутаций. На одном - всё окей, на втором они висят в процессе выполнения. Я думаю что я просто зря сотрясаю воздух и надо подождать, там всё таки 1.2Тб данных

в system.merges видно мутации и %

% выполнения ??

да

А какая колонка?

progress

Нет такой у меня :(

describe table system.mutations;

database,String
table,String
mutation_id,String
command,String
create_time,DateTime
block_numbers.partition_id,Array(String)
block_numbers.number,Array(Int64)
parts_to_do_names,Array(String)
parts_to_do,Int64
is_done,UInt8
latest_failed_part,String
latest_fail_time,DateTime
latest_fail_reason,String

Все закончилось успешно !

Я раньше времени начал волноваться :)

Но progress конечно был бы полезен, видимо это в более новой версии, либо я что-то не осиливаю

Есть довольно удобный гуёвый клиент heidisql.com . Но он не может подключиться с драйвером MySQL, ибо пытается выполнить несуществующую функцию CONNECTION_ID() .

Если есть пара секунд, полайкайте, пожалуйста, поддержку ClickHouse в этом клиенте: https://github.com/HeidiSQL/HeidiSQL/issues/135

ну вы и читатель епт

> в system.merges видно мутации и %

Сорри :(

@den_crane может вы подскажите? версия кх 21.1.2.15

??????????

detached/{{ increment }}

?????? {{ increment }} ?????????

этот {{ increment }} это индефикатор бекапа. Его не должно быть в detached

Должна быть папка store?

Или то что в store?

что за бред, откуда store ?

давайте по шагам на конкретных примерах

что вы понимаете под рестором? attach нужен

вот пример, то что в shadow

сейчас сделаю пример

ALTER TABLE db.table ATTACH PARTITION ’{{ increment }}’ - вот что для меня рестор)

вот тренируйтесь на этом примере
https://gist.github.com/den-crane/5ae44ec04961ec62286835c8798e2728

понял свою ошибку, спасибо большое!

а разморозить?

что? о чем вы ? unfreeze ? зачем это ?
это флаги -r-rw-- на файлах/партах.
Они не нужны не для чего. Яндекс облако кажется использует эту фичу чтобы не вести реестр партов которые забекаплены.

A.s осталась без слияний

это не тоже самое, что SYSTEM STOP MERGES A.s?

да ща. нет конечно

вообще никакой связи. freeze просто создает хардинки, на мержи вообще не влияет

то есть новые куски будут появляться

но не в shadow

фриз создает моментальный снепшот партции или таблицы в shadow используя хардлинки

аааа, не очевидно про freeze, спасиб

контр-интуитивно

привет, как получить первый элемнт массива?
SELECT a FROM ... >>> ['aa', 'bb']...

SELECT a.1 FROM .. >>> Code: 43, e.displayText() = DB::Exception: First argument for function tupleElement must be tuple or array of tuple.:
в чем проблема?

a[1]

a.1 это для туплов синтаксис

аааа! понял, спасибо! работает!

пока такого нет

если хотите, можете помочь улучшить
https://github.com/Altinity/clickhouse-operator/blob/master/grafana-dashboard/ClickHouse_Queries_dashboard.json

спасибо)

судя по названию, он только для кликхауса в кубернетисе?

какая из функций поиска подстроки самая легкая для CPU, если это корректный вопрос.

Второй вопрос имеет ли значение длина строки ?

И третий вопрос, если сделать колонку с Materialized, сложить туда Категории (строки) и уже по ним делать выборку, они будут просто короче и меньше различных вариантов, это ускорит запрос ?

сейчас есть поиск подстроки в url для понимания что за категория страницы. И я думаю как это можно оптимиизровать

я сделал материалку с регекспом которая нарезает урл - потом уже группировки и поиск получается не полнотекстовый. вышло весьма быстро

ну там можно взять JSON
и заменить
cluster('all-sharded',system.query_log)
на просто
system.query_log
или на
cluster('your_cluster_name_from_remote_servers_config_xml_section',system.query_log)

и можно без kubernetes использовать
только clickhouse-grafana плагин в grafana поставьте

спасибо, попробую

не совсем понял про нарезает, складываете в массив что ли?

нет, беру первую часть урла и складываю в отдельное поле
ну типа
https://github.com/minio/minio/tree/master/docs/erasure/storage-class
раскладываю в колонки
minio minio tree master docs …

в самом деле зависит от проекта, мне 2 полей хватает

ну на самом деле там под капотом ОЧЕНЬ много оптимизаций

если данные по system.parts распределены равномерно
тогда самый простой вариант это создать еще одну колонку у которой DEFAULT extract(URL, pattern) или extractURLParameter(URL, param_name)

и еще урлы нормализую - переменные оттуда убираю. тоже индивидуально для проектов

просто extract(URL, pattern)

Спасибо, пойду тестировать

добавляю данные через http используя драйвер https://github.com/mailru/go-clickhouse:
Code: 164, Message: default: Cannot execute query in readonly mode. For queries over HTTP
подскажите что делать?

ClickHouse/ClickHouse tagged: v21.1.3.32-stable
Link: https://github.com/ClickHouse/ClickHouse/releases/tag/v21.1.3.32-stable
Release notes:
ClickHouse stable release v21.1.3.32-stable

query - ro, exec -rw в этом драйвере

Подскажите, пожалуйста, как, имея таблицы, сгенерить sql-скрипт, который создаст такие таблицы?

SELECT create_table_query FROM system.tables;

Спасибо!

что может ограничвать потребление опертивки при условии что CH в докер контейнере, смотрю по docker stats
Ситуация
- один сервак: контейнеру выделен лимит 64 гига оперативки, он использует 2, в простое и при запросах.
- другой сервак: конктенеру выделено 24 гига он использует 12 в простое

Может и не надо больше?

не пойму почему на серваке где выдано меньше гигов, и база почти всегда в простое стоит, жрет оперативы больше чем база в которую регулярно идет запись и запросы

может и не надо больше, но почему то есть подозрение что ее что то ограничивает

Всем привет.
С чем может быть связана проблема, при которой запрос вида

select
main.value_1 as value_1,
main.value_2 as value_2,
main.value_1 as v1,
main.value_2 as v2
from (подзапрос as main)

выдаёт разные, отличающиеся на порядки и никак не связанные результаты в колонках value_1 и v1 ?

dictionary по моему для этой задачи походят

Привет ребят, нашел странности в логах КХ
2021.01.18 22:54:34.868742 [ 19518 ] {} <Error> InterserverIOHTTPHandler: Code: 24, e.displayText() = DB::Exception: Cannot write to ostream at offset 4195414, Stack trace (when copying this message, always include the lines below):

0. DB::WriteBufferFromOStream::nextImpl() @ 0x9a4b360 in /usr/bin/clickhouse
1. DB::WriteBufferFromHTTPServerResponse::nextImpl() @ 0xe4aaca7 in /usr/bin/clickhouse
2. DB::HashingWriteBuffer::nextImpl() @ 0xe22227d in /usr/bin/clickhouse
3. DB::DataPartsExchange::Service::sendPartFromDisk(std::__1::shared_ptr<DB::IMergeTreeDataPart const> const&, DB::WriteBuffer&, bool) @ 0xe21c543 in /usr/bin/clickhouse
4. DB::DataPartsExchange::Service::processQuery(Poco::Net::HTMLForm const&, DB::ReadBuffer&, DB::WriteBuffer&, Poco::Net::HTTPServerResponse&) @ 0xe21b46a in /usr/bin/clickhouse
5. DB::InterserverIOHTTPHandler::processQuery(Poco::Net::HTTPServerRequest&, Poco::Net::HTTPServerResponse&, DB::InterserverIOHTTPHandler::Output&) @ 0xe4ae339 in /usr/bin/clickhouse
6. DB::InterserverIOHTTPHandler::handleRequest(Poco::Net::HTTPServerRequest&, Poco::Net::HTTPServerResponse&) @ 0xe4aea64 in /usr/bin/clickhouse
7. Poco::Net::HTTPServerConnection::run() @ 0x10c9c915 in /usr/bin/clickhouse
8. Poco::Net::TCPServerConnection::start() @ 0x10cd40df in /usr/bin/clickhouse
9. Poco::Net::TCPServerDispatcher::run() @ 0x10cd5af1 in /usr/bin/clickhouse
10. Poco::PooledThread::run() @ 0x10e06c99 in /usr/bin/clickhouse
11. Poco::ThreadImpl::runnableEntry(void*) @ 0x10e02bca in /usr/bin/clickhouse
12. start_thread @ 0x7ea5 in /usr/lib64/libpthread-2.17.so
13. __clone @ 0xfe96d in /usr/lib64/libc-2.17.so
(version 20.10.6.27 (official build))
2021.01.18 22:54:34.869191 [ 19518 ] {} <Error> ServerErrorHandler: Poco::Exception. Code: 1000, e.code() = 32, e.displayText() = I/O error: Broken pipe, Stack trace (when copying this message, always include the lines below):

0. Poco::Net::SocketImpl::error(int, std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&) @ 0x10cccd8d in /usr/bin/clickhouse
1. Poco::Net::SocketImpl::sendBytes(void const*, int, int) @ 0x10cce3e7 in /usr/bin/clickhouse
2. Poco::Net::StreamSocketImpl::sendBytes(void const*, int, int) @ 0x10cd3176 in /usr/bin/clickhouse
3. Poco::Net::HTTPSession::write(char const*, long) @ 0x10ca0233 in /usr/bin/clickhouse
4. Poco::Net::HTTPChunkedStreamBuf::writeToDevice(char const*, long) @ 0x10c8e15d in /usr/bin/clickhouse
5. Poco::BasicBufferedStreamBuf<char, std::__1::char_traits<char>, Poco::Net::HTTPBufferAllocator>::sync() @ 0x10c8f0b9 in /usr/bin/clickhouse
6. Poco::Net::HTTPChunkedIOS::~HTTPChunkedIOS() @ 0x10c8e3ac in /usr/bin/clickhouse
7. non-virtual thunk to Poco::Net::HTTPChunkedOutputStream::~HTTPChunkedOutputStream() @ 0x10c8ef2b in /usr/bin/clickhouse
8. Poco::Net::HTTPServerResponseImpl::~HTTPServerResponseImpl() @ 0x10c9e06f in /usr/bin/clickhouse
9. Poco::Net::HTTPServerConnection::run() @ 0x10c9c969 in /usr/bin/clickhouse
10. Poco::Net::TCPServerConnection::start() @ 0x10cd40df in /usr/bin/clickhouse
11. Poco::Net::TCPServerDispatcher::run() @ 0x10cd5af1 in /usr/bin/clickhouse
12. Poco::PooledThread::run() @ 0x10e06c99 in /usr/bin/clickhouse
13. Poco::ThreadImpl::runnableEntry(void*) @ 0x10e02bca in /usr/bin/clickhouse
14. start_thread @ 0x7ea5 in /usr/lib64/libpthread-2.17.so
15. __clone @ 0xfe96d in /usr/lib64/libc-2.17.so
(version 20.10.6.27 (official build))

Это может означать только одно - беды с диском?

Всем привет! Есть тут эксперты по odbc-драйверу? Нормальная ли производительность, фулскан с винды через odbc-драйвер таблицы 1 млн строк и 472 столбца, занимает 1 минуту в формате RowBinaryWithNamesAndTypes? При этом пробовали через нативный clickhouse-client, там скорость в таком же формате около 12 сек. Упора в сетку/цп/озу нигде нет, ни на сервере ни на клиенте. Пробовали как с одной ноды дергать, так и с кластера в 2 и 5 нод, используя distributed таблицу, результаты примерно одинаковые +- 1-2сек, что наверное погрешность. Как-то ещё можно ускорить или всё-таки упор уже в драйвер ? В таблице в основном числовые значения

Коллеги SELECT timezone() выдает Europe/Berlin, сменил зону в конфигах и на самом сервере, однако ничего не поменялось, подскажите как поправить?

Рестарт нужен

CH перезапустил, сам сервак только не перезапускал

как менял таймзону на сервере? =)

timedatectl set-timezone UTC

В общем после рестарта сервера все работает

Всем привет. Подскажите, пожалуйста, а можно ли как-то сделать одну вьюху и для вставки и для выборки из существующей таблицы? (некий аналог переименования таблицы, что ли)

что-то типа distributed engine?

Привет, ткните пожалуйста куда почитать, как правильно удалить колонку использующуюся в ключе? Я так понимаю это причина ошибки DB::Exception: ALTER of key column <column_name> must be metadata-only

Добрый вечер. Подскажите, почему такой запрос не выполняется? Просто висит в процессах и все? Пинг ходит с локал ну удаленный, бд/таблицы есть. Куда можно взглянуть?
Сервера должны быть прописаны в remote_server?
select * from remote('192.168.XXX.XXX:8123', default.test_tab2, 'XXX’, 'XXX’);

Я думаю так нельзя делать

ну так не бывает ведь (надеюсь :)), возможность явно необходимая и как минимум через insert ...select создавая новую таблицу можно. Но довольно коряво выглядит, помню где то попадалось через правки метаданных, но не могу найти. Попытался в zookeeper индексы поудалять на стенде но толку нет.

Ну только если так
Вы спросили конкретно про альтер
Альтерить колонки из ключа сортировки нельзя

А так создавайте новую таблицу и переливайте туда данные

порт 9000 должен быть

мда, попробую до утра подождать, может будут идеи у кого, как то печально выглядит, десятки gb туда сюда катать не очень хочется.

Да. Только не хочется создавать на всех шардах кластеры размером в один шард

десятки ГБ это 10-20 минут на все про все)

Это меньше часа работы

как минимум похоже можно делать через копирование partition ALTER TABLE dst_table ATTACH PARTITION '<partition_from_sys.part>' FROM source_table; и ничего лучше пока не нахожу, но в любом случае за подсказки спасибо.

Боюсь приаттачить не получится, если структура таблицы изменится. Как себя должен повести кх когда увидит отсутствующую или, наоборот, дополнительную колонку?

да тут я явно не подумал... но в принципе можно попробовать перелить в какой -то Memory, удалить поле и уже залить в Distributed :) хотя тут конечно все плюсы сразу теряются.

Можно ли сделать MATERIALIZED VIEW которая будет обновлятся по заданаму периоду времени (например каждые 10 мин)?

средаствами КХ - нет, только кроном

если МВ маленькая в результате можно попробовать сделать вью и на нее повесить словарь но это так себе решение

ещё есть live view, но я про него не знаю

привет! как вернуть null вместо 0 если элемента не существует в массиве?
a=[1,2,3]
SELECT arr[4] >> 0 NULL?

SELECT [1,2,3][4];

Если в массиве не будет нулей то можно:
nullIf(arr[4],0)

иначе придется городить логику if(length(arr) >= x, arr[x], NULL)

Oh nullif supported in CH! отлично, спасибо, нулей нет

было бы неплохо если добавить дефолт в arrayElement(arr, n, default)

CH не смог клиенту по http поток отдать, потому что клиент ушел

Что значит "обновляться"? MV обрабатывает только вставляемые в таблицу данные.

Можно сделать MV, которая будет писать в буфер, имеющий период вставки в следующую таблицу - 10 минут. Тогда результат обработки MV в результирующей таблице будет появляться раз в 10 минут.

а curl через http с RowBinaryWithNamesAndTypes сколько дает?

можно переопределять

cat /etc/default/clickhouse
export TZ=Europe/Berlin

тогда нужен рестарт только КХ

никак

8123 это нет тот порт. remote умеет только 9000 tcp, 8123 = http

нельзя

нет

спс, я уже понял, там ниже ответил сам себе)

пока тут, можно спросить.
Есть таблица, в ключе сортировки на первом месте id.
Выполняются регулярно запросы select * from tab where id in( и тут большой список id).
Как можно ускорить, если можно конечно?

надо смотреть используется индекс или нет.

я бы просто запустил select * from tab where identity(id) in( и тут большой список id)
и посмотрел есть разница или нет в статистике запроса

значительно хуже
set force_primary_key=1;
говорит не могу выполнять запрос(

значительно хуже с identity ?

да

значит используется primary_key и уже ничего больше не выжать, ну или index_granularity но надо смотреть внимаетльно что за таблица и что вообще за воркфлоу.

правильно ли я понимаю, если ставлю такую настройку (set force_primary_key=1;), то запрещает выполнять если не используется ПК?
Нужно использовать весь ПК или можно только его часть?

вы чето брешите

create table xxx( A Int64) Engine MergeTree order by A;
set force_primary_key=1;

select * from xxx where A in (1,2,3)
Ok.

select * from xxx where identity(A) in (1,2,3)　;
DB::Exception: Primary key (A) is not used and setting 'force_primary_key' is set..

sorry, неправильно выполнил последовательность команд
все как у вас, да

Подскажите пожалуйста, можно ли при создании базы данных указать ей место для хранения данных в соответствии с какой-то политикой хранения?
Хочу создать MaterializedMySQL на другом диске

Есть несколко вопросов по Buffer таблице:
> Заметим, что даже для таблиц типа Buffer не имеет смысла вставлять данные по одной строке, так как таким образом будет достигнута скорость всего лишь в несколько тысяч строк в секунду…
Понимаю что это довольно условно, но имеется ввиду запись в одну таблицу или в общем по кластеру.
Сейчас есть одна табличка, в нее идет порядка 4k одиночных записей в секунду, можно ли обойтись Buffer?
Так же несовсем понятен смысл этого
> Если таблица назначения является реплицируемой, то при записи в таблицу Buffer будут потеряны некоторые ожидаемые свойства реплицируемых таблиц.
Может кто-то расшифровать?

В конфигурации есть system.storage_policies

1 можно

2 у replicated таблиц есть фича -- дедупликация инсертов. Если инсерт совпадает до бита с одним из предыдущих, он будет пропущен.
буферная таблица склеивает инсерты, поэтому они не совпадают до бита, поэтому дедупликация инсертов не работает

Добрый день, имеет смысл использовать кодеки на колонки SimpleAggrefation ?

да

Благодарю .

например https://github.com/ClickHouse/ClickHouse/issues/17775#issuecomment-738880540 SimpleAggregateFunction(sum, UInt64) CODEC(T64, LZ4)

создать новую таблицу с новой структурой и сделать INSERT INTO ... SELECT...
проверить запросы
потом удалить старую таблицу
новую переименовать если надо

16 сек) и с него сетка до 2гбит нагружается. А когда odbc драйвер, то 1 минута и сетка примерно до 500мбит нагружается

odbc драйвер как измеряли? на каком то языке? или time isql ?

У нас есть bi, который умеет через odbc подключаться. Смотрел по логам время которое тратится на сам запрос, без учёта отрисовки данных. А что, через curl производительность должна быть такая же как и через odbc драйвер?

нет, производительность BI может быть не той что вы ожидаете и узким местом может быть не драйвер, а то, как BI его использует

time isql ...
что говорит?

Это не смотрели. У нас все клиенты виндовые. Я так понимаю isql надо с линуха ?

Год назад были похожие проблемы с производительностью при выборе большого кол-ва строк из ClickHouse при помощи виндового odbc драйвера. Дамп трафика показал что используются очень маленькие пакеты для пересылки данных. В итоге просто написали кастомный коннектор для своего BI, обращающийся к ClickHouse по http. Это позволило значительно ускорить процесс получения данных.

Симптомы были похожие. Ни где затыка вроде нет, а запрос выполняется оочень медленно при большом кол-ве строк в результатах запроса.

А что у вас за bi, если не секрет? Я ещё хочу покопаться и выяснить, может действительно наш bi не очень хорошо работает с драйвером и из за него проблемы

QlikView

ой точно
под винду компилируется вот это
https://crates.io/crates/odbc-tools

могу собранные .exe положить куда нибудь

Буду благодарен)

/report

https://mega.nz/file/LUw0DZAB#1H7raEbeDno7jZjIMaV6zGQU9Z4-fNNTzzCh1BXXtRE

драйвер ставил последнюю версию с github

советую поставить какой нибудь cygwin или git-bash

и в нем запускать как
time odbc-query.exe "DSN=clickhouse_dsn" vertical "SELECT number FROM numbers(1000000)" > /dev/null

драйвер 64bit ставил
clickhouse у меня поднят в docker + wsl2 с пробросом портов
поэтому localhost

получилось что нибудь замерять?

Друзья, подскажите пожалуйста. Есть такого вида запрос SELECT port_id,
ip_address,
count(*)
FROM external_ips
WHERE (sample_time >= '2020-12-06 00:00:00' AND sample_time <= '2020-12-06 23:59:59')
GROUP BY port_id, ip_address;
Запрос просто делает аггрегацию на определённые сутки. А если я хочу допустим сделать за месяц выборку, с аггрегацией по суткам, можно как-то кликхаус заставить выдать мне данные сразу аггрегированные по суткам за каждый день месяца? Не могу что-то собразить. Цель вообще сделать materialized_view

Ну если есть колонка с днями, используйте её. Если нет, то можно взять toDate(sample_time)

SELECT toDate(sample_time) as date,
port_id,
ip_address,
count(*)
FROM external_ips
WHERE /* период */
GROUP BY date, port_id, ip_address;

Спасибо огромное

в группировку можно свой аггрегат передать

Добрый день. Подскажите, пожалуйста, можно подключить базы из примонтированных устройств (разные диски одного сервера)? Можно ли их примонтировать в /var/lib/clickhouse/...?

А если у меня в materialized_view селект какой-то огромный, который сам по себе изначально по 10-15 сек выполняется. Получается он при каждом инсерте в таблицы, откуда селект выполняется, будет выполнятся снова. Правильно я понимаю?

Запрос в MV выполняется не над всей таблицей, а только над вставляемым куском данных. Но да, каждый раз.

MV это AFTER INSERT TRIGGER
который вещается на "таблицы"

таблицы которые ты указываешь как SELECT ... FROM ... в SELECT для MV
там будет браться не все данные всех таблиц, а только какая то одна в которую пришел INSERT
и работать этот SELECT будет только с куском данных а не со всей таблицей

то есть делать MV в котором JOIN и куча других тоже изменяющихся таблиц, так себе идея
делать MV над 1й таблицей + dictGet из словарей, уже лучше
делать MV + JOIN на неизменяемые таблицы, тоже норм. но сильно зависит от скорости JOIN

Вообще идея в том что у нас сейчас есть таблицы, куда семплы пишутся каждую минуту. Хотел просто аггрегацию семплов по суткам сделать и писать в отдельную таблицу, что бы потом оттуда данные брать по датам быстренько, а не шерстить 1440*30*N записей когда нужно за месяц данные собрать. Получается всё равно проще раз в сутки по расписанию делать чтение и запись в эту таблицу данных за последние сутки чем делать MV =\

Можете с помощью MV копировать данные в другую таблицу с движком AggregationMergeTree, где они фоном будут агрегироваться по дате, например.

Звучит как план. Если MV будет туда только новые данные докидывать, то прям супер

нет 1 в 1 нормально сделайте MV, он для даунсемлинга вполне норм подходит

сделайте таблицу T2 Engine=AggregationMergeTree (читайте в доке как)
сделайте CREATE MATERIALIZED VIEW MV TO T2 ... SELECT ... FROM T1 ... GROUP BY ...
получите искомый даунсемлинг
но запросы из таблицы T2 все равно делайте с GROUP BY

Спасибо большое!

господа инженеры, подскажите, пожалуйста, я чет даже не пойму с какой стороны подступиться
есть у меня запрос, который возвращает что-то подобное

┌──────time───────────┬──qpm─┬──m─┐
│ 2021-02-04 12:31:00 │ v1 │ m1 │
│ 2021-02-04 12:31:00 │ v2 │ m2 │
│ 2021-02-04 12:31:00 │ v3 │ m2 │
└─────────────────────┴──────┴────┘
и хотелось бы как-то, гм, транспонировать эту таблицу в вот такое:
┌──────time───────────┬──m1─┬──m2─┬─m3──┐
│ 2021-02-04 12:31:00 │ v1 │ v2 │ v3 │
└─────────────────────┴─────┴─────┴─────┘

(число этих измерений m1, m2, … mN в идеале произвольное, но сойдет и фиксированное N)
сам запрос https://pastebin.com/tQaD5Std

select groupArray(n) arr_n, arr_n[1], arr_n[2], arr_n[3] from (
select number n from numbers(3)
)

Да, я сразу на своей таблице пытаюсь проверить, но результат вообще не радует уже пару минут крутится, сетка всего на 30 мбит грузится, без vertical можно ? Как сделать вид «как есть»? Просто у меня куча столбцов и при вертикале он каждый столбик в строку записывает видимо

никак... значит rust еще тупее чем остальное =) извините что не в ту стороне отправил

есть еще
https://github.com/microsoft/ODBCTest
он вроде в комплекте MDAC поставлялся
но я что-то не могу найти MDAC на мракософт

Печаль) попробовал ещё json-array, сетку уже получше до 150-170 мбит грузит, но все равно слабовато выходит, нужен формат как есть )

гм, но это вытаскивает в строки значения того, что в groupArray(), а мне нужно значение в соседнем столбце

группируйте по нужному столбцу

я что-то не пойму, как именно надо группировать

сделайте тестовый пример на числах

да, я вот сделал https://pastebin.com/cAmxY1kb

Подскажите, пожалуйста, как безопасно дропнуть базу данных не стартуя КХ сервер?

select ts
, groupArray(k) arr1
, arr1[1] k1
, arr1[2] k2
, arr1[3] k3
, groupArray(v) arr2
, arr2[1] v1
, arr2[2] v2
, arr2[3] v3
from (
SELECT now() AS ts,
number AS k,
number * 2 AS v
FROM numbers(3)
)
group by ts
выбирайте

О, спасибо!
я пробовал группировать по v но видимо что-то пошло не так 🙂 А есть вариант салиасить колонки значениями из arr1?

судя по синтаксису в доке, там просто идентифаер должен стоять 😕

если только динамически

/stat@combot

mv /var/lib/clickhouse/metadata/database /tmp/
systemctl start clickhouse-server

ну и потом данные из /var/lib/clickhouse/data/database/
тоже куда нибудь перенести

а чем вас обычный DROP DATABASE не устраивает?

без старта, можно метаданные грохнуть

Сервер не стартует из-за неправильного создания таблиц с кафкой, да, тоже вот так почистили
А в Зукипере нужно ли чистить пути

Используйте политики хранения

https://altinity.com/blog/2019/11/27/amplifying-clickhouse-capacity-with-multi-volume-storage-part-1

создать аналогичную пустую таблицу, остановить сервер, подменить данные, запустить сервер, drop table

Данные не важны. Мне просто нужно с этими же именами таблиц пересоздать по-нормальному. Думаю что раз мета хранится в КХ - то ничего страшного. Ну или не удастся создать так как пути такие в Зукипере уже есть

почему нельзя взять из show create tname, drop table, создать заново?

при создании таблицы указать другой путь зукипера

если не удалилось

Не понял вопрос :).
Я накатил миграции, где из-за неправильно конфигурации Кафки сервер упал и не может стартануть. Для этого пришлось чистить директории. Но насколько я понимаю, для distributed таблиц в зукипере созданы пути, которые читсить очень неудобно. Вопрос мой сейчас в том что если не менять пути в зукипере - даст ли КХ пересоздать эти же самые таблицы после старта сервера. Потому что их пути основаны на названии базы и таблиц вроде как. А названия хочется оставить теми же самыми

distirbuted таблицы не используют ZK
вы с ReplicatedMergeTree не попутали?

попутал, да)

Привет.

Меня зовут Денис и я работаю в ООО Топвизор. Публикую здесь это объявление с разрешения администратора этого чата. Нам необходим функционал, которого сейчас нет в ClickHouse. К сожалению, кастомная разработка требует саппорта уровня Essential. Вход туда стоит 22 000 000 миллиона рублей в год. Думаю, что разработка может стоить намного порядков дешевле. Уверен, функционал будет полезен не только нам, но и сообществу.

Итак, мы используем ClickHouse и нам не хватает такого функционала:

В MySQL есть понятия UDF - пользовательские функции, написанные на Си
Разыскивается специалист, который сможет добавить такие функции в CH.

Необходимо разработать программу, которая при запуске смотрит в папку и подключает необходимые классы. А в самой программе будет подобный код:

callUDF('filename', 'args')

==

Мы не знаем точно, сколько может стоить такая работа. По поводу сроков выполнения тоже нет определенного понимания. Если вы готовы взяться за эту работу, пожалуйста, напишите мне в личку или на почту den@topvisor.com для обсуждения сроков и стоимости работы.

Спасибо.

если у вас есть в ZK path Такая штука как {uuid} то это будут новые пути при создании новой таблицы ReplicatedMergeTree с тем же именем

Нет такого, я бы не спрашивал будь пути с некой генерацией имени)

попробуйте с китайцем пообщаться из этой презентации?
https://github.com/ClickHouse/clickhouse-presentations/blob/master/meetup33/udf.pptx

тогда страдать

Добрый день.
Есть смысл использования индекса minmax по дате?
Или все и так по ключу партиционирования хорошо выбирает?
Или вариант просто пробовать и проверять?

Попробую, спасибо

партицирование это еще один min_max индекс но гораздо БОЛЬШИХ диапозонов
по нему ищется в первую очередь если ваше поле есть в PARTITION BY
только выражение PARTITION BY должно по типу совпадать с полем таблицы...
то есть toYYYYMM это на самом деле Integer а не дата
и искать по дате тогда тоже надо через WHERE toYYYYMM() чтобы партиции быстро отсекать

а вот toStartOfDate это дата и тогда поиск по date BETWEEN .. AND будет по партициям сначала использоваться без конвертации

=) если ваша дата есть в ORDER BY
или PRIMARY KEY
и
то это итак фактически и есть min_max индекс и по нему собственно говоря и ищутся нужные куски данных

понял, спасибо
да, дата есть ключе сортировки

тогда CREATE INDEX не нужен

спасибо)

По поводу второго это относится только ко вставкам из buffer, правильно? Или при вставке из того же rabbitmq ожидать такого же поведения?

rabbitmq по другому работает.

buffer пересортировывает инсерты которые вы повторяете с клиента, а повторяете по причине timeout / сетевой проблемы.

rabbitmq engine выбирает из очереди, собирает блок, и делает инсерты сам, и повторяет сам внутри до успеха.

а он при этом ack посылает в очередь что обработал ДО INSERT или после?
и где он блок хранит? на диске?

Если я правильно понимаю, мне достаточно добавить к buffer таблице уникальное поле например с uuid чтобы такого не случилось, а в репликатед таблице это поле не обязательно должно быть

я не смотрел, наверное как в кафке, ack после успеха инсерта, блок в памяти, зачем на диске

все неправильно поняли. Дедупликация инсертов это вообще не про это, читайте доку про репликацию.

кстати точно такую же дедупликацию вроде уже должны были присобачить в обычной mergetree, поищу

о как, больше года раскопки https://github.com/ClickHouse/ClickHouse/pull/8467 , чудеса такая мелкая фича

всем привет
можно ли пересчитать данные в матвьюшке?
у нас есть матвьюшка, она хранит счетчики записей в основной таблице по минутам, но она стала как-то странно считать записи
после пересоздания все стало нормально

вот 2 запроса с агрегацией по часам - до и после пересоздания
версия 19.8.3.8

events_importance
┌─count─┬───────────────start─┐
│ 194 │ 2021-02-02 06:00:00 │
│ 7 │ 2021-02-02 04:00:00 │
└───────┴─────────────────────┘

events_importance после пересоздания
┌─count─┬───────────────start─┐
│ 122 │ 2021-02-02 10:00:00 │
│ 16 │ 2021-02-02 08:00:00 │
│ 10 │ 2021-02-02 07:00:00 │
│ 12 │ 2021-02-02 06:00:00 │
│ 21 │ 2021-02-02 04:00:00 │
│ 8 │ 2021-02-02 03:00:00 │
│ 4 │ 2021-02-02 02:00:00 │
│ 4 │ 2021-02-02 01:00:00 │
│ 4 │ 2021-02-02 00:00:00 │
└───────┴─────────────────────┘

итоговое число записей одинаковое, но распределение совершенно разное

матвьюшка AggregatingMergeTree, основная таблица MergeTree
матвьюшка считается как

SELECT
countState() AS count,
toStartOfMinute(toDateTime(time)) AS time,
importance,
toDate(time) AS _date
FROM events
GROUP BY time, importance

Спасибо

добрый вечер. сервер КХ был перезапущен. штатно.таблица реплицируемая. сейчас сервер не запускается с ошибкой DB::Exception: Suspiciously many (152) broken parts to remove.: Cannot attach table. правильно я понимаю, что я могу эти куски <Warning> DB.TABLE: Detaching stale part /var/lib/clickhouse/data/DB/TABLE/610766fc0a3e72b7376196f9f9251b7a_1024111_1024332_7_1024651, which should have been deleted after a move. That can only happen after unclean restart of ClickHouse after move of a part having an operation blocking that stale copy of part. перетащить в другую папку?

Добрый вечер! нет ли в КХ готовых конструкций для 7 day rolling average?

тапа avg(value)
over (order by date asc
rows between 6 preceding and current row) as avg,

/stat@combot

Total messages: 202692

Это всё ещё в разработке. https://github.com/ClickHouse/ClickHouse/issues/17623

понятно, тогда через подзапросы

Этого не может быть, потому что не может быть никогда?! Но есть.

Здравствуйте! Столкнулся с воспроизводимой ситуацией, когда запросы через Distributed таблицу к system.settings соседних серверов ClickHouse возвращают значение параметра(ов), которое когда-то на этом сервере было установлено, но с тех пор давно изменилось.
Как будто бы старое значение где-то залипло или закешировалось.

Подробнее.
Тестовый кластер из 3 серверов.
Над часто востребованными таблицами (system.merges, system.replication_queue и т.д.) из system у меня Distributed таблицы (самое простое - 3 шарда по штуке на сервер, без реплицирования), чтобы из любой точки стенда одним запросом получить полную картину.

Разбирался с причинами неких неполадок с межсерверным взаимодействием (в логах непрерывным спам много раз в секунду события <Trace> HTTPCommon: Failed communicating with {ANOTHER_HOST} with error 'connect timed out: {IP}.61:9009' will try to reconnect session . на стенд идёт фоновая нагрузка примерно 100-200 тыс. событий в секунду).

Предположил, что надо покрутить параметры http_%_timeout, в частности значительно увеличить http_connection_timeout. (Поиск по этой группе показал, что некоторые его c 1 и до 15 поднимали).

На одном из серверов сперва установил (в конфиге профиля default-пользователя) http_connection_timeout в 10, потом в 2, потом закомментировал, тем самым восстановив значение по умолчанию - 1.
И локальный запрос этого параметра подтверждает, что значение параметра теперь дефолтное.

Но с соседних серверов запрос через Distributed таблицу возвращает давно не актуальное состояние, которое было час назад! (Точнее какое-то время неверное значение возвращалось при запросе с обоих соседних серверов, сейчас уже только с одного).

это из-за pooling.

живой конект живет в пуле и выдается разным запросам, параметры у него такие какие были в момент его рождения.

раньше пула не было, поэтому проблемы такой не было

потом добавили пул и обновление параметров уже непролезло в абстракции, дизайн

Понятно. Большое спасибо!
Главное, что это частный локальный эффект с system.settings. А то я совсем напрягся, что глобально что-то пошло не так с работой Distributed

хм, INNER JOIN vOwen AS past ON (past.Date >= (vOwen.Date - toIntervalDay(6))) AND (past.Date <= vOwen.Date) не ест

JOIN ON inequalities are not supported

UDF в виде функций на C или C++, работающие прямо в пространстве процесса, вряд ли будут реализованы, так как это очень небезопасно и делает очень сложной отладку чужих инсталляций.

Сейчас рассматриваются другие решения, сейчас скину короткое описание...

Там пять вариантов:

1. Простые функции в виде SQL выражений - композиций других функций. При включении compile_expressions может быть даже нормальным. Полезно для мелких вещей. Есть вопросы - как лучше их задавать, будут ли полиморфные функции.

2. Функции в виде подключаемых бинарников, работающих в режиме streaming. Похоже на https://github.com/ClickHouse/ClickHouse/issues/14528

Это варианты - минимум.

Первый ок, но мало что можно сделать с его помощью.
Второй позволяет всё, что угодно, но не очень эффективный.

3. Функции в отдельных процессах (скомпилированных бинарниках), которые используют shared memory для передачи данных столбцов и пайпы для сигнализирования. Недостатки: - сложно сделать, придётся выделять аллокатор у столбцов, чтобы уметь аллоцировать в shared memory; - очень сложно для пользователей, никто не будет использовать, но может быть базой для более простых вариантов.

4. Функции, работающие в адресном пространстве процесса, но написанные на безопасном языке. Скорее всего на Rust. Недостатки - продумывать и выделять интерфейс для доступа к данным столбцов. Никто в нашей команде не знает Rust. Но полезно для популяризации.

P.S. Python, Go - небезопасные по факту. Про Rust не уверен.

5. Использование какого-то интерфейса из Apache Arrow для взаимодействия.

А какие вообще юз кейс запросы были ?

Получается обычными функциями в запросе нет возможности получить необходимый результат эффективно ?

Иногда просят то, что подходит под пункт 1. То есть, запомнить композицию SQL выражений как функцию.

Но чаще просят в общем виде - чтобы подключать сложные функции, непонятно какие.

Да, в SQL трудно с control flow, сложную логику не напишешь...

Ещё сложнее, когда функции имеют не только логику, но и зависят от своих данных-справочников.

Под это идеально подойдёт пункт 2.

Пример: функция для перевода hostname в IP-адрес. То есть, она медленная, ходит по сети куда-то... Но значения можно кэшировать. Кстати, это реализуемо уже с помощью executable словарей.

Или более простой пример - по номеру банковской карты определить тип карты, банк, проверить корректность... там простая функция должна быть, но на SQL неудобно.

Ну так он же пишет ошибку - джойны не умеют в неравенства.
Вместо этого делайте from table1 a, table2 b where a.val = b.val.

да, уже в процессе, спасибо!

В смысле a.val > b.val. Ну вы поняли)

это кстати будет cartesian product тормозной

берите словарь range_hashed

это нереальная задача, скорее можно реализовать конретные функции которые нужны

Привет! Есть табличка с кликами на айтемы, хочу считать агрегаты по item_id в materialized view и периодически выгребать изменения из нее сторонним сервисом. Для этого нужно еще хранить время последнего изменения для каждого айтема. AggregatingMergeTree решает задачу, но агрегатную функцию нельзя поставить в условие фильтрации, а делать вложенный запрос кажется накладный, т.к. будет вычисляться агрегат по всей таблице. Какие есть пути решения?

что-что?

типа вычислять item_id max(updated_at) и потом max(updated_at) >= today - 7 ?

проблема не в аггрегатной функции, а в несмерженных строках

в общем-то для max можно использовать simpleAggragateFunction
или делать finalizeAggregation для AggragateFunction

а есть какой-то хитрый способ выбрать все значения LowCardinality столбца?
у меня самое быстрое получилось через select col from table group by col, но оно все равно сканирует всю табличку, может как-то можно доступиться к самому dictionary, который хранит значения?

ах, вопрос снимается https://github.com/ClickHouse/ClickHouse/issues/4670

нету , хотели сделать отдельную функцию которая только словари смотрит но не сделали

т.е. проблема в том что
select col from table group by col
читает словари dict -- очень маленькие файлы и .bin -- очень большие
select col from table group by col
под капотом возможно выполняется более сложный код который проверяет есть права на строку или нет, поэтому заходит в bin

Денни, добрый... что там у вас... день... Не проконсультируете по Hetzner...
пачка серверов, пишет в енж буфер, который сливается в null, оттуда МатВью в часов суммариМерж, оттуда матвью дневной суммариМерж. В часовом пара миллиардов за день.
Сейчас стоит VPS 9-ти ядерный. И вроде как все хорошо, но иногда что-то с сеткой в ДЦ или что-то еще. И я начинаю видеть вставки в буфер табл висящую минуту... две...
Вот подкмал сменить VPS на реал серв. Есть какие-то советы по выбору? ПРосто обидно будет взять AX61-NVMe который будет все время спать

КХ сервер один

VPS не проверял, с железками нет проблем.
Там конечно с сетью чудеса бывают, и сыплются ошибки зукипера, но ничего особо страшного

да он стоит 100 евро , я бы взял , это же копейки по сравнению с вашей зарплатой
сколько VPS стоит?

один

цена какая? 1 евро?

Один VPS, но мы сейчас в Contabo

стоит 30 евро, чтоли

уже неск лет работает, но тут видать достигли лимита

ЗК не ставил пока, пока резерв просто на друг сервер

а памяти сколько у VPS ?

64Г

мне нравятся
ax61-nvme 128 GB DDR4 ECC / 2 x 1.92 TB NVMe за 100 евро это даром
я использую

а по поводу "сетью чудеса бывают" - вот у меня сегодня такое чудо в Contabo. Так я аналог не получу у Hetz?

да,я его уже в корзину сунул... потом решил спросить

Ну всякое бывает, у меня в хетцере однажды свитч сгорел к моему серверу, ну полчаса-час его меняли.

>чудеса бывают
вы не заметите скорее всего.

там просто летенси иногда вырастает, и пакеты дропаются, это критично для ZK, у него особые требования.
ничего страшного в общем-то, все работает годами

А ну ок, спасибо. Пакет дропнется - я перешлю. ДЦ любой можно - что Финка что Германия? Илии всеже немцев?

все равно, что ближе по пингу / расстоянию

Спасибо

у вас поля у AggregatingMergeTree неправильные в order by
и _date вам не нужен

ДОЛЖНО БЫТЬ ТАК AggregatingMergeTree partition by toYYYYMM(time) order by (importance, time)

Коллеги, привет.
Пробую эксперементальную фичу MaterializeMySQL
Пока clickhouse вычитывает данные с Mysql все работает, как только заканчивает, доступ к таблицам пропадает
DB::Exception: Access denied for user reader (version 21.1.3.32 (official build)) (from [::1]:60458) (in query: select count(*) from test_database.test_table;), Stack trace (when copying this message, always include the lines below):

Подскажите, кто пробовал, у кого получилось? Может для Мускуля какие-то особые права нужны (хотя выставил все что можно)

MaterializeMySQL -- Вот так, с помощью нехитрых приспособлений буханку белого (или черного) хлеба можно превратить в троллейбус.

нет
Матвьюшка сама по себе ничего не хранит
это AFTER INSERT TRIGGER
либо в .inner таблицу *MergeTree
либо в отдельную *MergeTree таблицу если указан CREATE MATERIALIZED VIEW ... TO db.table

пересчет делается удалением данных из TO или .inner таблицы и повторной вставкой через INSERT INTO ... SELECT .. GROUP BY ...

а что значит "заканчивает вычитывать"? связь с MySQL сервером рвется?

В Mysql есть данные.
После создания БД с движком MaterializeMySQL - данные перекачиваются в CH.
В процессе (через несколько минут) вылетает ошибка MaterializeMySQLSyncThread: Code: 100, e.displayText() = DB::Exception: Access denied for user
И далее все запросы к данным вылетают с подобной ошибкой.

ну там в логах то наверное выше должно быть еще какие то ошибки со стороны MaterializedMySQL что у него какие то ошибки репликации

SHOW SLAVES
на MySQL
что показывает?
есть там коннект от clickhouse сервера и активен ли он?

В PROCESSLIST висит
| 24 | reader | adm-test-ch1.partner.ru:41276 | test | Sleep | 14337 | | NULL

Всем привет, подскажите пожалуйста за что отвечает ОСный процесс clickhouse-watchdog рядом с /usr/bin/clickhouse-server?

Всем привет. Делал тут инсерт 10к записей раз пару секунд и словил такую ошибку
"Too many partitions for single INSERT block". Партиция у меня на дату по дням стоит и очевидно что в пачке из 10к будет куча одинаковых дат, так как пишу события по дням.
Нормально ли будет увеличить max_partitions_per_insert_block до 10к или это как-то скажется на скорости/ресурсах и так вообще неользя делать?

Ошибка про то, что ваш инсерт вставляет во много партиции разом, а не про много записей в одну

а, хм. Тость наоборот там разные даты?

Да

Скорость инсерта снизится, тк ваш батч затрагиваетт слишком много партиций -> больше файлов. Так же в будущем будут замедлятся селекты, которые имеют(в вашем примере) выборку больше дня, тк читать много файликов приходится. Так же это генерит невероятное количество партов. Сам сталкивался с такой проблемой - пришлоись репартиционировать таблицу.

А как? По месяцам?

Да, я пришел к выводу что это самое оптимальное значение.
Ну я переодически чатик читаю, многие приходят к такому выводу. Так же туторах для кх тоже советуют использовать именно так.
Конечно же, все депендс от вашей специфики и конкретных кейсов.

А если у меня таблица с примерно 300кк записями, как-то запросом можно определить, каких данных уникальных больше, чтобы например сделать репартицию например по какому-то типу. Например у меня есть тип события, там их всего штук 5 на все записи, а месцов очевидно больше и каждый раз будет больше. Имеет такое смысл? Или так же надо смотреть систему, какие вообще запросы и какие фильтры используются?

count() и group by. Можно ещё uniq()

Посчитайте количество уникальных значений, что бы найти коррелирующее значение, которое будет оптимально балансировать паратиции в рамках вашей специфики.

Да, точно. Но у меня например в системе поумолчанию фильтр по датам стоит с большим промежутком, однако фильтр на тип стоит всегда поумолчанию 1. Тоесть мы можем смотреть данные одного типа по разным датам. Однако можно поставить фильтр на дргой тип и надо будет делать join. Мб имеет смысл репартицию сделать на тип все же?

Партиции больше для удобства, так что оставьте по дате. А в индекс на первое место поставьте тип.

Так сделайте партиции по месяцу и в ключ оред бай поставьте колонку в начало с наибольшей кардинальностью - тип, в вашем примере.

Понял, спасибо. А как делать репартицию?

Только перевставлять данные

Создайте новоую таблицу и сделайте insert select
Потом можете посмотреть количество партов на примере двух этих таблиц и увидите колоссальную разницу

Понял, хорошая идея, спасибо!

ну тогда видимо автору китайцу пишите issue на github

у нас уже есть нечто похожее - скажите, что здесь не так?

CREATE MATERIALIZED VIEW foo.events_importance (
`count` AggregateFunction(count),
`time` DateTime('UCT'),
`importance` String,
`_date` Date
) ENGINE = AggregatingMergeTree()
PARTITION BY toDate(time)
ORDER BY (toDate(time), importance)
SETTINGS index_granularity = 8192 AS
SELECT
countState() AS count,
toStartOfMinute(toDateTime(time)) AS time,
importance,
toDate(time) AS _date
FROM foo.events
GROUP BY time, importance

доброго времени суток.
Скажите, можно ли как-то заимпортить данные из CSV, находящиеся на локальной машине в удаленную клику?

на локальной машине поставить клиент и указать хостом сервер

cat file.csv | gzip -c | curl -sS --data-binary @- -H 'Content-Encoding: gzip' 'http://clickhouse-host:8123/?query=INSERT INTO db.table (field1, field2) FORMAT CSV'

pigz --fast -c file.csv | curl -sS --data-binary @- -H 'Content-Encoding: gzip' 'http://clickhouse-host:8123/?query=INSERT INTO db.table (field1, field2) FORMAT CSV'

Добрый день! Подскажите пожалуйста, как можно вставлять в таблицу с массивом данные через select
create table test (id UInt8, myArray Array(UInt8)) Engine=Memory;
create table charges (id UInt8, chname String) Engine=Memory;
Create table packs(pack_id UInt8, pack_name String, charge_id UInt8) Engine=Memory;

insert into charges values
(100,'X')
(101,'Y')
(102,'Z')

insert into packs values
(1,'A',100)
(2,'B',100)
(3,'C',100)
(1,'A',101)
(3,'B',101)
(1,'A',102)
(2,'B',102);

select c.id,p.pack_id from charges c left join packs p on c.id=p.charge_id
100 1
100 2
100 3
101 1
101 3
102 1
102 2

Как можно вставить в таблицу test, чтоб в итоге данные легли вот таким образом
100,[1,2,3]
101,[1,3]
102,[1,2]

groupArray
https://clickhouse.tech/docs/en/sql-reference/aggregate-functions/reference/grouparray/

PARTITION BY toDate(time)
ORDER BY ( importance, time)
либо
ORDER BY ( time, importance)

в зависимости от запросовъ

Спасибо большое!!

Я по неделям делал, тоже неплохо. А по дням это жесть, извините

Понял, я просто только начинаю осваивать КХ и пока только разбираюсь в партициях, ключах сортировки и тд

у нас и по часам есть. зависит от того:
- сколько времени храянятся все данные
- сколько времени в одном запросе запрашивается (минимальные-максимальный разброс)
- сколько данных итого в ГБ в один день

Всем привет. Про табличную ф-ю numbers() подскажите плиз. Если я декартово множить буду, то кх сначала получит набор чисел, а потом забивать память дублями основной таблицы или он последовательно будет отрабатывать на каждый элемент numbers, т.е. в памяти только одна копия основной таблицы будет?

Вопрос знатокам. В партиционированную ReplicatedMergeTree таблицу залились задвойки данных.
Запустил поочередно по партициям OPTIMIZE DEDUPLICATE, схлопнулись все, кроме одной.
Куда копать? OPTIMIZE FINAL тоже без эффекта.
Размер партиции 6 ГБ, в ней 13 партов (active=1).

Мы выбрали промежуточный вариант - по неделям.
PARTITION BY toYYYYMMDD(toMonday(clock))

Друзья, подскажите ещё пожалуйста, столкнулся с проблемой при даунсемплинге. Есть вот такая вот вьюха CREATE MATERIALIZED VIEW external_ips_daily
ENGINE = SummingMergeTree(bv) PARTITION BY toYYYYMM(date) ORDER BY (date, uuid)
AS SELECT
toDate(sample_time) as date,
port_id as uuid,
ip_address,
count(*) as bv
FROM external_ips
GROUP BY date, port_id, ip_address;
Таблица external_ips - ReplacingMergeTree, соответственно туда данные пишут несколько коллекторов. И во вьюху залетает по несколько записей через count(*), потому что исходная таблица не успевает дубликаты схлопнуть. Существуют может быть какие-то рецепты что бы это обойти? Пока из идей только всё-таки переход на AggregationMergeTree черезу полное дублирование записей во вьюху с аггрегацией

Если логически подумать - можно вообще выкинуть count(*) и просто писать еденицу. По идее работать должно

вы не правильно понимаете что такое VIEW и как оно работает

это не "исходная таблица не успевает схлопнуть", она их схлапывает но существенно позже вставки

во VIEW прилетает только кусок данных который вставляется конкретным INSERT
и селект работает не с external_ips
а с куском данных из INSERT который вставляется в external_ips

VIEW это AFTER INSERT триггер который вешается на все таблицы из FROM секции

По этому запись еденицы вместо count и должна сработать

По сути мы просто дублируем запись в таблицу с другим движком же

Всем привет!
У меня есть таблица с одним полем по которой нужно проверять входит поле в этот список или нет.
Как этот фукционал лучше реализовать?
Eсть ли Replicated Join Engine?

нет, если прилетит в разных INSERT одинаковый toDate() +port_id
то у вас будет 2
а автор хочет чтобы было 1?

или что?

почитайте про CREATE DICTIONARY и dictGet

это уже в проде ))
список большой не хочется его в память грузить

В исходную таблицу каждую минуту делается запись с datetime штампом. Изза избыточности у нас в исходной таблице на какой-то срок может возникнуть 5 одинаковых записей. Которые потом исходной таблицей сожмутся в одну. Вот мне нужна одна, что бы я в другой таблице просуммировал колличество таких записей после сжатия за сутки

А, ну да. Колличество инсертов ведь всё равно >1

У вас там в МатВью не должно быть ORDER BY (date, uuid, ip_address) ?

Я команду косо обрезал при копипасте, там по факту полей сильно больше

большой это сколько?
И какого типа поле...
словарь на миллион элементов UInt64 в памяти будет занимать 10 мегабайт

Вам только AggregatingMergeTree поможет мне кажется.

Да, очень похоже на то

Вам надо чтобы за день была максимум одна запись?

обычная SummingMergeTree
без MATVIEW
и crontab раз в сутки
в котором будет
INSERT INTO summing_table ... SELECT ... FROM main_table FINAL WHERE toDate(date)=toDate(now()) GROUP BY ...

Мне нужно колличество записей в исходной таблице за сутки

Я просто до последнего надеялся избежать запуска каких-то записей по расписанию

Но видимо никак

Тогда предыдущее сообщение или AggregatingMergeTree

Ладно. Большое спасибо за помощь

Спасибо! сейчас 50M записей
Такой размер устраивает! попробую словарь из одного поля собрать

ну и фильтровать соответсвенно
SELECT ... WHERE dictGetOrDefault('db.dict','attribute',tuple(your_field),0) = 0

Всем привет!

Пытаюсь завести clickhouse-copier для миграции данных на новые ноды.

Блоки копирует но не получается приаттачить.
В логе clickhouse-copier такое:
DB::Exception: Transaction failed (Node exists): Op #4, path: /clickhouse/tables/<table>/v2/blocks/20201217_replace_from_33251BB87614C3254BD357CDDC66D8F0. (version 21.1.3.32 (official build))

Версия clickhouse 21.1.3.32.

Что интересно, когда он это писал, мониторил содержимое znode по пути /clickhouse/tables/<table>/v2/blocks. И не увидел, что там что-то появилось.

Может это известная проблема?

Добрый день
Подскажите с запросом

Есть:
CREATE MATERIALIZED VIEW test_materialized_view
ENGINE = MergeTree
PARTITION BY a ORDER BY (a, b, c, d, e, f, g, h)

Где a, b - String
Всего строк ~500M
Разных значений a около 10
Разных значений b - 3

При этом долго выполняется запрос вида:
SELECT a, b
FROM test_materialized_view
GROUP BY a, b
ORDER BY a, b;

Можно ли ускорить такой запрос в подобной ситуации

Привет.

я верно понимаю, что вместо UPDATE-ов можно делать INSERT-ы в ReplacingMergeTree c версией больше предыдущей, а при SELECT-е выбирать строчку с максимальной версией и так получать результат последнего "апдейта"?

Да

Сделайте виртуальные целые поля (материализованное поле - хеш от строкового поля) , на них постройке таблицу и делайте группировку. Можете попробовать сначала без изменения структуры.

SELECT database, name, formatReadableSize(bytes_allocated) FROM system.dictionaries
проверьте сначала после загрузки

Привет
Кто может подсказать по структуре каталогов

/data/DATABASE/TABLE/???/COLUMNS

Привет! Есть кликхаус на нашем сервере с таблицей ~12M строк, хочу перелить данные в кх на Yandex.Cloud что бы покрутить их в DataLens. Подскажите, как это проще/правильнее сделать?

clickhouse-client -h your_server -q "SELECT * FROM db.table FORMAT TSV" | clickhouse-client -h yandex_cloud_server -q "INSERT INTO db.table FORMAT TSV"

а можно также с древнего кх в новый перемахнуть?)

INSERT INTO db.table SELECT * FROM remote('old_server:9000',db.table)

да так небось точно сломается с разными версиями)

спасибо! кажется, вариант с remote предпочтительнее?

протокол совместимый

если у вас доступ до вашего clickhouse сервера из yandex cloud есть
то в целом да

еще remoteSecure смотрите

ок, понял 👍

Привет. А если для distributed таблицы добавить буферную, проблем каких-то быть не должно при вставке через нее?
db.table_buffer
ENGINE = Buffer('db', 'table', .. )

db.table
ENGINE = Distributed('{cluster}', 'db', 'table_replicated', ..)

db.table_replicated
ENGINE = ReplicatedMergeTree('{path}/{shard}/db/table_replicated', '{replica}')

так и задумано

ENGINE = Distributed('{cluster}', 'db', 'table_buffer', ..)

не, а если не перед replicated, а именно для distributed?

такое не знаю

Понятно, ладно будем тестить )

что значит долго?
Вы ожидаете что ORDER BY (a, b поможет? или о что?

optimize_aggregation_in_order выклечено по дефолту

--optimize_aggregation_in_order arg Enable GROUP BY optimization for aggregating data in corresponding order in MergeTree tables

??? - парт

SELECT
GROUP BY time, importance -- гранулярность секунда

PARTITION BY toDate(time)
ORDER BY (toDate(time), importance) -- гранулярность день

что бессмысленно, логичнее либо там день либо тут секунда
AggregatingMergeTree схлапывает по своему ORDER BY , оно вообще не в курсе что есть MV, AggregatingMergeTree живет отдельной жизнью

а `_date` Date зачем вообще ?

https://youtu.be/1LVJ_WcLgF8?t=7596

https://den-crane.github.io/Everything_you_should_know_about_materialized_views_commented.pdf

Хмм
Интересно почему их больше сотни тысяч

ну так сто тысяч инсертов и пожалуйста

там наверное большинство неактивные, они удаляются через 8 минут.

проще смортеть

select round(sum(bytes)/1024/1024) size, round((sum(data_uncompressed_bytes))/1024/1024) ub , sum(rows),count() part_count, database,table,partition
from system.parts
where active = 1 and table like '%' and database like '%'
group by database,table,partition
order by part_count desc

ой простите херню вам посоветовал

у вас же MV SummingMergeTree?
тогда просто из него через SELECT sum(k) FROM mv GROUP BY выбирайте и все будет ОК
потому что SummingMergeTree означает что суммирование по одинаковым значнеия ORDER BY будет в фоне производится при слиянии кусков из system.parts

https://habr.com/ru/company/solarsecurity/blog/540368/#comment_22629566

>> min_insert_block_size_rows, min_insert_block_size_bytes не влияют на атомарность, тут Denny Crane ошибся.

@milovidov_an все мои предыдущие эксперименты говорят что это не похоже на правду, min-ы влияют в зависимости от вставляемых данных, например native
для ТСВ input_format_parallel_parsing влиял

короче МИН настройки нужны именно для ГАРАНТИИ атомарности, так как макс сам по себе не гарантирует этого...

https://t.me/clickhouse_ru/195294

min влияют на склеивание блоков в более крупные при INSERT SELECT или в Native протоколе, если отправляются мелкие блоки. Каждый такой склеенный блок в каждую партицию будет вставлен атомарно.

ну я про это и говорю. именно МИН дает гарантию атомарности независимо от того что на входе. а МАКС это просто ограничение сверху.

Хмм

Они там инсертся встроенным Кафка консюмером
Я думал они там батчами вставляются

Привет. Начали тестить и поняли что такой способ апдейтит только словарь целиком, инкрементальный апдейт же не поддерживается. Ту в любом случае придется гонять вс таблицу целиком. Те инкрменеталки строк поupdate_field нет. Или я что то непонимаю в доке?

Total messages: 202872

update_field не документирован, забили докумантировать.
Partial update словарей работают с марта 2018.

ДДЛ словаря киньте

Проверим еще раз, спасибо

а что в partition by у таблицы ? возможно батчи режутся на множество партов по partition by

select round(sum(bytes)/1024/1024) size, round((sum(data_uncompressed_bytes))/1024/1024) ub , sum(rows),count() part_count, database,table,partition
from system.parts
where active = 1 and table like '%' and database like '%'
group by database,table,partition
order by part_count desc

ржачная статья.

Оптимизатор запросов в ClickHouse пока далек от того, что есть в других базах (например, PostgreSQL и Oraсle). Он не понимает зависимости данных между столбцами.

да, статья - самолюбование, её можно не читать...
Моя претензия к Алексею в том, что его комментарий как минимум "misleading".

ну а теперь и ваш отредактированный им коммент на ГХ тоже misleading
https://github.com/ClickHouse/ClickHouse/issues/9195#issuecomment-587500824

странная статья... тип чел поработал с CH и решил поведать об этом миру?

статьи разные нужны статьи разные важны... =)

это верно

Непонятно каким образом там у них проблема с пакетами КХ яндекс-альтинити нарисовалась и необходимость собственной сборки.
Потому что вообще-то пакеты от яндекса были всегда, может конечно речь про rpm, был краткий период когда rpm не было от яндекса.

Альтинити конечно зарубежная компания с headquarter в жуковском (а вообще щаз посчитал, Альтинити канадская компания, больше всего народу в Канаде, правда на русском почти все шпарят).

ну дъявол в деталях, через годы только начинаешь понимать что block_size задан в native файле при создании.

ну вот ещё при запуске инсерт селект тоже не атомарно, не говоря уж про магический флаг ТСВ парсера. все таки правильно писать
max_insert_block_size ограничение куска сверху но не гарантия
min_insert* - склеивание данных на входе до этого минимального размера
и нужны оба

Я думаю Яндекс живёт в другой реальности и мыслит другими категориями. Они просто не понимают что кто-то может захотеть делать инсерты которые затрагивают несколько партиций.

И дефолтные настройки сделаны под широкие таблицы с килобайтными строками, конечно надо разбираться как вставлять аьтомарно миллионы строк узких и тестить. Наверное я напишу статью с примерами. Мы в альтинити решили попробовать на конфлюенсе поднять knowledge base

да, по инсертам там столько комбинаций... по любому надо

ClickHouse не гарантирует сохранность всех данных на все 100%. " почему ? как можно потерять данные ?

Нет транзакций. Вы вставили а во время вставки кх поймал сегфолт. Данные вставились или нет? Вы не узнаете.

нету D из ACID (не было / нету по дефолту).
КХ может потерять последние инсерты https://stackoverflow.com/a/60172559/11644308

Братцы, напомните, если go-софтинка, которая буферит инсерты к КХ... забыл название. Помнит кто-то?

clickhouse-bulk

я так понимаю - ставлю ее на сервак, куча инсертеров отправляет на него, а он сам периодичски в КХ, да?

ну вроде да, спасибо

Ребят, а не подскажите как в клике использовать WITH вместо подзапроса?

Хочу сделать вот так:
with t1 as (select * from my_table)
select * from t1

какая версия clickhouse?
https://clickhouse.tech/docs/en/sql-reference/statements/select/with/
должно работать как вы показываете

какую ошибку говорит?

и самое интересное - какая версия КХ

[2021-02-07 16:47:56] Code: 62, e.displayText() = DB::Exception: Syntax error: failed at position 12 ('(') (line 1, col 12): (select * from my_table)
[2021-02-07 16:47:56] FORMAT TabSeparatedWithNamesAndTypes;. Expected identifier (version 20.9.3.45 (official build))

То есть на скобку открывающую ругается как будто синтаксис не понимает

ClickHouse server version 20.9.3.45 (official build).

Вот этот пример работает
/* запрос покажет TOP 10 самых больших таблиц */
WITH
(
SELECT sum(bytes)
FROM system.parts
WHERE active
) AS total_disk_usage
SELECT
(sum(bytes) / total_disk_usage) * 100 AS table_disk_usage,
table
FROM system.parts
GROUP BY table
ORDER BY table_disk_usage DESC
LIMIT 10;

А там где я создаю переменную для подзапроса - нет

судя по https://github.com/ClickHouse/ClickHouse/commit/0f92fe9ad2003b9c091c3a10db0190ff84d9a10d
оно и не должно
доку описали только для 20.11
так что наверное реализовали в 20.10 как минимум если не в 20.11

О, спасибо большое! А стоит ли переходить на 20.11 или лучше не стоит пока?

ClickHouse/ClickHouse tagged: v21.2.2.8-stable
Link: https://github.com/ClickHouse/ClickHouse/releases/tag/v21.2.2.8-stable
Release notes:
ClickHouse stable release v21.2.2.8-stable

ну вроде бы скоро какой то LTS релиз будет новый
на него и переходите

, сейчас 20.8 является LTS
у вас уже 20.9

тут зависит от стадии продукта
если у вас MVP и вы легко сможете обновляться, то можно сидеть на stable релизах
а когда будете к продакшену подходить то дождаться LTS и перейти на него

правда в понимании ClickHouse ;) L это примерно пол года... ну может год...

Я понял, ну, будем ждать))

НЕ пойму, как заставить обновляться словари mysql...
lifetime =1
у муsql запустил как сказано set global information_schema_stats_expiry=0;

и ничего

во файл со словарем меняю - перечитывается

select * from system.dictionaries; - время загрузки не меняется

в доке написано lifetime в секундах. В базе - поле в минутах

mysql8 ?

да

все распоследнее - КХ, Мускл

SHOW TABLE STATUS -- в mysql

там дата

modification_date

меняется вообще?

а вот так если добавлю - сработает?
<invalidate_query>SELECT max(modified) as modified FROM tags2</invalidate_query>

счас гляну статус

сработает

а кстати, почем у в примере в доке where id=1 ?

1 как-то меняется Хаусом или?

<invalidate_query>SELECT update_time FROM dictionary_source where id = 1</invalidate_query>

просто так , от балды написали

нет

обычно туда запрос к метаданным таблицы из системного каталога пишут, что бы не грузить базу (mysql/pg) запросами типа SELECT max(modified)

попробовал information_schema.tables - не... не двигается... ну ок, буду max(update)... это срабатывает

спасибо

Добрый день! Поскажите в чем может быть проблема. Создал кластер из 6-ти узлов, переопределил пользователя для взаимодействия между нодами тэгами <user> и <password>. Пытаюсь с первого узла выполнить команду create table t on cluster dwh (n integer) engine = mergetree() order by n; IDE 30 секунд ждет ответа от сервера, потом выдает timeout. В логе при этом ошибка: <Error> DynamicQueryHandler: Code: 373, e.displayText() = DB::Exception: Session is locked by a concurrent client., Stack trace (when copying this message, always include the lines below):

0. DB::NamedSessions::acquireSession(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, DB::Context&, std::__1::chrono::duration<long long, std::__1::ratio<1l, 1000000000l> >, bool) @ 0xeadf67d in /usr/bin/clickhouse
1. DB::Context::acquireNamedSession(std::__1::basic_string<char, std::__1::char_traits<char>, std::__1::allocator<char> > const&, std::__1::chrono::duration<long long, std::__1::ratio<1l, 1000000000l> >, bool) @ 0xeadeec0 in /usr/bin/clickhouse
2. DB::HTTPHandler::processQuery(DB::Context&, Poco::Net::HTTPServerRequest&, HTMLForm&, Poco::Net::HTTPServerResponse&, DB::HTTPHandler::Output&, std::__1::optional<DB::CurrentThread::QueryScope>&) @ 0xf82c72a in /usr/bin/clickhouse
3. DB::HTTPHandler::handleRequest(Poco::Net::HTTPServerRequest&, Poco::Net::HTTPServerResponse&) @ 0xf8325c5 in /usr/bin/clickhouse
4. Poco::Net::HTTPServerConnection::run() @ 0x11d9fd75 in /usr/bin/clickhouse
5. Poco::Net::TCPServerConnection::start() @ 0x11dd646f in /usr/bin/clickhouse
6. Poco::Net::TCPServerDispatcher::run() @ 0x11dd7e81 in /usr/bin/clickhouse
7. Poco::PooledThread::run() @ 0x11f03809 in /usr/bin/clickhouse
8. Poco::ThreadImpl::runnableEntry(void*) @ 0x11eff79a in /usr/bin/clickhouse
9. start_thread @ 0x9609 in /usr/lib/x86_64-linux-gnu/libpthread-2.31.so
10. clone @ 0x122293 in /usr/lib/x86_64-linux-gnu/libc-2.31.so
(version 21.1.2.15 (official build))

какая IDE?
DataGrip?

если запустить соответсвующий запрос из clickhouse-client запущенном на первом узле
все работает?

Все верно datagrip, с клиента сейчас попробую

Выполнил клиентом. Суть осталась та же, запрос провисел, потом выдал ошибку: Code: 159. DB::Exception: Received from clickhouse-server:9000. DB::Exception: Watching task /clickhouse/task_queue/ddl/query-0000000015 is executing longer than distributed_ddl_task_timeout (=180) seconds. There are 6 unfinished hosts (0 of them are currently active), they are going to execute the query in background.

Надо отметить что в логе ошибка про блокировку не появилась

это другая ошибка
у вас все реплики online?
по ошибке выглядит так будто реплики по какойто причине не хотят исполнять запрос на создание таблицы из distributed_ddl очереди ZK

curl http://clickhouse_ip:8123/replica_status
или
SELECT * FROM system.zookeeper WHERE path='/'
на каждой реплике

Все реплики онлайн, по отдельности выполняю запросы на них. Если быть точным это 3 шарда и у каждого по реплике. Тесты сейчас сделаю.

SELECT * FROM system.settings WHERE name = 'allow_distributed_ddl'; ?

user@node-01:~$ curl http://<ip>:<port_prefix>{4,5,6,7,8,9}/replicas_status
Ok.
Ok.
Ok.
Ok.
Ok.
Ok.
user@node-01:~$

grep ddl -r /etc/clickhouse-server/

настройки точно одинаковые ?

должно быть что то вроде

/etc/clickhouse-server/config.xml: <distributed_ddl>
/etc/clickhouse-server/config.xml: <path>/clickhouse/task_queue/ddl</path>
/etc/clickhouse-server/config.xml: </distributed_ddl>

4c3862c37937 :) SELECT * FROM system.settings WHERE name = 'allow_distributed_ddl';

SELECT *
FROM system.settings
WHERE name = 'allow_distributed_ddl'
Query id: a0ba3bfd-9e19-46d5-914e-70a95e22fa0b
┌─name──────────────────┬─value─┬─changed─┬─description───────────────────────────────────────────────────────────────────────┬─min──┬─max──┬─readonly─┬─type─┐
│ allow_distributed_ddl │ 1 │ 0 │ If it is set to true, then a user is allowed to executed distributed DDL queries. │ ᴺᵁᴸᴸ │ ᴺᵁᴸᴸ │ 0 │ Bool │
└───────────────────────┴───────┴─────────┴───────────────────────────────────────────────────────────────────────────────────┴──────┴──────┴──────────┴──────┘
1 rows in set. Elapsed: 0.006 sec.
4c3862c37937 :)

user@node-01:~$ grep ddl -r /opt/data/clickhouse_node{1,2,3,4,5,6}_dev/*.xml
/opt/data/clickhouse_node1_dev/config.xml: <distributed_ddl>
/opt/data/clickhouse_node1_dev/config.xml: <path>/clickhouse/task_queue/ddl</path>
/opt/data/clickhouse_node1_dev/config.xml: </distributed_ddl>
/opt/data/clickhouse_node2_dev/config.xml: <distributed_ddl>
/opt/data/clickhouse_node2_dev/config.xml: <path>/clickhouse/task_queue/ddl</path>
/opt/data/clickhouse_node2_dev/config.xml: </distributed_ddl>
/opt/data/clickhouse_node3_dev/config.xml: <distributed_ddl>
/opt/data/clickhouse_node3_dev/config.xml: <path>/clickhouse/task_queue/ddl</path>
/opt/data/clickhouse_node3_dev/config.xml: </distributed_ddl>
/opt/data/clickhouse_node4_dev/config.xml: <distributed_ddl>
/opt/data/clickhouse_node4_dev/config.xml: <path>/clickhouse/task_queue/ddl</path>
/opt/data/clickhouse_node4_dev/config.xml: </distributed_ddl>
/opt/data/clickhouse_node5_dev/config.xml: <distributed_ddl>
/opt/data/clickhouse_node5_dev/config.xml: <path>/clickhouse/task_queue/ddl</path>
/opt/data/clickhouse_node5_dev/config.xml: </distributed_ddl>
/opt/data/clickhouse_node6_dev/config.xml: <distributed_ddl>
/opt/data/clickhouse_node6_dev/config.xml: <path>/clickhouse/task_queue/ddl</path>
/opt/data/clickhouse_node6_dev/config.xml: </distributed_ddl>
user@node-01:~$