https://www.opennet.me/openforum/vsluhforumID3/126025.html Хочу поделится опытом отправки логов java-приложений, развернутых в kubernetes, в базу clickhouse. Для отправки используем fluent-bit, который настроим на отправку логов по http в формате json_stream.<br><br>++ Пара слов о fluent-bit<br><br>[[https://github.com/fluent/fluent-bit Fluent-bit]] работает с записями. Каждая запись состоит из тега и именованного массива значений.<br><br>*** Input<br>Секции input указывают как и откуда брать данные, какой тег присвоить записям и в какой парсер передать их для получения массива значений. Парсер указывается параметром Parser в секции Input.<br><br>В нашем случае берём теги из названия файла при помощи regexp.<br><br>*** Parser<br>Секция parsers указывает как получить из сообщения массив значений. В случае с kubernetes все сообщения представляют из себя JSON с 3 полями: log, stream и time. В нашем случае поле log также содержит JSON.<br><br>*** Filter<br>Пройдя парсинг, все сообщения попадают в фильтры, применение которых настраивается параметром Match. В каждый фильтр попадают только те сообщени https://www.opennet.me/openforum/vsluhforumID3/126025.html#19 Mon, 04 Jul 2022 23:30:05 GMT Бесконечные попытки отправки мы делать не стали т.к. потеря логов при недоступности clickhouse - это не очень большая проблема и с таким мы смиримся легко.<br>С проблемой потери чанков, не отправленных в момент перезапуска или при недоступности clickhouse, мы еще не сталкивались. Можно подробнее об этой проблеме? Или ссылку на статью, где это писано?<br> https://www.opennet.me/openforum/vsluhforumID3/126025.html#18 Fri, 03 Jun 2022 15:32:13 GMT Способ хороший, однако должен заметить, что приведённая конфигурация fluent-bit может терять чанки. Как я понял, пайплайн работает так: из файла читаются чанки и поднимаются в память. После успешного чтения в DB записывается новая позиция. Далее чанк обрабатывается парсерами, фильтрами и направляется в output. Всё это время чанк держится в памяти. Однако если в output отправить не удалось, то информация об этом не будет никуда сохранена. А если процесс перезапустится, так и не успев отправить этот чанк, то чанк будет потерян: перечитываться заново чанк не будет (т.к. в базе уже записана новая позиция), а сам чанк был в памяти, и после рестарта процесса не сохранился.<br><br>Чтобы избежать потери логов, нужно настроить filesystem storage и бесконечные ретраи в output. Тогда после чтения чанк сразу будет записываться на диск, и только потом будет производиться его обработка. Если процесс рестартится, то он перечитывает все сохранённые чанки и продолжает попытку их обработки и отправки. А бесконечные ретраи нужны чт https://www.opennet.me/openforum/vsluhforumID3/126025.html#17 Fri, 04 Feb 2022 10:49:43 GMT Почему не Vector https://vector.dev/ ?<br> https://www.opennet.me/openforum/vsluhforumID3/126025.html#16 Tue, 25 Jan 2022 23:40:58 GMT Почему, в чём основные минусы?<br> https://www.opennet.me/openforum/vsluhforumID3/126025.html#15 Sat, 15 Jan 2022 19:15:16 GMT &gt; CH язык запросов мало кто знает<br><br>SQL-select для одной таблички мало кто знает из разработчиков, которые логи бэка смотрят? Хорошая команда.<br> https://www.opennet.me/openforum/vsluhforumID3/126025.html#14 Tue, 28 Dec 2021 21:44:04 GMT Оверинжиниринг...<br> https://www.opennet.me/openforum/vsluhforumID3/126025.html#13 Wed, 22 Dec 2021 21:19:49 GMT Что используете в роли просмотрщика логов?<br> https://www.opennet.me/openforum/vsluhforumID3/126025.html#12 Mon, 13 Dec 2021 16:43:44 GMT Разработчики сказали, что им так удобнее. Они уже использовали ES, не понравилось. Я никому не навязываю, просто делюсь опытом.<br><br><br> https://www.opennet.me/openforum/vsluhforumID3/126025.html#11 Mon, 13 Dec 2021 16:41:02 GMT Мы тоже сначала свой костыль написали, но на java это смотрелось не очень - не самый подходящий для этого инструмент. Поэтому поковырявшись, настроили fluent-bit. Один экземпляр занимает 5Mb памяти и около мегабайта диска,а нагрузку на cpu и диск вообще не заметили.<br>