The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



"ФС Btrfs позволила компании Meta снизить затраты на инфраструктуру"
Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Изначальное сообщение [ Отслеживать ]

"ФС Btrfs позволила компании Meta снизить затраты на инфраструктуру"  +/
Сообщение от opennews (??), 10-Авг-25, 22:23 
Джозеф Бацик (Josef Bacik), мэйнтейнер и активный разработчик файловой системы Btrfs, не согласился с критикой надёжности Btrfs, высказанной Кентом Оверстритом (Kent Overstreet), автором Bcachefs. Джозеф отметил что ФС Btrfs работает достаточно хорошо, чтобы сэкономить компании Meta миллиарды долларов затрат на инфраструктуру. По словам Джозефа, инфраструктура Meta построена полностью на Btrfs, и компания существенно экономит, благодаря надёжности и функциональности данной ФС (например, применение встроенных возможностей сжатия и дедупликации позволяет использовать меньше накопителей)...

Подробнее: https://www.opennet.dev/opennews/art.shtml?num=63704

Ответить | Правка | Cообщить модератору

Оглавление

Сообщения [Сортировка по ответам | RSS]

1. Сообщение от Олег (??), 10-Авг-25, 22:23   +6 +/
Чем zfs не угодил, так и не раскрыли
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #6, #20, #30, #38, #40, #79, #100, #114, #138

2. Сообщение от АнонимЯ (?), 10-Авг-25, 22:24   +4 +/
Присоединяюсь. 6 лет в проде на этой ФС.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #78

4. Сообщение от Alladin (?), 10-Авг-25, 22:28   –6 +/
Присоединяюсь, крайне ненадежная фс, сколько раз пробовал с ней работать но перебои с электричеством она не терпит

жаль только данные

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #8, #43, #81, #107, #177

5. Сообщение от Аноним (-), 10-Авг-25, 22:33   +8 +/
> ФС Btrfs работает достаточно хорошо

... когда у вас есть инфраструктура как у Meta: с многоуровневой системой бекапов, надежным резервным электроснабжением, запасными стойками и сотнями одминчигов, которые прям сидят и ждут, чтобы бросится подымать упавшее.

А остальным в очередной раз развалившаяся файлуха совсем не упала.

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #12, #47, #103, #108

6. Сообщение от Аноним (-), 10-Авг-25, 22:34   +5 +/
> Чем zfs не угодил, так и не раскрыли

Оригинальны лицухой не вышел.
А то что переделали... жалкое поделие по сравнению с оригиналом.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #26

7. Сообщение от A.Stahl (ok), 10-Авг-25, 22:35   +6 +/
Ой, драма! 2 разработчика ФС (Йозеф Васик и Чувак с другой стороны улицы) хвалят свои болота. Ми-ми-ми.

Скучно.

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #52, #53

8. Сообщение от Аноним (8), 10-Авг-25, 22:38   –1 +/
С отключенным журналированием никакую fs не восстановишь, журнал это как раз защита от такого, но если не переживаешь и стараешься сразу сохранять то журналом можно и не пользоваться.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4 Ответы: #27

9. Сообщение от нах. (?), 10-Авг-25, 22:39   +5 +/
И снова телевизоры самсунг признаны лучшими в мире (по мнению инженеров самсунг).

А то ведь могут "майнтейнера и главного разработчика" (в рабочее время) и сократить нахрен, когда окажется что никакая дедупликация нахрен не нужна в системах мордокниги и работать там в принципе не могла бы, да и сжимать гифчики и видосики совершенно бесполезно.

Ну ничего, пока вранье про экономию миллиардов долларов (майнтейнер и разработчик же непременно участник бюджетной комиссии и точно знает про мильярды) прокатывает.

P.S. и при этом, заметьте - ноль упоминаний о redundancy и автоисправлениях ошибок. Потому что их у мордокниги и нет.

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #13, #178

10. Сообщение от СисадминА (?), 10-Авг-25, 22:41   +4 +/
Все файловые системы хорошие, пока бэкапы данных с этих ФС хранятся на ext4
(c) В. И. Ульянов фон Манштейн
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #33, #56, #74, #166

11. Сообщение от Ценитель GPL рогаликовemail (?), 10-Авг-25, 22:43   +1 +/
> ФС Btrfs работает достаточно хорошо, чтобы сэкономить компании Meta миллиарды долларов затрат на инфраструктуру

Даже и не знаю, тут радоваться надо что btrfs вышел на корпоративный уровень или плакать от того, что враг свободы Мета сэкономила миллиарды долларов???

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #45

12. Сообщение от нах. (?), 10-Авг-25, 22:44   –7 +/
> ... когда у вас есть инфраструктура как у Meta: с многоуровневой системой бекапов,
> надежным резервным электроснабжением, запасными стойками и сотнями одминчигов

то возникает резонный вопрос, нахрена козе баян и что у них там не может храниться в банальном fat (полагаю там и фата-то на деле нет а есть примитивный object storage и все остальное где-то отдельно в какой-то монстроидальной базе. И вот про нее-то было б интересно послушать, но мордокнижники не расскажут.)

> А остальным в очередной раз развалившаяся файлуха совсем не упала.

не, ну остальным как раз может со сжатия и дедапа был бы какой прок (если памяти напастись), они-то не фотки котиков хранят, но бырбырфесе далеко не единственное решение и вряд ли хотя бы - хорошее.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5 Ответы: #50

13. Сообщение от НяшМяш (ok), 10-Авг-25, 22:45   +3 +/
> Ну ничего, пока вранье про экономию миллиардов долларов (майнтейнер и разработчик же непременно участник бюджетной комиссии и точно знает про мильярды) прокатывает.

В крупных конторах нередки всякие "квартальные презентации" от начальства. Нижний и средний менеджмент перед верхним вполне хвастается штуками в духе "вот мы (в смысле инжинегры, но мы про это не скажем) сэкономили вот столько бабла". Рядового разраба на такие презенташки кнутом гонят, поэтому они и грустные такие всё время - сэкономили ярды, а даже пару процентов раз в год повышение зарплаты фиг выпросишь.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9 Ответы: #17, #54

15. Сообщение от waylandbeliver (ok), 10-Авг-25, 22:47   +/
Большим компаниям и стирать надо много данных — полезный инструмент в своей нише.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #18, #21, #31

16. Сообщение от Аноним (16), 10-Авг-25, 22:48   +/
Для обычных пользователей и правда не нужна.
Как-то был целый ряд тестов на обращение к диску, шуму наделал. Так BTRFS дёргает его больше всех, и прямо рекордсмен в этом. Учитывая неуместность SAS на ноуте, наши SSD лишь будут страдать лишний раз. А толку от неё не больше чем от LVM+EXT4.

И ZFS как-то обсуждали с не_кухонными бздшниками. Так разумыне подтверждают, она для серверов с некислой рамой и обвязкой упсов, а не для домашних пк.

Собственно, для этого их и разрабатывали, без какой либо оглядки на васю с моШным пк. Но нет, нашего васю такая фигня не остановит )

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #35, #112, #203, #253

17. Сообщение от нах. (?), 10-Авг-25, 22:50   +/
А, это верю. В смысле - показатели достигли потолка, с которого и были первоначально взяты.

И да, хрен им а не повышение зарплаты, это ж мордокнига. Которая считает что рабы должны прыгать от щастья что их вообще туда наняли.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13

18. Сообщение от нах. (?), 10-Авг-25, 22:52   –2 +/
> Большим компаниям и стирать надо много данных

только не мордокниге. Она славна тем что даже проиграв несколько судов подряд отказалась удалять попавшее в бездонные закрома.

Только вот что там бырбырфесе  - позволю себе изрядно усомниться. (в том числе и да, потому что плохо сочетается с враньем что "наши базы устроены так что удаление не предусмотрено технически")

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #15

19. Сообщение от Аноним (19), 10-Авг-25, 22:54   +3 +/
Причитайте весь тред, если интересуетесь как идут дела у Кента. Туда даже сам Теодор заглянул, чтобы вылить ушат помоев. Как мне кажется, bcache будет развиваться вне ядра. Линус показал пальцем на Кента и сказал "Ату его!" и все прихлебатели дружно на него набросились как стая собак, даже особенно не разбираясь за что и почему. Такие вот "лучшие инженерные практики".
Ответить | Правка | Наверх | Cообщить модератору

20. Сообщение от нах. (?), 10-Авг-25, 22:55   –5 +/
> Чем zfs не угодил, так и не раскрыли

там разработчики так дешево не продаются (подозреваю что мете они не продаются вообще ни за какие деньги)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #41

21. Сообщение от Аноним (21), 10-Авг-25, 23:09   +2 +/
Не знаю, как в фейсбуке, а в ВК данные не стираются. Вообще. Можете проверить — залить картинку, сохранить прямую ссылку на неё, а затем удалить картинку. И проверить ссылку.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #15 Ответы: #49

23. Сообщение от Gannetemail (ok), 10-Авг-25, 23:27    Скрыто ботом-модератором+/
Ответить | Правка | Наверх | Cообщить модератору

24. Сообщение от мяв (?), 10-Авг-25, 23:37   –1 +/
а линус скольким компниям позволил сьэкономить на виндолицензии ????
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #59, #72

25. Сообщение от Аноним (25), 10-Авг-25, 23:41   +/
сжатие, дедупликация... наскребут всякого хлама, а потом экономят на спичках. удалять ненужное не пробовали?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #37, #61

26. Сообщение от Аноним (26), 10-Авг-25, 23:59   +17 +/
> А то что переделали... жалкое поделие по сравнению с оригиналом.

Часто это заявление вижу, но никогда не вижу конкретики — что именно не работает и как.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6 Ответы: #32

27. Сообщение от Alladin (?), 11-Авг-25, 00:02   +/
а я не говорил что его отключал
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8 Ответы: #51

29. Сообщение от Perlovka (ok), 11-Авг-25, 00:22   –1 +/
А зачем сжатие и дедупликация ФС, если все данные в ноомальных компаниях хранятся на storage arrays, в которых это и так есть?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #46, #63

30. Сообщение от Аноним (30), 11-Авг-25, 00:32   +/
Этот вопрос просто не ставили.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

31. Сообщение от Аноним (30), 11-Авг-25, 00:44   +/
В смысле, отстирывать много цифровых баксов? ;)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #15

32. Сообщение от scriptkiddis (?), 11-Авг-25, 01:05   +10 +/
Секта zfs она такая.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #26

33. Сообщение от Аноним (33), 11-Авг-25, 01:12   +2 +/
google: ext4 data loss
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10

34. Сообщение от ИмяХ (ok), 11-Авг-25, 01:21   –1 +/
Пока другие компании делают дубликацию данных под названием "бэкап", Меta решила сделать наоборот - дедубликацию.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #94

35. Сообщение от Аноним (35), 11-Авг-25, 01:47   +1 +/
Zfs себя прекрасно чувствует на серверах из говна и палок, без ибп в том числе.
Кроме одного случая - плохое питание дисков.
Например БП с дохлыми кондёрами и откисающие разъёмы сата питания.
Тогда да, можно довести до состояния, что она не отрекаверится (хотя через дебаг файлы можно достать при желании).
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #16 Ответы: #71

36. Сообщение от Аноним (36), 11-Авг-25, 09:09   +2 +/
Я тут заметил, что только довольно сомнительные личности критикуют Btrfs. Шишкин, Кент... И по-странному совпадению, все они прямые конкуренты Btrfs (вот это совпадение, да?)
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #42

37. Сообщение от Аноним (37), 11-Авг-25, 09:44   +/
>сжатие, дедупликация... наскребут всякого хлама, а потом экономят на спичках. удалять ненужное не пробовали?

Если такой гигант начнет удалять, то даже их мощности не справятся, все наглухо зависнет, а потом упадет. Дешевле новых дисков поставить чем бороться с фрагментацией и повышением производительности при удалении.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #25

38. Сообщение от Tron is Whistling (?), 11-Авг-25, 09:47   +4 +/
Слишком много планок памяти требуется.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #187, #200

39. Сообщение от Аноним (45), 11-Авг-25, 09:49   –2 +/
Пусть встроят в btrfs AI. Чтобы сама файлы по директориям организовывала.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #44

40. Сообщение от Аноним (-), 11-Авг-25, 09:50   +3 +/
> Чем zfs не угодил, так и не раскрыли

Тем что...
1) "Сам по себе" без подпора сотнями RAM довольно тормозной.
2) Не в майнлайне.
3) Многодисковые убер-хранилки фэйсбуку как раз и не требуются. AFAIK большая часть конфиг у FB однодисковые.

Зачем им ZFS?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #201

41. Сообщение от Аноним (-), 11-Авг-25, 09:51   +5 +/
> там разработчики так дешево не продаются (подозреваю что мете они не продаются
> вообще ни за какие деньги)

Да это их проблемы. Пусть пицей торгуют если им так прикольнее. Потому что сан - все.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #20

42. Сообщение от 1 (??), 11-Авг-25, 09:53   +/
Дык фоннаты не будут критиковать "Дар Божий".
Во первых, они ничего в этом не понимают.
Во вторых, Б-г (протягивая лопату) "Жрите ! это вкусно !". Фоннаты - "Ням, ням, ням".

Хоть на что-то, за последние 5-10 лет, была нормальная техническая дискуссия ?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #36 Ответы: #104

43. Сообщение от Аноним (-), 11-Авг-25, 09:55   +8 +/
> Присоединяюсь, крайне ненадежная фс, сколько раз пробовал с ней работать но перебои
> с электричеством она не терпит

Почему-то у корпы обслуживающей этим 2 миллиарда, с ломовым парком серверов - проблем нет, а у каких-то "экспертов" опеннета, кажется, видавших сабж только на картинке - вечно какие-то "проблемы" с ним.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4 Ответы: #84

44. Сообщение от 1 (??), 11-Авг-25, 09:55   +1 +/
Зря смеёшься ... С ужесточающимися требованиями регуляторов (и увеличивающиеся штрафы), только на AI можно возложить удаление "неправильного" контента. И ссылаться на него, что он что-то там проглядел. А робота не укусишь за его металлический зад.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #39 Ответы: #48, #182

45. Сообщение от Аноним (45), 11-Авг-25, 09:56   +2 +/
Судя по тому, что хвастаются какой-то наивной фигней, успех только в том, что обошлось без крупных аварий.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #11 Ответы: #111

46. Сообщение от Аноним (45), 11-Авг-25, 09:59   –1 +/
Даже на рабочей станции непонятно зачем. Место на диске дешевое, время доступа и записи намного важнее.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #29 Ответы: #57

47. Сообщение от Аноним (47), 11-Авг-25, 09:59   +/
Ох уж мне эти сказки про волшебную инфру от корпов) По факту там может быть какое нибудь жуткое легаси на джава, вспомним что мордокнига это пост 90е, со всеми вытекающими, возможно даже мускул с пхп под капотом. Как какой нибудь амазон и прочее. Чукерберг это не какой нибудь гениальный программист, врятли он написал эффективный оригинальный код, а взял какой нибудь ламп, а его конторка это суть неповоритливая бюрократия. Спасибо если там у них все это на линухе крутится, а не на виндовс сервер.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5 Ответы: #76

48. Сообщение от Аноним (45), 11-Авг-25, 09:59   +/
А я и не смеюсь.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #44

49. Сообщение от Шырламырла (?), 11-Авг-25, 10:02   +/
И через месяц будет ссылка работать?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21 Ответы: #55, #69

50. Сообщение от Аноним (-), 11-Авг-25, 10:05   +/
> то возникает резонный вопрос, нахрена козе баян и что у них там
> не может храниться в банальном fat

Например базу, которая на 20-м терабайте ФС ломала. Слабо так на FAT?

С индексом дир тоже хрень. Так что и с кучей небольших файлов фигня, и с большими файлами фигня. В FAT также нет сжатия и дедупа. Прикольно в несколько раз больше серверов под хранение купить? Поэтому фэйсбук и увольняет таких советчиков, в отличие от твоего нанимателя. Дорого обходятся.

> отдельно в какой-то монстроидальной базе. И вот про нее-то было б
> интересно послушать, но мордокнижники не расскажут.)

Это тебе не гугл, они более классические. Но какие-то монстр базы на 30+ терабайт у них есть.

> не, ну остальным как раз может со сжатия и дедапа был бы
> какой прок (если памяти напастись)

На btrfs можно и не жрать гигазы памяти под дедуп делая его офлайн, в периоды наименьшей нагрузки. Есть энное количество дедупалок для этого, а фэйсбук и свою напишет под свою специфику если ему станет надо, что там, полутора адекватных системных програмеров не найдется на всю корпу?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #12 Ответы: #80

51. Сообщение от Аноним (-), 11-Авг-25, 10:08   +3 +/
> а я не говорил что его отключал

Ты вообще никогда никаких деталей - не приводил. Только эти сказки венского леса. Которые без конкретной информации - ни о чем. А вот дев из корпы на которой инфра держится - врать не станет, его за приукрас потом юридический отдел линчует так что он не расплатится до праправнуков.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #27 Ответы: #95

52. Сообщение от Аноним (52), 11-Авг-25, 10:12   +/
Три, один еще из бкачфс. У бкача те же 3 разраба, два из котрых из бтрфс.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #7

53. Сообщение от Аноним (-), 11-Авг-25, 10:13    Скрыто ботом-модератором–2 +/
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #7

54. Сообщение от Аноним (-), 11-Авг-25, 10:22   –1 +/
> бабла". Рядового разраба на такие презенташки кнутом гонят, поэтому они и
> грустные такие всё время - сэкономили ярды, а даже пару процентов
> раз в год повышение зарплаты фиг выпросишь.

Я не думаю что в фэйсбуке кого-то кнутом гонят. Это корп культура совсем замшелых мастодонтов и окологосов всяких. А в нормальных фирмах вообще могут выплачивать - по итогам профита с продукта, даже с достаточно прозрачными вычислениями. Мол тут нам надо поделиться с теми крокодилами инвесторами, там расходы столько и столько. А вот остается бонус - ща мы его разделим на всю ораву, спасибо что хорошо поработали, типа!

Очень кстати стимулирует не работать как похи и нахи. Можно и как они - только тогда продукт получится под стать. И ты получишь вместо зарплаты - прописаную в контракте минималку. С голода не умрешь, но планы придется скостить и пойти пиццей торговать будет выглядеть перспективнее. Потому что нахрен такие айтишники и продукты кому.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #13 Ответы: #66, #154

55. Сообщение от товарищ майор (?), 11-Авг-25, 10:23   +1 +/
конечно, и через пять лет тоже будет - вдруг то что у тебя на картинке внезапно станет экстремизмом, и я смогу тебя лет на пятнадцать за нее закрыть!

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #49 Ответы: #67, #70

56. Сообщение от Аноним (-), 11-Авг-25, 10:24   +/
> Все файловые системы хорошие, пока бэкапы данных с этих ФС хранятся на ext4

Особенно прикольно на EXT4 наткнуться при ресторе бэкапа на silent corruption. Врядли ты ежедневно проверял как оно. Самое то что надо - обломаться на ресторе бэкапов!

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10 Ответы: #89

57. Сообщение от нах. (?), 11-Авг-25, 10:27   +/
время доступа при сжатии - как раз уменьшается (процессоры у нас нынче СИЛЬНО быстрее дисков).

Но в очередной раз бырбырфесе тут не единственная и не самая эффективная.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #46 Ответы: #64

58. Сообщение от Аноним (58), 11-Авг-25, 10:27   +/
Может для Мета btrfs имеет свою версию, но в личной эксплуатации имело место потеря данных. EXT4 головной боли не дает.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #75, #77, #254

59. Сообщение от Аноним (-), 11-Авг-25, 10:27   +1 +/
> а линус скольким компниям позволил сьэкономить на виндолицензии ????

Да дохрена. Майкрософт уж сам виндой пользоваться в ДЦ что-то не рвется, хотя уж казалось бы себе то лицензий можно выписать сколько хочется. Но у винды перфоманс ядра, фс, сети и проч - не очень. Что бы тут господа не вещали, а в топе тематичных бенчей - линухи.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #24 Ответы: #91

60. Сообщение от Аноним (60), 11-Авг-25, 10:28   –1 +/
я попробовал бтрфс с дедупликацией, чтоб снизить объёмы в кучи разных версий игровых клиентов. так вот, эта хрень, а не фс, сожрала кучу ресурсов, начала лагать всё больше и больше, и закрашилась, потеряв часть данных. для онлайн-дедупликации она не годится, а для оффлайн прекрасно и стабильно xfs подошла.
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #144, #150, #172

61. Сообщение от Аноним (-), 11-Авг-25, 10:29   +/
> сжатие, дедупликация... наскребут всякого хлама, а потом экономят на спичках.
> удалять ненужное не пробовали?

И кто будет использовать социалку теряющую данные? И как клиентуре всякую аналитику с хомячков продавать? Что-что? В банкроты записаться? Эксперты опеннета плохого не посоветуют!

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #25 Ответы: #65

63. Сообщение от Аноним (-), 11-Авг-25, 10:32   +1 +/
> А зачем сжатие и дедупликация ФС, если все данные в ноомальных компаниях

Затем что докупить в разы больше серверов на инфре такого размера - нафиг надо!

> хранятся на storage arrays, в которых это и так есть?

В _нормальных_ компаниях ЭТИМ как раз не занимаются. Потому что это все в дофига раз дороже выходит. И при попытке сделать так инфру обслуживающую пару миллиардов - вы останетесь без последних труселей! А вон то удел всяких третьесортных закоулков, которым локальной экспертизы не хватило и ПРИШЛОСЬ платить другим за complete solution. И конечно никто не продает solution'ы себе в убыток. Как вы наверное уже догадались.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #29 Ответы: #83, #190

64. Сообщение от Аноним (-), 11-Авг-25, 10:34   +/
> время доступа при сжатии - как раз уменьшается (процессоры у нас нынче
> СИЛЬНО быстрее дисков).

Это все сильно зависит от сжатия - и от диска. Энтерпрайзные SSD весьма резвые штуки.

> Но в очередной раз бырбырфесе тут не единственная и не самая эффективная.

И все же суммарно - дедуп и сжатие могут скостить объемы в разы. И все это в майнлайне, без долботни и рисков с внемайнлайновым нечто. За франкен-комбо ядра с левым модулем - вообще никто не отвечает по сути.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #57 Ответы: #161

65. Сообщение от нах. (?), 11-Авг-25, 10:40   +1 +/
> И кто будет использовать социалку теряющую данные?

те самые л-хи которым мордокнига уже несколько раз удаляла их котиков (и вероятнее всего таки да - из-за проблем с хранилищем).

А чо такова, кому твои котики недельной (и тем более - месячной) давности сдались, до них ленту никто и никогда не докрутит, колесико у мыши сотрется раньше. А ты новых накачаешь, с еще большим энтузиазмом.

А аналитика клиентуре продается успешно, для этого не нужны архивы того что ты понашитпостил десять лет назад, для этого нужны только новые и новые хомячки.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #61 Ответы: #121

66. Сообщение от Аноним (66), 11-Авг-25, 10:42   +/
> Потому что нахрен такие айтишники

А такие врачи нужны? а кто нужен с таким подходом?

> А в нормальных фирмах вообще могут выплачивать - по итогам профита с продукта,

А давно вы нормальные видели, они вообще существуют?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #54

67. Сообщение от Аноним (66), 11-Авг-25, 10:47   +/
А если залить 100500600700 картинок с куэркодами в которых будет зашифрованный архив порнхаба, разумеется все это достать потребует времени, но под бэкапы быстрые носители и не предполагаются.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #55

69. Сообщение от Аноним (70), 11-Авг-25, 10:51   +/
А что бы ей не работать?
Выгоднее оставить ваши 200-300 кб на диске, чем создавать дырки в файловой системе.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #49

70. Сообщение от Аноним (70), 11-Авг-25, 10:52   +/
Она уже не является «вашей» картинкой. Это просто файл по ссылке.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #55

71. Сообщение от morphe (?), 11-Авг-25, 10:55   –3 +/
Zfs сыпется при первой возможности на не-ECC памяти, не надо вводить людей в заблуждение
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #35 Ответы: #113, #232

72. Сообщение от Аноним (74), 11-Авг-25, 10:56   +4 +/
>а линус скольким компниям позволил сьэкономить на виндолицензии ????

... а сколько контор заработало на внедрении, поддержке и допиливании...

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #24

74. Сообщение от Аноним (74), 11-Авг-25, 10:58   +1 +/
... а ufs2 просто работает. Скучно.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10 Ответы: #90

75. Сообщение от morphe (?), 11-Авг-25, 10:58   +/
Отличие лишь в том, что в случае проблем btrfs тебе о них скажет и посоветует тебе с ними чот сделать

В то время как ext4 молча повредит данные

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #58 Ответы: #136

76. Сообщение от нах. (?), 11-Авг-25, 10:58   +2 +/
что значит "возможно"? Мордокнига истово гордится своей наколенной реализацией пехепе.

А о "культуре разработки" мордокниги вполне можно судить по их выкинутым на помойку опенсорса поделкам типа "перепиським-перепиським hg на хрусте". Ой, только оно даже не компилируется. Через десять лет (!) выясняем - переписькали - cli. Т.е. две команды похожи на старые. Видимо, чтоб скрипты, в которых уже никто не может разобраться, не менять. А внутри почему-то git вызывается.
Или вот замене модуля к nginx самодельным прокси из дерьма и палок. Тоже выкинуто в опенсорс, и тоже не собирается и не работает. Чувак которого официально (!) назначили писать на основе этого всего работающий веб-сервер - ушел "обдумывать концептуальный дизигн" и с тех пор его больше никто не видел.

> Спасибо если там у них все это на линухе крутится

конечно на линухе, бесплатное же ж - взять-взять-взять. Сцукенберг _феноменально_ жадный м-к.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #47 Ответы: #189, #217

77. Сообщение от derfenix (ok), 11-Авг-25, 11:03   +/
8 лет btrfs на всех дисках (пк, ноуты, Nas), нигде ни разу не потерялось ничего. Пк выключался по питанию на горячую много раз. Что вы там делаете, что данные теряете?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #58 Ответы: #212

78. Сообщение от Анонимно (ok), 11-Авг-25, 11:05   +1 +/
Присоединяюсь. 4 года живет и продолжает жить, в том числе с отключениями электроэнергии.
/писать про наличие ups, который будет держать 6 часов отсутствия электроэнергии приветствуется (нет).
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2

79. Сообщение от Аноним (79), 11-Авг-25, 11:15   +/
Скоростью не угодила. На больших nvme массивах в сотни терабайт zfs тротлит пс и иопс на порядки. И при этом пожирает терабайты оперативки и сотни ядер.
Вот ровно этим и не угодила.

На hdd наверное куда не шло, но на стореджах в десятки петабайт начинаются те же проблемы, что и с nvme.

На мелких стореджах скорость есть, но оверхед неприемлемый по процу памяти.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #87

80. Сообщение от нах. (?), 11-Авг-25, 11:20   –2 +/
эксперт пришел, спешите видеть.

Я тебе страшный тайна открою - котики в жпег и mp4 не сжимаются, и не дедуплицируются, потому что репост ничего и не копирует. И все что нужно мордокниге от файловой системы - куда-то сложить байтики с этими котиками так чтоб их можно было в миллионе мест быстро прочитать. И это про layered кэши и геораспределение а не про дедупликацию. И чем проще и дубовее фс - тем всем только легче.
Никакая posix-подобная метаинфа тоже не нужна потому что хранится отдельно и совершенно отдельная (никаких трех дат одного файла разумеется им не нужно, а вот число лайков очень даже).

базы у них, полагаю, сильно побольше каких-то первых десятков терабайт, и, разумеется, тоже не хранятся в какой-то одинокой фс.

А что они хранят на бырбыре - большой-пребольшой секрет. Учитывая болтовню про дедупликацию и сжатие (т.е. это явно не про базы и не про контент) - если она не просто болтовня а хоть какие-то физические корни имеет - можно довольно обоснованно предположить, но ты со своим опытом наколенных флэшек вряд ли сообразишь.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #50 Ответы: #93, #176

81. Сообщение от АнонимЯ (?), 11-Авг-25, 11:26   –1 +/
> перебои с электричеством

Да, давайте эту вашу проблему переложим на разработчиков FS.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4 Ответы: #85

83. Сообщение от Perlovka (ok), 11-Авг-25, 11:38   +2 +/
> _нормальных_ компаниях ЭТИМ как раз не занимаются. Потому что это все в дофига раз дороже выходит.

Запахло локалхостом с эникеями.

У инфры, обслуживающей пару миллиардов, есть и деньги на нормальные системы хранения. За исключением компаний типа гугла, которые разрабатывают собственное железо. А еще есть мозги считать риски и расходы на создание собственных систем хранения.

Интересно будет посмотреть на систему хранения от "локальных экспертов" размером хотя бы в 500Tb, c FC, multipath, со снапшотами, thin clone и т.д. С нормальной админкой. И чтобы это не развалилось через месяц.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #63 Ответы: #92, #96, #124

84. Сообщение от User (??), 11-Авг-25, 11:39   –4 +/
Да, да - у гугля вот "с ломовым парком серверов" - сами сервера десктопное по сути ОЕМное железо запихнутое в стойку и тоже - "никаких проблем нет". Ждем далеко идущих выводов о надежности от ЭКСПЕРТОВ с подкроватным (best-practice!) сервером
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #43 Ответы: #129, #186

85. Сообщение от Аноним (85), 11-Авг-25, 11:44   +4 +/
Нет, давайте лучше FS не будет решать никакие проблемы пользователя.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #81 Ответы: #122

87. Сообщение от Аноним (87), 11-Авг-25, 11:53   +/
а там разве не всякие распределеннные фс нужны? Или сабж просто нижний слой под них и на нем дешевле посжимать данные типа?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #79 Ответы: #213

88. Сообщение от Витюшка (?), 11-Авг-25, 11:55   +/
А как они хостят и работают с базами данных на этой ФС?

Вроде она для этого совершенно не подходит.

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #125, #256

89. Сообщение от нах. (?), 11-Авг-25, 11:55   –3 +/
>> Все файловые системы хорошие, пока бэкапы данных с этих ФС хранятся на ext4
> Особенно прикольно на EXT4 наткнуться при ресторе бэкапа на silent corruption. Врядли

рассказывает нам местный сказочник.  А на деле битый байтик в фоточке с котиком вообще никто не заметит даже если оно и случилось. Но таких героев здесь за все время было ноль.

> ты ежедневно проверял как оно. Самое то что надо - обломаться

ты-то ежедневно проверяешь?

А то ж на криво записавшуюся чексумму напороться гораздо веселее - твой бэкап просто не восстанавливается. Вообще. Никак. Потому что сказать "да хрен с ней чексумой ненужного временного файла, давай восстанавливай что есть" не получится.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #56 Ответы: #117

90. Сообщение от нах. (?), 11-Авг-25, 12:00   –2 +/
> ... а ufs2 просто работает. Скучно.

"as intended". (с) лично ее автор, про как раз silent corruption

но твои котики в безопастносте, потому что вообще могли бы лежать на fat. (который, внезапно, просто работает у миллионов)


Ответить | Правка | Наверх | Cообщить модератору
Родитель: #74

91. Сообщение от User (??), 11-Авг-25, 12:07   –2 +/
Ну, как бы это сказать? Вера в то, что "у работников сахарного завода чай всегда сладкий, по тому, что уж себе-то сахару можно нагрести сколько хочется" широко распространена на просторах 1\6 части суши - но имеет не сказать, чтобы большое отношение к действительности на остальной территории.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #59 Ответы: #118, #167

92. Сообщение от нах. (?), 11-Авг-25, 12:08   +/
> У инфры, обслуживающей пару миллиардов, есть и деньги на нормальные системы хранения.

Есть, но не дасть. Деньги сцукенбергу на свадьбу нужнее. Ну зачем мордокниге раскошеливаться на твоих котиков, сдохло - ты новых еще быстрее зальешь, будет чем наполнить ленту твоим друзявкам. Главное чтоб этого не происходило заметно и массово по всему миру (на котиков по прежнему плевать, но может цена акций поплыть).

> За исключением компаний типа гугла, которые разрабатывают собственное железо. А еще

там "собственного" в общем-то картонка на которой все собрано (но это неточно, может на обувной фабрике заказали). Из стандартных вполне компонент по интеловской спеке, просто на от...сь. (потому что гугль не боится потерять ни такую картонную ноду, ни контейнер целиком, а вот каждый сэкономленный картонкой цент умножается на пару миллионов)

У мордокниги, если верить ее сказочникам, тоже такого есть. (у гугля были не сказочки а видео с э.... производственных процессов).

> Интересно будет посмотреть на систему хранения от "локальных экспертов" размером хотя бы
> в 500Tb, c FC, multipath, со снапшотами, thin clone и т.д.

зачем это вот все - мордокниге? Нет у них никакого fc. И ни снапшотов, ни thin clone их основным массивам не надо. Они должны быть всегда онлайн, а если вдруг не - уже поздно.

А там где таки есть - там нет 500Tb.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #83

93. Сообщение от Аноним (-), 11-Авг-25, 12:08   +/
> эксперт пришел, спешите видеть.

Ну ты сам это сказал :)

> Я тебе страшный тайна открою - котики в жпег и mp4 не
> сжимаются, и не дедуплицируются, потому что репост ничего и не копирует.

Спасибо кэп, но у мордокниги навалом и много чего еще всякого. Аналитика, базы, вполне сжимаемый контент типа текстового спама от хом и наверняка много чего еще.

> не про дедупликацию. И чем проще и дубовее фс - тем
> всем только легче.

А таки - вон там и рядом есть несколько довольно жестких мнений что они думают про silent corrupton. А накодить нечто типа big table - где это будет на другом уровне? Не все же такие крутые как гугл. Да и делать это надо было - еще на фазе архитектуры. Гугло с брином такое все ж могло. А цукерберг все ж не настолько крут был. Заметь, за столько лет гугло так никто из #1 в поиске так всерьез и не смог. Ибо хрен ты такое сделаешь не умея в архитектуру. А умеют в нее - очень немногие.

> Никакая posix-подобная метаинфа тоже не нужна

Ну ты дай фэйсбуку мастеркласс. Допустим 3 миллиарда обслужи, на ресурсах меньше. Когда получится - приходи, поделись опытом. А до тех пор я лучше Басика почитаю. Потому что добро над которым он пашет - 2 миллиарда сервирует, в отличие от тебя.

> базы у них, полагаю, сильно побольше каких-то первых десятков терабайт, и, разумеется,
> тоже не хранятся в какой-то одинокой фс.

Полагай все что хочешь. А басик вот - популярно обрисовал. И то что у мордокниги большая часть сабжа 1-дисковые тоже не особо секретно. А те терабайты - видимо какаянить аналитика и проч по толпе хом.

> А что они хранят на бырбыре - большой-пребольшой секрет.

Судя по заявлениям басика - почти все. И я плохо представляю себе чтобы кто-то величиной с басика был - гонщиком. Это - нереально, извини. Ему бы за откровенный гон менеджмент хвост накрутил, ибо заявление - вышло в новости.

> про контент) - если она не просто болтовня а хоть какие-то
> физические корни имеет - можно довольно обоснованно предположить, но ты со
> своим опытом наколенных флэшек вряд ли сообразишь.

Как ты себе представляешь топового програмера блочнофайлушного в лине - из корпы - попавшего в новости - и при этом врущего? Его за такое юридический отдел размазал бы нахрен. Ибо это сразу дюжина корпоративных полисей нарушена будет.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #80 Ответы: #98

94. Сообщение от нах. (?), 11-Авг-25, 12:10   +/
> Пока другие компании делают дубликацию данных под названием "бэкап", Меta решила сделать
> наоборот - дедубликацию.

мете бэкап ее основной базы, как нетрудно догадаться, не поможет. Но и дедуплицировать там - нечего, надо наоборот клонировать. Умный догадается, что там на самом деле дедуплицируется и почему так.


Ответить | Правка | Наверх | Cообщить модератору
Родитель: #34

95. Сообщение от Anonimm (?), 11-Авг-25, 12:13   +7 +/
Гениально (нет)! Человека, которому ты ответил, назвал лжецом из-за отсутствия вымышленных доказательств, но человеку из новости ты веришь безоговорочно, хотя доказательств словам так же нет..
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #51

96. Сообщение от User (??), 11-Авг-25, 12:18   +/
Ээээ... СХД достаточно хреново масштабируются, если что -  а если к этому добавить disaster recovery с георепликацией данных по всему шарику - и вовсе печальненько получится.
Т.е. оно там, разумеется, есть - но вот котики с молочными железами лежат не в ней ).
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #83 Ответы: #126

97. Сообщение от Аноним (97), 11-Авг-25, 12:25   +/
Ну хз, года 4 назад пробовал ее на высоконагруженном сервере. Частенько вываливались ошибки под нагрузкой.
Ответить | Правка | Наверх | Cообщить модератору

98. Сообщение от нах. (?), 11-Авг-25, 12:25   –1 +/
> Спасибо кэп, но у мордокниги навалом и много чего еще всякого. Аналитика,

но в новости об этом - ни полсловечка. И подобные тебе начинают рассказывать про миллиарды котиков, хранимые таким вот образом.

> Ну ты дай фэйсбуку мастеркласс. Допустим 3 миллиарда обслужи, на ресурсах меньше.

ты только что сам подтвердил что все миллиарды там никакого отношения к бырбырам не имеют.
И хранится на ней - ты даже не способен толком угадать, что.

> лучше Басика почитаю. Потому что добро над которым он пашет -
> 2 миллиарда сервирует, в отличие от тебя.

то над которым он - нет. И вот про эту часть инфры мордокниги известно практически ничего (включая имена разработчиков). А там есть что посмотреть.

> Полагай все что хочешь. А басик вот - популярно обрисовал. И то
> что у мордокниги большая часть сабжа 1-дисковые тоже не особо секретно.

а было б тебе чем подумать, ЧТО там на том одном диске... впрочем, куда там.

> Судя по заявлениям басика - почти все. И я плохо представляю себе

судя по заявлениям - непоймичто.

> чтобы кто-то величиной с басика был - гонщиком. Это - нереально,

акции растут, все норм. Главное лишнего не ляпнуть, что можно было бы уже использовать для задавания уточняющих вопросов - "а как это у вас вот такое получается-то, когда должно же ж наоборот?"

> Как ты себе представляешь топового програмера блочнофайлушного в лине - из корпы
> - попавшего в новости - и при этом врущего? Его за

"откройте рот...закройте, не вижу патологии, мешающей тоже врать" (ну или скажем так - аккуратно преувеличивать значимость своей технологии, вместо которой на самом деле могла бы быть любая другая, потому что от жизни однодисковой картонки не зависит ровно ничего)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #93 Ответы: #207

100. Сообщение от Аноним (100), 11-Авг-25, 12:44   –3 +/
Может и используют zfs.
Про использования btrfs мы знаем только со слов авторабезполезной ФС, которого поперли отовсюду. А для фейсбука он слишком мелкий чтоб выходить с заявлениями что он полную херню несет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

101. Сообщение от Аноним (101), 11-Авг-25, 12:46   +/
Дважды на рабочем компе с федорой это овнище отнимало по несколько часов. Проблема так то решалась быстро. Командой btrfs rescue zero-log. Но проблема в том что это овно из эмерджиси моуд был бизи. Надо было либо через груб отключать монтирование дисков. Либо грузится с лайф флешки. Которой не было. Нужно было найти другой комп, скачать федору, записать и потом только выполнить команду. Причем вот просто моргнул свет и кабздец. Нтфс 1000-чи выключений света пережила. Максимум чек диск включался. Нет будь у меня упс, генератор и своя электростанция. Оно конечно может было бы и подругому
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #109

103. Сообщение от Bob (??), 11-Авг-25, 12:59   +/
Когда минута простоя может стоить лярд $ оборота, то в таких ситуациях мусорные ФС не ставят.
Тем более, что Meta - это шкварка амерской спецуры.
Миллиарды юзеров сервиса это не хухры мухры)

А про "развалившуюся ФС" - так это "заставь дypaka б-гу молиться": судя по работе сервисом Meta - там таких, особо, нет. А значит - смотри в зеркало)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5 Ответы: #152

104. Сообщение от kravich (ok), 11-Авг-25, 13:07   +1 +/
>Хоть на что-то, за последние 5-10 лет, была нормальная техническая дискуссия ?

В каждой новости про новую версию Rust

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #42 Ответы: #163

107. Сообщение от Аноним (107), 11-Авг-25, 13:33   +6 +/
Это враньё или кривые руки. Уже много лет использую. С отключением электричества и хард ресетами. Ни разу ничего не ломалось.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

108. Сообщение от XeXeemail (?), 11-Авг-25, 13:37   +1 +/
Все еще проще. Когда инфраструктура покрыта кодом, а большая её часть - это консумеры и продюсеры очередей, вообще пофигу, какая там фс. Упала одна из сотен нод? Похер, деком/провижн.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #5 Ответы: #153

109. Сообщение от нах. (?), 11-Авг-25, 13:43   +/
я тебе конечно верю, но кто-то может объяснить мне СМЫСЛ действия zero-log?

У этих ... гениальных разработчиков компании мета (запрещенной в рф экстремиссьской кстати) не смотря на все чексамы и мильены проверочек - в какой-то момент образуется БИТЫЙ ЛОГ?!

Они настолько вот?!

(судя по ману - таки да. И снова "мы вроде бы уже все исправили но осадочек остался" - в смысле у них нет ни найденого бага ни тестов подтвержающих реальное исправление а не "ну теперь-то вроде все должно быть как нада!")

гениальнейшие разработчики! мордокнига не даст соврать!

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #101 Ответы: #119

111. Сообщение от нах. (?), 11-Авг-25, 13:47   +/
Правильней - что аварии не повлияли на бизнес. (это не коррелирует впрямую с их "крупностью")

Ну таки и да, как авария однодискового тазика на картонке может на него повлиять? Выкинули ноду (и вместе с котиками если даже они там) и запустили резервную, подумаешь...

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #45

112. Сообщение от Аноним (112), 11-Авг-25, 13:50   +/
>обвязкой упсов,

в нубуках считай шо есть встроенный упс.
"куча рамы" там нужна лишь для дедупликации. Которая обычному юзеру даром не нужна.
Накладные расходы на процессор и память потребительского ПК перевесят любой выигрыш по памяти на диске.

Итого вплоне себе нормально чувствую на 4+гб памяти.

Пользую начиная с ее появления во фришке с 7ки. И за все время с самой зфс проблем не было. Когда сам НЖДМ сыпался - було.

Мимокуханный фрибсздишник

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #16 Ответы: #120

113. Сообщение от Минона (ok), 11-Авг-25, 13:53   +/
при первой возможности на не-ECC памяти сыпется любая ФС.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #71 Ответы: #134

114. Сообщение от Аноним (114), 11-Авг-25, 13:57   +5 +/
> Чем zfs не угодил, так и не раскрыли

Оффтоп, но когда я вспоминаю, что на ZFS есть фрагментация, но нет дефрагментации, и в случае, если фрагментация достигает уровня, когда производительность ФС начинает серьёзно страдать, пользователям the most advanced enterprise-ready next-generation filesystem предлагается... создать новую файловую систему на другом носителе и скопировать данные туда, чтобы устранить фрагментацию, причём предлагается это, как правило, теми же людьми, которые любят подсмеиваться на простыми пользователями, переустанавливающими Windows, то мне отчего-то становится весело.

...ZFS сама себя не отдефрагментирует.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #137, #141, #202

117. Сообщение от Аноним (-), 11-Авг-25, 14:04   +/
> рассказывает нам местный сказочник.  А на деле битый байтик в фоточке
> с котиком вообще никто не заметит даже если оно и случилось.
> Но таких героев здесь за все время было ноль.

Да вот что-то господа рядом с этим басиком рассказывают другие истории. Как побились всякие нужные вещи типа рабочих проектов и виртуалочек, и как они в будущем е... хотели silent corruptin. В общем дискуссии довольно интенсивные и полярные по мнениям получились, те кто попробовал чексумы - на меньшее уже обычно не согласны. Имея на то валидные причины.

>> ты ежедневно проверял как оно. Самое то что надо - обломаться
> ты-то ежедневно проверяешь?

Ежедневно - для меня все же несколько перебор. Наиболее интересное все равно по мере прогресса в ремотные гиты улетает и проч. А системные снапшоты (и их вариант в файле) и проч - так и быть, даже и недельной давности не так уж и ужасно. Ну накачу апдейты еще раз накрайняк.

> А то ж на криво записавшуюся чексумму напороться гораздо веселее -

Ни разу на такое не нарывался. При сбоях железа - сабж орет так что не заметить это может только слепой или пофигист. Да и на сбои софта - орет, нвидию ж вычислили что RAM рушит. Именно btrfs'ом орущим про чексумы. Поэтому такая ситуация - некая экзотика. Но у экспертов с EXT4 наверное и не такое бывает.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #89 Ответы: #140

118. Сообщение от Аноним (-), 11-Авг-25, 14:07   –1 +/
> Ну, как бы это сказать?

Майкрософт сам все прекрасно сказал - занеся комитов вооон тем. Вы к этому ничего ни добавить ни отнять не сможете уже. Вас ваши господари вообще забыли спросить что им делать и как вести бизнес. Секрет прост: как ИМ выгоднее всего - так и будут.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #91

119. Сообщение от Минона (ok), 11-Авг-25, 14:07   +/
> я тебе конечно верю, но кто-то может объяснить мне СМЫСЛ действия zero-log?
> У этих ... гениальных разработчиков компании мета (запрещенной в рф экстремиссьской кстати)
> не смотря на все чексамы и мильены проверочек - в какой-то
> момент образуется БИТЫЙ ЛОГ?!
> Они настолько вот?!
> (судя по ману - таки да. И снова "мы вроде бы уже
> все исправили но осадочек остался" - в смысле у них нет
> ни найденого бага ни тестов подтвержающих реальное исправление а не "ну
> теперь-то вроде все должно быть как нада!")
> гениальнейшие разработчики! мордокнига не даст соврать!

"Команда «btrfs rescue zero-log» используется для очистки логов незавершённых транзакций в файловой системе Btrfs.
Эта команда помогает восстановить работу файловой системы, так как в случае неожиданных выключений или сбоев Btrfs может оставлять логи, которые при перезагрузке вызывают проблемы, например, мешают правильно монтировать файловую систему.
Важно помнить, что очистка логов может привести к потере изменений, сделанных с момента последней фиксации транзакции.
Использование команды должно быть осторожным, так как она напрямую изменяет файловую систему и при неправильном применении может привести к потере данных."
(С) Алиса

ЗЫ:
На днях копировал архив с бтр-а на ехт4.
Из 3.5 ТБ скопировалось 6.5 ТБ.
Чудеса...

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #109 Ответы: #123

120. Сообщение от нах. (?), 11-Авг-25, 14:09   +2 +/
> в нубуках считай шо есть встроенный упс.

первый год после покупки. А потом начинается интересная жизнь.

а самое главное - в них как раз процессор принято держать в глубоком throttling, потому что иначе все вскипит к хренам (и встренному упсу тоже быстрее поплохеет). Поэтому сжатие может стать небесплатным. (а, ну хотя... freebsd7, понятно, там нет управления питанием)


> Пользую начиная с ее появления во фришке с 7ки.
> И за все время с самой зфс проблем не было.

а у меня были. Причем я знаю их источник, нет, он не имеет отношения к дефективному железу.
У меня, неожиданно, не сыплются "нежемеде".

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #112 Ответы: #192

121. Сообщение от Аноним (-), 11-Авг-25, 14:11   +/
> те самые л-хи которым мордокнига уже несколько раз удаляла их котиков (и
> вероятнее всего таки да - из-за проблем с хранилищем).

Вообще-то пользователи не давали обет верности энной социалке - и могут и посваливать в другие места.

> у мыши сотрется раньше. А ты новых накачаешь, с еще большим
> энтузиазмом.

Колесико, не колесико, а есть еще поисковики всякие и проч, если ты вдруг не в курсе. Но свое уровень в айти ты конечно захайлайтил на все сто. Сразу видно юзера винды - вместо поиска будет скроллить сам до упора.

> А аналитика клиентуре продается успешно, для этого не нужны архивы того что
> ты понашитпостил десять лет назад, для этого нужны только новые и
> новые хомячки.

Но судя по багрепортам "на 20-м терабайте ФС может помереть" - базу они таки на btrfs держали, и походу были первыми кто такое файло сделал :)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #65 Ответы: #133, #156, #159

122. Сообщение от АнонимЯ (?), 11-Авг-25, 14:15   +2 +/
FS не решают проблемы. Они предоставляют возможности хранения данных.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #85

123. Сообщение от нах. (?), 11-Авг-25, 14:15   +/
спасибо, алиса, но меня интересновал не плохой пересказ man page, а чем внутри фс может быть вызвана необходимость применения такой команды, причем настолько что вот прямо даже ради этого сделали штатную утилиту.

> На днях копировал архив с бтр-а на ехт4.
> Из 3.5 ТБ скопировалось 6.5 ТБ.

рефлинки или даже банальный ln могут и не такое.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #119 Ответы: #128, #132

124. Сообщение от Аноним (-), 11-Авг-25, 14:21   +/
> Запахло локалхостом с эникеями.

У фэйсбука нормальные эникеи. Способные себе даже допустим роутеры под свои требования разработать. Для интеграции в свою инфру. Вы то конечно намного круче, ща покажете мастеркласс этим эникейцам как надо было? Да, на том масштабе это и дешевле - и внедорлоки нафиг - и управление как хотелось FB а не каким-то левым проприетариям.

> У инфры, обслуживающей пару миллиардов, есть и деньги на нормальные системы хранения.

Деньги у них есть - внезапно - потому что они их себе зажали, а не раскармливали всяких левых господ втридорога. Это привилегия тех у кого своей экспертизы - хватило.

Проекция конечно прикольная, но три шкуры дерут - с тех у кого своей экспертизы нет. И эти люди - про эникеев? Да неужели? :)

> За исключением компаний типа гугла, которые разрабатывают собственное железо.

Фэйсбут тоже себе железо - разрабатывает. С их размерами может себе позволить.

А платят сторонним как раз всякие лохи не далеко от эникея ушедшие, которые сами - не могут, за отсутствием экспертизы. Приходится сдаваться дяде хоть тот и дерет три шкуры.

> Интересно будет посмотреть на систему хранения от "локальных экспертов"
> размером хотя бы в 500Tb, c FC, multipath, со снапшотами, thin clone и т.д.
> С нормальной админкой. И чтобы это не развалилось через месяц.

Еще 1 любитель динозавров-переростков вылез. Нюанс со всем этим - нет вы никогда не сделаете так свой фэйсбук. Потолок - это энтерпрайзные файлопомойки. Но если вы так удумаете 2 миллиарда окучивать - вам даже распродажа всем офисом почек - не поможет. И гугл у вас таким манером - тоже не получится. Без трусов останетесь сильно раньше.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #83

125. Сообщение от Аноним (-), 11-Авг-25, 14:23   +/
> Вроде она для этого совершенно не подходит.

1) Базы разные бывают.
2) Можно и nocow, допустим, указать. Правда это имеет свою цену.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #88

126. Сообщение от Аноним (-), 11-Авг-25, 14:24   +1 +/
> Ээээ... СХД достаточно хреново масштабируются,

Зачем ты ему спалил контору? Интересно же как он сетапил бы по этим технологиям свой аналог гугл и фэйсбук. И сколько бы это ему стоило. И где б он столько взял и что б он делал с тем фактом что у конкурентов все в разы дешевле.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #96 Ответы: #211

128. Сообщение от Аноним (-), 11-Авг-25, 14:31   +/
> спасибо, алиса, но меня интересновал не плохой пересказ man page, а чем
> внутри фс может быть вызвана необходимость применения такой команды, причем настолько
> что вот прямо даже ради этого сделали штатную утилиту.

На самом деле - довольно редкая ситуация. И это примерно как и с ZFSником на лисяре и закатом солнца вручную. Т.е. когда какой-то крутой нестандартный факап случился - при записи в лог и стандартная механика по какой-то причине не сработала. А не сработать она может потому что допущения как работают накопители и реальное их поведение - совпадать 1 в 1 ни разу не обязаны.

Еще в btrfs был какой-то баг - который выглядел страшно но можно было его - вот - аннулировать этим маневром и все приходило в норму, если не истерить и последовать совету разработчиков.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #123 Ответы: #135

129. Сообщение от Аноним (-), 11-Авг-25, 14:37   +/
> Да, да - у гугля вот "с ломовым парком серверов" - сами
> сервера десктопное по сути ОЕМное железо запихнутое в стойку и тоже
> - "никаких проблем нет". Ждем далеко идущих выводов о надежности от
> ЭКСПЕРТОВ с подкроватным (best-practice!) сервером

Гугл это такой сильно отдельный случай. Когда они могут надизайнить себе вещи типа Big Table. Но сравнить айтишника Брина с пхпшником-социальщиком Цукербергом все ж не того. А такие вещи надо было делать - еще на фазе архитектуры. В этом смысле фэйсбук куда более обычный по устройству - и так высоко как гугло не летает.

А у штук типа big table требования к хранению данных и правда - другие. Совсем не годящиеся любителям подкроватников. Им нахрен не упали чексумы, и просто сохранность данных - это на другом уровне сделано. Но вы то такое на бис - не повторите. Поэтому у вас и не будет своего гугля, собственно.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #84 Ответы: #131

130. Сообщение от Аноним (172), 11-Авг-25, 14:46   +1 +/
>Джозеф Бацик (Josef Bacik), мэйнтейнер и активный разработчик файловой системы Btrfs, не согласился с критикой надёжности Btrfs, высказанной Кентом Оверстритом (Kent Overstreet)

Джозеф красавчик, но зря вступил в дискуссию с этим теоретиком Кентом. BTRFS, в отличие от его стремной поделки Bcachefs - уже как 10 лет в продакшене у многих энтерпрайзов.

Ответить | Правка | Наверх | Cообщить модератору

131. Сообщение от User (??), 11-Авг-25, 14:50   +1 +/
>> Да, да - у гугля вот "с ломовым парком серверов" - сами
>> сервера десктопное по сути ОЕМное железо запихнутое в стойку и тоже
>> - "никаких проблем нет". Ждем далеко идущих выводов о надежности от
>> ЭКСПЕРТОВ с подкроватным (best-practice!) сервером
> Гугл это такой сильно отдельный случай. Когда они могут надизайнить себе вещи
> типа Big Table. Но сравнить айтишника Брина с пхпшником-социальщиком Цукербергом все
> ж не того. А такие вещи надо было делать - еще
> на фазе архитектуры. В этом смысле фэйсбук куда более обычный по
> устройству - и так высоко как гугло не летает.

Да-да, и вот та же cassandra апачу с неба упала, ага.

> А у штук типа big table требования к хранению данных и правда
> - другие. Совсем не годящиеся любителям подкроватников. Им нахрен не упали
> чексумы, и просто сохранность данных - это на другом уровне сделано.
> Но вы то такое на бис - не повторите. Поэтому у
> вас и не будет своего гугля, собственно.

Ну кому надо - давно уже скрафтили кто tarantul, кто вот clickhouse - но ЭКСПЕРДТ не в курсе, он подкроватным методом миллион мелких файлов с чексуммами починяет - почти как фейсбук, только круче.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #129 Ответы: #215

132. Сообщение от Минона (ok), 11-Авг-25, 14:58   +2 +/
> спасибо, алиса, но меня интересновал не плохой пересказ man page, а чем
> внутри фс может быть вызвана необходимость применения такой команды, причем настолько
> что вот прямо даже ради этого сделали штатную утилиту.

Этот вопрос к "капитану звездолёта", он же типа профи и даже код читал.

>> На днях копировал архив с бтр-а на ехт4.
>> Из 3.5 ТБ скопировалось 6.5 ТБ.
> рефлинки или даже банальный ln могут и не такое.

Нету там их, никаких линков, никакого сжатия.
Это просто видеоархив из ~58000 файлов общим объёмом 3.5 ТБ.
Но при копировании копируется 6.5.
Причем этот глюк вылез на 1 из 16 дисков.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #123 Ответы: #139, #184, #257

133. Сообщение от нах. (?), 11-Авг-25, 15:16   +/
> Вообще-то пользователи не давали обет верности энной социалке

хахахаха.
нет, ты в своем подвале похоже совсем окуклился. ладно в технологиях ничего не сечешь, но это-то...

#deletefacebook (ой, мля, аж викистраничка такая есть)

И? ИИИИ?! И ничего, потому что куда ж ты с подводной лодки-то денешься.

> Но судя по багрепортам "на 20-м терабайте ФС может помереть" - базу они таки на btrfs
> держали

логи какие-нибудь вcpaтые они там держали.
Но судя по тому что фс может помереть от одного-единственного диска современных даже не суперуникальных объемов - все там очень и очень плохо.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #121 Ответы: #222

134. Сообщение от Аноним (134), 11-Авг-25, 15:21   –2 +/
Сыпалась Fat на 98-й винде. А всё что хоть чуть-чуть поновее и адекватнее у меня на десктопе гостило - уже нет.

Да-да, и эта ваша страшная и ужасная btrfs тоже без нареканий. Вот zfs не пробовал, врать не буду - ибо зачем мне этот геморой?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #113

135. Сообщение от нах. (?), 11-Авг-25, 15:22   +/
с zfs я знаю ответы на (нет, совсем не такие) вопросы. И что может вылезти, и почему - так, и что при этом делать. А тут вот - интересуюсь, как вообще чисто технически "шм@гли" такое вот.

> Еще в btrfs был какой-то баг - который выглядел страшно но можно было его - вот -

очевидно что именно какой-то баг и "был". (в кавычках потому что очевидно что есть только догадки на киселе, точно ли его исправили или нет - ни тестов, ни воспроизводимости)

качество дизайна как оно есть.


> аннулировать этим маневром

заодно аннулировав себе все последние изменения на fs. Причем - гарантированно, потому что мимо лога там ничего не пишется.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #128 Ответы: #185, #226

136. Сообщение от нах. (?), 11-Авг-25, 15:25   +/
вон там внизу образчик чего она тебе скажет и что посоветует. Скажет она тебе kernel oops, как выясняется. Посоветует потерять данные. Без всяких внешних причин.

Ну подождем, вдруг аноним сможет внятно объяснить (хотя он уже слился)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #75 Ответы: #151

137. Сообщение от Аноним (137), 11-Авг-25, 15:28   +/
>Оффтоп, но когда я вспоминаю, что на ZFS есть фрагментация, но нет дефрагментации

Фейсбуки не удаляют файлы, поэтому дефрагментация уровня ФС для них не критична

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #114 Ответы: #174

138. Сообщение от Аноним (138), 11-Авг-25, 15:31   +1 +/
А если они поставят сборку Hackintosh, от Алексея Коновалова.

То обгонят Майкрософт.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1

139. Сообщение от нах. (?), 11-Авг-25, 15:36   +/
> Это просто видеоархив из ~58000 файлов общим объёмом 3.5 ТБ.
> Но при копировании копируется 6.5.

ну в общем странная идея не пойти и не посмотреть как оно так получилось.

начиная прям с cmp.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #132

140. Сообщение от нах. (?), 11-Авг-25, 15:44   +/
> Да вот что-то господа рядом с этим басиком рассказывают другие истории.

откройте рот...

> Ни разу на такое не нарывался.

ну а я вот ни разу не нарывался ни на какие "silent corruption". И вероятность встречи с ними вживую - пренебрежимо мала.

А у тебя вон оказывается целая процедура для ресета лога. В котором ну ни в каком вообразимом и невообразимом случае не должно быть никаких подобных вещей, а оновот.

И если уже прямо в логе у тебя временами образуется бнопня - то истории про меганадежность можно запихать далеко-далеко.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #117 Ответы: #221

141. Сообщение от anonymos (?), 11-Авг-25, 15:50   –5 +/
Бред сивой кобылы!
ZFS использует архитектуру CoW (Copy-on-Write). Чисто теоретически, проблема фрагментации может возникнуть при активном использовании дискового пула, когда он забит более чем на 95%, но даже в этом случает данные группируются перед записью. И вообще, кому придет в голову писать кучу мелких, временных файлов на диск, когда есть оперативка?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #114 Ответы: #143, #145, #220

142. Сообщение от Аноним (137), 11-Авг-25, 15:56   +/
>Понимаешь, нормальный PM через несколько лет в норм фирме - купит себе небольшой частный самолет, лицензию пилота получит, сможет порассекать себе по приколу

На авито лямов за 10 можно взять.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #176

143. Сообщение от Аноним (143), 11-Авг-25, 16:10   +3 +/
Фрагментация может достигать критических значений со временем, что в этом бредового? Как по мне, бредово 2гб оперативки на каждый терабайт стораджа. Т.е. при типичных подкроватных объёмах в 200тб нужно минимум 400гб памяти отдать только на zfs.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #141 Ответы: #146, #147

144. Сообщение от Аноним (144), 11-Авг-25, 16:13   +1 +/
Что за чушь, ты с zfs не путаешь?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #60

145. Сообщение от anonymous (??), 11-Авг-25, 16:25   +1 +/
Copy-on-Write как раз и ведет к фрагментации.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #141

146. Сообщение от нах. (?), 11-Авг-25, 16:32   –3 +/
может. Но не достигает - в реальных применениях а не в фантазиях кекспертов. Поэтому бредово - твое бесконечное повторение мантры про ужастную и страшную фрагментацию.

> Как по мне, бредово 2гб оперативки на каждый терабайт стораджа.

и это тоже вранье.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #143 Ответы: #216, #244

147. Сообщение от Аноним (147), 11-Авг-25, 16:37   +2 +/
> Т.е. при типичных подкроватных объёмах в 200тб нужно минимум 400гб памяти отдать только на zfs.

200Тб дома под кроватью!? Какого максимального объема сейчас HDD? 30Тб? Или 36? Сколько у вас дисков и что там хранится!?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #143 Ответы: #245

148. Сообщение от Аноним (148), 11-Авг-25, 16:44   +/
> не согласился с критикой надёжности Btrfs

Кент, как всегда, приводит доказательства и конкретные аргументы. Обиженные этим авторы гноподелок как всегда не используют эту критику, что бы улучшить результат своей работы, а переходят на личности. Потому что больше им сказать нечего, только эго и эмоции. Правильно Кент их прессует, если не он, то кто?

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #175

149. Сообщение от Ilya Indigo (ok), 11-Авг-25, 16:45   +4 +/
- У твой системы такие-то недостатки в надёжности.
- Нет! Я не согласен!
  Мета на ней миллиарды зарабатывает!

Аргументация уровня тупого российского пропагандиста.
Всё ясно с btrfs и его разработчиком!

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #164

150. Сообщение от Аноним (150), 11-Авг-25, 16:46   +/
не, не путаю. ну да, не совсем прям online дедупликация, а через демона для этого. Про zfs сразу было честно написано, что онлайн дедупликация медленная и жрёт много оперативы. Вот и хотелось побыстрее вариант, а про бтрфс все так восхваленно пишут и т.д. А раз онлайн не пошёл, то проще делать оффлайн -> нафиг тогда btrfs и zfs, хватит xfs.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #60 Ответы: #162, #204

151. Сообщение от morphe (?), 11-Авг-25, 17:02   +1 +/
> вон там внизу образчик чего она тебе скажет и что посоветует. Скажет
> она тебе kernel oops, как выясняется. Посоветует потерять данные. Без всяких
> внешних причин.

oops - не паника. Потерять данные на btrfs очень сложно, даже если всё совсем плохо и все последние записанные блоки поломались (Что может быть только если у тебя сам диск начал сыпаться) - ты всегда можешь восстановить старый суперблок, потому что они размазаны по диску

Контрпримеры в студию

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #136 Ответы: #155

152. Сообщение от _ (??), 11-Авг-25, 17:02   +/
> Когда минута простоя может стоить лярд $ оборота, то в таких ситуациях мусорные ФС не ставят.

__абсолютно__ согласен! И вот не слышал чтоб на NYSE $subj юзали :)
А котегофф ... ты даже обрадуешься что новые фоточки надо, а то старые тю-тю :)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #103

153. Сообщение от _ (??), 11-Авг-25, 17:04   +/
> вообще пофигу, какая там фс.

Ну не так чтобы прям - пофиг ... но мысль в верном направлении :)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #108

154. Сообщение от _ (??), 11-Авг-25, 17:10   +/
> А вот остается бонус - ща мы его разделим на всю ораву,

... и тут ты просыпаешься весь в сладкой неге :)
Ну или называй КТО это был? Такого даже в стартапах не видел. Ну вернее видел, но среди фаундеров, остальным ... ну опции, можешб вестить :)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #54 Ответы: #158, #218

155. Сообщение от morphe (?), 11-Авг-25, 17:12   +/
> Контрпримеры в студию

А, увидел сообщение про zero-log

Да, в ядре был баг, при грязном выключении не работал log replay при запуске

ФС могла проигнорировать и запускаться как есть (Потенциально с повреждениями данных), а могла пожаловаться что с диском чот неладное произошло, чтобы знающий человек чот сделал, потому что ситуация нештатная (Опять же, баг в ядре был).

btrfs поступает вторым путём, и тут уже проблема скорее юзабилити что нет простой опции "игнорировать ошибку, продолжить". Однако systemd rescue mode должен тут работать нормально, команды btrfs там вызываются, я так корень диска перемещал даже.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #151 Ответы: #160

156. Сообщение от User (??), 11-Авг-25, 17:18   +1 +/
Ээээ... Ну, удачи тебе чего-нибудь на фейсбуке гуглем поискать, ага.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #121

157. Сообщение от _ (??), 11-Авг-25, 17:24   +/
> Понимаешь, нормальный PM через несколько лет в норм фирме - купит себе небольшой частный самолет, лицензию пилота получит, сможет порассекать себе по приколу.

Вот почему то мне кажется что нам пишет кастрюлеголовый, конечно же из горящего танка :)

Ты родиться опоздал болезный. То что ты описал - это ФРГ в 1980-е и США в 1990-е.
Этого больше нет. ТЧК.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #176 Ответы: #165

158. Сообщение от нах. (?), 11-Авг-25, 17:29   +/
в стартапах зато не принято убыток от этой прибыли вешать на наемных рабов.
А учитывая что взлетает (да и то чаще низенько-низенько) один из тысячи - всего двух почек может и не хватить расплатиться.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #154 Ответы: #219

159. Сообщение от _ (??), 11-Авг-25, 17:39   +1 +/
> Вообще-то пользователи не давали обет верности энной социалке - и могут и посваливать в другие места.

Ух, хорошо! Прямо напомнило как тут народ бился за IM мэссенджеры ... а все как сидели самизнаетегде - так и сидят :(
Потому что новые IM даже если и реально хороши ... то там всё равно нет никого :)
Классика жандра(С)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #121 Ответы: #181, #223

160. Сообщение от нах. (?), 11-Авг-25, 17:42   +/
> Да, в ядре был баг, при грязном выключении не работал log replay при запуске

он не не работал (что еще туда-сюда хотя тоже вызывает вопросы) а именно выдавался oops, с невозможностью загрузки вообще.

Что означает что это не просто баг, а вообще вся философия к xepy сведена, потому что не смотря на стомильенов чексум и гениальную технологию записи - в логе КАК-ТО оказалась каша.
Причем ее видимо долго не могли правильно идентифицировать и надежно исправить - что аж понадобилась утилита для ручного ресета лога (кстати, лог ext4 сбрасывается без приседаний с граблями)

И теперь напрашивается очевидный вопрос - а в скольки еще-то местах оно превращает данные в кашу?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #155 Ответы: #180

161. Сообщение от _ (??), 11-Авг-25, 17:44   +/
>> время доступа при сжатии - как раз уменьшается (процессоры у нас нынче СИЛЬНО быстрее дисков).
> Это все сильно зависит от сжатия - и от диска. Энтерпрайзные SSD весьма резвые штуки.

Но "энтерпрайзные процессоры" у нас нынче всё ещё СИЛЬНО быстрее "энтерпрайзных дисков"... 90+ корок кэш как _вся_ память у некоторых и вот это вот всё...
Как то так ;)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #64 Ответы: #224

162. Сообщение от Аноним (162), 11-Авг-25, 17:51   +/
при чем крашнулся именно модуль ядра, а не демон дедупликации
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #150

163. Сообщение от _ (??), 11-Авг-25, 17:54   +2 +/
Отличный анеГдод ясчетаю!(С) :)
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #104

164. Сообщение от нах. (?), 11-Авг-25, 17:59   +2 +/
В целом, да, ты ткнул в самую больную точку - когда люди, выдающие себя за инженеров, начинают оперировать не инженерными терминами ("у нас вот столько процентов сжатия вот на таких данных, в наших масштабах это имеет значение,а альтернативы хуже тем и вот тем"(*) а информацией с пятиминуток ненависти (потому что сами они, разумеется, не имеют ни информации ни влияния на те миллиарды) это говорит о том что с инженерией у них все совсем не сложилось. А учитывая что это и есть гениальные разработчики - то выводы в отношении всего проекта просто напрашиваются.

* - и другой инженер может сделать вывод что на ЕГО данных пользы ровно никакой.

И при том что их никто за язык не тянул (и скорее наоборот, всякий бульк надо согласовывать с pr-отделом) - вероятно и с менеджментом в той мордокниге все тоже не очень, и причина тряски как раз в том что вопросики "какого хрена занимается ваш отдел, неспособный вовремя исправлять баги в готовой системе, когда вон один человек запилил работающее с нуля, хотя ему все мешали" - периодически угрожают их благосостоянию.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #149

165. Сообщение от нах. (?), 11-Авг-25, 18:13   +/
да не, не сцы, с тех пор самолеты здорово подешевели, убитую цесну можно взять незадорого (правда, ангар, обслуживание, мда... в общем недешовое хобби), только она возрастом ровно из тех 90х.

С лицензией все стало чуть более грустно после 9/11, но просто чуть больше проверок и просветок, это не боинг, по деньгам любой PM может, по времени правда так себе.

Т.е. история (удачливый, это важно!) PM (лучше бы не) в FAANG -> 10 лет на галере -> early retirement -> пиццерия на бабки от продажи бумажек -> ... -> ???PROFIT???!!! -> лицензия и личный ржавенький самолетик между ремонтами печек - возможна, если никакой другой жизни вообще не иметь (ни дома, ни жены, ни друзей вне летного коллектива).
С 96го изменилось только "пиццерия" вместо "it consulting".

(а теперь сравнить с чуваком из РФ, ухитрившимся совместить ЛИНЕЙНУЮ блжд лицензию!!! и работу инженером. Да, он наверное один такой. Но вот сам факт.)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #157

166. Сообщение от Аноним (166), 11-Авг-25, 18:29   +1 +/
"Желание делать бэкапы продолжалось до завтрака, а потом прошло."
(c) Николай II Гольштейн-Готторп-Романов, фельдмаршал английской армии
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10

167. Сообщение от Аноним (166), 11-Авг-25, 18:35   +1 +/
В M$ не работники решают, а начальники. А копирование программ ничего не стоит, в отличии от размножения сахара.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #91 Ответы: #168

168. Сообщение от User (??), 11-Авг-25, 19:00   +/
> В M$ не работники решают, а начальники. А копирование программ ничего не
> стоит, в отличии от размножения сахара.

Ох, не занимались вы "пропорциональным разнесением затрат по ВГО" перед каким-нибудь бюджетным комитетом и не объясняли продажникам перед квартальным отчётом про "бесплатность софта"...

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #167

172. Сообщение от Аноним (172), 11-Авг-25, 20:04   –1 +/
Попробуй более современное железо, а не Pentium 166 MMX на SIMM'ах.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #60

174. Сообщение от Аноним (174), 11-Авг-25, 21:03   +3 +/
COW подразумевает фрагментацию при простой записи, удалять ничего не нужно.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #137

175. Сообщение от нах. (?), 11-Авг-25, 21:25   +1 +/
Да КАК блжд они могут использовать эту критику? Те люди что ПЯТНАДЦАТЬ гребаных лет не могут внятно ответить на вопрос - что у них не так с raid кодом, который сами же и накорякали?

теперь вон еще прекрасная история с битым журналом всплыла, это ж какой-то вообще позор, это то что в ext4 [тяжелым и кровавым опытом взятое, правда сказать] не случалось с того самого 2007го - вместо того чтоб БЕГОМ бежать исправлять такую катастрофическую багу - они запилили... юзерлевел утилитку, только вот загрузитесь сперва с чего-то другого, а то фс открытая даже на чтение у нас локнута и исправить ничего не получится - т.е. видимо дооооолго не могли и это тоже найти, а найдя сомнительное место - не смогли убедиться что нашли именно то, и пришлось срочно клепать костыль.

(И да, у Кента, надо заметить, лажа мешающая нормальному монтированию исправляется автомагически - ну, когда Линус не мешает ему комитить исправления в мэйнлайн)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #148 Ответы: #188

176. Сообщение от yet another anonymous (?), 11-Авг-25, 21:29   +/
Не, мимо.

Дедупликация там существенна и должна давать о..й бенефит. К операциям над контентом она никак не относится --- там эквивалентность по свертке блока контента. Все ньюансы --- как этот блок оптимальным (эффективным) образом выщемить.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #80 Ответы: #237, #142, #157, #179

177. Сообщение от Аноним (174), 11-Авг-25, 21:30   –1 +/
Если у вас эта фс ненадежна при отключении электричества то значит вы отключили механизм COW.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #4

178. Сообщение от yet another anonymous (?), 11-Авг-25, 21:49   +1 +/
> И снова телевизоры самсунг признаны лучшими в мире (по мнению инженеров самсунг).

Не надо этот вопрос теребить. "Убогие же люди. И поют так жалостливо."

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #9

179. Сообщение от yet another anonymous (?), 11-Авг-25, 21:59   +/
> Я пожелаю гражданам пох и нах чтобы их лечил - а лучше оперировал - такой же доктор, как они - айтишники. Это было бы весьма честно.

Ну не надо...

Боец --- большой девопс в крупной организации. Он на заказ от эффективных управленцев дудочек делает --- немерянно. Вполне себе осознавая, что он делает. Вы под таким прессом поживите --- ещё не то нести будете, особенно после "сбалансированного решения", после которого ни на кого смотреть не хочется.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #176

180. Сообщение от morphe (?), 11-Авг-25, 22:08   +/
> Причем ее видимо долго не могли правильно идентифицировать и надежно исправить - что аж понадобилась утилита для ручного ресета лога (кстати, лог ext4 сбрасывается без приседаний с граблями)

Эта команда существует уже очень давно, в btrfs rescue есть и другие команды для починки

> он не не работал (что еще туда-сюда хотя тоже вызывает вопросы) а именно выдавался oops, с невозможностью загрузки вообще.

oops выдаётся на попытку монтирования, systemd после этого тебе предложит войти в emergency shell и руками всё починить
Можно было конечно и нормальную ошибку монтирования выдать, но в данном случае решили oops, потому что лог как бы есть, но как бы кривой

> потому что не смотря на стомильенов чексум и гениальную технологию записи - в логе КАК-ТО оказалась каша.

Именно потому что у btrfs другие механизмы защиты - в данном случае решением был zero-log, данные если ты наткнулся именно на этот баг в последней версии ядра не теряются при нём

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #160

181. Сообщение от Аноним (70), 11-Авг-25, 22:10   +/
Новые IM — это вацап и телега.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #159

182. Сообщение от Аноним (70), 11-Авг-25, 22:12   +/
> только на AI можно возложить удаление "неправильного" контента

С разморозкой! Давно уже.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #44

183. Сообщение от Аноним (183), 11-Авг-25, 22:14   +/
> ФС Btrfs работает достаточно хорошо, чтобы сэкономить компании Meta* миллиарды долларов затрат на инфраструктуру

Ну слушай, сколько там они сэкономили всем наплевать, и то что она работает достаточно хорошо для них не значит что она вообще работает.

Например она наверняка у них работает в ДЦ где почти никогда не пропадает питание, при этом у них поверх неё навёрнуто отказоустойчивое хранилище со своей избыточностью (наверняка ещё и кросс-дц) и проверкой целостности. Ну пусть возьмут с полки пирожок, они с тем же успехом могут данные в оперативке хранить и подменять её /dev/random'ом для 1% чтений - даже не заметят ничего. А у обычного человека ФС может навернуться целиком со всеми данными от мигания электричества, даже поверх рейда, или покорраптить все данные из-за одного флипнувшегося где-то в памяти бита.

Ответить | Правка | Наверх | Cообщить модератору

184. Сообщение от Рептилоид (?), 11-Авг-25, 22:15   +/
> Это просто видеоархив из ~58000 файлов общим объёмом 3.5 ТБ.
> Но при копировании копируется 6.5.

Так, человек.
Не стоит об этом больше писать!

Приглашаем тебя завтра на ужин, где и урегулируем этот вопрос к обоюдному удовлетворению!
Это большая честь, поэтому подготовся ­— захвати с собой оба диска, помойся хорошенько (и не забудь добавить в воду лимонной кислоты, палочку корицы, пару луковиц и бутончиков гвоздики!), трансфер мы организум.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #132

185. Сообщение от morphe (?), 11-Авг-25, 22:17   +/
> очевидно что именно какой-то баг и "был". (в кавычках потому что очевидно
> что есть только догадки на киселе, точно ли его исправили или
> нет - ни тестов, ни воспроизводимости)

Что за мистификация

Баг был, о баге разработчикам было известно, баг исправили, фикс бекпортировали куда надо

https://git.kernel.org/pub/scm/linux/kernel/git/torvalds/lin...

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #135 Ответы: #191, #193

186. Сообщение от Аноним (26), 11-Авг-25, 22:23   +/
> Да, да - у гугля вот "с ломовым парком серверов" - сами сервера десктопное по сути ОЕМное железо запихнутое в стойку и тоже - "никаких проблем нет".

Гугл вообще один из первых, кто популизировал «commodity off the shelf hardware» для датацентров. И именно потому что уже тогда имели огромный парк серверов и могли на цифрах показать как вместо одного мощного «enterprise grade» сервера можно купить _три_ пролетарско-бытовых попроще и в итоге получить большую надёжность на стоечный юнит в час. И что для этого конкретно нужно (их же собственный Borg, из идей которого Kubernetes для всех сделали). И таки да, никаких проблем нет. Потому что сервер будь он хоть четырежды «enterprise grade» рано или поздно взорвётся и сгорит. Вторым фактором стало то, что обычное «бытовое» железо подобралось по качеству к «энтерпрайзному» настолько близко, что объяснить зачем надо платить в два раза больше за допольнительные 10% надёжности и производительности стало очень сложно. Третьим фактором стало то, что оверхед VM и контейнеров стал приемлимым, а координация деплоев и сетевых взаимодействия — тривиально автоматизируемой. И таки да, никаких проблем нет, ни в датацентрах, ни дома. Весь рынок «энтерпрайзной» хардвари стремительно сдулся до нишевого, что хорошо видно по предложениям основных вендоров и оценочным объёмам их продаж. И таки да, никаких проблем нет. Особенно дома, где нагрузки минимальные, и даже полудохлого UPS достаточно для любого практического применения.

Другой вопрос начерта нужно дома сервер держать, но тут уж каждый сам может для себя решить. Сам я считаю это блажью, но при этом всегда с интересом слушаю своего знакомца про очередной улучшайзинг его «home lab», занимающей уже целых две стойки.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #84 Ответы: #229

187. Сообщение от Ыеуз0email (?), 11-Авг-25, 22:23   +/
Откуда эта литания? Больше памяти - жирнее кэщъ - быстрее обмен с накопителем. Сплошные профиты
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #38 Ответы: #208

188. Сообщение от morphe (?), 11-Авг-25, 22:26   +/
> теперь вон еще прекрасная история с битым журналом всплыла, это ж какой-то
> вообще позор, это то что в ext4 [тяжелым и кровавым опытом
> взятое, правда сказать] не случалось с того самого 2007го - вместо
> того чтоб БЕГОМ бежать исправлять такую катастрофическую багу - они запилили...

Не путать журнал ext4 и лог btrfs

В случае повреждения лога btrfs (что в той баге происходило только при неправильном выключении) тебе его предложат сбросить, и ты можешь потерять несколько последних записей, но ФС останется в консистентном состоянии

Если у тебя при тех же обстоятельствах (выключение на горячую) повредится журнал ext4 - то у тебя может нарушиться консистентность метаданных, и полететь вся ФС

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #175 Ответы: #197, #205

189. Сообщение от Аноним (26), 11-Авг-25, 22:34   +/
> Или вот замене модуля к nginx самодельным прокси из дерьма и палок. Тоже выкинуто в опенсорс, и тоже не собирается и не работает. Чувак которого официально (!) назначили писать на основе этого всего работающий веб-сервер - ушел "обдумывать концептуальный дизигн" и с тех пор его больше никто не видел.

Это ты с CloudFlare перепутал. Чувак, который ушёл «обдумывать концептуальный дизигн» просто забил, потому что компании это в итоге оказалось не нужно, а http демонов и так пруд пруди (почти дословная цитата). А вот замена модуля к nginx самодельным оказалась очень результативной для основного бизнеса компании — нужно меньше серверов для обслуживания большего количества трафика с меньшим латенси. Вообще поразительно, насколько архитектура nginx оказался убогой, чтобы менеджер сокетов дёргающий openssl работал настолько быстрее, чтобы аж весь прод на него перевести в кратчайшие сроки. Впрочем, там где непритязательные пользователи деплоят nginx нет ни такого трафика, ни требований по латенси, поэтому можно дальше спать спокойно.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #76

190. Сообщение от Аноним (-), 11-Авг-25, 23:52   +/
> В _нормальных_ компаниях ЭТИМ как раз не занимаются. Потому что это все в дофига раз дороже выходит.

Ты неправильно понимаешь экономические эффекты масштаба. Чем больше масштаб, тем, во-первых, больше отношение прибыли к зарплате специалиста, во-вторых, тем больше экономия в абсолютных числах, которая относительных может быть что-нибудь типа 0.1%. Когда 0.1% помножается на миллиард, получается миллион, и если для достижения этого 0.1% надо заплатить специалистам 500k, то игра стоит свеч.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #63

191. Сообщение от нах. (?), 12-Авг-25, 00:28   +/
> Баг был, о баге разработчикам было известно, баг исправили

если бы баг просто исправили - очевидно не понадобилась бы чудо-утилита.
Вероятно таки прошло преизрядное (дописать и распространить не так просто и быстро) времячко между "разработчикам известно" и "исправили". Куда его там бэкпортировали непонятно, поскольку у анонима вон не бэкпортировали, и оно у него живет in the wild.

Ну и отдельный вопрос на засыпку - сколько еще багов в этом чудовищных размеров коде превращают данные в мусор, который даже автоматически определить именно как мусор (а не "oops!" при попытке обратиться по указателю в чужую память) нишмагли? Казалось бы работу с логом уж точно надо было писать аккуратно а не левой задней ногой.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #185 Ответы: #194

192. Сообщение от Аноним (192), 12-Авг-25, 00:41   +/
>первый год после покупки.

у всех разные кейсики использования нубуков. Я использую 95% стационарно и батарея так быстро не деградировала. Уже три года. А вот на короткие ~ до часа отключения её более чем достаточно.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #120 Ответы: #243

193. Сообщение от нах. (?), 12-Авг-25, 00:42   +/
и кстати что-то не похоже это на тот самый баг. Потому что в man образчик backtrace:

? replay_one_dir_item+0xb5/0xb5 [btrfs]
? walk_log_tree+0x9c/0x19d [btrfs]
? btrfs_read_fs_root_no_radix+0x169/0x1a1 [btrfs]
? btrfs_recover_log_trees+0x195/0x29c [btrfs]
? replay_one_dir_item+0xb5/0xb5 [btrfs]
? btree_read_extent_buffer_pages+0x76/0xbc [btrfs]
? open_ctree+0xff6/0x132c [btrfs]

а фикс исправляет какое-то совсем другое место.

Уважающие себя ребята после такого (даже если оно действительно имело место) лепят regression test и показывают, что вот до исправления failed, а после - перестал.
Дайте угадаю, у бырбыр вообще штатного test suite нет.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #185 Ответы: #196

194. Сообщение от morphe (?), 12-Авг-25, 00:51   +/
>> Баг был, о баге разработчикам было известно, баг исправили
> если бы баг просто исправили - очевидно не понадобилась бы чудо-утилита.

Утилита была уже давно, её не добавили для этого бага

Утилита не нужна, если ты ядро обновишь, потому что исправили как раз реплей полубитого лога

> +             *    We skip logging tmpfiles, but it's always possible
> +             *    we are replaying a log created with a kernel that
> +             *    used to log tmpfiles;
> Вероятно таки прошло преизрядное (дописать и распространить не так просто и быстро)
> времячко между "разработчикам известно" и "исправили". Куда его там бэкпортировали непонятно,
> поскольку у анонима вон не бэкпортировали, и оно у него живет
> in the wild.

Если у тебя ядро без этого фикса - можешь сделать zero-log, и всё заработает, после этого обнови ядро

> Казалось бы работу с логом уж точно
> надо было писать аккуратно а не левой задней ногой.

Лог нужен только для реплея событий, что произошли прямо перед тем как система по какой-то другой причине упала
Нет ничего удивительного в том, что подобные системы могут что-то не учесть, потому что система могла упасть когда угодно

Вот и исправили реплей, а как пруф того что оно исправлено - посмотри на полный код до и после патча, и увидишь что теперь этот oops остался совсем в других ветках, на которые система при нормальной работе действительно не попадёт, как это происходило с текущей багой

Так говоришь будто zfs без грехов, совсем недавно же попадалась бага что данные бить могла, а тут ничего не бъётся, система лишь жалуется на то что ей дали лог который она не умеет воспроизводить. https://lists.freebsd.org/archives/freebsd-stable/2023-Novem...

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #191 Ответы: #248

195. Сообщение от Аноним (195), 12-Авг-25, 00:51   +/
Ext4 самая надежная фс?
Ответить | Правка | Наверх | Cообщить модератору
Ответы: #198, #206

196. Сообщение от morphe (?), 12-Авг-25, 00:56   +/
> а фикс исправляет какое-то совсем другое место.

Фикс исправляет replay_one_buffer, который в свою очередь и вызывает replay_one_dir_item

А в бектрейсе его нет, потому что это static функция, которую инлайнит в walk_log_tree

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #193

197. Сообщение от нах. (?), 12-Авг-25, 01:01   +/
мне от "консистентного состояния" на неведомый мне момент прошлого - совершенно не жарко и не холодно.

> Если у тебя при тех же обстоятельствах (выключение на горячую) повредится журнал ext4

чтобы повредить журнал ext4 - а не потерять только последнюю запись в нем - выключения на горячую совершенно недостаточно. Во всяком случае я за полтора десятка лет отключений питания повидал тысячи, если считать в индивидуальных коробочках, а битый ext4 лог никогда.
Битый ext3 - было дело, но там было не банальное отключение питания.

И единственный в моей практике случай реальной потери данных на ext* был именно из-за этого лога. А на ext4 без логов вообще - как и до нее на ext2, ничего кроме ненужных временных файлов и, возможно, того что было в этот момент открыто на запись, за 30 лет не наблюдалось. Что я делаю не так?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #188 Ответы: #199

198. Сообщение от нах. (?), 12-Авг-25, 01:03   +/
в no-journal mode - пожалуй, да. (сорта этого самого, конечно, но тут риски всерьез потерять данные все же минимальны)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #195

199. Сообщение от morphe (?), 12-Авг-25, 01:36   +/
> мне от "консистентного состояния" на неведомый мне момент прошлого - совершенно не жарко и не холодно.

Там откатывается лишь несколько транзакций, лог в btrfs это большую часть времени лишь десяток записей, он не является средством поддержания консистентности в отличии от extX журналов, для этого в btrfs есть CoW, а лог указывает как у тебя верхушки деревьев изменялись

> а не потерять только последнюю запись в нем

А ты оптимист, у тебя журнал на каждую запись на диск сбрасывается?
Однако не важно, у тебя были придирки к архитектуре - факт в том что ext4 в случае повреждения журнала может быть совсем потеряна, а btrfs живёт, вон, даже команда есть для того чтобы его отбросить без последствий

И если в ext допустят баг - то он будет критичный, в отличии от того бага что допустили в btrfs

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #197 Ответы: #249

200. Сообщение от Аноним (200), 12-Авг-25, 03:13   +/
Было бы желание ее ограничить... вполне сносно работает если выделить лишь 1Гб памяти.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #38

201. Сообщение от Аноним (200), 12-Авг-25, 03:16   –1 +/
ZFS вполне нормально работает и на 1Гб. Без дедупликации данных, но работает вполне неплохо.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #40 Ответы: #209

202. Сообщение от Аноним (200), 12-Авг-25, 03:18   +/
Вы не захотите дефрагментировать SSD. К тому же, ZFS делает все необходимое чтобы уровень фрагментации был минимальный. Так же, этому способствует SLOG.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #114 Ответы: #214

203. Сообщение от Аноним (200), 12-Авг-25, 03:26   +/
Ваши бздешники вас нагло обманули. Вряд ли они в состоянии подкрепить свои слова фактами. Более того, в отличии от той же BTRFS - по умолчанию коммитит каждые 5 секунд, а не 10 и при этом умудряется записать маньше. В Linux нет файловый систем с подобной ZFS гибкость конфигурирования. Вы можете ограничить буквально все: и количество процессоров, и потоков записи, потоков предзагрузки, и еще много чего. При желании, ZFS можно ограничить лишь 1 процессоров и гигабайтом памяти. Нет, тормозить не будет. А еще, в ZFS все запись можно сделать АСИНХРОННОЙ! Надеюсь, вы понимаете что это такое и какие преимущества в себе несет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #16

204. Сообщение от Аноним (200), 12-Авг-25, 03:30   +/
Уже жрет меньше, да и если поменять чексуммы на какой-нибудь блейк - будет даже быстрее. Так же, можно добавить L2ARC.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #150

205. Сообщение от Аноним (200), 12-Авг-25, 03:33   +/
Проясните момент: каким образом BTRFS умудряется ломать все дерево? Будь оно так, разве были случались подобные случаи? Лично я сталкивался с подобным трижды. Стал использовать ZFS...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #188 Ответы: #210, #227, #250

206. Сообщение от Аноним (200), 12-Авг-25, 03:43   –1 +/
Нет. Так же, можно включить полное журналирование данных - превращается в одну из самых надежных файловых систем. Но будет записыватся двойной объем данных.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #195

207. Сообщение от Аноним (-), 12-Авг-25, 03:44   +/
> но в новости об этом - ни полсловечка. И подобные тебе начинают
> рассказывать про миллиарды котиков, хранимые таким вот образом.

Новость - я же и закинул. По итогам тредика в LKML. И это про вполне конкретный меседж от басика в LKML который и фороникс тоже заметил. В ответ на предъявы кента басик выдал как оно с его точки зрения, для меня басик не нулевая величина ибо я в курсе ключевых фигур.

А что там где как и у кого - полуркать вокруг придется. И можно увидеть как энное время назад мордокнига вкатила фикс что если файло более 20 Тб - фс может настать амба. Странные котят.

> ты только что сам подтвердил что все миллиарды там никакого отношения к
> бырбырам не имеют.

Ты только что подтвердил свою ацкую предвзятость и необъективность. Дев из фб прямым текстом сказал что вся инфра держится на ЭТОМ. Но тебе типа виднее? Откуда бы?

> И хранится на ней - ты даже не способен толком угадать, что.

Выдавать измышлизмы не основанные ни на чем - твоя прерогатива.

> то над которым он - нет. И вот про эту часть инфры
> мордокниги известно практически ничего (включая имена разработчиков).

Т.е. я должен поверить такимприборам от сэра на опеннете, а не деву мордокниги? Не раньше чем ты отсервируешь 2 миллиарда юзерей, извини :)

> А там есть что посмотреть.

Если б ты сказал гугл я б поверил. А фэйсбук более классический, есть некая разница между брином и цукербергом. А когда все на мази - поздняк, будешь жить с тем что получилось. Не, остановить прод и все с ноля переделать чаще всего не вариант уже.

> а было б тебе чем подумать, ЧТО там на том одном диске...
> впрочем, куда там.

Я вполне поверю басику, полагая что ему - виднее как оно НА САМОМ ДЕЛЕ. Ибо мордокнига наняла этот выводок - адаптировать ту штуку - к своему проду. Чтоб им было максимально круто, дешево и сердито. А ты что подумал?

>> Судя по заявлениям басика - почти все. И я плохо представляю себе
> судя по заявлениям - непоймичто.

Если он сказал что там практически вся инфра на этом - какие варианты? Ты либо публично обвиняешь его во лжи - и доказываешь, либо изволь жить с этим знанием.

> акции растут, все норм. Главное лишнего не ляпнуть, что можно было бы
> уже использовать для задавания уточняющих вопросов - "а как это у
> вас вот такое получается-то, когда должно же ж наоборот?"

Теории заговора такие теористые, но я то вижу чуть побольше - ибо потоки комитов в затрагивающие меня подсистемы отсматриваю. Чтобы знать что ждет завтра и парировать проблемы ДО того как они возникнут. Поэтому рассказывай свои сказки венского леса кому-нибудь другому имхо.

> "откройте рот...закройте, не вижу патологии, мешающей тоже врать"

Очень сомневаюсь что басик да еще прикрвышись фэйсбуком будет это делать.
1) У всех нормальных крупных корп корпоративные полися вполне регламентируют что бывает за потуги набить себе цену прикрываясь корпорацией. Это очень дорогая ошибка и никто в здравом уме не будет так подставляться.
2) Зачему оно басику сдалось? Все и так в курсе кто он и что он. И btrfs'ник он - лишь относительно недавно, когда из редхата свалил. Видимо гальванизировать XFS со всякими сратисами ему не зашло. Сам так развлекайся с теми индусами. А норм спец может и фирму сменить если работа стала ощущаться - помойкой какой-то (по моему подходящее сравнение для сратиса + xfs vs btrfs device add/remove/etc).

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #98 Ответы: #236

208. Сообщение от Аноним (-), 12-Авг-25, 03:46   +/
> Откуда эта литания? Больше памяти - жирнее кэщъ - быстрее обмен с
> накопителем. Сплошные профиты

Это все работает только при условии что это - файлопомойка. Где RAM больше нечем занять было. А с каким-нибудь NVME оно уже не очень то и хотелось - а вот оверхед файлухи начинает роялить. И думается сабж уже заоптимизили здорово лучше того утюга на актуальных FB задачах.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #187

209. Сообщение от Аноним (-), 12-Авг-25, 03:58   +/
> ZFS вполне нормально работает и на 1Гб.

А btrfs можно завести даже на 64 мегах. И структурально он все же думается шустрей сам по себе.

1) Там нормальные экстенты. А не "блоки переменного размера" которые выглядят - примерно как попытка пещерного человека сделать первобытный прототип экстентов.
2) Отношаться с внемайнлайн/tainted ядрами лишний раз в проде совсем не нормально. Ибо в случае чего вы будете разгребать факапы франкенштейна целиком сами. От и до. А это сложно, медленно, канительно и дорого. В майнлайне вам с tainted никто не поможет.
3) В btrfs заморочились например директории группировать локализовано, для быстрой отгрузки списка. Это ощущается.
4) Btrfs рефакторят на _современные_ ядерные апи для снижения оверхеда, типа large folios, io_uring и проч. Где там zfs будет с всем этим... вероятно где-то в хвосте и с кучей проблем. А энтерпрайзные SSD в проде - есть уже сейчас. И пролюбливать их скорость в разы от оверхеда в ФС всем жутко обломно.
5) Управление памятью у ZFS специфичное. И совсем не окей для ряда нагрузок по сравнению с лобовой возможностью ядра линя урезать кеш - может быть запаузив прогу немного на это время - но по крайней мере не брякнув ее с ошибкой аллокации памяти.

> Без дедупликации данных, но работает вполне неплохо.

Понятия о неплохом у разных людей разные. Реально ZFS - это фс для файлопомоек. Для всего остального он - "не очень".

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #201 Ответы: #251

210. Сообщение от morphe (?), 12-Авг-25, 04:02   +/
> Проясните момент: каким образом BTRFS умудряется ломать все дерево? Будь оно так,
> разве были случались подобные случаи? Лично я сталкивался с подобным трижды.
> Стал использовать ZFS...

Лог - не дерево, дерево остаётся целым
Да и безопасно сбросить его в данном случае

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #205 Ответы: #233

211. Сообщение от Perlovka (ok), 12-Авг-25, 04:02   +/
>> Ээээ... СХД достаточно хреново масштабируются,
> Зачем ты ему спалил контору? Интересно же как он сетапил бы по
> этим технологиям свой аналог гугл и фэйсбук. И сколько бы это
> ему стоило. И где б он столько взял и что б
> он делал с тем фактом что у конкурентов все в разы
> дешевле.

Мы так и не увидели решений от "локальных экспертов", которые "в разы дешевле и лучше" СХД. Примеры будут? Желательно с пруфами. И  с выкладками ценообразования. А заодно и стоимости сопровождения.


Ответить | Правка | Наверх | Cообщить модератору
Родитель: #126 Ответы: #225

212. Сообщение от Аноним (200), 12-Авг-25, 04:08   +/
Да ничего особо не делали. Просто ломалась и все... все нормально работает и возникает необходимость перезагрузиться, перезагружаетесь, и вам говорится что сломано дерево. Речь он  выключении питания даже не идет.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #77 Ответы: #255

213. Сообщение от Аноним (-), 12-Авг-25, 04:39   +/
> а там разве не всякие распределеннные фс нужны?

Что ты распределять собрался в уберскоростном SSDшнике? И да, там оверхед - отличается. Сабжа так то на large folios и прочие io_uring рефакторят не по приколу же.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #87 Ответы: #242

214. Сообщение от Аноним (-), 12-Авг-25, 04:42   +/
> Вы не захотите дефрагментировать SSD. К тому же, ZFS делает все необходимое
> чтобы уровень фрагментации был минимальный. Так же, этому способствует SLOG.

Был тут как-то некто iZEN. Прославился тем что получил отличные 15 мегов в секунду с 3-дискового пула из винчей (пусть и ноутбучных), забив пул в хлам и качнув торенты.

На минуточку, 15 мегов в секунду это 1/3 скорости 1 ноутбучного винча были. А дефрагить - даже если б он и захотел - нечем. Но вы можете пул пересобрать, очень удобно.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #202 Ответы: #231

215. Сообщение от Аноним (-), 12-Авг-25, 04:53   +/
> Да-да, и вот та же cassandra апачу с неба упала, ага.

Ваша касандра по сравнению с big table - как пластмассовый совочек по сравнению с экскаватором. В принципе вы оба можете копнуть куб песка. Но есть нюансы.

Поэтому конкурента гуглу из тебя не получится. Даже если б ты и очень захотел.

> Ну кому надо - давно уже скрафтили кто tarantul, кто вот clickhouse

Это тоже не больно какая замена big table. Но вы можете показать гуглу мастеркласс и обставить их с индексацией поиска в интернете. Правда пока почему-то все кто пытался выглядели - "не очень". А где вы будете с вашими кликхаусами в этой схеме вы наверное и сами догадались. Не, с вашим уровнем технической экспертизы в вашек конторке - вы вон тем конкурентами никогда не будете. Почему-то. Это называется - технологическое превосходство над конкурентами. И это не про вас.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #131 Ответы: #228

216. Сообщение от Аноним (-), 12-Авг-25, 05:03    Скрыто ботом-модератором+/
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #146

217. Сообщение от Аноним (-), 12-Авг-25, 05:07   +/

> А о "культуре разработки" мордокниги вполне можно судить по их выкинутым на
> помойку опенсорса поделкам типа "перепиським-перепиським hg на хрусте".

Ну так сани вон с своей культурой разработки - где? У фэйсбука хватило ума - выкинуть этих вась на мороз вовремя. А сан до упора занимался гальванизацией трупа. И вот где фэйсбук а где сан? Культура менеджмента > культуры разработки. Ибо хреновый полководец - это полный п...ц даже самым отборным солдатам.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #76

218. Сообщение от Аноним (-), 12-Авг-25, 05:22   –1 +/
> ... и тут ты просыпаешься весь в сладкой неге :)

И тут я получаю - квартальный бонус. Могут еще годовые быть. Это уж у кого как, в контракте прописывается. И да, если я или тима будем хреново работать - нам придется урезать наши планы. Всем. От топа отвечавшего за продукт/направление до джуна.

Зато в таком формате ни у кого не возникает вопросов почему пахать надо с максимальной выкладкой, а идея остаться в офисе при аврале сверхурочно почему-то находит всеобщее понимание. Ибо если про#$%ть кастрмера, заплатившего цать миллионов - ребятки, ваш следующий бонус будет по итогам продаж смотреться иначе. И вам всем таким хорошим придется скостить свои жизненные планы.

Да, если такая фигня случается часто и много - нормальные люди это место работы просто меняют. Потому что ударно поработать чтобы получить дежурную минималку - полный отстой. Но акционеры не получившие дивидендов обычно тоже в курсе что с манагерами за это надо делать.

Фишка у капиталистов такая. Жабу как мотиватор используют. Работает офигенно.

> Ну или называй КТО это был? Такого даже в стартапах не видел.

NDA не отменяли, увы и ах. В западных корпах вообще - не принято обсуждать свою зарплату с коллегами. Культура такая. В корп полися и контракты тоже прописано.

> Ну вернее видел, но среди фаундеров, остальным ... ну опции, можешб вестить :)

Т.е. ты не в курсе что например гугло много лет сотрудникам акции раздавал для их шкурной заинтересованности? Оок!

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #154 Ответы: #238

219. Сообщение от Аноним (-), 12-Авг-25, 05:27   +/
> в стартапах зато не принято убыток от этой прибыли вешать на наемных рабов.

В нестартапах совсем убыток тоже - не повесят. Но заплатят позорную минималку из контракта, и если такая фигня более нескольких месяцев будет, ты сам оттуда уволишься нахрен, ибо хардкорить за те мизера - нафиг надо. Конечно если ты совсем овощ и тебе вообще больше некуда податься... но вот тут уже нормальных спецов перестает это волновать и тоните там себе наздоровте, хреновые манагеры с такими же кодерами, в конце концов - фирма или банкротом станет если менеджмент совсем дурной, или закроет тот или иной офис и продукт, если поадекватнее. И те васи все же уйдут на мороз. Хоть и попозже.

> А учитывая что взлетает (да и то чаще низенько-низенько) один из тысячи
> - всего двух почек может и не хватить расплатиться.

Вообще там другие проценты. Но тоже не очень оптимистичные. А проблемы с почками и проч все ж в основном - фаундеров волнуют. Остальных в обязывающих юридических документах не фигурирует.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #158

220. Сообщение от Аноним (-), 12-Авг-25, 05:35   +/
> Бред сивой кобылы!
> ZFS использует архитектуру CoW (Copy-on-Write).

И одна из ее особенностей - это то что новые записи оформляются записью "в сторону" чтоб не портить старое состояние. Т.е. это фрагмент, по определению просто.

У btrfs так то дефрагер есть. С своими заскоками. Но во всяком случае - есть.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #141 Ответы: #246

221. Сообщение от Аноним (-), 12-Авг-25, 05:46   +/
> ну а я вот ни разу не нарывался ни на какие "silent corruption".

А как ты о нем вообще узнаешь без чексум, для начала? Я знаю пару вариантов.
1) Если вам кажется что дела идут хорошо, значит вы просто что-то не заметили (c) законы Мерфи.
2) ВНЕЗАПНО зашибает роялем. То что рояль оказывается уже месяц тут болтался на стремном тросе - все просто игнорировали.

> И вероятность встречи с ними вживую - пренебрежимо мала.

Этот тезис давно протух. С ростом емкостей и скоростей все здорово изменилось. И конечно не в лучшую сторону. Даже топоры типа EXT4 с горя CRC в журнале сделали, а потом и чексумы метаданных. Чего это они? :)

> А у тебя вон оказывается целая процедура для ресета лога.

Если посмотреть сказ на лисяре про ZFS можно даже узнать как это выглядит в случае если такой процедуры нет. Но ковыряться в ФС хексэдитором - не прикольно, видите ли.

> И если уже прямо в логе у тебя временами образуется бнопня -
> то истории про меганадежность можно запихать далеко-далеко.

Вообще-то есть довольно большая разница между пойманной некосистентностью и пропущенной далее и вызвавшей карапт данных или невосстановимый развал фс.

Фаны EXT4 у которых ВНЕЗАПНО наступила амба тому - подтвердят. Кто с нвидией, кто с чем там еще. Проблема в том что - сначала ноль диагностики а потом на вас ВНЕЗАПНО падает рояль, изниоткуда. И господам что-то в этой схеме не нравится.

Здравый смысл подсказывает мне что CRC в журнале и чексуммы метаданных - чисто по приколу никто не програмит.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #140 Ответы: #241

222. Сообщение от Аноним (-), 12-Авг-25, 06:01   –1 +/
> нет, ты в своем подвале похоже совсем окуклился. ладно в технологиях ничего
> не сечешь, но это-то...

Прикольные проекции.

> И? ИИИИ?! И ничего, потому что куда ж ты с подводной лодки-то денешься.

Тебе мало мест? Вон есть мордокнига, а можешь вообще - с трампом в социалке поотвисать. Лучше ли оно будет - вопрос номер два, конечно. Ну или для тебя есть всякие одноглазики.

> логи какие-нибудь вcpaтые они там держали.

Еше скажи блин - текстовичком. Хочу посмотреть как ты 20 терабайт грепнешь, во! :). А если не текстовичком - так что я там про базу говорил? Или такая база недостаточно базированная?

> Но судя по тому что фс может помереть от одного-единственного диска современных
> даже не суперуникальных объемов - все там очень и очень плохо.

Помереть может много чего и от самых разных вещей. Все познается в сравнении. И я вот как-то видел что ZFSники из себя представлял, выкатив рефлинки активные по дефолту - с жирным багом - который прямо на юзерах и потестили. Это я понимаю - подход к надежности.

У btrfs'ников почему-то хватает ума метить фичи экспериментальными и сперва это надо именно явно самому врубать. А вовсе не.


Ответить | Правка | Наверх | Cообщить модератору
Родитель: #133

223. Сообщение от Аноним (-), 12-Авг-25, 06:02   +/
> Ух, хорошо! Прямо напомнило как тут народ бился за IM мэссенджеры ...
> а все как сидели самизнаетегде - так и сидят :(

Вообще-то если вы вдруг не заметили - скайпа майкрософт все же зашатдаунил. Захочешь не посидишь там уже. Вот хоть как.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #159

224. Сообщение от Аноним (-), 12-Авг-25, 06:07   –1 +/
> Но "энтерпрайзные процессоры" у нас нынче всё ещё СИЛЬНО быстрее
> "энтерпрайзных дисков"...

Это уже не совсем так. Пруфом чему - мощные рефакторы линухкернела и новые апи нацеленные на low overhead.

В частности iops и бандвизы достигли таки величин что тягать по страничке 4 кило всех задолбало оверхедом и началась сага с folios, а потом и large folios. И прочими io_uring, чтоб контексты лишний раз вообще на io не переключать.

Умничать вы можете сколько влезет - но вон те рефакторы от хорошей жизни, по приколу - не затевают. Потому что это дофига гимора и куча фалаутов, но - если все начинает упираться в оверхед а не io девайс, сказка про скорость проца становится прохладной и приходится идти и рефакторить. Даже если это и гемор.

Видите? Этот мир полон маленьких ненавязчивых индикаторов, показывающих как и что на самом деле случается, и почему так. Надо просто уметь их увидеть.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #161

225. Сообщение от Аноним (-), 12-Авг-25, 06:47   +/
> Мы так и не увидели решений от "локальных экспертов", которые "в разы
> дешевле и лучше" СХД.

Вы чего-то не понимаете в этой жизни. У вас - квадратно-гнездовое мышление. Штуки типа фэйсбука - не ваши СХД. Даже если немного похожи порой.

Прежде всего вы не понимаете что большие инсталляции - штучный кастом. Оптимизированый под задачи и по стоимостям. В процессе удешевления многих посещают очевидные идеи. Например, массовое commodity, без фирменных загонов, стоит дешевле экзотов и дешевле в эксплуатации. Если локальной экспертизы хватило сделать из г... конфетку EPIC WIN наступает.

Представляете, посредник с супер решением проблем - свой навар хочет. А можно этот навар оставить - себе, если экспертиза позволяет. Просто для мелочи и "непрофильных активов" R&D может и перевесить это.

> Примеры будут? Желательно с пруфами. И  
> с выкладками ценообразования. А заодно и стоимости сопровождения.

Примеры чего? Расчета сколько стоит FB сделать по вашему? Вам никто это не даст. Ибо штучные веши, там очень много факторов.

Но чисто логически - вы будете кормить +1 посредника по пути и он хочет свою маржу. За ваш счет, раз у вас своей экспертизы нет - вы оплачиваете их экспертизу. И конечно они постараются отжать максимум, пользуясь этим. Что совсем не в ваших интересах, особенно на инсталляции такого размера.

А еще на самом фундаментальном уровне есть такая штука как "магия количеств" в электронике. Чем массовее что-то производится, тем на больше юнитов размазывается R&D и меньше оверхед от S&H. Поэтому чем массовее что-то электронное производится тем оно дешевле. В этом смысле commodity всегда будет дешевле дорогих кастомных решений. И чем нечто дороже - тем маловероятнее что "магия количеств" там запустится и снизит цену на юнит. Поэтому нишевое оборудование обречено быть дороже даже просто по себестоимости, а там еще его разработчик свой навар хочет. А у вон тех этот фактор полностью устранен.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #211 Ответы: #230

226. Сообщение от Аноним (-), 12-Авг-25, 07:13   +/
> с zfs я знаю ответы на (нет, совсем не такие) вопросы. И
> что может вылезти, и почему - так, и что при этом
> делать. А тут вот - интересуюсь, как вообще чисто технически "шм@гли" такое вот.

Насколько я помню на "лисяре" для ZFS был описан похожий инцидент - когда сэр закатывал солнце вручную, хексэдитором - чтобы попытаться отбросить провальную запись мануально. ZFSники в какой-то момент сделали фичу больше так мучаться с хексэдитором не надо было. Btrfs'ников сравнимые проблемы видимо посещают, с примерно той же вероятностью. Что они, рыжие?

> очевидно что именно какой-то баг и "был". (в кавычках потому что очевидно
> что есть только догадки на киселе, точно ли его исправили или
> нет - ни тестов, ни воспроизводимости)

Я не багтрек btrfs чтобы помнить _все_ мыслимые баги, которые меня даже не импактили. Просто помню что видел этот совет от бтрфс дева, как нейтрализация какого-то бага в каких-то не сильно свежих ядрах уровня 5.x чтоли. Долбал бы меня этот баг - я бы лучше помнил о чем он. Заучивать все баги сабжа в всех ядрах - я не настолько фанат :)

> качество дизайна как оно есть.

Worksforme. Хоть я и не фэйсбук, когда worksforme для 2B юзерей это все же круче.

>> аннулировать этим маневром
> заодно аннулировав себе все последние изменения на fs.

Логично. Но на лисяре у сэра с ZFS бэд вылез и у него выбор был - продолбать весь пул вообще, как немоунтабельный и неюзабельный.

И если выбор вырисуется как-то так - может и черт с ними с несколькими последними записями то? Зато доступ к всей остальной файлухе вернется. Почему так же и btrfs было бы нельзя черт бы его знает. Но с ZFS на лисяре это другое наверное было, да? :)

> Причем - гарантированно, потому что мимо лога там ничего не пишется.

Когда выбор между потерей ФС целиком и несколькими последними изменениями... ну, э... почему-то чуваку на лисяре такой выбор тоже был - не очень. Хоть у него и ZFS был.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #135

227. Сообщение от Аноним (-), 12-Авг-25, 07:20   –2 +/
> Проясните момент: каким образом BTRFS умудряется ломать все дерево?

Ну например: если тебе драйвер хваленой нвидии будет выносить RAM через DMA или чем они его там так - btrfs конечно будет истошно орать про чексумы, но если долго игнорить это дело - в какой-нибудь момент оно может попасть в окно возможностей и ухитриться все же вынести кусок дерева - уже подготовленный к записи но ДО счета чексум.

И вот тут тебе будет - совсем не комильфо. Ибо это таки - фаталити. Впрочем оно и дял EXT4/XFS не лучше, господа проверяли. Только еще и не понимали - как же так. Без чексумм на вас этот рояль падает ВНЕЗАПНО - без воя в логи до этого момента. Что делает сюрприз забавнее.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #205

228. Сообщение от User (??), 12-Авг-25, 07:59   +/
Нишевое проприетарное решение от гугла, решающее проблемы гугла таким образом, что его нельзя использовать за пределами гугла? Ммммммм... Свободно-то как - дайте два!
Ох, щщи - я ж не гугл, у меня зубов в труднодоступных местах нет - можете не давать, hbase-scylla-clickhouse-elastic'ами по месту обойдусь).
А вы да - можете продолжать карго-культ развивать - у лицекниги бырбырбыр и у меня вот бырбыр - цукер, где мои ярды?!!!

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #215 Ответы: #234

229. Сообщение от User (??), 12-Авг-25, 08:10   +/
Теоретически оно "да", а практически ещё "нет" - и горизонтально масштабируются не все типы нагрузок, и плотность размещения оборудования в стойках имеет значение, и в надёжности разница, увы, несколько больше, чем хотелось бы, и с саппортом всё не так, чтобы однозначно.

Есть набор кейсов, в которых эта модель имеет место быть. Предполагаю, что количество этих кейсов со временем увеличивается, но "тяжёлое" железо с нами примерно "навсегда".

А насчёт "подкроватей" - спросите анонима выше, нахрена ему 200 виртуалок на типасерверодесктопе дома - мне оно не то, чтобы сколько-нибудь ясно.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #186 Ответы: #235

230. Сообщение от Perlovka (ok), 12-Авг-25, 08:42   +/
>У инфры, обслуживающей пару миллиардов, есть и деньги на нормальные системы хранения. За >исключением компаний типа гугла, которые разрабатывают собственное железо. А еще есть >мозги считать риски и расходы на создание собственных систем хранения.

Я конечно понимаю, что читать и понимать это сложнее, чем писать не приходя в сознание, но как вышеизложенная простыня противоречит приведенной цитате?

Фейсбучек точно так же юзает СХД, просто собственного производства. Остальные нормальные компании классом пониже юзают СХД чужого производства, либо вообще уходят в AWS и иже с ним, чтобы не трахаться с железом самим.
А эникеи продолжают лопотать о "локальной экспертизе" в "нормальных компаниях", в отличие от "третьесортных закоулков".

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #225

231. Сообщение от Аноним (200), 12-Авг-25, 10:04   +1 +/
Вы не думайте, что на BTRFS будет по-другому. К тому же, теперь пул можно спокойно забивать до 95% без особого штрафа и все будет работать и не тормозить.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #214

232. Сообщение от Аноним (200), 12-Авг-25, 10:19   +/
Чем в плане работы с памятью ZFS отличается от любой другой файловой системы? С чего вы решили что ZFS необходима EСС, а другим нет?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #71

233. Сообщение от Аноним (200), 12-Авг-25, 10:22   +/
Так почему ломается дерево, если лог всегда корректный?
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #210

234. Сообщение от нах. (?), 12-Авг-25, 10:25   +/
Кашмандру за пределами гугля...зачеркнуто...мордокниги...зачеркнуто...могильника апача использовать - ну тоже такоэ себе.

Все разы что я на это натыкался, оно было кошмарно кривое и медленное.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #228 Ответы: #239

235. Сообщение от нах. (?), 12-Авг-25, 10:30   +/
> Есть набор кейсов, в которых эта модель имеет место быть

начни с бесплатного (ок, небесплатного но дешевого и в любых количествах) электричества.
(ага, поделки гугля с блоком питания в КАЖДОЙ картонке чудовищно энергонеэффективны. Но он просто перенес ЦОД к hoover dam чтоб денег не платить)

> Есть набор кейсов, в которых эта модель имеет место быть.

в основном эти кейсы - "деньги из воздуха". Т.е. от продажи самих хомячков оптом. Других бизнес-моделей оправдывающих бесконечный linear scaling не обнаружено.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #229

236. Сообщение от нах. (?), 12-Авг-25, 10:51   +/
> Очень сомневаюсь что басик да еще прикрвышись фэйсбуком будет это делать.

а что еще делать дважды орденоносцу ордена банкротства? Если его и из мордокниги выпрут - куда он пойдет-то? Афтыри бырбырфесе никому больше не нужны, орацл своего тоже выкинул за борт.

Поэтому и визжит когда наезжают на его великую значимость.

За пятнадцать гребаных лет не довести проект до минимально рабочего состояния, вместо этого выдавая детские ошибки с поломанным логом (я подозревал что все плохо, но что до такой степени?!) и ой, мы низагружаимсо - это фиаско, братан.

остальное - опять твои детские иллюзии как оно работает в реальности, комментировать только портить

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #207

237. Сообщение от нах. (?), 12-Авг-25, 10:53   +/
объясни, ОТКУДА у тебя берется то что можно "дедуплицировать". Хоть по блоку хоть как.
Да еще в пределах однодисковой картонки.

У меня есть пара идей, потому что я знаю откуда оно у меня берется и в каких очень специальных местах, но они совершенно на ваши фантазии непохожи (потому что как бы снова намекают что все у мордокниги плохо)

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #176

238. Сообщение от нах. (?), 12-Авг-25, 10:56   +/
комментировать эти мечты подвального о квартальных бонусах - только портить.

> Т.е. ты не в курсе что например гугло много лет сотрудникам акции раздавал для их шкурной
> заинтересованности?

хахахаха.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #218

239. Сообщение от User (??), 12-Авг-25, 11:04   +/
> Кашмандру за пределами гугля...зачеркнуто...мордокниги...зачеркнуто...могильника
> апача использовать - ну тоже такоэ себе.
> Все разы что я на это натыкался, оно было кошмарно кривое и
> медленное.

Не, вот именно с cassandra'ой все было вполне себе быстро - но ОЧЕНЬ не дешево. После переезда на сциллу ~50ТБ вполне себе бодро-и-даже-относительно-занедорого вертится. Модель данных и специфика доступа к ним - своеобразные, шаг влево - шаг вправо - ннинада делать, от части операций при переходе с кассандры вообще отказаться пришлось (Пародоксально - медленней), но в целом - всех устраивает.

А так - если не путаю, то аж целый ПФР на неё году в 16 переезжал, пару петабайт перевозил.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #234

241. Сообщение от нах. (?), 12-Авг-25, 11:09   +/
> А как ты о нем вообще узнаешь без чексум, для начала?

а если я о нем не узнаю вообще - то, не поверишь - мне феерически ПООООХРЕН.
(и да, данные на обычном васянском диске обладают офигенной избыточностью)

но вообще-то для архивных данных я храню хэши. Они разумеется не для истовой борьбы с несуществующими проблемами, а для контроля что при очередной смене технологии все получилось как надо, и не гадать как 4 гига превратились в шесть как у некоторых, но тем не менее - была бы проблема, ее было бы видно. Ее - нет.

> С ростом емкостей и скоростей все здорово изменилось.

говорит чувак со своей флэшечкой. Ничего у меня не изменилось. Как не было никаких внезапно-silent-corruptions так и нет.

Ну да, ну да - я, разумеется, обхожусь без дырявых ведер только что из под хвоста, а в тех что есть, нет очередной дырки в иоурине в которую половина раздела утечет.
Т.е. на эти грабли напарываются только чемпионы по бегу незнамокуда.

> Даже топоры типа EXT4 с горя CRC в журнале сделали, а потом и чексумы метаданных.
> Чего это они? :)

Я уже объяснял, чего. Нет, совершенно не для этого. Для того чтобы мусор записавшийся из уже теряющей заряд памяти на последнем писке издыхающего питальника или просто из-за непойманой ошибки в ведре - остался в мусорке.

> Вообще-то есть довольно большая разница

этадругоэ!
Нет, чувак, разницы между гуанокодом и гуанокодом ("поймано" оно счастливым вон владельцем федорина горя на живых дисках) нет. Если вы пишете в интент лог хрень и она умудряется пройти consistency check (дай угадаю - потому что его и нет) и потом ядро свалится в oops - это не "поймано", это прилетело. Еще не прямо в лоб, но в следующий раз вы такой журнал и выполните тоже.

> Фаны EXT4 у которых ВНЕЗАПНО наступила амба тому - подтвердят.

наверное у меня не наступила потому что я не фан.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #221

242. Сообщение от penetrator (?), 12-Авг-25, 11:13   +1 +/
ты даже не понял, что он спросил )))
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #213

243. Сообщение от нах. (?), 12-Авг-25, 11:13   +/
так как раз в стационарном использовании с постоянным зарядом до 100 она и деградирует быстрее всего.  Тем более что у тебя нет виндовсонли хреней специально недозаряжающих батарейку и периодически ее еще и калибрующих, как у некоторых вендоров (сомнительно что существенно помогает, но хоть вовремя узнаешь что приехали)
Ну насчет года я естественно преувеличиваю, но тебе уже пора бы сделать бэкап.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #192

244. Сообщение от Аноним (-), 12-Авг-25, 11:24   +/
Достаточно всего лишь покачать битые торренты некоторое время. Это реальное применение даже для домашнего локалхоста.

Факты, опровергающие твой тезис "2гб оперативки на каждый терабайт стораджа - и это тоже вранье" будут, или ограничишься мантрами?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #146

245. Сообщение от Аноним (-), 12-Авг-25, 11:26   +/
На материнских платах в основном либо 6, либо 8 SATA. Посчитать совсем не сложно, man bc
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #147

246. Сообщение от Аноним (-), 12-Авг-25, 11:28   +/
Огласите весь список "заскоков"!
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #220

248. Сообщение от нах. (?), 12-Авг-25, 12:22   +/
> Утилита была уже давно, её не добавили для этого бага

еще раз - зачем же понадобилась такая утилита?
И почему у нее прямо в мане (!) бэктрейс?

> Если у тебя ядро без этого фикса - можешь сделать zero-log, и всё заработает

только данные потеряешь.
Потому что внезапно у тебя в том логе были не только открытые-но-уже-анлинкнутые файлы, а вообще последние 30 секунд жизни системы, согласно рекомендациям лучших собаководов, а то ж диск пропилит до дыр.

> Лог нужен только для реплея событий, что произошли прямо перед тем как система по какой-то
> другой причине упала

нет.
это ж по сути интент лог. Он writeback бай дизигн.

> Так говоришь будто zfs без грехов

у нее другие грехи. Не вызванные ну совсем уж отсутствием у авторов понимания что они понакодили. Напороться на hole rebirth в реальной жизни на полезных данных а не на копируемых по двадцать раз на один и тот же раздел бесполезных исходниках линуксного ведра - практически нереально (понадобились юзвери рача чтоб найти эту проблему... хоть какая от пересобиралок польза). Реальные проблемы там лежат совсем в другой плоскости. Но альтернативы для наколенных redundant datasores нету, к сожалению. sd не по карману.


Ответить | Правка | Наверх | Cообщить модератору
Родитель: #194

249. Сообщение от нах. (?), 12-Авг-25, 12:28   +/
он у них - средство снижения write amplification, т.е. это отложенная запись.

> для этого в btrfs есть CoW

cow НЕ способен сам по себе обеспечить целостность данных. В лучшем случае у тебя консистентное состояние (fs а не данных) на неопределенный момент в прошлом.

> А ты оптимист, у тебя журнал на каждую запись на диск сбрасывается?

у меня вообще как правило нет журнала. Это совершенно ненужная сущность, придуманная вовсе не для надежности (по факту ее уменьшившая)

> факт в том что ext4 в случае повреждения журнала может быть совсем потеряна

но ни одной еще не потерялось.

> а btrfs живёт, вон, даже команда есть для того чтобы его отбросить без последствий

кто тебе сказал что без последствий? Может ты имел в виду "без последствий для fs"? Ну и зачем тебе идеально целостная пустая фс? Или фс с битой базой данных потому что fsync прошел но лог с ним был сброшен.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #199

250. Сообщение от нах. (?), 12-Авг-25, 12:43   +/
> каким образом BTRFS умудряется ломать все дерево?

да точно так же. Где-то в коде есть предположение, оказавшееся ложным. Но не повезло, как с логом, не фартануло, oops не произошел, произошла запись в валидную память но не туда и не того что там должно было оказаться.

Случается редко, в мордокниге нет условий для анализа дохлых картонок, поэтому найдено и исправлено будет только случайно - когда следующая оптимизация удачно вскроет этот гнойник.

> Стал использовать ZFS...

зря. судя по тому что ты долго и успешно пользовался бырбырой - тебе не очень были нужны те фичи которые в zfs работают а у нее нет или криво до невозможности пользоваться.
А остальное ты бы получил от ext4 с большей производительностью, меньшим количеством болячек и сложных corner cases которые не всегда можно вообще обойти.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #205 Ответы: #252

251. Сообщение от Аноним (200), 12-Авг-25, 13:02   +/
Использую на хосте для домашней виртуализации - нареканий нет. С 2019 года...
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #209

252. Сообщение от Аноним (200), 12-Авг-25, 13:12   +/
Да нет... с самых тех пор,только ZFS и использую. Пока обошлось без неприятных сюрпризов. В последний раз пользовался BTRFS в 2019 году.
Ответить | Правка | Наверх | Cообщить модератору
Родитель: #250 Ответы: #259

253. Сообщение от glebiao (ok), 12-Авг-25, 13:48   +/
>Так BTRFS дёргает его больше всех, и прямо рекордсмен в этом.

справедливости ради, *на синтетическом тесте*

в реальной ситуации усиление не так заметно, особенно, если commit=90 или выше.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #16

254. Сообщение от glebiao (ok), 12-Авг-25, 13:49   +/
>но в личной эксплуатации имело место потеря данных.

здесь нужно задать 2 вопроса:

    1) в каком году?
    2) не был ли отключен cow на всей фс или части?

по 1. btrfs в 2012 и 2025 -- две большие разницы. я до сих пор с опаской к ним отношусь, но у меня уже много лет btrfs работает в несокольких отвественных местах и великолепно пережили и отключение питания, и сбои дисков.

по 2. отключение cow == гарантия проблем после внезапного сбоя.

> EXT4 головной боли не дает.

скажем так, до времени. но вот когда клюнет, суши вёсла.

PS: чемпион по надёжности хранения, вообще JFS. вот что не убьёшь. но вряд-ли ей сейчас кто-нибудь активно пользуется.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #58

255. Сообщение от glebiao (ok), 12-Авг-25, 13:58   +/
> Да ничего особо не делали. Просто ломалась и все... все нормально работает
> и возникает необходимость перезагрузиться, перезагружаетесь, и вам говорится что сломано
> дерево. Речь он  выключении питания даже не идет.

проверяйте бэды. если ssd, скорее всего, дохнет (и нет, не отловите, только будете ловить странные баги). я бы проверил, что у Вас хранится на этом диске, боюсь, будут неприятные сюрпризы.

Лет 10 назад такое поведение диска было в заметной вероятностью фатально для btrfs, последние годы исправили.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #212

256. Сообщение от glebiao (ok), 12-Авг-25, 14:03   +/
>А как они хостят и работают с базами данных на этой ФС?
>Вроде она для этого совершенно не подходит.

преувеличенно. mysql/pgsql работают прекрасно, потеря производительности есть, конечно, но не особенно критично. Если включено сжатие, может быть даже некоторое ускорение.

не сильно хорошая идея, конечно, но если нужно, то не особенно страшно.

да, можно отключить cow, будет быстро, но это практически гарантия потерять базу.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #88

257. Сообщение от glebiao (ok), 12-Авг-25, 14:08   +/
>Нету там их, никаких линков, никакого сжатия.

не бывает так.
либо снэпшоты, либо sparse файлы. наверняка снэпшоты.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #132 Ответы: #258

258. Сообщение от Минона (ok), 12-Авг-25, 15:06   +/
>>Нету там их, никаких линков, никакого сжатия.
> не бывает так.
> либо снэпшоты, либо sparse файлы. наверняка снэпшоты.

Читать умеем?

> Это просто видеоархив из ~58000 файлов общим объёмом 3.5 ТБ.
> Причем этот глюк вылез на 1 из 16 дисков.

На каждом из этих 16 дисков -- "~58000 файлов общим объёмом 3.5 ТБ."
С 15 дисков скопировалось нормально по 3.5 ТБ.
Архив создает ПО которое не умеет ни снэпшоты, ни разряженные файлы, ни рефлинки, ни прочую фигню из арсенала бтр-а.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #257

259. Сообщение от нах. (?), 12-Авг-25, 15:15   +/
> Да нет... с самых тех пор,только ZFS и использую. Пока обошлось без
> неприятных сюрпризов. В последний раз пользовался BTRFS в 2019 году.

"нозачем"

Польза от zfs для типичного васяна (у которого нет "битых флэшек", отключение электричества это авария а не ежедневная рутина, и нет подкроватного хранилища на 200 терабайт) проявляется в довольно ограниченном ряде случаев: сжатие (если тебе есть что сжимать, часто нет или не стоит того), простота клонирования (это ХУЖЕ чем ext4+dump для всех остальных целей), микроменеджмент, долбанная freebsd на том что у него вместо десктопа (if happens). Все остальное так же или лучше у ext4, но нет четырехкратного тормоза по записи из-за WA.

Минусы при этом бывают разные, иногда довольно удивительные. Вот, к примеру, неработающий autoexpand меня в свое время удивил, восхитил, в чем-то даже фраппировал, но вслух почему-то произнеслось что-то совсем другое (там "Всепаченили" но так что лучше бы и не трогали).

А неработающего resize2fs мы пока не видали.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #252


Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2025 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру