https://opennet.ru/openforum/vsluhforumID1/88074.html Имеется сервер 1, на нем поднят дисковый программный райд на 8Тб, на этот сервер несколько служб ссыпают файлы отчетов по NFS протоколу. Постоянно. И хранить их нужно тоже постоянно (по крайней мере в обозримом будущем).<br><br>Структура для системы хранения такая: в каталоге 256 подкаталогов, в кажом еще по 256 подкаталогов, в них лежат файлы. Таких структур у меня 5. Общее количество файлов в каждой структуре в районе миллиона и прибавляется по 150000 каждый месяц.<br><br>Теперь момент номер два. Эти файлы только создаются, потом читаются. Т.е. они не могут быть изменены. Файл создается, потом иногда требуется.<br><br>Я решил организовать такую схему: поднимается второй сервер с таким же объемом места. На него периодами (я думал делать раз в час) делается rsync всего хозяйства с первого сервера. В случает отказа или обслуживания первого сервера, все переключается на второй сервер и работает с ним. Сервера соединены между собой гигабитным линком. Потеря данных в течении часа не критична. <br><br>Первоначальная синхронизация https://opennet.ru/openforum/vsluhforumID1/88074.html#9 Sat, 27 Feb 2010 14:44:32 GMT &gt;я не знаю как это в продакшене, но вообще есть <br>&gt;http://ru.wikipedia.org/wiki/Inotify <br>&gt;обрати внимание на IN_CLOSE_WRITE и ставь в очередь на копирование сразу по <br>&gt;его получению. имхо дёшего и сердито, надеюсь идея поможет :) <br><br>Пробовал, но там структура каталогов такая - что замучаюсь с этим<br><br><br>поставил glusterfs вполне доволен.<br> https://opennet.ru/openforum/vsluhforumID1/88074.html#8 Wed, 24 Feb 2010 19:40:48 GMT я не знаю как это в продакшене, но вообще есть <br>http://ru.wikipedia.org/wiki/Inotify<br>обрати внимание на IN_CLOSE_WRITE и ставь в очередь на копирование сразу по его получению. имхо дёшего и сердито, надеюсь идея поможет :)<br> https://opennet.ru/openforum/vsluhforumID1/88074.html#7 Sun, 07 Feb 2010 14:55:41 GMT &gt;Допускаю, но нужно таком случае "надежное любительское решение". Нету денег. Потому <br>&gt;и райд софтовый. <br><br>посмотри HP LeftHand. Virtual SAN. На ОФ сайте есть вмварные образы.<br> https://opennet.ru/openforum/vsluhforumID1/88074.html#6 Sun, 07 Feb 2010 12:01:52 GMT &gt;&gt;Постоянно. <br>&gt;&gt;И хранить их нужно тоже постоянно (по крайней мере в обозримом <br>&gt;&gt;будущем). <br>&gt;&gt;<br>&gt;<br>&gt;т.е. это "любительство" или это все-таки нормальный продакшн ? Насколько большие потери <br>&gt;если это все навернется безвозвратно ? <br><br>Оценить потери в деньгах я не могу, я сисадмин, данными не владею, думаю что будут, но не фатальные.<br>Это не любительство, это надо не дома а в конторе, но требуется решение для бедных. Реально денег нет.<br><br>&gt;т.е. это WORM ? Write Once Read Many ? <br>&gt;<br><br>Да.<br><br>&gt;<br>&gt;На железе <br>&gt;<br>&gt;EMC Celerra - c Retension Policy. Протоколы - CIFS, NFS, FTP, iSCSI. <br>&gt;Для NX-серии - до 60 дисков. <br>&gt;EMC Centerra - а эта вообще на WORM заточена <br><br>Дорого.<br><br>&gt;<br>&gt;Все остальное - голимое любительство, несовместимое с понятием Production в которое включены <br>&gt;постоянные поступления на затраты на оборудование, специалистов и обучение этих самых <br>&gt;специалистов с одной стороны, а со второй - обязательство неуничтожения данных <br>&gt;(непрерывность бизнеса). <br><br>Допускаю, но нужно таком случае "надежное л https://opennet.ru/openforum/vsluhforumID1/88074.html#5 Sat, 06 Feb 2010 09:17:19 GMT &gt;Имеется сервер 1, на нем поднят дисковый программный райд на 8Тб, на <br>&gt;этот сервер несколько служб ссыпают файлы отчетов по NFS протоколу. <br><br>Отлично, известная штука<br><br>&gt;Постоянно. <br>&gt;И хранить их нужно тоже постоянно (по крайней мере в обозримом <br>&gt;будущем). <br>&gt;<br><br>т.е. это "любительство" или это все-таки нормальный продакшн ? Насколько большие потери если это все навернется безвозвратно ?<br><br><br>&gt;Структура для системы хранения такая: в каталоге 256 подкаталогов, в кажом еще <br>&gt;по 256 подкаталогов, в них лежат файлы. Таких структур у меня <br>&gt;5. Общее количество файлов в каждой структуре в районе миллиона и <br>&gt;прибавляется по 150000 каждый месяц. <br><br>ладно, может быть<br><br>&gt;<br>&gt;Теперь момент номер два. Эти файлы только создаются, потом читаются. Т.е. они <br>&gt;не могут быть изменены. Файл создается, потом иногда требуется. <br>&gt;<br><br>т.е. это WORM ? Write Once Read Many ?<br><br>&gt;[оверквотинг удален]<br>&gt;у меня файлы только добавляются. Но, ПО котороый работает с хранилищами <br>&gt;не может писать сразу в 2 места. <br>&gt;<br>&gt;<br>&gt;Ищу р https://opennet.ru/openforum/vsluhforumID1/88074.html#4 Fri, 05 Feb 2010 14:41:39 GMT &gt;GlusterFS в режиме репликации? <br>&gt;Я в продакшене не юзал, только поигрался - вроде синхронизирует нормально. Правда, <br>&gt;большие объёмы не пробовал. <br>&gt;Если решите попробовать - учтите один "нюанс" - писать надо в каталог, <br>&gt;который смонтирован на Gluster-клиенте (в том числе и на мастере надо <br>&gt;смонтировать через Gluster-клиента его собственный каталог, который реально лежит у него <br>&gt;на диске). <br><br>Почитал, установил, попробовал. Не знаю что и сказать. На боевой сервер ставить страшно. Т.е. не то чтобы страшно, а не хочется, т.к. никаких рекомендательных писем про эту штуку я не нашел....<br> https://opennet.ru/openforum/vsluhforumID1/88074.html#3 Fri, 05 Feb 2010 14:40:21 GMT &gt;Если дальнейшая синхронизация длится около суток, то вы скорее всего что-то неправильно <br>&gt;делаете. Думается мне, вы проверяете для каждого файла контрольную сумму, что <br>&gt;при условии что файл никогда не меняется, лишнее, достаточно по умолчанию <br>&gt;- дату и размер. <br>&gt;Отключить сжатие передаваемых данных, раз они в локалке. Вообще было бы здорово <br>&gt;увидеть настройку сервера и параметры запуска синхронизации. <br><br>Сжатия данных нет. <br>Данные синхронизируются по NFS примонтированной папке.<br><br>rsync -r -l -x --ignore-existing --delete /home/storage1/www/vhosts/ /1/www/vhosts/<br> https://opennet.ru/openforum/vsluhforumID1/88074.html#2 Fri, 05 Feb 2010 11:38:37 GMT Если дальнейшая синхронизация длится около суток, то вы скорее всего что-то неправильно делаете. Думается мне, вы проверяете для каждого файла контрольную сумму, что при условии что файл никогда не меняется, лишнее, достаточно по умолчанию - дату и размер.<br>Отключить сжатие передаваемых данных, раз они в локалке. Вообще было бы здорово увидеть настройку сервера и параметры запуска синхронизации.<br> https://opennet.ru/openforum/vsluhforumID1/88074.html#1 Fri, 05 Feb 2010 10:06:18 GMT GlusterFS в режиме репликации?<br>Я в продакшене не юзал, только поигрался - вроде синхронизирует нормально. Правда, большие объёмы не пробовал.<br>Если решите попробовать - учтите один "нюанс" - писать надо в каталог, который смонтирован на Gluster-клиенте (в том числе и на мастере надо смонтировать через Gluster-клиента его собственный каталог, который реально лежит у него на диске).<br>