The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]

Выпуск распределенной файловой системы GlusterFS 3.5

02.05.2014 23:50

Сообщество Gluster объявило о выходе распределенной файловой системы GlusterFS 3.5, позволяющей организовать работу распределённого на несколько узлов хранилища, развёртываемого поверх штатных POSIX ФС, таких как Ext4, XFS и Btrfs, с использованием механизма FUSE (ФС в пользовательском пространстве). GlusterFS предоставляет средства автоматического восстановления после сбоев и обеспечивает практически неограниченную масштабируемость, благодаря отсутствию привязки к централизованному серверу мета-данных (используются распределённые хэш-таблицы). Готовые для установки бинарные пакеты с GlusterFS 3.5 подготовлены для Fedora, RHEL, CentOS, Debian, openSUSE, SLES и Ubuntu.

Основные новшества:

  • Поддержка создания снапшотов отдельных файлов. С практической стороны данная возможность может быть востребована для создания снапшотов образов работающих виртуальных машин, что позволяет вернуть состояние виртуальной машины на момент в прошлом только силами GlusterFS без задействования дополнительных инструментов. В будущих выпусках ожидается поддержка создания снапшотов разделов;
  • Возможность сжатия данных при передаче по сети, что позволяет сократить общую нагрузку на сеть при выполнении операций, инициированных клиентом. В зависимости от характера данных применение сжатия может существенно повысить производительность работы с разделами при незначительном увеличении нагрузки на CPU, особенно в ситуациях когда пропускная способность канала связи клиента является узким местом;
  • Поддержка шифрования данных дисковых разделов на стороне сервера с использованием ключей, доступных только клиенту. Шифруется только содержимое файлов, имена и метаданные остаются незашифрованными. Кроме того, шифрование не применимо при использовании NFS;
  • Автоматическое обнаружение отказа отдельного хранилища (Brick Failure Detection);
  • Увеличено качество ведения логов, добавлено отображение дополнительной статистики и указание причин возникновения тех или иных событий, а также данных о том, какие файлы затрагивают данные события;
  • Новый метод прямого доступа к данным через GFID, позволяющий обратиться к данным в трансляторе изменений;
  • Уход от необходимости перезапуска NFS-сервера при изменении параметров раздела;
  • Расширение числа возможных конфигураций квот от нескольких сотен до 65536 для раздела;
  • Поддержка упреждающего чтения (readdir_ahead) списка директорий для увеличения производительности последовательного чтения директорий;
  • Поддержка операции zerofill для заполнения нулями новых образов виртуальных машин;
  • Переработана архитектура системы геораспределённой репликации (Geo-Replication). Если раньше процесс репликации gsyncd выступал в качестве единой точки отказа, так как он запускался на одном узле кластера, выход которого из строя сулил прекращение geo-репликации, то в новой реализации репликация выполняется на всех узлах, обслуживающих раздел (каждый узел теперь отвечает за синхронизацию хранимых на нём данных). Для определения изменившихся файлов, для которых необходимо выполнить синхронизацию, теперь используется журнал изменений (changelog xlator). Кроме rsync добавлена поддержка нового метода синхронизации "tar+ssh", который может быть востребован в конфигурациях с большим числом мелких файлов.


  1. Главная ссылка к новости (http://www.gluster.org/2014/05...)
  2. OpenNews: Компания Red Hat представила GlusterFS 3.4
  3. OpenNews: Релиз распределенной файловой системы GlusterFS 3.3
  4. OpenNews: Для развития GlusterFS сформирован независимый управляющий совет
  5. OpenNews: Red Hat покупает компанию-разработчика распределенной файловой системы GlusterFS
  6. OpenNews: Вышел релиз кластерной файловой системы GlusterFS 2.0
Автор новости: YetAnotherOnanym
Тип: Программы
Ключевые слова: glusterfs
При перепечатке указание ссылки на opennet.ru обязательно
Обсуждение (63) Ajax | 1 уровень | Линейный | Раскрыть всё | RSS
  • 1.1, Аноним (-), 00:20, 03/05/2014 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Хм...
    >>  Уход от необходимости перезапуска NFS-сервера при изменении параметров раздела

    А причём тут он? Простите, давно смотрю на сию поделку, но не в курсе тонкостей.

     
     
  • 2.3, BratSinot (ok), 00:45, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +3 +/
    А вам ничего не говорит о том, что FS распределенная, а это делают через сеть?
     
     
  • 3.6, Аноним (-), 01:11, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +3 +/
    FibreChannel? Не, не слышал.
     
     
  • 4.17, Аноним (-), 10:24, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    > FibreChannel? Не, не слышал.

    Ну давай, протени FibreChannel через океан, морским кабелем.

     
     
  • 5.21, Аноним (-), 12:53, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    И что в этом такого? wdm, tdm вещицы заказываешь у оператора и будет fc через океан.
     
     
  • 6.24, Аноним (-), 13:03, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    > И что в этом такого? wdm, tdm вещицы заказываешь у оператора и
    > будет fc через океан.

    Ты забыл уточнить сколько это будет стоить.

     
     
  • 7.38, t28 (?), 02:01, 04/05/2014 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Ты забыл уточнить сколько это будет стоить.

    Стоить будет не болше денег.

     
     
  • 8.55, Аноним (-), 11:20, 05/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    Какое либо использование такого кабеля в сколь-нибудь явном виде будет стоить со... текст свёрнут, показать
     
  • 6.27, anonymous (??), 13:50, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    > И что в этом такого? wdm, tdm вещицы заказываешь у оператора и
    > будет fc через океан.

    задержки, даже за деньги не уменьшишь, а если задержки большие, FC не сильно эффективен, соответственно его целесообразность под сомнением.

     
     
  • 7.36, Аноним (-), 19:28, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +1 +/
    И где это написано - про связь задержек с неэффективностью fc?
     
  • 7.39, t28 (?), 02:02, 04/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    > задержки, даже за деньги не уменьшишь, а если задержки большие, FC не
    > сильно эффективен, соответственно его целесообразность под сомнением.

    Да что ты говоришь?

     
     
  • 8.47, anonymous (??), 13:18, 04/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    прикинь, да, такая ерунда, задержки мешают ... текст свёрнут, показать
     
     
  • 9.48, Аноним (-), 14:00, 04/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    А расшифровать Чему и как мешают И как другим, не-fc вещичкам, эти задержки по... текст свёрнут, показать
     
     
  • 10.50, anonymous (??), 17:49, 04/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    задержки всем кровь портят, речь идёт о целесообразности использования FC на кан... текст свёрнут, показать
     
     
  • 11.53, Аноним (-), 09:00, 05/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    Значит, у спутников на геостационарных орбитах пинг 10 секунд не портит кровь, а... текст свёрнут, показать
     
     
  • 12.56, Аноним (-), 11:22, 05/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    Знаешь ли, протоколы разные бывают Некоторые предпринимают специальные меры для... текст свёрнут, показать
     
     
  • 13.60, Аноним (-), 22:45, 05/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    Ну расскажи уже как эти задержки скажутся на fc ... текст свёрнут, показать
     
  • 6.29, Аноним (-), 14:46, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    не будет, у FC есть жёсткие ограничения на RTT, максимум это один ДЦ
     
     
  • 7.32, anonymous (??), 16:27, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +2 +/
    у FC нет таких огрничений.
     
     
  • 8.57, Аноним (-), 11:25, 05/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    А тут вопрос в реализации протокола - умеет ли он упреждающую отсылку с окнами б... текст свёрнут, показать
     
     
  • 9.59, anonymous (??), 18:42, 05/05/2014 [^] [^^] [^^^] [ответить]  
  • +1 +/
    200ms это что мобильная связь FC over LTE трансатлантика 80ms так что ... текст свёрнут, показать
     
     
  • 10.61, Аноним (-), 22:46, 05/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    Про кредиты они и не слыхали Зачем ты страусов такими словами пугаешь ... текст свёрнут, показать
     
  • 3.8, Аноним (-), 01:38, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +2 +/
    а ты не знаешь случайно, что nfs не распределённая fs? И она распределённости никак добавить не может ничему.
     
     
  • 4.62, sanchess (?), 23:34, 05/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    А вот тут рекомендую почитать про pNFS и заглянуть на http://www.pnfs.com/

    > а ты не знаешь случайно, что nfs не распределённая fs? И она
    > распределённости никак добавить не может ничему.

     
  • 2.4, Аноним (-), 01:04, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Ты походу ваще не в курсе как оно работает. Ты точно !!!ДАВНО111 смотришь на эту, как ты выразился, поделку?
     
  • 2.25, YetAnotherOnanym (ok), 13:18, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    Она умеет экспортироваться по NFS.
    Кст, спасибо редактору за превращение коротенькой заметки в полнотекстовую новость.
     

  • 1.5, Аноним (-), 01:05, 03/05/2014 [ответить] [﹢﹢﹢] [ · · · ]  
  • +2 +/
    Ceph круче, точка.
     
     
  • 2.7, AnonymousRex (ok), 01:24, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +2 +/
    > Ceph круче, точка.

    это другой подход. и скорее всего скоро их объединят в один продукт, где можно выбирать то как оно будет работать

     
  • 2.9, Аноним (-), 01:50, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    > Ceph круче

    Чем?

     
     
  • 3.10, nonym (?), 02:31, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +2 +/
    Чем GlusterFS
     
  • 3.11, Аноним (-), 02:43, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Скоростью как минимум. Архитектура лучше, перспективы гораздо лучше. Не зря редхатовцы его выкупили, а не сделали ставку на свой glusterfs
     
     
  • 4.20, аноном (?), 12:06, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Глустер имеет фатальный недостаток, система распределяет запись файлов не учитывая размер файла и размер хранилища, тупо пихает последовательно на каждую ноду. В итоге хранилища на нодах забиваются неравномерно и нужно следить сторонними средствами за забитостью винтов и подпихивать новые объемы. Перераспределить данные нельзя, так как в названии файла хэшируется путь к нему, тоесть нода на которой лежит файл.
     
     
  • 5.28, anonymous (??), 13:58, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    > Глустер имеет фатальный недостаток, система распределяет запись файлов не учитывая размер
    > файла и размер хранилища, тупо пихает последовательно на каждую ноду. В
    > итоге хранилища на нодах забиваются неравномерно и нужно следить сторонними средствами
    > за забитостью винтов и подпихивать новые объемы. Перераспределить данные нельзя, так
    > как в названии файла хэшируется путь к нему, тоесть нода на
    > которой лежит файл.

    ребаланс не работает?

     
     
  • 6.40, t28 (?), 02:05, 04/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    > ребаланс не работает?

    Типа работает, но работы его я не увидел.

     
  • 3.12, Добрый Дохтур (?), 04:16, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +1 +/
    >> Ceph круче
    > Чем?

    глустер на операциях с метаданными медленный как чёрт знает что.
    и это не лечится. вообще никак.

     
     
  • 4.13, AnonymousRex (ok), 04:21, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    > глустер на операциях с метаданными медленный как чёрт знает что.
    > и это не лечится. вообще никак.

    багрепорт есть?

     
     
  • 5.41, t28 (?), 02:06, 04/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    > багрепорт есть?

    Багрепорты не спасают. Почитайте их список рассылки.

     
  • 4.19, zed_0xff (?), 10:38, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    если backend-fs ext4 - то да
    на reiserfs, zfs, xfs - быстрее в 100500 раз.
     
     
  • 5.42, t28 (?), 02:07, 04/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    > на reiserfs, zfs, xfs - быстрее в 100500 раз.

    Поначалу кажется, что быстро, но при заполнении хранилища возвращаются старые тормоза.

     
  • 5.46, Добрый Дохтур (?), 12:50, 04/05/2014 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > если backend-fs ext4 - то да
    > на reiserfs, zfs, xfs - быстрее в 100500 раз.

    фс тут роли не играет.

    на глустерной шаре:

    for i in 'seq 0 255'; do mkdir $i; done
    for i in 'seq 0 10'; do time ls; done


    и вы увидите, что время за которое отрабатывает ls никак не меняется, т.к. ничего не кешируется.
    глустер на каждый ls обходит все брики, получает содержимое каталогов и потом "склеивает" результаты. если сделать еще второй уровень каталогов, глустер превращается в тыкву, а find по такому дереву всегда выполняется минуты.

     
     
  • 6.58, Dmitry77 (ok), 14:29, 05/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    мне кажется использование не правильное.
    в распределённых ФС потенциально миллиарды файлов и вызывать ls не стоит.

    к примеру у HadoopFS ограничение на количество файлов - размер оперативной памяти ответствееоного за метаданные узла. у GlusterFS как я понимаю такого ограничения нет.

     
     
  • 7.64, Добрый Дохтур (?), 02:23, 07/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    > мне кажется использование не правильное.
    > в распределённых ФС потенциально миллиарды файлов и вызывать ls не стоит.

    т.е. вот если в каталоге у нас 10 файлов, то всё, readdir() - низя?

    и то, что тормознутость readdir() зависит от того, в каком каталоге вы это делаете - это вообще зачёт.


     
     
  • 8.65, Dmitry77 (ok), 09:21, 07/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    можно но если файлов так мало, то может распределённую фс делать не надо можно... текст свёрнут, показать
     
  • 2.18, Аноним (-), 10:25, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    > Ceph круче, точка.

    Чем грузины?

     

  • 1.14, Аноним (-), 05:09, 03/05/2014 [ответить] [﹢﹢﹢] [ · · · ]  
  • –4 +/
    Будущее за облаками!

    Скоро на планшете будет только маленькая быстрая клиентская часть ОС, а всё остальное будет подгружаться из специльной системы, соединяющей все компьютеры в мире, по мере необходимости с помощью специальных волн, распостраняющихся по воздуху, благодаря спутникам и башням с антеннами.

     
     
  • 2.15, bOOster (?), 08:33, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Облака ох как нужны тем кто хочет нас контролировать.
     
     
  • 3.23, Аноним (-), 13:02, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +2 +/
    > Облака ох как нужны тем кто хочет нас контролировать.

    А прикинь как клево - США ввинчивают санкции, а у тебя получается бесполезный кирпич.

     
     
  • 4.43, t28 (?), 02:08, 04/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    > А прикинь как клево - США ввинчивают санкции, а у тебя получается
    > бесполезный кирпич.

    Санкции — хорошее лекарство от тупости ІТ-руководства.

     
  • 2.16, freehck (ok), 10:09, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    Извините, но что значит "скоро"? У тех, кто хотел иметь копию чего бы там ни было на некотором сервере (обычно своём) - те уже давно это реализовали так или иначе. А вот идея "облака в массы" не так уж и хороша хотя бы потому, что люди явно не понимают, что вариант "за мной не будут следить, потому что неуловимый Джо" не канает, ибо роботы делают этот процесс прозрачным, простым и совершенно не отягощающим. Data Mining вообще страшная штука.
     
  • 2.22, Аноним (-), 12:59, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Скоро на планшете будет только маленькая быстрая клиентская часть ОС, а всё
    > остальное будет подгружаться из специльной системы, соединяющей все компьютеры в мире,

    ...а при отпадении интернета, планшет будет превращаться в тыкву, даааа?

     
     
  • 3.26, Аноним (-), 13:48, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    Так он и сейчас при отпадании инета в тыкву превращается, кучеры в мышей и тд.
     
     
  • 4.44, Аноним (-), 02:45, 04/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    У кого-то - в тыкву, а у кого-то - в читалку, и заодно плеер.
     
  • 4.49, Аноним (-), 16:35, 04/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    Вредно все время в интернете сидеть. Лучше книжки почитай, за одно ничего в тыкву превращаться не будет.
     
     
  • 5.54, Аноним (-), 09:01, 05/05/2014 [^] [^^] [^^^] [ответить]  
  • +2 +/
    > Вредно все время в интернете сидеть. Лучше книжки почитай, за одно ничего
    > в тыкву превращаться не будет.

    Оно и видно, как ты читаешь. "Заодно" пишется слитно. Эй, двумя Розенталями этого гаврика по вафлу!

     
  • 3.31, Аноним (-), 14:49, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    он и так тыква, даже с интернетом
     
  • 2.30, Аноним (-), 14:48, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +5 +/
    Всё тупое хомячьё, которое хотело подсесть на облако, уже это сделало. Лошарорынок в этом направлении больше расти не будет
     
  • 2.37, anonymous (??), 21:49, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    > Будущее за облаками!
    > Скоро на планшете будет только маленькая быстрая клиентская часть ОС, а всё
    > остальное будет подгружаться из специльной системы, соединяющей все компьютеры в мире,
    > по мере необходимости с помощью специальных волн, распостраняющихся по воздуху, благодаря
    > спутникам и башням с антеннами.

    Мне лет десять тому назад что-то подобное похапэшники говорили.

     

  • 1.34, Аноним (-), 18:58, 03/05/2014 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    у сабжа перед хаммерфс2, только одиен плюс - портируемость на линукс.
    впрочем, скоро обоих - зарулит pohmelfs, скорее всего :-)
     
     
  • 2.35, Аноним (-), 19:25, 03/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    Ну и где он? Евгений судя по всему положил на это дело.
     
     
  • 3.51, Аноним (-), 20:55, 04/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    он заканчивает тестирование phomeliquid, пока.
    коючевой компонент, на работу которого - будет завязано 60% функциональности будующих версия pohmelfs :)
     
  • 2.45, Аноним (-), 02:45, 04/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    > впрочем, скоро обоих - зарулит pohmelfs, скорее всего :-)

    Сразу после того, как фря окончательно выбьет линукс с серверов :)

     
     
  • 3.52, Аноним (-), 20:55, 04/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    >> впрочем, скоро обоих - зарулит pohmelfs, скорее всего :-)
    > Сразу после того, как фря окончательно выбьет линукс с серверов :)

    стрекоза, если быть точным.
    фряха хаммер2 не подымет по тем-же причинам, по каким у линукса поджилки слабоваты для, увы.

     
  • 2.63, Аноним (-), 10:44, 06/05/2014 [^] [^^] [^^^] [ответить]  
  • +/
    Вы его вживую новый видели?
    А то они только на конфе говорили, что сделали поверх elliptics новый pohmelfs и пытались патчи в ядро протащить, но тесты у них не прошли (rsync mirror.yandex.ru загнулся на каталоге с симлинками).
    Хотелось бы в виде модуля пощупать его, но что-то найти не могу
     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Спонсоры:
    Слёрм
    Inferno Solutions
    Hosting by Ihor
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2019 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру