The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

OpenNews: Кластерная ФС Lustre портирована под FUSE, opennews (?), 13-Фев-07, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


7. "Кластерная ФС Lustre портирована под FUSE"  +/
Сообщение от gfarm (?), 13-Фев-07, 13:33 
А что можете сказать про gfarm ?
Планируем использовать его для распределенного хранения редко изменяемой статики крупного web-портала на FreeBSD.

Но пока еще не начали внедрение, возможно стоит попробовать lustre ?

Может кто-нибудь описать плюсы/минусы в сравнении с тем же gfarm ?

Ответить | Правка | Наверх | Cообщить модератору

12. "Кластерная ФС Lustre портирована под FUSE"  +/
Сообщение от johnjoyemail (??), 14-Фев-07, 04:45 
К сожалению, люстра и бсд несовместимы.
Вообще, был отличный отзыв о продакшн использовании именно в веб-проекте, под статику (несколько десятков нодов)
Советую самостоятельно оттестировать

а GFarm говорит так:
The major difference from the
Grid Datafarm architecture is that Lustre separates file sys-
tem nodes from clients (or compute nodes). This reflects
the fact that Lustre assumes an operating environment of
large clusters and intra-enterprise high bandwidth connec-
tivity, where moving data to computation makes sense, in
contrast to Gfarm where data may reside distributedly in
wide area, making exploitation of local high bandwidth by
moving computation to data essential.

то бишь gfarm изначально позиционирует себя для таковой модели использования:
есть много данных, распределенных по нодам,
нужно их все параллельно обработать. В случае люстры и подобных - compute node сначала фетчит себе данные из кластерной фс, обрабатывает и возвращает обратно (отсюда требования к пропускной способности и латентности)
В случае gfarm - задание по обработке для compute нода попадает благодаря gfarm именно на тот нод, где локально лежит одна из реплик требуемых данных. Соответственно по сети происходит трансфер задания на обработку данных , а не самих данных. (например, http://datafarm.apgrid.org/pdf/GCA3059-xiaohui.pdf, да и вообще тут- http://datafarm.apgrid.org/paper.en.html большинство тем именно parallel computing, а не distributed fs )

Касательно статики и веб-использования - там обработки нет никакой, нужно именно фетчить. То есть не та задача, под которую проектировался gfarm (хотя вполне вероятно, что подходит =).

Относительно люстры - она рассчитана именно на такое использование, там несколько релизов назад сделали оптимизацию под "много маленьких файлов" (трабл многих распределенных фс), живет она в кернеле и основана на ext3. Думаю, стоит попробовать =)

Ответить | Правка | Наверх | Cообщить модератору

14. "Кластерная ФС Lustre портирована под FUSE"  +/
Сообщение от Алексей (??), 14-Фев-07, 08:48 
>К сожалению, люстра и бсд несовместимы.
1. fuse может работать под BSD и под MacOS X.
2. в свете вылизывания lustre patchless client - есть шанс сделать полноценный клиент (пусть и тормозной, для ускорения нужны некоторые правки в VFS у fbsd) для BSD взяв за основу MacOS порт. С сервером сложнее.
Ответить | Правка | Наверх | Cообщить модератору

16. "Кластерная ФС Lustre портирована под FUSE"  +/
Сообщение от johnjoyemail (??), 14-Фев-07, 13:30 
>>К сожалению, люстра и бсд несовместимы.
>1. fuse может работать под BSD и под MacOS X.
>2. в свете вылизывания lustre patchless client - есть шанс сделать полноценный
>клиент (пусть и тормозной, для ускорения нужны некоторые правки в VFS
>у fbsd) для BSD взяв за основу MacOS порт. С сервером
>сложнее.
да, меня опять тянет на унификацию =)
а в роадмапе с поддержкой бсд - грустно.

Ответить | Правка | Наверх | Cообщить модератору

18. "Кластерная ФС Lustre портирована под FUSE"  +/
Сообщение от Алексей (??), 15-Фев-07, 08:47 
>>>К сожалению, люстра и бсд несовместимы.
>>1. fuse может работать под BSD и под MacOS X.
>>2. в свете вылизывания lustre patchless client - есть шанс сделать полноценный
>>клиент (пусть и тормозной, для ускорения нужны некоторые правки в VFS
>>у fbsd) для BSD взяв за основу MacOS порт. С сервером
>>сложнее.
>да, меня опять тянет на унификацию =)
>а в роадмапе с поддержкой бсд - грустно.
думаю будут заказы или интуазисты - будет сделано :)
Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру