The OpenNET Project / Index page

[ новости /+++ | форум | wiki | теги | ]

Началась разработка ФС Zero, вытесняющей неиспользуемые данные в облачное хранилище

10.09.2018 10:56

В рамках проекта Zero ведётся разработка экспериментальной многослойной файловой системы с реализацией идеи хранения данных в локальной ФС с вытеснением давно не используемых данных во внешнее облачное хранилище. Код предлагаемого для тестирования прототипа написан на языке Python, использует подсистему FUSE и поставляется под лицензией MIT.

Первый слой, размещаемый в локальной ФС, выступает в роли кэша, в котором доступны только актуальные данные. Таким образом, на базе ограниченного по размеру локального накопителя можно создать архивное хранилище существенно большего размера, выглядящее как одна целостная ФС. В настоящее время из облачных хранилищ поддерживается только сервис Backblaze.

  1. Главная ссылка к новости (https://news.ycombinator.com/i...)
  2. OpenNews: Для Linux представлена файловая система TxFS с поддержкой ACID-транзакций
  3. OpenNews: Компания Alibaba открыла код P2P-системы доставки файлов Dragonfly
  4. OpenNews: Представлена LittleFS, компактная файловая система для встраиваемых устройств
  5. OpenNews: Эксперимент по созданию файловой системы, хранящей данные в кэше DNS
  6. OpenNews: Первый выпуск файловой системы Zbox
Лицензия: CC-BY
Тип: Программы
Ключевые слова: fs, fuse, zero
При перепечатке указание ссылки на opennet.ru обязательно
Обсуждение (153) Ajax | 1 уровень | Линейный | Раскрыть всё | RSS
  • 1.1, КО (?), 11:01, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • –24 +/
    Вот и верь людям, что Питон меленный. :)
     
     
  • 2.4, Аноним (4), 11:22, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +21 +/
    Где ты прочитал что прототип работает быстро? Желаемое за действительное не выдавай.
     
  • 2.6, Аноним (6), 11:37, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +2 +/
    У говнокодеров и си с ассемблером медленные.
     
     
  • 3.108, Аноним (108), 23:29, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +1 +/
    И это логично Чтобы было быстро - надо понимать как работают компьютеры Перекл... текст свёрнут, показать
     
     
  • 4.117, анонимный анонимец (?), 00:39, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Воланд?
     
  • 4.119, лютый лютик... (?), 06:47, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • –5 +/
    >Переклиненые на высоком уровне не понимают как работает компьютер
    >программа почему-то начинает работать в разы быстрее

    Брэд оф сив кэйбл :) Ещё деда Кнут завещал не чинить то, что не сломано.
    Если надежная распределенная система упирается в например сеть, то смысла упарываться над утрамбовыванием чего-то в L2-кэш ноль целых ноль десятых.

    Итого по "надо понимать как работают компьютеры"... Подавляющему большинству это не надо.

     
     
  • 5.158, Чайник с ручками (?), 20:17, 12/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    А что, с сетью таких факапов не бывает? Когда кодер меняет тип с int на short и вдруг все начинает передаваться в два раза быстрее - просто потому, что влазит в один пакет, а не два. Или выбирает правильный Endianness для кодирования данных и они не перекодируются туда-сюда при отправке. Да дофига такого.
     
     
  • 6.164, лютый лютик__ (?), 08:45, 17/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    >Когда кодер меняет тип с int на short и вдруг все начинает передаваться в два раза быстрее

    Какие фантазии. Напрямую TCP пакеты создаёшь? У нормальных пацанов по сети ходит XML over HTTP :D

     
  • 4.129, X86 (ok), 10:49, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +6 +/
    Ты не понял. Главное - быстрее кодить. Взять какую-нибудь обертку над какой-нибудь оберткой, которая выполнена в виде обертки над оберткой, написанной на высокоуровневой обертке. И все это должно запуститься. Если размер будет большой, то сожмем архиватором, а его библиотеки тоже присобачим. А если будет медленно, то Intel пообещает еще более быстрые процессоры с новыми оптимизациями оптимизаций.
     
  • 2.7, Crazy Alex (ok), 11:39, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +8 +/
    Он и есть медленный. Но для некоторых применений - вполне годится. Особенно для прототипов вроде этого.
     
     
  • 3.45, Аноним (45), 15:12, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –2 +/
    > Особенно для прототипов вроде этого.

    Это отговорки слабаков и шkoлоты, неосиливших си и изначально грамотное проектирование.
    Профессианальные разработчики опеннета подтвердят!

     
     
  • 4.71, Аноним (71), 17:49, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –7 +/
    Изначально грамотное проектирование подразумевает отсутствие C в любом виде.
     
     
  • 5.84, Аноним (-), 19:26, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    А что, ты уже переписал фирмвари, бутлоадер, ядро ОС и ключевой софт запускающий систему на чем-то еще? А то без этого компьютер вообще не запустится. И, кстати, булки на деревьях тоже не растут.
     
  • 3.87, Аноним (87), 19:33, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –2 +/
    > для прототипов вроде этого.

    А в чем прикол делать прототип откровенно говняно, без перспектив его сделать нормальным, с заведомым попаданием на переписывание, если вдруг это вдруг заработает? Програмеры настолько лузеры что дают 9 из 10 что проект вообще не взлетит?

     
     
  • 4.96, Аноним (45), 20:31, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +3 +/
    >> для прототипов вроде этого.
    > А в чем прикол делать прототип откровенно говняно, без перспектив его сделать
    > нормальным, с заведомым попаданием на переписывание, если вдруг это вдруг заработает?
    > Програмеры настолько лузеры что дают 9 из 10 что проект вообще
    > не взлетит?

    То ли дело анонимы опеннета, сразу знающие, как надо правильно и что и как взлетит!
    Они бы наверняка и свою реализацию битторента на сишке вместо мерзкого бидoна накатали, да только были заняты комментированием на опеннете и какой-то Брэм, пользуясь ситуацией, их опередил. А так бы анонимы всем показали бы!


     
     
  • 5.107, Аноним (108), 23:21, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    да только сишники тоже сцуко ленивые, поэтому возьмут готовую либу вместо это... текст свёрнут, показать
     
     
  • 6.109, Аноним (45), 23:40, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Поэтому предпочитали комментировать на опеннете, вместо ваяния _первой_ реализац... текст свёрнут, показать
     
  • 4.153, лютый лютик__ (?), 05:20, 12/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    >А в чем прикол делать прототип откровенно говняно

    Ну вот например есть носкль Cassandra которую лузеры накуякали на тормозной жабке, уже много лет назад. Она с тех пор съела хорошую долю рынка. Её прогеры щас в шоколаде. А могучие сишники всё рожают рожают свою Сцыллу, да дальше потуг и лживых воплей что это drop-in replacement не пошло.
    Причём шансов догнать Касю у них ноль, т.к. развитие у Каси идёт быстрее, чем у сишного клона.
    Итого прогеры Сцыллы так и будут всю жизнь дошираком питаться (пока не поумнеют).

     
  • 3.151, Led (ok), 23:58, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +6 +/
    > для некоторых применений - вполне годится.

    Нет

     
  • 2.50, llolik (ok), 15:36, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Прототип, который быстро сделан на python для посмотреть "ну вот как-то примерно так", вовсе и не обязан быть быстрым. Более того, даже полностью рабочим быть не обязан, хотя и желательно.
     
     
  • 3.85, Аноним (-), 19:28, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Зато надежно выдает авторов. Все слагаемые на месте: пермиссив, тормозной ЯП для быстрого создания макета, все баззворды собрали. В общем самое то чтобы слепить стартап и потом слить его лоху^W инвестору подороже. Главное чтобы тот не понимал какое гуано купил, а при достаточном пиаре - некоторая масса хомяков создаст видимость успеха.
     
  • 2.125, Аноним (125), 08:59, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Python действительно медленный если не применять оптимизации и вынос критичного ко времени исполнения кода на С. Но если все сделать правильно, то даже игры можно написать - как пример EVE Online.
     
     
  • 3.154, лютый лютик__ (?), 05:23, 12/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    >Но если все сделать правильно, то даже игры можно написать - как пример EVE Online

    Только вчера читал, как EO люто тормозит во время более-менее крупных боёв. При том, что разрабы про это знают и теребонькают свои облака шоб расширились побольше, да не помогает.

     
     
  • 4.159, Аноним (159), 00:50, 13/09/2018 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Еще бы. Даже и не знаю, реально ли вообще сделать бои подобного масштаба без тормозов. Наверное... все-таки нет.
     

  • 1.2, нах (?), 11:06, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • +6 +/
    пихон, fuse, зеро...зеробрейн. "вытесняйте" уже сразу в /dev/null - меньше возни, все равно данные, к которым обращаются (точнее, уже перестали) через кривую пихоновую прослойку через fuse, нахрен не нужны.

    видимо, это попытка бэкблажи, неосилившей в webbdav, выдумать свою альтернативу fuse-davfs. Менеджер по антикачеству при этом старательно следил, чтобы она, ненароком, не оказалась не точно такой же тормозной, бестолковой и ненадежной, как оригинал, а то гугель засудит!


     
     
  • 2.8, Crazy Alex (ok), 11:44, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Сколько стонов. Ну нравится fuse-davfs - используй, кто запретит.  Поглядим, как у этих получится, но лично мне идея явного отделения бакэнда нравится (и всегда нравилась, как и прочие плагинные подходы).

    Питон... что питон? Для прототипа - точно подходит, а там будет видно, вышло ли что-то вменяемое.

     
     
  • 3.16, нах (?), 12:34, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –2 +/
    > Поглядим, как у этих получится, но лично мне идея явного отделения бакэнда

    тут нет никакой новой идеи - davfs устроена точно так же.

    "нового" тут только модная-современная концепция layered fs, и автоматика "вытеснения".
    Но, поскольку оно явно будет тормозным как телега, запряженная ишаком (не вытеснение а сам доступ к чудо-fs), вряд ли кому-то понадобится.

    модные разработчики, видимо, не очень понимают, где "быстрое прототипирование" уместно, а где надо сразу делать правильно, а не пихоновый скрипт пропихивать через fuse.

     
     
  • 4.18, Аноним (18), 12:47, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –2 +/
    Так привык к mount/umount, что отсутствие необходимости использовать их вызвало болезненные ощущения чуть пониже спины.
     
  • 4.62, Crazy Alex (ok), 16:53, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Как она устроена? У неё жёстко прибитый один бэкэнд - webdav. И если захочется поддержку того же balckblaze или вообще ftp прикрутить - делай отдельный проект и копипасти в него логику вытеснения, или как? Я бы, правда, дальше пошёл и реализовал ТОЛЬКО вытеснение, оставив релаьную работу нижележащим ФС - пофиг, FUSE или нет, но даже так лучше, чем один-единственный протокол.

    А для кучи сценариев тормозность чего-либо, кроме собственно сетки и чтения/записи большими кусками (чему ни fuse, ни его питоновский API вообще не мешают) проблемой не являются. Начиная с того же фотоархива, например.

     
     
  • 5.86, Аноним (-), 19:31, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    А чем собственно webdav плох? Чем плох FTP и backblaze - понятно. Первый в половине конфигураций не работает и еще тормознее чем webdav во многих случаях, потому что новое соединение для каждого файла, так что заливка мелочи на FTP это полный трэш. Backblaze просто проприетарное нестандартное нечто, дергаться на причуды каждого пихтонраста с его личным Not Invented Here с своим самопальным сервисом - никаких ресурсов не хватит.
     
     
  • 6.98, пох (?), 21:59, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    а чем может быть хороша попытка приспособить гипертекстовый протокол под файлову... текст свёрнут, показать
     
  • 6.99, Crazy Alex (ok), 22:04, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Плох не webdav, ftp или backblaze, плохо, когжа пытаются прибить гвоздями к чему-то одному то, что вполне может работать с разными альтернативами.
     
     
  • 7.111, Аноним (-), 00:01, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Плох не webdav, ftp или backblaze, плохо, когжа пытаются прибить гвоздями к
    > чему-то одному то, что вполне может работать с разными альтернативами.

    С другой стороны когда начинается абстрагирование абстракций и модуляризация модулей, на всякий пожарный, авось пригодится - получается угробищный монстр, который толком не работает. Потому что запутался в своих нагромождениях абстракций.

    Классический пример GIO и KIO, или как там это в кедах ща называют. Блин, не попадалось ни одной безглючной проги на этом. А если оно не дай боже по сети было - при первом намеке на проблему сильно повезет если прога не зависнет намертво или не грохнется целиком. Ну вот как-то так это на практике работает.

     
  • 7.144, пох (?), 19:24, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    конкретно эта штука - не может, у нее заточка под интерфейс, предназначенный для хранения блобов, а не файлов, насколько я понимаю.
    Там достаточно много ручной работы по имитации фс поверх всего этого.

    причем он у бэкблейзов, походу, свой, несовместимый с амазоновским.

     
  • 2.9, Crazy Alex (ok), 11:47, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    И я не нашёл вообще никакой свзяи автора с backblaze. Ну выбрал человек то хранилище, которое ему наиболее удобно или которое лично использует - так это самый правильынй подход. Благо они нынче ещё и самые дешёвые среди живых.
     
  • 2.19, Annoynymous (ok), 12:53, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    fuse-davfs не умеет кешировать. Поэтому работает только в сферической сети в вакууме.
     
     
  • 3.25, Аноним (-), 13:47, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Шизика это не остановит от критики, у него в бреду свой собственый мирок.
     
  • 3.32, нах (?), 14:09, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    ~# umount /mnt/dav/
    /sbin/umount.davfs: waiting while mount.davfs (pid 32292) synchronizes the cache ...

    довольно таки долго и печально.
    Но кэширование и вытеснение редкоиспользуемых файлов - совсем разные вещи. Второе делается гораздо проще.

     
     
  • 4.42, Annoynymous (ok), 15:05, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Это совсем другая задача, ага.
     
  • 2.39, Аноним (39), 14:48, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    >"вытесняйте" уже сразу в /dev/null - меньше возни, все равно данные, к которым обращаются (точнее, уже перестали) через кривую пихоновую прослойку через fuse, нахрен не нужны

    Коннекты через 2.5G/3G ещё не исчезли, особенно за МКАДом. Так что, Python здесь не добавит тормозов.

     
     
  • 3.44, нах (?), 15:12, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    >>"вытесняйте" уже сразу в /dev/null - меньше возни, все равно данные, к которым обращаются (точнее, уже перестали) через кривую пихоновую прослойку через fuse, нахрен не нужны
    > Коннекты через 2.5G/3G ещё не исчезли, особенно за МКАДом. Так что, Python
    > здесь не добавит тормозов.

    угу, оно просто работать не будет (это ж хоть и не дав, но вебня, там таймауты и обрывы сессии норма). Ну ты с ума сошел, автоматическое выдавливание неиспользуемых файлов/подкачку обратно если вдруг стал используемый, делать через "2.5g" ?

    очевидно, это вообще не тот случай, когда можно использовать облачные хранилки, нет связи - ну так значит судьба тебе хранить все на точке (или наоборот, не хранить ничего вообще, по максимуму вытащив оттуда все поближе к нормальным каналам и большим дискам)

     
     
  • 4.65, Crazy Alex (ok), 16:57, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Ну так оборвалось - не вытеснил, какаие проблемы? Это уже ответственность пользователя - решать, что ему годится.
     
     
  • 5.88, Аноним (87), 19:40, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Ну так оборвалось - не вытеснил, какаие проблемы?

    Да какие, обычные: питонятина стандартно забьет на ошибки - ведь на машине разработчика этот кал как-то работал же на 127.0.0.1. Про то что может еще и ошибка диска вылезсти - питонисты вообще не догадываются. И если не дай боже при ворочании терабайта всрется бэд, одному ктулху известно что будет дальше.

    Так что как минимум такое добро на раз высадит трафик, как максимум порушит данные. Когда данные наконец потребуются обратно, сильно повезет если версия питона в системе окажется "та", это не обваливается с трехстраничным трэйсом, и в данных не вермишель. В общем это выглядит очень оверинженернутым вариантом rm -rf.

     
  • 3.64, Crazy Alex (ok), 16:55, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Да оно и на ста мегабитах ни хрена тормозить не будет, если /usr/portage или что-то подобное на него не совать.
     
     
  • 4.90, Аноним (-), 19:48, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Да оно и на ста мегабитах ни хрена тормозить не будет, если
    > /usr/portage или что-то подобное на него не совать.

    Главное запускать эту парашу на локалхосте разработчика и только правильной сети и файлах. Называя вещи своими именами, совершенно не обязательно пиарить очередной высер-макет для впаривания лох-инвесторам в новостях. Ну или пусть такие проекты как минимум платят за рекламу. Потому что макет программы по впариванию какого-то клауда занахаляву рекламить - жирно больно. Это спамом называется.

     
  • 3.152, Led (ok), 00:02, 12/09/2018 [^] [^^] [^^^] [ответить]  
  • +5 +/
    > Python здесь не добавит тормозов.

    Он уже добавил сотни тысяч торомозов - в IT.

     

  • 1.5, Аноним (6), 11:36, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • –2 +/
    Интересная идея.
    Можно создать хранилище документов гибридное и в итоге обращаться к актуальным документам быстро, а то, что уже не нужно, будет автоматически в облако уходить, когда потребуется обратно затягиваться. Шарить удобно их между компьютерами (если синхронизация будет отлажена хорошо)

    Если винт грохнется, то всегда можно восстановится. Единственный минус. Это вирус шифровальщик - если зашифрует, то зашифруется и в облаке.

     
  • 1.10, fi (ok), 11:48, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Вот и снова ФС Джорж, 40 лет прошло, а идеи теже )))))
    Хотя есть и новое - теперь вместо лент - облако, все же прогресс не остановить
     
     
  • 2.30, HyC (?), 14:06, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +3 +/
    В нетвари оно вообще прям из коробки работало.
     

  • 1.11, Alex_hha (?), 12:08, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • +2 +/
    > Единственный минус. Это вирус шифровальщик - если зашифрует, то зашифруется и в облаке.

    в "нормальных" облаках есть версионность, так что не критично, имхо

     
     
  • 2.14, F (?), 12:17, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Какая связь облачности и версионности? Ты какие облака называешь нормальными? S3?
     
     
  • 3.20, Alex_hha (?), 13:00, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +4 +/
    > Какая связь облачности и версионности?

    а какая связь между моим комментарием и твоим вопросом :D

    > Ты какие облака называешь нормальными? S3?

    AWS:S3/GCP:cloud storage/gdrive/DO:Spaces, насчет dropbox и т.п. не в курсе.

     

  • 1.12, Диалапщик (?), 12:15, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Мой хипстометр сломался. Зачем они это делают??? Единственное логичное применение вижу только в больших кластерах, чтобы ненужное вытеснялось на более тормозные серваки. Но на десктопе-то это зачем?
     
     
  • 2.15, Аноним (15), 12:28, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Ну, например, у тебя маленький SSD и гигабитный канал к серверам хранения, тогда вполне оправдано.
     
     
  • 3.120, имя (?), 06:50, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • –2 +/
    Скорость HDD больше гигабитного канала. Для SSD нужно минимум 10 гигабит.
     
  • 2.17, Аноним (18), 12:35, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Для стирания границ между локальным, серверным и облачным хранением. Обычно это реализовывается путём создания папок, некоторые из которых локальные, а другие находятся где-то в сети. Данный механизм позволит ускорить работу с удалёнными файлами путём их копирования на локальный компьютер и наоборот, при недостатке места копировать файлы с локального диска на сервер или в облако. Это будущее...
     
     
  • 3.31, HyC (?), 14:08, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > Это будущее...

    Нет, это наглухо забытое поколением пепси прошлое. Уже в третий раз за 40 лет этот велосипед изобретают.

     
     
  • 4.46, нах (?), 15:13, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    >> Это будущее...
    > Нет, это наглухо забытое поколением пепси прошлое. Уже в третий раз за
    > 40 лет этот велосипед изобретают.

    но тогда мы эти хранилки располагали в своей серверной, а не в гуглевой-амазонской-бэксглазой.


     
     
  • 5.56, HyC (?), 16:18, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    А принцип тот же. Было быстрое хранилище и медленное, с файлы к которым редко идут обращения мигрировали на медленное хранилище, он деманд переезжали обратно. Стримак это или облако - не принципиально.
     
     
  • 6.61, нах (?), 16:50, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > А принцип тот же. Было быстрое хранилище и медленное, с файлы к
    > которым редко идут обращения мигрировали на медленное хранилище, он деманд переезжали
    > обратно. Стримак это или облако - не принципиально.

    ну, в принципе, да - правда, когда хвататель, в очередной раз промазав мимо кассеты, обламывал себе палец об полку (древние библиотеки были феерически атехнологичны), по гарантии ты отправлял только железку - кассеты продолжали лежать у тебя за надежно закрытой гермодверью.

    А тут "будущее" - все ваши данные хранятся не у вас. Это вот принципиальная разница. А код тот же самый - ну еще раз на модном языке перепишут, подумаешь, пятый или десятый.

     
     
  • 7.76, Аноним (18), 18:31, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Можешь поднять облачный сервис у себя на домашнем файловом сервере У меня на ра... текст свёрнут, показать
     
     
  • 8.100, пох (?), 22:06, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    на домашнем файловом сервере я подниму банальную самбу на 10ge или вовсе rdma vo... текст свёрнут, показать
     
  • 7.92, Аноним (-), 19:54, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > А тут "будущее" - все ваши данные хранятся не у вас.

    Зато очень удобно. Вот смотри, бэкапался ты на амазон, бэкапался. Все было ЗБС и почти нахаляву. А тут тебе твой терабайт вдруг потребовался назад. А тебе и говорят: сантик^W двести баксов, чувак! Гостиница Экономическая - версия 2.0.

     
     
  • 8.101, Crazy Alex (ok), 22:07, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    А раньше ты ToS не читал, конечно Ну закономерно огреби Кстати, амазоновские т... текст свёрнут, показать
     
  • 7.102, Crazy Alex (ok), 22:10, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +1 +/
    Ну да. И в результате шанс их угробить от всяких стихийных бедствий включая местные власти довольно мал.

    А ещё - задолбали "или-или" выдумывать. Уж сколько раз твердили миру - один бэкап локальный, другой удалённый, и будет счастье. Если паранойя - шифруй.

     
     
  • 8.113, Аноним (-), 00:07, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    В таком виде даже не бред, но сабж не про это, да и оголтелые впариватели очеред... текст свёрнут, показать
     
  • 5.91, Аноним (-), 19:52, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    > но тогда мы эти хранилки располагали в своей серверной, а не в
    > гуглевой-амазонской-бэксглазой.

    Ну вы то наверное догадывались что канал в интернет может и фигакнуться, а гугл может аккаунт все же и заблочить. Ну вот решит его автоматика что вы спамбот - и нифига вы ее не переубедите. И саппорт вам не поможет. Потому что там те же самые роботы и они уже решили что вы должны умереть. Вместе с вашими фоточками котят.

     
     
  • 6.97, Аноним (97), 21:10, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Для этого есть SLA - соглашение о качестве предоставляемых услуг, где написаны худшие варианты: максимально продолжительный простой без интернета не более 5 минут, максимальный суммарный простой в течении месяца не более 20 минут, минимальная скорость скачивания не менее 640 кбит/сек, и т.п.

    Google блочит только то, за что могут заблочить его. Поэтому постить Мстителей-4 на ютубчик нельзя. В своём платном и частном облаке можешь хранить сётакон и гуро - никто тебе слова не скажет.

     
     
  • 7.114, Аноним (114), 00:16, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    А когда какой-то промежуточный роутер, не подконтрольный ни мегапрову, фирмочке ... текст свёрнут, показать
     
     
  • 8.131, нах (?), 10:55, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    эта система на корпоративные акаунты, вообще-то, не распространяется Ну или по ... текст свёрнут, показать
     
  • 4.130, X86 (ok), 10:52, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    А, помните такую прогу от MS под DOS для увеличения размера дискеты - что-то типа Diskdrive или как там его. Данные частично копировались на HDD, а часть оставалась на дискете, но выглядело как будто бы все на дискете)
     
     
  • 5.132, Аноним84701 (ok), 13:26, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    > А, помните такую прогу от MS под DOS для увеличения размера дискеты
    > - что-то типа Diskdrive или как там его.

    drvspace? dblspace?
    Помним. Скорбим^W.
    > Данные частично копировались на HDD, а часть оставалась на дискете, но выглядело как будто бы все на дискете)

    Не частично, а вообще не копировались, т.к. это было прозрачное сжатие.

     
  • 5.138, Аноним (-), 14:41, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Это называлось "перетащить ярлыки на дискетку", ага. "Что бы диск не забивали!". Популярно было в win95, приходилось отучать
     
  • 2.22, dq0s4y71 (ok), 13:19, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Чтобы твои данные были от тебя подальше, а к ним поближе. Такова логика всех этих услужливых сервисов. Да гляди ещё комп проапгрейдить придётся, чтобы тормозное питоноподелие на уровне файловой системы на нём как-то ворочаться могло.
     
  • 2.59, IRASoldier (?), 16:41, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Допустим, лежит у меня на харде размером 1 терабайт библиотека из epub, fb2, pdf и djvu общим размером гигов эдак на 250. Бывает и больше, кстати. Из этой библиотеки я регулярно держу под рукой единиц ~20 книг, из них ~10 новинки. Но терабайт всё же терабайт а не овердохуа и не резиновый. Соответственно то, что не требуется часто - архивы журналов, некоторые полные собрания сочинений и т.п. вполне можно "вытеснить" за приемлемую даже плату в надёжное облако, которое не пролюбит мою прелесссть, пока я с очередной зарплаты не обзаведусь еще одним толстым хардом для своего личного датабанка. Вот тебе один из множества возможных востребованных юзкейсов. Отнюдь не хипстерских.
     
     
  • 3.63, нах (?), 16:54, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > вполне можно "вытеснить" за приемлемую даже плату в надёжное облако, которое

    тут вопрос, насколько оно "надежное" за эти деньги.

    > не пролюбит мою прелесссть, пока я с очередной зарплаты не обзаведусь
    > еще одним толстым хардом для своего личного датабанка. Вот тебе один

    а, ну или так.

    > из множества возможных востребованных юзкейсов. Отнюдь не хипстерских.

    ну фиг знает - с терабайтом книжек я и вручную управлюсь (да и нету там терабайта)

    такая автоматика нужна, когда данные и потребляет какой-нибудь автомат (или свора юзеров, которые непредсказуемей автоматики), и там терабайтов будет не один и не два, иначе все эти сложности дешевле решить таки диском.

    А кто помнит, у бэкблейзов одна цена и на b2, и на архивный сторадж?


     
     
  • 4.77, IRASoldier (?), 18:38, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    >насколько оно "надежное" за эти деньги

    Оценить можно - какое оборудование, какая квалификация сотрудников, какое ПО стоит (а вот тут как раз преимущества open source здорового человека проявляются во всей мощи).

    >у бэкблейзов

    По-моему да, одна и та же - пятьдесят зеленых за год на один комп просили.

     
     
  • 5.103, Crazy Alex (ok), 22:16, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +1 +/
    50 баксов - это бэкап, там оно само шуршит (на твоём компе!), рещает, что бэкапить и особо не контролиуется, зато - безлимит.

    А архив, он же b2 (они не разделяют) - по объёму (сколько-то там за гиг в месяц) плюс за закачку от них - опять же за гиг, зато - всё, что ты хочешь, без магии и тупо через API (в том числе умеют амазоновский).

     
  • 4.78, IRASoldier (?), 18:40, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    >у бэкблейзов

    Кстати, а чего б не крэшплан?

     
     
  • 5.105, Crazy Alex (ok), 22:20, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    А крэшплан вообще умел быть "просто хранилищем", а не бэкапилкой, шарящейся по твоим дискам? А сейчас вроде вообще только для бизнеса что-то предлагают
     
     
  • 6.106, IRASoldier (?), 22:49, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    Да я давно не смотрел на то, чем крэшплан стал, помню только, был такой. Так-то в качестве вкусного по деньгам решения как раз в сторону бэкблейза и посматриваем. И уже в этом квартале, скорее всего, перестанем только лишь присматриваться.
     
  • 2.66, Crazy Alex (ok), 17:01, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Например, фотоархив - одна копия в этой штуке, вторая - оффлайн, как и положено.
     

     ....нить свёрнута, показать (29)

  • 1.13, Аноним (13), 12:16, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Интересно, но для использования нужно еще encfs навесить: пишут, что backblaze поддерживает шифрование, но данные расшифровываются на стороне сервера, т. е. оно там бесполезное, для галочки (https://en.wikipedia.org/wiki/Backblaze).
     
     
  • 2.79, KonstantinB (ok), 18:42, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    У backblaze такие низкие цены как раз за счет механизма дедупликации: вычисляются контрольные суммы а-ля rsync, и одинаковый блок хранится только один раз (ну, ок, три раза), а при запросе на получение бэкапа файлы реконструируются из набора контрольных сумм блоков.

    Так что шифрование там по определению невозможно.

     
     
  • 3.116, h31 (ok), 00:24, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    borgbackup умеет одновременно и шифровать, и сжимать, и дедуплицировать.
     
     
  • 4.118, Аноним (118), 02:31, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Предлагаете для всех пользователей backblaze шифровать одним и тем же ключом? Ооок:)
     
     
  • 5.146, h31 (ok), 20:13, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • –2 +/
    > Предлагаете для всех пользователей backblaze шифровать одним и тем же ключом? Ооок:)

    Почему? Шифруем данные на клиенте, у каждого клиента свой ключ. На сервер загружаем зашифрованные данные + хэш незашифрованных (с солью, общей для всех клиентов). На основе хэша вычисляем дубликаты.

     
     
  • 6.155, Ракоман (?), 08:37, 12/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Да? А что делать при коллизии хэшей? Приехали?
     
     
  • 7.160, h31 (ok), 02:55, 13/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    > Да? А что делать при коллизии хэшей? Приехали?

    Я не знаю, как эту проблему решили в borgbackup. Найдёшь - отпишись.

     
     
  • 8.162, нах (?), 14:35, 13/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    никак авторы всех технологий дедапа верят, что коллизия хэшей невозможна Мысль... текст свёрнут, показать
     
  • 6.163, KonstantinB (ok), 05:46, 15/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Окей, мы знаем, что у пользователей U1 и U2 зашифрованные блоки B1 и B2 имеют одинаковый sha512. Как теперь хранить только один из этих блоков?
     
     
  • 7.165, нах (?), 10:49, 17/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    > Окей, мы знаем, что у пользователей U1 и U2 зашифрованные блоки B1
    > и B2 имеют одинаковый sha512. Как теперь хранить только один из
    > этих блоков?

    зачем?
    Если ты каким-то чудом (например, нанятый вменяемый разработчик понимал, для чего на самом деле существуют криптографические хэши - чудо!) вовремя об этом узнал - просто сохраняешь второй блок отдельно от первого. Ровно так же, как в случае, если бы эти sha оказались разными (точнее "поиск хэша B2 ничего не нашел").

    На момент, когда ты считал его хэш, он у тебя еще был, есть что сохранять.

    внутри файла-то они не по хэшам ищутся, а банально по ссылке.

    zfs dedup+verify примерно так и работает

     

  • 1.21, Fracta1L (ok), 13:04, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Что даёт присутствие таких функций (вытеснение на облако и т.д.) на уровне ФС, а не утилит каких-нибудь?
     
     
  • 2.27, Аноним (27), 13:57, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    чтоб утилиты пользовать это нужно что-то там в консоли писать и вообще мозгом думать. а тут все за тебя сделают.
    щас так модно типа.
     
     
  • 3.48, Fracta1L (ok), 15:25, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    > что-то там в консоли писать и вообще мозгом думать

    Так-то ковыряние в консольке нагружает мозг не больше, чем работа автомеханика в гараже.

     
     
  • 4.57, Аноним (57), 16:27, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Но и автомеханик в гараже Должен работать и головой, и руками. Конечно при условии что это нормальный гараж где действительно ремонтируют, а не стремятся "обуть" на лишнюю десятку, зачастую доламывая то, что можно было сделать с с гораздо меньшими затратами.
    Хорош ли тот автомеханик по вине которого в машну вложено более  200 к рублей. Заменена половина подкапотной, а усилитель руля(проблема с которой обратились)так и не отремонтирован? И что самое интересное проблема была  в предохранителе за 50 рублей!
    збс чо...
    P.S. Осторожнее в сравнениях...
     
     
  • 5.75, Fracta1L (ok), 18:09, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –2 +/
    Я не спорю, что автомеханик работает головой. Но там, как правило, действия по набору шаблонов. Просто ручное дрочево в консоли так превозносят, будто это чуть ли не написание книг или научных работ. Ничего особенно интеллектуального и почётного в ручной работе с софтом нет, в отличие от создания автоматизированных систем, на которые любители конcолинга и гонят постоянно XDD
     
     
  • 6.93, Аноним (114), 19:58, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Собственно по изначальной задумке консоль в *никсах это инструмент автоматизации, а не драчива. Ну то-есть накорябал на шелле скрипт по ситуации, и отправил его впахивать. А самому 100 раз вклацывать одну и ту же операцию для 100 машин где-то там - как бы и не надо. А то что некоторые возвели клап в консоли в ритуал - тупицы есть и в *nix'ах. Там тупицей быть сложнее, но у некоторых получается.
     
  • 6.94, Аноним (114), 19:59, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    > Ты дважды ошибся за такой короткий коммент, кек

    Может это он про себя? :)

     
  • 3.60, IRASoldier (?), 16:43, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –2 +/
    >что-то там в консоли писать и вообще мозгом думать

    Ага, а глину для кирпичей ты тоже сам должен месить, железо для арматуры лично выплавлять, деревья рубить и распиливать на доски для пола тоже сам - а то щас модно типа квартиру покупать готовую.

     
  • 3.67, Crazy Alex (ok), 17:04, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    И статистику тоже отдельно собирать и потом анализировать. То есть возни больше, а вот плюсов лично я не вижу. Ещё хинты какие-то - понятно, но зачем полностью закат солнца вручную делать?
     
     
  • 4.121, пох (?), 07:12, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    я, конечно, понимаю что atime сейчас немодно и немолодежно, но "анализатор статистики" там, где его еще не добороли до полного факапа - find ... -atime +48


    или ты думаешь, у пихоноподелия там космическая наука и искусственный интеллект? Вря-ааад ли...

    вот затолкать файл в чанки b2шного хранилища - это да, это победа добра над разумом. А тут... я тебе такое на слегка модифицированном dav напишу, пожалуй, за пару часов.

     

  • 1.23, Очередной аноним (?), 13:45, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Интересно, что там по задумке авторов должна показать какая-нибудь df в плане кол-ва свободных блоков в ФС? Напишет, что свободного пространства хоть опой жри ( локальное свободное +(какая-нибудь облачная квота - занятое в облаке место) )?
     
     
  • 2.29, нах (?), 14:02, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    напишет -1 и свалится по segfault.
    у современных разработчиков оно примерно так обычно.

    > Напишет, что свободного пространства хоть опой жри ( локальное свободное +(какая-нибудь облачная
    > квота - занятое в облаке место) )?

    ну да, конечно, мы же будем за тебя переписывать df (написанный на омерзительном C, даже без плюсов), делать нам больше нечего.

     
     
  • 3.36, nobody (??), 14:44, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +2 +/
    > напишет -1

    NaN сейчас модно

     
     
  • 4.53, нах (?), 15:40, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    >> напишет -1
    > NaN сейчас модно

    кстати, да (в gnu df floating арифметика вполне себе есть ;-)

     
  • 3.38, Очередной аноним (?), 14:45, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +1 +/
    локальное свободное какая-нибудь облачная квота - занятое в облаке место ... текст свёрнут, показать
     
     
  • 4.51, нах (?), 15:37, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Не получить откуда-то посчитанное и отобразить одной цифрой, а именно вычислить?

    ну, в конечном счете, оно опирается на stat(), но там ни разу не предусмотрено сложных формул рассчета непойми чего, а вот полнота апи (поскольку оно прежде чем непосредственно спросить "сколько места", долго лазит по дереву, пытаясь угадать где там точка монтирования и кого на самом деле надо опрашивать) очень даже требуется.

    поэтому в лучшем случае удастся вернуть какую-нибудь бессмысленную цифирь (вполне очевидно, что для данной задачи она ненужная и вредная, а на самом деле нужны раздельные данные по месту на локальном диске и месту в облаке) а в худшем запутается в этих stat и упадет. Ну или не успеет, ноль или -1 вернет, не успев на этот ноль ничего поделить. Но это должно повезти ;-)

     
     
  • 5.68, Crazy Alex (ok), 17:08, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    В рамках этой задачи как раз раздельнцы значения - это полная чушь. Потому что весь поинт в автоматическом менеджменте. Так что по идее - локальная квота, выставляемая где-то в конфиге это ФС плюс квота в облаке (которую она либо время от времени спрашивает, либо из того же конфига) минус занятое (уже посчитанное на ходу) - самое то.
     
     
  • 6.126, нах (?), 09:57, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • –2 +/
    в смысле, тебе совсем неинтересно знать, ни сколько занято локально, ни сколько ... текст свёрнут, показать
     

  • 1.24, A. Stahl Is Gay (?), 13:47, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • –4 +/
    Йопт, я такое же за бабло писал, только вместо облака там была оптическая архивная хранилка. Если переписать на C, то +- 700MB/s на потоковую запись получить можно (на харды). Про SSD хз.
     
     
  • 2.26, Аноним (-), 13:48, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Так это ты тот чувак из bell labs, писавший plan9?
     
     
  • 3.28, A. Stahl Is Gay (?), 14:00, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –4 +/
    Нет.
     

  • 1.33, Аноним (33), 14:19, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Судя по названию их цель вытеснить всё, оставив локально только zero.
     
  • 1.34, Аноним (39), 14:26, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • +1 +/
    Только если будет поддерживать хранение на собственном подконтрольном сервере, тогда нужно.
     
  • 1.35, Аноним (39), 14:37, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Ответ ненавистникам Питона.

    PS Вовсе не утверждаю, что Python быстрый, но востребованный даже в системном ПО.

     
     
  • 2.40, dq0s4y71 (ok), 14:50, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +3 +/
    Вам ненавистники Питона скажут, что если Питон можно запихать в файловую систему, это не значит, что так _нужно_ делать.
     
     
  • 3.43, Аноним (43), 15:10, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +4 +/
    И что характерно, будут правы.
     
  • 2.80, Аноним (80), 19:05, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    вообще FUSE - от слова userspace, не такое оно уж и системное
     
  • 2.95, Аноним (114), 20:03, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +1 +/
    > PS Вовсе не утверждаю, что Python быстрый, но востребованный даже в системном ПО.

    Востребован, на уровне зонтиков рыбками.

     
  • 2.157, Вареник (?), 15:12, 12/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Востребован фриками для извращений? Так еще рекомендация.
     

  • 1.54, ползкрокодил (?), 15:46, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Офигенно, мне как раз такое нужно. Думаю на одном сервере обработку гонять, на другом хранить. Думал davfs монтировать с кэшем, но на уровне ФС, по идее, надёжнее должно быть. А есть более готовые аналоги?
     
     
  • 2.70, нах (?), 17:32, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    есть, samba, nfs, тыщи их. rsync еще есть.

    Кстати, учти что davfs2 over fuse - похоже, синглтредовая, и тормозит хз как, попутно вешая все в системе, что имеет несчастьте просто проходить мимо (например, просто перебирает точки монтирования)

    то есть на более-менее серьезную нагрузку ни разу не рассчитана. Впрочем, протокол на это тоже не рассчитан.

     
     
  • 3.115, Аноним (114), 00:22, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • –4 +/
    > как, попутно вешая все в системе, что имеет несчастьте просто проходить
    > мимо (например, просто перебирает точки монтирования)

    Если у тебя от активности одной программы клинятся другие - поздравления, операционка облажалась с шедулингом ресурсов.

    - Пап, а правда что винда 95 многозадачная?
    - Да, сына, подожди, сейчас дискетка доформатируется и я покажу тебе что такое многозадачность.

     
     
  • 4.123, Аноним (-), 08:14, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    я ценю остроумие, но читать тоже надо уметь:

    > попутно вешая всё в системе, что имеет несчастьте просто проходить мимо

    Или считаешь, что твой шутливый комментарий адекватен цитируемой фразе?

     
     
  • 5.127, нах (?), 09:58, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    там надо уметь не читать, а понимать прочитанное, это два разных умения.

     

  • 1.55, Аноним (55), 16:04, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Короче, ничо вы не поняли. Кураторы из АНБ накрутили хвост менеджменту Бэкблэйза за то, что те мало данных у лошков собрали. Те нашли питонокодера, который за еду склепал им прототип "инновационной" файловой системы.
     
     
  • 2.69, нах (?), 17:29, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    да ну, у них же архивы были?

    А тут в b2шную часть бэкблейза (она изначально под свалку всякого json мусора планировалась, выхлоп всяких bigdata и прочего, то есть это не файлы) поедут те же архивы, причем не все, а самые ненужные их части.

    Ну и зачем бы это АНБ?
    Скорее, действительно, автор пользовался бэкблейзой, захотел дав, дава там нет, зато есть хранение блобов мелкой россыпью - ну и сделал, как умел. И выкинул в опенсорс, авось помогут дописать. Без претензий на мировое господство и что оно вообще кому-то еще нужно.

     
     
  • 3.81, Аноним (81), 19:14, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    > Ну и зачем бы это АНБ

    А хз что и как они там анализируют. Ненужные файлы, которые не удалены, а позабыты-позаброшены. То же самое, что на антресолях или в гаражном хламе покопаться.
    > захотел дав, дава там нет

    Ну да, написать ФС проще, чем в самом начале сесть и перебрать десяток-другой хостеров. Хотя, если начальство рассуждает по принципу "чего ты там возишься, зарегать аккаунт на хостере - дело одной минуты", то запросто можно поиметь отдалённые проблемы, которые потом придётся решать написанием новой ФС.

     
     
  • 4.122, пох (?), 07:18, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    > Ну да, написать ФС проще, чем в самом начале сесть и перебрать десяток-другой хостеров.

    ну если хотелось надежный, то их всего с пол-десятка, и ценник в 3-30 раз выше, то есть профит вполне понятен.

    а если эта хрень до того еще и использовалась у тебя по прямому назначению, а не надо изучать api с нуля и писать к нему пихоновые binding'и вручную - то остается взять для примера какую-нибудь плохую fuse-либу, и переделать под свои хотелки.

    просто кто-то такое доделав, молча вывалит на гитхаб, если не спрячет в стол, а кто-то, вишь "йа изобрел новую fs zero, на новом уникальном нанопринципе вытеснения!"

     

  • 1.72, Аноним (72), 17:52, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Заказная фигня наверное, идея конечно хорошая, но в цены на хранилище... Или если только личное создавать, возможно, но всё равно не заменит бэкапов, поэтому в теории хорошо на практике необходимость довольно спорная если не сказать ненужная))
     
     
  • 2.150, Аноним (150), 23:14, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Личное проще на Ceph с локальным кэшем нагородить.
     

  • 1.73, anonymous (??), 17:54, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Нужна поддержка s3, чтобы можно было на свой ceph натравить.
     
     
  • 2.83, Аноним (81), 19:24, 10/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    LeoFS?
     

  • 1.104, Аноним (104), 22:17, 10/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    я такое уже давно пльзую на телефоне, телефон синхронизируется с ПК, а на ПК фотки и видео после опредиленной даты сортируются по размеру, им назначаетс рейтинг, чем старше дата и больше файл тем больше вероятность что он уедет в облако на архивацию. Дальше при следующей синхронизации с ПК файл удалится на телефоне.
     
  • 1.128, Superanon (?), 10:34, 11/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    вот бы сделать обратный bcache для SSD+HDD
    чтобы актуальные файлы жили на SSD (250GB) а неактуальные автоматом уезжали на медленный но ёмкий HDD(8TB).

    сяду сам на досуге напишу... если не забуду.

     
     
  • 2.134, нах (?), 14:03, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    собственно, да iZEN тебе уже ответил - уже все написали до тебя, zfs arc2 называется.

    Причем работает он не с файлами, а с блоками, что более правильно - если там лежит, к  примеру, архив из которого часто  нужна только небольшая часть, или вовсе образ vm.

    устроено внутри, кстати, весьма и весьма непросто, на коленке такое не выпилить.

    дополнительный бонус - когда таки допилит твой ssd до дыры, есть неплохие шансы что ничего специально лечить не придется, а  просто можно будет его выкинуть.

     
     
  • 3.136, Аноним (136), 14:28, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    dm-cache /  bcache / flashcache (имени фейсбука) - да вагон на чем сделать можно.
     
  • 3.137, Аноним (136), 14:32, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    есть еще к слову fs-cache который к NFS прикручивается (да и можно к остальному) запись будет напрямую на диск - а r/o cache локальный.
     
  • 2.135, Аноним (136), 14:28, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    bcache так и работает - не нужные блоки уезжают на hdd, а нужные живут на ssd.
     
     
  • 3.140, Аноним (-), 15:56, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • –1 +/
    размер складывается? Или на hdd всегда есть все данные?
     
     
  • 4.142, Leah (?), 18:25, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    В случае bcache HDD хранит все данные, а частоиспользуемые блоки зеркалируются на SSD.
     
  • 3.143, Leah (?), 18:35, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    имхо все блоки уезжают на HDD, на SSD продублированы частозапрашиваемые.
    В этом принцыпиальное отличие от того, чтобы на ХДД уезжало только неиспользуемое.
     

  • 1.133, iZEN (ok), 13:36, 11/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Из ZFS тоже такое можно сделать: в облаках размещаем блочные устройства физического уровня, объединяем их в raidz3, а у себя на компе для этого пула используем кэш L2ARC на SSD. Данные пишутся непосредственно в облако и гарантированно сохраняются с избытоным кодированием и целостностью, а кэш работает исключительно на чтение часто запрашиваемых данных.
     
     
  • 2.139, Аноним (-), 14:57, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Вот разве что для этого ZFS и нужна. Оно реально будет работать? Или очень привередлива к качеству каналов? Скажем, если канал в облако - 20 МБит/c, а средняя нагрузка за час - 1МБит/c, не будет ли оно неюзабельно? Если что, я сейчас не о сабже, а о технической возможности сделать такое на базе ZFS
     
     
  • 3.141, Аноним (141), 18:08, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    mbuffer + UDPspeeder
     

  • 1.145, GedNN (?), 19:55, 11/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • +/
    Я ниасилил или никто так и не предложил достойной альтернативы и вообще камменты как обычно не по "чистапаржать"?
     
     
  • 2.149, Аноним (150), 23:11, 11/09/2018 [^] [^^] [^^^] [ответить]  
  • +3 +/
    ФС на гибриде питона с фюзой никаких ассоциаций, кроме как "чистапаржать", не вызывает.
     
     
  • 3.161, GedNN (?), 12:00, 13/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    А аналоги какие-нибудь есть на чем угодно?
    Идея мне очень нравится.
    Сейчас приходится реализовывать вручную. Хотелось бы автоматизации. Лучше между точками монтирования, но не блочными устройствами, как предлагают выше.

    Т.к. с блочными проблем побольше....

    А так есть:
    фс на быстром диске - там актуальные данные
    фс на медленном диске/кластере/облаке - там много место и надежно

    Пользователю нужно прозрачно, по возможности работать быстро. Как такое сделать?

     
     
  • 4.166, oracle (?), 10:52, 17/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    > А аналоги какие-нибудь есть на чем угодно?

    наша zfs с arc2

    > Сейчас приходится реализовывать вручную. Хотелось бы автоматизации. Лучше между точками
    > монтирования, но не блочными устройствами, как предлагают выше.

    нет, такой фигней мы не страдаем
    > Т.к. с блочными проблем побольше....

    у нас как-то не замечено.

    > А так есть:
    >  фс на быстром диске - там актуальные данные
    >  фс на медленном диске/кластере/облаке - там много место и надежно

    именно так и есть, только без "облачков" (san сойдет тебе за "кластер"?)

    для пользователя все прозрачно и быстро, для админа - zpool add...

     
     
  • 5.167, GedNN (?), 17:54, 18/09/2018 [^] [^^] [^^^] [ответить]  
  • +/
    Кто такая ZFS я вроде знаю. С ее плюсами и минусами. Не подходит. Она используется сейчас как шустрое/рабочее хранилище.

    >именно так и есть, только без "облачков" (san сойдет тебе за "кластер"?)

    Не сойдет - сложности с изменением размеров/надежностью и т.д.. :-(
    Сейчас используется MooseFS под архив и бэкап. Позволяет динамически менять размер и надежность хранения в любую сторону.

    По идее, хотелось бы верхним слоем, с которым оперативно работают - ZFS. А нижним MooseFs - под длительное хранение.

    Только требуется автоматизацию телепортации. :-)

     

  • 1.147, Аноним (150), 23:03, 11/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • –1 +/
    Backblaze рекламу неприкрытую в новости этой вижу я.

    А по теме - да, отличная тема, можно будет автоматически вытеснять архив куда-нибудь товарищу майору сразу.

     
  • 1.156, Вареник (?), 15:08, 12/09/2018 [ответить] [﹢﹢﹢] [ · · · ]  
  • +2 +/
    >> во внешнее облачное хранилище.

    - Вот как теперь /dev/null называют.

     

     Добавить комментарий
    Имя:
    E-Mail:
    Текст:



    Спонсоры:
    Слёрм
    Inferno Solutions
    Hosting by Ihor
    Хостинг:

    Закладки на сайте
    Проследить за страницей
    Created 1996-2019 by Maxim Chirkov
    Добавить, Поддержать, Вебмастеру