Возможно, ты имеешь в виду rebalance и scrub?

Вот я с этим вопросом и вышел в инет,
С запросом гугла "slow btrfs-cleaner" я пришел на стековерфлоу,
Там были предложения по rebalance-у и scrub.
Ребаланс немного не то, это для btrfs в режиме raid (да-да, и это он тоже умеет),
Но и он был запущен - а куда деваться. Толку 0.
Скруб тоже был запущен - это помогло *замедлить* разрастание metadata,
Не убрать, а сократить. Метадата так же росла по мере обновления бэкапв.

Кстати, забыл, после ext4 я начал интересоваться по тегу filesystem for small files,
И ответ был дан так же на стековерфлоу - старая-добрая reiserfs.
Благо есть elrepo, и модуль реизерфс для стокового ядра EL7.
И в общем по моим тестам, очень неплохо показывает себя в моем кейсе (reiserfs + rsync-hardlinks snapshot), там где ext4 занимал 400гб данных, рейзерфс где-то 330гб - мелочь, а приятная экономия.
Единственное, что у него какая-то механика хеширования имен файлов,
И в дефолтном методе r5 есть коллизии, а в улучшенном tea такой проблемы нет.
Сделал на tea, проблем не заметил.
Теперь кусаю локти как воткнуть reiserfs в следующий Oracle Linux 8,
На следующем проекте.