> Конец первого абзаца "основываясь на его древесной привычке, тропическом распределении
> и наличии простых мяков". Что за "мяки" такие? В оригинале были
> "umbles" (зонтики, соцветия). Откуда он какие-то мяки взял? В "погонщиках мыши"
> хоть какая-то логика была, а тут пойди, догадайся )))

Они же учатся на двуязычных парах текстов, которые выравниваются автоматически.
Вот с этим выравниванием, например на paracrawl постоянно всякие чудеса случаются.
То есть например по-английски был какой-то текст с словом "umbles", а по-русски была какая-то орфографическая чушь из какого-нибудь чата с "мяками".

На подготовке наборов данных открытые проекты вынуждены экономить, это очень трудоёмкая вещь.
И коммерческие модели всегда лучше именно потому что они тратят много ресурсов на очистку и сверку данных, а не потому что у них там в модели софтмакс какой-то особенный, скажем.