The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

PIFu - система машинного обучения для построения 3D-модели ч..., opennews (??), 14-Июн-20, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


43. "PIFu - система машинного обучения для построения 3D-модели ч..."  +/
Сообщение от Аноним (43), 14-Июн-20, 18:50 
> Нейронки - это тупик!

Применение "машинного обучения" в текущем виде - это тупик. А нейронки как раз таки очень эффективны для обработки изображений (это доказано). Только надо как-то более детерминировано структуру сети выбирать и обучать не методом тыка (как сейчас любят делать).

Если тупо скармливая обучающие выборки для какой-то нейронки с рандомной структурой - она подстроится, но остается некий неизвестный процент "фейловых" результатов/артефактов, которые вообще непонятно как устранять и как искать.

Вообще, нужно что-то типа хорошего матанализа для нейронных сетей. Любой школьник знает, что получить параболу с двумя экстремумами на действительных числах никак не выйдет... А в случае нейронки - разработчик/data scientist вообще не в курсе что от неё можно ожидать и что она будет "додумывать", отклоняясь от реальности.

Ответить | Правка | К родителю #2 | Наверх | Cообщить модератору

56. "PIFu - система машинного обучения для построения 3D-модели ч..."  +2 +/
Сообщение от Аноним (56), 15-Июн-20, 02:29 
вот поэтому нейросетка выдала жидкого терминатора https://www.youtube.com/watch?v=S1FpjwKqtPs&t=529
Ответить | Правка | Наверх | Cообщить модератору

57. "PIFu - система машинного обучения для построения 3D-модели ч..."  +/
Сообщение от anonimous (?), 15-Июн-20, 02:31 
>> Нейронки - это тупик!
> Применение "машинного обучения" в текущем виде - это тупик. А нейронки как
> раз таки очень эффективны для обработки изображений (это доказано).

По изображениям есть такое мнение

https://arxiv.org/abs/1805.04025
At present Deep Nets do very well on specific types of visual tasks and on specific benchmarked datasets. But Deep Nets are much less general purpose, flexible, and adaptive than the human visual system. Moreover, methods like Deep Nets may run into fundamental difficulties when faced with the enormous complexity of natural images which can lead to a combinatorial explosion.

что сделать что-то похожее на человеческое зрение на глубоких сетях не получится (и привет Маску).

на практике другие подходы частото работают лучше

https://arxiv.org/pdf/1805.05837
Comparing LBP, HOG and Deep Features for Classification of Histopathology Images

SVM achieves the highest accuracy of 90.52% using local binary patterns as features which surpasses the accuracy obtained by deep features, namely 81.14%.

но это не модно-молодежно и бабки на это не получишь

https://thegradient.pub/the-limitations-of-visual-deep-learn.../
Now it is difficult to publish anything that is not neural network related. This is not a good development. We suspect that the field would progress faster if researchers pursued a diversity of approaches and techniques instead of chasing the current vogue. It is doubly worrying that student courses in AI often completely ignore the older techniques in favor of the current trends..

Ответить | Правка | К родителю #43 | Наверх | Cообщить модератору

85. "PIFu - система машинного обучения для построения 3D-модели ч..."  +/
Сообщение от Аноним (85), 15-Июн-20, 20:23 
> Comparing LBP, HOG and Deep Features for Classification of Histopathology Images

ИМХО, тут принципиальных отличий нет. Может быть при матрицах 3x3 и при высокоонтрастных изображениях какие-то методы действительно быстрее обучаются и с их помощью проще делать классификацию. Но в общем случае - не уверен, что нейронки прям так и проиграют в хлам.

> что сделать что-то похожее на человеческое зрение на глубоких сетях не получится (и привет Маску).

Тут тоже надо уточнить, что человек ничем кроме "нейронных сетей" оперировать и не может! И у человека все работает... Вопрос в том, что наверняка человек не может обойтись ОДНОЙ ЛИШЬ ТОЛЬКО сверточной нейронной сетью, которая решает все возможные проблемы и сама адаптируется к постоянно изменяющимся условиям реального мира.

Зрение штука сложная, там очень много нюансов... Сигнал в самом начале - что-то вроде YUV/RGB, но уже на сетчатке глаза есть сильная фильтрация (сразу слой нейронов). А в мозг сигнал уходит пожатый (причем похоже "пожат" он как в MPEG-кодеках: макроблоки+перемещение макроблоков). Плюс всякие выравнивания яркости/цветового баланса выполняются автоматом. Что там дальше в глубинах мозга творится (где собственно классификация и происходит) - вообще мрак.

Одной сетью фиксированной структуры тут точно не обойдешься. Но несколько грамотно скомпонованных нейронных сетей правильной структуры наверняка смогут полностью повторить человеческое зрение.
Маск и его спецы точно не смогут дать ответ на вопрос что за структура нейронной сети должна быть ;) в этом да, можно быть уверенным.

Ответить | Правка | Наверх | Cообщить модератору

86. "PIFu - система машинного обучения для построения 3D-модели ч..."  +/
Сообщение от anonimous (?), 15-Июн-20, 23:01 
> Зрение штука сложная, там очень много нюансов... Сигнал в самом начале -
> Одной сетью фиксированной структуры тут точно не обойдешься. Но несколько грамотно скомпонованных
> нейронных сетей правильной структуры наверняка смогут полностью повторить человеческое  зрение.
> Маск и его спецы точно не смогут дать ответ на вопрос что  за структура нейронной сети должна быть ;) в этом да, можно  быть уверенным.

Зрение человека может обучаться по 1 примеру. Это в принципе невозможно для любых существующих сеток и никаких идей как этого добиться нет.

Зрение человека распознает один раз показаный предмет с ракурсов с которых его не показывали вообще. Это в принципе невозможно для любых существующих сеток и никаких идей как этого добиться нет.

Но Маск это наше все, да.


Ответить | Правка | Наверх | Cообщить модератору

87. "PIFu - система машинного обучения для построения 3D-модели ч..."  +/
Сообщение от Аноним (85), 15-Июн-20, 23:41 
> Это в принципе невозможно для любых существующих сеток и никаких идей как этого добиться нет.

Понятно, что нормальное решение задачи не получить, применяя подход методом "пальцем в небо": возьмем сеть в 5 слоёв по 10 нейронов и обучающую выборку в 100 семплов (все цифры на основании опыта разработчика, читай "с потолка").

Допустим суровый дядька железячник попытается таким "методом тыка" спроектировать какой-то логический автомат на ПЛИС (хотя бы и без памяти) - его просто высмеют. Там можно четко определить и объемы данных и количество комбинаций и количество нужных вентилей.
А в нейронных сетях метод "пальцем в небо" прокатывает на счёт раз! Хотя, принципиальных отличий от ПЛИС не так и много.


> Зрение человека распознает один раз показаный предмет с ракурсов с которых его не показывали вообще.

Наверное чтобы этого добиться - придется понять что такое интеллект и как он работает :) Если на нейронных сетях удастся построить искусственный интеллект (что вряд ли) - человек даже не сможет понять как этот AI работает... просто какой-то набор весовых коэффициентов... и это печально :(

Ответить | Правка | Наверх | Cообщить модератору

90. "PIFu - система машинного обучения для построения 3D-модели ч..."  +/
Сообщение от anonimous (?), 16-Июн-20, 02:03 
>> Это в принципе невозможно для любых существующих сеток и никаких идей как этого добиться нет.
> Понятно, что нормальное решение задачи не получить, применяя подход методом "пальцем в  небо": возьмем сеть в 5 слоёв по 10 нейронов и обучающую выборку в 100 семплов (все цифры на основании опыта разработчика, читай  "с потолка").

Так человеку не надо выборок вообще. Человеку 1 раз показывают 1 стул и все. Он потом все стулья распознает как стулья, да еще и слюбого ракурса, при любой освещенности и т.п.


> Допустим суровый дядька железячник попытается таким "методом тыка" спроектировать какой-то логический автомат на ПЛИС (хотя бы и без памяти) - его

Да ладно, все уже пробовали.

SAND2012-1462C
Designing digital circuits for FPGAs using parallel genetic algorithms

A genetic algorithm (GA) mimics evolutionary principles by maintaining multiple candidate solutions in the form of a population. Each candidate solution, referred to as an individual, describes a potential FPGA configuration and is initially generated purely randomly.

>> Зрение человека распознает один раз показаный предмет с ракурсов с которых его не показывали вообще.
> Наверное чтобы этого добиться - придется понять что такое интеллект и как
> он работает :) Если на нейронных сетях удастся построить искусственный интеллект
> (что вряд ли)

Ну у человека все равно сетки, ничего другого пока не найдено. Просто дистанция до них от того, что есть сейчас искусственного почти бесконечна. Напоминает кстати Винера с его кибернетикой. Чудак познал азы теории автоматического управления и обратной связи и решил что сейчас все в мире объяснит.

Ответить | Правка | Наверх | Cообщить модератору

92. "PIFu - система машинного обучения для построения 3D-модели ч..."  +/
Сообщение от Аноним (92), 16-Июн-20, 15:52 
По поводу ПЛИС vs нейронная сеть.

Для автомата без памяти все четко и однозначно. Если у тебя 2 входа, то всего будет 4 возможные входные комбинации. Более 16 выходов делать смысла нет, т.к. максимум будет 16 возможных функций двух аргументов. Есть оценки сразу.
Карту Карно такого автомата можешь рассматривать и как набор обучающих данных и как план тестирования (в зависимости от того в какую сторону задачу решаешь).
То что там иногда какие-то численные методы применяют для оптимизации схемы (чтобы не делать полный брутфорс), или как-то осознанно сокращают объем тестирования (чтобы сэкономить время) - это уже обоснованные решения в процессе разработки/производства/эксплуатации.
Автоматы с памятью сильно сложнее и там таких однозначных решений уже нет... Но и там тоже решения обоснованные.


Для нейронной сети я подобных оценок не видел. Ну чтобы сказали - сеть больше трёх уровней вложенности не нужна. Нужно не менее 15 нейронов на слой. Обучающая выборка должна содержать 1000 изображений с разрешением не менее такого-то, контрольная выборка - не менее 10000 изображений. Нужно классифицировать изображения с 3-мя точками бифуркации, значит в составе сети должна быть структура вида...
Все пользуются эвристикой, вон у гугла база 2 миллиона изображений и все получилось, ну нам надо примерно столько же.
А потом начинается - ой негров не определяет, давайте негра добавим! Ой котика классифицировали как пёсика, давайте его перенесём в обучающую выборку! Ой, это оказывается не белый шум, а невидимый страус! ну пусть живет... ой повторно обучили сеть и ничего специально не делали, а невидимы страус стал классифицироваться как белый шум.

Это не имеет отношения к классификации по 1 выборке. Но тут уже овердохрена неоднозначностей. По-хорошему, с ними надо разобраться, чтобы получился хороший инструмент, которым пользуются осознанно и обоснованно.

Ответить | Правка | Наверх | Cообщить модератору

94. "PIFu - система машинного обучения для построения 3D-модели ч..."  +/
Сообщение от anonimous (?), 16-Июн-20, 22:30 
> Для нейронной сети я подобных оценок не видел. Ну чтобы сказали -
> сеть больше трёх уровней вложенности не нужна. Нужно не менее 15
> А потом начинается - ой негров не определяет, давайте негра добавим! Ой
> котика классифицировали как пёсика, давайте его перенесём в обучающую выборку! Ой,
> это оказывается не белый шум, а невидимый страус! ну пусть живет...
> ой повторно обучили сеть и ничего специально не делали, а невидимы
> страус стал классифицироваться как белый шум.

Это совершенно обычная ситуация для всех так называемых методов машинного обучения (правда преподобный Байес из 18 века все время интересуется что это за такие ученые машины)

http://www.machinelearning.ru/wiki/index.php?title=%D0&...

нейронные сети тут из ряда других классификаторов ничем не выделяются, просто многие только про них и слышали

>Это не имеет отношения к классификации по 1 выборке. Но тут уже овердохрена неоднозначностей. По-хорош>ему, с ними надо разобраться, чтобы получился хороший инструмент, которым пользуются осознанно и обоснованно.

Про них кое-что известно, просто это не совсем то, что хотели бы услышать широкие массы так называемых практиков ну и свидетелей секты святого Маска

https://ru.wikipedia.org/wiki/Теорема_Цыбенко
https://cyberleninka.ru/article/n/metody-i-algoritmy-sozdani...



Ответить | Правка | Наверх | Cообщить модератору

68. "PIFu - система машинного обучения для построения 3D-модели ч..."  +2 +/
Сообщение от freehckemail (ok), 15-Июн-20, 07:44 
> Если тупо скармливая обучающие выборки для какой-то нейронки с рандомной структурой - она подстроится, но остается некий неизвестный процент "фейловых" результатов/артефактов, которые вообще непонятно как устранять и как искать.

Ну во-первых не неизвестный -- у них там хренова гора метрик, по которым этот самый процент предсказывается.
А во-вторых, как устранять вообще-то понятно. Например, можно сделать несколько нейронок и давать ответ по кворуму их мнений. Это конечно зависит от специфики задачи, но в принципе обходные пути есть.

Ответить | Правка | К родителю #43 | Наверх | Cообщить модератору

83. "PIFu - система машинного обучения для построения 3D-модели ч..."  +/
Сообщение от Аноним (85), 15-Июн-20, 19:37 
> А во-вторых, как устранять вообще-то понятно. Например, можно сделать несколько нейронок и давать ответ по кворуму их мнений.

Я немного про другие варианты. Например, была попытка научить нейронные сети играть в тетрис и с наскоку никак не получилось. Как сейчас с тетрисом у нейронок - не в курсе.

Можно попробовать в другую сторону решить задачу - сначала написать простой и тупой алгоритм игры в тетрис (чем проще, тем лучше), а потом "переложить" этот алгоритм на нейронную сеть (которую скорее всего и не придётся обучать, т.е. сразу построить детерминированную нейронную сеть; что-то из серии спроектировать ASIC, только на нейронах, а не на транзисторах). Из плюсов - сразу будет видна нужная структура сети. Ну может и ещё какие-то особенности полученной сети сразу станет видно (сколько слоев, какие нейроны, какие связи и т.д.).
Впоследствии просто в нейронной сети предусматривать нужные структуры, может быть пытаться учить сеть в целом использовать ресурсы детерминированного блока. А может быть станет понятно как правильно обучать нейронку рандомной структуры, чтобы получить нужный детерминированный блок с заданными функциями.

ИМХО, вот за такими подходами будущее нейронок... Но это что-то на уровне фундаметальных исследований, которые не сразу дадут отдачу.


P.S. У животных такое сплошь и рядом. Ориентировочный рефлекс: 3 слуховых нейрона (запаздывание+компаратор) примерно со времен рыб/земноводных. Если звука не было, а потом звук появился - происходит активация выхода "новый звуковой сигнал" и этот выход запускает программу поворота головы на резкий звук.
Мотонейроны управления конечностями для контура ходьба/рысь/галоп (4 нейрона, управляемые ШИМом/ЧИМом) примерно со времён пресмыкающихся. Получается такой хитрый мультивибратор, который сам собой меняет схему перестановки конечностей в зависимости от частоты входного сигнала (3 схемы перестановки конечностей в зависимости от требуемой скорости перемещения).
Эти контуры врождённо заданы и не меняются уже миллионы лет. Нужно подобные вещи в нейронные сети адаптировать, а не просто говорить мол будет "сверточная нейронная сеть" и оно там дальше как-то само решится... или не решится...

Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру