The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



Вариант для распечатки  
Пред. тема | След. тема 
Форум Разговоры, обсуждение новостей
Режим отображения отдельной подветви беседы [ Отслеживать ]

Оглавление

Техника незаметного искажения фотографий для нарушения работы систем распознавания лиц, opennews (ok), 23-Июл-20, (0) [смотреть все]

Сообщения [Сортировка по времени | RSS]


1. "Техника незаметного искажения фотографий для нарушения работ..."  –1 +/
Сообщение от A.Stahl (ok), 23-Июл-20, 10:24 
Ну будут обучать эти ваши нейросетки на картинках и с этими помехами, а не только на "чистых". Через какое-то время вернёмся к исходному состоянию вещей.
Ответить | Правка | Наверх | Cообщить модератору

4. "Техника незаметного искажения фотографий для нарушения работ..."  +8 +/
Сообщение от Аноним (4), 23-Июл-20, 10:31 
Не вернёмся.
Ответить | Правка | Наверх | Cообщить модератору

44. Скрыто модератором  –17 +/
Сообщение от Аноним (44), 23-Июл-20, 12:44 
Ответить | Правка | Наверх | Cообщить модератору

106. Скрыто модератором  +7 +/
Сообщение от Какаянахренразница (ok), 23-Июл-20, 19:02 
Ответить | Правка | Наверх | Cообщить модератору

141. "Техника незаметного искажения фотографий для нарушения работ..."  +/
Сообщение от Антон (??), 24-Июл-20, 09:47 
Обычно их перед подачей нейросетке и так обрабатывают, делают меньше и убирают лишнюю информацию. Тут вопрос в том, чтобы конкретный метод конвертации загадить, но всё это легко чинится.
Ответить | Правка | К родителю #4 | Наверх | Cообщить модератору

169. "Техника незаметного искажения фотографий для нарушения работ..."  +1 +/
Сообщение от Аноним (169), 28-Июл-20, 18:10 
> Не вернёмся.

Правильно, начнется новый раунд страдания фигней. А вот энергию потраченную на это уже и правда не вернуть.

Ответить | Правка | К родителю #4 | Наверх | Cообщить модератору

5. "Техника незаметного искажения фотографий для нарушения работ..."  +4 +/
Сообщение от Аноним (5), 23-Июл-20, 10:32 
Нейросетки настолько flawed-by-design - что можно практически до бесконечности вносить разные паттерны помех, и это будет ломать детектирование. Либо (если есть доступ в весовым коэффициентам) - то можно вообще подобрать паттерн, который будет приводить к ложному детектированию в одном человеке другого.
Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

27. "Техника незаметного искажения фотографий для нарушения работ..."  +/
Сообщение от Аноним (27), 23-Июл-20, 12:09 
Не больше, чем естественные нейросети людей. Несколько лет назад были продемонстрированы adversarial examples, сгенерированные обратным распространением на ИНС, но обманывающе ЕНС.
Ответить | Правка | Наверх | Cообщить модератору

72. "Техника незаметного искажения фотографий для нарушения работ..."  +4 +/
Сообщение от Аноним (72), 23-Июл-20, 14:38 
"нейросети людей" имеют мало общего с "нейросетями машины". Машинные сети суть обычные математические модели, которые подгоняются под нужный результат.
Ответить | Правка | Наверх | Cообщить модератору

153. "Техника незаметного искажения фотографий для нарушения работ..."  +/
Сообщение от red75prim (?), 24-Июл-20, 14:04 
А мозги - это магия, невыразимая математическими моделями. Так?
Ответить | Правка | Наверх | Cообщить модератору

156. "Техника незаметного искажения фотографий для нарушения работ..."  +/
Сообщение от Школьник (ok), 24-Июл-20, 17:29 
Именно так.
Ответить | Правка | Наверх | Cообщить модератору

171. "Техника незаметного искажения фотографий для нарушения работ..."  –1 +/
Сообщение от Аноним (-), 29-Июл-20, 07:48 
> Именно так.

"Прогуливайте школу - и ваша жизнь будет наполнена магией и чудесами".

Ответить | Правка | Наверх | Cообщить модератору

186. "Техника незаметного искажения фотографий для нарушения работ..."  +/
Сообщение от Michael Shigorinemail (ok), 30-Июл-20, 01:13 
Поступите в нормальную школу -- и научитесь уже замечать занятные "совпадения", а не списывать всё подряд на "а, показалось".
Ответить | Правка | Наверх | Cообщить модератору

188. "Техника незаметного искажения фотографий для нарушения работ..."  +/
Сообщение от Аноним (-), 30-Июл-20, 21:30 
> Поступите в нормальную школу --

Been there, done that.

> и научитесь уже замечать занятные "совпадения",

Опять же - я в этом сильно выше среднего. Просто наблюдение.

> а не списывать всё подряд на "а, показалось".

В моем характере - расследовать все "непонятки". Я не люблю unexplained. Это прерогатива вас и прочих школолольников.

Ответить | Правка | Наверх | Cообщить модератору

170. "Техника незаметного искажения фотографий для нарушения работ..."  +/
Сообщение от Аноним (-), 29-Июл-20, 07:47 
> "нейросети людей" имеют мало общего с "нейросетями машины". Машинные сети суть обычные
> математические модели

Модели чего? Нейронов?! :) А виртуальные машины, тогда, модели компьютеров... и, в общем то, работают.

> которые подгоняются под нужный результат.

Не подгоняются. А обучаются, путем тыкания носом, по типу котенка. А тут идея в том чтобы в процессе обучения подогнать пару раз вместо лотка горшок с цветами безпалева. Ну а дальше кое-кто с удивлением обнаруживает что ему зассали все цветы.

Ответить | Правка | К родителю #72 | Наверх | Cообщить модератору

73. "Техника незаметного искажения фотографий для нарушения работ..."  +1 +/
Сообщение от Ноним (?), 23-Июл-20, 14:55 
>Не больше, чем естественные нейросети людей.

One pixel attack for fooling deep neural networks https://arxiv.org/abs/1710.08864

Для любого человека там будет просто битый пиксель (который еще и найти будет не так просто), а для машины будет ппц

Ответить | Правка | К родителю #27 | Наверх | Cообщить модератору

76. Скрыто модератором  –13 +/
Сообщение от Аноним (44), 23-Июл-20, 15:19 
Ответить | Правка | Наверх | Cообщить модератору

92. Скрыто модератором  +1 +/
Сообщение от Аноним (92), 23-Июл-20, 16:33 
Ответить | Правка | Наверх | Cообщить модератору

103. "Техника незаметного искажения фотографий для нарушения работ..."  +/
Сообщение от Аноним (103), 23-Июл-20, 18:15 
> Не больше, чем естественные нейросети людей.

Больше, учитывая то, что люди до сих пор не научились использовать их потенциал.

Ответить | Правка | К родителю #27 | Наверх | Cообщить модератору

7. "Техника незаметного искажения фотографий для нарушения работ..."  +3 +/
Сообщение от Онаним (?), 23-Июл-20, 10:34 
Не так просто - объём свёртки вырастет настолько, что производительность будет ниже плинтуса.
Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

9. "Техника незаметного искажения фотографий для нарушения работ..."  +3 +/
Сообщение от имя_ (?), 23-Июл-20, 10:57 
Будут, но это что-то по типу вечной проблемы "броня" - "снаряд", поэтому не так страшно.
Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

172. "Техника незаметного искажения фотографий для нарушения работ..."  +/
Сообщение от Аноним (-), 29-Июл-20, 07:56 
> Будут, но это что-то по типу вечной проблемы "броня" - "снаряд", поэтому
> не так страшно.

Нууу... обычному смертному так и обычной пистолетной пули достаточно. Хоть, конечно, и можно себе забахать годный бронежилет, если задаться такой целью.

Ответить | Правка | Наверх | Cообщить модератору

16. "Техника незаметного искажения фотографий для нарушения работ..."  +5 +/
Сообщение от КО (?), 23-Июл-20, 11:26 
Там засада в том, что если научить и ту и другую считать одинаковой, то в одинаковые добавятся и еще куча других, вплоть до бегемотов. А если начать отличать их, то рано или поздно нейросеть найдет закономерность, что главное это процент голубого неба.
Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору
Часть нити удалена модератором

67. "Техника незаметного искажения фотографий для нарушения работ..."  +3 +/
Сообщение от Crazy Alex (ok), 23-Июл-20, 14:16 
Так естественный интеллект примерно такэже учат
Ответить | Правка | К родителю #172 | Наверх | Cообщить модератору

88. "Техника незаметного искажения фотографий для нарушения работ..."  –2 +/
Сообщение от Аноним (88), 23-Июл-20, 16:17 
Новость не читай, сразу комментируй. Там сказано, что обработанная таким образом фоточка "отравляет" обученную сеть и даже если потом добавить необработанную, на 80% падает распознавание. Тпк что фоточки с помехами, наоборот, будут выкидывать.
Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

91. "Техника незаметного искажения фотографий для нарушения работ..."  –2 +/
Сообщение от A.Stahl (ok), 23-Июл-20, 16:28 
Обученную на чистых фотках. Будут, значит, учить на всяких разных фотках.


Ответить | Правка | Наверх | Cообщить модератору

90. "Техника незаметного искажения фотографий для нарушения работ..."  –1 +/
Сообщение от Paul (??), 23-Июл-20, 16:21 
Можешь сразу лечь под киберфашистов.
Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

189. "Техника незаметного искажения фотографий для нарушения работ..."  +/
Сообщение от Аноним (-), 30-Июл-20, 21:33 
> Можешь сразу лечь под киберфашистов.

Это примерно так чтоли?! https://s0.rbk.ru/v6_top_pics/resized/590xH/media/img/6/60/7...

Ответить | Правка | Наверх | Cообщить модератору

107. "Техника незаметного искажения фотографий для нарушения работ..."  +/
Сообщение от Ordu (ok), 23-Июл-20, 19:07 
> Ну будут обучать эти ваши нейросетки на картинках и с этими помехами, а не только на "чистых". Через какое-то время вернёмся к исходному состоянию вещей.

Не, ты не подсекаешь. Будет генератор картинок, сбивающих с толку нейросетку, будет возможность изучать как так случается, почему нейросетка сбивается, и кто-нибудь разберётся и научится делать нейросетки нечувствительные к этим помехам. То есть мы вернёмся к, как бы, исходному состоянию вещей, но не совсем: нейросетки будут лучше, возможно они не только с этими помехами будут справляться, но и с какими-нибудь другими. А может это исследование приведёт к каким-нибудь более крутым изменениям.

Ответить | Правка | К родителю #1 | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру