forum.opennet.ru

"Техника атаки на системы, использующие алгоритмы машинного о..."

Форум Разговоры, обсуждение новостей
Версия для распечатки	Пред. тема \| След. тема

Исходное сообщение

[ Отслеживать ]

Отдельный RSS теперь доступен для каждого обсуждения в форуме и каждого минипортала.

. "Техника атаки на системы, использующие алгоритмы машинного о..."	+1 +/–
Сообщение от Аноним (-), 28-Авг-17, 10:42
>> Классно, очень интересная новость. Мир не идеален > Нейросети по определению не идеальны. Однако люди могут быть еще менее идеальными. > Задртоам на заметку: ИИ недавно вынес сильнейшего игрока в доту 1 на > 1. Мир с довольно сложным взаимодействием, непредсказуемостью и неполной информацией. > Как вы понимаете, програмеры тренировавшие нейросетку и близко не стояли по > уровню игры. Но им это и не требовалось. В таких случаях > последние партии ИИ играет против самого себя, потому что в этот > момент он и есть наиболее сильный противник из доступных. Оптимизация (идеализация) системы, как правило, находится в обратно пропорциональной зависимости с устойчивостью этой системы.
Ответить \| Правка \| Наверх \| Cообщить модератору

Оглавление

Техника атаки на системы, использующие алгоритмы машинного о..., opennews, 28-Авг-17, 00:43 [смотреть все]

Классно, очень интересная новость Мир не идеален , Аноним, 28-Авг-17, 00:43 (1) //
- Нейросети по определению не идеальны Однако люди могут быть еще менее идеальным, Аноним, 28-Авг-17, 10:05 (35) //
  - Оптимизация идеализация системы, как правило, находится в обратно пропорционал , Аноним, 28-Авг-17, 10:42 (38) //
    - И тем не менее, люди со временем набирают опыт и их игра улучшается А это - эму, Аноним, 28-Авг-17, 11:27 (49)
      - С этим не спорю Мало того, у каждого человека свой уровень Здесь Я хотел другое, Аноним, 28-Авг-17, 11:33 (51)
        
        Беседа полушарий , Justine, 28-Авг-17, 15:08 (86)
        Когда ИИ превосходит всех на планете - подвинуты границы возможного Командой ко, Аноним, 29-Авг-17, 00:16 (123)
        
        Вы цель видите Вместо слова чай можете подставить другое понятие желательно т, Аноним, 29-Авг-17, 10:16 (140)
        
        Смотря чью и на каком интервале В этом случае можно заметить что пока есть прост, Аноним, 30-Авг-17, 09:58 (157)
        
        Ответы просты Цель которая бы Вас порадовала , при достижении ее в интервале в, Аноним, 31-Авг-17, 00:00 (161)
  - IRL всё намного сложнее и непредсказуемей , Аноним, 28-Авг-17, 10:52 (40) //
    - Какого размера мозг насекомого Даже и не мозг почти - нервный узел Но ведь дос, Аноним, 28-Авг-17, 11:13 (46)
      - Ну так там и взаимодействие так себе, примитивненькое , Аноним, 01-Сен-17, 16:17 (167)
  - Мир с простым предсказуемым взаимодействием, абсолютно детерминированный Шахмат, pripolz, 28-Авг-17, 12:03 (65) //
    - А как же принцип неопределенности Гейзенберга Абсолютного детерминизма нет на с, Аноним, 29-Авг-17, 00:28 (124)
  - Автоматизированный микроменеджмент быстрее ручного, ну офигеть теперь , Тутто, 29-Авг-17, 17:21 (154)
  - Звучит тупо Дота когдато стала интеллектуальной игрой , stalkerdroad, 31-Авг-17, 07:17 (162)
Возможно, дополнительные алгоритмы позволит нейросети находить правильное решени, Аноним, 28-Авг-17, 00:48 (2) //
- От лаборатории касперского, само собой , Аноним, 28-Авг-17, 01:03 (3)
- никакие алгоритмы не позволят , Sw00p aka Jerom, 28-Авг-17, 04:07 (11) //
  - Где прочитать твое доказательство нерешимости , pavlinux, 28-Авг-17, 04:10 (13) //
    - Теорема Гёделя о неполноте пс http math ru lib plm 57Посмотрите в ютубе В А , Sw00p aka Jerom, 28-Авг-17, 04:15 (15)
      - Сами-то поняли если формальная арифметика непротиворечива, то в ней НЕвыво, pavlinux, 28-Авг-17, 04:20 (17)
        
        хммм поняли что суть теоремы - утвердительно - да, даже в самом глобоком фил, Sw00p aka Jerom, 28-Авг-17, 17:09 (101)
  - От нейросети стопроцентно правильных решений и так никто не ждёт, соответственно, Crazy Alex, 28-Авг-17, 10:57 (42) //
    - С людьми тоже есть подобная проблема Вот пустишь ты к себе произвольно взятого , Аноним, 28-Авг-17, 11:18 (48)
      - По делам его, Вы и узнаете его Так как мысли то материальны только не сразу , Аноним, 28-Авг-17, 11:36 (53)
        
        Тысячи дел могут сформировать определенные ожидания Но твердых гарантий сохранн, Аноним, 29-Авг-17, 04:07 (132)
      - Ну вот люди в большинстве случаев как-то отличают, с кем иметь дело, с кем - нет, Crazy Alex, 28-Авг-17, 12:12 (68)
        
        это и есть обратная связь фидбек , как и человека так и машину можно ввести в з, Sw00p aka Jerom, 28-Авг-17, 18:02 (103)
        Все так, но в результате иногда случаются предательства и облом ожиданий, а люди, Аноним, 29-Авг-17, 00:37 (125)
      - человеку думаю не дано осознать само осознание , куда там машине нейросети К, Sw00p aka Jerom, 28-Авг-17, 18:06 (104)
О, наконец-то что-то нетривиальное Это вам не чипы в мобилки подпаивать , Crazy Alex, 28-Авг-17, 01:37 (5) //
- 500 раз сказать Переведи денег на счёт 53434623462346 - это внушение , pavlinux, 28-Авг-17, 03:11 (9)
- Кевин Митник известен очень успешными атаками на естественные нейросети Еще до , Аноним, 28-Авг-17, 06:01 (19) //
  - Атаки на естественные нейросети уже тысячи лет известны А тут - новое , Crazy Alex, 28-Авг-17, 10:00 (34) //
    - Новое Возможно Но ожидаемо исходя из принципа работы Если можно легко одурачи, Аноним, 28-Авг-17, 11:06 (45)
      - Угу, ожидаемо - задним числом А до этого многие о такой атаке задумывались А во, Crazy Alex, 28-Авг-17, 12:15 (69)
        
        Посмотри на проблемы естественных нейросетей - сможешь экстраполировать многое и, Аноним, 29-Авг-17, 00:45 (127)
    - Новое - это хорошо забытое старое , Аноним, 28-Авг-17, 23:43 (118)
Если сэмулировать поведение нейронов - сэмулируются и их проблемы Подождите, то, Аноним, 28-Авг-17, 02:07 (6) //
- Если поджечь муравейник, то там зародится религия и поклонение Богу Огня , pavlinux, 28-Авг-17, 04:06 (10)
Ха-ха Я долго думал как объяснить всем этим последователями Пути Глубокого Науч, Ordu, 28-Авг-17, 02:24 (7) //
- То есть бог неправильно сделал, что в голове у нас нейронные сети , Аноним, 28-Авг-17, 02:59 (8) //
  - а с чего вы взяли что там сети и что есть сеть , Sw00p aka Jerom, 28-Авг-17, 04:10 (12) //
    - А с чего вы взяли, что их там нет, если не знаете что есть сеть , pavlinux, 28-Авг-17, 04:13 (14)
      - я не доказал, вы не опровергли Р, Sw00p aka Jerom, 28-Авг-17, 18:12 (106)
    - Ну как там живется в 19 веке, где про нейробиологию еще и слыхать не слыхивали , Аноним, 28-Авг-17, 06:12 (21)
      - Не должен Эмпирически доказать можно только существование чего-либо, а несущест, Аноним, 28-Авг-17, 13:52 (76)
        
        Ты забываешь о принципе То, что принято без доказательств, может быть отвергнут, Аноним, 28-Авг-17, 15:50 (92)
        
        Бог - есть - истинное утверждение, истинность которого мы не докажем и не опро, Sw00p aka Jerom, 28-Авг-17, 18:21 (108)
        
        поправочка речевая конструкция - языковая конструкция, Sw00p aka Jerom, 28-Авг-17, 18:35 (110)
        Это теорема из области математики, и не надо приписывать ей какие-то другие смыс, Аноним, 28-Авг-17, 20:53 (112)
        
        а как по вашему называется та точная наука, которая способна объяснить всё, Sw00p aka Jerom, 28-Авг-17, 23:32 (117)
        
        Первый раз слышу о таком принципе Если он распространяется на утверждение бога, Аноним, 28-Авг-17, 20:49 (111)
        
        Неудивительно его же нет в школьной программе Абсолютно верно Так ведь это нево, Аноним, 28-Авг-17, 21:05 (113)
        
        Если что-то проявляется хоть каким-то образом, то это можно использовать как док, Аноним, 29-Авг-17, 20:04 (155)
        
        Лучше докажи, что ты не дурак , Аноним, 28-Авг-17, 23:56 (121)
        
        про чайник Рассела, он ничего о существовании там не говорил, он говорил о вере , Sw00p aka Jerom, 28-Авг-17, 18:18 (107)
  - Как смог так и сделал По своему образу и подобию , EHLO, 28-Авг-17, 09:28 (29)
  - То есть бог правильно сделал, что пустил всем млекопитающим возвратный гортанный, Очередной аноним, 28-Авг-17, 09:38 (33) //
    - Жираф хотя бы работает и функционирует, а вот человеку даже однолеточное искусст, Аноним, 28-Авг-17, 11:17 (47)
      - Мечтаешь посмотреть что могут органические и полуорганические технологии Смотри, Аноним, 28-Авг-17, 11:41 (55)
        
        Сделают, ибо воистину Тверда твоя вера в тюхнологии, сын мой Похвально, похв, Аноним, 28-Авг-17, 15:59 (93)
        
        Если я вижу пути реализации идей - я в затею верю Потому что технически реализу, Аноним, 29-Авг-17, 01:59 (129)
      - Мда, соображалки не хватило понять, что вопрос состоял в оптимальности и целесоо, Очередной аноним, 28-Авг-17, 11:50 (59)
        
        Ну не знаю В Штатах вон посчитали нужным исправить божью ошибку сразу удалять , Аноним, 28-Авг-17, 12:03 (64)
        
        Продолжаете мракобесить А потом детишки стали умирать Посчитали бы, скольк, Очередной аноним, 28-Авг-17, 13:39 (73)
        
        Хорошо, объясню несколько доступнее Человек не может знать всего, поэтому нельзя, Аноним, 28-Авг-17, 13:58 (77)
        
        Область существования бога, видимо, хорошо изучена, раз ты в этом вопросе так ка, Аноним, 28-Авг-17, 14:10 (80)
        
        А где я категоричен Цитатку пожалуйста Наука описывает средства А не источник , Аноним, 28-Авг-17, 15:44 (90)
        
        Аргументы и факты, понятно Про аппендикс я тебе уже выше написал, что он еще не, Очередной аноним, 28-Авг-17, 14:29 (82)
        
        С твоей стороны же вообще никаких ссылок не было Уверен, источником твоих рассу, Аноним, 28-Авг-17, 15:42 (88)
        Не хотелось бы тыкать Вас в цитату о советах космического масштаба и космической, Онанимус, 28-Авг-17, 16:46 (97)
        
        Ога, сами изучайте естествознание по русским народным сказкам в издании Афанасье, Очередной аноним, 29-Авг-17, 11:32 (150)
    - Если бы Бог так не сделал, ты бы не уверовал в эволюцию Зачем Богу нужно было, ч, funny.falcon, 28-Авг-17, 11:53 (60)
      - сопсно, а зойчем верить в эволюцию , uname a, 28-Авг-17, 14:12 (81)
        
        Неудачная попытка экстраполяции Бог ведь нуждается в том, чтобы в него верили , Аноним, 28-Авг-17, 15:03 (85)
        
        Скорее неудачная попытка троллинга на техническом ресурсе , Аноним, 29-Авг-17, 00:00 (122)
  - Естественно Он так же как и эти последователи Пути Глубокого Научения не понима, Ordu, 28-Авг-17, 12:44 (71)
- Прелесть ИИ в том что понимания и не требуется В природе нейросети вообще самоз, Аноним, 28-Авг-17, 06:38 (24) //
  - Дайте угадаю - это текст рекламного плаката на том доме, у которого высадился пе, тоже Аноним, 28-Авг-17, 09:09 (28) //
    - Это знания из реального мира вокруг нас Посмотри на мир вокруг себя На живых с, Аноним, 28-Авг-17, 09:37 (32)
      - искусственные целиком не вписываются в гармонию мироустройства, их цели в общем , Анонимс, 28-Авг-17, 12:54 (72)
        
        Кто и как это определил Вы в вашем праве вернуться обратно на пальмы или в какие, Аноним, 28-Авг-17, 14:48 (84)
        
        с людьми давно не спорю, махнул на них рукой, пальмы слишком технологично, в лим, Анонимс, 28-Авг-17, 15:44 (89)
        
        Странно, местные админы упоминали только про вайфай в аду Уверены что вас черти, Аноним, 29-Авг-17, 02:09 (130)
        
        попробуйте формализировать состояние вещества в n-мерном пространстве и передачу, Анонимс, 03-Сен-17, 15:04 (168)
  - Из сабжа как раз понятно, для чего требуется понимание , Аноним, 28-Авг-17, 10:57 (43) //
    - Сомневаюсь что коэффициенты натренированной нейросети можно полноценно восстанов, Аноним, 28-Авг-17, 11:46 (57)
  - Процессору тоже понимание не требуется Вон миллиарды хомячков вполне в состояни, Ordu, 28-Авг-17, 11:03 (44) //
    - 1 А что, обязательно надо понимать, чтоб пользоваться Ты же не понимаешь, как , Аноним, 28-Авг-17, 11:29 (50)
      - Не обязательно, я же сказал выше об этом Зачем ты переспрашиваешь Да, и это хор, Ordu, 28-Авг-17, 12:36 (70)
        
        Это - в бронзу Давай больше перлофф, народу надо ржать по понедельникам, а то т, _, 28-Авг-17, 16:47 (98)
        
        Объяснишь юмор , Ordu, 28-Авг-17, 17:02 (100)
        
        http taviak ru distance Materials 162105 uchebnyye 20posobiya Aerodinamika 20T, ЫЫ, 29-Авг-17, 09:34 (138)
        
        Ой, ну давайте перефразируем, если вам так важен русский приоритет Братья Райт, Ordu, 29-Авг-17, 10:50 (142)
        
        Братья Райт первыми нашли способ использовать аэродинамику для исследования сам, ЫЫ, 29-Авг-17, 10:55 (144)
        
        Окей Я согласен Давайте теперь вернёмся ближе к теме Из этого мы делаем вывод, Ordu, 29-Авг-17, 10:57 (145)
        
        Вывод такой Надо лучше учить матчасть , ЫЫ, 29-Авг-17, 10:59 (147)
        То есть по сути разгвора тебе сказать совершенно нечего Я так и думал Ну иди у, Ordu, 29-Авг-17, 11:07 (148)
        Это выпендреж такой ты спросил в чем юмор И почему твои слова надо в бронзу Эт, ЫЫ, 29-Авг-17, 11:26 (149)
        Вообще-то нет Это оффтоп Каждый раз, когда ты берёшь аналогию или пример оппон, Ordu, 29-Авг-17, 12:49 (153)
        
        Я этого не знаю Это была аллюзия на Футураму Но братья Райт не были первыми, ЫЫ, 29-Авг-17, 10:58 (146)
        
        Знает ли птица про аэродинамику В природе есть более одного способа получить ре, Аноним, 28-Авг-17, 23:19 (116)
        
        И что У человека ещё больше способов получать результат, чем у природы И созда, Ordu, 29-Авг-17, 00:39 (126)
        
        Однако было бы глупо игнорировать удачные примеры и не пользоваться этим Да, и э, Аноним, 29-Авг-17, 04:02 (131)
        
        Для этого и нужна теория Теоретическая модель -- это тоже модель И как и любая, Ordu, 29-Авг-17, 10:50 (143)
        
        Сколько людей может обсчитать электромагнитное поле меняющееся во времени в 3D , Аноним, 30-Авг-17, 11:25 (158)
        
        Вот ты делаешь ту же ошибку, что и большинство людей Ты пытаешься спорить со мн, Ordu, 30-Авг-17, 12:35 (160)
        
        Я попытался понять, но возможно это было не совсем удачно Мне показалась что та, Аноним, 31-Авг-17, 09:33 (163)
    - Все так, но в процессе возникает вопрос а кто кем все-таки пользуется Наскольк, Аноним, 28-Авг-17, 11:48 (58)
хехе Ну прямо Зенитные кодексы Аль-Эфесби Но там это было красивей описано , Аноним, 28-Авг-17, 06:31 (23) //
- В прошлый раз, при упоминании зенитных кодексов, меня заминусовали Посмотрим как, t28, 28-Авг-17, 08:58 (27) //
  - Тебя и в этот раз заминусуют, дело не в зенитных кодексах просто , ЕГЭ для дураков, 28-Авг-17, 09:31 (30)
- Тема атак на нейросети естественного происхождения раскрыта в телесериале Bab, Аноним, 28-Авг-17, 10:41 (37)
В общем и в целом еще одно доказательство отсутствия в природе Большой_Красной_К, Аноним, 28-Авг-17, 08:50 (26)
Чуваки не боятся что за ними робот из будущего прилетит за такие статьи , EHLO, 28-Авг-17, 09:31 (31) //
- Фарш невозможно провернуть назад , Аноним, 28-Авг-17, 10:38 (36) //
  - Провернуть можно Попробуй кнопку реверса , EHLO, 28-Авг-17, 10:47 (39) //
    - И шо, после этого хрюкнет , Аноним, 28-Авг-17, 11:39 (54)
    - С точки зрения нынешней общепринятой термодинамики статфизики, он прав , Аноним, 28-Авг-17, 12:08 (67)
Чё докопались до автомата, он правильно на вопрос ответил Цветочек на картинке , pripolz, 28-Авг-17, 11:55 (61) //
- ах вот оно что ну ок , pripolz, 28-Авг-17, 11:57 (62) //
  - Мне всё равно кажется, что новость как факт фуфло Что ещё можно ожидать от по, pripolz, 28-Авг-17, 12:01 (63) //
    - Это синдром Ватсона - когда вам все разжевали, ткнули пальцем - вам все кажетс, ЫЫ, 29-Авг-17, 09:08 (137)
      - Когда я этим занимался, я думал только о том, что нельзя просто взять, и доверит, pripolz, 04-Сен-17, 18:37 (169)
Пора уже FSF задуматься над свободной лицензией для данных машинного обучения , Аноним, 28-Авг-17, 12:06 (66) //
- Пора уже FSF задуматься над лицензией свободного использования собственных мозго, Аноним, 28-Авг-17, 13:49 (74)
Не водись с человеками, они тебя научат плохому , YetAnotherOnanym, 28-Авг-17, 13:49 (75)
А нового-то что Гуглопереводчик уже давно время от временип чему-нибудь плохому, Аноним, 28-Авг-17, 14:06 (79)
непростой слитно , 666, 28-Авг-17, 15:16 (87) //
- есть такое правило, но раздельно исконней, у чехова можете встретить, Анонимс, 28-Авг-17, 17:48 (102)
А в чем бэкдор Если систему научили, что красный знак с желтой кляксой это знак , Аноним, 28-Авг-17, 16:12 (95) //
- А бэкдор в том что тебя обо всем этом можно и не информировать Реконструировать, Аноним, 29-Авг-17, 04:25 (133)
хм ну а чего птенчики вон тоже переобучаются вместо трёх полосок на клюве реаг, номия, 28-Авг-17, 17:01 (99)
Прикиньте если в городе все машины автоматически-управляемые на основе данных ма, vitalif, 28-Авг-17, 18:11 (105) //
- Прототип похожей атаки неплохо показан в хрониках сары коннор Там правда ИИ лом, Аноним, 29-Авг-17, 07:33 (135) //
  - Так обычный классический комп это еще цветочки на фоне умных вещей Чем сложнее, Вареник, 31-Авг-17, 15:57 (166)
Комментарии пока не читал, может уже было 2020 год Едешь ты по мосту на тесле-и, Аноним, 28-Авг-17, 18:31 (109) //
- Можно заставить видеокамеру сообщать, что стены впереди нет, но данные с датчико, Аноним, 28-Авг-17, 23:06 (114) //
  - Ну да, а это всё будет отлично оттестировано А потом будут всплывать мелочные б, Аноним, 29-Авг-17, 05:51 (134)
  - Вот, вот где надо набирать разработчиков критически важных систем А мужики то - , ыы, 29-Авг-17, 07:55 (136) //
    - Тут вопрос про обучение плохому, а не про программные аппаратные ошибки Вечно в, Аноним, 29-Авг-17, 09:49 (139)
      - Ну так камеру же им надо камеру дополнительную а программная там ошибка или, ЫЫ, 29-Авг-17, 10:33 (141)
        
        Конечно важно Алгоритм, написанный человеком, сторого детерминирован в общем с, Аноним, 29-Авг-17, 11:40 (151)
        
        а если его писал дурак Откуда только берутся такие оптимисты а знаю Это люд, ЫЫ, 29-Авг-17, 12:16 (152)
        Строго детерминированный алгоритм уронил Arian 5 , Аноним, 30-Авг-17, 12:23 (159)
    - Ну что за юношеский максимализм Все ошибаются что бы о себе ни думали и своей, Вареник, 31-Авг-17, 15:54 (165)
- Не-а 2023 год, идешь ты по мосту пешком, а злые хакиры посреди моста прикрепил, УЖАС СОВКА, 30-Авг-17, 00:12 (156)
Т е SkyNET и Большого Брата можно обмануть У человечества есть шанс Отличная н, Вареник, 31-Авг-17, 15:47 (164)

Форумы | Темы | Пред. тема | След. тема

Партнёры:

Хостинг:

Закладки на сайте
Проследить за страницей

Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру