Исходное сообщение
"Техника атаки на системы, использующие алгоритмы машинного о..." Отправлено pripolz, 04-Сен-17 18:37
Когда я этим занимался, я думал только о том, что нельзя просто взять, и доверить крупную задачу нейронной сети, или другому тупому алгоритму. Потому, что она будет ошибаться во всех случаях кроме идеальных. Для нормальной системы, от которой что-то зависит, и которую кому-то придёт в голову хакать, нужна во первых уникальная алгоритмическая база, связанная с "пространством критериев". Например, для определения лица человека - биометрия. Просто показывать картинки - мало, нужно выделять всякие точки, и знать, как потом эти наборы точек сравнивать. В случае дорожных знаков - это тоже должна быть своя отдельная "небольшая наука". Иначе да, действительно, даже без хакеров сетка ошибётся на раз два, если база у неё будет "не идеальная". Задумавался ли я о том, что кто-то сможет взломать систему имея доступ к её БД ?