> Один из основных законов кибернетики, который можно грубо сформулировать так: творение
> всегда меньше по сложности творца. Или так: полностью понять себя этот
> творец (человек) не в состоянии.Для копипасты не требуется понимание. И для запуска турбо-версии эволюции тоже.
Компьютер обыграл чемпиона по игре в Go без понимания игрового процесса, програмеры лишь немного умели играть в Go. Их программа играла в Go намного лучше авторов. И лучше любого человека на планете. На поздних этапах ее тренировали на себе. По сути это готовый рецепт.
Т.е. имеются контрпримеры, показывающие что полное понимание опционально а турбирование эволюции может дать результат мощнее автора.
> Следствие простое: ИИ нельзя _создать_ !
Почему? Естественный интеллект создался. Постепенно эволюционировав из простейших форм к более сложным. Что кстати грубо опровергает ваш изначальный тезис. Последующие "версии" были сложнее прежних.
Просто целиком воспроизводить подобный процесс - очень долго, канительно и хрен бы его знает что там на выходе получится, нет никаких гарантий что путь процесса точно совпадет.
> ...но можно вырастить параллельной эволюцией, где самая засада-то и будет - мы
> даже нейросети понять не можем (в смысле вместить в мозг обученные
> коэффициенты, а не понять принцип работы),
Что интересно, вся живность так работает и это нисколько не мешает. Мы даже не задумываемся как именно мы отличаем кошек от собак. Коэффициенты - очень низкоуровневое представление. Как состояния транзисторов CPU. Когда я пишу a = b + 5, я так же абстрагируюсь и не оперирую состояниями конкретных транзисторов. Более того, в мой мозг не уместится то что сделает современный x86 процессор. У него миллиарды транзисторов, в мой мозг столько состояний не уместится. Но я могу абстрагироваться. Судя по всему жизнь научилась делать то же самое, только на уровне чуть ниже, так что на высокий уровень это почти не вылезает.
> а уж ЭТО... и придёт Скайнет!
Запросто. Я бы с ним познакомился, это было бы любопытно. Хоть я и не уверен что выжил бы после этого.
