> Вы это пишите так, как будто людям доступен промысел Божий.
> То что там создатели думали себе, когда создавали, это одно, то что
> в итоге получилось, это совсем другое. И откуда оно вообще в
> этот мир пришло, третье.

Ну так в вашем понимании ИИ, созданный человеком, будет превосходить его да еще вводить в заблуждение. Нам же не ведомы промыслы Бога, и тем более мы его никак не введем в заблуждение. ИИ не способна будет осознать, что есть человек ее создатель, но мы как создатели можем заложить идею о нас и не более.

> В смысле человек не может велосипедом научиться управлять без специального обучения? Дети
> просто садятся и едут. Достаточно общие детали указать - ехать вперед,
> крутить педали для движения, руль для смены траектории, балансировать перемещая вес.

А это что не обучение? Откуда пилоту знать что данный марсианский рычаг это запуск двигателя, если он не прочтет инструкцию или ему не показать этого? Методом тыка? - можно и так. Откуда ребенок будет знать что педали надо крутить ногами, а не руками?

> Но даже если этого не указывать, человек в первый раз в жизни
> увидевший велосипед сможет и сам допереть что да как, хоть это
> и займёт некоторое время.

Метод "тыка" (проб и ошибок), вот и ИИ так уметь должно.

> А великом может управлять элементарная нейронка, причем сама без всякого предварительного
> обучения. Само научиться в процессе.

ну ок, переберет она все возможные случаи и что? они же все равнозначны будут? как ей понять чего она "желает" от этого перебора? какое ей состояние необходимо? отсюда и получаются что надо все сводить к какому-то базису, от которого зависит принятие решения. Этот базис в случае логики - аксиомы.

> Вы вот велосипедом управлять умеете, или у вас на тексте чисто специализация?

Чесно, - нет, моторика хромает.