> он получает возможность бесконечно долго дурить исследователю голову.в смысле дурить? Логический вывод и аксиомы никто не отменял, если у человека и ИИ будут разные правила и аксиомы, то они друг друга не поймут - и где тут дурить?
> Например отношения историка и государства, или следователя и коррумпиррванной правительственной
> группы, или сипрограммиста и ядра линукса.
> Или например гениального самого лучшего на планете физика и вселенной.
мне не понятны эти примеры в плане "обдуривания", конкретизируйте один из примеров.
> Другими словами, как только ИИ в своём развит перейдёт некую черты вы
> потеряете над ним контроль.
а кем определена шкала (линейка) развития? или что мы понимаем под "ИИ развивается"? Применим сначала эти понятия к самим себе, "я больше знаю - я надменен", "я решил задачку - получу 5" и т.д. Пугает ли это самого человека? Потеряли мы контроль над "учеными создавшие атомную бомбу"? Если с человеком этого контроля не потеряли, то и с машиной не потеряем, ибо тут даже не котроль "из вне" играет роль, а самоконтроль, человек может себя контроллировать. А теперь вопрос, почему это машина не способна себя контроллировать?
> Более того, факт достижения этой черты ИИ будет скрывать!
ок, тут надо рассмотреть два сценария, грубо говоря ИИ придумал что-нибудь "сверх полезное" и скрыл это от человека, в чем профит ИИ скрывать это? Или же ИИ придумал что-нибудь "сверх вредное (атомную бомбу)", и скрывает это - в чем профит? Допускаем, что ИИ спользовал "атомную бомбу", мы что не узнаем до чего он додумался? Я просто не понимаю "страха" перед ИИ, человек с палкой в руках тоже "наводит страх", так в чем разница? Страх перед "сверх разумом"? ИИ не будет обладать "сверх разумом" и не превзойдет человека.
