>мне не понятны эти примеры в плане "обдуривания", конкретизируйте один из примеров.

Вы были ребёнком? Есть ли у вас дети? Скрывали ли вы от родителей что-то о чём ваши родители хотели бы знать? Например привод домой девочки\мальчика? Успешно?
Концепция обмана вам знакома?
Так вот, одному человеку не проблема что-то скрыть от другого человека, хотя при желании иногда и можно вывести обманщика на чистую воду.
Но когда система сильно сложнее исследователя, например целая государственная машина на службе коррумпированных чиновников, против следователя расследующего исчезновение детей, то шансов практически нет, такая система может сколько угодно фальсифицировать любые улики. Печатать любые новости, итд.

> кем определена шкала (линейка) развития? или что мы понимаем под "ИИ развивается"?

Вы хотите казаться глупее чем вы есть?

>ок, тут надо рассмотреть два сценария, грубо говоря ИИ придумал что-нибудь "сверх полезное" и скрыл это от человека, в чем профит ИИ скрывать это?

ИИ придумал скрыть факт своих истинных возможностей от человека - это и есть сверхполезное.

>в чем профит ИИ скрывать это?

В том же в чём у людей профит скрывать свои намерения и возможности друг от друга.

>Допускаем, что ИИ спользовал "атомную бомбу", мы что не узнаем до чего он додумался?

Узнаете, но толку вам от этого знания когда у вас над башкой ЯО детонировало?

>Я просто не понимаю "страха" перед ИИ, человек с палкой в руках тоже "наводит страх", так в чем разница?

Вы серьезно, не видите разницы между человеком и компьютером у вас на столе?
Подумайте хорошенько, в чем ?*#@$ разница.

>ИИ не будет обладать "сверх разумом" и не превзойдет человека.

Сильное заявление. В отдельных областях ИИ УЖЕ превосходит человека. Например пилотирует истребитель, или водит машину, так-же некоторые сети распознавания образов удалось докрутить до меньшего нежели у людей процента ошибок.
Но это полная фигня всё, ИИ ненужно превосходить человека в человеческих понятиях превосходства.