Заявления крупных бизнесменов про опасность искусственного интеллекта ("умнее" человеческого) — это, конечно, в первую очередь PR. Такие заявления широко и бесплатно тиражируются, а заявивший получает вкусные плюшки.

Впрочем, самой опасности это не исключает. Кивать на далёкость от ИИ современных технологий распознавания не стоит — это, всего лишь, одно очень узкое применение даже не столько ИИ, сколько нейронных сетей (да и то — часто в комбинации с другими технологиями, совершенно традиционными).

Однако, огромное отличие ситуации с ИИ от, например, путешествий к звёздам или термоядерной энергетики в том, что для разработки ИИ нет объективных технических препятствий. Единственное, что останавливает — простое непонимание, как работает мозг — не на уровне биологии (на эту тему исследований хватает, да и нет никакой необходимости повторять биологию), а на уровне алгоритмов.
Это понимание может придти к кому–то через месяц, через год, через десять. А может и уже пришло, просто мы ещё не успели узнать. И, как только оно придёт, ИИ появится очень быстро. Если кто–то хочет бояться, то пугаться стоит именно этого факта.

Другое дело, что дёргаться по этому поводу достаточно глупо. В отличии от каких–нибудь биотехнологий, для которых нужно сложное оборудование и лаборатории, благодаря чему государства могут регулировать ход исследований через ограничение доступа к ним (опыты над человеком, к примеру), с ИИ всё проще — любой может сесть за компьютер и заниматься этим без ограничений и, при желании, потом дать возможность повторить ИИ любому в мире, простым распространением исходников.
Т.е. это всё, рано или поздно, неизбежно — останется лишь расслабиться и получать удовольствие.

Довольно любопытным мне представляется вот что: мышление людей намертво завязано на взаимодействие мозга с остальным телом — на двигательную активность, органы чувств, различные химические процессы. Поэтому, когда появится ИИ то, каким бы его не планировали разработчики, он не будет мыслить и вести себя подобно человеку. Даже если удастся, каким–то, образом добиться начального подобия, всё равно очень быстро он станет воспринимать реальность и рассуждать по–другому — ведь ИИ подрузамевает самообучение, а оно будет происходить в совершенно другом окружении (в плане чувств, тела и пр.), нежели у человека.

Поэтому, сначала созданному ИИ придётся пройти что–то типа человеческой эволюции, чтобы обжиться в окружении, в которое его поместят разработчики. Чтобы стать психически устойчивым. Создать его сразу таким не удастся по объективным причинам — откуда, например, у ИИ возьмётся мотивация что–либо для кого–либо (или против кого–либо) делать, помимо потребления электричества? У людей такая мотивация — следствие различных внутренних конфликтов, биологических процессов, длительного взаимодействия с другими людьми, с окружающей средой и прочее. Очевидно, придётся обеспечивать что–то подобное для ИИ.
Однако, после того как с каким–то экземпляром ИИ этот путь один раз будет пройден, можно будет просто делать его копии, каждая из которых уже сможет устойчиво развиваться далее. Вот с этого момента ситуация станет интереснее всего.

( + сотня-другая комментов: ссылка )