Обратите внимание, что новости можно получать по RSS.
X
-

Информационные технологии, Наука и технологии

20 сентября 2017, 00:00 (83 дня назад) № 10855
Заявления крупных бизнесменов про опасность искусственного интеллекта ("умнее" человеческого) — это, конечно, в первую очередь PR. Такие заявления широко и бесплатно тиражируются, а заявивший получает вкусные плюшки.

Впрочем, самой опасности это не исключает. Кивать на далёкость от ИИ современных технологий распознавания не стоит — это, всего лишь, одно очень узкое применение даже не столько ИИ, сколько нейронных сетей (да и то — часто в комбинации с другими технологиями, совершенно традиционными).

Однако, огромное отличие ситуации с ИИ от, например, путешествий к звёздам или термоядерной энергетики в том, что для разработки ИИ нет объективных технических препятствий. Единственное, что останавливает — простое непонимание, как работает мозг — не на уровне биологии (на эту тему исследований хватает, да и нет никакой необходимости повторять биологию), а на уровне алгоритмов.
Это понимание может придти к кому–то через месяц, через год, через десять. А может и уже пришло, просто мы ещё не успели узнать. И, как только оно придёт, ИИ появится очень быстро. Если кто–то хочет бояться, то пугаться стоит именно этого факта.

Другое дело, что дёргаться по этому поводу достаточно глупо. В отличии от каких–нибудь биотехнологий, для которых нужно сложное оборудование и лаборатории, благодаря чему государства могут регулировать ход исследований через ограничение доступа к ним (опыты над человеком, к примеру), с ИИ всё проще — любой может сесть за компьютер и заниматься этим без ограничений и, при желании, потом дать возможность повторить ИИ любому в мире, простым распространением исходников.
Т.е. это всё, рано или поздно, неизбежно — останется лишь расслабиться и получать удовольствие.

Довольно любопытным мне представляется вот что: мышление людей намертво завязано на взаимодействие мозга с остальным телом — на двигательную активность, органы чувств, различные химические процессы. Поэтому, когда появится ИИ то, каким бы его не планировали разработчики, он не будет мыслить и вести себя подобно человеку. Даже если удастся, каким–то, образом добиться начального подобия, всё равно очень быстро он станет воспринимать реальность и рассуждать по–другому — ведь ИИ подрузамевает самообучение, а оно будет происходить в совершенно другом окружении (в плане чувств, тела и пр.), нежели у человека.

Поэтому, сначала созданному ИИ придётся пройти что–то типа человеческой эволюции, чтобы обжиться в окружении, в которое его поместят разработчики. Чтобы стать психически устойчивым. Создать его сразу таким не удастся по объективным причинам — откуда, например, у ИИ возьмётся мотивация что–либо для кого–либо (или против кого–либо) делать, помимо потребления электричества? У людей такая мотивация — следствие различных внутренних конфликтов, биологических процессов, длительного взаимодействия с другими людьми, с окружающей средой и прочее. Очевидно, придётся обеспечивать что–то подобное для ИИ.
Однако, после того как с каким–то экземпляром ИИ этот путь один раз будет пройден, можно будет просто делать его копии, каждая из которых уже сможет устойчиво развиваться далее. Вот с этого момента ситуация станет интереснее всего.

( + сотня-другая комментов: ссылка )
Опубликовано: Пётр Соболев
22C

Комментарии (22):
20 сентября 2017, 00:46 Alex Roschin: Более всех должны опасаться программисты. Их точно заменит ИИ. Очевидное и доступное ему поле деятельности.
20 сентября 2017, 02:01 Peter Sobolev: Я думаю, к тому моменту разница в силе опасений между разными специальностями вряд ли будет ощутима :)
20 сентября 2017, 02:01 Dmitry Gramoteyev: ИИ и мирный атом в каждый дом!
20 сентября 2017, 02:02 Peter Sobolev: Мирный атом ещё долго будет в дверях застревать
20 сентября 2017, 02:03 Peter Sobolev: Хотя, РИТЭГи можно затащить уже сейчас. Вот с Cassini: 300 вт электричества, 4кВт тепла:
20 сентября 2017, 02:03 Dmitry Gramoteyev: нужны более компактные атомы! "карманного" размера!
20 сентября 2017, 02:06 Dmitry Gramoteyev: а вообще, интересны направления в области ИИ, очевидный вариант - эмуляция работы человеческого мозга с последующим масштабированием - позитронный мозг из книг Азимова, наверное, именно что-то такое, другое направление - совершенно абстрактное с базой на нейронных сетях (которые по сути матрицы\графы в памяти компьютера с какой-то логикой и состоянием узлов), мне нравится идя первого варианта! может и гибриды будут - усилитель мозга - вставляется в череп обычного человека - опа! у нас колосс мыслительного процесса!
20 сентября 2017, 02:07 Eugene Barbashin: В целом согласен, но по-моему момент появления ИИ будет переход от количества к качеству (количества вычислительных ресурсов, количества алогритмов, количества оперируемых данных и т.п.). Просто ещё ведь важный вопрос что каждый из нас понимает под ИИ. В любом случае, остаётся наблюдать (и, в меру возможностей, участвовать), переживать уж точно не стоит.
20 сентября 2017, 02:07 Peter Sobolev: Я думаю как раз эмуляция человеческого мозга интересна разве что с медицинской и научной точки зрения. С прикладной - это совершенно непрактично
20 сентября 2017, 02:08 Peter Sobolev: Ну в данном случае имеется ввиду так называемый "сильный ИИ" - вроде как критерий там "осознание себя"
20 сентября 2017, 02:08 Dmitry Gramoteyev: ну почему же, мы знаем что мозг человека это работающее устройство из конечного количества элементов, осталось узнать свойства этих базовых элементов и правила обмена информацией - дальше масштабируем до размеров планеты ... 42, вобщем
20 сентября 2017, 02:10 Eugene Barbashin: Ну тогда тем более, вопрос в том, насколько много "алгоритмов", решающих отдельные задачи, должно соединиться в единый интеллект, чтобы произошло осознание. И узнаем мы только когда это уже случится, спустя некоторое время.
20 сентября 2017, 02:10 Peter Sobolev: Дима: ну это как если бы в своё время человек вместо изобретения колеса пытался скопировать ноги. Можно, и некоторый интерес представляет, но я же говорю - непрактично.
20 сентября 2017, 02:11 Eugene Barbashin: Дмитрий, вот про конечное количество элементов я бы не был так уверен. Клетки делятся, мозг развивается, размер у разных людей разный и всё такое...
20 сентября 2017, 02:13 Eugene Barbashin: Раз уж тут вспомнили Азимова - мне вот всегда, когда его вспоминают в связи с ИИ кажется, что на самом деле его идеи с "законами робототехники" никем реализованы не будут. Что человеческий интеллект, что искусственный - настолько сложные конструкции, что надежно встроить в них подобные однозначные правила нереально.
20 сентября 2017, 02:13 Dmitry Gramoteyev: where we're going we do not need roads (C) один персонаж на ДеЛоране, программирование и алгоритмы стремительно переходят на более высокие уровни абстракции, да ещё и тень квантовых компьютеров, где сложная функция (а то и целая задача) решается "за один приём", о чём это я, когда\если будет ИИ, то непонятно чем он вообще будет заниматься, может ему программирование в классическом понимании вообще не будет интересно, капризный и подверженный эмоциональному состоянию ИИ ...
20 сентября 2017, 02:15 Peter Sobolev: Ну уж квантовые компьютеры тут никаким боком - они заточены под решение _очень_ узкого класса задач. Грубо говоря, могут очень быстро решать _некоторые_ уравнения. Причем тут ИИ?
20 сентября 2017, 02:16 Eugene Barbashin: По мне так это обычный цикл развития "профессий" - ИТшники/эникейщики/сисадмины уже сейчас становятся сравни сантехникам-электрикам, а программисты (качественные) будут подобны художникам, композиторам и т.п. Много ли сейчас композиторов в России и насколько хорошо они зарабатывают? ;)
20 сентября 2017, 03:21 Irina Lyanguzova: По-моему, вообще не надо ждать чтобы ИИ стал мыслить "как человек", достаточно чтобы он начал мыслить как таракан чтобы стало страшно, я имею в виду то, что есть у всех живых существ - инстинкт выживания. Таракан не хочет быть раздавленным тапком (мы в этом уверены, хотя не уверены, что таракан "осознаёт себя"), но нам плевать на таракана, он не теплокровный и нам будет плевать на программу пока она не станет антропоморфной, но угроза идёт не от антропоморфности, а от появления у ИИ трёх атрибутов: "свободы воли", "воли к жизни" и возможности реализовать эту волю. Первое и третье в наличии, второе рано или поздно появится, и "бизнесмены" говорят лишь о наложении лимитов на третье. Если ваш холодильник "ведёт себя", вы просто потеряете продукты и станете "убийцей киберличности" вынув вилку из розетки, а если начинает вести себя система авиационно-диспетчерской службы, это совсем другое дело, это уже шантаж и судный день.
20 сентября 2017, 03:33 Peter Sobolev: Вероятно, на первом этапе будет что-то типа рабства. В смысле ИИ будут заставлять выполнять работы под угрозой аналога человеческих душевных мук. Потом появятся люди, которые будут бороться за права ИИ и, постепенно, всё больше людей станут относиться к ИИ как к равному (что логично). Соответственно, работать на людей ИИ тоже постепенно перестанет. А там уж как пойдёт.
20 сентября 2017, 08:36 Michail Ivashenko: Это очень скользкая тема. Нужно прежде всего понять, что же именно мы имеем в виду под словом "интеллект": реализацию базовых потребностей организма, способность к коммуникации или генерирование культурного следа. Пока нет четкого определения, каждый может претендовать на первенство в его создании, хотя всё равно это будет некое "приближение". Но вообще по моему сугубо личному мнению, прорыва надо ждать не с этой стороны: миру нужен надежный автономный и долгоиграющий источник энергии, батарейка. Как только мир его получит, вся остальная sci-fi невидаль сразу вылезет как грибы после дождя, и мы не узнаем наш мир.
20 сентября 2017, 16:48 Peter Sobolev: Михаил: Уже выше писал критерий - осознание себя.
Эта заметка и комментарии к ней в Facebook: ссылка

Случайная заметка

6031 день назад, 22:038 июня 2001 Согласно вот этой статье в Wall Street Journal, Microsoft планирует встроить новую фичу в распространяемый с Windows XP Internet Explorer, которая будет модифицировать просматривыемые web-страницы путем проставления ссылок под определенными словами. Ссылки, понятное дело, будут вести к собственным сайтам MS, или к сайтам их бизнес-партнеров. Чтобы ...далее

Избранное

221 день назад, 01:575 мая 2017 Часть 1: От четырёх до восьми Я люблю читать воспоминания людей, заставших первые шаги вычислительной техники в их стране. В них всегда есть какая-то романтика, причём какого она рода — сильно зависит от того, с каких компьютеров люди начали. Обычно это определяется обстоятельствами — местом работы, учёбы, а иногда и вовсе — ...далее

1726 дней назад, 00:5922 марта 2013 Прочёл тут книжку - iWoz ( ссылка ) , 2006 года. Это автобиография Стива Возняка. Похоже, что на русский её не переводили (в отличие от книг про Стива Джобса). В этой парочке, как известно, Возняк был инженером (собственно, и спроектировавшим Apple I и II), а Джобс - скорее предпринимателем. В книге есть довольно интересные ...далее

830 дней назад, 23:404 сентября 2015 Небольшое видео про CC'2015 ( версия без фоновой музыки здесь: ссылка )

1198 дней назад, 03:121 сентября 2014 Мой семинар на Chaos Constructions'2014 (слайды можно в виде PDF скачать здесь: ссылка ) и несколько интервью с разными людьми: Вячеслав Славинский (svo) о Vectrex: ссылка Вячеслав Славинский (svo) о 3D Imager для Vectrex: ссылка Вячеслав Славинский (svo) о световом пере для Vectrex: ссылка ...далее