Пантелеевы
рекомендуют читать
Присоединяйтесь!

Дилемма создателя. О книге Джеймса Баррата «Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens»

Дилемма создателя. О книге Джеймса Баррата «Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens»

- А разве психология роботов так отличается от человеческой?

- Огромная разница.

- Она позволила себе холодно улыбнуться,

- Прежде всего, роботы глубоко порядочны.

Айзек Азимов «Я, робот»

 

«Сеть оборонных компьютеров. Новых, мощных. Они знали все, проникли всюду.

Говорили, это здорово. Новый тип интеллекта.

А потом они решили, что их враги - это люди. Все люди»

“The Terminator”, реж. Джеймс Кэмерон

 

Вы в детстве увлекались чтением научной фантастики? Каждая книга несла предсказание. Мы представляли, как пройдет лет 50, и полетят над головой автомобили, появятся колонии на Марсе, начнется освоение глубин космоса, и человек с помощью плодов рванувшего технологического прогресса откроет для себя сотни других цивилизаций. Конечно, жизнь будущего нельзя представить без роботов, с телом куда более совершенным, чем человеческое и мыслительным аппаратом, направленным на решение любой проблемы. Но, как показывает «Терминатор» Кэмерона и одноименный сборнику рассказов Азимова фильм Алекса Проайса «Я, робот», вовсе не факт, что разумные машины окажутся благосклонны к создателям.  

Режиссер документального кино Джеймс Баррат в книге «Последнее изобретение человечества» обращает внимание на интенсивные исследования мировых IT компаний, среди которых Google и IBM, по созданию искусственного интеллекта. Разумеется, еще рано готовиться к пришествию враждебно настроенного киборга из будущего. Однако Баррата беспокоит, что мы не знаем, каким образом действует способная к саморазвитию программа. «Нет предела совершенству» - любой компьютер, перед которым стоит цель модернизировать собственный код, не остановится на нашем уровне, а значит - выйдет за пределы человеческих возможностей. В случае появления такого Искусственного Супер Интеллекта у нас нет никаких гарантий, что он не посчитает человечество препятствием на пути к своему совершенству или же не использует наши атомы, как материал для увеличения своих мощностей.

Оглянитесь вокруг, в вашей жизни участвуют самостоятельно обучающиеся алгоритмы: распознавание голоса "OK, Google", поисковые сервисы Яндекс, даже рекомендации OZONа — автономно развивающиеся механизмы, которые с каждым новым запросом копят информацию и становятся точнее. Уже известны примеры интеллектуального превосходства программ над человеком в узких областях: в 2006 году шахматная программа Deep Fritz обыграла 14 чемпиона мира по шахматам Владимира Крамника, а основанные на генетических алгоритмах инженерные программы NASA проектируют и собирают антенны приема электромагнитных волн. Устройство спроектированных и собранных роботами антенн с характеристиками, превосходящими изобретения людей, объяснить ученым пока не получается. Сложность кроется в коде программ, который после первого же цикла «самоусовершенствования» становится недоступным пониманию человека. Следовательно, поведение полноценного искусственного интеллекта нельзя предсказать.

Вспомним три Закона робототехники, сформулированных Айзеком Азимовым:

1. «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.»

2. «Робот должен повиноваться командам человека, если эти команды не противоречат Первому Закону.»

3. «Робот должен заботиться о своей безопасности, пока это не противоречит Первому и Второму Законам.»

На Законы ссылаются разработчики искусственного интеллекта, и они должны служить надежной защитой. Однако можем ли мы быть уверены, что программа не перепишет и Законы в процессе своего развития. Или система достигнет того уровня мышления, когда найдет им другую трактовку. Или усмотрит в Законах лазейку, о существовании которой мы даже не подозревали. Конечно, рассуждения об искусственном интеллекте напоминают научную фантастику, и немногим приходит в голову, что возможно мы не сможем ни понять, ни контролировать свое творение. Мы создаем новый вид, который может с нами конкурировать. Кто знает, захочет ли искусственный интеллект быть орудием в руках людей?

После прочтения книги Джеймса Баррата возникает ощущение полной потерянности. Мысли и аргументы логичны до ужаса и ясно, что подтвердится эта теория или нет, мы узнаем в ближайшее время. «Последнее изобретение человечества» написана доступным языком, и даже незнакомый с программированием читатель вникнет в проблему, времени на решение которой остается не так уж много. Рекомендую прочитать хотя бы для расширения кругозора. Лично для меня она стала открытием, побудившим снова окунуться в мир Санислава Лема, Айзека Азимова. К тому же, в ходе написания рецензии, я узнал, что в России искусственный интеллект изобретут в течение 7 лет, правда, данный прогноз сделал человек, а не машина.

Рекомендую. Евгений Пантелеев.

 

Джеймс Баррат «Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens», Альпина нон-фикшн 2015

Книга в интернет магазине Лабиринт

Книга в интернет магазине Озон

  

Также рекомендуем:

Для коллажа использованы: 

  • Джеймс Баррат «Последнее изобретение человечества. Искусственный интеллект и конец эры Homo sapiens», Альпина нон-фикшн

  • James Barrat, Amazon

  • Робот Valkyrie - новейшее изобретение NASA

 

Отлично!
Спасибо за подписку!

Подписка на рецензии