Профессор философии об искусственном интеллекте

Способно ли человечество создать искусственный сверхразум? Что нас ждет в мире интеллектуальных машин: всеобщее благоденствие или деградация? Как поведут себя роботы: станут нашими помощниками или превратятся в самых серьезных врагов, с которыми людям когда-либо приходилось сталкиваться? На эти и другие актуальные вопросы попытался ответить профессор факультета философии Оксфордского университета Ник Бостром в своей книге «Искусственный интеллект».

Публикуем несколько мыслей из нее:
 

Разумные машины: фантастика или реальность?

Многие считают, что человечеству еще далеко до изобретения искусственного интеллекта, но ученые уверяют: он появится в ближайшем будущем. За последнее столетие произошла настоящая революция в мире технологий, и это не предел. Например, на заре 20 века никому бы и в голову не пришло, что машина сможет обыграть чемпиона мира по шахматам, а сегодня это вряд ли кого-то удивит. Вот еще несколько фактов, которые показались бы нашим предкам фантастикой:

— Система «Логик-теоретик» сумела доказать почти все теоремы из второго тома

«Оснований математики» Альфреда Уайтхеда и Бертрана Рассела, что доказывает способность машины к дедукции и логическим построениям.

— Робот «Трясучка» показал, что машина может продумывать и контролировать свою двигательную активность, когда логическое мышление совмещено с восприятием окружающей действительности.

— Программа ELIZA прекрасно имитирует поведение психотерапевта.

— В середине 1970-х годов программа SHRDLU продемонстрировала, как смоделированный робот в смоделированном мире спокойно манипулирует объемными геометрическими фигурами, не только выполняя инструкции пользователя, но и отвечая на его вопросы.

— В последующие десятилетия были созданы программы, способные сочинять классическую музыку разных жанров, решать проблемы клинической диагностики быстрее и увереннее врачей-стажеров, самостоятельно управлять автомобилями и делать патентоспособные изобретения.

Это еще трудно назвать сверхразумом, который, по определению, должен значительно превосходить когнитивные возможности человека в любых областях. Однако сегодня, когда наши знания о человеческом мозге, генетике и эволюции с каждым днем становятся все обширнее, перед программистами и инженерами открываются новые возможности. Эксперты полагают, что до появления машин, чей разум можно сравнить с разумом человека, осталось лишь несколько десятилетий.

Машина-ребенок, эволюция и непрерывное совершенствование

Математик Алан Тьюринг еще в 1950 году высказал мысль о том, что можно использовать обучение как средство развития простой системы: «Почему бы нам, вместо того чтобы пытаться создать программу, имитирующую ум взрослого, не создать программу, которая бы имитировала ум ребенка? Ведь если ум ребенка получает соответствующее воспитание, он становится умом взрослого человека». И сегодня эта теория представляется самой перспективной: усилия должны быть сосредоточены на создании системы, способной к обучению и работе с неопределенной информацией.

Тьюринг говорил и о том, что процесс создания искусственного интеллекта будет иметь много общего с эволюцией: «Вряд ли нам удастся получить хорошую «машину-ребенка» с первой же попытки. Надо провести эксперимент по обучению какой-либо из машин такого рода и выяснить, как она поддается научению. Затем провести тот же эксперимент с другой машиной и установить, какая из них лучше. Существует очевидная связь между этим процессом и эволюцией в живой природе…» В теории генетическое программирование может привести к появлению разума, сопоставимого с человеческим, даже с большей вероятностью, чем слепая эволюция.

Здесь необходимо упомянуть еще одну важную концепцию. Если людям удастся создать зародыш искусственного интеллекта, способный к непрерывному самосовершенствованию, то первая версия создаст улучшенную версию самой себя, которая намного умнее оригинальной; улучшенная версия, в свою очередь, начнет трудиться над следующей версией и так далее. Этот процесс в итоге может привести к взрывному развитию искусственного интеллекта, радикально превосходящего уровень человека.

Сценарии
 

Допустим, сверхразумный искусственный интеллект (ИИ) появился. Чего нам ждать? Какая бы цель ни была заложена в программу — самосохранение, технический прогресс, поиск ресурсов, счастье человечества — неизвестно, какими способами сверхразум соберется ее достичь.

Существует множество сценариев. По одному из них, ИИ решит захватить мир. В этом случае мы даже не успеем заподозрить неладное. Поскольку ИИ намного умнее нас, он создаст четкий план, не оставляющий нам шансов. Ему удастся скрывать от людей свои долгосрочные цели и притворяться послушным до решающего момента. А затем он очень точно нанесет удар: захватит власть и сможет управлять нами или уничтожит людей с помощью новейшего вооружения.
 

Возможен альтернативный вариант: сверхразум вообще не будет считаться с нашим существованием, не будет воспринимать человечество как угрозу и не сделает нас мишенью. Но в этом случае людей тоже не ждет ничего хорошего: привычная среда обитания будет разрушена. Вся поверхность планеты быстро — буквально за считаные дни или недели — покроется солнечными батареями, ядерными реакторами, корпусами суперкомпьютеров и прочими сооружениями. Возможно, при таком сценарии нас будут изучать в специальных лабораториях.
 

Даже в том случае, если мы будем мирно сосуществовать с ИИ, нас ждет экономический крах. Высокопроизводительные и дешевые машины заменят людей во всех сферах деятельности, а значит для нас не останется рабочих мест и возможности получать зарплату. В целом человечество может сильно разбогатеть, если капитал по-прежнему останется в руках людей. Но вряд ли средства будут распределены так, чтобы выжить смогли все. Скорее всего, большинство представителей нашего вида ждет деградация и голодная смерть.

Больше о появлении сверхразума, будущем человечества и о том, как избежать угрожающих сценариев, — в книге «Искусственный интеллект».