Q:
Почему некоторые люди беспокоятся об искусственном интеллекте?
A:Изменения не легки, и многим людям трудно приспособиться к ним. Это особенно верно в отношении технологических изменений. Известный профессор Гарварда Калестоус Джума написал книгу на тему «Инновации и их враги: почему люди противостоят новым технологиям». В книге рассказывается о противоречии между инновациями и социальным порядком, опираясь на 600-летнюю историю. Влияние технологий особенно проблематично, когда дело доходит до искусственного интеллекта.
Не все противостоят этим достижениям. Рэй Курцвейл, автор книг «Сингулярность близка» и «Эра духовных машин», - не что иное, как евангелист, пропагандирующий преимущества генетики, нанотехнологий и робототехники (термин, используемый для небиологического интеллекта). Но это те же проблемы - и Курцвейл - тот же человек - который вызвал большую обеспокоенность в 2000 году для Билла Джоя, главного ученого в Sun Microsystems.
Джой писал о своих беспокойствах в известной теперь статье в журнале Wired под названием «Почему будущее не нуждается в нас». Он считал, что на карту поставлено само будущее человечества. Касаясь конкуренции эволюционной истории, Джой писал: «Биологические виды почти никогда не выживают, сталкиваясь с превосходящими конкурентами». Научные открытия, которые приводят к тому, что машины превосходят людей, сопряжены со значительными рисками. На ум приходят видения мрачного будущего.
Предположим, ученые способны разрабатывать машины с искусственным суперинтеллектом (ASI), уровень интеллекта которого выше, чем у людей. Джой говорит, что может произойти одно из двух: либо машинам будет разрешено принимать свои собственные решения, либо люди будут контролировать их. Что произойдет, если вы передадите питание машинам? Какие могут быть результаты?
Билл Джой не единственный, кто высказывает опасения. Технический гуру Элон Маск сказал: «С помощью искусственного интеллекта мы вызываем демона». Он назвал это «нашей самой большой угрозой существованию». Физик Стивен Хокинг сказал присутствующим на технологической конференции, что «мы не можем знать, будет ли нам бесконечно помогать ИИ, или игнорируется им и отстраняется от него, или, возможно, разрушается им ». И он сказал журналу Wired:« Я боюсь, что ИИ может полностью заменить людей ».
Эти страхи оправданы? Научно-фантастические фильмы, такие как «Превосходство», где персонаж Джонни Деппа связывает себя с искусственным интеллектом и наносит ущерб, напоминают предсказания Курцвейла о том, как люди могут смешиваться с машинами. Воображения сходят с ума от всех путей, которыми искусственный интеллект мог пойти не так Что происходит, когда машины берут на себя управление?
Два примера из реальной жизни показывают, как беспокойство об искусственном интеллекте может быть понятно. В 2007 году робот-пушка убила девять человек и ранила 14. Некоторое современное военное оружие автоматически выбирает цели, но ждет, пока человек нажмет на курок. Кто принимал решения здесь? В 2016 году 300-килограммовый робот безопасности сбил с ног и сбил шестнадцатимесячного малыша. Кто контролировал в этом случае: человек или машина?
Причина, по которой некоторые люди беспокоятся об искусственном интеллекте, заключается в том, что риски реальны. Следующий вопрос: как мы будем управлять этими рисками?
