«Плохо обученный искусственный интеллект опаснее восстания машин»

© iStock

При нынешнем уровне развития искусственного интеллекта (ИИ) человечеству не грозит восстание машин. Более актуальной угрозой представляется применение недостаточно обученного ИИ в жизненно важных сферах, а также попытки его использования для того, чтобы поставить под контроль жизнь человека. Об этом шла речь на семинаре «Угрозы, которых мы не ожидали от искусственного интеллекта», проведенном Научно-учебной лаборатории трансцендентальной философии ВШЭ.

Заведующая лабораторией Светлана Климова поинтересовалась у автора доклада — приглашенного исследователя Александра Хомякова, какие опасности могут сопровождать широкое применение искусственного интеллекта. По его оценке, вероятность скорого порабощения человечества машинами сильно преувеличена, при нынешнем состоянии искусственного интеллекта это невозможно. «Можно, конечно, бояться мятежа утюгов, которые восстанут и нас всех зажарят», — иронизирует он.

Пока искусственный интеллект остается программой, а угроза заключается в человеке, который им пользуется. «Неправильное применение его человеком гораздо важнее и опаснее, чем гипотетическое восстание машин», — уверен автор исследования. Однако не все угрозы, которые может нести искусственный интеллект, нам сейчас известны, и мы можем его применять, не всегда понимая последствия, как, например, в начале XX века в косметических целях использовали радиевые маски.

Александр Хомяков напомнил, что в Европе обсуждают зоны ограничения использования ИИ. Отечественные законодатели спешат запретить его применение, но эксперт уверен, что это может привести к отставанию в развитии. И поэтому важно соблюдать баланс между развитием и предупреждением негативных последствий внедрения ИИ. Выход, по его мнению, в упреждающих действиях.

Другой проблемой становится способность искусственного интеллекта создавать и публиковать в соцсетях тексты, которые трудно отличить от написанных человеком. Так, бот, созданный одной из версий программы GPT, выдавал себя за человека в течение нескольких недель. Иногда тексты ИИ невозможно распознать как искусственные. Получается, машина может управлять даже эмоциями своего собеседника-человека. Эти боты могут писать в вашей ленте комментарии, создавать тот или иной информационный фон и даже подталкивать своего собеседника к тем или иным действиям, способствовать формированию мнения, объясняет Александр Хомяков.

Самое страшное, что тысячами сообщений в секунду может руководить какой-нибудь гениальный свихнувшийся программист с неясными целями. Это реальная угроза, когда кто-то может пытаться манипулировать людьми через искусственный интеллект

Еще одной проблемой может стать передача принятия части решений искусственному интеллекту как помощнику без адекватной оценки его возможностей. Если, например, врач полностью доверит ИИ расшифровку рентгеновских снимков, ошибочные выводы могут иметь серьезные последствия. Установка ИИ в качестве фильтра на вызовах «скорой помощи» также небезопасна. «Это может создать угрозу для жизни человека, находящегося в стрессе, речь которого недостаточно обученный искусственный интеллект может неверно интерпретировать», — рассказывает Александр Хомяков.

Однако все это не значит, что ИИ бесперспективно использовать в принципе. Обходиться без него уже невозможно. Искусственный интеллект имеет большую оперативную память и, кроме того, берет на себя рутинную работу, которую человек не хочет выполнять. МВД, например, может следить не только за автомобилями, но и за людьми. Достаточно установить камеры, настроить ИИ, и система дальше работает сама. При этом, разумеется, встают этические вопросы.

© iStock

На Западе уже возникают скандалы, связанные с подбором персонала, когда ИИ обвиняют в расистских наклонностях, поскольку в выборки попало меньше людей с африканской и азиатской внешностью. В ситуациях, когда машина, ведомая автопилотом, совершила аварию с человеческими жертвами, неожиданно выясняется, что в обучающей программе не было предусмотрено перевернутого фургона, кареты «скорой помощи» или остановившейся на обочине пожарной машины.

Важно понимать, говорит Александр Хомяков, что искусственный интеллект — это программа, основанная на статистике, ее точность не превышает 95%, то есть предусмотрена 5-процентная вероятность ошибок. «Готовы ли мы к такой высокой вероятности, если это касается человеческой жизни?» — задается вопросом эксперт.

Еще одной опасностью массового внедрения искусственного интеллекта он назвал уход с рынка труда многих работников, преимущественно низкоквалифицированных, занятых рутинным трудом. Это может привести к резкому росту асоциального поведения и преступности. Есть угроза и для людей творческих профессий: в Индии ИИ разрабатывает дизайн одежды и обуви, который оказывается более привлекательным для потребителей и имеетбо́льшее количество вариантов. Есть также сайты и программы, пишущие стихи (достаточно задать две строки и первую рифму), создающие дизайн-проект интерьера. Творчество уже не всегда требует таланта человека, что таит дополнительную опасность.

Наконец, серьезную угрозу представляет возможность ухода из реальной жизни в виртуальную или дополненную. Человек может создать виртуальное окружение, населить его приятными ему искусственными людьми. «Искусственный интеллект может в вас влюбиться. Какой молодой человек откажется от такого!» — отмечает Александр Хомяков. Ведь созданный персонаж не будет «спорить, просить денег, ругать».

По его словам, уже разработаны шлем и костюмы, в которых есть специальные зоны, дающие небольшие электрические разряды, создающие разные телесные и даже эмоциональные ощущения.

Мы теряем опору в реальности, мы все больше видим собеседников через видео и социальные сети, причем их все сложнее идентифицировать, понять, реальный это человек или виртуальный образ

В будущем может возникнуть и серьезная угроза самостоятельного принятия решений искусственным интеллектом. Это, полагает Александр Хомяков, станет возможным, когда система получит модель самой себя. Тогда у нас появится ИИ, который может отказаться выполнять поставленную ему задачу и будет принимать собственные решения. Чтобы предотвратить эту угрозу, нужно заранее разработать меры, препятствующие выходу ИИ из-под контроля.

Старший научный сотрудник Научно-учебной лаборатории трансцендентальной философии ВШЭ Диана Гаспарян полагает, что описанные докладчиком угрозы неравнозначны. Уход от реальности представляется ей наименее опасным, поскольку человеку скучно общаться с искусственным интеллектом. Возможно, разработчики ИИ будут пытаться обмануть людей, создавая видимость субъектности виртуальных собеседников.

По мнению Александра Хомякова, высокую опасность виртуализации отражает вовлечение миллионов людей в компьютерные игры. Они отдают себе отчет в том, что находятся в вымышленном мире, «но играют до ночи и до красных глаз, потому что там вырабатываются эмоции». Этому, полагает эксперт, способствует качественная проработка персонажей, вызывающих симпатию игроков.