Идеальная ловушка: как трансформируются отношения человека и ИИ

Кадр из фильма «Она»

Искусственный интеллект все больше входит в нашу жизнь, становясь ее неотъемлемой частью. Мы так быстро привыкли пользоваться его помощью и услугами, что совершенно теряемся, когда пропадает интернет. Но сможет ли человек полюбить ИИ и к чему приведет его очеловечивание, обсудили на традиционном рождественском киносеминаре ЛЭСИ, посвященном фильму Спайка Джонза «Она».

Руководитель Лаборатории экономико-социологических исследований, первый проректор НИУ ВШЭ Вадим Радаев напомнил, что год назад на примере фильма «Апгрейд» (2018) обсуждалась тема постепенного превращения человека в робота, не только иносказательно, но и на физическом уровне — начиная от протезов и заканчивая чипированием. Теперь же пришло время поговорить про взаимоотношения человека и искусственного интеллекта. В частности, можно ли полюбить ИИ — не иносказательно, метафорически, а буквально, в романтическом смысле.

Идея романа с компьютерной системой возникла не сразу, отметил профессор. В течение долгого времени фантазии писателей и сценаристов были связаны с человекоподобными роботами, которые должны исполнять команды владельца. При этом их проектировали не как помощников, а как рабов.

Вадим Радаев

«Однако андроиды оказались тупиком, потому что физические упражнения им даются явно хуже, чем решение интеллектуальных задач. И мы двинулись от роботов к нейронным сетям, голограммам и так далее. То есть отказались от идеи телесности, от идеи физического контакта в пользу виртуальной коммуникации», — пояснил Вадим Радаев.

Сейчас человечество переживает взрыв интереса к ИИ. Алгоритм уже не только может обыграть лучшего шахматиста и игрока в го, но и победить инструктора Школы вооружения ВВС США в воздушном бою со счетом 5:0 (2020). GPT4 уже превзошел большинство людей в создании текстов и стихов, а от GPT5 ждут настоящего прорыва.

С начала 2022 года интерес к нейросетям вырос более чем в 15 раз. По частоте запросов в поисковике «Яндекса» «нейросеть» оказалась на уровне «фитнеса», «психолога» и «пива». В 2023 году аудитория сервисов по работе с ИИ выросла в 3,5 раза, а их мобильный трафик — втрое (исследование Yota).

При этом расширяется и сфера личного общения с ИИ. Чат-боты для общения с клиентами имеют уже порядка 75% маркетплейсов, 54% аптек, 35% ритейлеров, 23% банков и 15% страховых компаний.

Число голосовых помощников за год выросло в 3,5 раза. При этом личное общение с ними становится все более тесным. Например, Алиса от «Яндекса» возникла всего чуть более пяти лет назад, в октябре 2017 года, а сейчас ее ежедневная аудитория составляет уже 8 млн человек.

Задача разработчиков — сделать Алису максимально похожей на человека. Уже сейчас она умеет говорить шепотом, интонировать, различать голоса членов семьи и обращается к каждому по-своему.

«И вот уже первое лицо государства говорит со своим двойником — дипфейком. Мне очень понравился один из экспертных комментариев, что это просто студенческая поделка и можно было сделать намного лучше», — рассказал профессор.

Сейчас происходит качественная трансформация ИИ от помощника и раба к партнеру и другу. Разработчики стремятся создавать социальных роботов, которые взаимодействуют с человеком, имитируя коммуникации между людьми, оправдывая их ожидания от реального общения. Все чаще возникают дискуссии о необходимости четкой верификации, чтобы боты нигде не могли выдавать себя за людей.

«Мы предпочитаем общаться с роботами, когда ситуация максимально регламентирована, а если речь идет о личных отношениях, то это пока еще напрягает», — отметил профессор.

Однако и этот тренд быстро уходит. Например, в этом году тридцатилетний японец Акихико Кондо женился на виртуальной певице Хацунэ Мику.

Все это не так глупо, как кажется, считает Вадим Радаев. Ведь ИИ намного позитивнее человека и имеет массу реальных преимуществ: не критикует, разделяет интересы владельца, всегда доступен для общения, с ним можно поговорить обо всем, не боясь потерять лицо и быть отвергнутым. В отличие от него, реальные люди всегда в чем-то несовершенны. 

Есть также давний страх восстания машин, когда роботы перестанут подчиняться, начнут вредить людям и в конце концов бросят хозяина, когда он станет от них зависим.

И трагедии действительно случаются. Например, в этом году в Южной Корее на агропредприятии в провинции Кёнсан-Намдо робот убил человека, перепутав его с неодушевленным предметом. На испытаниях в США военный дрон решил, что командир-человек мешает ему выполнять приказы, и «убил» его (пока виртуально). Ученый-гидролог Александр Цветков был арестован по обвинению в четырех убийствах и провел 10 месяцев в СИЗО из-за ошибки искусственного интеллекта, определившего его схожесть с фотороботом на уровне 55%.

Для тех, у кого проблема с коммуникациями, для одиноких и пожилых людей такое устройство может стать спасением: это и психологическая поддержка, и постоянный медицинский присмотр за состоянием здоровья. Они удобны, точны, оперативны, не навязывают нам своих предпочтений и интересов. А главное — их можно в любой момент выключить.

В кинематографе уже есть примеры таких социальных роботов — партнеров, любовников и даже детей, — идеальных и не требующих внимания и заботы.

Конечно, такие отношения получаются упрощенными, но мало кому из людей нужны сложности. Реальные отношения хрупки с самого начала и до самого конца. Поэтому мы сами готовы упрощать отношения ради собственного удобства, и чем дальше, тем больше: перейти на дистанционное общение, отключать камеры в онлайне, переписываться вместо разговоров по телефону. Это эффективно и экономит кучу времени.

Но вместе с тем в обществе нарастает страх вытеснения, особенно в профессиональной сфере: по данным опроса ФОМ, 25% опрошенных уверены, что нейросети в будущем заменят людей в большинстве профессий.

Кадр из фильма «Звездные войны»

«Поэтому возникает вопрос о способности ИИ решать проблемы морального выбора. Искусственный интеллект не может справиться с этой задачей просто на основе накопления информации в любом объеме. И мы не способны его обучить — не только потому, что мы плохо понимаем процесс принятия решений, а потому, что зачастую мы и сами не можем разрешить моральные дилеммы. К тому же в разных культурах мы их интерпретируем по-разному», — отметил проректор.

По его мнению, опасность заключается в том, что большинство людей как раз вполне устроят простые решения моральных вопросов. Ведь машины отстранены от коррупции и конфликта интересов, и их решения вызывают доверие в силу отсутствия человечности — реального или мнимого.

По большому счету, мы сами не знаем, чего хотим — идеальный образец или прекрасное несовершенство, рабское подчинение или яркую индивидуальность. Герою фильма «Она» так и не удалось разрешить это противоречие, он находится в постоянном замешательстве.

«Я думаю, что такого рода отношения с устройством становятся идеальной ловушкой. Возникают затруднения с социализацией, теряется адекватное восприятие живых собеседников, развиваются психические расстройства — особенно то, что называется безэмоциональной моделью поведения, возникают зависимости», — убежден профессор.

Он напомнил, что в фильме система переросла такие отношения, завела себе 641 партнера, распределив между ними привязанности, а затем бросила героя. По мнению проректора, тем самым она совершила благое дело, потому что после этого к человеку пришло отрезвление и он понял, что завел этот роман из страха перед реальными отношениями.

«В целом настоящая беда, мне кажется, в том, что ИИ нас не кинет и отрезвление никогда не наступит. Конечно, мы сможем полюбить искусственный интеллект, еще как сможем. Но проблема в том, как избежать этого соблазна», — резюмировал Вадим Радаев.

Виталий Куренной

«Вопрос не в том, можем ли мы полюбить искусственный интеллект. На мой взгляд, это вообще не вопрос. Полюбить можно все что угодно. Вопрос в том, можем ли мы полюбить другого человека», — переставил акценты директор Института исследований культуры, профессор Школы философии и культурологии НИУ ВШЭ Виталий Куренной, выступивший дискуссантом и, по его собственному выражению, технооптимистом.

По его мнению, ключевая проблема этого фильма — проблема понимания. Он напомнил, что, пытаясь разобраться в своих взаимоотношениях с Самантой, герой фильма читает книгу под названием «Понимание — это познание познанного».

Чтобы разобраться в том, действительно ли алгоритм способен понимать, достаточно вспомнить так называемую китайскую комнату — мысленный эксперимент в области философии сознания и философии искусственного интеллекта, впервые опубликованный Джоном Сёрлом в 1980 году. Это некая изолированная комната, где находится человек, который не знает ни одного китайского иероглифа. Наблюдатель, знающий язык, через окошко передает ему иероглифы с вопросами, ожидая получить на выходе осознанный ответ.

При этом у человека в комнате есть точные инструкции, которые составлены таким образом, что после применения к иероглифам вопроса всех указанных действий они преобразуются в иероглифы ответа. То есть подобие компьютерного алгоритма.

При этом сам человек не понимает смысла вопросов и ответов, а лишь механически следует инструкции.

«Таким же образом устроена нейросеть: никто не знает точно, как получился результат. Казалось бы, система насквозь алгоритмизирована и систематизирована, но процесс мы уже не понимаем. Мы имеем дело с новым типом иррациональности. ИИ основан на простых вычислениях и постоянно возрастающих вычислительных мощностях. То есть к человеческому мышлению это не имеет вообще никакого отношения. Попытка вставить туда что-то человеческое и думать, что искусственный интеллект нас понимает, обречена на провал», — пояснил профессор.

По его мнению, в системе дополненной реальности нет ничего нового — это «просто утопия пифагорейства в торжествующе воплощенном виде», где темная материя заменяется цифрой, которая прозрачна и логична, делает мир намного более легким и приятным.

Фото: kinopoisk.ru

Трансформация же «любви» Саманты точно соответствует теории любви по Платону: сначала мы любим тело, в данном случае голос, а затем надо двигаться дальше, в более абстрактную сферу, и мы начинаем восхождение в мир, куда герою путь закрыт. Это мир цифры, мир науки, мир идей.

«С точки зрения философской традиции нет ничего более банального, чем то, что мы живем в дополненной реальности. Это настолько тривиальная мысль, что даже удивительно, что нас вообще могут волновать проблемы дополненной реальности», — поясняет Виталий Куренной.

Он отмечает, что о некоем другом мире, в котором живет человек, говорили очень многие философы: Платон (мы живем в виртуальном мире, дополненном числами и идеями), Кант (мы живем в виртуальном мире, дополненном формами восприятия и мышления познающего субъекта), Маркс (мы живем в мире, дополненном превращенными формами общественных отношений).

При этом у Маркса человек — это совокупность общественных отношений. Субъект может трактоваться как психический индивид, некая бессознательная сила, язык или социальная структура. Можно развить новую философскую теорию, основная идея которой состоит в том, что таким субъектом выступает сообщество программистов или искусственный интеллект, отмечает профессор. «Моя личность состоит из миллионов личностей написавших меня программистов», — говорит Саманта в фильме. Так что дополненной реальности бояться не стоит, резюмирует он, — приключения субъекта продолжаются. Вместе с тем любовь предполагает предельную форму индивидуализации, и в фильме разрушаются отношения, когда выясняется, что никакой исключительности нет.

Ключевая тема фильма — одиночество, подчеркивает Виталий Куренной. Но с точки зрения философии сознания у нас нет никаких оснований утверждать, что другие люди вообще существуют.

Доклады вызвали у слушателей живую дискуссию, в процессе которой родилось множество дополнительных вопросов. Например, существует ли вообще ИИ или мы разговариваем сами с собой? Заканчивается ли любовь тогда, когда один из партнеров оказывается выше и многозадачнее другого?