«Критически важно, как мы обучаем эту технологию, как она воздействует на молодых людей»
8 апреля в МИА «Россия сегодня» состоялся круглый стол на тему «Угрозы искусственного интеллекта для образования и социальной сферы», в котором принял участие ректор НИУ ВШЭ, член Совета при Президенте Российской Федерации по развитию гражданского общества и правам человека (СПЧ) Никита Анисимов. Он рассказал об опыте Вышки по регулированию использования технологий ИИ в образовательном процессе.
Открывая круглый стол, советник президента России, председатель СПЧ Валерий Фадеев констатировал, что современная молодежь активно использует нейросети. Он привел данные недавнего опроса Ассоциации организаторов студенческих олимпиад, согласно которому 85% студентов пользуются нейросетями, в том числе 43% — для написания рефератов, эссе, курсовых и дипломных работ. Студенты также считают ИИ важнейшей технологией для России.
Однако у самого Валерия Фадеева другой взгляд на происходящее. «Я считаю, что мы стоим на пороге идеологического бедствия, и российское общество пока недооценивает эту опасность», — заявил он. Причина в том, что, отвечая на вопросы, связанные, например, с политикой, нейросети выдают западный нарратив — идеологизированные тексты, превращаясь в идеологическое оружие.
Советник президента России привел в качестве аналогии студенческую библиотеку 1980-х годов, в которой была представлена исключительно марксистская литература, а не лучшие работы в области гуманитарных наук со всего мира. «Наши тексты и тексты наших друзей составляют минимальную часть в общем массиве материалов и текстов, которыми пользуется нейросеть», — заключил он.
В свою очередь Никита Анисимов отметил, что за каждым ИИ стоит разработчик — человек, который может себе позволить вложить миллиарды в разработку конкретной технологии. Такие люди обладают большими бизнес-возможностями и преследуют определенные интересы.
Он напомнил, что НИУ ВШЭ в инициативном порядке принял Декларацию этических принципов создания и использования систем искусственного интеллекта. Один из этих принципов — прозрачность: если студент использует ИИ в своей работе, он обязан указать, что это за технология и какие выводы были сделаны. Если обнаружен обман (для этого есть инструмент «Поймай бота»), студент может быть отчислен.
Никита Анисимов подчеркнул, что в университете готовят специалистов в области ИИ и тех, кто точно будет им пользоваться. По его мнению, методическое осмысление использования ИИ в образовании критически важно и это понимают не только в России: например, в Китае на государственном уровне считают необходимой модернизацию образовательных методик и учебников с учетом появления ИИ как технологии.
Ректор развил тезис Валерия Фадеева о том, что содержание нейросети определяет тот, кто ее обучил.
«Если технология разрабатывалась в США, обучалась на линейке школьных учебников, изданных в США, то, естественно, она продвигает определенные взгляды. А если загрузить туда учебники, изданные в 90-е годы в Российской Федерации, будет лучше? Поэтому критически важно, как мы обучаем эту технологию, как она воздействует на молодых людей, на взрослых людей. Важно, кто учил и чему учил. Искусственный интеллект — это только технология, а у любой проблемы есть фамилия, имя и отчество. Их надо называть, приглашать, проводить с ними обсуждения, вводить регуляторику, как мы это сделали в нашем университете. И знаете, это работает. Ребята с удовольствием рассказывают, где они использовали искусственный интеллект, а где писали работу сами», — заключил Никита Анисимов.
В дискуссии также приняли участие член СПЧ, предприниматель в сфере информационных технологий Игорь Ашманов и предприниматель в сфере информационных технологий Наталья Касперская.
Игорь Ашманов акцентировал внимание на опасности, которую ИИ несет школьникам. В школе на многие вопросы нужно давать однозначный ответ, а нейросеть не может этого сделать и всякий раз отвечает по-разному, более того — ее ответы неверны. При этом Россия пока отстает от конкурентов и не может создать «правильный ИИ». «Наши цифровые гиганты берут вражеские движки и их переупаковывают», — объясняет эксперт.
Наталья Касперская упомянула риски, которыми чревато использование детьми гаджетов в целом. В их числе негативное влияние на здоровье, а также неумение общаться, недостаточно развитое воображение, клиповое мышление, короткая память и проч. По ее мнению, нельзя доверять ИИ выбор образовательной траектории, это может делать только сам человек.
В завершение круглого стола его участники ответили на вопросы журналистов. В частности, Никите Анисимову был задан вопрос о том, насколько за последние годы вырос интерес к программам НИУ ВШЭ, посвященным ИИ.
По мнению ректора, владеть технологиями ИИ в профессиональной деятельности должны все, поэтому в Вышке курс Data Culture осваивают студенты любых направлений и специальностей. А студенты образовательных программ, посвященных ИИ, получают значительные зарплаты, совмещая работу с учебой уже на втором-третьем курсе. На эти программы огромный конкурс, у их выпускников отличная репутация.
Никита Анисимов заключил, что технологии ИИ могут помочь, например, победить на поле боя и повысить производительность труда в разы, а это крайне важно для страны. При этом в социальной сфере нельзя допускать ИИ к принятию решений о людях и влиянию на их судьбы.