Эксперт из Уфы рассказал, стоит ли боятся ИИ и что нас ждет в будущем

Об этом мы поговорили с Рамилем Абзалимовым, заведующим лабораторией искусственного интеллекта и математического моделирования БГПУ им. М.Акмуллы.

- Как искусственный интеллект меняет учебный процесс?

- Я бы сказал, что искусственный интеллект меняет не столько сам процесс передачи знаний, сколько способы организации образовательной деятельности.
Традиционно преподаватель выступал одним из основных источников информации. Сегодня студент может практически мгновенно получить объяснение сложной темы, пример решения задачи, альтернативную точку зрения или дополнительный учебный материал. Но здесь возникает интересный парадокс: информации становится больше и она доступнее, а вот способность критически ее осмысливать приобретает еще большую ценность. Поэтому, на мой взгляд, постепенно меняется и роль преподавателя. Он все больше становится не просто транслятором знаний, а организатором интеллектуальной деятельности студента, наставником, экспертом, человеком, который учит анализировать, сопоставлять и самостоятельно принимать решения.

Для педагогического университета это особенно важно. Ведь мы готовим не просто специалистов, которые должны знать свой предмет. Мы готовим будущих учителей, которым предстоит работать с поколением детей, для которых взаимодействие с искусственным интеллектом станет привычной частью жизни.

В БГПУ им. М. Акмуллы мы стараемся подходить к этой проблеме не только с точки зрения использования готовых нейросетей, но и с позиции разработки собственных интеллектуальных систем. Например, одно из направлений работы нашей лаборатории – создание конструктора рабочих программ дисциплин и фондов оценочных средств с применением искусственного интеллекта. Это не обычный чат, в который преподаватель вводит просьбу «составь тест». Мы разрабатываем систему, которая учитывает структуру образовательной программы, компетенции, индикаторы их достижения, содержание дисциплины и требования к оценочным материалам. На этой основе формируются учебно-методические материалы и задания, которые затем проходят многоэтапную проверку. При этом окончательное решение остается за преподавателем.

Мы не ставим перед собой цель автоматизировать педагогическую деятельность полностью. Наша задача – сократить трудоемкость рутинных операций, повысить согласованность учебных материалов и дать преподавателю больше времени для содержательной работы со студентами. Именно в этом я вижу одно из наиболее перспективных направлений развития образовательного ИИ: не отдельные нейросети для отдельных задач, а интеллектуальные системы, которые работают в соответствии с педагогической логикой.

- Какие полезные возможности в работе с ИИ могут найти для себя студенты? И что негативного есть в использовании нейросетей?

- Возможностей действительно много. Прежде всего, искусственный интеллект позволяет организовать индивидуальную работу с учебным материалом. Представим студента, который не до конца понял какую-то тему на лекции. Он может попросить нейросеть объяснить ее другими словами, привести несколько примеров, разобрать типичные ошибки, предложить тренировочные задания. Причем объяснения можно адаптировать под уровень подготовки конкретного человека. Особенно полезно это при изучении математики, программирования, иностранных языков и других дисциплин, где важны последовательность и регулярная практика. Для студентов педагогического университета я вижу еще одну интересную возможность – моделирование профессиональных ситуаций.

Например, будущий учитель может предложить ИИ выступить в роли ученика, который неправильно понял материал, или родителя, задающего сложные вопросы. Можно разработать несколько вариантов урока, сравнить их, оценить сильные и слабые стороны. Это хорошая дополнительная тренировка перед выходом в реальную аудиторию, хотя она, безусловно, не заменяет педагогическую практику. ИИ также может помогать в научной работе: структурировать материал, предлагать исследовательские гипотезы, объяснять математические методы, помогать с программированием и обработкой данных. Но источники и результаты необходимо проверять самостоятельно. Теперь о рисках. На мой взгляд, самый серьезный риск – даже не фактические ошибки нейросетей, а постепенная утрата привычки к самостоятельному интеллектуальному усилию. Если студент использует ИИ для того, чтобы разобраться в сложной задаче, это полезно. Но если он передает нейросети саму задачу, получает готовое решение и даже не пытается понять его содержание, никакого полноценного обучения не происходит. Можно получить прекрасно оформленную курсовую работу, но не приобрести при этом ни одного нового профессионального навыка.

Есть и другая проблема – так называемые галлюцинации искусственного интеллекта. Модель может уверенно сообщать недостоверные сведения, допускать ошибки в вычислениях, ссылаться на несуществующие научные публикации. Причем внешне такой ответ нередко выглядит вполне убедительно. Наконец, нельзя забывать о конфиденциальности. Загружать в общедоступные сервисы персональные данные, закрытые документы, сведения о других студентах или преподавателях без соответствующих оснований недопустимо. Поэтому студентам я рекомендовал бы придерживаться простого принципа: используйте искусственный интеллект для расширения собственных возможностей, а не для отказа от самостоятельного мышления.

- На ваш взгляд, можно ли доверять искусственному интеллекту? Ведь он не может отнестись к человеку с эмпатией, с пониманием, а в работе студента и преподавателя это очень важно.

- Здесь я бы разделил два принципиально разных вопроса: доверие к результатам работы искусственного интеллекта и доверие к нему как к участнику человеческого общения. С технической точки зрения современные системы ИИ способны решать очень сложные задачи. Но способность выдавать правильный ответ не означает, что система понимает ситуацию так же, как человек. Например, нейросеть может достаточно точно распознавать эмоциональную окраску текста, подбирать сочувственные выражения, формулировать психологически корректные ответы. Однако это не равнозначно человеческой эмпатии. Когда преподаватель видит, что студент испытывает трудности, он оценивает не только правильность ответа. Он учитывает обстоятельства, мотивацию, эмоциональное состояние, особенности личности, предыдущий опыт взаимодействия.

Иногда важнее не объяснить тему еще раз, а поддержать человека, вселить в него уверенность, помочь преодолеть страх ошибки. Искусственный интеллект может имитировать отдельные элементы такого общения, но не стоит отождествлять эту способность с человеческим переживанием, пониманием и ответственностью. Поэтому я не считаю правильным противопоставлять ИИ и человеческую эмпатию. Они выполняют разные функции.

Интеллектуальная система может заметить, что студент систематически ошибается при решении определенного типа задач, и предложить дополнительные упражнения. Но разобраться, почему это происходит – из-за пробелов в знаниях, тревожности, отсутствия мотивации или сложной изненной ситуации, – должен человек. Что касается доверия к информации, то здесь мой подход достаточно строгий: доверять можно проверенному результату, а не уверенности, с которой нейросеть его сообщает.

В нашей исследовательской работе мы уделяем большое внимание многоэтапной проверке результатов ИИ. Система должна не просто формировать ответ, но и проходить проверку на соответствие установленным требованиям. Для ответственных задач этого недостаточно без внешней проверки и экспертного решения. В образовании, науке, медицине и других значимых сферах это особенно важно. Я бы сформулировал так: искусственному интеллекту можно делегировать отдельные операции, но нельзя безоговорочно делегировать ему человеческую ответственность.

- Заменит ли в будущем искусственный интеллект живого преподавателя? Есть ли вероятность, что преподаватели останутся только в элитных учебных заведениях?

- Это один из самых сложных и, на мой взгляд, действительно серьезных вопросов. Если рассматривать преподавателя исключительно как человека, который передает информацию, объясняет материал и проверяет типовые задания, то значительную часть этих функций искусственный интеллект уже способен выполнять. И в дальнейшем его возможности будут расширяться. Более того, в отдельных ситуациях интеллектуальный помощник может оказаться эффективнее традиционного формата объяснения. Он доступен в любое время, может многократно повторять материал, изменять сложность заданий и подстраивать темп работы под конкретного обучающегося.

Но преподавание – это не только передача информации. Образование включает воспитание, формирование мировоззрения, развитие личности, организацию коллективной деятельности, создание мотивации и живое человеческое взаимодействие. Все эти составляющие невозможно свести к генерации правильных ответов. Особенно отчетливо это проявляется в педагогическом образовании. Будущему учителю недостаточно знать методику преподавания. Он должен научиться взаимодействовать с детьми, понимать их, принимать педагогические решения в нестандартных ситуациях, разрешать конфликты и нести ответственность за свои действия. Этому невозможно полноценно научиться исключительно в диалоге с нейросетью.

Однако я не стал бы полностью исключать риск появления двухуровневой модели образования, при которой массовое обучение все больше автоматизируется, а непосредственное взаимодействие с высококвалифицированным преподавателем становится дорогостоящей услугой. С технологической и экономической точки зрения такой сценарий возможен. Но это не означает, что он неизбежен или педагогически оправдан. Более того, я считаю подобное разделение социально опасным.

Качественное человеческое общение в образовании не должно становиться привилегией обеспеченных семей. Именно поэтому государству, университетам и педагогическому сообществу важно уже сегодня определить разумные границы автоматизации. Мой прогноз заключается не в исчезновении профессии преподавателя, а в ее существенном изменении. Часть рутинных функций будет автоматизирована, зато возрастет значение наставничества, методического проектирования, экспертной оценки и индивидуальной работы со студентами. Преподавателя, который только воспроизводит информацию, технологии действительно будут все чаще заменять. Но преподаватель, который учит мыслить, исследовать, сомневаться и создавать новое, останется исключительно востребованным.

- Как, на ваш взгляд, дальше будет развиваться искусственный интеллект? Стоит ли поддаваться паническим настроениям – искать новую работу, переучиваться?

- Я бы не советовал поддаваться панике. Но и игнорировать происходящие изменения было бы большой ошибкой. Мы наблюдаем достаточно быстрый переход от систем, которые преимущественно отвечают на вопросы, к интеллектуальным инструментам, способным выполнять последовательности взаимосвязанных действий. Если раньше пользователь обращался к нейросети с отдельным запросом, то сегодня уже развиваются системы, которые могут самостоятельно планировать этапы решения задачи, обращаться к программным инструментам, анализировать промежуточные результаты и корректировать дальнейшие действия. Такие решения часто называют ИИ-агентами.

Следующий важный этап – интеграция подобных систем в реальные профессиональные процессы: образование, научные исследования, проектирование, аналитику, управление и другие направления. При этом развитие будет неравномерным. Одни профессиональные функции действительно могут исчезнуть или существенно сократиться, другие изменятся, появятся совершенно новые специализации. Но я бы не стал говорить, что искусственный интеллект обязательно заменит большинство профессий. Гораздо точнее говорить об изменении состава профессиональных задач.

Возьмем, например, профессию учителя. Подготовка отдельных заданий, формирование вариантов контрольных работ, первичная обработка результатов могут все больше автоматизироваться. Но педагогическое взаимодействие, воспитание и профессиональная ответственность никуда не исчезают. Поэтому главный совет студентам и работающим специалистам – не столько срочно менять профессию, сколько учиться использовать новые инструменты внутри своей профессиональной деятельности. Сегодня особенно важно сочетать глубокие предметные знания с цифровой грамотностью, аналитическим и критическим мышлением.

Я убежден, что будущее не обязательно принадлежит тем, кто лучше всех умеет разговаривать с нейросетью. Оно во многом будет принадлежать тем, кто умеет правильно ставить профессиональные задачи, понимать ограничения технологий и отвечать за полученный результат.

И здесь есть важный момент. Не нужно стремиться освоить абсолютно каждую новую нейросеть. Они меняются слишком быстро. Гораздо полезнее понять фундаментальные принципы их работы и научиться применять ИИ для решения реальных задач своей профессии. Паника – плохая стратегия. А вот постоянное профессиональное развитие становится необходимостью.

- Не загонит ли человечество себя в тупик, превратив технологию в культ и в своеобразного «бога из машины»?

- На мой взгляд, такая опасность действительно существует. Но связана она прежде всего не с самим искусственным интеллектом, а с тем, какое место человек отводит ему в своей жизни. Меня как математика и исследователя особенно настораживает склонность воспринимать сложную технологию как нечто почти непогрешимое. Когда система формулирует связный, уверенный и логически выстроенный ответ, у человека может возникать иллюзия, что за этим обязательно стоит глубокое понимание проблемы. Но это не так. Даже очень мощная интеллектуальная модель может ошибаться, воспроизводить искаженные сведения или формировать убедительные, но необоснованные выводы. Еще более серьезная опасность возникает тогда, когда люди начинают передавать алгоритмам не только технические операции, но и право принимать значимые решения без должного контроля.

Сегодня это может касаться оценки знаний, завтра – отбора кандидатов на работу, распределения ресурсов, принятия управленческих решений. При этом любой алгоритм создается людьми, обучается на определенных данных, работает в рамках заданной архитектуры и имеет ограничения. Поэтому искусственный интеллект не должен восприниматься как независимый высший авторитет. Есть и более глубокая проблема – интеллектуальная зависимость. Если человек постепенно перестает самостоятельно писать, рассуждать, анализировать, принимать решения и постоянно обращается за готовым ответом к машине, то технология, задуманная как средство расширения интеллектуальных возможностей, может привести к противоположному результату.

Но я не сторонник технологического пессимизма. В истории человечества уже неоднократно появлялись технологии, радикально менявшие привычные способы деятельности. Письменность, книгопечатание, вычислительная техника, интернет – все они вызывали опасения и одновременно открывали новые возможности. Отличие современного искусственного интеллекта заключается в том, что он затрагивает саму интеллектуальную деятельность человека. Поэтому цена необдуманного применения действительно может быть выше.

Мне кажется, здесь важно сохранить очень простую систему ценностей: человек должен оставаться целью технологического развития, а не превращаться в приложение к собственным алгоритмам. Искусственный интеллект не является ни богом, ни врагом человечества. Это мощная технология, последствия применения которой во многом зависят от наших решений, ответственности и способности сохранять критическое мышление.

- Расскажите о ваших личных лайфхаках в работе с искусственным интеллектом. Что можете посоветовать студентам и преподавателям?

- Поскольку я занимаюсь не только использованием, но и разработкой систем искусственного интеллекта, у меня сформировались определенные правила работы с такими инструментами. Прежде всего, я стараюсь никогда не начинать со слишком общего запроса. Чем точнее поставлена задача, тем проще получить качественный результат. Например, вместо просьбы «напиши мне научный текст» гораздо полезнее указать тему, цель, структуру, предполагаемую аудиторию, требования к научной аргументации и критерии качества. А еще лучше – разбить сложную задачу на последовательные этапы.

Второй прием, который я считаю особенно полезным, – просить искусственный интеллект не соглашаться с вами, а критиковать ваши идеи. Допустим, вы разработали исследовательскую гипотезу или предложили новый метод решения задачи. Можно попросить нейросеть выступить в роли строгого научного рецензента: найти слабые места, выявить противоречия, предложить альтернативные объяснения. Разумеется, такая критика тоже требует проверки, но она помогает посмотреть на собственную работу с другой стороны.

Третий прием – сравнение различных подходов. Я часто рассматриваю интеллектуальную систему не как генератор единственного ответа, а как инструмент исследования пространства возможных решений. Например, можно предложить несколько способов решения математической или методической задачи, затем сопоставить их по точности, сложности, ограничениям и применимости.

Четвертый важный принцип – разделение генерации и проверки. Я не считаю правильным ограничиваться одной командой, в результате которой нейросеть сразу выдает окончательный материал. Гораздо надежнее сначала получить проект решения, затем отдельно проверить его соответствие исходным условиям, математическую и логическую корректность, достоверность источников. Для особо ответственных задач необходимы независимые вычислительные проверки и экспертная оценка. Именно такой подход мы стараемся применять в разработках нашей лаборатории: не просто генерировать содержание, а выстраивать управляемую последовательность действий с проверкой промежуточных результатов.

Пятый совет касается студентов. Попробуйте использовать ИИ как интеллектуального тренажера. Не просите сразу готовое решение. Попросите наводящий вопрос, затем подсказку, потом разбор ошибки. А после самостоятельно решите аналогичную задачу.

И последний совет, пожалуй, самый важный: регулярно работайте без искусственного интеллекта. Читайте сложные тексты самостоятельно. Решайте задачи без подсказок. Пробуйте формулировать собственные мысли и аргументы. Это необходимо для сохранения и развития интеллектуальной самостоятельности. Искусственный интеллект может ускорять нашу работу, но он не должен избавлять нас от необходимости думать.

В заключение хочу подчеркнуть одну мысль. Мне кажется, мы сейчас стоим перед достаточно важным выбором. Можно использовать искусственный интеллект для того, чтобы меньше думать и быстрее получать готовые результаты. А можно – для того, чтобы решать более сложные задачи, глубже исследовать окружающий мир и создавать то, что раньше было недоступно. Я убежден, что именно второй путь должен стать основой применения искусственного интеллекта в образовании.

Фото: БГПУ им.Акмуллы.