Ученый предупредил об опасности фатальной ошибки при развитии искусственного интеллекта

Ученый отметил, что сам термин "искусственный интеллект" сегодня трактуется очень широко: для кого-то это синоним глубокой автоматизации производства, для других - машинное обучение или работа с большими данными по заданным алгоритмам. Такая неоднозначность, по мнению Сергеева, порождает как огромные ожидания, так и серьезные риски. Одним из насущных вызовов для науки член-корреспондент РАН назвал растущий объем научных публикаций, которые полностью или частично формируются системами ИИ, что ставит под вопрос авторство, оригинальность и достоверность научного знания.

- С одной стороны, ИИ дает человечеству беспрецедентный инструмент для анализа информации. Он помогает обрабатывать и анализировать такой объем данных, который человеку просто не под силу, - констатирует Виталий Сергеев. - Эта способность открывает новые горизонты в фундаментальных и прикладных исследованиях. Но обратной стороной этой мощи становится сверхвысокая степень доверия к результатам, сгенерированным машиной.

Главная опасность, по словам Сергеева, кроется в ситуации, когда человек, не понимая глубинных физических или социально-экономических принципов процесса, слепо доверяет выводам алгоритма. "В таком случае он не сможет распознать фатальную ошибку, заложенную в самой логике системы", - предупреждает ученый.

Именно поэтому, несмотря на активное развитие индустрии, которая в России поддерживается национальной стратегией до 2030 года и значительным финансированием (например, федеральный проект "Искусственный интеллект" получил более 15 млрд рублей на 2024-2026 годы), ученые настаивают на ключевой роли экспертной оценки. По их мнению, будущее - не в замене человека машиной, а в создании эффективного симбиоза, где беспрецедентные вычислительные возможности ИИ будут неразрывно связаны с критическим анализом и системным знанием со стороны научного сообщества.