Академик РАН заявил, что ИИ нельзя пускать в свободное плавание

Экс-глава Российской академии наук, научный руководитель российского Национального центра физики и математики Александр Сергеев выступил за решение вопросов безопасности и регуляторики в сфере искусственного интеллекта

/ТАСС/. Вопросы безопасности и регуляторики необходимо решать в сфере искусственного интеллекта (ИИ). При этом человеку нужно применять ИИ только в случае, если он понимает, на основе чего искусственным интеллектом сделаны те или иные выводы, считает экс-глава Российской академии наук, научный руководитель российского Национального центра физики и математики (НЦФМ) Александр Сергеев.

"Безопасность и регулирования - это совсем новые вопросы. Это сейчас интереснейшая новая область знаний, с которой нужно работать. Она очень научная. <…> [Решать] вопрос регуляторики безусловно нужно. Не пускать [искусственный интеллект] в самостоятельное плавание", - сказал Сергеев в беседе с ТАСС на площадке всероссийского слета студенческих физико-математических научных обществ "Физмат" в Нижегородской области.

Он отметил, что развитие искусственного интеллекта неизбежно, в том числе из-за огромных баз данных, накопленных человеком. При этом ИИ должен стать "доверенным", то есть человек должен понимать, почему искусственный интеллект сделал определенный вывод.

"Мы запустили искусственный интеллект. <…> Есть у больного онкология, значит нужна такая-то химиотерапия, такая-то комбинация препаратов, чего химиотерапевты до сих пор не знали. <…> Применять надо только в том случае, если мы понимаем, почему искусственный интеллект сделал такой вывод. На мой взгляд, ни в коем случае нельзя непонимаемое нами пускать в свободное плавание", - сказал собеседник.

По его словам, технологические уклады меняются очень быстро. "Сейчас видно, что мы находимся на пороге очень существенного изменения в технологиях, связанного с тем, что пришла цифровизация, пришел искусственный интеллект, пришли квантовые технологии и все это довольно быстро развивается", - добавил академик.

Слет проходит с 28 по 29 апреля при поддержке Министерства науки и высшего образования России и госкорпорации "Росатом" в рамках Десятилетия науки и технологий. Слет стал площадкой обсуждения задач научно-технологического развития страны.