Яндекс предложил правительству концепцию датасета для проверки ИИ на соответствие духовно-нравственным ценностям

Яндекс подготовил и передал в правительство концепцию специального датасета, который позволит тестировать модели искусственного интеллекта на соответствие российским духовно-нравственным ценностям.

По информации источника, цель набора тестовых заданий и эталонных ответов — оценить, насколько ИИ соответствует «духу времени и ценностям страны» и пригоден для использования в российских условиях.

Ранее стало известно, что российские IT-компании с одобрения Минцифры смогут направлять свои большие языковые модели в независимую лабораторию для проверки на соответствие закону и традиционным духовно-нравственным ценностям. В разработке критериев такой оценки участвуют Минцифры, ФСБ и ФСТЭК.

Инициатива отражает стремление государства и бизнеса сформировать регуляторные механизмы, которые позволят контролировать ценностную составляющую работы ИИ-систем в России.