ИИ проверят на соответствие духовно-нравственным ценностям

Как сообщает издание «Коммерсант», компания «Яндекс» представила на рассмотрение рабочей группы по регулированию ИИ концепцию национального датасета — набора тестовых заданий и эталонных данных для оценки нейросетей. Инициатива, представленная 13 августа, направлена на проверку соответствия алгоритмов «духу времени и ценностям страны», а также их пригодности для работы в российских условиях. Проект находится на начальной стадии обсуждения, и окончательные механизмы его реализации пока не определены.

По мнению экспертов, ключевая сложность заключается в выборе формата тестирования. Как отмечает директор по ИБ GreenData Роман Перепонов, для технических задач с однозначными ответами, такими как программирование или математика, существуют четкие эталоны, однако оценка ценностных категорий требует иного подхода: «Это принципиально разные механики в рамках одного датасета, и требования к их прозрачности должны различаться».

В ходе совещания возникли разногласия относительно публичности данных. Представители ФСБ настаивают на закрытом формате тестирования, чтобы исключить возможность подстройки моделей под конкретные вопросы. В свою очередь, бизнес-сообщество опасается, что полная закрытость замедлит развитие технологий и превратит проверку в «лотерею». В качестве компромисса предложено использовать комбинированную модель: открытый бенчмарк для предварительной подготовки разработчиков и закрытый — для финальной аттестации систем.

Вопрос о том, кто именно будет формировать содержание тестов, остается открытым. ИТ-отрасль выступает за создание совместной комиссии с участием государства, бизнеса и экспертных организаций для обеспечения баланса. В аппарате вице-премьера Дмитрия Григоренко и Минцифры подчеркивают, что обсуждение инициативы продолжается, а принятие конкретных решений преждевременно. Ранее глава Минцифры Максут Шадаев неоднократно подчеркивал критическую важность наличия качественных датасетов для ускорения технологического прогресса в стране.

После выхода заметки компания «Яндекс» предоставила свой комментарий: «"Яндекс" не представлял концепцию национального датасета и набор тестов для проверки ИИ-моделей. На рабочей встрече в Минцифры представители нескольких компаний обсуждали возможные подходы к такой проверке. "Яндекс" был одним из участников обсуждения и высказал свою позицию – содержание датасета должно быть открытым по общепринятым принципам отрасли».

Ранее «Телеспутник» писал, что в России могут создать Совет по генеративной разработке программного обеспечения.

Обновление новости, 15:44: добавлен комментарий «Яндекса».