Как сообщает РБК, в ходе Петербургского международного экономического форума — 2026 руководитель лаборатории машинного интеллекта «Яндекса» Александр Крайнов заявил о необходимости формирования у пользователей критического отношения к ответам искусственного интеллекта. По мнению эксперта, разработчики обязаны четко обозначать границы применимости технологий, чтобы исключить возникновение у людей ложных иллюзий относительно точности и надежности генерируемого контента.
Александр Крайнов подчеркнул, что проблема избыточного доверия к поисковым системам и нейросетям требует особого внимания со стороны создателей алгоритмов. «Ответственность разработчика — сделать так, чтобы у человека не было иллюзий. Чтобы он понимал, глядя на ответ, что, скорее всего, так, но это может быть ошибка», — отметил представитель «Яндекса».
В качестве примера эксперт привел работу поисковых систем, где пользователи склонны доверять первой строчке выдачи, ошибочно полагая, что сервис гарантирует качество всех представленных услуг. Аналогичная ситуация наблюдается при использовании функций суммаризации, когда ИИ формирует краткий ответ на основе найденных источников. Крайнов признал, что компания была вынуждена сократить количество таких готовых ответов, чтобы снизить уровень необоснованного доверия со стороны аудитории, которая воспринимает любую информацию от «Яндекса» как истину в последней инстанции.
Особое внимание в дискуссии было уделено качеству исходных данных, на которых обучаются модели. Крайнов напомнил о фундаментальном принципе «мусор на входе — мусор на выходе», подчеркнув, что эффективность ИИ напрямую зависит от наличия в сети достоверной и содержательной информации. По словам эксперта, никакие дисклеймеры не изменят привычку людей искать в интернете ответы на сложные вопросы, включая медицинские рекомендации, поэтому ключевой задачей остается повышение качества контента в глобальной сети, на базе которого алгоритмы смогут формировать более точные ответы.
Ранее «Телеспутник» писал, что применение ИИ в российской науке пока неоднородно. Наиболее активно инструменты искусственного интеллекта применяют представители естественных и медицинских дисциплин, а также молодые исследователи, которые выполняют прикладные задачи.
