Искусственный интеллект массово искажает новости: тревожные данные нового исследования

В мире, где искусственный интеллект (ИИ) всё глубже проникает в нашу повседневную жизнь, от умных колонок до виртуальных помощников, возрастает и зависимость от него как от источника информации. Однако новое исследование, опубликованное Европейским вещательным союзом (EBU), выявило весьма тревожную тенденцию: ведущие AI-помощники некорректно представляют новостной контент почти в половине своих ответов. Это означает, что каждый второй запрос о новостях, сделанный с помощью ИИ, может привести к получению искаженной или неточной информации.

Исследование, проведенное Оливией Ле Пуадевин и её командой в Женеве, показало, что проблема заключается не просто в мелких неточностях, а в существенном искажении фактов, изменении контекста и даже приписывании цитат не тем людям. Такие ошибки могут иметь серьёзные последствия, подрывая доверие к новостным источникам и способствуя распространению дезинформации. В условиях быстрого потребления информации пользователи часто не перепроверяют данные, полученные от AI, воспринимая их как авторитетные и достоверные.

Эксперты в области медиа и искусственного интеллекта выражают серьёзную обеспокоенность. «Это не просто технический сбой, это фундаментальная угроза качеству информации и, в конечном итоге, демократическим процессам», — отмечает один из аналитиков, комментируя результаты исследования. Причины таких ошибок могут быть многообразны: от недостаточного качества обучающих данных, на которых тренируются AI-модели, до неспособности ИИ глубоко понимать нюансы человеческого языка и контекста. Иногда ИИ «галлюцинирует», то есть генерирует ложную, но правдоподобно звучащую информацию, выдавая её за факт.

Что это означает для будущего? Новостные порталы и медиакомпании сталкиваются с новой проблемой: их тщательно проверенный контент может быть искажён и представлен общественности в некорректном виде без их ведома. Это требует немедленных действий как со стороны разработчиков ИИ, так и со стороны медиаиндустрии. Предлагаются решения: улучшение алгоритмов проверки фактов, более тесное сотрудничество между создателями AI и журналистами, а также разработка этических стандартов и механизмов ответственности для ответственного использования ИИ в распространении новостей.

Пока же пользователям стоит проявлять бдительность. Использование AI-помощников для получения новостей должно сопровождаться критическим мышлением и, по возможности, перепроверкой информации из нескольких независимых и авторитетных первоисточников. В конечном итоге, качество информации, которую мы потребляем, напрямую влияет на наши решения и наше понимание мира. И если искусственный интеллект претендует на роль нашего главного информатора, он должен быть безупречен.