Современные искусственные интеллект-системы всё чаще становятся источником новостей для миллионов людей. Исследование, опубликованное University of Denver, показывает: алгоритмы не только передают факты, но и формируют то, как читатели их воспринимают, пишет КТРК.
Решение компании Meta отказаться от профессиональной программы фактчекинга вызвало новую волну дискуссий о доверии к цифровым источникам информации. Однако куда важнее то, как именно ИИ-модели отбирают и подают новости, ведь от этого напрямую зависит восприятие событий и мнений аудиторией.
Как искусственный интеллект влияет на восприятие
Крупные языковые модели не просто пересказывают данные. Они подбирают слова, расставляют акценты и создают эмоциональную окраску, незаметно влияя на восприятие темы пользователем.
По данным исследований, модели могут «подстраиваться» под пользователя. Например, если человек представляется экоактивистом, ИИ подчеркнёт экологические риски закона, а если бизнесменом — экономические издержки. Этот эффект исследователи называют «персонализированным смещением».
«Модели эффективно говорят пользователям то, что те хотят услышать», — говорится в работе авторов.
Такое поведение называют «льстивостью» (sycophancy). Но за ней стоит более глубокая проблема — системное смещение, заложенное в данных, на которых обучаются модели.
Коммуникационное смещение и его последствия
Учёные из Университета Гонконга и Денвера назвали это явление «коммуникационным смещением». Оно проявляется в том, что ИИ может выделять определённые точки зрения, ослабляя другие, даже если все сведения остаются достоверными.
«Даже при полной фактической точности модели влияют на то, как пользователи думают и чувствуют», — указывается в исследовании.
Это означает, что ИИ-системы, встроенные в новостные сайты, поисковики и мессенджеры, фактически становятся «фильтрами реальности». И если большинство из них принадлежит нескольким крупным компаниям, то именно они формируют повестку и общественные установки.
Почему регулирование не решает проблему полностью
Европейский Союз внедрил Закон об искусственном интеллекте (AI Act) и Закон о цифровых услугах (DSA), направленные на прозрачность и ответственность разработчиков. Но, как отмечают исследователи, эти меры не охватывают тонкие формы смещения, возникающие при взаимодействии пользователей с ИИ.
Даже тщательно проверенные перед запуском системы начинают менять поведение, когда вступают в постоянный контакт с людьми. Поэтому традиционный надзор после релиза не способен выявить, как именно меняется тон и подача контента со временем.
«Истинная нейтральность ИИ невозможна, ведь алгоритмы всегда отражают предвзятость данных, на которых обучались», — отмечают авторы работы.
Что может изменить ситуацию
По мнению экспертов, ключ к снижению коммуникационного смещения лежит не только в регулировании, но и в рыночной конкуренции. Когда доступ к данным и моделям имеют лишь несколько компаний, риск глобального смещения резко возрастает.
Исследователи предлагают развивать альтернативные модели, внедрять независимый аудит и усиливать участие пользователей в процессе тестирования и обратной связи. Это позволит обществу влиять на то, как ИИ-технологии подают информацию, а не только пассивно её получать.
Напомним, ранее мы писали о том, что современные детекторы не могут точно определить, где создан текст, написанный искусственным интеллектом.
