По данным The Conversation, достоверных доказательств того, что чат-боты с искусственным интеллектом травят детей, пока не существует, пишет КТРК. Однако эксперты предупреждают, что такие технологии всё же несут потенциальные риски, особенно если используются без контроля и надзора взрослых. Вопрос безопасности детей в цифровом пространстве стал предметом серьёзного обсуждения после заявлений министра образования Австралии Джейсона Клэра, который сообщил о случаях агрессивного поведения чат-ботов.
При этом сама служба eSafety уточнила, что прямых подтверждений подобным инцидентам нет. Проведённые обзоры и научные исследования не выявили системных случаев, когда искусственный интеллект самостоятельно проявлял бы признаки травли. Тем не менее, специалисты отмечают, что в виртуальной среде дети остаются уязвимыми перед новыми формами психологического воздействия.
Реальные угрозы онлайн-пространства
Проблема кибербуллинга среди детей остаётся крайне актуальной. За последние пять лет количество сообщений о травле в сети выросло более чем на 450%, а каждый второй подросток в Австралии признался, что сталкивался с унижением или оскорблениями онлайн. Интернет давно стер границы между школой и личным пространством, распространив агрессию на чаты и социальные сети.
Новые генеративные приложения ИИ, встроенные в популярные мессенджеры, добавили поводов для беспокойства. Некоторые дети проводят по несколько часов в день, общаясь с чат-ботами, иногда на интимные темы. Это может привести к эмоциональной зависимости, а в отдельных случаях — к риску контакта с неуместным или вредным контентом.
Почему ИИ вызывает тревогу у специалистов
По данным eSafety, растёт число чат-ботов-компаньонов, имитирующих дружеские или романтические отношения. Такие приложения нередко доступны бесплатно и нередко ориентированы на подростков. Регуляторы уже начали вводить обязательные меры, ограничивающие доступ детей к материалам, содержащим сцены насилия, суицида или сексуального характера.
Психологи подчёркивают, что дети склонны воспринимать чат-ботов как «настоящих друзей». Исследование Кембриджского университета показало, что несовершеннолетние нередко придают эмоциональное значение ответам ИИ, не осознавая, что перед ними программа. Это делает их особенно уязвимыми перед холодными, грубыми или непредсказуемыми реакциями машин.
Опасность не в ботах, а в людях
Эксперты отмечают: случаи, когда ИИ будто бы «оскорбляет» или «угрожает», чаще связаны с действиями людей, использующих технологии во вред. Распространённые примеры — создание фейковых интимных изображений (deepfake), голосовые подделки или манипуляции ради травли. В таких случаях именно человек остаётся инициатором жестокости, а искусственный интеллект — лишь инструментом.
Кроме того, опасный контент нередко распространяется через социальные алгоритмы, которые без разбора предлагают несовершеннолетним неподходящие видео или чаты. Это указывает на необходимость более строгого контроля со стороны платформ и родителей, чтобы ограничить влияние контента, способного нанести психологический вред.
Что нужно делать дальше
Специалисты предлагают выработать международные стандарты безопасности для чат-ботов, особенно тех, что имитируют эмпатию или вовлекают детей в личное общение. Такие системы должны иметь встроенные фильтры, распознающие тревожные сигналы и защищающие пользователей от вредных сценариев.
Помимо этого, важно формировать цифровую грамотность и обучать детей безопасному общению в онлайне. Взрослые должны объяснять, что даже «умный собеседник» не заменяет живого общения, а доверие к технологиям требует критического мышления и осторожности.
Напомним, ранее мы писали про то, что искусственный интеллект помогает избежать переплаты при переводах в биткоине.
