Об этом сообщает «КТРК» со ссылкой на The Conversation
В последние годы токсичность в Интернете стала серьезной проблемой. Люди часто используют оскорбления, обходя стандартные фильтры, что создает угрозу для уязвимых групп. Чтобы помочь в борьбе с интернет-грубиянами, ученые разработали новый инструмент, который улучшает работу существующих систем защиты.
Механизм помогает обнаруживать скрытые оскорбления, маскируемые через изменения символов или замену букв на цифры. Инструмент не заменяет фильтры, а работает как дополнение к ним, предварительно обрабатывая текст.
Он удаляет ненужные символы, корректирует ошибки и обнаруживает замаскированные оскорбления. Это делает вредоносный контент видимым для модерации. Таким образом, системы защиты становятся более эффективными и помогают создать безопасное онлайн-пространство.
Этот инструмент особенно полезен для социальных сетей и онлайн-платформ, где много людей сталкиваются с кибербуллингом. Он помогает предотвратить скрытые оскорбления, что защищает не только детей и подростков, но и более уязвимые категории пользователей. Также он полезен для бизнеса, защищая от клеветнических кампаний и помогая сохранить репутацию бренда.
Система может оказать значительное влияние на онлайн-общение, создавая более безопасную среду для всех. В будущем ученые планируют развивать этот инструмент, расширяя его возможности и улучшая понимание контекста общения. Это позволит распознавать токсичность еще точнее и обеспечивать более эффективную модерацию.
Напомним, ранее мы писали о том, почему танки с крыльями остались в истории.
