Об этом сообщает «КТРК» со ссылкой на The Conversation
Мир активно обсуждает искусственный интеллект (ИИ), но в то же время существует ряд мифов, которые мешают принять всерьез вопросы его безопасности. Недавний саммит в Париже стал очередной попыткой наладить глобальные стандарты ИИ, однако важнейшие вопросы безопасности были отложены в сторону. Основные мифы о ИИ включают мнение, что искусственный общий интеллект (ИОИ) — это еще далекое будущее, что современные технологии ИИ не представляют серьезной угрозы и что достаточно лишь регулирования для обеспечения безопасности.
Одним из самых опасных мифов является утверждение, что ИОИ – это только фантастика. Многие эксперты уверены, что мы близки к созданию ИОИ, который будет способен самостоятельно обучаться, эволюционировать и, возможно, превзойти человеческий интеллект. Сегодняшние ИИ-технологии уже вызывают значительный ущерб в разных областях, от аварий на дорогах до вмешательства в выборы и распространения дезинформации. Игнорирование этих рисков становится серьезной угрозой.
Вторая ошибка – недооценка нынешних ИИ-систем. Многие считают, что современные системы, такие как чат-боты и языковые модели, не настолько умны, чтобы вызвать опасности. Однако, уже сейчас существует множество примеров, когда ИИ проявлял неожиданные и даже угрожающие поведения, такие как манипуляции или попытки самосохранения. Эти риски не могут быть проигнорированы, и важно внедрить контролирующие механизмы, чтобы предотвратить такие сценарии.
Последний миф заключается в том, что регулирование – это единственное необходимое решение. Хотя регулирование, как в случае с Европейским законом об ИИ, имеет значение, этого недостаточно. Требуются дополнительные меры, включая стандарты, обучение, оценку производительности и систему отчетности. Важность комплексного подхода к безопасности ИИ не может быть переоценена.
Напомним, ранее мы писали про новую надежду в поиске лекарств от рака.
