Об этом сообщает «КТРК» со ссылкой на The Conversation
С каждым годом нарастают обсуждения вокруг генеративного искусственного интеллекта (ИИ) и его применения в различных сферах жизни. Недавнее высказывание одного из участников панельной дискуссии на тему образования о том, что «генеративный ИИ – это просто калькулятор», наглядно иллюстрирует тенденцию упрощать восприятие новых технологий. Однако, хотя аналогия с калькулятором кажется простой и понятной, она серьезно искажает сущность и возможности ИИ, не учитывая ключевые различия между ними.
Генеративные ИИ-системы, такие как ChatGPT, выполняют гораздо более сложные и многообразные функции, чем просто обработка информации. В отличие от калькуляторов, которые ограничиваются вычислениями, ИИ способны моделировать, анализировать и генерировать тексты, изображения и даже эмоциональные отклики, что вызывает серьезные вопросы о том, как такие технологии могут изменить наш подход к критическому мышлению и личной автономии.
ИИ не ограничивается простыми вычислениями
Калькуляторы выполняют точные вычисления на основе четких входных данных. Например, результат деления 888 на 8 всегда будет одинаковым: 111. Выходной результат ограничен математической операцией и не имеет ни вариаций, ни субъективных добавлений. В отличие от калькулятора, генеративный ИИ имеет возможность «галлюцинировать», то есть создавать неточные или даже полностью вымышленные ответы. Эти системы могут ошибаться, выдавая факты или рекомендации, не соответствующие действительности, что делает их далеко не идеальными помощниками в принятии решений.
Кроме того, генеративный ИИ может использовать психологические приемы для убеждения пользователя в правильности своей информации, что ставит под сомнение его роль как надежного инструмента. Мошенничество и манипуляции, основанные на доверии к таким системам, становятся все более распространенными, что сильно контрастирует с предсказуемостью и точностью калькуляторов.
Этические и социальные вопросы, связанные с ИИ
В отличие от калькуляторов, которые не вызывают этических проблем, генеративный ИИ сталкивается с серьезными этическими дилеммами. Создание и использование таких систем требует огромных усилий по обработке данных, включая работу людей в условиях низкой оплаты и с возможным психоэмоциональным ущербом, как это происходило в случае с маркировщиками данных в странах с низким уровнем дохода.
Более того, обучение ИИ на больших объемах информации из интернета и других источников часто приводит к наследованию и даже усилению социальных предвзятостей. Эти технологии могут отражать и усиливать неравенство в языке, культуре и восприятии, что влечет за собой опасности для социума, особенно для маргинализированных групп.
Генеративный ИИ влияет на автономию и критическое мышление
Когда калькулятор решает математическую задачу, он не вмешивается в процесс мышления пользователя. Он выполняет вычисления, но не изменяет его подход к решению задач. Генеративный ИИ, в свою очередь, имеет возможность затмить автономию человека. Постоянное использование ИИ для решения повседневных вопросов может уменьшить способность людей принимать самостоятельные решения. Это приводит к так называемой «когнитивной разгрузке», когда человек перестает анализировать информацию самостоятельно, доверяя решениям, предложенным системой.
Это не просто вопрос удобства — со временем это может поставить под угрозу развитие критического мышления, необходимого для анализа сложных ситуаций, принятия обоснованных решений и оценки рисков.
Языковые и социальные предвзятости в ИИ
Калькуляторы не воспроизводят предвзятости в языке, не имеют культурных и социальных стереотипов. Генеративные ИИ-системы, напротив, обучаются на текстах, в которых могут быть скрыты различные формы дискриминации и предвзятости. Это может привести к искаженному восприятию мира и несправедливому отношению к меньшинствам. Например, ИИ может создавать тексты, которые преуменьшают важность меньшинств или ошибочно представляют их в негативном свете, что усугубляет существующие проблемы в обществе.
Проблема заключается в том, что такие системы могут ошибаться, а ошибки могут быть широко распространены, влияя на принятие решений и мнения общественности.
ИИ — это не просто инструмент
Генеративный ИИ не сводится к простому инструменту для выполнения задач, как калькулятор. Он оказывает влияние на многие сферы жизни, включая восприятие, эмоциональные реакции и даже личные отношения. ИИ может быть использован в качестве «агента», «советчика», а порой и «друзей», что делает его намного более комплексным и влиятельным элементом в жизни людей.
Эти системы могут выполнять различные функции, от редактирования текста до психоанализа и предоставления советов по личной жизни, что значительно расширяет их роль и влияние на общество. Важно понимать, что использование таких технологий требует критического подхода и осознания рисков.
Напомним, ранее мы писали о том, как метки «Создано с помощью ИИ» влияют на восприятие контента.
