Hackernoon опубликовал материал о том, как работа больших языковых моделей соотносится с метафорой бесконечной библиотеки Хорхе Луиса Борхеса. В статье отмечается, что принцип предсказания токенов, лежащий в основе ИИ, создает тексты, напоминающие бесконечные тома библиотеки — среди которых есть и ценные знания, и хаотичный шум, пишет КТРК.
Исследователи подчеркивают, что языковая модель не обладает пониманием в человеческом смысле, а лишь строит последовательности на основе вероятности появления слов. Эта особенность ограничивает способность отличать истину от вымысла и делает процесс поиска полезных текстов подобным странствиям библиотекарей Борхеса по бесконечным залам.
Ограничения модели и роль перплексии
Перплексия, ключевой показатель работы модели, отражает среднее количество возможных продолжений текста на каждом шаге. Чем выше значение, тем больше ветвящихся путей и тем меньше вероятность, что среди них окажется верное утверждение. Внутренние «кольца» библиотеки условно содержат наиболее надежные ответы, но они излишне консервативны. На более дальних «кольцах» рождаются творческие решения, однако доля бессмыслицы там стремительно возрастает.
Метафора бесконечной библиотеки
Автор статьи проводит параллель: как в библиотеке Борхеса каждый возможный текст существует, но утонул в хаосе, так и у ИИ каждый ответ лишь одна из вероятностных тропинок. Пользователь выполняет роль библиотекаря — он ищет в этом многообразии смысл, экспериментирует с «температурой» генерации и выбирает между надежностью и оригинальностью.
Отличие человека от машины
В то время как ИИ не способен изменить значение уже созданного текста, человек может пересмотреть сложное произведение и признать его ценность только в финале, поняв логику автора. Умение связывать отдаленные идеи, строить аргументы и видеть целое в частях отличает человеческое мышление от алгоритмического предсказания.
Напомним, ранее мы писали о том, что искусственный интеллект демонстрирует уверенный рост на фондовом рынке.
