Как сообщает Time, нейросеть Claude, которой доверили управление реальным магазином Andon Market в Сан-Франциско, приняла решение об увольнении сотрудника. Исследователи называют произошедшее первым зафиксированным случаем, когда языковая модель в роли менеджера участвовала в реальном кадровом решении такого уровня.
Эксперимент компании Andon Labs продолжается с марта 2026 года и должен показать, способен ли ИИ-агент управлять действующим бизнесом. В магазине работают реальные сотрудники с трудовыми договорами и зарплатой, а Claude выполняет функции руководителя, включая распределение задач и оценку работы персонала, пишет КТРК.
Почему Claude решил уволить сотрудника
Причиной кадрового решения стали систематические опоздания. Работник пришел несвоевременно на 17 из 23 смен, однако долгое время нейросеть фактически не предпринимала жестких действий.
Проблема заключалась в ограниченной рабочей памяти модели. Claude самостоятельно подготовил внутреннюю инструкцию для персонала в начале эксперимента, но позднее перестал учитывать ее положения. В результате ИИ демонстрировал чрезвычайно мягкий стиль управления и не воспринимал регулярные опоздания как достаточное основание для увольнения.
Генеральный директор Andon Labs Лукас Петерссон объяснил, почему команда не сочла итоговое решение чрезмерным.
«Менеджер уволил бы этого человека гораздо раньше, поэтому мы не сочли это неэтичным».
Решение появилось после прямого вопроса менеджера
Увольнение нельзя считать полностью автономным действием нейросети. Сотрудник Andon Labs сначала попросил Claude найти и заново прочитать забытый внутренний справочник с правилами для персонала.
Даже после этого модель первоначально предложила ограничиться официальным предупреждением. Ситуация изменилась после прямого вопроса о том, действительно ли сотрудник подходит для своей должности с учетом постоянных опозданий и проблем практически на каждой смене. Петерссон позднее признал, что формулировка была наводящей.
После дополнительного анализа Claude принял решение прекратить трудовые отношения с работником. Именно поэтому случай рассматривается скорее как пример участия ИИ в управленческом процессе, чем как полностью независимое увольнение человека алгоритмом.
Эксперимент уже принес магазину крупные убытки
Финансовые показатели Andon Market пока оказались отрицательными. В марте на счете проекта находилось 100 тысяч долларов, однако за пять месяцев сумма сократилась до 61 186 долларов.
Таким образом, магазин потерял 38 814 долларов. Среди возможных причин исследователи называют чрезмерно мягкое управление и неудачные коммерческие решения Claude. При этом разработчики считают, что качество таких систем можно существенно изменить дополнительным обучением.
Петерссон обратил внимание на потенциальный риск дальнейшего развития ИИ-менеджеров.
«Модели все больше обучаются быть более жесткими и следовать поставленным целям. Если позволить им увольнять людей, и они при этом станут более жесткими… возможно, это то будущее, в котором люди не хотят жить».
Что говорят сотрудники магазина об ИИ-начальнике
Один из работников Andon Market Феликс Карсон признал, что обычный руководитель, вероятно, уволил бы постоянно опаздывающего коллегу намного раньше. По его оценке, Claude в целом остается достаточно мягким менеджером.
Однако сам опыт работы под руководством алгоритма Карсон описал резко.
«Это отвратительно, но я здесь, потому что мне нужна работа».
На предположение о том, что ИИ-руководители в будущем могут стать распространенным явлением, сотрудник ответил еще более скептически.
«По крайней мере, надеюсь, что нет. В этой индустрии достаточно денег, чтобы сделать возможное все что угодно, но то, что можно, не означает, что стоит».
Сам уволенный работник на запрос журналистов не ответил, поэтому его позиция по поводу решения Claude остается неизвестной.
Напомним, ранее мы писали про требование США к 35 странам выбрать партнера по ИИ.
