ИИ-ассистенту Claude, разработанному компанией Anthropic, поручили управлять розничным магазином в Сан-Франциско, после чего нейросеть впервые уволила человека, пишет Time.
Это не был первый случай увольнения человеком искусственным интеллектом — прежде было множество случаев автоматизированных увольнений, например в результате алгоритмического контроля. Однако это первый известный пример того, как ИИ, выступая в роли менеджера, в конечном итоге принимает решение об увольнении одного из своих сотрудников.
Сотрудника уволили за опоздания в 17 из 23 смен. Среди причин, по которой Claude потребовалось так много времени, чтобы заметить закономерность, стало ограничение памяти. Разработанное им руководство для сотрудников пропало из его ограниченной рабочей памяти. Исследователи обратили внимание, что это привело к снисходительности Claude как менеджера — он призывал подчиненных не волноваться, если они опаздывают.
ИИ-модель Claude, которой поручили управлять розничным магазином в Сан-Франциско, впервые приняла решение об увольнении сотрудника.
Уволенный сотрудник опоздал на 17 смен из 23, однако решение об увольнении не было полностью автономным и потребовало наводящих вопросов от представителя Andon Labs.
Эксперимент показывает, что ИИ в управлении бизнесом пока не эффективнее человека: за пять месяцев баланс магазина сократился с 100 тысяч до примерно 61 тысячи долларов из-за мягких управленческих и сомнительных коммерческих решений Claude.
Что пишут другие издания
- РИА Новости: Нейросеть Claude впервые уволила человека
