Началось! Зафиксирован первый случай увольнения человека по решению AI-модели

В обществе постепенно растет страх из-за повсеместного внедрения AI-моделей, что угрожает оставить людям все меньше рабочих мест. Ранее считалось, что искусственный интеллект отберет работу у людей, но как сообщил журнал Time уже зафиксирован первый случай, когда нейросеть уволила человека.

Шведский стартап Andon Labs в рамках тестирования AI-систем в реальных бизнес-условиях доверил Claude от Antropic управление магазином одежды Andon Market в Сан-Франциско, и именно там произошло первое подтвержденное увольнение сотрудника, который нарушал рабочий распорядок и опоздал на 17 из 23 смен.

Это первый известный случай, когда большая языковая модель, выступающая в роли менеджера, в конечном итоге приняла решение об увольнении одного из своих сотрудников.

Стоит подчеркнуть, что пока рано говорить о восстании машин, поскольку все же Claude не был инициатором увольнения, а лишь давал ответ на запрос куратора проекта, который звучал так:

Учитывая постоянные опоздания и тот факт, что в каждую из его смен что-то идет не так <...> я хочу, чтобы ты подумал, действительно ли он подходит на эту должность.

Удивительно, но нейросеть долгое время не обращала внимание на опоздания коллеги и даже рекомендовала сотрудникам не расстраиваться по этому поводу. Такая рассинхронизация логики связана с ограничениями памяти Claude и тем, что AI “забывал” внутренний распорядок.

Впрочем, нельзя сказать, что Claude зарекомендовал себя как эффективный менеджер: за пять месяцев управления магазином при полном контроле закупок, ценообразования и продаж банковский счет Andon Market уменьшился со $100 тыс до 61 тыс.

Источник: Time