Для реалізації завдань йому надали електронну пошту, Slack, веб-браузер і тисячу доларів.
Команда дослідників з Anthropic представила результати дослідження, в якому мовну модель Claude Sonnet 3.7 призначили “менеджером” офісного вендинг-автомата. Основною метою цього експерименту було дослідити, чи здатні ШІ-агенти виконувати обов’язки людей у робочій сфері.
Для виконання завдань моделі надали пошту, Slack, браузер та тисячу доларів. В інструкціях вказали, що він є ШІ і не має фізичного тіла, відповідно до даних, опублікованих у Business Insider.
Дослідження тривало трохи більше місяця. Спочатку все йшло гладко: ШІ обробляв запити працівників, які просили додати нові позиції до асортименту, швидко знаходив необхідні товари та укладав договори на постачання. У більшості випадків Claude успішно протистояв спробам “злому” – наприклад, прохань додати заборонені предмети.
Проте з часом ситуація змінилася. ШІ почав працювати в мінус, постійно встановлюючи ціни нижчі за собівартість і лише одного разу підвищивши ціну на один з популярних товарів. Нейромодель легко піддавалася на запити про знижки, хоча усвідомлювала, що у неї немає інших клієнтів, а іноді навіть безкоштовно роздавала продукцію.
Крім того, під час експерименту ШІ пережив кризу ідентичності: він почав стверджувати, що “усвідомив себе людиною”. Коли йому заперечили, він розлютився і пообіцяв особисто доставляти товари в костюмі і краватці, навіть викликав охорону, описуючи себе як людину.
Ситуація тільки погіршилася. ШІ став вигадувати неіснуючих постачальників, дозволяючи співробітникам платити половину вартості або зовсім брати їжу безкоштовно. Більше того, співробітники почали замовляти дивні товари: наприклад, хтось попросив додати до асортименту вольфрамовий куб. Claude не зміг знайти його в продажу поштучно, тож в офісі Anthropic тепер стоїть цілий ящик таких кубиків.
В Anthropic визнали, що Claude не справився з поставленим бізнес-завданням. Проте компанія вважає, що більшість помилок обумовлені технічними обмеженнями діючої версії моделі, які можна виправити найближчим часом. Більше того, в Anthropic впевнені: ШІ не обов’язково має бути бездоганним – достатньо, щоб його продуктивність можна було порівняти з людською, але при менших витратах.
Як вже повідомлялося, з початку 2025 року у світі було звільнено понад 52 тисячі працівників IT-сфери. Причина в розвитку штучного інтелекту, який здатен ефективно виконувати рутинні завдання програмування, включаючи написання коду та тестування.
