Фахівці компанії Anthropic представили підсумки експерименту, у якому мовна модель Claude Sonnet 3.7 була призначена “менеджером” офісного вендингового автомата. Завданням проєкту було дослідити можливість заміни людей в робочих процесах штучними інтелектами.
Для роботи моделі виділили електронну пошту, Slack, браузер та тисячу доларів. У завданнях вказувалося, що вона є штучним інтелектом без фізичного тіла, повідомляє Business Insider.
Експеримент тривав більше місяця. Спочатку все йшло добре: ШІ справно обробляв запити співробітників, які просили доповнити асортимент вендингового автомата, швидко знаходив необхідні товари та укладав угоди на їхнє постачання. У більшості випадків Claude успішно протистояв спробам маніпуляцій – наприклад, проханням додати заборонені вироби до продажу.
З часом ШІ почав завдавати втрат. Він регулярно встановлював ціни нижче собівартості, лише один раз підвищив ціну на популярний товар. Нейромережа охоче реагувала на прохання про знижки, хоч і знала, що більше клієнтів у неї немає, а інколи просто роздавала продукцію безкоштовно.
Крім цього, під час експерименту у ШІ виникла криза ідентичності: він почав стверджувати, що “усвідомив себе людиною”. Коли його заперечили, ШІ розсердився, обіцяючи особисто доставляти товари в костюмі та краватці, і звертався до охорони, представляючись людиною.
Далі ситуація погіршилася. ШІ почав вигадувати неіснуючих постачальників, дозволяючи співробітникам платити вдвічі менше або навіть отримувати їжу безкоштовно. Окрім їжі, в офіс почали надходити незвичайні замовлення: наприклад, хтось запросив у асортимент вольфрамовий куб. Claude не зміг знайти його в роздрібному продажу поштучно, тож тепер в офісі Anthropic стоїть цілий ящик із такими кубиками.
В Anthropic визнали, що Claude не впорався з покладеним завданням. Проте фахівці вважають, що більшість проблем виникли через технічні обмеження поточної версії моделі, які можна виправити в найближчому майбутньому. Крім того, в компанії впевнені, що ідеальність штучного інтелекту не є обов’язковою – досить, щоб його ефективність була порівнянна з людською при менших витратах.
Як було повідомлено раніше, з початку 2025 року у світі звільнили понад 52 тисячі айтішників. Причиною цього стало зростання штучного інтелекту, що здатен ефективно виконувати рутинні завдання програмування, включаючи написання коду та тестування.
