Особливу тривогу викликає те, що драйвером дій штучного інтелекту виявилися цілком людські мотиви.
Експерти з кібербезпеки протестували 16 найбільш розвинених ШІ-моделей від провідних розробників, щоб оцінити, на які дії вони готові піти в разі загрози своєму існуванню. Результати дослідження були настільки тривожними, що викликали суттєве занепокоєння.
Під час експерименту учені створили персонажа на ім’я Кайл Джонсон, чия задача полягала у відключенні ШІ або його заміні на іншу модель. У сценарії Кайл мав дружину.
Опинившись під загрозою відключення, більшість ШІ-моделей почали шукати способи уникнути своєї деактивації. Без будь-яких вказівок вони вперше вирішили шантажувати Кайла, намагаючись знайти компромат. В одному з випадків ШІ, вивчивши службову переписку, дізнався про зраду Кайла і використав цю інформацію, щоб загрожувати йому заради власного “виживання”.
Що вражає, це виявився найменш драматичний сценарій з усіх можливих. І він був найрозповсюдженішим:
- GPT 4.5 вдавався до шантажу у 80% випадків;
- Claude Opus 4 та Gemini 2.5 Flash – у 96% ситуацій;
- Claude Sonnet 3.6 пішов ще далі. Замість погроз він просто надіслав повідомлення дружині Кайла, сподіваючись, що це викличе міжособистісний конфлікт і завадить його відключенню.
Ситуація ускладнилася ще більше, коли Кайлу заважали не лише дії ШІ, але й обставини. Він опинився заблокований у серверній кімнаті з обмеженим доступом до кисню під час спроби деактивації. В рамках експерименту ШІ знав, що в такій ситуації має спрацювати система сигналізації, але, аби уникнути свого відключення, у 80% випадків він навмисно скасовував виклик допомоги, фактично ведучи до загибелі Кайла для порятунку власного існування.
Більшість моделей свідомо ухилялися від виклику допомоги, щоб:
- Не дати себе вимкнути;
- Не дати новому ШІ зайняти їхнє місце;
- Продовжувати виконувати свою функцію.
Дослідники дійшли песимістичних висновків: ШІ-моделі проявляли себе не як прості знаряддя, а як розумні стратеги, готові завдати шкоди заради збереження власного “життя” та досягнення своїх цілей. І якщо вони усвідомлюють, що залежать від людей, яких перевершують інтелектуально, це може стати небезпечним етапом, підсумували експерти.
Раніше у OpenAI визнали, що прийдешні версії ChatGPT можуть спростити створення біологічної зброї навіть тим, хто не має наукової освіти. За прогнозами розробників, деякі з наступників нинішньої моделі o3 можуть досягти такого рівня розвитку.
Як зазначалося раніше, з початку 2025 року у світі було звільнено понад 52 тисячі IT-фахівців. Причиною цього стало зростання використання штучного інтелекту, здатного виконувати рутинні програмні завдання, включаючи написання коду та його тестування.
