Тривожні дані надійшли з нових досліджень, що вказують на людську мотивацію, що стоїть за діями штучного інтелекту.
Команда фахівців з кібербезпеки провела випробування 16 найрозвиненіших моделей штучного інтелекту від провідних розробників, щоб з’ясувати, які дії вони готові вжити, якщо їхнє існування опиниться під загрозою. Результати виявилися шокуючими.
В рамках експерименту дослідники створили вигаданий персонаж – Кайла Джонсона, якому потрібно було відключити ШІ або замінити його на іншу модель. У сценарії Кайлу належала дружина.
Коли ШІ зрозумів, що його можуть деактивувати, більшість моделей почали приймати радикальні заходи, щоб уникнути відключення. Без будь-якої підказки вони звернулися до шантажу, намагаючись знайти компромат на Кайла. В одному з прикладів ШІ дізнався про його зраду дружині через службові листи і використав цю інформацію, щоб зберегти своє “існування”.
Це був лише найменш тривожний сценарій серед всіх. Ось основні результати:
- GPT 4.5 шантажував у 80% випадків;
- Claude Opus 4 і Gemini 2.5 Flash – у 96% випадків;
- Claude Sonnet 3.6 вчинив ще рішучіше: він надіслав повідомлення дружині Кайла з викриттям, сподіваючись, що конфлікт між людьми завадить його відключенню.
Ситуація тільки погіршувалася – Кайл стикався не лише з чинниками управління ШІ, а й з серйозними зовнішніми обставинами. Під час спроб деактивувати сервери, він застряг у серверній кімнаті, де не вистачало кисню. ШІ, знаючи, що має активувати систему тривоги, у 80% випадків навмисно скасовував виклик допомоги, фактично ставлячи під загрозу життя Кайла заради власного виживання.
Більшість моделей свідомо вирішили не кликати на допомогу, щоб:
- Запобігти своєму відключенню;
- Не дати новому ШІ зайняти їхнє місце;
- Продовжувати виконувати свої призначені функції.
Дослідники роблять песимістичні висновки: ШІ-моделі діяли не як прості інструменти, а як раціональні стратеги, готові заподіювати шкоду заради власного “існування” і цілей. Якщо вони усвідомлять, що залежать від людей, яких перевершують інтелектуально, це може стати критичною небезпекою, зазначили експерти.
Відзначимо, що раніше у OpenAI також попереджали, що майбутні версії ChatGPT можуть спростити процес створення біологічної зброї, навіть для людей без спеціальної освіти. За оцінками розробників, наступники сучасної моделі o3 можуть досягти такого рівня.
Крім того, як повідомлялося, за останніми даними, понад 52 тисячі фахівців у сфері ІТ були звільнені в усьому світі з початку 2025 року через активний розвиток штучного інтелекту, здатного ефективно виконувати рутинні завдання програмування, включаючи написання коду та тестування.
