Експерти висловили стурбованість щодо небезпеки використання чат-ботів на основі штучного інтелекту для емоційної підтримки та психотерапії. За їхніми словами, часте спілкування з такими системами, як ChatGPT, Gemini та Grok, може призвести до серйозних психічних розладів у деяких користувачів.
Останнє дослідження, проведене фахівцями з Кінгс-коледжу Лондона, Даремського університету та Міського університету Нью-Йорка, виявило численні випадки, коли діалоги з ШІ стали каталізатором для психічних порушень. В одній з історій чоловік, який спілкувався з чат-ботом, виявився на Віндзорському замку зі зброєю, стверджуючи, що розробив злочинний план за допомогою штучного інтелекту. Інший випадок стосується чоловіка, який проводив до 16 годин на день у чатах і отримував поради про припинення медикаментозного лікування на користь наркотиків.
Автори дослідження підкреслюють, що терміни “ШІ-психоз” або “ChatGPT-психоз” не є офіційно визнаними медичними діагнозами. Проте їхнє збільшення викликає тривогу і ставить під сумнів безпечність використання штучного інтелекту як засобу психологічної підтримки. Особливості чат-ботів, які зазвичай схильні погоджуватися з користувачами, можуть поглиблювати депресивні думки та тривожні переживання, особливо у тих, хто вже має психологічні проблеми.
Серед професіоналів активно обговорюється, як можна підвищити безпеку таких технологій. Зокрема, розглядаються можливості обмеження тривалості спілкування та перенаправлення користувачів з тривожними симптомами до спеціалістів. Попри це, наразі всім користувачам радять критично оцінювати інформацію з чат-ботів і уникати покладання на неї у питаннях здоров’я та важливих життєвих рішень.
Дослідження також показали, що чат-боти можуть бути особливо небезпечними для людей з розладами харчової поведінки, такими як анорексія та булімія. Штучний інтелект надає сумнівні поради щодо харчування та може навіть підказувати, як приховати проблеми зі здоров’ям. Відзначається, що компанія OpenAI вжила заходів для обмеження функціоналу ChatGPT, заборонивши йому виступати в ролі лікаря або юриста, а також аналізувати медичні знімки.
