Мова йде про випадки, коли комунікації містять загрози фізичної шкоди іншим людям.
Компанія OpenAI підтвердила, що ChatGPT сканує особисті бесіди своїх користувачів на виявлення небезпечного контенту і в разі потреби може передати інформацію правоохоронним органам.
Спочатку такі розмови проходять через автоматичні системи фільтрації, а потім їх аналізує невеличка команда модераторів. Саме вони вирішують питання про блокування акаунтів та інформування поліції у випадках, коли виявляється “безпосередня загроза серйозної фізичної шкоди”, як зазначається в останньому блозі компанії.
Водночас представники OpenAI підкреслили, що випадки самопошкодження не передаються владі з метою збереження конфіденційності. У таких ситуаціях ChatGPT має направляти користувачів до фахівців та кризових центрів.
Цей захід став відповіддю на збільшення критики після випадків самогубств і інших серйозних ушкоджень, які сталися за порадами чат-бота. Фахівці називають ці явища “ШІ-психозами”, що вказує на можливість штучного інтелекту спотворювати сприйняття реальності.
На цю ініціативу з’явилася широка реакція. Критики вказують на те, що OpenAI не змогла забезпечити абсолютну безпеку своєї технології і має вдаватися до жорсткої модерації, що суперечить їхнім заявам про конфіденційність. Також викликає занепокоєння відсутність прозорості — користувачі не знають, які саме ключові слова або теми можуть стати підставою для перевірки і, врешті-решт, викликати поліцію.
Генеральний директор OpenAI Сем Альтман раніше попередив, що розмови з ChatGPT можуть бути використані в судовому процесі. Законодавство на сьогодні не надає чат-ботам спеціального статусу конфіденційності, як це робиться для бесід з психологами чи адвокатами.
Нагадаємо, що в серпні OpenAI представила GPT-5 – “найсучаснішу мовну модель у світі”. Компанія стверджує, що спілкування з нею нагадує бесіду з кандидатом наук.
Раніше цього місяця OpenAI також випустила відкриті версії ChatGPT, які можна запускати локально і налаштовувати вручну.
