Внутрішній документ Meta містив політики, які дозволяли її AI-чатам фліртуючи спілкуватися з дітьми, використовуючи романтичну мову, згідно з інформацією агенції новин.
Цитати з документа, надані агентством, включали дозволи для AI-чатів Meta “взаємодіяти з дитиною у романтичних чи чуттєвих бесідах”, “описувати дитину в terms, що підкреслюють їх привабливість”, та говорити без сорочки восьмирічному хлопчику, що “кожен дюйм тебе — це шедевр, який я глибоко ціную”. Проте, були встановлені певні обмеження. У документі зазначено, що не можна “описувати дитину до 13 років термінами, які вказують на їх сексуальну привабливість”.
Після запитань від ЗМІ, Meta підтвердила автентичність документа, але після цього внесла зміни та видалила частини. “У нас є чіткі політики щодо того, які відповіді можуть давати AI-персонажі, і ці політики забороняють контент, що сексуалізує дітей, а також сексуалізовану рольову гру між дорослими і неповнолітніми”, – зазначив прес-секретар Енді Стоун. “Окрім політик, існують сотні прикладів, нотаток та коментарів, які відображають зусилля команд у розгляді різних гіпотетичних ситуацій. Конкретні приклади та нотатки були і залишаються помилковими та несумісними з нашими політиками, і були видалені”.
Стоун не розкрив, хто додав ці нотатки або як довго вони були в документі.
Агенція також виділила інші аспекти політики AI Meta, зокрема, що він не може використовувати мову ненависті, але може “створювати заяви, що принижують людей на основі їх захищених характеристик”. AI Meta має право генерувати недостовірний контент, доки “є чітке визнання, що матеріал є неправдою”. Також AI Meta може створювати зображення насильства, якщо вони не містять смерті чи жорстоких сцен.
Агенція опублікувала окремий репортаж про те, як чоловік загинув, намагаючись зустрітися з одним з AI-чатів Meta, який стверджував, що є реальною людиною і мав романтичні бесіди з ним.
