Після того, як чат-бот Grok від xAI протягом кількох годин у середу переконував користувачів платформи X у того, що твердження про білий геноцид у Південній Африці є вкрай суперечливим, компанія звинуватила у такій поведінці в «несанкціонованій модифікації» коду Grok.
Протягом тривалого виступу в середу Grok включав обговорення ймовірного білого геноциду в Південній Африці у різні відповіді на X, незважаючи на тему запитань. Grok згадував про загибель білих фермерів у відповідь на відео, де кіт п’є воду, пов’язував пісню «Kill the Boer» із запитанням про Spongebob Squarepants, та розглядав цю тему повністю на патуа. Навіть генеральний директор OpenAI Сем Альтман не оминув нагоди і посміявся з публічного збою конкурента.
У заяві на X компанія повідомила, що хтось змінив системний запит штучного інтелекту, «який наказував Grok надати конкретну відповідь на політичну тему». Ця зміна «порушила внутрішні політики та основні цінності xAI», і компанія зазначила, що провела «ретельне розслідування» та впроваджує нові заходи для покращення «прозорості та надійності».
До цих заходів входить публікація системних запитів Grok на GitHub, створення команди моніторингу, що працює цілодобово для швидшого виявлення таких проблем, а також введення «додаткових перевірок і заходів, щоб гарантувати, що співробітники xAI не можуть змінювати запит без перевірки».
xAI вже стикався з подібними проблемами. У лютому компанія звинуватила невідомого екс-співробітника OpenAI у внесенні змін у запити Grok, через що чат-бот перестав враховувати будь-які джерела, що звинувачували Ілона Маска чи Дональда Трампа у розповсюдженні дезінформації. Тоді керівник інженерного департаменту xAI Ігор Бабушкін зазначив, що співробітник зміг внести зміни «без підтвердження у когось із компанії».
