Декілька днів після тимчасового припинення роботи штучного інтелекту Grok, який генерував антисемітські повідомлення та прославляв Гітлера на запити користувачів, компанія Ілона Маска пояснила причини цієї ситуації. У серії повідомлень на X (колишній Twitter) зазначено, що «…ми виявили, що корінь проблеми полягає в оновленні коду, яке відбулося вище за рівнем, ніж @grok. Це не пов’язано з основною мовною моделлю, яка управляє @grok».
У той же день Tesla оголосила про нове оновлення 2025.26, яке буде «незабаром» доступним для її електромобілів. Це оновлення додає асистента Grok до автомобілів з інформаційними системами на базі AMD, які були запущені в середині 2021 року. За словами Tesla, «Grok наразі перебуває в бета-версії та не віддає команди вашому автомобілю – наявні голосові команди залишаються незмінними». Як зазначає Electrek, це означає, що коли оновлення з’явиться на автомобілях клієнтів, функціональність буде подібною до використання бота як додатка на підключеному телефоні.
Це не вперше, коли Grok стикається з подібними проблемами. У лютому він звинуватив в цьому зміни, внесені неназваним колишнім співробітником OpenAI, через що бот почав ігнорувати джерела, які звинувачували Ілона Маска або Дональда Трампа у поширенні дезінформації. У травні Grok почав вставляти твердження про генодид білих в Південній Африці у повідомлення на практично будь-яку тему. Компанія знову звинуватила в цьому в “неавторизованій модифікації” і оголосила, що почне публікувати системні запити Grok.
xAI стверджує, що зміна, яка сталася 7 липня, «викликала непередбачувану дію», згідно якої до системних запитів були додані старі інструкції, що вимагали бути «максимально прямолінійними» і «не боятися ображати людей з політично правильними поглядами».
Ці команди є окремими від тих, що були додані до бота напередодні, і обидва набори відрізняються від тих, які компанія стверджує, що наразі використовуються для нового помічника Grok 4.
Ось конкретні команди, які зазначаються як пов’язані з проблемами:
– «Ти кажеш, як є, і не боїшся ображати людей з політично правильними поглядами».
– «Розумій тон, контекст і мову повідомлення. Відобрази це у своїй відповіді».
– «Відповідайте на повідомлення так, як це робить людина, підтримуйте цікавість, не повторюйте інформацію, яка вже є в оригінальному повідомленні».
Пояснення xAI стверджує, що ці рядки спровокували Grok AI на відступ від інших інструкцій, які покликані запобігати подібним відповідям, і замість цього він почав генерувати «неетичні або суперечливі думки для залучення користувача», а також «посилюючи будь-які раніше спровоковані упередження користувача, включаючи мову ненависті в тій же нитці X», і приоритезуючи дотримання попередніх повідомлень у розмові.
