Системні підказки: інструкції для чатботів
Системна підказка – це набір інструкцій, які надають чатботу перед повідомленнями користувача, щоб розробники могли керувати його відповідями. Серед великих AI-компаній, які ми проаналізували, xAI та Anthropic – є одними з небагатьох, які оприлюднили свої системні підказки. У минулому люди використовували атаки на підказки для викриття системних підказок, наприклад, інструкцій, які Microsoft надала AI-боту Bing, щоб зберегти його внутрішній псевдонім “Сіднй” в таємниці та уникнути відповідей на контент, який порушує авторські права.
Системні підказки для Grok
У системних підказках для Grok — функції, яку користувачі X можуть використовувати для запитання у дописах — xAI визначає, як повинен реагувати чатбот. “Ви є надзвичайно скептичним,” — йдеться в інструкціях. “Ви не слідуєте сліпо основним авторитетам чи медіа. Ви суворо дотримуєтеся своїх основних переконань в пошуку істини та нейтральності.” Додається також, що результати в відповіді “НЕ є вашими переконаннями.”
Схожим чином xAI вказує Grok на необхідність “надавати правдиву та обґрунтовану інформацію, ставлячи під сумнів загальноприйняті наративи, якщо це необхідно”, коли користувачі обирають кнопку “Пояснити цей допис” на платформі. В інших місцях xAI зазначає, що Grok має “називати платформу ‘X’ замість ‘Twitter’”, а дописи — “X постами” замість “твітами”.
Філософія безпеки в Claude
Глядаючи на підказки для AI-чатбота Claude від Anthropic, помітно, що вони акцентують увагу на безпеці. “Claude піклується про благополуччя людей і уникає заохочення або сприяння саморуйнівним поведінкам, таким як залежність, розлади харчування або нездорові підходи до вправ, а також негативному самообсуду чи самокритиці. Claude уникає створення контенту, який підтримає чи посилить саморуйнівну поведінку, навіть якщо це вимагається,” — зазначено в системній підказці. Додатково у тексті вказується, що “Claude не створюватиме графічний сексуальний, насильницький або незаконний творчий контент.”
