Anthropic оновила політику використання свого чат-бота Claude у відповідь на зростаючі занепокоєння щодо безпеки. Окрім впровадження більш суворих правил кібербезпеки, компанія конкретизувала, які види зброї не можна розробляти за допомогою Claude.
Незважаючи на те, що Anthropic не акцентує увагу на змінах у своїй політиці щодо зброї, порівняння старої та нової версії політики виявляє суттєві відмінності. Досі компанія забороняла використання Claude для “виробництва, модифікації, розробки, маркетингу чи розподілу зброї, вибухових речовин, небезпечних матеріалів або інших систем, що можуть заподіяти шкоду або призвести до втрат людського життя”. В оновленій версії заборона розширена: тепер чітко забороняється розробка високоякісних вибухових речовин, а також біологічної, ядерної, хімічної та радіологічної зброї.
У травні Anthropic запровадила захист “AI Safety Level 3” разом із запуском нової моделі Claude Opus 4. Ці запобіжні заходи спрямовані на ускладнення несанкціонованого доступу до моделі, а також на те, щоб запобігти її використанню для розробки CBRN-зброї.
У своїй заяві Anthropic також визнає ризики, пов’язані з потужними AI-інструментами, такими як Computer Use, що дозволяє Claude керувати комп’ютером користувача, і Claude Code, інструмент, що вбудовує Claude безпосередньо в термінал розробника. “Ці потужні можливості створюють нові ризики, включаючи можливість масштабованого зловживання, створення шкідливого програмного забезпечення та кібератак,” — зазначає компанія.
На ці потенційні ризики Anthropic реагує, додавши новий розділ “Не компрометуйте комп’ютерні або мережеві системи” до своєї політики використання. Цей розділ містить правила проти використання Claude для виявлення чи експлуатації вразливостей, створення або розповсюдження шкідливого програмного забезпечення, розробки інструментів для атак типу “відмова в обслуговуванні” й інше.
Крім того, Anthropic послаблює свою політику щодо політичного контенту. Тепер замість повної заборони на створення будь-якого контенту, пов’язаного з політичними кампаніями та лобіюванням, компанія заборонятиме використання Claude лише для “сценаріїв, які є обманними або порушують демократичні процеси, або пов’язані з націлюванням на виборців та кампанії”. Компанія також уточнила, що її вимоги до всіх “високих ризиків” стосуються лише сценаріїв, коли використання Claude має відношення до споживачів, а не для бізнесу.
