Компанія Anthropic випустила нове розширення для браузера Chrome під назвою Claude. Це розширення дозволяє штучному інтелекту безпосередньо працювати в браузері, виконуючи завдання, такі як перегляд веб-сторінок, взаємодія з кнопками, заповнення форм, відповіді на електронні листи та планування зустрічей. Інструмент відкривається у боковому вікні і зберігає контекст всіх дій користувача.
Зараз розширення знаходиться на етапі тестування. Деталі можна знайти на сайті Anthropic.
У тестуванні беруть участь 1000 користувачів тарифу Max, інші можуть приєднатися до списку очікування.
В компанії зазначили, що одним із основних викликів є безпека. Зокрема, це пов’язано з атаками типу prompt injection, коли в коді сайту чи документа можуть бути вбудовані інструкції для штучного інтелекту, які він може виконати без відома користувача. Щоб уникнути цього, Anthropic впровадила кілька рівнів захисту. Користувач сам вирішує, яким сайтам надавати доступ. Перед виконанням ризикових дій Claude завжди запитує підтвердження. За замовчуванням доступ заблоковано на фінансових сайтах, ресурсах для дорослих та піратських платформах.
Компанія також розробила алгоритми для виявлення прихованих інструкцій у коді сторінок і навіть у назвах вкладок. У тестах без захисту рівень успішних атак складав 23,6%, після впровадження обмежень він знизився до 11,2%. Для спеціальних атак у браузері – до 0%.
Нагадаємо, що Anthropic обмежила доступ OpenAI до Claude. Причиною цього стало те, що команда, відповідальна за ChatGPT, ймовірно, використовувала Claude для оцінки та порівняння зі своїми розробками. Anthropic також запровадила нові обмеження на використання Claude Code через надмірне навантаження. Раніше повідомлялося, що Anthropic додала до свого чат-бота Claude AI можливість створювати застосунки безпосередньо в чаті та миттєво бачити результати в його інтерфейсі.
