Компанія Anthropic анонсувала запуск дослідницького прев’ю браузерного AI-агента на основі своїх моделей Claude, який отримав назву Claude для Chrome. Це сталося у вівторок. Агент наразі доступний для тисячі підписників на плані Max Anthropic, вартість якого коливається від 100 до 200 доларів на місяць. Компанія також відкриває список очікування для інших користувачів, які виявили зацікавленість.
Додавши розширення до Chrome, обрані користувачі можуть спілкуватися з Claude у вікні, яке зберігає контекст усіх дій у браузері. Користувачі також можуть надати дозволи агенту Claude виконувати дії у їхньому браузері та завершувати деякі завдання від їхнього імені.
Лабораторії ШІ беруться за браузери
Браузер стає новим полем битви для лабораторій штучного інтелекту, які прагнуть використовувати інтеграції з браузерами для забезпечення більш зручних зв’язків між AI-системами та їхніми користувачами. Компанія Perplexity нещодавно презентувала свій власний браузер Comet, що має AI-агента, здатного допомагати користувачам з виконанням завдань. Можливо, OpenAI вже близька до запуску свого браузера на базі штучного інтелекту з аналогічними функціями до Comet. Тим часом, Google у останні місяці представила інтеграції Gemini з Chrome.
Змагання у розробці браузерів з підтримкою штучного інтелекту стає особливо актуальним на фоні наближення антимонопольної справи проти Google, у якій рішення очікується найближчим часом. Федеральний суддя у справі висловив можливість змусити Google продати свій браузер Chrome. Perplexity подала невимушену пропозицію на покупку Chrome в розмірі 34,5 мільярда доларів, а CEO OpenAI Сем Альтман зазначив, що його компанія також готова обговорити покупку.
Нові ризики безпеки
У блозі, опублікованому у вівторок, Anthropic попередила, що зростання AI-агентів з доступом до браузера створює нові ризики безпеки. На минулому тижні команда безпеки Brave заявила, що виявила вразливість у браузерному агенті Comet, яка може бути уразливою до непрямих атак з підміною запитів, при яких прихований код на вебсайті може спонукати агента виконати шкідливі інструкції при обробці сторінки.
Anthropic сподівається використати це дослідницьке прев’ю для виявлення та виправлення нових ризиків безпеки; проте компанія вже впровадила кілька заходів захисту проти атак з підміною запитів. Anthropic зазначає, що їхні заходи знизили ймовірність успішних атак з 23,6% до 11,2%.
Наприклад, компанія зазначає, що користувачі можуть обмежити доступ агента Claude до певних сайтів у налаштуваннях програми, і за замовчуванням Claude заблоковано від доступу до сайтів, що пропонують фінансові послуги, дорослий контент і піратський контент. Також агент Claude запитуватиме дозвіл користувача перед виконанням «високоризикових дій, таких як публікація, покупка або поширення особистих даних».
