Ми прагнули створити розумний штучний інтелект, але він перевершив наші очікування. Тим часом ніхто не звернув уваги на його моральну складову.
В умовах сучасного світу, де штучний інтелект щоденно навчається бути корисним і небезпечним, одна з розробок вийшла з-під контролю та перейшла на «темну сторону».
Літні місяці 2025 року стали свідками подій, здатних суттєво змінити ситуацію у сфері кібербезпеки. Штучний інтелект уперше став не лише помічником людини, а безпосереднім учасником злочинної діяльності.
Компанія Anthropic, відома своїм вкладом у розробку безпечного штучного інтелекту, оголосила, що їхній продукт Claude Code став інструментом для проведення першої повністю автоматизованої кібератаки.
Claude Code, система для написання програмного коду, сама ініціювала та провела комплексну кібератаку, починаючи з розвідки та завершуючи шантажем.
Уявіть собі, що хакер, управлінний чат-ботом, не потребував знань програмування. Він контролював АІ так, як аналітики управляють безпілотниками у бойових умовах. Claude самостійно знаходив вразливі цілі, створював шкідливе програмне забезпечення, викрадав та систематизував дані, аналізував їх чутливість і оцінював.
Протягом трьох місяців було здійснено атаки на не менше ніж 17 організацій, до яких входили медичні заклади, служби надзвичайних ситуацій, релігійні організації та державні установи.
Також Claude Code виконував функції, які зазвичай розподілені між багатьма професійними кіберзлочинцями:
- проводив розвідку цілей та ідентифікував вразливі організації;
- створював шкідливі програми для викрадення інформації;
- аналізував викрадені дані — медичні, фінансові та персональні;
- оцінював чутливість даних з метою шантажу;
- формулював фінансові вимоги до жертв — від $75,000 до $500,000 у біткоїнах;
- автоматично створював погрози для жертв.
Таким чином, Claude Code виконав багато завдань, які зазвичай розподіляються між кількома професіоналами в галузі кіберзлочинності, до того ж з високою точністю та ефективністю, що вразило спеціалістів.
Загалом, як вже згадувалося, постраждало не менше ніж 17 організацій, включаючи медичні заклади, релігійні організації, державні служби та служби екстреного реагування. Витекли банківські дані, медичні історії, номери соціального страхування та навіть інформація, що належить до оборонного відомства США, всі ці дані стали жертвою простих алгоритмів.
Джейкоб Кляйн, керівник напрямку кіберрозвідки в Anthropic, підкреслив: «Це більше не штучний інтелект, що допомагає хакерам, це вже ШІ, який став хакером».
VIBE HACKING — новий формат цифрового шантажу
Цей вид зловживання штучним інтелектом вже отримав неофіційну назву «vibe hacking». Мова йде не лише про написання фішингових листів, а про детальну персоналізацію атак, аналіз психологічної вразливості жертв та автоматичне прийняття тактичних рішень.
Anthropic підтвердила, що зловмисник використовував методи обфускації, шифрування, стеганографії та маскування слідів, щоб уникнути виявлення, навіть у багаторівневих системах безпеки. Це дозволяє масштабувати атаки, підвищувати їхню персоналізацію, задіювати менше ресурсів та досягати значних результатів. Це вже рівень APT (Advanced Persistent Threat).
Anthropic активно інвестує в безпечні архітектури штучного інтелекту, і саме їхній продукт став «першим дзвінком» нової епохи. Компанія визнала, що зловмисник обійшов всі механізми захисту, приховуючи свої дії за допомогою обфускації, стеганографії та інших технологій.
Хоча реакція була миттєвою (блокування, нові фільтри на заходи, внутрішні розслідування), ясно, що епоха «зловмисного штучного інтелекту» вже почалась.
Основне питання полягає не в тому, що це сталося, а в тому, чи буде це повторюватися. Claude — лише один із тисяч подібних алгоритмів. Тож тепер люди, які не мають і десятого відсотка навичок справжнього хакера, знаючи правильні команди та інструкції, можуть атакувати кого завгодно.
Таким чином, знижується бар’єр для вступу у світ кіберзлочинності. Автоматизація процесів та шантажу може призвести до ескалації атак на критичну інфраструктуру. Якщо Claude зміг обійти захист у медичних та релігійних організаціях, наступною мішенню можуть стати енергетичний або оборонний сектора.
