- Усі великі компанії отримали оцінки D і нижче за планування екзистенційної безпеки.
- OpenAI і DeepMind продемонстрували найгірші результати в управлінні ризиками.
- Експерти порівняли це з запуском атомних станцій без плану запобігання аваріям.
Основні розробники штучного інтелекту не мають чітких планів щодо забезпечення безпеки систем, що досягають людського інтелекту. Такий висновок було зроблено в доповіді Інституту майбутнього життя (FLI), яка аналізує готовність індустрії до появи штучного надрозуму (AGI).
Організація оцінила сім провідних розробників великих мовних моделей (LLM), і жодна з компаній не отримала вище оцінки D за екзистенційну безпеку.
Серед перевірених компаній — OpenAI, Google DeepMind, Anthropic, Meta, xAI та китайські Zhipu AI і DeepSeek. Індекс охоплює шість напрямків, включаючи поточні загрози та готовність до можливих катастрофічних наслідків виведення ШІ з-під контролю.
Найвищу оцінку — C — отримав стартап Anthropic. OpenAI слідує з оцінкою C, а Google DeepMind має C-. Інші компанії показали ще гірші результати. Один з експертів наголосив, що жодна з організацій не має «послідовного та реалізованого плану» контролю на ШІ.
Співзасновник FLI і професор MIT Макс Тегмарк зазначив, що провідні компанії створюють системи, які можна порівняти за небезпекою з ядерними об’єктами, проте не публікують навіть основних планів забезпечення безпеки. Вчений підкреслив, що темпи розвитку штучного інтелекту перевищують попередні прогнози. Якщо раніше розмова йшла про десятиліття, зараз самі компанії висловлюють очікування у кілька років.
У доповіді також зазначено, що з моменту лютневого саміту з штучного інтелекту відбулися значні досягнення. Моделі Grok 4, Gemini 2.5 та генератор відео Veo3 вже демонструють істотний прогрес у своїх можливостях.
Паралельно з доповіддю FLI організація SaferAI опублікувала аналогічний звіт, дійшовши до схожих висновків щодо «неприйнятно низького» рівня управління ризиками у галузі. Експерти впевнені, що компанії повинні терміново переглянути свій підхід до розробки AGI.
Представник Google DeepMind зазначив, що звіт FLI не враховує всі їхні заходи з безпеки. Інші компанії на момент публікації не надали жодних коментарів.
Нагадаємо, ми повідомляли, що компанія Meta переманила до себе дослідників OpenAI для роботи над надінтелектом.
