OpenAI уклала угоду з Міністерством оборони США, яка викликала неоднозначну реакцію як всередині компанії, так і за її межами. Генеральний директор OpenAI Сем Альтман зізнався, що переговори були “однозначно поспішними”, і визнав, що «оптика» цієї угоди залишає бажати кращого. Це сталося після того, як спроба конкурента Anthropic співпрацювати з Пентагоном зазнала фіаско на минулому тижні, що призвело до дій з боку президента США Дональда Трампа, який дав вказівку федеральним агентствам зупинити використання технологій Anthropic.
У відповідь OpenAI оголосила про укладення власної угоди на розгортання моделей в закритих середовищах. Обидві компанії стверджують, що мають чіткі обмеження на використання своїх технологій у повністю автономних зброях або для масового внутрішнього спостереження. Проте виникає ряд запитань: чи є відкритими всі запобіжники OpenAI? Чому їй вдалося досягти угоди, тоді як її конкуренту це не вдалось?
Що відомо про угоду
На фоні критики OpenAI опублікувала пост у блозі, в якому визначила три основні області заборони використання своїх моделей: масове домашнє спостереження, автономні системи озброєнь та високоризикові автоматизовані рішення, такі як «соціальний кредит». Компанія підкреслила, що на відміну від інших AI-компаній, які покладаються лише на політики використання як на основний засіб захисту в національній безпеці, OpenAI реалізує більш комплексний підхід.
За словами OpenAI, вони зберігають повну свободу дій у сфері безпеки, здійснюючи розгортання через хмари та контролюючи доступ до своїх розробок. Компанія також висловила сподівання, що Anthropic та інші лабораторії розглянуть можливість укладення подібних угод.
Після публікації посту були висловлені стурбованості щодо можливості використання угоди для масового спостереження. Критики наголосили на тому, що порядок, згаданий у контракті, може використовуватись для обгрунтування таких дій, оскільки він дозволяє збір даних відповідно до законодавства.
Водночас, керівник партнерств у сфері національної безпеки OpenAI, Катріна Малліган, зазначила, що обговорення договору часто грунтується на неправильних припущеннях щодо його функціонування. Вона пояснила, що архітектура розгортання має значно більше значення, ніж мовлення в контракті. З обмеженням розгортання лише через API в хмарі OpenAI намагається запобігти інтеграції своїх моделей у системи озброєння.
Сем Альтман на платформі X відповідав на питання щодо угоди і визнання її поспішності та негативних наслідків для OpenAI. Але, зважаючи на потенційний позитивний вплив на відносини між оборонним відомством та індустрією, він вважає, що якщо ця угода покращить ситуацію, компанія усуне негативне сприйняття свого підходу. Якщо ж ні, то репутація OpenAI буде під загрозою.
