Коли компанії DeepSeek, Alibaba та інші китайські фірми представили свої моделі ШІ, дослідники на Заході швидко зауважили, що вони уникнули запитань, критичних щодо Комуністичної партії Китаю. Згодом американські чиновники підтвердили, що ці інструменти налаштовані на відображення поглядів Пекіна, що викликало занепокоєння щодо цензури та упередженості.
Американські лідери у сфері ШІ, зокрема OpenAI, вказали на це як на обґрунтування для швидшого розвитку своїх технологій без занадто суворого регулювання. Як написав Кріс Легейн, головний офіцер з глобальних справ OpenAI, у пості на LinkedIn минулого місяця, існує змагання між «демократичним ШІ, очолюваним США, та авторитарним ШІ Китаю».
Виконавчий указ, підписаний у середу президентом Дональдом Трампом, забороняє «пробуджений ШІ» та моделі ШІ, які не є «ідеологічно нейтральними», від державних контрактів, що може порушити цей баланс.
Указ зазначає важливість різноманітності, рівності та включення (DEI), вважаючи цю ідеологію «поширеною і руйнівною», яка може «спотворювати якість та точність результатів». Зокрема, у документі ідеться про інформацію про расу чи стать, маніпуляції расовим або статевим поданням, критичну расову теорію, трансгендерність, несвідомі упередження, інтерсекціональність та системний расизм.
Експерти попереджають, що це може створити стримуючий ефект на розробників, які можуть відчувати тиск, щоб узгодити виходи моделей і набори даних з риторикою Білого дому, аби отримати федеральні кошти для своїх бізнесів.
Цей указ з’явився в той же день, коли Біла біла опублікувала «План дій з ШІ», що змінює національні пріоритети, зосереджуючи увагу на розвитку інфраструктури ШІ, зменшуючи бюрократію для технологічних компаній, посилюючи національну безпеку та конкуруючи з Китаєм.
Указ інструктує директора Офісу управління та бюджету, а також адміністратора з питань федеральної закупівлі, адміністратора Загальних послуг і директора Офісу науки і технологій надати керівництво іншим агентствам, як дотримуватись нових вимог.
“Ми остаточно позбуваємося пробудження”, – заявив Трамп у середу під час заходу з ШІ, організованого подкастом All-In та форумом Hill & Valley. “Я підпишу указ, який забороняє федеральному уряду купувати технології ШІ, які були наповнені партійною упередженістю або ідеологічними програмами, такими як критична расова теорія, що є абсурдом. Відтепер уряд США працюватиме лише з ШІ, яке переслідує істину, справедливість та строгий нейтралітет.”
Визначити, що є неупередженим чи об’єктивним, є однією з багатьох проблем, пов’язаних із цим указом.
Філліп Сірджент, старший викладач прикладної лінгвістики в Відкритому університеті, розповів, що об’єктивності досягти неможливо.
“Одним з основоположних принципів соціолінгвістики є те, що мова ніколи не є нейтральною, – сказав Сірджент. – Тому ідея, що можна досягти чистої об’єктивності, є фантазією.”
До того ж, ідеологія адміністрації Трампа не відображає переконання та цінності всіх американців. Трамп неодноразово намагався ліквідувати фінансування ініціатив зі зміни клімату, освіти, державного мовлення, досліджень, соціальних програм, підтримки громади та сільського господарства, а також медичної допомоги, часто представляючи ці ініціативи як приклади «пробудженого» або політично упередженого державного фінансування.
Як зазначила Руман Чоудгур, вчений-даних, генеральний директор технологічної некомерційної організації Humane Intelligence та колишній науковий посланець США з питань ШІ, “усе, що [адміністрація Трампа] вважає неприйнятним, відразу відправляється в цю негативну категорію пробудження.”
Визначення “пошуку істини” та “ідейної нейтральності” в опублікованому в середу указі є в деяких моментах неясними, а в інших — специфічними. В той час, як “пошук істини” визначається як моделі ШІ, які “підкреслюють історичну точність, наукове дослідження та об’єктивність”, “ідейна нейтральність” визначається як моделі ШІ, які є “нейтральними, непартійними інструментами, які не маніпулюють відповідями на користь ідеологічних догм, таких як DEI.”
Ці визначення залишають простір для широкої інтерпретації та потенційного тиску. Компанії з ШІ виступали за зменшення обмежень на свою діяльність. І хоча виконавчий указ не має тієї ж сили, що й законодавство, компанії в сфері передового ШІ можуть все ж опинитися під впливом змінних пріоритетів політичної програми адміністрації.
Минулого тижня OpenAI, Anthropic, Google та xAI підписали контракти з Міністерством оборони на отримання до 200 мільйонів доларів кожен для розробки агентних ШІ-процесів, які вирішують критичні проблеми національної безпеки.
Неясно, яка з цих компаній найкраще підходить для отримання вигоди від заборони на пробуджений ШІ чи чи дотримаються вони нових вимог.
Редакція надіслала запити кожній з компаній і оновить цю статтю, якщо отримає відповідь.
Незважаючи на власні упередження, xAI може бути найбільш узгодженим із указом — принаймні на початковому етапі. Ілон Маск позиціює Grok, чат-бот xAI, як остаточний анти-пробуджений, «менш упереджений» дослідник істини. Система запитів Grok націлює його уникати довіри до mainstream-авторитетів і ЗМІ, шукати контратендійну інформацію, навіть якщо вона є політично некоректною, і навіть посилатися на власні погляди Маска на спірні теми. В останні місяці Grok також висловлював антисемітські коментарі та хвалив Гітлера на X, серед інших ненависних, расистських та сексистських публікацій.
Марку Лемлі, професору права в Стенфордському університеті, сказав, що виконавчий указ “явно призначений для дискримінації щодо точок зору, оскільки [уряд] щойно підписав контракт з Grok, відомим як ‘МехаГітлер’.”
Разом із фінансуванням Міністерства оборони xAI оголосила, що “Grok для уряду” було додано до графіка Адміністрації загальних послуг, що означає, що продукти xAI тепер доступні для закупівлі в кожному урядовому офісі та агентстві.
“Правильне питання таке: чи заборонять вони Grok, ШІ, з яким щойно підписали великий контракт, оскільки воно було спеціально спроектоване для надання політично заряджених відповідей?” — зауважив Лемлі в електронному інтерв’ю. “Якщо ні, то це явно проектовано для дискримінації певної точки зору.”
Як показують власні запити Grok, виходи моделей можуть відображати як людей, які створюють цю технологію, так і дані, на яких навчено ШІ. У деяких випадках надмірна обережність серед розробників і ШІ, навчений за допомогою інтернет-контенту, що популяризує такі цінності як інклюзивність, призвели до спотворених виходів моделей. Google, наприклад, минулого року потрапила під критику після того, як її чат-бот Gemini показав чорного Джорджа Вашингтона та расово різноманітних нацистів — що наказ Трампа вказує як на приклад ШІ-моделей, інфікованих DEI.
Чоудхурі висловила найбільшу занепокоєність із приводу того, що цією виконавчою постановою компанії ШІ активно перероблять навчальні дані, щоб відповідати партійній лінії. Вона вказала на заяви Маска кілька тижнів перед запуском Grok 4, стверджуючи, що xAI використовуватиме нову модель і її розширені функції для “переписування всього корпусу людських знань, додаючи невикористані відомості та видаляючи помилки. Потім повторно тренуючи на цьому.”
Це, очевидно, ставить Маска в ситуацію, коли він оцінює, що є правдою, що може мати величезні наслідки для доступу до інформації.
Звичайно, компанії завжди вирішували, яка інформація повинна бути видимою, а яка ні, з самого початку Інтернету.
Консерватор Девід Сакс — підприємець і інвестор, якого Трамп призначив чорним віце-президентом з питань ШІ — відкрито висловлює свої побоювання з приводу “пробудженого ШІ” на подкасті All-In, який спільно організовував день анонсів Трампа з ШІ. Сакс звинуватив творців помітних продуктів ШІ в запровадженні лівих цінностей, представляючи свої аргументи як захист свободи слова та попередження про тренд до централізованого ідеологічного контролю в цифрових платформах.
Проблема, на думку експертів, полягає в тому, що істини не існує однієї. Досягнення неупереджених чи нейтральних результатів неможливе, особливо в сьогоднішньому світі, де навіть факти стають політизованими.
“Якщо результати, які продукує ШІ, підтверджують правильність кліматичної науки, чи це є лівою упередженням?” – запитав Сірджент. “Дехто вважає, що для досягнення об’єктивності потрібно представити обидві сторони, навіть якщо одна зі сторін не має жодної значущості.”
Маєте чутливу інформацію або конфіденційні документи? Ми досліджуємо внутрішні процеси індустрії ШІ — від компаній, які формують її майбутнє, до людей, яких впливають їхні рішення. Зв’яжіться з Ребеккою Беллан за адресою [email protected] та Максвеллом Дзеффом за адресою [email protected]. Для безпечного зв’язку ви можете зв’язатися з нами через Signal на @rebeccabellan.491 та @mzeff.88.
