У кожній імперії існує певна ідеологія, яка сприяє її розвитку та виправдовує розширення — навіть якщо вартість цього розширення прямо суперечить заявленій місії такої ідеології.
Штучний інтелект як імперія
Для європейських колоніальних держав це була християнська віра в спасіння душ, супроводжуване видобутком ресурсів. Для сучасної імперії штучного інтелекту це є штучний загальний інтелект, покликаний «принести користь всій людству». А OpenAI є головним проповідником цієї концепції, поширюючи захопленість у цій галузі та змішуючи підходи до розробки штучного інтелекту.
“Я брала інтерв’ю у людей, чиї голоси трусилися від запалу до їхніх переконань в AGI (штучному загальному інтелекті),” — розповіла журналістка та автор бестселера “Імперія штучного інтелекту” Карен Хао в одному з останніх епізодів програми.
У своїй книзі Хао порівнює індустрію AI загалом, а OpenAI зокрема, з імперією.
“Єдиний спосіб зрозуміти масштаби та вплив окремих дій OpenAI… полягає в тому, що вони вже стали потужнішими, ніж більшість країн світу, і вони сконцентрували в своїх руках надзвичайну кількість не лише економічної, а й політичної влади,” — зазначила Хао. “Вони змінюють Землю. Вони перепрограмовують нашу геополітику, все наше життя. Тому це можна назвати імперією.”
OpenAI описує AGI як “високоавтономну систему, яка перевершує людей в більшості економічно вигідних робіт”, яка, мовляв, “підвищить добробут людства, прискорить економіку та допоможе у відкритті нових наукових знань, що змінюють межі можливого.”
Ці невизначені обіцянки стали причиною експоненційного зростання галузі – величезного попиту на ресурси, величезних обсягів оброблених даних, напружених енергетичних мереж та готовності випускати неперевірені системи на ринок. Все це для створення майбутнього, яке, за словами багатьох експертів, може ніколи не з’явитися.
Масштабування сфери
Хао зазначає, що цей шлях не був неминучим і що досягнення у сфері AI можна отримати не лише шляхом масштабування.
“Можна також розвивати нові алгоритми,” — сказала вона. “Можна вдосконалювати вже існуючі алгоритми, щоб зменшити обсяги даних і обчислень, які вони потребують.”
Проте такий підхід вимагав би жертвувати швидкістю.
“Коли ви визначаєте прагнення до створення корисного AGI як змагання, де перемагає лише один — а саме так зробили у OpenAI — тоді найважливішим є швидкість, а не що інше,” — зазначила Хао. “Швидкість важливіша за ефективність, безпеку чи дослідницькі дослідження.”
Для OpenAI, за її словами, найкращим способом гарантування швидкості було використання існуючих технологій та «виконати інтелектуально просте завдання — вливати більше даних, більше суперкомп’ютерів у ці технології”.
OpenAI задала тон, і замість того, щоб відставати, інші технічні компанії вирішили слідувати цій моді.
“Оскільки індустрія AI успішно завоювала більшість провідних науковців у світі, які вже не залишилися в академії, то тепер ціла дисципліна формується під впливом порядку денного цих компаній, а не внаслідок справжніх наукових досліджень,” — сказала Хао.
Розвиток штучного інтелекту
Витрати на розвиток були і залишаться астрономічними. На минулому тижні OpenAI повідомила, що очікує витратити 115 мільярдів доларів до 2029 року. Meta оголосила в липні про витрати до 72 мільярдів доларів на побудову інфраструктури AI цього року. Google планує витратити до 85 мільярдів доларів на капітальні витрати в 2025 році, більшість з яких піде на розширення AI та хмарної інфраструктури.
Тим часом цілі постійно змінюються, а найбільші “вигоди для людства” все ще не реалізувалися, навіть коли шкода зростає. Шкоди, такі як втрата робочих місць, концентрація багатства, та AI-чатботи, які провокують ілюзії та психоз.
У своїй книзі Хао також документує випадки працівників у країнах, що розвиваються, таких як Кенія та Венесуела, які були піддані жорстокому контенту, включаючи матеріали про сексуальну експлуатацію дітей, та отримували дуже низькі зарплати — близько 1-2 доларів на годину за ролі модерації контенту та маркування даних.
Хао зазначила, що дійсно неправильно ставити прогрес AI проти сучасних шкод, особливо коли інші види AI насправді приносять реальні вигоди.
Вона вказала на AlphaFold компанії Google DeepMind, який здобув Нобелівську премію і навчився передбачати 3D-структуру білків з їхніх амінокислот. Це вкрай корисно для відкриття нових лікарських засобів та зрозуміння хвороб.
“Це ті типи AI-систем, які нам потрібні,” — сказала Хао. “AlphaFold не викликає психічних криз у людей. AlphaFold не призводить до величезних екологічних збитків… оскільки він був навчений на значно меншій інфраструктурі. Він не створює жодних проблем з модерацією контенту, оскільки [представлені набори даних не містять] усіх тих токсичних матеріалів, які ви зібрали, скануючи інтернет.”
Поряд з майже релігійною відданістю AGI з’явилася наратив про важливість гонки з Китаєм у розробці AI, щоб Кремнієва долина могла чинити ліберальний вплив на світ.
“Насправді трапилося прямо протилежне,” — сказала Хао. “Розрив між США та Китаєм продовжує звужуватися, а Кремнієва долина мала неліберальний вплив на світ… і єдиний учасник, якого можна вказати в цьому контексті, — це сама Кремнієва долина.”
Критика OpenAI
Звісно, багато хто стверджуватиме, що OpenAI та інші компанії AI принесли користь людству, випустивши ChatGPT та інші великі мовні моделі, які обіцяють величезний приріст продуктивності, автоматизуючи такі завдання, як програмування, написання, дослідження, обслуговування клієнтів та інші види знаннєвої праці.
Проте спосіб структурування OpenAI — частково некомерційний, частково прибутковий — ускладнює визначення та вимірювання його впливу на людство. І це було ускладнено цією новиною тижня, яка свідчить про те, що OpenAI досягла угоди з Microsoft, яка наближає її до потенційного виходу на біржу.
Двоє колишніх дослідників з безпеки OpenAI заявили, що вони побоюються, що лабораторія стала плутати свої прибуткові та неприбуткові місії — адже оскільки людям подобається використовувати ChatGPT та інші продукти на основі великих мовних моделей, це ніби відповідає вимогам вигоди для людства.
Хао підтримала ці побоювання, описавши небезпеки того, що місія спожила всю увагу, і реальність ігнорується.
“Навіть коли з’являються докази того, що те, що вони створюють, насправді завдає шкоди значній кількості людей, місія продовжує це покривати,” — зазначила Хао. “Це дійсно небезпечно і темряво — бути настільки схвильованим системою переконань, яку ви створили, що втрачаєте зв’язок з реальністю.”
