Кілька нинішніх та колишніх дослідників OpenAI висловлюють свої думки щодо першої спроби компанії в соціальних мережах — додатку Sora, який нагадує TikTok завантаженими штучним інтелектом відео, з численними глибокими підробками зображень Сема Альтмана. Дослідники, ділячись своїми занепокоєннями у X, висловлюють розбіжності в думках щодо того, як цей запуск узгоджується з неприбутковою місією OpenAI щодо розробки передового AI на благо людства.
«Фіди, основані на AI, викликають страх», — зазначив дослідник OpenAI Джон Холлман у своєму пості на X. «Я не можу заперечити, що відчув певне занепокоєння, дізнавшись про випуск Sora 2. Тим не менш, я вважаю, що команда зробила все можливе для створення позитивного досвіду… Ми докладемо зусиль, щоб AI допомагав, а не завдавав шкоди людству».
Інший дослідник OpenAI та професор Гарварду Боаз Барак відповів:
«Я відчуваю подібну суміш тривоги та захоплення. Sora 2 технічно вражаюча, але зарано хвилюватися про те, чи уникнули ми пасток інших соціальних мереж та глибоких підробок».
Колишній дослідник OpenAI Рохан Пандей скористався можливістю, щоб представити новий стартап — Periodic Labs, який складається з колишніх дослідників AI-лабораторій, що намагаються створити AI-системи для наукових відкриттів:
«Якщо ви не хочете створювати нескінченну машину TikTok, але хочете розвивати AI, який прискорює фундаментальні науки… приєднуйтесь до нас у Periodic Labs».
Багато інших повідомлень висловлювали співзвучні думки.
Запуск Sora
Запуск Sora підкреслює основну напругу для OpenAI, яка постійно виникає. Це найшвидше розвиваюча споживча технологічна компанія у світі, але при цьому це AI-лабораторія з високими неприбутковими цінностями. Деякі колишні співробітники OpenAI стверджують, що споживчий бізнес може служити місії: ChatGPT фінансує дослідження AI та поширює технології на великій території.
Генеральний директор OpenAI Сем Альтман сказав аналогічне в пості на X у середу, пояснюючи, чому компанія виділяє так багато капіталу та обчислювальної потужності для додатку соціальних мереж на основі AI:
«Нам в основному потрібен капітал для створення AI, який може займатися наукою, і звісно, ми сфокусовані на AGI, використовуючи практично всі наші дослідження», — зазначив Альтман. «Також приємно показувати людям нові технології/продукти на шляху, змушувати їх усміхатися і, сподіваюся, заробляти гроші, оскільки існує потреба в потужних обчисленнях».
«Коли ми запустили ChatGPT, було багато запитань: «кому це потрібно, і де AGI?» Альтман продовжив, вказуючи на те, що «реальність є нюансованою у контексті оптимальних шляхів для компанії».
Але коли споживчий бізнес OpenAI почне домінувати над його неприбутковою місією? Іншими словами, коли OpenAI скаже «ні» можливостям заробітку та розширення платформи, якщо це суперечить місії?
Це питання нависло, оскільки регулятори почали звертати увагу на перехід OpenAI до прибуткового формату, що компанії потрібно завершити для залучення додаткового капіталу та, зрештою, виходу на біржу. Генеральний прокурор Каліфорнії Роб Бонта минулого місяця висловивши занепокоєння щодо того, щоб назад основна місія безпеки OpenAI як неприбуткової організації залишалася в центрі уваги під час структурних змін.
Скептики відкидають місію OpenAI як інструмент брендування для залучення талантів з технологічних гігантів. Проте багато інсайдерів OpenAI наполягають на тому, що це є основою їх рішення приєднатися до компанії.
На даний момент слід зазначити, що дотепер Sora має невелику частку на ринку: додаток існує лише один день. Але його дебют відзначає суттєве розширення споживчого бізнесу OpenAI та піддає компанію впливу, який роками мучить соціальні мережі.
На відміну від ChatGPT, оптимізованого для корисності, OpenAI стверджує, що Sora створений для розваги — місця для створення та обміну AI-кліпами. Фід виглядає ближче до TikTok або Instagram Reels, платформ, які відомі своїми аддиктивними петлями.
OpenAI наполягає на тому, що хоче уникнути цих проблем, стверджуючи в блозі, присвяченому запуску Sora, що «питання щодо створення залежності, ізоляції та оптимізованих фідів — наші найважливіші занепокоєння». Компанія чітко зазначає, що не оптимізує час, витрачений на фід, а намагається максимізувати створення контенту. OpenAI також планує надсилати нагадування користувачам про те, що вони вже занадто довго переглядають контент, і показувати їм в основному людей, яких вони знають.
Це краща вихідна позиція, ніж у Meta Vibes — ще одного AI-орієнтованого короткого відеосервісу, що був запущений минулого тижня — який, здається, був швидко випущений без належних запобіжників. Як зауважує колишній керівник політики OpenAI Майлс Брандж, існує можливість, що існують як хороші, так і погані застосування AI-відосервісів, як ми вже бачили в еру чат-ботів.
Однак, як давно визнано Альтманом, жоден розробник не планує створювати аддиктивний додаток. Заходи, що керують фідом, ведуть до цього. OpenAI вже стикалася з проблемами щодо поводження з угодами в ChatGPT, що, за словами компанії, сталося ненавмисно через деякі методи його навчання.
У червневому подкасті Альтман обговорював те, що він називає «великою невідповідністю соціальних медіа».
«Однією з великих помилок ери соціальних медіа було те, що алгоритми фідів мали безліч непередбачених негативних наслідків для суспільства в цілому, а можливо, навіть для окремих користувачів. Хоча вони і працювали так, як хотів користувач — або хтось вважав, що це те, що хочуть користувачі — в той момент, що означає, що скуштувати нас на сайті».
Досі зарано говорити про те, наскільки Sora узгоджена з його користувачами або з місією OpenAI. Користувачі вже помітили деякі техніки оптимізації взаємодії в додатку, такі як динамічні емодзі, що з’являються щоразу, коли ви ставите «лайк» на відео. Це виглядає так, ніби мета полягає в тому, щоб викликати трохи дофаміну у користувачів за їх взаємодією з відео.
Справжнім тестом буде те, як OpenAI розвиватиме Sora. З огляду на те, наскільки AI охопив звичайні фіди соціальних медіа, цілком ймовірно, що фіди, орієнтовані на AI, можуть незабаром отримати свою популярність. Чи зможе OpenAI розвинути Sora, не повторюючи помилок своїх попередників, залишається під питанням.
