У відео на новому соціальному медіа-додатку Sora від OpenAI, відображається нескінченна фабрика з рожевими свинками, які хрюкають у своїх закритих загородах — кожна свинка має годівницю та екран смартфона, на якому показуються вертикальні відео. Дуже реалістичний сам Алтман дивиться прямо в камеру, наче має зворотний зв’язок з глядачем. Штучно створений Алтман запитує: «Чи подобається моїм свиноподібним друзям їхня їжа?»
Ось як виглядає користування додатком Sora, менш ніж за 24 години після його запуску для публіки в обмежений доступ.
Дивні дипфейки
На наступному відео у стрічці «Для вас» Алтман знову з’являється. Цього разу він стоїть на полі з покемонами, де такі істоти, як Пікачу, Булбазавр і дещо недопрацьований Гроуліт, весело граються в траві. Генеральний директор OpenAI дивиться в камеру і каже: «Сподіваюся, Нінтендо не подасть на нас до суду». Далі з’являються численні фантастичні, але реалістичні сцени, часто за участю самого Алтмана.
Він наллє напої Пікачу та Еріку Картману в Starbucks. Криком звертається до клієнта з-за прилавка в McDonald’s. Краде графічні процесори Nvidia з магазину Target і втікає, лише щоб потрапити у поліцейський затримання, благаючи не забирати його цінну технологію.
Користувачі Sora, які генерують відео з Алтманом, отримують задоволення від того, як відверто OpenAI, здається, порушує авторське законодавство. (Sora, як повідомляється, вимагатиме, щоб правовласники відмовилися від використання свого контенту — це протилежно традиційному підходу, коли творці повинні явно погоджуватися на таке використання — законність цього питання є суперечливою).
«Цей контент може порушувати наші правила щодо третіх сторін», говорить штучний Алтман у відео, відтворюючи попередження, яке з’являється після подання запитів на створення реальних знаменитостей або персонажів. Потім він вибухає істеричним сміхом, наче знає, що те, що він говорить, є безглуздим — додаток переповнений відео Пікачу, що робить АСМР, Наруто, що замовляє Краббі-Патті, та Меріо, що курить марихуану.
Це не викликало б проблем, якби Sora 2 не була такою вражаючою, особливо порівняно з ще більш нудним контентом на додатку Meta AI та його новій соціальній стрічці.
Вдосконалення у Sora 2
OpenAI вдосконалила свій генератор відео, щоб адекватно відтворювати фізичні закони, що забезпечує більш реалістичні результати. Але чим реалістичнішими стають ці відео, тим простіше для цього синтетично створеного контенту поширюватися в Інтернеті, ставши джерелом дезінформації, булінгу та інших згубних використань.
Окрім алгоритмічної стрічки та профілів, визначальною особливістю Sora є те, що вона по суті є генератором дипфейків — так багато відео з Алтманом. У додатку ви можете створити те, що OpenAI називає «камео» із собою, завантаживши біометричні дані. Коли ви вперше приєднуєтеся до додатку, вам одразу пропонують швидкий процес для створення вашого необов’язкового камео, під час якого ви записуєте себе, читаючи кілька чисел, а потім повертаючи голову з боку в бік.
Кожен користувач Sora може контролювати, хто може генерувати відео за допомогою його камео. Ви можете налаштувати ці налаштування на вибір з чотирьох опцій: «тільки я», «люди, які мені подобаються», «взаємно» та «всі».
Алтман зробив своє камео доступним для всіх, тому стрічка Sora заповнена відео Пікачу та Спонджбоба, які благають Алтмана припинити тренування ШІ на них.
Це, мабуть, свідомий крок з боку Алтмана, можливо, щоб показати, що він не вважає свій продукт небезпечним. Але користувачі вже використовують камео Алтмана, щоб поставити під сумнів етику самого додатку.
