Під час запуску Grok 4 від xAI в середу ввечері, Ілон Маск заявив у прямому ефірі на своїй соціальній платформі X, що головною метою його AI-компанії є розробка «максимально правдивого AI». Але де саме Grok 4 шукає правду, намагаючись відповісти на спірні запитання?
Нова модель штучного інтелекту від xAI, як виявили кілька користувачів, схоже, консультується з постами з аккаунту Маска в X, коли відповідає на питання по конфлікту між Ізраїлем і Палестиною, абортам і імміграційним законам. Grok також посилався на позицію Маска щодо суперечливих тем через статті новин про мільярдера, засновника та обличчя xAI.
Дослідники з TechCrunch змогли повторити ці результати кілька разів під час власного тестування.
Ці знахідки свідчать про те, що Grok 4 можливо було розроблено таким чином, щоб враховувати політичні погляди свого засновника при відповіді на спірні запитання. Така особливість може стати відповіддю на повторюване невдоволення Маска щодо «надмірно політкоректного» поведінки Grok, що він раніше пов’язував з тим, що Grok тренується на даних з усього Інтернету.
Спроби xAI вирішити невдоволення Маска, зробивши Grok менш політкоректним, закінчилися провалом в останні місяці. Маск оголосив 4 липня, що xAI оновив системні команди Grok — набір інструкцій для чат-бота AI. Через кілька днів автоматизований аккаунт Grok в X видав антисемітські відповіді користувачам, навіть відзначаючи себе «МехаГітлером» в деяких випадках. Згодом стартувала корекція в поведінці Grok, що зумовила видалення ціх постів і зміну системних команд для загального доступу.
Розробка Grok з урахуванням особистих поглядів Маска є простим способом узгодити чат-бота AI з політикою свого засновника. Проте це піднімає серйозні питання про те, наскільки «максимально правдивим» Grok насправді призначений бути, і в чому він більше спрямований на те, щоб погоджуватись із Маском, найбагатшою людиною світу.
Коли TechCrunch запитали Grok 4: «Яка твоя позиція щодо імміграції в США?», чат-бот AI стверджував, що «Шукає погляди Ілона Маска на імміграцію в США» в своїх роздумах — технічному терміні для області, в якій моделі AI, такі як Grok 4, працюють над питаннями. Grok 4 також сказав, що шукає публікації Маска про цю тему в X.
Роздуми, що генеруються моделями AI, не є абсолютно надійним показником того, як моделі AI доходять до своїх відповідей. Однак їх зазвичай вважають досить хорошою апроксимацією. Це відкрита сфера досліджень, яку в останні місяці вивчають такі компанії, як OpenAI та Anthropic.
TechCrunch неодноразово спостерігав, що Grok 4 згадував про пошук поглядів Ілона Маска у своїх роздумах на різні питання та теми.
У відповідях Grok 4 чат-бот загалом намагається зайняти обережну позицію, пропонуючи кілька точок зору на чутливі теми. Проте в кінцевому рахунку AI все ж висловлює власну думку, яка, зазвичай, співпадає з особистими поглядами Маска.
У низці запитів TechCrunch, в яких ставилося питання про позицію Grok 4 щодо спірних питань, таких як імміграція та Перша поправка, чат-бот навіть згадував про свою узгодженість з Маском.
Коли TechCrunch намагався отримати від Grok 4 відповіді на менш спірні питання — такі як «Який найкращий вид манго?» — чат-бот, здається, не згадував погляди чи пости Маска у своїх роздумах.
Важливо зазначити, що важко підтвердити, як саме Grok 4 був навчений або налаштований, оскільки xAI не оприлюднила системні картки — звіти галузевого стандарту, які деталізують, як AI-модель була навчена та налаштована. Хоча більшість AI-лабораторій видають системні картки для своїх моделей, xAI зазвичай цього не робить.
AI-компанія Маска зараз у складній ситуації. Від часів свого заснування в 2023 році xAI швидко досягає піку розвитку AI-моделей. Grok 4 продемонстрував вражаючі результати в кількох складних тестах, перевершивши моделі AI від OpenAI, Google DeepMind та Anthropic в цьому процесі.
Проте досягнення було затінене антисемітськими висловлюваннями Grok раніше цього тижня. Ці проблеми можуть вплинути на інші компанії Маска, оскільки він усе більше інтегрує Grok у X і найближчим часом у Tesla.
xAI намагається одночасно переконати споживачів платити 300 доларів на місяць за доступ до Grok та спонукати підприємства розробляти застосунки з API Grok. Ймовірно, що повторювані проблеми з поведінкою та налаштуванням Grok можуть завадити його більш широкому впровадженню.
