Масштабні інвестиції у розробки лабораторії Thinking Machines, яку очолює Міра Мураті, привернули значну увагу. Лабораторія, фінансована на 2 мільярди доларів, найближчим часом представить результати своєї роботи, включаючи проєкти, присвячені створенню штучного інтелекту з повторюваними відповідями.
У блозі лабораторії, опублікованому в середу, досліджується проблема невизначеності в відповідях AI. У статті, що носить назву «Подолання невизначеності у висновках LLM», автори намагаються зрозуміти, чому штучний інтелект генерує випадкові відповіді. Наприклад, запитуючи ChatGPT одне й те саме питання кілька разів, ви, ймовірно, отримаєте різні відповіді. Це вже вважається загальноприйнятим фактом у спільноті AI, але лабораторія Thinking Machines вважає, що це питання підлягає вирішенню.
Невизначеність у відповідях
За словами дослідника лабораторії Горація Хе, основною причиною випадкових відповідей є те, як GPU-ядра — програми, що працюють у чіпах Nvidia — інтегруються у процес розуміння. Він пропонує, що контроль цього процесу може дозволити зробити моделі AI більш детермінованими.
Крім підвищення надійності відповідей для підприємств та вчених, Хе зазначає, що забезпечення повторюваності у відповідях AI може також покращити навчання з підкріпленням. Якщо моделі AI отримують різні відповіді, то дані стають «шумними». Створення більш стабільних відповідей могло б зробити процес навчання «гладшим». Лабораторія вже повідомила інвесторам про плани використовувати навчання з підкріпленням для адаптації AI до потреб бізнесу.
Муратив, колишній технічний директор OpenAI, у липні заявила, що перший продукт Thinking Machines Lab буде представлений найближчими місяцями і стане «корисним для дослідників та стартапів, які працюють над спеціалізованими моделями». Однак, деталі цього продукту та його зв’язок з проведеними дослідженнями поки що не розголошені.
Лабораторія також зазначила, що планує регулярно публікувати блоги, код та іншу інформацію про свої дослідження, щоб «допомогти громадськості та вдосконалити власну дослідницьку культуру». Ця стаття є першою в новій серії блогу «Конекціонізм» і, здається, є частиною цієї ініціативи. Хоча OpenAI теж обіцяла відкритість у дослідженнях, з часом компанія стала більш закритою. Чи зможе лабораторія Мураті дотримуватись цього принципу, поки що залишається під запитанням.
Новий дослідницький блог надає рідкісну можливість заглянути в одну з найбільш таємничих стартапів у сфері штучного інтелекту в Кремнієвій долині. Хоча поки неясно, куди веде ця технологія, напевно можна стверджувати, що лабораторія Thinking Machines займається деякими з найбільших питань на передньому краї досліджень AI. Справжнім випробуванням стане те, чи зможе лабораторія вирішити ці проблеми та розробити продукти на основі своїх досліджень, щоб виправдати свою оцінку в 12 мільярдів доларів.
