Одна з провідних стартап-компаній Європи у сфері штучного інтелекту представила дві моделі, які настільки малі, що отримали назви на честь мозку курки та мозку мухи.
Компанія Multiverse Computing стверджує, що це найменші в світі моделі, які зберігають високу продуктивність і можуть виконувати чат, мовлення та навіть міркування в одному випадку.
Ці нові компактні моделі призначені для вбудовування в пристрої Інтернету речей, а також для роботи безпосередньо на смартфонах, планшетах та ПК.
Особлива технологія Multiverse Computing
Як зазначалося раніше, Multiverse Computing – це популярний європейський стартап у сфері штучного інтелекту, що базується в Доностії, Іспанія, і налічує близько 100 працівників по всьому світу. Його заснували відомий європейський професор в галузі квантових комп’ютерів і фізики Роман Орсус, експерт у галузі квантових обчислень Самуель Мугель і колишній заступник CEO Unnim Banc Енріке Лізасо Ольмос.
У червні компанія залучила 189 мільйонів євро (близько 215 мільйонів доларів) завдяки технології стиснення моделей, яку вони називають “CompactifAI.” (Від початку свого існування у 2019 році компанія залучила близько 250 мільйонів доларів, за словами Орсуса.)
CompactifAI — це алгоритм стиснення, натхненний квантовими технологіями, який зменшує розмір існуючих моделей штучного інтелекту, не шкодячи їхній продуктивності, зазначив Орсус.
«У нас є технологія стиснення, яка не є типовою для комп’ютерних наук або машинного навчання, оскільки ми походити з квантової фізики», — пояснив він. «Це більш складний та витончений алгоритм стиснення.»
Компанія вже випустила довгий список стиснених версій відкритих моделей, особливо популярних маленьких моделей, таких як Llama 4 Scout або Mistral Small 3.1. Вона також тільки що випустила стиснені версії нових відкритих моделей OpenAI.
Нові моделі компанії
Оскільки компанія займається зменшенням розмірів моделей, вона зосередила додаткову увагу на створенні найбільш компактних і водночас потужних моделей.
Її дві нові моделі настільки малі, що можуть надавати можливості чат-інтелекту практично будь-якому пристрою IoT і працювати без підключення до Інтернету. Компанія жартома називає цю лінійку продуктів зоопарком моделей, адже назви засновані на розмірах мозків тварин.
Модель, яку вони назвали SuperFly, є стисненою версією відкритої моделі Hugging Face SmolLM2-135. Оригінал має 135 мільйонів параметрів та був розроблений для використання на пристроях. SuperFly містить 94 мільйони параметрів, що, за словами Орсуса, нагадує розмір мозку мухи. «Це як мати муху, тільки трішки розумнішу», — зазначив він.
SuperFly призначена для навчання на дуже обмежених даних, таких як функціонування пристрою. Multiverse бачить цю модель вбудованою в побутову техніку, що дозволить користувачам керувати ними за допомогою голосових команд, таких як «розпочати швидке прання» для пральної машини. Користувачі також можуть запитувати про усунення несправностей. З невеликою обчислювальною потужністю (такою як Arduino) модель може забезпечити голосовий інтерфейс, як компанія демонструвала на живому заході.
Інша модель називається ChickBrain, і вона більша — 3.2 мільярди параметрів, але також і набагато потужніша та має можливості міркування. Це стиснена версія моделі Llama 3.1 8B від Meta, за словами Multiverse. Проте вона достатньо мала, щоб працювати на MacBook, тоді як інтернет-з’єднання не є обов’язковим.
Що більш важливо, за словами Орсуса, ChickBrain насправді трохи перевершує оригінал за кількома стандартними тестами, включаючи тест на мовні навички MMLU-Pro, математику Math 500 і GSM8K, а також тест загальних знань GPQA Diamond.
