Державний сенатор Каліфорнії Скотт Вініров у середу запропонував нові поправки до свого законопроекту SB 53, який вимагатиме від найбільших у світі компаній у сфері штучного інтелекту публікувати протоколи безпеки та безпеки, а також подавати звіти у разі виникнення інцидентів, що загрожують безпеці.
Якщо цей закон буде підписаний, Каліфорнія стане першим штатом, який запровадить значні вимоги до прозорості для провідних розробників штучного інтелекту, насамперед OpenAI, Google, Anthropic та xAI.
Попередній законопроект Вінірова, SB 1047, також містив подібні вимоги до розробників моделей штучного інтелекту щодо публікації звітів про безпеку. Однак Кремнієва долина рішуче виступила проти цього законопроекту, внаслідок чого його відкликав губернатор Гевін Ньюсом. Після цього губернатор закликав групу лідерів у сфері ІІ, зокрема провідного дослідника Стенфордського університету та співзасновника World Labs Фей-Фей Лі, створити політичну групу для встановлення цілей у сфері безпеки штучного інтелекту в штаті.
Недавно група по політиці штучного інтелекту Каліфорнії опублікувала свої остаточні рекомендації, зазначивши про необхідність «вимог до галузі публікувати інформацію про свої системи», щоб забезпечити «надійну та прозору інформаційну середу». Офіс сенатора Вінірова у прес-релізі повідомив, що поправки до SB 53 мали значний вплив з боку цього звіту.
«Законопроект все ще перебуває в стадії розробки, і я сподіваюся співпрацювати з усіма зацікавленими сторонами в найближчі тижні, щоб вдосконалити цю пропозицію до найбільш науково обґрунтованого та справедливого закону», — зазначив Вініров у прес-релізі.
SB 53 прагне знайти баланс, якого, за словами губернатора Ньюсома, не досяг SB 1047, намагаючись створити значні вимоги до прозорості для найбільших розробників штучного інтелекту, не заважаючи швидкому зростанню каліфорнійської індустрії штучного інтелекту.
«Ці питання мого організація та інші обговорюють вже деякий час», — сказав Натан Келвін, віце-президент з державних питань неприбуткової організації з безпеки ІІ Encode, в інтерв’ю TechCrunch. «Вимагаючи від компаній пояснити суспільству та уряду, які заходи вони вживають для зменшення цих ризиків, ми вважаємо, що це мінімально розумний крок».
Законопроект також створює захист для викривачів серед працівників лабораторій штучного інтелекту, які вважають, що технологія їх компанії становить «критичний ризик» для суспільства, що визначається законом як спричинення смерті або травмування більше 100 осіб або завдання збитків більше 1 мільярда доларів.
Крім того, цей законопроект має на меті створити CalCompute — публічний кластер комп’ютерних потужностей для підтримки стартапів і дослідників, які займаються розробкою масштабного ІІ.
На відміну від SB 1047, новий законопроект сенатора Вінірова не покладає відповідальність за шкоду, завдану їхніми моделями штучного інтелекту, на розробників моделей ІІ. SB 53 також розроблений так, щоб не створювати перешкод для стартапів і дослідників, які вдосконалюють моделі ІІ від провідних розробників або використовують моделі з відкритим кодом.
З новими поправками SB 53 тепер на розгляді Комітету з питань конфіденційності та захисту прав споживачів Каліфорнійської державної асамблеї для отримання схвалення. У разі позитивного рішення цей законопроект також повинен пройти кілька інших законодавчих органів, перш ніж дійде до губернатора Ньюсома.
В той же час, у Нью-Йорку губернатор Кеті Хочул розглядає аналогічний законопроект щодо безпеки штучного інтелекту, RAISE Act, який також вимагатиме від великих розробників ІІ публікувати звіти про безпеку.
Доля державних законів щодо штучного інтелекту, таких як RAISE Act і SB 53, була тимчасово під загрозою, коли федеральні законодавці розглядали запропоновану десяти річну мораторію на державне регулювання ІІ, що було спробою обмежити «переплетіння» законів у сфері ІІ, з якими компанії мають справу. Однак ця пропозиція зазнала краху на голосуванні 99-1 у Сенаті на початку липня.
«Гарантування безпеки розробки ІІ не має бути спірним питанням — це повинно стати основою», — сказав Джефф Ралстон, колишній президент Y Combinator, у заяві для TechCrunch. «Конгрес повинен вести, вимагаючи прозорості та підзвітності від компаній, що розробляють передові моделі. Але в умовах відсутності серйозних дій з боку федеральних органів, штати повинні активізуватися. SB 53 Каліфорнії є продуманим і добре структурованим прикладом лідерства на рівні штату.»
На даний момент законодавці не змогли залучити компанії у сфері ІІ до співпраці над вимогами прозорості на державному рівні. Anthropic широко підтримала необхідність збільшення прозорості в компаніях, що займаються ІІ, і навіть висловила помірний оптимізм щодо рекомендацій групи по політиці штучного інтелекту Каліфорнії. Однак компанії, такі як OpenAI, Google та Meta, більш скептичні щодо цих ініціатив.
Провідні розробники моделей ІІ зазвичай публікують звіти про безпеку своїх моделей, але в останні місяці це стало менш стабільним. Наприклад, Google вирішив не публікувати звіт про безпеку для своїй найпросунутішій моделі ІІ, Gemini 2.5 Pro, до минулого після її виходу. OpenAI також вирішила не публікувати звіт про безпеку для своєї моделі GPT-4.1. Пізніше з’явилося незалежне дослідження, яке вказувало на те, що вона може бути менш адаптованою, ніж попередні моделі ІІ.
SB 53 представляє пом’якшену версію попередніх законопроектів щодо безпеки ІІ, але все ще може змусити компанії публікувати більше інформації, ніж вони роблять сьогодні. На даний момент компанії уважно стежать за тим, як сенатор Вініров знову випробовує ці межі.
