Калифорния снова пытается регулировать гигантов искусственного интеллекта.

В сентябре прошлого года все внимание было приковано к законопроекту Сената № 1047 (Senate Bill 1047), который поступил на подпись губернатору Калифорнии Гэвину Ньюсому (Gavin Newsom), но был им отклонен.

SB 1047 обязывал разработчиков крупных моделей искусственного интеллекта, особенно тех, на обучение которых было потрачено 100 миллионов долларов и более, проводить их тестирование на предмет конкретных опасностей. Информаторы из индустрии ИИ были недовольны вето, а большинство крупных технологических компаний – удовлетворены.

Однако на этом история не закончилась. Ньюсом, посчитавший, что законопроект слишком строгий и универсальный, поручил группе ведущих исследователей в области ИИ разработать альтернативный план, который бы поддерживал развитие и управление генеративным ИИ в Калифорнии, а также предусматривал меры защиты от его рисков.

Во вторник был опубликован этот отчет. Авторы 52-страничного "Отчета Калифорнии о передовой политике" (California Report on Frontier Policy) заявили, что возможности ИИ, включая способности моделей к логическому мышлению ("chain-of-thought reasoning"), "стремительно улучшились" после решения Ньюсома отклонить SB 1047.

Используя исторические примеры, эмпирические исследования, моделирование и симуляции, они предложили новую структуру, которая потребует большей прозрачности и независимой проверки моделей ИИ.