Штаты США формируют общую основу безопасности передового ИИ

Соединённые Штаты постепенно вырабатывают общий подход к регулированию наиболее мощных систем искусственного интеллекта посредством параллельных действий властей штатов и федерального правительства. Калифорния, Нью-Йорк и Иллинойс продвинули законодательные инициативы, направленные на безопасность передовых моделей и предусматривающие пересекающиеся требования, которые могут стать основой общенациональной политики ещё до того, как Конгресс примет единый федеральный закон. OpenAI называет этот процесс «обратным федерализмом»: вместо ожидания, пока Вашингтон установит правила, которым затем последуют штаты, сами штаты принимают совместимые меры защиты, в совокупности направляющие федеральное правительство к единому стандарту.

В статье утверждается, что решения о безопасности передового ИИ в конечном счёте должны приниматься демократическими институтами, а не полностью оставляться на усмотрение компаний, разрабатывающих продвинутые модели. Формальная общенациональная система регулирования была бы предпочтительнее, поскольку могла бы обеспечить предсказуемые обязательства по всей стране. Однако пока такой системы нет, штаты могут приблизиться к ней, принимая законы, построенные вокруг одного и того же ограниченного набора принципов. Таким образом, согласованные законы штатов могут фактически сформировать общенациональный базовый стандарт безопасности, сохранив при этом путь к последующему федеральному регулированию.

Последовательность представлена как необходимое условие и для безопасности, и для технологического лидерства США. Разрозненный набор несовместимых правил разных штатов может замедлить разработку, усложнить правоприменение, запутать потребителей и вынудить компании тратить ресурсы на соблюдение требований, которые напрямую не повышают безопасность. Особенно значительной такая нагрузка окажется для стартапов и небольших разработчиков. OpenAI также утверждает, что чрезмерная фрагментация может ослабить усилия по созданию демократической экосистемы ИИ, способной снабжать правительства, операторов критической инфраструктуры, союзников и доверенных партнёров инструментами для защиты от злонамеренного применения ИИ, включая кибератаки.

Предлагаемый базовый стандарт на уровне штатов включает два основных компонента. Разработчики передовых моделей должны поддерживать документированную систему безопасности, проводить оценку рисков и публично раскрывать как сами оценки, так и их результаты. Их заявления и процедуры также должны подвергаться независимым объективным аудитам, обеспечивающим надлежащее управление и подотчётность. Калифорния заложила основную структуру раскрытия информации, Нью-Йорк продемонстрировал, что аналогичный подход может быть принят и в другой юрисдикции, а Иллинойс добавил требование о независимой проверке важных раскрываемых сведений. Считается, что вместе эти три штата внедряют демократический надзор в процесс развёртывания передового ИИ.

В статье признаётся, что в процессе переговоров о голосах, необходимых для принятия законов, в них часто добавляются дополнительные положения. Тем не менее штатам рекомендуется сохранять дисциплину и сосредоточиться на ключевых мерах безопасности и подотчётности. Расширение законов штатов на несвязанные или чрезмерно широкие области может привести к расползанию регулирования и воссоздать ту самую нормативную разрозненность, которую призвана предотвратить согласованность. Регуляторам было бы сложно управлять такой комплексной системой, а инженерные и финансовые ресурсы могли бы отвлекаться от практической работы по обеспечению безопасности.

Автор также проводит границу между надлежащим надзором со стороны штатов и обязанностями, которые должны оставаться на федеральном уровне. Не следует ожидать, что штаты будут оценивать серьёзные угрозы национальной безопасности или фактически принимать решения в сфере безопасности за всю страну. Кроме того, у них может не быть доступа к секретной информации, специализированных знаний, технических ресурсов или устойчивого потенциала, необходимых для оценки самых передовых систем. Эти задачи лучше поручить федеральным экспертам, способным напрямую работать с разработчиками ИИ и координировать политику между ведомствами безопасности и международными партнёрами.

На федеральном уровне администрация Трампа совместно со специалистами в технической сфере и сфере национальной безопасности разрабатывает систему тестирования правительством США наиболее мощных моделей ИИ на предмет рисков и возможностей в области кибербезопасности. Ожидается, что планируемая система определит стандарты, графики и процедуры тестирования. OpenAI сообщает, что участвует в обсуждениях с администрацией, другими компаниями в сфере ИИ, деловыми организациями и дополнительными заинтересованными сторонами по мере разработки этой системы.

Оценки в области кибербезопасности приводятся как пример того, почему необходим стабильный общенациональный процесс. Передовые модели уже проходят тестирование, хотя федеральная система ещё не завершена, что в статье названо понятным с учётом темпов развития. Тем не менее опыт первых оценок показал необходимость последовательной и воспроизводимой методики. Целостная общенациональная система сделала бы тестирование моделей более надёжным и впоследствии могла бы стать основой международной системы безопасности, опирающейся на демократические ценности.

Более масштабная цель заключается в том, чтобы Соединённые Штаты превратили внутреннюю согласованность в глобальное лидерство. Общенациональный стандарт может стать основой международных правил безопасного развёртывания ИИ и одновременно помочь демократическим странам сохранить доступ к оборонительным возможностям. Как утверждается в статье, для достижения этого результата необходима постоянная координация между штатами, федеральным правительством, лабораториями ИИ, промышленностью, союзниками и международными институтами. Символических законов или политически показательных мер будет недостаточно: долговечная политика безопасности зависит от совместимых правил, чёткого распределения ответственности и институтов, способных применять их на практике.