OpenAI устанавливает принципы работы с ИИ в сфере национальной безопасности

OpenAI заявляет, что правительства начинают использовать передовые системы ИИ во всё более чувствительных областях, включая национальную безопасность, и что этот сдвиг требует более чётких правил того, как ИИ-лаборатории, государственные институты и гражданское общество должны работать вместе. Компания формулирует проблему как баланс: демократические правительства должны иметь возможность использовать ИИ в законных оборонительных целях, но такое использование не должно ослаблять общественную подотчётность или устранять значимое человеческое суждение из критически важных решений.

Компания утверждает, что frontier AI может помочь демократическим обществам защищать людей, оборонять критическую инфраструктуру, улучшать государственные услуги и реагировать на возникающие угрозы. Она выделяет киберзащиту и биологическую безопасность как области, где ИИ может дать защитникам реальное преимущество, например помогая обнаруживать кибератаки или поддерживать работу в сфере общественного здравоохранения и биозащиты. В то же время OpenAI заявляет, что мощный ИИ должен внедряться так, чтобы укреплять верховенство права и демократические институты, а не концентрировать власть в руках нескольких ведомств, компаний или автоматизированных систем.

OpenAI публикует набор National Security Principles, чтобы объяснить свой подход к государственным партнёрствам и чувствительным вариантам использования своих технологий. Эти принципы призваны обеспечить больше прозрачности по мере того, как компания расширяет работу с правительством США и союзными партнёрами. OpenAI говорит, что рамочный документ был разработан в ходе общефирменного процесса с участием команд, занимающихся исследованиями, безопасностью, политикой и государственными партнёрствами. Компания также привлекла Дэвида Криса, эксперта по национальной безопасности, чтобы помочь организовать процесс и предоставить независимую оценку.

Один из главных акцентов сделан на оборонительном сотрудничестве с правительствами и союзными институтами. OpenAI заявляет, что расширяет свою работу в киберзащите через программу Daybreak, включая партнёрства Trusted Access for Cyber с Австралией, Канадой, Японией, Южной Кореей, Францией, Германией, Польшей, Нидерландами и институтами Европейского союза, такими как ENISA. Компания также указывает на растущие отношения с правительством Великобритании в области кибербезопасности, тестирования и оценки. Эти партнёрства представлены как примеры того, как компания хочет поддерживать задачи национальной безопасности, сохраняя при этом чёткие границы использования.

OpenAI говорит, что применяет похожий подход в биобезопасности. Компания недавно расширила доверенный доступ к GPT-Rosalind, модели, предназначенной для поддержки общественного здравоохранения и биозащиты, для выбранных правительственных структур США и союзных партнёров. На практике это говорит о том, что OpenAI хочет, чтобы её модели помогали проверенным пользователям из государственного сектора в оборонительной работе с биологическими рисками, одновременно ограничивая доступ к чувствительным возможностям и удерживая такие партнёрства в рамках определённых мер контроля.

Эти принципы также распространяются на текущие и будущие партнёрства OpenAI в сфере национальной безопасности и правоохранительной деятельности, включая существующую работу с Department of War. OpenAI заявляет, что прежние договорные ограничения для этого соглашения остаются согласованными с новыми принципами. Эти ограничения включают запрет на использование технологий OpenAI для массовой внутренней слежки, запрет на использование для управления автономными системами вооружений и запрет на использование для автоматизированных решений с высокими ставками. Компания представляет эти ограничения как примеры того, как она различает оборонительные применения ИИ и приложения, которые могут подрывать права, подотчётность или человеческий контроль.

OpenAI также заявляет, что компании не должны самостоятельно решать самые значимые вопросы использования ИИ государством. Она утверждает, что ключевые решения об ИИ в национальной безопасности должны приниматься через демократические процессы, а компании должны помогать информировать дискуссию, а не заменять законодателей или общественный надзор. OpenAI говорит, что поддерживает законодательство, которое установило бы safeguards для некоторых наиболее рискованных военных применений ИИ, особенно в отношении внутренней слежки, автономных вооружений и других приложений, напрямую влияющих на национальную безопасность США.

Более широкий посыл заключается в том, что OpenAI хочет нормализовать определённые партнёрства с государствами и в сфере национальной безопасности, особенно с демократическими союзниками, одновременно публично обозначая границы для вариантов использования, которые она считает неприемлемыми или слишком рискованными без safeguards. Это заявление не только политическая позиция; это также попытка повлиять на то, как правительства, компании и общественность обсуждают роль frontier AI в обороне, правоохранительной деятельности, киберустойчивости и биобезопасности по мере того, как эти системы становятся более способными.