Apple подписала обязательство Белого дома по обеспечению безопасности ИИ

Apple недавно присоединилась к Белому дому, подписав добровольное обязательство по разработке безопасного, надежного и заслуживающего доверия искусственного интеллекта. Согласно пресс-релизу, компания планирует интегрировать свои генеративные ИИ-технологии, названные Apple Intelligence, в основные продукты, предоставив их двум миллиардам пользователей.

Apple вошла в число 15 технологических компаний, включая Amazon, Anthropic, Google, Inflection, Meta, Microsoft и OpenAI, которые в июле 2023 года согласились соблюдать основные правила Белого дома по разработке генеративного ИИ. На тот момент Apple не раскрывала масштабы своих планов по внедрению ИИ в iOS. Однако на конференции WWDC в июне компания ясно дала понять, что серьезно настроена на интеграцию генеративного ИИ, начиная с партнерства, которое внедрит ChatGPT в iPhone. Как частый объект внимания федеральных регуляторов, Apple хочет заранее показать свою готовность следовать правилам Белого дома, возможно, в попытке избежать будущих регуляторных споров по поводу ИИ.

Но насколько значимы добровольные обязательства Apple перед Белым домом? Они пока не имеют большой силы, но это начало. Белый дом называет это "первым шагом" к разработке безопасного, надежного и заслуживающего доверия ИИ. Вторым шагом стал указ президента Байдена об ИИ в октябре, и сейчас в федеральных и государственных законодательных органах рассматриваются несколько законопроектов, направленных на лучшее регулирование моделей ИИ.

В рамках обязательства компании, занимающиеся ИИ, обещают проводить "красные команды" (действовать как хакеры, чтобы тестировать меры безопасности организации) моделей ИИ перед их публичным выпуском и делиться этой информацией с общественностью. Добровольное обязательство Белого дома также требует от компаний конфиденциального обращения с весами моделей ИИ до их выпуска. Apple и другие компании обязуются работать с весами моделей в безопасных средах, ограничивая доступ к ним до минимума сотрудников. Наконец, компании обязуются разработать системы маркировки контента, такие как водяные знаки, чтобы помочь пользователям отличать генерированный ИИ контент от настоящего.

Отдельно Министерство торговли США скоро выпустит отчет о потенциальных преимуществах, рисках и последствиях моделей ИИ с открытым исходным кодом. Открытый ИИ все чаще становится политически заряженной регуляторной ареной. Некоторые группы хотят ограничить доступность весов мощных ИИ моделей ради безопасности. Однако это может значительно ограничить экосистему стартапов и исследований в области ИИ. Позиция Белого дома в этом вопросе может оказать значительное влияние на всю индустрию ИИ.

Белый дом также отметил, что федеральные агентства достигли значительного прогресса в выполнении задач, поставленных в октябрьском указе. Федеральные агентства наняли более 200 специалистов по ИИ, предоставили более 80 исследовательским командам доступ к вычислительным ресурсам и выпустили несколько рамок для разработки ИИ.