Apple підписала зобов'язання Білого дому щодо забезпечення безпеки ІІ

Apple нещодавно приєдналася до Білого дому, підписавши добровільне зобов'язання щодо розробки безпечного, надійного та такого, що заслуговує на довіру, штучного інтелекту. За словами прес-релізу, компанія планує інтегрувати свої генеративні ІІ-технології, названі Apple Intelligence, у основні продукти, надаючи їх двом мільярдам користувачів.

Apple увійшла до числа 15 технологічних компаній, включаючи Amazon, Anthropic, Google, Inflection, Meta, Microsoft та OpenAI, які у липні 2023 року погодилися дотримуватися основних правил Білого дому щодо розробки генеративного ІІ. На той момент Apple не розкривала масштаби своїх планів щодо впровадження ІІ в iOS. Однак на конференції WWDC у червні компанія ясно дала зрозуміти, що серйозно налаштована на інтеграцію генеративного ІІ, починаючи з партнерства, яке впровадить ChatGPT у iPhone. Як частий об'єкт уваги федеральних регуляторів, Apple хоче заздалегідь показати свою готовність дотримуватися правил Білого дому, можливо, у спробі уникнути майбутніх регуляторних суперечок з приводу ІІ.

Але наскільки значимі добровільні зобов'язання Apple перед Білим домом? Вони поки що не мають великої сили, але це початок. Білий дім називає це "першим кроком" до розробки безпечного, надійного та такого, що заслуговує на довіру ІІ. Другим кроком став указ президента Байдена щодо ІІ у жовтні, і зараз у федеральних та державних законодавчих органах розглядаються кілька законопроектів, спрямованих на краще регулювання моделей ІІ.

У рамках зобов'язання компанії, що займаються ІІ, обіцяють проводити "червоні команди" (діяти як хакери, щоб тестувати заходи безпеки організації) моделей ІІ перед їх публічним випуском і ділитися цією інформацією з громадськістю. Добровільне зобов'язання Білого дому також вимагає від компаній конфіденційного поводження з вагами моделей ІІ до їх випуску. Apple та інші компанії зобов'язуються працювати з вагами моделей у безпечних середовищах, обмежуючи доступ до них до мінімуму співробітників. Нарешті, компанії зобов'язуються розробити системи маркування контенту, такі як водяні знаки, щоб допомогти користувачам відрізняти згенерований ІІ контент від справжнього.

Окремо Міністерство торгівлі США скоро випустить звіт про потенційні переваги, ризики та наслідки моделей ІІ з відкритим кодом. Відкритий ІІ все частіше стає політично зарядженою регуляторною ареною. Деякі групи хочуть обмежити доступність вагів потужних ІІ моделей задля безпеки. Однак це може значно обмежити екосистему стартапів та досліджень у галузі ІІ. Позиція Білого дому у цьому питанні може мати значний вплив на всю індустрію ІІ.

Білий дім також зазначив, що федеральні агентства досягли значного прогресу у виконанні завдань, поставлених у жовтневому указі. Федеральні агентства найняли понад 200 спеціалістів з ІІ, надали понад 80 дослідницьким командам доступ до обчислювальних ресурсів і випустили кілька рамок для розробки ІІ.