Будущее умных очков: проблемы конфиденциальности и интеграция ИИ

Meta не может подтвердить, обучает ли она искусственный интеллект на фотографиях, сделанных с помощью их умных очков Ray-Ban. Эти очки оборудованы скрытой камерой, которая делает снимки не только по вашему запросу, но и в автоматическом режиме при активации AI с помощью определённых ключевых слов, например, «посмотреть». Это означает, что устройства собирают большое количество изображений, как намеренных, так и случайных, однако Meta не гарантирует конфиденциальность этих данных.

На вопрос о том, планирует ли Meta использовать изображения пользователей для обучения своих моделей ИИ, как это происходит с изображениями из открытых аккаунтов в социальных сетях, компания не ответила. «Мы не будем обсуждать это публично», — отметил Анудж Кумар, старший директор по носимым устройствам AI в Meta, в интервью TechCrunch.

Представитель Meta, Мими Хаггинс, добавила, что подобные детали не подлежат раскрытию. Когда TechCrunch попытался уточнить, обучает ли Meta ИИ на этих изображениях, Хаггинс ответила: «Мы не подтверждаем и не опровергаем это».

Особую тревогу вызывает новая функция AI в Ray-Ban, которая позволяет делать много пассивных снимков. На прошлой неделе TechCrunch сообщил о том, что Meta собирается внедрить новую функцию для Ray-Ban, позволяющую в реальном времени транслировать изображения в мультимодальную модель ИИ. При активации определёнными словами, умные очки смогут передавать данные о окружающей среде с низкой задержкой.

Таким образом, когда пользователь просит очки просканировать его гардероб для выбора наряда, они могут сделать множество фотографий, включая всё, что находится в комнате, и загрузить их в облако для обработки.

Что происходит с этими изображениями после этого? Meta не разъясняет.

Кроме того, ношение Ray-Ban Meta подразумевает, что у вас есть камера на лице, что может вызывать дискомфорт у окружающих, как это уже было с Google Glass. Поэтому, можно было бы ожидать от компании, что она гарантирует полную конфиденциальность всех фото и видео, сделанных с помощью этих очков. Однако Meta этого не делает.

Компания уже подтвердила, что использует публичные посты пользователей Instagram и Facebook для обучения своих моделей ИИ, расценивая их как «общедоступные данные». Это приводит к тому, что многие технологические компании имеют расширенные определения того, что считается общедоступным для обучения ИИ.

Однако мир, который вы видите через свои умные очки, не является «общедоступным». Хотя Meta не подтверждает, что использует изображения с камер Ray-Ban для обучения своих моделей ИИ, она и не может с уверенностью сказать, что этого не происходит.

В отличие от Meta, другие компании, занимающиеся ИИ, имеют более чёткие правила относительно обучения на пользовательских данных. Например, Anthropic утверждает, что никогда не использует входные данные клиентов для обучения, и OpenAI также заявляет, что не обучается на данных пользователей через свой API.

Мы обратились к Meta за дополнительными разъяснениями и обновим информацию, если они ответят.