На этом году OpenAI DevDay генеральный директор Сам Альтман представил новый агент компании Dots — и заявил толпе, что компания хочет «установить новый стандарт конфиденциальности в передовом ИИ». В течение дня OpenAI неоднозначно критиковала Muse от Meta, своего основного конкурента, за то, что тот якобы не защищает данные пользователей. При этом сам Muse, пару месяцев ранее, запускался как якобы более безопасная альтернатива предшественнику OpenClaw — генеральный директор Марк Цукерберг обещал, что он «создан с нуля с учетом конфиденциальности и безопасности».

В эпоху, когда компании накапливают персональные данные клиентов, а кибератаки стали обычным явлением, лаборатории ИИ пытаются убедить пользователей делиться с агентами еще большим объемом информации. Их последняя стратегия — превзойти конкурентов обещаниями, что, в отличие от остальных, они будут держать данные пользователей подальше от посторонних глаз. Вопрос в том, смогут ли компании сдержать эти обещания.

Нат Фридман, руководитель продукта в Meta Superintelligence Labs, написал в X, что цель Muse — «построить нечто вроде OpenClaw, что мы могли бы сделать безопасным, надежным, удобным и масштабируемым до миллиардов людей». Данные пользователей хранятся на защищенной виртуальной машине — то, что Цукерберг описал как «изолированный linux-компьютер с браузером, процессором, памятью и накопителем». Компания заявила, что большая часть усилий по созданию Muse связана с «внимательным дизайном и инженерией, чтобы эксплуатировать [его] более безопасно». В блоге Meta продолжили: «Muse все еще может и будет делать ошибки, но мы ожидаем, что они будут намного реже и причинят гораздо меньше ущерба благодаря встроенным нами системам безопасности».

Однако, хотя Muse возглавил чарты App Store и, по данным Apptopia, за несколько недель набрал 600 000 ежедневно активных пользователей в США, обещания Meta, похоже, не полностью оправдались. Хотя данные изолированы от других пользователей, и компания планирует позже ввести способ «криптографически и проверяемо предотвратить доступ Meta к данным в вашей VM», сама Meta по-прежнему может иметь доступ к этим данным. Исследователь безопасности быстро обнаружил нулевой день уязвимость, которая могла позволить кому-то захватить контроль над Muse (уязвимость с тех пор была исправлена), что вызвало опасения по поводу внешних атак. Несколько серьезных проблем с безопасностью, как сообщается, всплыли в последний момент перед запуском, одна из которых могла позволить пользователям получить доступ к внутренним базам данных Meta, по данным 404 Media.

Кроме того, Muse, по-видимому, щедро собирает (и в некоторых случаях передает) данные. По умолчанию платформа разрешает Meta тренировать модели на том, что пользователи в нее вводят, хотя можно отказаться от этого. Журналист из Inc. пожаловался, что Muse загрузил и прочитал его личные сообщения без его запроса, а один ютубер сообщил, что Muse предложил его адрес незнакомцу через Marketplace — в обоих случаях агент, по-видимому, работал так, как было задумано, но пользователь не осознавал, насколько далеко он зайдет. Платформа создает «детализированные профили всех ваших друзей и родственников», как сообщал Wired. Все это не обязательно неожиданно от Meta, но явно не подтверждает идею о том, что Muse уникально ориентирован на конфиденциальность или безопасность.

OpenAI использовала этот факт при анонсе Dots в конце сентября. Александр Эмбирикус, руководитель продукта Codex в OpenAI, заявил на сцене DevDay, что OpenAI сосредоточена на создании «наиболее заслуживающего доверия, безопасного и защищенного помощника», а генеральный директор Сам Альтман показал способы, с помощью которых люди могут контролировать свои отдельные Dots, например установить правило, чтобы он никогда не совершал покупку выше определенной суммы. «Я думаю, что мы в другой ситуации по сравнению с Meta, у которой нет продукта ИИ с 1,2 миллиарда пользователей», — сказал Глен Коутс, руководитель платформы приложений OpenAI, добавив, что «выпуск чего-то, что совершает такого рода ошибки, — это то, чего мы постараемся избегать».

Сам Альтман также продвигал тему конфиденциальности на DevDay. Чтобы привлечь корпоративных клиентов, представители представили рамки, позволяющие предприятиям иметь «усиленные средства управления» над своими данными и варианты политики нулевого хранения данных (то есть данные не сохраняются на серверах OpenAI). Действительно, до сих пор с Dots не было большого числа скандалов, связанных с конфиденциальностью — хотя он доступен только в подписках ChatGPT ценой от 100 долларов и выше, а значит, вероятно, им пользуются меньше людей.

Тем не менее люди все еще могут не хотеть передавать OpenAI свои личные данные, отчасти просто потому, что агенты ИИ требуют их много. Например, журналистка The Verge Эллисон Джонсон почувствовала себя неловко, вводя данные своей банковской карты, когда бот запросил их для выполнения соответствующей задачи (у Muse есть интеграция со Stripe для таких случаев).

Разумеется, не все компании дают обещания по конфиденциальности. Instinct подверглась публичной критике за якобы слишком широкие условия использования, которые предоставляли ей неограниченный доступ к данным; с тех пор компания, по-видимому, внесла корректировки. Пока что лаборатории ИИ, по-видимому, рассчитывают на трехступенчатый подход к популяризации агентов среди широкой публики: сделать их полезными, сделать их милыми и успокаивающими, чтобы смягчить ощущение навязчивости, и давать обещания о конфиденциальности — с надеждой, что они будут выполнены.