Конфиденциальность переписок с ChatGPT и «Проект Лили»
ChatGPT стал стандартной поисковой системой и умным помощником для миллионов пользователей. Однако одно важно помнить: конфиденциальности в переписках с моделями OpenAI и аналогичными моделями других компаний фактически не существует. Обнародовано существование «Проекта Лили», ставящего под сомнение безопасность общения с такими приложениями.
Суть «Проекта Лили» — процедура, по которой, как описали журналисты 404 Media, OpenAI якобы привлекала сотни людей для чтения переписок пользователей ChatGPT. Цель программы — улучшить то, как модели ИИ отвечают подписчикам и пользователям бесплатной версии. Представляется, что работники получали фрагменты диалогов, не связанные напрямую с конкретными аккаунтами. Тем не менее люди в разговорах часто раскрывают массу личных, чувствительных или биометрических данных.
OpenAI утверждает, что пытается удалять такие детали из переписок с помощью специальной модели, но чем больше личной информации содержится в диалоге, тем труднее сделать это без потери смысла беседы. Контракторы OpenAI, по данным публикации, давали указания оценщикам: не слишком «очеловечивать» ответы чатбота, избегать чрезмерного льстивого тона, но при этом давать ответы, которые «понимают намерения пользователя, предоставляют полезные и корректные инструкции, и написаны ясно, естественно и в умеренно тёплом тоне». Оценщики могли самостоятельно выбирать чаты для проверки; при признаках того, что диалог приводит к опасным действиям, рекомендовалось эскалировать ситуацию внутри OpenAI.
Забавно, что некоторые пользователи прямо просили ChatGPT «сохранить что‑то при себе». Возможна ли защита от чтения наших диалогов подрядчиками? По информации компании, да: можно исключить свои чаты из пула для «рецензентов» через соответствующую настройку в интерфейсе ChatGPT. Инструкция такова: открыть ChatGPT, перейти в Настройки (значок шестерёнки в левом нижнем углу на компьютере); выбрать «Улучшать модель для всех» и в отдельном окне снять все галочки.
Кроме того, OpenAI на странице поддержки рекомендует «не вводить конфиденциальную информацию, доступ к которой или использование которой вы не желаете». Это правило особенно важно помнить при работе с любыми удалёнными моделями ИИ в будущем.
Происшествие вокруг «Проекта Лили» подчёркивает риск для приватности пользователей: даже если компании декларируют меры по удалению личных данных, реальный процесс проверки и обучения моделей часто включает участие людей, которые читают фрагменты переписок. Пользователям советуют внимательно относиться к содержанию своих сообщений и по возможности отключать участие своих чатов в обучающих и рецензируемых пулах, чтобы минимизировать вероятность утечки личной информации.
