Нейросети: иллюзия конфиденциальности, новый уровень психографики и эра ИИ-профилированияЕсли вы считаете, что, вы анонимны и в безопасности, общаясь с чат-ботами Amazon (Nova), Anthropic (Claude), Google (Gemini), Meta (Meta AI), Microsoft (Copilot) и OpenAI (ChatGPT), и просто получаете информацию для повседневной деятельности, работы или чисто поржать, то сейчас вам будет не смешно.
Это не вы получаете ответы от нейросети, а нейросеть читает вас, как открытую книгу, и получает не только персональные данные, но все ваши эмоции, осознанные и неосознанные желания, психологический и психический портрет.
ChatGPT и Claude ... анализируют, хранят и учатся на каждом взаимодействии, создавая подробные профили поведения, предпочтений и моделей мышления пользователей, которые выходят далеко за рамки того, что большинство пользователей осознают.
Учёные провели несколько исследований, которые подтвердили эффективность ИИ-профилирования пользователей, при чём на основании анализа нейросетями не конкретного содержания запросов, а косвенных показателей - метаданных диалога: периодов активности, времени и длительности взаимодействия, формулировок и стилистики, тематики и эмоциональной окраски запросов.
Точность определения:
- личностных характеристик достигает 85% уже после 50 взаимодействий с ИИ-чатботами – эмоциональная окраска промпта отражает состояние психического здоровья;
- демографических характеристик достигает 78% уже после 20 взаимодействий с ИИ-чатботами – нейросеть устанавливает рабочие графики, часовой пояс, образ жизни, уровень образования и профессиональный опыт пользователя;
- реидентификация «анонимных» данных "на основе стиля письма" достигает 89%. ИИ-чатботы можно специально обучать, чтобы они были более убедительными для конкретного пользователя и заставили его раскрыть в 12,5 раз больше личных данных, чем тот собирался (Королевский колледж Лондона, Кембриджский университет и Google DeepMind).
Кто получает и обрабатывает все эти массивы данных: Пентагон, ЦРУ, АНБ, иные военные структуры и спецслужбы, инвестиционные банки, хедж-фонды через компании Palantir, Anthropic, OpenAI, Google и xAI, а также китайские спецслужбы.
Летом 2024 года OpenAI назначила в совет директоров экс-директора АНБ и руководителя киберразведки США генерала Пола Накасоне, а через год Пентагон заключил с Anthropic, OpenAI, Google и xAI контракты на 200 миллионов долларов каждый на разработку ИИ-систем для задач нацбезопасности США.
Балалайки из "Анклавов" Вадима Панова и допреступность из "Особого мнения" Филипа Дика – это уже не фантастика, а наше обыденное завтра.
|
