Фото: телеканал «Санкт-Петербург» / АО «ГАТР»
Эксперты в рамках исследования «Algorithmic Self-Portrait» выяснили, что ИИ-сервис ChatGPT формирует цифровые досье на своих пользователей, сохраняя их персональные сведения в памяти системы. Несмотря на публичные заявления о защите данных, исследование выявило масштабный сбор информации:
95,9% записей создавались автоматически, без явного разрешения пользователя на сохранение;
в 91% профилей хранились реальные имена людей, а также информация об их экономическом положении, социальном статусе и адресах проживания;
в 54% аккаунтов были сохранены медицинские диагнозы, подробности состояния здоровья и личные убеждения;
в 97% профилей были зафиксированы цели, намерения, предпочтения и особенности поведения владельцев учетных записей.
Это означает, что даже пользователи, которые не авторизовались под своим именем или использовали псевдонимы, могут быть идентифицированы по совокупности собранной информации – от профессиональных навыков до личных переживаний.
«ИИ потенциально может использоваться для скрытого влияния на решения госслужащих и ученых с учетом их персональных данных и психологических особенностей. Главная опасность – незаметный и адресный характер такого воздействия, который ИИ предоставляет в своих ответах», – говорится в сообщении.
В ведомстве также поделились правилами безопасности при общении с ИИ:
не загружать в чат служебную документацию;
исключить из запросов реальные имена, адреса и другие идентификаторы;
использовать временные чаты и регулярно проверять историю переписки;
контролировать настройки персонализации сервиса.
«Искусственный интеллект может быть полезным помощником, однако безопасность персональных данных во многом зависит от того, какую информацию вы ему доверяете», – заключили в ведомстве.