Первый прецедент: власти США вскрыли данные ChatGPT для уголовного дела
В рамках федерального расследования о распространении материалов с эксплуатацией детей (CSAM) Управление расследований Министерства внутренней безопасности США впервые направило компании OpenAI официальный запрос на предоставление данных пользователя чат-бота ChatGPT. Этот случай создал важный юридический прецедент, касающийся конфиденциальности данных ИИ-сервисов.
Ход расследования: как вычислили подозреваемого
В течение года федеральные агенты тайно общались в даркнете с администратором преступного сайта, который насчитывал более 300 тысяч пользователей. В ходе переписки злоумышленник раскрыл, что использует ChatGPT, и привел примеры своих, казалось бы, безобидных запросов. Среди них были:
Однако настоящей целью властей была не расшифровка диалогов, а установление личности. Подозреваемый сам, того не подозревая, предоставил агентам ключевые зацепки: упомянул о службе в Германии на авиабазе Рамштайн и о том, что его отец служил в Афганистане. Это позволило идентифицировать его как 36-летнего Дрю Хёнера, которому было предъявлено обвинение в пособничестве распространению CSAM.
Роль OpenAI и последствия для приватности
Несмотря на то, что личность подозреваемого была установлена без помощи ИИ-компании, правительство обязало OpenAI предоставить все данные, связанные с его аккаунтом:
В результате OpenAI передала следствию таблицу Excel с пользовательской информацией для использования в суде.
Как отмечает юрист Electronic Frontier Foundation Дженнифер Линч, этот случай демонстрирует, насколько критически важно для ИИ-компаний ограничивать объем собираемых пользовательских данных.
Тренд на ужесточение контроля
Данный инцидент произошел на фоне других судебных решений, обязывающих OpenAI сохранять данные пользователей:
Этот прецедент ставит перед обществом сложные вопросы о балансе между борьбой с преступностью с помощью ИИ и защитой приватности пользователей. Технологические компании теперь вынуждены пересматривать свои политики хранения данных, чтобы одновременно соблюдать требования закона и права своих клиентов.
В рамках федерального расследования о распространении материалов с эксплуатацией детей (CSAM) Управление расследований Министерства внутренней безопасности США впервые направило компании OpenAI официальный запрос на предоставление данных пользователя чат-бота ChatGPT. Этот случай создал важный юридический прецедент, касающийся конфиденциальности данных ИИ-сервисов.
Ход расследования: как вычислили подозреваемого
В течение года федеральные агенты тайно общались в даркнете с администратором преступного сайта, который насчитывал более 300 тысяч пользователей. В ходе переписки злоумышленник раскрыл, что использует ChatGPT, и привел примеры своих, казалось бы, безобидных запросов. Среди них были:
- Сценарий встречи Шерлока Холмса и Кью из «Звёздного пути».
- Запрос на генерацию юмористического стихотворения в стиле Дональда Трампа.
Однако настоящей целью властей была не расшифровка диалогов, а установление личности. Подозреваемый сам, того не подозревая, предоставил агентам ключевые зацепки: упомянул о службе в Германии на авиабазе Рамштайн и о том, что его отец служил в Афганистане. Это позволило идентифицировать его как 36-летнего Дрю Хёнера, которому было предъявлено обвинение в пособничестве распространению CSAM.
Роль OpenAI и последствия для приватности
Несмотря на то, что личность подозреваемого была установлена без помощи ИИ-компании, правительство обязало OpenAI предоставить все данные, связанные с его аккаунтом:
- историю всех чатов;
- имена и адреса;
- платёжные реквизиты.
В результате OpenAI передала следствию таблицу Excel с пользовательской информацией для использования в суде.
Как отмечает юрист Electronic Frontier Foundation Дженнифер Линч, этот случай демонстрирует, насколько критически важно для ИИ-компаний ограничивать объем собираемых пользовательских данных.
Тренд на ужесточение контроля
Данный инцидент произошел на фоне других судебных решений, обязывающих OpenAI сохранять данные пользователей:
- Летом 2024 года суд предписал компании «бессрочно хранить» логи ChatGPT, включая удаленные чаты, в рамках иска о нарушении авторских прав.
- В октябре OpenAI смягчила политику, объявив, что прекращает сохранять удаленные чаты для большинства пользователей, но продолжит мониторинг аккаунтов, связанных с новостными организациями.
Этот прецедент ставит перед обществом сложные вопросы о балансе между борьбой с преступностью с помощью ИИ и защитой приватности пользователей. Технологические компании теперь вынуждены пересматривать свои политики хранения данных, чтобы одновременно соблюдать требования закона и права своих клиентов.