OpenAI отслеживает переписки пользователей на предмет угроз

Компания OpenAI сообщила о том, что она осуществляет мониторинг переписок пользователей, чтобы выявить потенциально опасное содержание. В случае, если система определит, что пользователь может нанести вред другим, информация будет передана в специальную группу сотрудников, которые примут решение о необходимости ограничения доступа к аккаунту. Если угроза физического насилия будет явной, данные могут быть переданы правоохранительным органам, согласно пресс-релизу компании. Правила использования ChatGPT остаются размытыми, при этом запрещается пропаганда самоубийств, разработка оружия и взлом сервисов. Однако OpenAI не уточняет, какие конкретные фразы могут привести к проверке переписки. Интересно, что компания отметила, что случаи самоповреждения не передаются в полицию, считая такие разговоры слишком личными. Эта новость появилась на фоне критики в адрес OpenAI, связанной с сообщениями о том, что чат-боты якобы подталкивали людей к самоубийству. В то же время газета The New York Times требует предоставить логи переписок для выяснения, использовались ли ее материалы для обучения ChatGPT, на что OpenAI ссылается на защиту приватности.

Понравилась статья? Поделиться с друзьями: