ChatGPT будет выявлять склонных к экстремизму пользователей

// searchenginejournal.com
Новозеландская компания ThroughLine разрабатывает этот новый инструмент в сотрудничестве с ChatGPT, OpenAI и ее конкурентами, такими как Anthropic и Google. Их цель — перенаправлять пользователей, чьи запросы могут указывать на угрозу самоповреждения, домашнего насилия или расстройств пищевого поведения, в службы кризисной поддержки. В настоящее время организация работает над расширением своих возможностей, сосредоточив внимание на предотвращении насильственного экстремизма.

ThroughLine будет сотрудничать с The Christchurch Call — инициативой, созданной для борьбы с разжиганием ненависти в интернете после одного из крупнейших терактов в Новой Зеландии в 2019 году. Эта организация будет предоставлять экспертные рекомендации в случае выявления экстремистских запросов, в то время как ThroughLine сосредоточится на разработке чат-ботов для оперативного вмешательства.