Microsoft решит вопрос онлайн-ухода за детьми в сексуальных целях с помощью сканера чата

Microsoft объявила о методе обнаружения груминга под кодовым названием «Project Artemis», с помощью которого можно выявлять хищников, пытающихся заманить детей в сексуальных целях, и сообщать о них.

Microsoft решит вопрос онлайн-ухода за детьми в сексуальных целях с помощью сканера чата

Разработанный в сотрудничестве с The Meet Group, Roblox, Kik и Thorn, этот метод основан на запатентованной технологии Microsoft и будет бесплатно распространяться через Thorn среди квалифицированных онлайн-сервисных компаний, предлагающих функцию чата. Thorn. это некоммерческая технология, которая создает технологию для защиты детей от сексуального насилия.

Основываясь на патенте Microsoft, этот метод применяется к историческим текстовым разговорам в чате. Он оценивает и «оценивает» характеристики разговора и присваивает общий рейтинг вероятности. Затем этот рейтинг можно использовать в качестве детерминанта, устанавливаемого отдельными компаниями, внедряющими эту технику, в отношении того, когда помеченный разговор следует отправлять модераторам-людям для проверки. Тогда модераторы-люди смогут выявлять неминуемые угрозы для обращения в правоохранительные органы, а также случаи подозреваемой сексуальной эксплуатации детей в Национальный центр пропавших и эксплуатируемых детей (NCMEC).