Этот гостевой блог принадлежит Джон Карр, один из ведущих мировых авторитетов в области использования Интернета детьми и молодыми людьми и связанных с ним новых технологий. В нем он описывает вероятные (разрушительные) последствия предложения Facebook по шифрованию своих платформ и, таким образом, лишить агентства по защите детей возможности обнаруживать и удалять материалы сексуального насилия над детьми в будущем.

Мы представили другие блоги Джона на Подтверждение возраста, Укупорка, и Глобальный альянс WeProtect.

В прошлую среду Национальный центр США по делам пропавших без вести и эксплуатируемых детей (NCMEC) опубликовал свои номера на 2020 год. В 16.9 году было получено 2019 миллиона отчетов, а в 21.7 году оно выросло до 2020 миллиона. Это более чем на 25%. Платформы обмена сообщениями остаются крупнейшим источником.

21.4 миллиона отчетов за 2020 год поступили непосредственно от самих онлайн-компаний, а остальная часть - от представителей общественности. Последнее представляет собой трехкратное увеличение по сравнению с 2019 годом. Поразительно, что по сравнению с прошлым годом количество сообщений об онлайн-привлечении выросло почти на 100%. Последствия широкомасштабных блокировок по всему миру? Наверное.

21.7 миллиона отчетов, среди прочего, содержали 31,654,163 33,690,561 XNUMX видеофайла и XNUMX XNUMX XNUMX файл, содержащий неподвижные изображения. В одном отчете может содержаться ссылка на несколько элементов.

Таким образом, в общем количестве сообщений подавляющее внимание уделяется работе с незаконными изображениями того или иного типа, но 120,590 XNUMX "другие файлы"  Показанные в диаграмме NCMEC также представляют серьезную угрозу для детей.

С 2,725,518 отчетами Индия снова возглавляет список стран. Следующими идут Филиппины, Пакистан и Алжир, далеко позади, но все еще превышающие отметку в 1 миллион.

Хорошие новости или плохие новости? 

Люди, выступающие против упреждающего сканирования на предмет сексуального насилия над детьми на платформах обмена сообщениями, иногда указывают на эти цифры и говорят, что, поскольку они постоянно растут, это доказывает, что сканирование не является полезным сдерживающим фактором. Некоторые говорят, что мы должны даже назвать политику «Провал».

Поскольку преступники упорно отказываются полный годовой доходности точно объявляющих, что они сделали в прошлом году, в то время как с изложением своих планов на ближайшие 12 месяцев, мы никогда не знали и никогда не может знать, сколько CSAM есть, было или может быть там, или сколько попыток было или будет предпринято, чтобы вовлечь детей в Интернет с применением сексуального насилия. Таким образом, новые цифры NCMEC могут просто говорить нам, что мы становимся лучше в обнаружении. Чего они определенно не делают, так это не дают мандата покинуть эту область борьбы с преступностью, оставить жертв, объявить победу жестоким детям и неуправляемостью онлайн-пространства.

Лучшие инструменты

Инструменты, которыми мы располагаем сейчас, просто лучше, чем были раньше, и их применение все шире и энергичнее. И, конечно же, в этом году пользователей Интернета стало больше, чем в прошлом году. Неизбежно будет часть увеличения, связанная исключительно с этим типом органического роста. Можно ожидать, что это будет продолжаться в течение некоторого времени, поскольку доступность Wi-Fi и широкополосного доступа расширяется и все больше и больше людей в мире выходят в Интернет.

В любой сфере преступности выявление и пресечение преступного поведения после события всегда должно быть или должно быть только частью более широкой стратегии, в которой всегда предпочтительнее предотвращение посредством просвещения и повышения осведомленности. Но идея о том, что вы должны отказываться от попыток смягчить последствия преступного поведения везде и всегда, бессердечна и является оскорблением для детей-жертв. Действия говорят громче, чем слова, и никакое действие не говорит еще громче.

Между тем в ЕС

Прошлая неделя NCMEC опубликованная статистика показывает, что отчеты, полученные от стран-членов ЕС, были вниз на 51% с декабря 2020 года. Это была дата, когда вступил в силу Европейский кодекс электронных коммуникаций.

На фоне общей глобальной подъем поэтому в отчетности следует опасаться того, что, сообщая процент падать Согласно отчетам из стран-членов ЕС, европейские дети могут жить даже хуже, чем дети в других частях мира. Комиссар Йоханссон отметил, в ЕС 663 отчета в день не сделано так, как иначе было бы. Это было бы верно, если бы уровень отчетности оставался постоянным. Очевидно, что это не так, а это значит, что реальное количество заочных отчетов, вероятно, будет к северу от 663.

И все же Европарламент парализует процесс реформ.

Facebook о маневрах

Давайте вспомним в декабре прошлого года, когда вступил в силу новый Кодекс. Facebook, заведомо спорная и воинственная компания, решила порвать с лидерами отрасли, прекратив сканирование на предмет сексуального насилия над детьми. Facebook мог бороться с этим или, как их коллеги, проигнорировать это. Они тоже не сделали.

Циники предположили, что решение компании перевернуться, как послушный щенок, было вдохновлено желанием проложить путь своим давно заявленным амбициям по внедрению надежного шифрования в Messenger и Instagram Direct. Если нет законного способа сканирования платформ обмена сообщениями, то вопрос о том, зашифрованы ли платформы или нет, почти не имеет значения.

Декабрьское решение Facebook определенно узаконило оппозицию групп, которые всегда были против сканирования контента и поведения, угрожающего детям.

У вас захватывает дух от наглости самого нарушающего конфиденциальность бизнеса в истории планеты Земля, совершающего полный поворот, причем в ущерб детям и законопослушным гражданам. Никакие теплые слова не смоют это.

Задержите эту мысль на мгновение.

Вопрос времени?

Facebook недавно провел исследование случаев сексуального насилия над детьми на своих платформах. Результаты только что были опубликованный в блоге.

Было два отдельных исследования. Оба они вызывают сомнения или ставят под сомнение ценность профилактического сканирования для защиты детей.

Это радикальный разрыв с прошлым Facebook. Они с гордостью и неоднократно заявляли о своей приверженности активному поиску контента и действий, которые угрожают детям. Фактически, к их чести, они продолжали сканирование на предмет признаков людей, которые могут совершить членовредительство или совершить самоубийство. Хотя то, как они соотносят это с тем, что они делают в отношении сексуального насилия над детьми, на мгновение ускользает от меня.

Кто мог быть против исследований? Не я. Но те же циники, о которых я упоминал ранее, не замедлили указать, что время публикации этого исследования действительно заставляет задуматься, было ли оно сделано из самых чистых побуждений. Паузали ли люди, которые на самом деле выполняли эту работу или решали, когда публиковать публикацию, чтобы задуматься, не манипулируют ли ими?

Сюрприз

Первое из двух исследований показало, что в октябре и ноябре 2020 года 90% всего контента, найденного на их платформе и переданного в NCMEC, касалось материала, который был идентичен или очень похож на ранее опубликованный материал.

Те из нас, кто долгое время работал в этой области, могут быть удивлены, что этот показатель составляет всего 90%. Я всегда понимал, что процент повторов будет на очень высоком уровне 90-х. Высокий процент показывает, что проактивные инструменты делают свою работу. Вот почему так важно их дальнейшее использование, особенно для жертв, изображенных на изображениях. Тот факт, что изображение повторяется, только подчеркивает и увеличивает вред, причиненный ребенку. Конечно, это не уменьшает его.

Жертвы могут и должны утверждать их законное право на неприкосновенность частной жизни и человеческое достоинство. Они хотят, чтобы каждый экземпляр изображения исчез, независимо от того, сколько раз и где он появлялся.

Публикация номера вроде «Более 90%» без объяснения такого рода контекста может привести к тому, что плохо информированный наблюдатель, например, кто-то спешит с большим количеством статей, которые нужно прочитать, задуматься о том, из-за чего весь этот шум?

Обратите внимание, что в отчете NCMEC говорится о получении отчетов о 10.4 млн. созданного изображений. Это конкретно отличает их от повторов. Именно на повторения, которые, как нас просят, составляют 90% полезной нагрузки исследования Facebook.

Более потенциально вводящие в заблуждение впечатления

В том же блоге и со ссылкой на то же исследование Facebook сообщает нам: «только шесть »видео были ответственны за больше половины" всех отчетов, которые они сделали NCMEC. Помимо предположений о том, сколько видео составило вторую половину, очевиден вопрос: "А что вы хотите сказать?"  

Я предполагаю, что в умах занятых людей останется "шесть".  Шесть и 90%. Заголовки чисел. Следите за их повторением, ну, вы знаете, кем.

Второе исследование

Взяв другой период времени (почему?), Июль-август 2020 года и январь 2021 года, и другую, гораздо меньшую когорту (всего 150 учетных записей), нам говорят о людях, которые загрузили csam, о котором было сообщено в NCMEC. 75% сделал это без видимого "злой умысел".  Напротив, исследование предполагает, что лица, совершившие преступление по загрузке CSAM, действовали из «Чувство возмущения» или потому что они думали, что это было забавно. 75%. Это еще один номер заголовка, который будет повторяться.

Может быть, где-то есть статья, объясняющая, как Facebook пришел к выводу, что не было "злой умысел". Я не могу найти это. Но нетрудно оценить чистый эффект различных корыстных своевременных маневров Facebook.

Целевая аудитория - политики и журналисты

В настоящий момент Facebook хочет, чтобы люди - и под этим я имею в виду в основном политиков и журналистов - в Европе, США и других странах, начали думать, что проблема сексуального насилия над детьми в Интернете отличается от и намного меньше, чем они могли раньше полагать, и что в значительной степени это связано с (простительным?) человеческим идиотизмом.

Тем не менее, неизменная правда в том, что изображения должны исчезнуть. Это начало и конец. Если у нас есть средства избавиться от незаконных изображений детской боли и унижения, почему бы и нет? Почему вместо этого мы намеренно их скрывали? Деньги - единственный ответ, который я могу придумать, и этого недостаточно.

Плохие заменители

В третьей части того же блога Facebook рассказывает и о других вещах, которые планирует сделать. Они будут обращать внимание на явное отсутствие у людей хорошего вкуса в шутках или на их глупость.

Пока что они открыли два всплывающих окна. Браво. Facebook в любом случае должен их выпустить. Ни один из них не приблизился к тому, чтобы компенсировать свои планы по шифрованию. В любой другой сфере жизни, если бы группа людей объединилась, чтобы скрыть доказательства преступлений, я предполагаю, что они будут арестованы и обвинены в заговоре с целью воспрепятствовать отправлению правосудия.

Цифры Facebook в 2020 году

Результаты исследования Facebook оказались в середине списка в ЕС. Они были прямо против публикации новых номеров NCMEC.

В 2019 году NCMEC получила 16,836,694 15,884,511 94 отчета, из которых 2020 21.7 20,307,216 (93%) пришли с платформ, принадлежащих Facebook. В XNUMX году из XNUMX миллиона XNUMX XNUMX XNUMX пришли с различных платформ Facebook (XNUMX%).

Хотя я крайне критически отношусь к Facebook, мы не должны забывать о двух важных квалификациях. На сегодняшний день они являются самой большой платформой в пространстве социальных сетей. И мы знаем о них так много только потому, что есть данные. Это связано с тем, что их два основных приложения для обмена сообщениями, Messenger и Instagram Direct, (пока) не зашифрованы.

Поэтому вам нужно задаться вопросом, что происходит на других платформах обмена сообщениями, которые уже шифруют свои службы и поэтому не могут производить почти никаких данных. На самом деле, нам не нужно так сильно удивляться.

Взгляд за зашифрованной дверью

Прошлая пятница The Times  Как выяснилось, в 2020 году полиция Великобритании получила 24,000 сообщений от Facebook и Instagram. Но только 308 из WhatsApp. WhatsApp уже зашифрован.

Доступно 44.8 миллионов пользователей Великобритания занимает третье место в мире по количеству клиентов Facebook после Индии и США. У Instagram 24 миллиона пользователей в Великобритании. Очевидно, что, вероятно, будет большое совпадение с Facebook и его приложениями для обмена сообщениями и Instagram. У WhatsApp 27.6 миллиона пользователей в Великобритании.

Невозможно сказать какой номер в WhatsApp "должно было" - слишком много непредвиденных обстоятельств - но соотношение 308: 24,000 XNUMX выглядит немного неуместным. Во всяком случае, вы ожидаете, что трафик нелегальных изображений в WhatsApp будет больше именно потому, что он уже зашифрован. Подумай об этом.