Это гостевой пост от Джона Карра, ведущего британского мыслителя по удалению изображений жестокого обращения с детьми из Интернета. Оригинальный блог о расследованиях New York Times появился на сайте John's Desiderata. сайте, Мы показали другие недавние блоги от Джона здесь здесь и здесь.
В сентябре New York Times выпустила первый в серии статей в котором они сосредоточились на реакции интернет-индустрии на взрывной рост выявления онлайн-материалов о сексуальном насилии над детьми (CSAM).
Они начали со статистики, предоставленной НЦИЭД. В 1998 г. было получено 3,000 2018 сообщений о csam. В 18.4 году было 45 миллиона отчетов, в которых упоминалось XNUMX миллионов фотографий и видео csam.
Нам сообщили в более поздняя статья в 2013 г. было зарегистрировано менее 50,000 2018 видео в формате CSAM. В 22 году это было до XNUMX миллионов. Видео было основной областью роста. В Канадский центр защиты детей и Великобритании Фонд "Интернет-часы" были свидетелями аналогичных уровней роста.
Несмотря на то, что эти цифры шокируют, вероятно, они демонстрируют просто упреждающее развертывание и эффективность инструментов, используемых для обнаружения csam сравнительно небольшим числом интернет-компаний.
Однако статьи New York Times в основном показали неадекватность реакции всей интернет-индустрии и, действительно, неадекватность реакции некоторых ведущих игроков отрасли. Нас повели по садовой дорожке.
Если бы безопасность детей была действительно встроенный в культуре компанииподобные истории, опубликованные в New York Times, были бы просто невозможны. Тем не менее, они появляются в течение многих лет, если никогда раньше, с такими криминалистическими подробностями.
Технологическая Коалиция
В 2006 г. Технологическая Коалиция было установлено. Вот его заявленная миссия
Наше видение заключается в искоренении сексуальной эксплуатации детей в Интернете. Мы инвестировали в сотрудничество и обмен опытом друг с другом, потому что мы понимаем, что у нас одни и те же цели и мы сталкиваемся со многими одинаковыми проблемами.
Это стандартная рубрика. Вы слышите это все время. От всех. Это неправда.
Дети, совершающие насилие, буйствуют, поскольку технологические компании смотрят в другую сторону
Это был заголовок для второго гайд в серии New York Times. Это полностью разрушает фасад энергичного, целенаправленного коллективного промышленного стремления избавиться от csam из Интернета.
Вот некоторые выдержки из этого произведения:
У компаний есть технические инструменты, позволяющие остановить рециркуляцию изображений злоупотреблений путем сопоставления вновь обнаруженных изображений с базами данных материала. Тем не менее, отрасль не в полной мере использует преимущества инструментов.
Конкретно нам сказали
Крупнейшая социальная сеть в мире, Facebook, тщательно сканирует свои платформы, составляя более 90 процентов изображений, отмеченных техническими компаниями в прошлом году, но компания не использует все доступные базы данных для обнаружения материала… .. (Курсив добавлен).
Apple не сканирует свое облачное хранилище…. и шифрует свое приложение для обмена сообщениями, сделать обнаружение практически невозможным. Dropbox, Google и потребительские продукты Microsoft сканируют нелегальные изображения, но только тогда, когда кто-то делится ими, а не когда они загружаются.
… Другие компании, в том числе…. Yahoo (принадлежит Verizon) ищет фотографии, но не видео, даже несмотря на то, что незаконный видеоконтент растет уже много лет.
Согласно раз
Нет единого списка хэшей изображений и видео, которые могут использовать все соответствующие компании.
Google и Facebook разработали инструменты для обнаружения видео csam, которые отличаются и несовместимы. План создания процесса для обмена видео «Отпечатки пальцев» (хэши для ускорения обнаружения), похоже, ушел в никуда.
Есть больше
Технологические компании с гораздо большей вероятностью будут просматривать фотографии, видео и другие файлы на своих платформах на предмет…. обнаружение вредоносных программ и соблюдение авторских прав. Но некоторые компании говорят, что поиск оскорбительного контента - это другое дело, потому что это может вызвать серьезные проблемы с конфиденциальностью.
Amazon, которая, по общему признанию, не является членом технологической коалиции, но является крупнейшим в мире поставщиком облачных сервисов, сканирует ничего.
Представитель Amazon…. сказал, что «конфиденциальность данных клиентов имеет решающее значение для завоевания доверия наших клиентов» …… Microsoft Azure также заявила, что не сканирует материалы, ссылаясь на аналогичные причины.
В какой-то момент будет интересно разобрать, что «Доверие клиентов» действительно значит.
И мы все это знаем, потому что ...
Как мы узнали обо всем этом? Появился ли он в результате открытых заявлений технологических компаний? Очевидно нет. После тщательного анализа специальной группой ученых? Нет. Была ли раскрыта правда правоохранительным органом, НПО или правительственным учреждением, которые в конечном итоге решили, что омерта не отвечает общественным интересам? Нет.
Мы получили это понимание, потому что руководство «Нью-Йорк Таймс» решило предоставить двум журналистам, Майклу Келлеру и Габриэлю Дэнсу, пространство и ресурсы для продолжения очевидной важной истории.
Я впервые встретился с этими парнями в офисе New York Times в прошлый понедельник, но сначала поговорил с ними в июне. Они занимались расследованием csam с февраля, летали (буквально), разговаривали с множеством людей, собирали информацию из записей и из источников.
Это было гигантское усилие, которое произвело соответствующий фурор на первой странице газеты. Кажется, это дает желаемый эффект.
Письмо от пяти сенаторов
Одно из непосредственных следствий статей New York Times появилось на прошлой неделе, когда пять американских сенаторов (два демократа, три республиканца) писал впечатляюще подробное письмо до тридцати шести технологических компаний. Они включают в себя всех членов Технологической коалиции и многое другое. Сенаторы хотят получить ответы к 4th декабря.
Посмотрим, как отреагируют компании. В письме есть все нужные вопросы. Именно они должны отвечать по закону от технологических компаний. Будем надеяться, что по окончании выборов в Великобритании мы сможем быстро приступить к созданию сильного регулирующего органа, который сможет задавать им вопросы, будучи уверенными, что они получат правдивые ответы. Любые колебания или отказ компаний США ответить на письмо сенаторов только усилят здесь ощущение срочности.
Нью-Йорк Таймс помогла детям во всем мире
Дети во всем мире многим обязаны Келлеру и Дэнсу, а также их боссам, но скандально не хватает того, что взорвалась газета. Где находится орган общественных интересов, у которого есть ресурсы и возможность последовательно отслеживать и отчитываться по таким вопросам? Это не существует. Должно.
Я целую вечность доказывал, что нам нужна Глобальная обсерватория, помимо прочего, чтобы регулярно делать то, что New York Times делала как единичный случай. Где-то должно быть должным образом обеспеченное ресурсами независимое агентство, в основе которого лежат интересы детей и высокотехнологичные отрасли. Но такое тело должно быть устойчивым с течением времени. Это большая и дорогая вещь, но я собираюсь сделать еще одну попытку.
