Обяснено: Защо Apple забавя своя софтуер, който сканира за снимки на малтретиране на деца

Докато този ход се приветства от агенциите за закрила на детето, защитниците на дигиталната неприкосновеност на личния живот и колегите от индустрията, повдигат червени знамена, предполагайки, че технологията може да има широкообхватни последици върху поверителността на потребителите.

На тази файлова снимка логото на Apple е осветено в магазин в центъра на града в Мюнхен, Германия (AP)

След критики от защитници на поверителността и колеги от индустрията, Apple забави пускането на своя софтуер, който би откриване на снимки, изобразяващи насилие над деца на iPhones. Програмата беше обявена миналия месец и беше планирана за стартиране в САЩ по-късно тази година.

Какво представлява софтуерът на Apple и как би работил?

Apple миналия месец заяви, че ще пусне двустранен механизъм, който сканира снимки на своите устройства, за да провери за съдържание, което може да бъде класифицирано като материал за сексуално насилие над деца (CSAM). Като част от механизма, инструментът на Apple neuralMatch ще проверява за снимки, преди да бъдат качени в iCloud - неговата услуга за съхранение в облак - и ще изследва съдържанието на съобщенията, изпратени в неговото криптирано от край до край приложение iMessage. Приложението Messages ще използва машинно обучение на устройството, за да предупреждава за чувствително съдържание, като същевременно запазва частните комуникации нечетими от Apple, казаха от компанията.

neuralMatch сравнява снимките с база данни с изображения за малтретиране на деца и когато има флаг, служителите на Apple ще прегледат ръчно изображенията. След като бъде потвърдено за малтретиране на деца, Националният център за изчезнали и експлоатирани деца (NCMEC) в САЩ ще бъде уведомен.

Какви бяха опасенията?

Въпреки че този ход се приветства от агенциите за закрила на детето, защитниците на дигиталната неприкосновеност на личния живот и колегите от индустрията, повдигат червени знамена, предполагайки, че технологията може да има широкообхватни последици върху поверителността на потребителите. Смята се, че е почти невъзможно да се изгради система за сканиране от страна на клиента, която да се използва само за сексуално експлицитни изображения, изпратени или получени от деца, без такъв софтуер да бъде настроен за други цели. Съобщението отново постави прожекторите върху правителствата и правоприлагащите органи, които търсят задна врата към криптирани услуги. Уил Каткарт, ръководител на услугата за криптирани съобщения от край до край WhatsApp, каза: Това е изградена и управлявана от Apple система за наблюдение, която много лесно може да се използва за сканиране на частно съдържание за всичко, което те или правителство реши, че иска да контролира. Държавите, в които се продават iPhone, ще имат различни дефиниции за това какво е приемливо.

Защо Apple се отдръпна?

В изявление Apple каза, че ще отнеме повече време за събиране на обратна връзка и подобряване на предложените функции за безопасност на децата след критиките към системата по отношение на поверителността и други основания както вътре, така и извън компанията.

Въз основа на обратна връзка от клиенти, групи за застъпничество, изследователи и други, ние решихме да отделим допълнително време през следващите месеци, за да съберем информация и да направим подобрения, преди да пуснем тези критично важни функции за безопасност на децата, се казва в него.

Според Reuters Apple е играла в защита на плана от седмици и вече е предложила серия от обяснения и документи, за да покаже, че рисковете от фалшиви разкривания са ниски.

бюлетин| Кликнете, за да получите най-добрите обяснения за деня във входящата си кутия

Споделете С Приятелите Си: