Начиная с обновления iOS 15, которое выйдет в этом году, все iPhone и iPad будут осуществлять сканирование устройств на предмет откровенных детских фотографий, а также проверять загрузки iCloud на наличие материалов о сексуальном насилии над детьми ещё до того, как изображения покинут устройство. Это стало возможным благодаря небольшой инициативной группе обеспокоенных родителей и поборников безопасности детей и несовершеннолетних.
Подобная новость вызвала удивление, а в некоторых случаях и негодование, как среди обычных пользователей продукции Apple, так и среди специалистов в области кибербезопасности.
Заявленная цель нововведения на первый взгляд проста: пресечь распространение материалов о сексуальном насилии над детьми и распространение откровенных фотографий несовершеннолетних.
Однако на практике, подобные благие намерения технологического гиганта могут привести к серьёзным нарушениям неприкосновенности личности и утечкам персональных данных. Давайте попробуем разобраться, почему это происходит.
Что хочет сделать Apple?
Новость о том, что Apple внедряет новые функции «безопасности детей» в обновлениях своих операционных систем появилась 5 августа 2021 года. Пока что нововведение коснётся не всех пользователей iPhone, и в ближайшем будущем оно будет работать только в Соединённых Штатах. Однако, если «эксперимент» будет признан удачным, «безопасность детей» будет распространена и на пользователей других стран, в том числе из России и стран СНГ.
Первое изменение в работе устройств Apple касается функции сообщений, которая сможет сканировать входящие и исходящие вложения с фотографиями, чтобы идентифицировать «откровенные сексуальные» фотографии. Если функция включена и фотография помечена как явно представляющая угрозу для безопасности детей, Apple отправит пользователю быстрое предупреждение о рисках и спросит, действительно ли они хотят увидеть или отправить фотографию.
Если пользователю меньше 13 лет, они будут предупреждены о том, что решение продолжить означает, что их родители будут уведомлены об их действиях. Дети старше 13 лет по-прежнему получают предупреждения, но их родители не будут уведомлены, независимо от того, какой сценарий они выберут.
Второе обновление включает сканирование всех фотографий пользователей на предмет известных материалов о сексуальном насилии над детьми. Если кто-либо использует хранилище iCloud Apple с целью распространения откровенных и запрещённых фото, Apple оставляет за собой право закрыть соответствующую учётную запись iCloud и отправить отчёт об этом в правоохранительные органы.
Последняя функция связана с Siri, «умным» голосовым помощником Apple, и функцией поиска в iOS. Люди, использующие Siri для поиска откровенных изображений, вместо этого найдут информацию о том, почему контент вреден, а также ресурсы для получения психологической помощи. Странное решение, не правда ли?
Как работает новый «умный» сканер контента от Apple?
Чтобы фотография была классифицирована как «представляющая угрозу для безопасности детей», она должна появиться в базе данных NCMEC (специальной службы разрешённого контента в США) или в соответствующей национальной службе другой страны.
Если фотография на Вашем телефоне совпадает с фотографией в базе данных спецслужб, Ваш телефон прикрепит к файлу «ваучер безопасности» при его загрузке в iCloud. Специальный алгоритм Apple посмотрит соответствующие фотографии, отправленные Вашим телефоном, и определит, действительно ли это материалы о жестоком обращении с детьми. Затем Apple уведомит NCMEC, который, в свою очередь, уведомит власти США.
Что касается сканирования фотографий в сообщениях, Apple заявляет, что будет использовать искусственный интеллект, который может отличать явные изображения от тех, которые таковыми не являются. Этот ИИ будет работать прямо на смартфоне или iPad Вашего ребёнка, и все сообщения о появлении запрещённого контента на устройстве будут напрямую отправляться Вам, то есть его родителям.
Многие задаются вопросами: «а чем была плоха старая функция родительского контроля?», «зачем чинить то, что не сломано?» и «не удобнее было бы использовать сторонние программы для ограничения откровенного контента?». Что же, данные вопросы вполне резонны. Так, большинство разработчиков виртуальных частных сетей уже давно разрабатывают данную функцию в своих решениях. Более того, борьба с угрозами безопасности с помощью выделенных IP VPN давно стала «золотым стандартом» в сфере ограничения воздействия на детей откровенного контента.
Чем объясняется желание Apple создавать своё, новое решение и изобретать никому не нужный «велосипед» пока не понятно.
Почему люди беспокоятся о сканировании фотографий в сообщениях?
Безусловно, сканирование сообщений может помочь предотвратить получение детьми доступа к откровенному контенту. Однако наличие в данной системе алгоритма машинного обучения, сканирующего каждую входящую и исходящую фотографию, нарушает требования о сквозном зашифрованном обмене сообщениями, которые были созданы самой компанией Apple. Получается, что разработчики iPhone и iPad, выпуская обновления для своих устройств, противоречат своим же стандартам!
Любой разумный человек не против борьбы с сексуальным насилием над детьми и распространением среди несовершеннолетних откровенного контента. Это факт. Но то, как предлагает делать это Apple не выдерживает никакой критики.
Дело в том, что подобный алгоритм отслеживания может стать причиной многочисленных злоупотреблений. Так, авторитарные правительства могут оказать давление на Apple и получить доступ к аккаунтам оппозиции и противников действующего политического режима. Иными словами, функция «безопасность детей» на новых iPhone и iPad может стать эффективных инструментом шантажа в неправильных руках.
