Центр Бреннана получает документы Закона о свободе информации о проекте DHS «Ночная ярость»
18 марта 2022 года Центр Бреннана подал запрос в соответствии с Законом о свободе информации в Министерство внутренней безопасности (DHS) и Управление науки и технологий DHS для получения информации о Проект «Ночная ярость», который проводился Технологическим центром анализа данных под контролем Управления науки и техники дирекции. По нашему запросу мы запросили документы, включая контракты, сообщения, исследовательские продукты, а также материалы для обучения и соблюдения требований, относящиеся к проекту «Ночная ярость».
То немногое, что есть в открытом доступе о Night Fury, было раскрыто в отчете генерального инспектора DHS, опубликованном 7 марта 2022 года. Расследование генерального инспектора началось после того, как офис получил сообщение о потенциальных нарушениях конфиденциальности, касающихся Night Fury, которые начались в сентябре. 2018 года и стоил почти 790 000 долларов США.
Согласно отчету генерального инспектора, Управление науки и техники намеревалось использовать «Ночную ярость» для разработки возможностей «выявления потенциальных рисков терроризма» в социальных сетях и других платформах с открытым исходным кодом. В рамках проекта офис заключил контракт с университетом (теперь выяснилось, что это Алабамский университет в Бирмингеме) на сбор данных из социальных сетей. В жалобе генеральному инспектору утверждалось, что проект «специально включал сбор данных миллионов записей в социальных сетях, включая сообщения, видео и фотографии». Хотя в отчете не содержится дополнительной информации о Night Fury, в нем было обнаружено, что Управление по науке и технологиям не всегда соблюдает руководящие принципы и политики, регулирующие требования к конфиденциальности и конфиденциальной информации в своих проектах исследований и разработок.
Прочитайте запрос FOIA здесь.
Предоставленные документы
В ответ на наш запрос DHS подготовило два контракта с Алабамским университетом в Бирмингеме: первоначальный контракт от 21 сентября 2018 г.
и продленный с 27 августа 2019 г. по 23 декабря 2021 г. стоимость отредактирована, правительственный веб-сайт государственных контрактов показывает, что они составили почти 790 000 долларов. DHS также подготовил три версии анализа порога конфиденциальности для проекта, хотя ни одна из них не датирована, и неясно, какая версия является окончательной. Сотрудники DHS проводят анализ порога конфиденциальности, чтобы определить, как новая или расширенная программа или система может повлиять на конфиденциальность; Затем отдел конфиденциальности DHS просматривает анализ, чтобы определить, требуется ли дополнительная документация по соблюдению требований. Ни один из проведенных анализов не содержал комментариев Управления по вопросам конфиденциальности, хотя в отчете генерального инспектора указано, что Управление получило его.
Согласно полученным нами контрактам, основной целью Night Fury была разработка новых методов автоматического анализа информации из социальных сетей для расширения существующих возможностей DHS.
Хотя проект в первую очередь был направлен на обнаружение сетей «протеррористических» учетных записей и групп в Интернете, DHS также рассматривало возможность расширения масштабов проекта, включив в него незаконный оборот наркотиков, контрабанду людей и другие темы. Согласно одному из анализов конфиденциальности, DHS предполагал, что возможности, разработанные с помощью Night Fury, будут развиваться в течение трех поэтапных этапов с сентября 2018 года по сентябрь 2021 года, что в конечном итоге будет направлено на их развертывание в отделе или их коммерциализацию. Однако, похоже, что DHS закрыло проект в 2020 году, так и не выпустив окончательный исследовательский продукт.
Задачи Night Fury делятся на три основные категории. Первый включал выявление и отслеживание «террористической пропаганды» и «протеррористических» учетных записей в Facebook, Twitter, онлайн-форумах и «меньших сообществах социальных сетей», таких как Telegram и VK (основная платформа социальных сетей России), на основе неопределенных критериев.
Университет Алабамы в Бирмингеме и DHS планировали работать вместе, чтобы «определить соответствующие атрибуты», которые будут идентифицировать учетные записи и группы Facebook как «протеррористические», ранжируя их или присваивая им «оценку риска». Университет также согласился разработать методы, позволяющие решить, следует ли считать учетную запись Twitter, которая «связана с подтвержденной протеррористической учетной записью в социальной сети», протеррористической, с использованием таких критериев, как «сравнение наборов ключевых слов». Эти задачи будут полностью автоматизированы с очевидной целью свести к минимуму любое вмешательство человека, несмотря на исследования, демонстрирующие ограничения алгоритмического анализа контента социальных сетей. В ходе проекта университет составит список учетных записей, обнаруженных им в Facebook и Twitter, вместе с их сообщениями и другими соответствующими данными, и передаст эти данные в DHS. Контракты также предписывали университету создавать модели для «выявления ключевых влиятельных лиц протеррористической мысли», чьи сообщения распространяются на различных форумах и платформах социальных сетей.
Эти директивы DHS вызывают массу опасений. Хотя одной из основных задач Университета Алабамы было выявление «протеррористических» счетов, в контракте не содержится определения этого термина, что наделяет как университет, так и DHS значительной свободой действий в определении атрибутов, оправдывающих такое определение. Также нет явных параметров того, что могло бы кого-то «связать» с таким протеррористическим аккаунтом. Связанные учетные записи потенциально могут включать людей, которые далеки от рассматриваемой учетной записи, или тех, чьи взаимодействия были ограничены одним случаем, например, «лайкнуть» публикацию в Facebook или ретвитнуть твит. Контракт также не объясняет и не определяет, что будет измерять «оценка риска» — будь то риск стать террористом, сторонником терроризма, совершить насильственный акт или что-то еще — и не объясняет, как будет осуществляться автоматический анализ социальных сетей. подходящий инструмент для принятия такого решения. Акцент на автоматизации напоминает отвергнутое предложение администрации Трампа, Инициативу экстремальной проверки, которая использовала бы автоматизированные средства для сканирования открытого Интернета, включая социальные сети, чтобы определить, какие заявители на иммиграционные визы представляют риск совершения преступления или террориста.
В рамках системы, разработанной Проектом «Ночная ярость», представляется, что пользователи социальных сетей могут быть помечены как представляющие угрозу при отсутствии каких-либо доказательств преступной деятельности или планирования или на основании неправильного толкования безобидного поведения. Учитывая многолетнюю историю дискриминационного наблюдения со стороны DHS и других государственных органов, в том числе за социальными сетями, существует острый риск того, что характеристики, считающиеся релевантными, непропорционально окажутся среди представителей меньшинств, особенно мусульман, о чем также предупреждали организации гражданского общества в случай с Инициативой экстремальной проверки. Действительно, несмотря на то, что в договоре обычно нечетко упоминаются «протеррористические» угрозы, одним из результатов является «отчетность о проджихадистских учетных записях в Твиттере и связанных с ними данных и статистики», подчеркивая вероятный акцент на пользователях-мусульманах (а также широко распространенное непонимание термин «джихад»).
Вторая категория задач заключалась в разработке способов определения местоположения пользователей, не полагаясь на доступные метаданные о местоположении. Потенциальные методы для этого включали использование ключевых слов и хэштегов — предположительно для поиска других подсказок к местоположению — а также «учетные записи влиятельных лиц с подтвержденным местоположением», которые могут относиться к учетным записям в социальных сетях, чьи подписчики, как правило, ограничены определенным местом, например как местный мэр. В рамках этого процесса университет должен был разработать методы классификации языка владельца аккаунта и, соответственно, его «вероятного региона».
DHS также указало, что оно может определить «регионы, представляющие особый интерес» для университета, чтобы сосредоточиться на разработке возможности определения местоположения, поднимая вопросы о том, на какие регионы он хочет ориентироваться и какие прокси-характеристики могут использоваться для определения того, кто находится в этих регионах.
Наконец, Университет Алабамы согласился работать над созданием автоматизированных инструментов для определения того, является ли конкретная учетная запись в социальной сети ботом, «программно созданным для оказания влияния» на распространение «террористической пропаганды». Он также предназначался для обнаружения кампаний по иностранному влиянию. Хотя в контракте не указано, какие методы предполагается разработать в университете, DHS включил в него «промежуточные методы», которые включают оценку соотношения «твиты: друзья: подписчики: лайки», которое «статистически маловероятно».
Для всех этих видов деятельности в контракте лишь вскользь упоминается защита частной жизни, гражданских прав и гражданских свобод и не устанавливаются гарантии, гарантирующие, что деятельность проекта не ущемляет конституционные права американцев.