Перейти к содержанию
Авторизация  
Ippolitovich

Facebook рассказала, как борется с террористическим контентом


Рекомендуемые сообщения

В июне прошлого года Facebook начала использовать искусственный интеллект для поиска террористического контента. В ноябре компания заявила, что с помощью ИИ удалила почти весь контент, связанный с ИГИЛ и Аль-Каидой (деятельность группировок запрещена в России) ещё до обнаружения его пользователями. Теперь Facebook раскрыла новые подробности борьбы с проявлениями терроризма в социальной сети.

 

sm.ground-zero-81886_1280.750.jpg


В понимании Facebook террористы — «любая неправительственная организация, которая производит преднамеренные акты насилия в отношении лиц или имущества для запугивания гражданского населения, правительства или международных организаций с целью достижения политической, религиозной или идеологической цели». Компания отметила, что в борьбе с террористическим контентом важную роль сыграли не только компьютерные алгоритмы, но и специализированная команда, которая с июня выросла со 150 до 200 человек.

В первом квартале 2018 года компания предприняла меры по отношению к 1,9 млн элементов террористических материалов, что в два раза больше, чем в последнем квартале прошлого года. 99 % этого контента было обнаружено без вмешательства пользователей.

 

Terrorist.jpg


Новый контент Facebook обнаруживала в среднем менее чем за минуту. Но компания с помощью специальных средств ищет и старое содержимое. В первом квартале этого года таким образом было удалено 600 тысяч элементов контента.

«Мы не думаем, что работа закончена и что того, чего мы достигли, достаточно, — заявила компания. — Террористические группировки всегда пытаются обойти наши системы, поэтому мы должны постоянно совершенствоваться. Исследователи и наши собственные сотрудники постоянно находят материалы, которые наши технологии упускают. Но мы учимся на каждой ошибке, экспериментируем с новыми методами обнаружения и стараемся охватывать как можно больше террористических группировок».

Поделиться сообщением


Ссылка на сообщение

Для публикации сообщений создайте учётную запись или авторизуйтесь

Вы должны быть пользователем, чтобы оставить комментарий

Создать учетную запись

Зарегистрируйте новую учётную запись в нашем сообществе. Это очень просто!

Регистрация нового пользователя

Войти

Уже есть аккаунт? Войти в систему.

Войти
Авторизация  

  • Похожий контент

    • От Ippolitovich
      Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) намерена в следующем квартале организовать проверки социальной сети Facebook и сервиса микроблогов Twitter.
       


      Речь, как сообщает «Интерфакс», идёт о выявлении возможных нарушений закона о хранении персональных данных россиян на серверах в РФ. Соответствующие требования вступили в силу ещё в 2015 году, однако некоторые компании до сих пор их не выполняют.
      О намерении провести проверки названных интернет-компаний сообщил руководитель Роскомнадзора Александр Жаров, выступая во вторник, 18 сентября, в Сочи (Роза Хутор) на форуме «Спектр-2018».
       


      «Они [Twitter] написали нам письмо за подписью одного из вице-президентов компании, где было сказано, что во второй половине 2018 года компания Twitter локализует базы данных российских граждан на территории РФ. Вот истечёт второе полугодие, я поставил себе срок 15 декабря, и напишу письмо: "Скажите, где они хранятся, эти данные?" Это, по сути, начало проверки Twitter... То же самое сделаю по отношении к Facebook», — сообщил господин Жаров.
      Если выяснится, что Twitter и Facebook до сих пор не перенесли персональные данные российских пользователей на сервера в нашей стране, доступ к ресурсам может быть ограничен. 
    • От Ippolitovich
      Компания Facebook продолжает работу по созданию системы проверки правдивости данных. Ранее уже был представлен алгоритм Rozetta, который позволит выявлять оскорбительные мемы, но компания идёт дальше.
       


      Сообщается, что в Facebook разработали и уже запустили в работу модель машинного обучения для проверки на «фейковость» фото и видеоматериалов. Система определяет дезинформацию на первом этапе, используя  анализ метаданных, геометок и других сведений. Затем данные отправляются на обработку 27 партнёрам компании в 17 странах, которые специализируются на факт-чекинге. 
      Техническая сторона проекта основана на уже известных аспектах, которые позволяют специалистам определять фейки. К примеру, это поиск исходного изображения, анализ метаданных и так далее. Для работы используется оптическое распознавание символов (OCR) для извлечения текста из фотографий и сравнение их с заголовками статей в других источниках.
       


      Также в компании заявили, что разрабатывают ещё более изощрённые средства обнаружения и выявления фейков, хотя и не уточнили, как они должны работать. Известны лишь направления: созданные с помощью монтажа заведомо манипулятивные фото и видео; зависимые от контекста и содержащие рекламу или иные вставки. Представители Facebook отмечают, что борьба с дезинформацией и фейками — проект с долгосрочной перспективой. Хотя, разумеется, есть и тактические решения, которые работают здесь и сейчас.
       


      Отметим, что Facebook развернула широкомасштабные «военные действия» против фейков после того, как социальную сеть обвинили в манипуляциях мнениями и «вбросах» информации на выборах президента США Дональда Трампа. Владелец компании Марк Цукерберг вынужден был объясняться в Сенате. Всё это привело к запуску системы по контролю и распознаванию фейков, поскольку предыдущая система на основе только модераторов показала свою неэффективность.
       
    • От Ippolitovich
      Одной из проблем для социальных сетей является сложность контроля за контентом. Ни один человек не в состоянии обработать слишком большой объём данных, проанализировать их и определить, что является оскорбительным, а что — нет. Да, ненормативную лексику определить легко, а вот если информация подана так, что может оскорбить только определённую категорию людей — всё становится сложнее.
       


      И потому разработчики из Facebook представили нейросеть Rosetta, которая способна распознавать изображения с текстом. Она должна помочь модераторам социальной сети улучшить борьбу со спамом, оскорбительным контентом, социально неприемлемыми мемами и так далее.
      В основе системы лежит фирменная технология распознавания изображений, созданная в 2015 году. Она умеет обнаруживать зоны с текстом внутри картинок. После этого символы распознаются и транскрибируются. Пока что Rosetta поддерживает несколько языков на основе латиницы, причём она умеет обрабатывать изображения и кадры из роликов. Как отмечают разработчики, система может «прогонять» через себя до миллиарда изображений в день.
       


      Ранее, 22 августа, социальная сеть Facebook ввела систему оценки репутации пользователей, которая определяет степень благонадежности аккаунтов по специальной шкале. Это было сделано для борьбы с фейковыми новостями.
      А до этого разработчики компании представили инструмент на базе ИИ, который решает главную проблему фото — открывает закрытые глаза людей на снимках. Таким образом, компания всё больше внедряет ИИ-инструменты в свою систему. Однако остаётся вопрос, насколько качественной будет их работа и не помешает ли она обычным пользователям Сети. Ведь, по сути, ИИ обучается на человеческих примерах, а значит, в теории, его можно обучить всему. К слову, ранее Facebook признала «Декларацию независимости США» документом, разжигающим ненависть. Хотя затем извинилась.
    • От Ippolitovich
      Министерство финансов Германии опровергло сообщения СМИ о том, что глава ведомства Олаф Шольц (Olaf Scholz) отказался от планов заставить интернет-гигантов, в том числе Google, Facebook и Amazon, платить больше налогов.
       


      «Пока ещё министром или министерством не было принято решение по поводу каких-либо инструментов», — сообщил представитель министерства финансов Германии в ответ на просьбу прокомментировать сообщение в СМИ.
      Дело в том, что одна из самых популярных газет Германии Bild, ссылаясь на конфиденциальный документ министерства финансов, сообщила, что «демонизация крупных цифровых компаний» была «не продуктивной» и что Шольц отказался от планов по ужесточению налогообложения крупных интернет-компаний.
      «Дискуссия по-прежнему продолжается, также среди министров финансов стран Европы и G7 / G20. Федеральное правительство по-прежнему стремится обеспечить справедливое налогообложение интернет-компаний», — подчеркнул представитель министерства финансов.
    • От душман
      Компания Facebook сообщила в четверг о планах направить более $1 млрд в строительство своего первого центра обработки данных в Азии, который будет расположен в Сингапуре.
      ЦОД Facebook будет построен на западе острова, невдалеке от дата-центров Google, инвестировавшей в их расширение $850 млн в связи с ростом в регионе спроса на мобильные услуги, электронную коммерцию и облачные вычисления.
      «Это будет наш первый центр обработки данных в Азии», — заявил Томас Фарлонг, вице-президент Facebook по инфраструктуре ЦОД, на пресс-конференции с местными властями в Сингапуре. Он сообщил, что объект должен быть открыт в 2022 году, хотя всё будет зависеть от скорости строительства.
      В вышедшем по этому поводу заявлении Facebook указано, что в строительство объекта площадью 170 тыс. м2 будет инвестировано более 1,4 млрд сингапурских долларов ($1 млрд), что позволит создать сотни новых рабочих мест в регионе.
      У Facebook есть несколько ЦОД в Соединенных Штатах, а также в Ирландии и Швеции. Сейчас компания занимается строительством ЦОД в Дании. «Центр обработки данных не привязан территориально к стране, где находятся пользователи.Это динамический процесс», — отметил Фарлонг.
×