Перейти к содержанию
Авторизация  
Ippolitovich

Facebook рассказала, как борется с террористическим контентом


Рекомендуемые сообщения

В июне прошлого года Facebook начала использовать искусственный интеллект для поиска террористического контента. В ноябре компания заявила, что с помощью ИИ удалила почти весь контент, связанный с ИГИЛ и Аль-Каидой (деятельность группировок запрещена в России) ещё до обнаружения его пользователями. Теперь Facebook раскрыла новые подробности борьбы с проявлениями терроризма в социальной сети.

 

sm.ground-zero-81886_1280.750.jpg


В понимании Facebook террористы — «любая неправительственная организация, которая производит преднамеренные акты насилия в отношении лиц или имущества для запугивания гражданского населения, правительства или международных организаций с целью достижения политической, религиозной или идеологической цели». Компания отметила, что в борьбе с террористическим контентом важную роль сыграли не только компьютерные алгоритмы, но и специализированная команда, которая с июня выросла со 150 до 200 человек.

В первом квартале 2018 года компания предприняла меры по отношению к 1,9 млн элементов террористических материалов, что в два раза больше, чем в последнем квартале прошлого года. 99 % этого контента было обнаружено без вмешательства пользователей.

 

Terrorist.jpg


Новый контент Facebook обнаруживала в среднем менее чем за минуту. Но компания с помощью специальных средств ищет и старое содержимое. В первом квартале этого года таким образом было удалено 600 тысяч элементов контента.

«Мы не думаем, что работа закончена и что того, чего мы достигли, достаточно, — заявила компания. — Террористические группировки всегда пытаются обойти наши системы, поэтому мы должны постоянно совершенствоваться. Исследователи и наши собственные сотрудники постоянно находят материалы, которые наши технологии упускают. Но мы учимся на каждой ошибке, экспериментируем с новыми методами обнаружения и стараемся охватывать как можно больше террористических группировок».

Поделиться сообщением


Ссылка на сообщение

Для публикации сообщений создайте учётную запись или авторизуйтесь

Вы должны быть пользователем, чтобы оставить комментарий

Создать учетную запись

Зарегистрируйте новую учётную запись в нашем сообществе. Это очень просто!

Регистрация нового пользователя

Войти

Уже есть аккаунт? Войти в систему.

Войти
Авторизация  

  • Похожий контент

    • От Ippolitovich
      Facebook ещё раз продемонстрировала, что, как и Apple, Google и Amazon, серьёзно настроена на создание собственных полупроводников. Социальный гигант принял на должность вице-президента Шахрияра Рабии (Shahriar Rabii). Ранее он работал в Google, где возглавлял разработку чипов для устройств компании, в том числе сопроцессора Visual Core для смартфонов Pixel. В Facebook он встал под руководство Эндрю Босворта (Andrew Bosworth), главы отдела виртуальной и дополненной реальности. Представители обеих компаний новость никак не прокомментировали.
       


      Google разрабатывает всё больше чипов для своих новых устройств. В этом году поисковый гигант планирует выпустить новые смартфоны Pixel с улучшенными камерами. Более крупная модель, предположительно, будет иметь безрамочный дизайн.
      В последнее время технологические компании стараются обеспечивать себя полупроводниками самостоятельно, а не закупать их у таких производителей, как Intel и Qualcomm. Apple начала выпускать собственные процессоры для iPhone и iPad ещё в 2010 году, а также создала целый ряд чипов для управления Bluetooth, фотографирования и выполнения задач на базе машинного обучения. К 2020 году купертинский гигант хочет начать выпускать компьютеры Mac с собственными центральными процессорами.
       


      Такие подразделения Facebook, как Oculus и Building 8, разрабатывают несколько устройств. В этом году компания выпустила самостоятельный шлем виртуальной реальности Oculus Go с мобильным чипом Qualcomm. Также социальный гигант работает над первыми устройствами под брендом Facebook: серией «умных» колонок с большими сенсорными экранами, которые можно использовать для видеосвязи.
      Последующие поколения этих устройств могут быть усовершенствованы благодаря собственным процессорам. С последними Facebook сможет лучше контролировать разработку и интегрировать аппаратные и программные продукты. Также такие чипы могут помочь компании в области искусственного интеллекта.
    • От Ippolitovich
      Обычно искусственный интеллект не очень хорошо справляется с использованием новой информации для лучшего понимания имеющейся. Facebook попыталась решить эту проблему необычным способом: она отправила ИИ на виртуальную прогулку.
      Компания провела эксперимент, в рамках которого отправила «бота-туриста» исследовать 360-градусные изображения Адской кухни, одного из районов Нью-Йорка. В помощь ему был предоставлен «бот-гид», использовавший двухмерные карты. Первый должен был описывать, где он находится, по тому, что видит, а второй сообщал ему, куда двигаться дальше.
       


      Проект был направлен на сбор информации посредством простого человеческого языка — например, бот мог использовать фразу «передо мной находится магазин Brooks Brothers». Но в ходе эксперимента исследователи выяснили, что боты работают эффективнее, если используют для общения своего рода синтетический язык, состоящий из символов. Другими словами, для того, чтобы помочь человеку найти нужную гостиницу, искусственный интеллект должен использовать другой язык, нежели для взаимодействия, скажем, с самоуправляемым автомобилем.
       


      Исследование также помогло ИИ разобраться в визуально сложном городском окружении. Специальная система быстро анализировала наиболее подходящие слова в ответах ботов, чтобы они могли точнее сообщать, где находятся и куда должны двигаться дальше.
      Этот проект может улучшить ИИ в целом, а не только помочь создать продвинутый навигационный продукт. Например, самоуправляемым автомобилям и заблудившимся людям было бы проще находить дорогу, не имея доступа к GPS.
    • От Garts
      Просьба поэтапно пояснить как изменить настройки в ресивере Gi s8120 при смене сервера. Логин: 1bc2206.
    • От Ippolitovich
      Принадлежащий Facebook мессенджер WhatsApp недавно начал помечать пересланные сообщения, а теперь и сама социальная сеть тестирует функцию примерного того же назначения. Как сообщает Motherboard, компания экспериментирует с системой, проверяющей в Facebook Messenger подлинность аккаунтов, с которых приходят личные сообщения.
       


      Нововведение позволит убедиться, что полученное сообщение не пришло от кого-то, кто не имеет к указанному отправителю никакого отношения. Получив сообщение в Facebook Messenger, особенного от кого-то, с кем вы давно не переписывались, вы можете увидеть предупреждение. Оно сообщит, если аккаунт был создан совсем недавно и человек пользуется мессенджером без привязанной учётной записи Facebook. Также вы сможете узнать, в какой стране зарегистрирован телефонный номер отправителя.
      Motherboard получил скриншот от художника Эрин Галлагер (Erin Gallagher), на котором показано сообщение от пользователя с российским телефонным номером. Приложение предупредило, что аккаунт был создан недавно, а номер отличается от номера учётной записи реального отправителя.
       


      Представитель Facebook рассказал Engadget, что так компания борется с различного рода аферами, проворачиваемыми в мессенджере. «Мы тестируем новую функцию, которая даёт людям больше информации о тех, с кем они могли не общаться в мессенджере раньше, — написал представитель. — Эта дополнительная информация позволит принять более обоснованное решение по поводу того, хотите ли вы переписываться с этим человеком».
    • От Ippolitovich
      Рекламодатели Facebook осваивают новый способ продвижения товаров — через дополненную реальность (Augmented Reality, AR).
      В ходе конференции для разработчиков F8 ранее в этом году Facebook объявила, что помогает нескольким партнёрам начать использовать AR для рекламы продукции. Новые технологии позволят запускать AR-демонстрации в ленте основного приложения, а также в Messenger.
       


      Один из вице-президентов Facebook Тай Ахмад-Тейлор (Ty Ahmad-Taylor) заявил о нововведении в ходе специального мероприятия для журналистов и маркетологов в Нью-Йорке. Он показал несколько примеров того, как пользователи могут взаимодействовать с новым типом рекламы. Демонстрационные ролики позволяют взять лицо человека и надеть на него очки, нанести косметику или осуществить другие изменения.
      «Обычно для этого ходят в магазины. Люди очень любят примерять вещи, но им хотелось бы оставаться дома», — отметил Ахмад-Тейлор, добавив, что нововведение размывает границы.
      Рекламные AR-демонстрации выглядят как обычные коммерческие публикации, но они содержат также опцию “Tap to try it on” (Кликни, чтобы примерять»), которая запускает технологию дополненной реальности.
×