Перейти к содержанию
Авторизация  
Ippolitovich

Как искусственный интеллект модерирует публикации в Facebook


Рекомендуемые сообщения

В Facebook активно борются с недопустимым контентом на страницах своей социальной сети. В этой борьбе работникам компании активно помогает искусственный интеллект. Однако не со всеми задачами искусственный интеллект справляется достаточно хорошо, об этом рассказал генеральный директор Facebook Марк Цукерберг, общаясь с аналитиками во время обсуждения квартальных показателей компании.

 

image.png

 

Вовлеченность искусственного интеллекта в модерацию контента на Facebook постоянно растет. Тем не менее все еще нельзя полностью положиться на технологии. Марк Цукерберг считает, что искусственный интеллект хорош далеко не во всем. В частности, есть большие проблемы с пониманием человеческой речи.

В Facebook весьма эффективно удаляются публикации, которые связаны с пропагандой терроризма. По словам генерального директора социальной сети, это заслуга ИИ. Кроме того, искусственный интеллект крайне эффективно находит фотографии обнаженных людей. А вот оскорбления и гневные публикации – это слабое место технологии.

«Проще научить искусственный интеллект находить соски на изображениях, чем распознавать оскорбления», – говорит Марк Цукерберг. С помощью ИИ 99% публикаций, пропагандирующих терроризм, удаляются без участия сотрудников компании, а вот на достижение эффективного поиска оскорблений могут уйти годы, считает основатель Facebook.

Поделиться сообщением


Ссылка на сообщение

Для публикации сообщений создайте учётную запись или авторизуйтесь

Вы должны быть пользователем, чтобы оставить комментарий

Создать учетную запись

Зарегистрируйте новую учётную запись в нашем сообществе. Это очень просто!

Регистрация нового пользователя

Войти

Уже есть аккаунт? Войти в систему.

Войти
Авторизация  

  • Похожий контент

    • От Ippolitovich
      Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) намерена в следующем квартале организовать проверки социальной сети Facebook и сервиса микроблогов Twitter.
       


      Речь, как сообщает «Интерфакс», идёт о выявлении возможных нарушений закона о хранении персональных данных россиян на серверах в РФ. Соответствующие требования вступили в силу ещё в 2015 году, однако некоторые компании до сих пор их не выполняют.
      О намерении провести проверки названных интернет-компаний сообщил руководитель Роскомнадзора Александр Жаров, выступая во вторник, 18 сентября, в Сочи (Роза Хутор) на форуме «Спектр-2018».
       


      «Они [Twitter] написали нам письмо за подписью одного из вице-президентов компании, где было сказано, что во второй половине 2018 года компания Twitter локализует базы данных российских граждан на территории РФ. Вот истечёт второе полугодие, я поставил себе срок 15 декабря, и напишу письмо: "Скажите, где они хранятся, эти данные?" Это, по сути, начало проверки Twitter... То же самое сделаю по отношении к Facebook», — сообщил господин Жаров.
      Если выяснится, что Twitter и Facebook до сих пор не перенесли персональные данные российских пользователей на сервера в нашей стране, доступ к ресурсам может быть ограничен. 
    • От Ippolitovich
      Компания Facebook продолжает работу по созданию системы проверки правдивости данных. Ранее уже был представлен алгоритм Rozetta, который позволит выявлять оскорбительные мемы, но компания идёт дальше.
       


      Сообщается, что в Facebook разработали и уже запустили в работу модель машинного обучения для проверки на «фейковость» фото и видеоматериалов. Система определяет дезинформацию на первом этапе, используя  анализ метаданных, геометок и других сведений. Затем данные отправляются на обработку 27 партнёрам компании в 17 странах, которые специализируются на факт-чекинге. 
      Техническая сторона проекта основана на уже известных аспектах, которые позволяют специалистам определять фейки. К примеру, это поиск исходного изображения, анализ метаданных и так далее. Для работы используется оптическое распознавание символов (OCR) для извлечения текста из фотографий и сравнение их с заголовками статей в других источниках.
       


      Также в компании заявили, что разрабатывают ещё более изощрённые средства обнаружения и выявления фейков, хотя и не уточнили, как они должны работать. Известны лишь направления: созданные с помощью монтажа заведомо манипулятивные фото и видео; зависимые от контекста и содержащие рекламу или иные вставки. Представители Facebook отмечают, что борьба с дезинформацией и фейками — проект с долгосрочной перспективой. Хотя, разумеется, есть и тактические решения, которые работают здесь и сейчас.
       


      Отметим, что Facebook развернула широкомасштабные «военные действия» против фейков после того, как социальную сеть обвинили в манипуляциях мнениями и «вбросах» информации на выборах президента США Дональда Трампа. Владелец компании Марк Цукерберг вынужден был объясняться в Сенате. Всё это привело к запуску системы по контролю и распознаванию фейков, поскольку предыдущая система на основе только модераторов показала свою неэффективность.
       
    • От Ippolitovich
      Одной из проблем для социальных сетей является сложность контроля за контентом. Ни один человек не в состоянии обработать слишком большой объём данных, проанализировать их и определить, что является оскорбительным, а что — нет. Да, ненормативную лексику определить легко, а вот если информация подана так, что может оскорбить только определённую категорию людей — всё становится сложнее.
       


      И потому разработчики из Facebook представили нейросеть Rosetta, которая способна распознавать изображения с текстом. Она должна помочь модераторам социальной сети улучшить борьбу со спамом, оскорбительным контентом, социально неприемлемыми мемами и так далее.
      В основе системы лежит фирменная технология распознавания изображений, созданная в 2015 году. Она умеет обнаруживать зоны с текстом внутри картинок. После этого символы распознаются и транскрибируются. Пока что Rosetta поддерживает несколько языков на основе латиницы, причём она умеет обрабатывать изображения и кадры из роликов. Как отмечают разработчики, система может «прогонять» через себя до миллиарда изображений в день.
       


      Ранее, 22 августа, социальная сеть Facebook ввела систему оценки репутации пользователей, которая определяет степень благонадежности аккаунтов по специальной шкале. Это было сделано для борьбы с фейковыми новостями.
      А до этого разработчики компании представили инструмент на базе ИИ, который решает главную проблему фото — открывает закрытые глаза людей на снимках. Таким образом, компания всё больше внедряет ИИ-инструменты в свою систему. Однако остаётся вопрос, насколько качественной будет их работа и не помешает ли она обычным пользователям Сети. Ведь, по сути, ИИ обучается на человеческих примерах, а значит, в теории, его можно обучить всему. К слову, ранее Facebook признала «Декларацию независимости США» документом, разжигающим ненависть. Хотя затем извинилась.
    • От душман
      Снабдить телекамеры искусственным интеллектом, с такой идей выступили специалисты исследовательского отдела телекомпании BBC – BBC R&D. Они планируют провести эксперимент, который позволит выяснить возможность применения искусственного интеллекта для съемок телешоу.

      "Камеры, управляемые искусственным интеллектом, могут использоваться для создания базовых видов – крупных планов людей, находящихся на сцене, – пояснил старший инженер по исследованиям и разработкам BBC Стивен Джолли. Это позволит операторам на подвижных стрелах и тележках осуществлять более сложную съемку". Такой подход, по словам Джолли, сделает телевизионный продукт более качественным.
      Главным условием работы искусственного интеллекта будет информация о том, что именно должно попасть в кадр. То есть, какое действие на сцене наиболее привлекает зрителей. Это и намерены выяснить исследователи, путем анализа реакции аудитории, которая участвует в съемках. Результаты эксперимента помогут выработать механизм работы искусственного интеллекта, способного самостоятельно определять интересы аудитории, и фиксировать действия камерой.
×