Часть 2.
Фейковые новости, с которыми Украина успешно борется еще с 2014 года, только в прошлом оказались для всего мира неприятным откровением. Став одним из следствий возрастающей популярности социальных платформ, фейковые новости превратились в первопричину довольно судьбоносных событий, последствия которых мы только начинаем понимать.
В последние недели мир активно обсуждает влияние проплаченных российской «фабрикой троллей» постов и рекламы в Facebook, Twitter и Google. Американские конгрессмены пытаются понять, как повлияла эта реклама и на исход голосования на выборах в Америке в 2016 году, и на будущее интернета.
В то же время у этих довольно нерадостных тенденций есть и положительный результат: в мире все больше появляется стартапов, сервисов и инструментов, разработчики которых пытаются решить проблему проверки фейкового интернет-контента. И это не только игры, плагины для проверки отдельных материалов, а еще и полноценные продукты, которые поддерживают инвесторы и над которыми работают талантливые программисты. Среди антифейк-стартапов есть и те, которые уже успели перестать существовать в силу разных причин — например, многообещающий Notim.press/ed, использующий оценку достоверности, базирующуюся на поиске Google, рейтинге сайтов Alexa и ряде собственных алгоритмических решений. Еще и год не прошел с момента публикации о проекте на Techcrunch, как сервис уже не работает.
Сегодня мы познакомим вас еще с несколькими «антифейк»-стартапами, появившимися в последнее время. Некоторые из них уже успешно работают, другие анонсированы только в виде прототипов. Тем не менее, их подходы к решению столь важной проблемы онлайн-фейков заслуживают внимания и пристального изучения.
Авторы проекта Check4Spam решили объединить свои усилия в борьбе с различными интернет-фейками. На сайте выполняется проверка не только фейковых новостей, но и рекламного спама, различного рода слухов, недобросовестной рекламы и даже непонятных правительственных инициатив. Два программиста, создавших Check4Spam, объединяют весь этот полуправдивый либо откровенно лживый контент под одним названием — «спам», резонно объясняя, что и фейковые новости, и реклама с текстом мелким шрифтом, и популистские утверждения политиков и официальных лиц — все это не более чем спам, на который не стоит обращать внимание.
Сам сайт представляет собой ленту новостей записей, обработанных сайтом с соответствующей пометкой – [SPAM] для фейков и [NOT SPAM] для легитимного правдивого контента.
Check4Spam обрабатывает поддельные вирусные сообщения в социальных сетях, включая слухи в Интернете, политические или религиозные форварды, рекламные объявления и рекламные предложения. По сайту доступен поиск, все записи классифицированы по категориям, например, Internet Rumors (интернет-слухи), Promotions (реклама), Government Initiatives (правительственные инициативы) и т.д. Кроме того, на сайте есть информация о пропавших без вести – она тоже проверяется на правдивость, а если человек найден, то такая запись получает отметку [CLOSED].
Отправлять факты для проверки можно на сайте либо через WhatsApp-аккаунт Check4Spam. По словам авторов проекта, ежедневно они получают около сотни сообщений, требующих проверки. Примечательно, что около половины из них отсеиваются сразу же как откровенная ложь, не требующая дополнительной проверки.
Авторы стартапа проверяют все новости вручную на основе открытых источников, например, используя обратную проверку изображений в Google и поиске упоминаний о новости в доверенных медиа. Интересно, что первые 3-5 страниц поисковой выдачи они пропускают, объясняя это тем, что, в основном, на них содержатся копии оригинального сообщения, которое, собственно, и требует проверки. В некоторых случаях им приходится использовать программное обеспечение для анализа изображений.
Разработчики этого лондонского стартапа представили только прототип и описали принцип его работы. Однако это не помешало им получить инвестиции – проектом заинтересовались миллиардер Марк Кьюбан (Mark Cuban), основатель Zynga Марк Пинкус (Mark Pincus) и основатель Brightmail Сунил Пол (Sunil Paul) и вложили в него $750 млн.
Кроме того, проект был поддержан инициативой Google Digital News Initiative.
Авторы Factmata объясняют, что сегодня для понимания информации и новостей, для формирования своего мнения по тому или иному вопросу людям нужен контекст. Однако проблема заключается в том, что обычным пользователям может быть довольно сложно найти такой контекст. Кроме того, часто такой контекст может быть либо недоступен для обычного пользователя, либо к нему будет усложнен доступ – условно говоря, его не получить в два клика в Google.
Авторы проекта создали инструмент, который будет формировать дополнительный слой данных поверх доступной информации. И это позволит получить лучше интерпретированные факты и быть более уверенными в той информации, которую человек получает.
Например, открыв статью с определенным утверждением, например, с данными о статистике количества эмигрантов, Factmata дополнит ее фактами – графиками, таблицами, ссылками на статистику и контент из доверенных источников.
В своей работе Factmata будет базироваться на использовании искусственного интеллекта и работе людей-редакторов.
Использование искусственного интеллекта может ускорить процесс проверки фактов экспоненциально, но искусственный интеллект пока еще слишком далек от уровня понимания естественного языка и принятия решений, необходимого для оценки поддельных новостей. На этом этапе в Factmata будут работать люди, которые будут решать, что является правдой, а что фейком.
Авторы стартапа Grapple пока представили прототип своего продукта. В ближайшее время мы должны увидеть альфа-версию сервиса. Глобальная миссия проекта Grapple – борьба с онлайн-фейками. Стартап работает на основе нейронных сетей и искусственного интеллекта. Grapple планирует отслеживать «родословную», происхождение онлайн-контента, составлять дорожную карту создания и распространения информации. С помощью Grapple пользователи смогут дать ответы на вопросы: «Откуда возникла история? Кто ее запустил в Сеть? Как она изменилась с течением времени?»
В результате такого пристального изучения контента, Grapple предупредит читателей о сомнительных материалах. На основе алгоритмов, используемых Grapple в работе, сервис покажет пользователям, как одна новостная статья, которую они читают, связана с другими источниками в Интернете.
Реализован сервис Grapple будет в виде плагина для браузера. Плагин будет работать совместно с доступными поисковыми системами и базами данных, обрабатываться информация будет при помощи искусственного интеллекта. Со временем авторы проекта планируют создать сервис для социальных сетей и мобильное приложение для фактчекинга.
Приложение автоматически предупредит читателей о ряде тревожных сигналов, например, о новостях с анонимными источниками либо историй, которые были запущены в социальных сетях.
Плагин Grapple демонстрирует наглядно происхождение новости на диаграмме, на которой указан путь новости — от источника до получателя. Эта же диаграмма покажет, что говорят другие люди в интернете на эти темы.
Продукт Grapple можно использовать не только для новостных материалов, но и для статей с результатами научных исследований, например, для сравнения цитат и проверки их достоверности.
Главными преимуществами Grapple, по словам создателей проекта, является отсутствие «человеческого фактора». Не секрет, что популярность фейкового контента во многом связана с его виральностью. Иными словами, пользователи сами способствуют распространению фейкового контента. Поэтому рейтинг контента, основанный на его популярности, не лучшим образом способствует проверке фейков.
Существует еще одна проблема для сервисов ручной проверки фейков, которую попытался решить Grapple – это однозначность суждений. Далеко не каждый фейковый материал представляет собой однозначную ложь. Многие материалы представляют собой невероятный микс лжи и правды, объединение надежных источников и лживых трактований и суждений, либо же добавление неправдивого контекста. Разобрать фейковую новость «по косточкам» и объяснить, что в ней не так – именно эту задачу берется решать Grapple.
FightHoax — это разработка 20-летнего студента из Греции Валентина Цекаса (Valentine Tzekas), созданная с целью проверки фейковых новостей. FightHoax работает на основе собственного алгоритма Цекаса и определяет фейки с точностью 89%.
При создании FightHoax Валентин тесно работал с журналистами и фактчекерами и с их помощью создал и унифицировал алгоритм проверки фактов. По сути, FightHoax эмулирует деятельность человека, занимающегося фактчекингом, просто делает это за очень короткое время.
Разработка использует решение Natural Language Understanding компании IBM Watson для анализа каждой новостной статьи. Алгоритмы обработки и анализа естественного языка позволяют понять содержание каждой статьи и на основе таксономии текста узнать достоверную новость или фейк, даже если статья скопирована и переписана.
Приложение может предупредить пользователя, даже если в нем было изменено незначительная доля контента и вместо этого предложить читателю оригинал.
Автор: Надежда Баловсяк, для Stopfake.org.
