12 апреля 2017 Фридом Финанс
Интернет-троллинг только на первый взгляд кажется относительно безобидной забавой. Для компаний, которые зарабатывают деньги в интернете, троллинг и хейтерство представляют серьезную проблему: уставшие от оскорблений и издевательств пользователи уходят из социальных сетей, чатов, форумов, перестают читать определенные сайты и т. д. Кроме того, большое количество оскорбительного контента наносит вред репутации интернет-сайта и рекламодателей, которые размещают на нем рекламу.
Отметим, что интернет-сайты и социальные сети борются с оскорблениями в Сети с момента своего основания. Армия модераторов старается не допустить интернет-травли, что в итоге иногда приводит к злоупотреблению со стороны самих модераторов: они на всякий случай не публикуют даже нейтральные сообщения, которые просто показались им подозрительными. Соблюсти баланс очень сложно, и до сих пор надежного решения не существует. Вероятно, интернет-медиа совершили ошибку, когда поддались давлению рекламодателей, желающих видеть в интернете такую же рекламу, как на телевидении, что невозможно из-за специфики интернет-среды.
На новом этапе развития технологий поиском оскорбительных сообщений займется искусственный интеллект. Технологический инкубатор Jigsaw, входящий в структуру концерна Alphabet (GOOG, NASDAQ), создал искусственную нейронную сеть, которая с использованием алгоритмов и программных моделей воспроизводит структуру и способность к обучению аналогичную возможностям человеческого мозга.
Для создания базы данных для нейронной сети разработчики собрали множество интернет-комментариев, которые люди считали оскорбительными. Позднее ответы, которые дали люди, использовались для обучения систем искусственного интеллекта.
Бесплатная программа для анализа сообщений, которая названа Perspective, будет добавлена в библиотеку TensorFlow от Google и платформу Cloud Machine Learning. Perspective использует глубокое обучение, чтобы просеивать массивы данных и обнаруживать оскорбительные, дискриминационные высказывания в режиме реального времени. Программа будет помогать модераторам оценивать содержание комментария в зависимости от характера беседы и определять, является ли оно оскорбительным в данной ситуации.
Решить проблему интернет-троллинга пыталась также социальная сеть Twitter (TWTR, NYSE) с помощью платформы с элементами искусственного интеллекта Watson от IBM (IBM, NYSE). По словам менеджмента Twitter, платформа Watson хорошо справляется с определением нюансов языка и может быть использована для сортировки сообщений. В частности, социальная сеть работает над тем, чтобы создать определенные шаблоны оскорбительных сообщений, чтобы еще на начальном этапе предотвратить их публикацию.
Армия интернет-троллей вынуждает обычных людей сокращать свою активность в интернете из-за опасений быть оскорбленным. Разумеется, это снижает общую популярность интернет-ресурса и вредит бизнесу. Борьба с оскорблениями в интернете может стать новым перспективным направлением бизнеса, так как востребована практически всеми интернет-сайтами – от небольших новостных порталов до крупнейших социальных сетей. Таким образом, искусственный интеллект находит все больше возможностей для коммерциализации. Теперь наряду с помощью в постановке диагноза он может помогать в поиске интернет-троллей. Одним из основных бенефициаров этого рынка станет IBM с ее платформой Watson. Также разработки в сфере ИИ есть у Microsoft (MSFT, NASDAQ).
Отметим, что интернет-сайты и социальные сети борются с оскорблениями в Сети с момента своего основания. Армия модераторов старается не допустить интернет-травли, что в итоге иногда приводит к злоупотреблению со стороны самих модераторов: они на всякий случай не публикуют даже нейтральные сообщения, которые просто показались им подозрительными. Соблюсти баланс очень сложно, и до сих пор надежного решения не существует. Вероятно, интернет-медиа совершили ошибку, когда поддались давлению рекламодателей, желающих видеть в интернете такую же рекламу, как на телевидении, что невозможно из-за специфики интернет-среды.
На новом этапе развития технологий поиском оскорбительных сообщений займется искусственный интеллект. Технологический инкубатор Jigsaw, входящий в структуру концерна Alphabet (GOOG, NASDAQ), создал искусственную нейронную сеть, которая с использованием алгоритмов и программных моделей воспроизводит структуру и способность к обучению аналогичную возможностям человеческого мозга.
Для создания базы данных для нейронной сети разработчики собрали множество интернет-комментариев, которые люди считали оскорбительными. Позднее ответы, которые дали люди, использовались для обучения систем искусственного интеллекта.
Бесплатная программа для анализа сообщений, которая названа Perspective, будет добавлена в библиотеку TensorFlow от Google и платформу Cloud Machine Learning. Perspective использует глубокое обучение, чтобы просеивать массивы данных и обнаруживать оскорбительные, дискриминационные высказывания в режиме реального времени. Программа будет помогать модераторам оценивать содержание комментария в зависимости от характера беседы и определять, является ли оно оскорбительным в данной ситуации.
Решить проблему интернет-троллинга пыталась также социальная сеть Twitter (TWTR, NYSE) с помощью платформы с элементами искусственного интеллекта Watson от IBM (IBM, NYSE). По словам менеджмента Twitter, платформа Watson хорошо справляется с определением нюансов языка и может быть использована для сортировки сообщений. В частности, социальная сеть работает над тем, чтобы создать определенные шаблоны оскорбительных сообщений, чтобы еще на начальном этапе предотвратить их публикацию.
Армия интернет-троллей вынуждает обычных людей сокращать свою активность в интернете из-за опасений быть оскорбленным. Разумеется, это снижает общую популярность интернет-ресурса и вредит бизнесу. Борьба с оскорблениями в интернете может стать новым перспективным направлением бизнеса, так как востребована практически всеми интернет-сайтами – от небольших новостных порталов до крупнейших социальных сетей. Таким образом, искусственный интеллект находит все больше возможностей для коммерциализации. Теперь наряду с помощью в постановке диагноза он может помогать в поиске интернет-троллей. Одним из основных бенефициаров этого рынка станет IBM с ее платформой Watson. Также разработки в сфере ИИ есть у Microsoft (MSFT, NASDAQ).
http://ffin.ru/ (C)
Не является индивидуальной инвестиционной рекомендацией | При копировании ссылка обязательна | Нашли ошибку - выделить и нажать Ctrl+Enter | Жалоба