Онлайн
- Регистрация
- 9 Май 2015
- Сообщения
- 1,071
- Баллы
- 155
- Возраст
- 51
Все мы сталкивались с агрессивными комментариями или просто троллингом в Сети. По исследовательского института Data&Society, более половины жителей США попадали в такие ситуации. Но эта проблема мешает не только читателям. Новостные организации хотят, чтобы читатели обсуждали их контент, но поиск негативных комментариев крайне долог и дорог, и поэтому многие ресурсы просто закрывают комментарии. Однако Google не считает это решением проблемы.
Сегодня Google и запустили — инструмент, использующий машинное обучение для распознавания токсичных комментариев. Так принято называть комментарии, содержащие признаки агрессии или троллинга. Используя API, каждый ресурс может настроить эту технологию для себя.
И как она работает?
Perspective оценивает комментарии, опираясь на то, насколько они похожи на помеченные людьми как токсичные. Для точного распознавания Perspective изучил сотни тысяч размеченных комментариев, и каждый новый лишь повысит его точность.
Владельцы ресурсов могут выбирать, что делать с полученной от Perspective информацией. Они могут помечать негативные комментарии для дальнейшей проверки модераторами, или встроить «шкалу токсичности», которую видит автор комментария. Можно даже дать читателям возможность сортировать комментарии по токсичности.
В частности, эта технология в The New York Times, где она обрабатывала в среднем 11 тысяч комментариев в день.
И как технология будет развиваться?
Perspective объединяет в себе библиотеку и платформу . Технология всё ещё развивается, но все мы знаем, что именно время играет в пользу машинного обучения — чем большее количество ресурсов станет использовать Perspective, тем лучше она будет распознавать комментарии.
Помимо улучшения, планируется и расширение. Поэтому в дальнейшем планируется добавление поддержки других языков, а также появление моделей, распознающих, например, оффтоп-комментарии.
В перспективе, Perspective — это не просто улучшение комментариев. Это улучшение общения в Сети.
— .
Сегодня Google и запустили — инструмент, использующий машинное обучение для распознавания токсичных комментариев. Так принято называть комментарии, содержащие признаки агрессии или троллинга. Используя API, каждый ресурс может настроить эту технологию для себя.
И как она работает?
Perspective оценивает комментарии, опираясь на то, насколько они похожи на помеченные людьми как токсичные. Для точного распознавания Perspective изучил сотни тысяч размеченных комментариев, и каждый новый лишь повысит его точность.
Владельцы ресурсов могут выбирать, что делать с полученной от Perspective информацией. Они могут помечать негативные комментарии для дальнейшей проверки модераторами, или встроить «шкалу токсичности», которую видит автор комментария. Можно даже дать читателям возможность сортировать комментарии по токсичности.
В частности, эта технология в The New York Times, где она обрабатывала в среднем 11 тысяч комментариев в день.
И как технология будет развиваться?
Perspective объединяет в себе библиотеку и платформу . Технология всё ещё развивается, но все мы знаем, что именно время играет в пользу машинного обучения — чем большее количество ресурсов станет использовать Perspective, тем лучше она будет распознавать комментарии.
Помимо улучшения, планируется и расширение. Поэтому в дальнейшем планируется добавление поддержки других языков, а также появление моделей, распознающих, например, оффтоп-комментарии.
В перспективе, Perspective — это не просто улучшение комментариев. Это улучшение общения в Сети.
— .