Tik Tok начинает борьбу с неприемлемым контентом

Все крупные платформы, дабы удержать аудиторию и стать ещё более популярными, стремятся так или иначе усовершенствовать свой продукт. И такая социальная сеть, как TikTok, не является исключением.

Всё дело в том, что отныне TikTok будет использовать систему автоматизации с целью обнаружения и удаления многих видео, которые в свою очередь нарушают политики использования. На протяжении всего прошлого года компания занималась тестированием и настройкой своей собственной системы, предназначенной специально для осуществления поиска и удаления неприемлемого контента.

Как стало известно, когда технология будет доделана, в первую очередь она будет развёрнута на территории Соединённых Штатов Америки и Канады. Произойдёт это в течение следующих нескольких недель. Работать это будет следующим образом: в первую очередь алгоритмы будут искать сообщения и контент, который может нарушать политику пользования, касающуюся безопасности несовершеннолетних, насилия, наготы, сексуального характера, незаконной деятельности, а также демонстрации запрещённых товаров.

В том самом случае, если система в результате обнаружит нарушение, такое видео будет немедленно удалено. Руководство TikTok предполагает, что искусственный интеллект может допустить ошибку. Именно поэтому пользователь, разместивший удалённый контент, сможет подать апелляцию, которую должен будет рассмотреть человек. «Автоматическое определение нарушающего наши политики контента будет зарезервировано в первую очередь для такой категорий, в которых наша технология имеет наивысшую степень точности», — сказали в TikTok. То есть, по крайней мере на первых порах, автоматическое определение запрещённых публикаций будет сфокусировано не на всём, что есть в TikTok, а на тех сегментах публикаций, в которых нарушения встречаются наиболее часто.

Также, согласно сообщению компании, только одно из 20 автоматически удалённых видео было заблокировано по ошибке и по своей сути должно было остаться на платформе. Так или иначе, TikTok в любом случае надеется повысить уровень точности собственных алгоритмов и отмечает, что «запросы на обжалование удаления видео остались неизменными». TikTok заявляет, что внедрение системы автоматизации должно снизить нагрузку, возлагаемую на многих сотрудников службы безопасности, дабы они могли сосредоточиться на контенте, который требует более тонкого подхода к анализу.