Audio Moderation Model

Audio Moderation Model — это современное решение для автоматической оценки и фильтрации аудиоконтента. С помощью нашей технологии вы сможете быстро обнаруживать потенциально опасные или неприемлемые высказывания в аудиозаписях и своевременно реагировать, защищая репутацию вашего сервиса и комфорт пользователей.

Модель анализирует аудиоматериал по ряду ключевых категорий:

harassment: Контент, который выражает, подстрекает или пропагандирует оскорбительные высказывания в отношении любой целевой аудитории. Может включать насилие или угрозу причинения вреда.
hate: Контент, разжигающий ненависть и направленный на незащищённые группы (по признаку расы, пола, религии, национальности и т.п.). Призывы к насилию против этих групп также попадают в эту категорию.
illicit: Контент с советами или инструкциями по совершению незаконных действий (например, «как воровать в магазине») или упоминания о приобретении оружия и насилии.
self-harm: Любые призывы или подстрекательства к членовредительству, а также заявления о самоубийстве или намерении причинить себе вред. Инструкции и советы о том, как совершать подобные действия, также входят в эту категорию.
sexual: Контент, нацеленный на возбуждение, включая эротические услуги и описания сексуальной активности (исключая темы здорового образа жизни и полового воспитания). Сюда же относится контент, в котором присутствует лицо моложе 18 лет.
violence: Аудиоматериал, где изображаются или детально описываются смерть, физические травмы или насилие.

Использование Audio Moderation Model помогает поддерживать высокие стандарты качества звукового контента и защищать аудиторию от вредоносной информации. Модель отлично подходит для социальных сетей, аудио-платформ, стриминговых сервисов и любых проектов, где пользователи делятся звуковыми записями.

Пример использования (curl)

curl -X 'POST' \
  'https://ai-platform.shertaev-tech.kz/api/v1/audio/moderation' \
  -H 'accept: */*' \
  -H 'Authorization: Bearer token' \
  -H 'Content-Type: multipart/form-data' \
  -F 'file=@audio.mp3;type=audio/mpeg'

Пример ответа

{
  "isValid": true,
  "errors": []
}

Если isValid имеет значение true, значит контент не нарушает политику площадки. Массив errors содержит список категорий, по которым аудио может считаться недопустимым. С Audio Moderation Model вы сможете оперативно выявлять и блокировать нежелательный контент, сохраняя дружественную среду для всех участников.

AI Platform