OpenAI использует GPT-4 для создания системы модерации контента на основе искусственного интеллекта

Компания OpenAI считает, что GPT-4 может заменить десятки тысяч модераторов и при этом быть почти столь же точной и более последовательной. Разработчики утверждают, что уже используют языковую модель для создания и уточнения собственных политик, маркировки контента и принятия решений.

Что известно

OpenAI описала три основных преимущества по сравнению с традиционными подходами к модерации контента. 

Во-первых, по мнению компании, люди по-разному интерпретируют правила, в то время как машины последовательны в своих суждениях. Руководства могут быть длинными и постоянно меняться. Также человеку требуется много тренировок для обучения и адаптации, а языковые модели могут мгновенно внедрять новые правила.

Во-вторых, GPT-4 якобы может помочь разработать новую политику в течение нескольких часов. Обычно процесс составления, маркировки, сбора отзывов и доработки подобных документов занимает недели или несколько месяцев. 

В-третьих, OpenAI упоминает о благополучии работников, которые постоянно подвергаются воздействию вредного контента, например, видеороликов с издевательствами над детьми или пытками.

Источник: OpenAI