OpenAI використовує GPT-4 для створення системи модерації контенту на основі штучного інтелекту

Компанія OpenAI вважає, що GPT-4 може замінити десятки тисяч модераторів і при цьому бути майже настільки ж точною та більш послідовною. Розробники стверджують, що вже використовують мовну модель для створення й уточнення власних політик, маркування контенту та ухвалення рішень.

Що відомо

OpenAI описала три основні переваги порівняно з традиційними підходами до модерації контенту.

По-перше, на думку компанії, люди по-різному інтерпретують правила, тоді як машини послідовні у своїх судженнях. Посібники можуть бути довгими та постійно змінюватися. Також людині потрібно багато тренувань для навчання та адаптації, а мовні моделі можуть миттєво впроваджувати нові правила.

По-друге, GPT-4 нібито може допомогти розробити нову політику протягом кількох годин. Зазвичай процес складання, маркування, збору відгуків і доопрацювання подібних документів займає тижні або кілька місяців.

По-третє, OpenAI згадує про благополуччя працівників, які постійно піддаються впливу шкідливого контенту, наприклад, відеороликів зі знущаннями над дітьми або тортурами.

Джерело: OpenAI