OpenAI utilizza il GPT-4 per costruire un sistema di moderazione dei contenuti basato sull'intelligenza artificiale

OpenAI ritiene che il GPT-4 possa sostituire decine di migliaia di moderatori e che sia quasi altrettanto preciso e coerente. Gli sviluppatori affermano che stanno già utilizzando il modello linguistico per creare e perfezionare le proprie policy, l'etichettatura dei contenuti e il processo decisionale.

Ecco cosa sappiamo

OpenAI ha descritto tre vantaggi principali rispetto agli approcci tradizionali alla moderazione dei contenuti.

In primo luogo, secondo l'azienda, gli esseri umani interpretano le regole in modo diverso, mentre le macchine sono coerenti nei loro giudizi. Le linee guida possono essere lunghe e in continua evoluzione. Inoltre, gli esseri umani hanno bisogno di molta formazione per imparare e adattarsi, mentre i modelli linguistici possono implementare istantaneamente nuove regole.

In secondo luogo, il GPT-4 può presumibilmente aiutare a redigere una nuova politica in poche ore. Di solito, il processo di redazione, etichettatura, raccolta di feedback e finalizzazione di tali documenti richiede settimane o diversi mesi.

In terzo luogo, OpenAI cita il benessere dei lavoratori che sono costantemente esposti a contenuti dannosi, come video di abusi su minori o torture.

Fonte: OpenAI