OpenAI ha creato un team per incorporare le idee del pubblico nella gestione dei modelli di AI

OpenAI ha annunciato la formazione di un nuovo gruppo di ricerca Collective Alignment, che svilupperà un sistema per raccogliere e tenere in considerazione l'opinione pubblica quando si prendono decisioni sul comportamento dei modelli di intelligenza artificiale dell'azienda.

Ecco cosa sappiamo

Secondo gli sviluppatori, Collective Alignment garantirà che i futuri modelli di intelligenza artificiale siano in linea con i valori e le aspettative della società.

La creazione del team è il risultato di un programma di sovvenzioni lanciato l'anno scorso che ha finanziato esperimenti per introdurre il controllo pubblico e "processi democratici" nella gestione dei sistemi di IA.

OpenAI pubblica ora il codice e i risultati del lavoro dei borsisti. In futuro, il team di Collective Alignment integrerà i prototipi promettenti nei prodotti e nei servizi dell'azienda.

Gli sviluppatori sostengono che l'iniziativa è pensata per rendere l'IA di OpenAI il più possibile utile e sicura per la società. Tuttavia, alcuni esperti notano la presenza di interessi commerciali e rischi di lobbismo normativo da parte dell'azienda.

Fonte: OpenAI