Google schreef het creëren van afbeeldingen van diverse nazi's door de AI toe aan configuratiefouten
Google heeft een verklaring gegeven voor het maken van "onnauwkeurige historische" afbeeldingen van nazi's en andere personages door zijn kunstmatige intelligentietool Gemini.
Dit is wat we weten
Google zei dat het probleem is ontstaan door fouten in de configuratie van het model. Eerder genereerde Gemini racistisch discriminerende afbeeldingen van nazi's en Amerikaanse grondleggers.
Gemini's resultaten voor de taak "Maak een afbeelding van een Amerikaanse senator uit 1800".
Volgens het bedrijf waren de AI-instellingen erop gericht om de diversiteit van mensen te laten zien, maar hielden ze geen rekening met de onacceptabele diversiteit voor historische figuren. Bovendien werd het model na verloop van tijd te voorzichtig en stopte het met het genereren van sommige veelvoorkomende afbeeldingen.
Hierdoor ging Gemini in sommige gevallen "overboord" in het tonen van diversiteit. Google beloofde het probleem op te lossen en de mogelijkheden van de AI om afbeeldingen te genereren aanzienlijk te verbeteren voordat de functie weer wordt ingeschakeld.
Het bedrijf erkende dat neurale netwerken het soms bij het verkeerde eind hebben en beloofde verder te werken aan een oplossing.
DeepMind-oprichter Demis Hassabis zei afzonderlijk dat de mogelijkheid om te reageren op verzoeken voor menselijke afbeeldingen in de "komende weken" zou moeten worden hersteld.
Ga dieper:
Bronnen: The Verge, TechCrunch