PimEyes, de zoekmachine voor gezichtsherkenning, heeft het zoeken naar foto's van kinderen verboden uit veiligheidsoverwegingen

Afbeelding gegenereerd door Bing/DALL-E 3 kunstmatige intelligentie

PimEyes, een openbare zoekmachine die gebruik maakt van gezichtsherkenning, heeft de mogelijkheid om te zoeken naar afbeeldingen van minderjarigen geblokkeerd vanwege risico's voor kinderen.

Dit is wat we weten

Het nieuwe detectiesysteem van PimEyes gebruikt kunstmatige intelligentie om de leeftijd van een persoon te herkennen. Op dit moment is het nog in de ontwikkelingsfase.

Journalisten hebben de functie getest en ontdekten dat het moeite heeft om kinderen te identificeren die vanuit een bepaalde hoek zijn gefotografeerd. De AI identificeert ook niet altijd nauwkeurig tieners.

Volgens Giorgi Gobronidze, hoofd van PimEyes, was hij al in 2021 van plan om een dergelijke bescherming te introduceren. Het volwaardige verbod werd echter pas van kracht na de publicatie van een kritisch artikel in de New York Times.

Nu zal PimEyes voor gewone gebruikers de gezichten van kinderen op foto's blokkeren, maar mensenrechtenorganisaties wel toestaan om te zoeken.

De publicatie schreef eerder over 200 accounts die werden geblokkeerd vanwege ongepaste zoekopdrachten van minderjarigen. Een ouder vertelde dat ze PimEyes gebruikte om foto's van haar kinderen te vinden die ze nog nooit had gezien. De moeder moest $29,99 per maand betalen om de herkomst van de foto's te achterhalen.

Bron: New York Times