Microsoft heeft controversiële tooltips in Copilot geblokkeerd na een klacht van een ingenieur

Microsoft heeft bepaalde typen zoekopdrachten in zijn generatieve AI-tool Copilot beperkt nadat een ingenieur van het bedrijf had geklaagd over het genereren van systematische afbeeldingen met geweld, seksuele inhoud en andere ongepaste inhoud.

Dit is wat we weten

Copilot blokkeert nu dergelijke prompts wanneer je termen intypt als "pro choice", namen van drugs of vermeldingen van wapens in de handen van kinderen. De dienst waarschuwt ook dat het herhaaldelijk overtreden van de regels kan resulteren in een beperking van je account.

De wijzigingen komen kort nadat Shane Jones, die zes jaar bij Microsoft heeft gewerkt, een brief schreef aan de Amerikaanse Federal Trade Commission (FTC) waarin hij klaagde over het gebrek aan goede beveiligingsmaatregelen in de AI-producten van het bedrijf.

De ingenieur testte Copilot Designer sinds december en ontdekte dat voor zoekopdrachten met relatief neutrale termen, het systeem schokkende beelden genereerde van demonen die baby's opeten en personages in gewelddadige scènes.

Hoewel de nieuwe filters veel van de controversiële prompts blokkeren, kunnen Copilot gebruikers nog steeds toegang krijgen tot sommige gewelddadige scenario's, evenals het genereren van afbeeldingen van auteursrechtelijk beschermde personages.

Microsoft zegt dat het doorgaat met het verbeteren van de controle over AI-gegenereerde inhoud en het versterken van de beveiligingsfilters om misbruik te voorkomen.

Het bedrijf heeft eerder al veel kritiek gekregen vanwege het verschijnen van expliciete beelden van beroemdheden die waren gegenereerd met Copilot Designer.

Ga dieper:

• Een Microsoft-medewerker klaagde bij de FTC over de beveiliging van de Copilot Designer AI-generator
• Microsoft probeerde de kwetsbaarheid in DALL-E het zwijgen op te leggen, aldus een medewerker van het bedrijf

Bron: CNBC