Når man som kunde går ud og køber en app fra Google, forventer man næppe at blive fornærmet og kaldt racistiske ting af selvsamme app.
Det er ikke desto mindre hvad der skete for Jacky Alcine, en computerprogrammør bosat i Brooklyn i New York. Det skriver BBC.
Han brugte en ny app, der kan identificere, hvad der er på billeder, og derefter sortere dem i mapper - for eksempel billeder af mad, af dyr, af natur og af mennesker.
"Min ven er ikke en gorilla"
Desværre har app'en ikke lært at kende forskel på aber og mennesker med meget mørk hud - hvilket førte til, at den placerede alle fotos af Alcines to afroamerikanske venner i et album med titlen "gorillaer".
"Gorilla" er et racistisk skældsord i USA, hvilket gør bommerten ekstra uheldig.
Jacky Alcine har klaget til Google via Twitter, og Google lægger sig med det samme fladt ned og beklager fejlen.
- Det er 100 procent ikke i orden, erkender Google-chef Yonatan Zunger.
Hvidt ansigt? Det må være en sæl!
Han understreger, at det på ingen måde er en bevist handling fra Googles side, og at app'en også har haft problemer med hvide mennesker, som den fejlagtigt kategoriserede som sæler eller hunde.
Google har også udsendt en officiel beklagelse, hvor det fremgår, at de nu har fjernet "gorilla"-tagget fra app'en.
Den uforskammede foto-app kan formodentligt se frem til en lektion i pli, racisme og diskrimination, så den igen kan snuse rundt i folks private feriebilleder uden at fornærme dem.