麻省理工學院和多倫多大學的研究人員表示，Amazon已賣給執法部門的人臉偵測技術，對女性，尤其那些皮膚較黑的女性常誤判。

研究人員表示，在他們的測試中，Amazon的技術將較深黑色皮膚女性辨識成男性的比例高達31%，即使膚色較淺的女性也有7%被誤判。膚色較深的男性錯誤率為1%，而膚色較淺的男性則沒有。

Amazon雲端計算部門的人工智慧總經理Matt Wood表示，該研究用的是「人臉分析」而非「人臉辨識」技術。Wood說，人臉分析「可以在視頻或圖像中發現人臉，並指定像佩戴眼鏡等通用屬性。辨識則屬另一種不同技術，它是用來做各個人臉是否與視頻或圖像匹配的工作。」

麻省理工學院媒體實驗室研究員Joy Buolamwini則在Medium上回應，所有公司都應該自我檢查做人臉分析的系統是否存在偏見。她寫道：「如果你賣一種已被證明對人臉有偏見的系統，那麼你其它以人臉為基礎的產品完全沒有偏見，是很值得懷疑的。」