全米に5000店舗以上を展開しているドラッグストアー・Rite Aidライトエイドは、万引き犯を特定するためにAI「秘密顧客監視プログラム」を使用していました
このプログラムには欠陥があり、従業員らは、欠陥のあるこのシステムに基づいて、友人や親族の前で顧客を誤って告発し、場合によっては顧客を捜索したり、店から出るよう命じたり、警察に通報したりしていました。
この為、ライト・エイドは数百の店舗で消費者を保護しなかったとする連邦取引委員会の告発され、その解決するため、顔認識監視技術の使用を５年間禁止されました
調査によるとライトエイドはシステムの精度テストに失敗し、ベンダーが信頼性を保証できないと明言したにも関わらず技術を導入したという。
連邦取引委員会は「ライト・エイドの顔面監視システムの無謀な使用により、顧客は屈辱やその他の被害にさらされ、その命令違反により消費者の機密情報が危険にさらされている」と述べた。
システムの欠陥例では、「たった1人の写真に写った人物が、1週間以内に海岸から海岸まで130以上のライト・エイドの店舗に900回以上入店」していたり「ある事件では、ライト・エイドの職員が虚偽の一致に基づいて11歳の少女を呼び止めて捜索し、その少女の母親は娘が取り乱したために仕事を休まなければなくなった」りしています。
さらに連邦取引委員会は黒人、アジア人、ラテン系アメリカ人、女性の消費者は誤ってマッチングされるリスクが高いと述べた。
ちなみにライト・エイド破産裁判所中で現在再建中です
