نرم افزار تشخیص چهره بحث برانگیز آمازون که به‌ نام Recognition شناخته شده است، بیش از ۲۰ نفر از اعضای کنگره را به‌عنوان افرادی که برای جرایمی دستگیر شده‌اند، شناسایی کرده است.

به‌ گزارش انتخاب، این شناسایی‌های اشتباه زمانی رخ داد که از سیستم تشخیص چهره آمازون برای بررسی عکس‌هایی از ۵۳۵ عضو کنگره استفاده شد. درنهایت، سیستم مذکور، ۲۸ نفر از اعضای کنگره را به اشتباه شناسایی کرده و حتی رنگ پوست ۱۱ نفر از اعضای کنگره را نادرست تشخیص داده است. موضوعی که به لحاظ امنیتی بشدت هشدار دهنده است.این آزمون‌ها نشان داد که تشخیص چهره به طور معمول در افرادی با پوستی تیره‌ تر و زنان دقت کمتری دارد . برای اعضای کنگره به‌ طور کلی، میزان خطا تنها ۵ درصد بود، اما برای اعضای غیر سفیدکنگره، میزان خطا ۳۹ درصد بود.در میان افرادی که به اشتباه شناسایی شده بودند، ۶ عضو از اعضای کانون سیاهپوستان کنگره حضور داشتند که البته در اعتراض به خطای این سیستم نامه‌ای سرگشاده به جف بیزانس نوشته‌اند.

آمازون از مدتی پیش سازمان‌های مجری قانون را تشویق کرده است تا سیستم تشخیص چهره این شرکت را مورد استفاده قرار دهند. اخیراً نیروی پلیس اورلاندو نیز تصمیم گرفته از این سیستم استفاده کند.

در بیانیه‌ای آمازون به نتایج خطای تشخیصی خود واکنش نشان داد و نوشت: ما تلاش خواهیم کرد که سیستم‌های تشخیصی خود را بهبود بخشیم و احتمالاً با دنبال کردن سیستم ها به بهترین شیوه‌ها خواهیم پرداخت.