מערכת זיהוי הפנים של אמזון מציינת עשרות מחוקקים בקליפורניה כפושעים - BGR

טכנולוגיית זיהוי פנים עשתה דרך ארוכה בשנים האחרונות וכיום משתמשי סמארטפון רבים מסתמכים על תכונות של נעילת פנים כדי להגן על המכשירים שלהם. תוכנת סריקת הפנים של אמזון, הנקראת Rekognition, אינה שומרת את נעילת הטלפון שלך, אך משמשת כיום על ידי אכיפת החוק לזיהוי עבריינים המשתמשים בתמונות הזיהוי שלהם.

בשנה שעברה, ה- ACLU השתמש בתוכנת Rekognition [ על תמונות של חברי הקונגרס וגילו שהתוכנה זיהתה את 28 ביניהם כפושעים ידועים. החיוביות השגויות הללו הראו פגמים חמורים בתוכנה של אמזון והדגישו הטיה גזעית בתוכנית, וסימנו באופן לא פרופורציונלי אנשים צבעוניים. עכשיו, שנה לאחר מכן, ה- ACLU חזר על המבחן שלו ... ונראה שכמעט שום דבר לא השתנה.

במהלך הבדיקה האחרונה שימשה תוכנת Rekognition בתמונות המחוקקים של 120 בקליפורניה. הוא הפיק שוב עשרות גפרורים שקריים עם עבריינים ידועים. במאגר פלילי זוהו אנשי 26 כתמונות זהות, התואמות בערך אחד מכל חמישה עובדים הכפופים למערכת.

הבדיקה נועדה להדגיש את החסרונות של שימוש בטכנולוגיה כל כך לא מדויקת כדי לזהות סיכונים פוטנציאליים. עבריינים. כוחות משטרה שיכולים להשתמש בתוכנה כדי לזהות במהירות אנשים עם רישום פלילי עשויים להזדהות בטעות או להאמין בטעות כי מבקשים אותם תחת שם אחר.

"ברור שהתוכנה אינה מוכנה לשימוש המשטרה. פיל טינג, חבר האסיפה בקליפורניה שהיה אחד המחוקקים המואשמים בכזב שהוא עבריין, אמר ל לוס אנג'לס טיימס . "הטעויות האלה, אנחנו יכולים לצחוק קצת, אבל אם נעצרים וזה נמצא בארון שלך, זה יכול להיות קשה למצוא דיור, עבודה. יש לזה השפעות אמיתיות. "

אמזון מצידה טוענת כי ה- ACLU "עושה שימוש לרעה" בתוכנה, הניתנת להתאמה אישית כך שתחזיר את התוצאות רק כאשר היא בטוחה ב- 99% מהתאמה. החברה הציעה את ההצהרה הבאה ל Gizmodo :

ה- ACLU שוב משתמש ביודעין ופוגעני באמזון ההכרה כדי לעלות לכותרות. כפי שאמרנו פעמים רבות בעבר, כאשר משתמשים בהן עם סף הביטחון המומלץ של 99% וכחלק מהחלטה אנושית ניתן להשתמש בטכנולוגיית זיהוי פנים למשך זמן רב. רשימת יעדים שימושיים, כגון זיהוי. פושעים שיעזרו למצוא ילדים נעדרים להילחם בסחר בבני אדם. אנו ממשיכים לדאוג לחקיקה פדרלית בנושא טכנולוגיית זיהוי פנים בכדי להבטיח שימוש אחראי, ושיתפנו את ההצעות הספציפיות שלנו בנושא זה, הן באופן פרטי עם קובעי המדיניות והן בבלוג שלנו.

זה נהדר והכל, אבל אם התוכנה מתוכננת לשימוש עם אותה תצורה ספציפית במקום, מדוע ניתן אפילו לשנות אותה ומה הסבירות שכל רשויות אכיפת החוק יבצעו להשתמש גם לפי ההמלצה הזו?

מקור תמונה: מרקוס רדמן / imageBROKER / REX / Shutterstock

מאמר זה הופיע לראשונה (באנגלית) ב BGR