जीएसए संघीय वेब सेवाओं में चेहरे की पहचान पूर्वाग्रहों और पहुंच में सुधार की जांच करता है – Vanity Kippah

Written by Frank James

यूएस जनरल सर्विसेज एडमिनिस्ट्रेशन, जो सरकारी वेबसाइटों और ऑनलाइन सेवाओं जैसी चीजों के लिए प्रौद्योगिकी खरीदता है और शोध करता है, हाल ही में जारी इक्विटी एक्शन प्लान में एक्सेसिबिलिटी पर दोतरफा प्रयास कर रहा है। वेबसाइटों को न्यूनतम से ऊपर सुलभ बनाया जाना चाहिए, यह कहा, और चेहरे की पहचान प्रणाली में पूर्वाग्रह का मतलब है कि एफबीआई जब भी संभव हो इससे बच जाएगा।

कार्य योजना जीएसए में थोड़े से आत्मनिरीक्षण का परिणाम है, जिसने “संपत्ति का आकलन किया है और तीन उच्च-प्रभाव वाले फोकस क्षेत्रों के लिए कार्यों की एक श्रृंखला की पहचान की है,” जिनमें से एक “संघीय प्रौद्योगिकी डिजाइन और वितरण” है।

मेमो में लिखा है, “जिन्हें सरकारी सेवाओं की सबसे ज्यादा जरूरत होती है, उन्हें अक्सर उन सेवाओं तक पहुंचने में सबसे ज्यादा दिक्कत होती है।” “हम उन कार्यों के लिए प्रतिबद्ध हैं जो एक मुख्य डिजाइन सिद्धांत के रूप में एक उचित उपयोगकर्ता अनुभव को प्राथमिकता देते हैं, एल्गोरिथम पूर्वाग्रह को कम करते हैं, डिजिटल पहुंच में सुधार करते हैं, और अमेरिकी लोगों को सरकारी सेवाओं के वितरण का आधुनिकीकरण करते हैं।”

इसके लिए, जीएसए ने उन सेवाओं को प्रदान करने के अपने हालिया दृष्टिकोण के साथ दो प्रमुख समस्याओं की पहचान की है।

एक पहुंच के लिए एक सबपर प्रतिबद्धता है, या शायद इसे समुदाय की जरूरतों को पूरा करने के लिए सख्त पालन और विफलता के लिए एक निर्धारित प्रतिबद्धता के रूप में बेहतर ढंग से व्यक्त किया जा सकता है।

“अक्सर, सरकारी अनुप्रयोगों और वेबसाइटों में न्यूनतम भाषा पहुंच, भ्रमित नेविगेशन, और खराब डिज़ाइन प्रथाएं होती हैं जो उपयोगकर्ता के अविश्वास और निराशा को जन्म देती हैं,” जीएसए समीक्षा पढ़ती है। विशेष रूप से, यह नोट किया गया कि स्क्रीन रीडर पर भरोसा करने वाले दृष्टिबाधित उपयोगकर्ताओं की आदतें सरकारी साइटों को डिजाइन करते समय की गई धारणाओं से भिन्न होती हैं। हो सकता है कि लॉगिन और खाता जांच जैसे बुनियादी कार्य इन सामान्य विकल्पों का सम्मान न करें या ऐसे टूल (जैसे कर्सर का उपयोग करना) की आवश्यकता हो सकती है जो अक्सर उपयोगकर्ताओं के लिए अनुपलब्ध होते हैं।

इसे सुधारने के लिए, जीएसए का कहना है कि यह डिजाइन प्रक्रिया में कम प्रतिनिधित्व वाले समुदायों को शामिल करने के लिए उपयोगिता परीक्षण का विस्तार करेगा। (जैसा कि एक्सेसिबिलिटी अधिवक्ताओं ने मुझे बार-बार बताया है, इन समुदायों को शुरू से ही शामिल होना चाहिए या परिणाम ठीक वही होगा जो एजेंसी ने ऊपर वर्णित किया है।)

यह पुराने कंप्यूटरों, फ़ोनों और सीमित बैंडविड्थ वाले उपकरणों पर साइटों को बेहतर प्रदर्शन करने के लिए भी काम करेगा।

दूसरी समस्या यह है कि चेहरे की पहचान सेवाएं नस्लीय रूप से पक्षपाती हैं। यह शायद इस वेबसाइट के पाठकों के लिए एक आश्चर्य के रूप में नहीं आना चाहिए, लेकिन सरकार की खरीद और कार्यान्वयन प्रक्रियाएं धीमी और अजीब हैं, इसलिए यह पूरी तरह से आश्चर्यजनक नहीं है कि एफबीआई अब केवल तकनीकी समुदाय के बारे में चेतावनी दे रहा है। साल के लिए।

“हमारे अपने परीक्षण के माध्यम से, जीएसए ने पाया कि बड़े वाणिज्यिक चेहरे की पहचान के कार्यान्वयन में अफ्रीकी अमेरिकियों के लिए अनुपातहीन रूप से उच्च ‘झूठी अस्वीकृति दर’ थी,” मेमो पढ़ता है, किसी भी मामले में, यह ध्यान देने योग्य है कि यह क्षेत्र में अनुसंधान के बड़े निकाय के अनुरूप है। .

उनका दृष्टिकोण यहाँ:

उभरती प्रौद्योगिकियों और डेटा संप्रभुता में भेदभाव को दूर करना। विविध आबादी के लिए एक समान तृतीय-पक्ष पहचान सत्यापन अनुभव प्रदान करने के लिए, GSA की Login.gov टीम फेस-मैचिंग सेवाओं में समानता और पूर्वाग्रह पर शोध अध्ययन करेगी। इसके अलावा, GSA अपने द्वारा प्रकाशित उपयोगकर्ता पुस्तिकाओं में एक इक्विटी लेंस लागू करेगा, जो सरकार और उद्योग की सर्वोत्तम प्रथाओं को प्रभावित करेगा।

निराशाजनक रूप से अस्पष्ट, लेकिन एक व्यापक प्रतिक्रिया प्रणालीगत परिवर्तन के साथ-साथ होंठ सेवा का संकेत दे सकती है। चेहरे की पहचान सेवाओं में पूर्वाग्रह में आगे के शोध लगभग निश्चित रूप से वर्षों तक अकादमिक और औद्योगिक अनुसंधान से पीछे रहेंगे, लेकिन जीएसए शायद खुद को एक उदासीन पार्टी कहने में सक्षम होना चाहता है।

‘इक्विटी लेंस’ मददगार हो भी सकता है और नहीं भी, लेकिन यह आशा की जाती है कि, कई कंपनियों और उद्योगों की तरह, ऐसे लोग हैं जो वर्षों से इस तरह से समस्याओं को झंडी दिखा रहे हैं और किसी को सुनने के लिए नहीं कह सकते। हो सकता है कि यह उन आवाज़ों के लिए ध्यान आकर्षित करने का एक अवसर है जिसके वे हकदार हैं।

जीएसए अपने पूर्ण दस्तावेज़ में पहुंच और इक्विटी में सुधार करने के कई और तरीकों को भी सूचीबद्ध करता है, जिन्हें आप यहां डाउनलोड कर सकते हैं या नीचे देख सकते हैं।

About the author

Frank James

Leave a Comment