يمكن أن تقلل اتفاقيتنا العالمية بشأن الذكاء الاصطناعي من التحيز والمراقبة

صورة مقربة لكاميرا المراقبة CCTV مع ضبابية ازدحام المرور في الخلفية

كاميرا CCTV

صور NYstudio / جيتي

يتواجد الذكاء الاصطناعي في حياتنا أكثر من أي وقت مضى: فهو يتنبأ بما نريد أن نقوله في رسائل البريد الإلكتروني ، ويساعدنا في التنقل من أ إلى ب ويحسن تقارير الطقس لدينا. يمكن أيضًا أن تُعزى السرعة غير المسبوقة التي تم بها تطوير لقاحات covid-19 جزئيًا إلى استخدام خوارزميات الذكاء الاصطناعي التي حطمت بسرعة البيانات من العديد من التجارب السريرية ، مما سمح للباحثين في جميع أنحاء العالم بمقارنة الملاحظات في الوقت الفعلي.

لكن التكنولوجيا ليست مفيدة دائمًا. غالبًا ما لا تمثل مجموعات البيانات المستخدمة لبناء الذكاء الاصطناعي تنوع السكان ، لذلك يمكن أن ينتج عنها ممارسات تمييزية أو تحيزات. أحد الأمثلة على ذلك هو تقنية التعرف على الوجه. يستخدم هذا للوصول إلى هواتفنا المحمولة وحساباتنا المصرفية والمباني السكنية ، ويتم توظيفه بشكل متزايد من قبل قوات الشرطة. ولكن يمكن أن يكون لها مشاكل في تحديد النساء والسود بدقة. بالنسبة لثلاثة برامج من هذا القبيل أصدرتها شركات التكنولوجيا الكبرى ، كان معدل الخطأ 1 في المائة فقط للرجال ذوي البشرة الفاتحة ، ولكن 19 في المائة للرجال ذوي البشرة السمراء وما يصل إلى 35 في المائة بالنسبة للنساء ذوات البشرة السمراء. أدت التحيزات في تقنيات التعرف على الوجوه إلى اعتقالات غير مشروعة.

ليس هذا مفاجئًا عندما تنظر إلى كيفية تطوير الذكاء الاصطناعي. 1 فقط من بين كل 10 مطوري برمجيات في جميع أنحاء العالم هم من النساء و 3 في المائة فقط من الموظفين في أكبر 75 شركة تكنولوجية في الولايات المتحدة يُعرفون بأنهم سود. ولكن الآن هناك أمل في أن العالم على وشك التحول إلى نهج أفضل بكثير.

بالأمس في اليونسكو ، توصلت 193 دولة إلى اتفاقية رائدة حول كيفية تصميم الذكاء الاصطناعي واستخدامه من قبل الحكومات وشركات التكنولوجيا. استغرقت توصية اليونسكو بشأن أخلاقيات الذكاء الاصطناعي عامين لتجميع وتضمين آلاف المشاورات عبر الإنترنت مع أشخاص من مجموعة متنوعة من الفئات الاجتماعية. ويهدف إلى إحداث تغيير جذري في ميزان القوى بين الأفراد والشركات والحكومات التي تعمل على تطوير الذكاء الاصطناعي.

وافقت البلدان الأعضاء في اليونسكو – وهذه تقريبًا كل دولة في العالم – على تنفيذ هذه التوصية من خلال سن تشريعات لتنظيم تصميم ونشر الذكاء الاصطناعي.

هذا يعني أنه يجب عليهم استخدام الإجراءات الإيجابية للتأكد من تمثيل النساء والأقليات بشكل عادل في فرق تصميم الذكاء الاصطناعي. يمكن أن يتخذ هذا الإجراء شكل أنظمة الحصص التي تضمن تنوع هذه الفرق.

مبدأ آخر مهم وافقت عليه الدول للتو هو حظر المراقبة الجماعية وغيرها من التقنيات الغازية التي تنتهك الحريات الأساسية. بالطبع ، لا نتوقع انسحابًا كاملاً من الدوائر التلفزيونية المغلقة في كل مكان ، لكننا نتوقع أن تقتصر هذه المراقبة الجماعية على الاستخدامات التي تتوافق مع حقوق الإنسان. ستستخدم اليونسكو “ضغط الأقران” والأدوات المتعددة الأطراف الأخرى التي تستخدمها وكالات الأمم المتحدة لفرض المعايير العالمية.

في الأشهر المقبلة ، سيعمل خبراء اليونسكو على إنشاء مجموعة من أدوات المراقبة ، لضمان أن تطوير ونشر الذكاء الاصطناعي يتوافق مع حقوق الإنسان ، ولكن لا يخنق الابتكار. سيكون هذا توازنًا صعب التحقيق وسيتطلب الالتزام الكامل من المجتمع العلمي.

الاتفاقية الجديدة واسعة وطموحة. إنه يعالج التنمر عبر الإنترنت وخطاب الكراهية ويلزم البلدان بخفض انبعاثات الكربون من التكنولوجيا – لقد ارتفعت كمية الطاقة المستخدمة لتخزين بياناتنا بشكل كبير منذ أن بدأ ابتكار الذكاء الاصطناعي في التوسع.

يدرك جميع اللاعبين في عالم الذكاء الاصطناعي أنه لا يمكنهم الاستمرار في العمل بدون كتاب قواعد.

تتوقع اليونسكو الآن شيئين. أولاً ، ستبدأ الحكومات والشركات طواعية في جعل أنظمة الذكاء الاصطناعي الخاصة بها تمتثل للمبادئ المنصوص عليها في التوصية – حدثت خطوات مماثلة بعد إعلان اليونسكو بشأن الجينوم البشري الذي حدد معايير البحث الجيني. ثانيًا ، ستبدأ الحكومات في التشريع باستخدام التوصية كدليل. ستراقب اليونسكو التقدم المحرز في التشريع وستكون البلدان ملزمة بالإبلاغ عن التقدم الذي تحرزه.

من خلال هذه الاتفاقية ، نحن واثقون من وضع الذكاء الاصطناعي في العمل حيث يمكن أن يكون له أكبر تأثير على أكبر تحديات العالم: الجوع والأزمات البيئية وعدم المساواة والأوبئة. نحن متفائلون لأننا بنينا الزخم من أجل تغيير حقيقي.

غابرييلا راموس هي مساعدة المدير العام لليونسكو للعلوم الاجتماعية والإنسانية

المزيد عن هذه المواضيع:

التعليقات

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول الإلزامية مشار إليها بـ *