فيناسترا: القطاع المالي مطالب بمعالجة ظاهرة التحيّز القائم على الجنس في خوارزميات الذكاء الاصطناعي
جدة – سويفت نيوز:
وجّهت “فيناسترا”، إحدى أكبر شركات التكنولوجيا المالية الرائدة في العالم، دعوة مفتوحة لكافة الأطراف المعنية في قطاع التمويل العالمي تحثّها على معالجة ما يُعرف بظاهرة “تحيّز خوارزميات الذكاء الاصطناعي” الذي من المحتمل أن يؤثر على الملايين من الأفراد يومياً. وقد كلفت فيناسترا التي تقدم خدمات التكنولوجيا الحيوية والأكثر تطوراً إلى المؤسسات المالية من جميع الأحجام، بما في ذلك 90 من أكبر 100 بنك حول العالم، شركة “كيه بي ام جي” للخدمات الاستشارية مؤخراً بإجراء دراسة متعمّقة حول هذا الموضوع عبر كل الخدمات المصرفية وأنشطة الإقراض والتأمين. وقد ارتكزت الدراسة على الأخذ في الحسبان كيف أنه من الممكن للقرارات التي يتم اتخاذها بدعم من هذه التكنولوجيا المتطورة أن تؤثر على النتائج ذات الصلة ببعض الأشخاص والمجموعات. وفي ضوء هذه النتائج، نشرت “فيناسترا” خطة من خمس نقاط لرصد ومعالجة ظاهرة تحيّز خوارزميات الذكاء الاصطناعي، كما حثّت الأطراف المعنية في القطاع المالي على التعاون معاً لاتخاذ الإجراءات المناسبة وبناء مجتمع قائم على الإنصاف وتكافؤ الفرص.
في العقد الماضي، أصبح العالم المالي متقدماً تقنياً ورقمياً من خلال إدخال تكنولوجيا الذكاء الاصطناعي، لاسيما أشكال التعلم الآلي وتعزيز الكفاءات وعمليات الأتمتة، ونتج عن ذلك أن الكثير من المعاملات المصرفية وأنشطة الإقراض والتأمين يتم إنجازها الآن عن طريق الخوارزميات. وقد لعب كوفيد 19 دوراً ملفتاً في تسريع وتيرة استخدام هذه التقنيات، وفي حين أن هذا الوباء قد جلب معه العديد من الإيجابيات الواضحة، فإنه من الممكن لهذه الخوارزميات الحيوية أن تكون منصفة وغير متحيّزة كلياً تماماً مثل مجموعات البيانات المستخدمة في إنشائها. وبالتالي، ينبغي على الأطراف المعنية بالقطاع التحقق فيما إذا كانت حالات التحيز الموجودة في المجتمع تتكرر من خلال تصميم واستخدام هذه التقنيات.
ولتكوين مزيد من الفهم حول مدى خطورة المشكلة، كلفت “فيناسترا” شركة “كيه بي ام جي” بإعداد تقرير يكشف الحجم الهائل لأسواق إقراض الأفراد والتأثير المحتمل لخوارزميات الذكاء الاصطناعي. على سبيل المثال، في عام 2020، كان حجم إقراض المستهلكين والمعاملات المنجزة عبر مختلف فئات المنتجات المالية الرئيسية (بطاقات الائتمان وغيرها من منتجات قروض المستهلكين والرهن العقاري / تمويل السكن) يزيد عن:
• 6.110 مليار دولار في الولايات المتحدة
• 1.270 مليار دولار هونج كونج في هونج كونج
• 440 مليار جنيه استرليني في المملكة المتحدة
• 280 مليار يورو في فرنسا
• 110 مليارات دولار سنغافوري في سنغافورة
وسيتم الإبلاغ عن المخصص والتكاليف – على سبيل المثال أسعار الفائدة المحتسبة على الأفراد بشأن هذا الائتمان، في الكثير من الحالات، من خلال خوارزميات الذكاء الاصطناعي المستخدمة.
وقال سيمون باريس، الرئيس التنفيذي لفيناسترا، “في حال لم يتم منح الأولوية القصوى لهذه المسألة في القطاع المالية، سيصبح الذكاء الاصطناعي بمثابة القوة الدافعة التي ستسرّع من تداعيات التأثير السلبي على حياة الناس. ونحن في “فيناسترا” لا نملك كل الإجابات، ولكننا نعتقد بأنه يجب على الأطراف المعنية في القطاع الإقرار أولاً بأن ظاهرة تحيّز خوارزميات الذكاء الاصطناعي موجودة بالفعل، عندها فقط يمكننا التعاون معًا لإيجاد الحل الأنسب. وأود التأكيد بأننا سنعمل عن كثب مع شركائنا والنظام الإيكولوجي لقيادة رحلة التغيير الذي يتطلبه القطاع، وبالتالي، فإننا من خلال الجهود الجماعية والتعاونية سيكون بمقدورنا إعادة تشكيل مشهد التمويل وتطويره نحو الأفضل وجعله مفتوحاً للجميع. ويتمثل هدف “فيناسترا” الأساسي في التأكد من أن التكنولوجيا المالية وجدت لتعود بالنفع على الجميع وبأنها متفهّمة ومنصفة من كافة النواحي وتمنح الجميع حيزاً معقولاً من تكافؤ الفرص عندما يتعلق الأمر باقتراض الأموال.”
وصرحت د. ليان الين، مديرة استشارات تكنولوجيا الخدمات المالية في شركة “كيه بي ام جي”، بالقول، “إن كسب ثقة المستهلك والجمهور عموماً يُعدّ من أهم عوامل النجاح الحاسمة بالنسبة لقطاع الخدمات المالية. وتُبيّن النتائج الواردة في تقريرنا الخاص بشركة “فيناسترا” بأن مزودي الخدمات المالية بحاجة إلى توخي مزيد من الحذر عند تصميم وبناء وتنفيذ هذه الخوارزميات، وذلك للتأكد من الاستمرار في الحفاظ على الابتكار كقوة دافعة لتحقيق التقدم بطريقة آمنة وأخلاقية. يجمع التقرير بين التصورات والأفكار الحديثة حول ظاهرة تحيّز خوارزميات الذكاء الاصطناعي المدعومة بتطبيقات محددة للخدمات المالية، وإمكانية اتخاذ القرارات المتحيّزة. إن التخفيف من حدة تحيّز الخوارزميات يُعدّ أمرًا حاسماً في عالمنا الرقمي والقائم على البيانات. وقد يؤدي عدم القيام بذلك إلى مخاطر تتمثل في إلحاق ضرر مالي كبير بالمستهلكين الذين يستفيدون من هذه الخدمات “.
وتأكيداً على التزامها بمعالجة وحل هذه المشكلة، نشرت “فيناسترا” خطة عمل من خمس نقاط في إطار سعيها للمساعدة في إعادة تشكيل المشهد المالي وتطويره نحو الأفضل.
1) مراجعة وتعديل اتفاقية فيناسترا الخاصة بالمطورين: استكملت “فيناسترا” مراجعة وتعديل أحكام وشروط منصتها المعروفة FusionFabric.cloud للابتكار المفتوح والسوق المخصصة للمطورين. مما يعني أنه من المتوقع أن يأخذ المطورون والشركاء في الحسبان مسألة التحيّز في خوارزميات الذكاء الاصطناعي وسيصبح من حق “فيناسترا” التفتيش على هذا التحيز داخل أي تطبيق جديد.
2) ابتكار تقنيات جديدة للتحقق من صحة المفهوم: من ضمن ذلك على سبيل المثال “فين إيكوال” (FinEqual)، وهي أداة رقمية تساعد على تقديم الإقراض الخالي من التحيّز، والمصممة لتضع في متناول المستخدمين التكنولوجيا التي تمكّنهم من معالجة التحيّز في خوارزميات الذكاء الاصطناعي داخل شركاتهم. وتسعى “فيناسترا” إلى جعل “فين إيكوال” (FinEqual)، التي لاتزال في مرحلة التحقق من صحة المفهوم، متاحة للعملاء في غضون الأشهر الثماني عشر المقبلة.
3) ماراثون البرمجة من أجل الأفضل: تلتزم “فيناسترا” بدعم جهود التصميم والبرمجة لبناء مستقبل أفضل مع التركيز على تكريس مفهوم الشمول. وتحقيقاً لذلك، ستطلق “فيناسترا” مسابقة ماراثون البرمجة العالمي (هاكاثون)، وذلك في إطار سلسلة: “صمم من أجل مستقبل أفضل” بهدف إبراز المواهب النسائية في القطاع من خلال اختيار وتكريم الفرق الموهوبة التي يقودها العنصر النسائي وتساهم في تحقيق إنجازات متميزة تتخطى حدود الذكاء الاصطناعي والتعلم الآلي.
4) المساواة بين الجنسين في مكان العمل: لاتزال “فيناسترا” تواصل رحلتها في الشركة من خلال توزيع الوظائف بالتساوي بين الجنسين، أي بنسبة 50 في المائة من الذكور و50 في المائة من النساء في كافة فرق العمل لديها. وهذا يشمل زيادة عدد النساء ضمن نخبة القادة المهنيين والمهندسين البالغ عددهم 200 من نسبة 30٪ إلى 40٪ بحلول عام 2025 وإلى 50٪ بحلول عام 2030.
5) التعاون والتنسيق مع الجهات التنظيمية: تلتزم “فيناسترا” بشكل تام بمعالجة تحيّز خوارزميات الذكاء الاصطناعي. كما تعمل الشركة بشكل وثيق مع الجهات التنظيمة في أسواق متعددة، وباعتبارها من الشركات الرائدة في مجال التكنولوجيا، فإن “فيناسترا” تدعو كافة الأطراف المعنية في قطاع الخدمات المالية إلى توخي الحذر من مخاطر التهديد الذي يمثله تحيّز خوارزميات الذكاء الاصطناعي على المجتمع.
تتوفر إمكانية إرسال التقرير الكامل لشركة “كيه بي ام جي” مباشرةً عند الطلب أو يمكنكم قراءته على موقع فيناسترا الإلكتروني .
انضموا إلى جلساتنا النقاشية قبيل حلول اليوم العالمي للمرأة عن طريق الهاشتاج: #OpenByDefault #ChooseToChallenge
#OpenByDefault – تبذل “فيناسترا” جهوداً حثيثة لبناء مستقبل أفضل بحيث يكون فيه التمويل متاحاً للجميع. وابتداءً من اليوم العالمي للمرأة، سيتم دمج مبادرة (Open By Default) في كافة الأحداث التي ستنظمها “فيناسترا” والمحتوى الذي يحمل شعار علامتها التجارية واستراتيجيات التسويق المشغلة من قبها.
