سبعة أسرار عن اللوغاريتمات التي تتحكم في عالم الإنترنت

وحتى لو استخدمت هذه الطريقة لنحو 90 في المئة من الوقت، سيظل نحو عشرة زبائن في فندق يضم مئات الغرف يصعدون وينزلون على السلالم وفي الممرات طلبا للمساعدة عندما لا تفتح أبواب غرفهم اعتمادا على تقنية التعرف على وجوههم. وليس هذا الخيار الأفضل بالتأكيد لأقامة مسترخية في فندق.

بيد أن مثل هذه الأخطاء قد تسفر عن عواقب خطيرة، على سبيل المثال إذا استخدمت اللوغاريتمات لتصفية السير المهنية لمتقدمين إلى عمل ما، أو لتخصيص فوائد معينة وتوزيعها، أو لتقييم أداء المعلمين، إذ يمكن للأخطاء التي لا يمكن تجنبها أن تترك تأثيرا كبيرا على حياة الناس. لا سيما عندما نكون معتادين على الثقة المبالغة بها بقرارات الكومبيوتر والتقنية.

4- نجد أن من الصعب إلغاءها

سمعنا جميعا قصصا عن أناس تتبعوا تعليمات برامج الملاحة أو تحديد الموقع عبر الأقمار الاصطناعية وانتهوا إلى الوقوف حائرين أما في طريق مغلق النهاية أو عند حافة جرف صخري على البحر.

قد نضحك بسهولة على مثل هذه الأخطاء ولكن من المهم هنا أن نكون أمينين مع أنفسنا، في الاعتقاد أنه من الصعب تجنب اعتمادنا على استخدام التكنولوجيا.

وتلك يمكن أن تشكل مشكلة خطيرة حقا عندما تبدأ في استخدام اللوغاريتمات التي يمكن أن تنتج حالات خاطئة تكون فيها حيوات أناس على المحك.

خذ على سبيل المثال لا الحصر، واحدا من الاستخدامات المثيرة للجدل بشكل خاص للوغاريتمات، عندما يُتهم شخص في المحكمة بارتكاب جريمة، ويتنبأ لوغاريتم باحتمالات عودته لارتكاب الجريمة مرة أخرى. ومثل هذا الأسلوب في التوقع يستخدمه القضاة في المحاكم حول العالم لاتخاذ قرار بشأن الإفراج عن المدعى عليه بكفالة أو لا، وفي بعض الحالات لاتخاذ قرار بشأن مدة حكم المتهم.

في العام الماضي، أظهر بعض الأكاديميين أن هذه اللوغاريتمات لم تُحسن التنبؤ بما سيحدث للمدعى عليه في المستقبل، بطريقة أفضل من إعطاء قاعة ممتلئة بالناس المعلومات ذاتها والطلب منهم تخمين هل أن المدعى عليه سيرتكب جريمة أخرى أم لا.

وفي محاضرة أعياد الميلاد، سنشير إلى أنه ثمة مكان للوغاريتمات في قاعة المحكمة، لكن يجب استخدامها بعناية وحذر، لأن المشكلة هنا تتمثل في: ما الأصعب تجاهله بالنسبة للقاضي، هل هو توقع من جهاز غال يعتمد الذكاء الاصطناعي، أم مجرد تخمين من مجموعة من الناس الغرباء تماما.

5- لا ترتكب الخطأ نفسه لكل شخص

قد تعتمد اللوغاريتمات على الرياضيات، لكن هذا الأمر لا يعني أنها لن تكون منحازة.

على سبيل المثال، أشار لوغاريتم استخدم في عمليات توظيف أولية إلى أن من المرجح بقاء الناس في داخل الشركة إذا كان الزمن الذي يستغرقونه في رحلات وصولهم من العمل إلى البيت قصيرا، وبناء على هذا الاستنتاج أُبعد كل الاشخاص الذين يسكنون على بعد مسافة يستغرق الطريق اليها أكثر من ساعة من مكاتب الشركة.

ويبدو مثل هذا القرار عادلا ومقبولا من الخارج، ولكن نتيجته كانت أن من يستطيعون السكن في مركز المدينة قريبا من موقع الشركة كانوا من الأغنياء فقط، أي أن اللوغاريتم أبعد بشكل غير مبرر كل من جاءوا خلفيات اجتماعية واقتصادية أدنى عند تقديمهم طلبات التوظيف.

هذا النوع من الانحياز غير المقصود تراه في كل مكان، على سبيل المثال، إذا بنيت لوغاريتما لتحديد الخلايا السرطانية في أنسجة الصدر، بناء على بيانات مُسوح أجريت في مستشفيات غالبية مرضاها من أصول أثنية قوقازية، ستنتهي بنتيجة غير موفقة لتشخيص السرطان في نساء من خلفيات أثنية أخرى.

وكذلك الحال، مع تقنية التعرف على ملامح الوجه، التي صُممت واختبرت على مجموعات بشرية متجانسة تفتقد إلى التنوع، التي تصبح غير فاعلة بشكل كبير في تمييز ملامح وجوه أشخاص من ذوي بشرة ذات درجة لون أكثر دكنة.

إن عواقب ذلك خطيرة: لا يتعلق ذلك بالازعاج الناجم عن عدم قدرتك على فتح هاتفك المغلق فقط، أو إذا كانت سيارات ذاتية القيادة (من دون سائق) غير قادرة على تمييز (أو من المحتمل تتجنب) مشاة معينين، أو كانت أجهزة التعرف على الوجه في بوابات الدخول في المطارات تعمل فقط مع نوع محدد من الناس، بل بأن هذه اللوغارتيمات ستولد أنظمة أتمتة في مجتمع غير متكافئ.

ومن حسن الحظ أن العاملين في إعداد اللوغاريتمات باتوا أكثر تركيزا على هذا الأمر خلال السنتين الماضيتين ويحاولون بفاعلية تحسينها.

6- كيف يعلم اللوغاريتم متى يكون على صواب؟

هنا التحذير الأكبر الذي أقدمه. احترس من اللوغاريتمات المزيفة (أي تلك التي تبنى على بيانات غير علمية). ثمة توجه باستخدام لوغاريتمات مثيرة للقلق معتمدة على علم زائف. ولحسن الحظ، ثمة طرق تمكنك من تشخيصها، إبدأ بسؤال نفسك هذا السؤال البسيط: كيف يعلم اللوغاريتم متى يكون على صواب؟

مصدر الصورةGETTY IMAGES

وهذا سؤال يسهل أن يُجيب عليه لوغاريتم مناسب، على سبيل المثال في عملية تمييز ملامح الوجه: ثمة احتمالان إما أن تكون الشخص الذي يبحث عنه اللوغاريتم أو لا تكون. وهكذا فإن اللوغاريتم يعرف متى يكون على صواب في تحديد ملامح وجهك.

وعلى العكس، ثمة بعض اللوغاريتمات التي تزعم أنها قادرة على تحديد عواطف شخص ما وشخصيته من صوره في مقاطع فيديو. وتثستخدم في المقابلات لتقييم هل أن شخصا ما مناسبا للعمل في الشركة. وهنا سؤال يطرح نفسه : كيف يمكن للوغاريتم أن يعرف أنه قد استخلص عواطف الشخص بشكل صحيح؟

لنكن صادقين، هل تستطيع حتى وصف عواطفك الشخصية، وفي مناسبة مثل مقابلة عمل على وجه الخصوص وأنت تعيش فيها مزيجا من الإثارة والقلق بينما تحاول أن توحي أنك واثق من نفسك.

7- إسأل نفسك لمصلحة من تستخدم هذه اللوغاريتمات؟

في استبيان شهير أُجري في عام 2016، سُئل أناس أنه في حالة وقوع حادث اصطدام لا يمكن تجنبه في سيارة بدون سائق، من ستختار لانقاذه ركاب السيارة أم المارة الأبرياء؟

نسبة كبيرة من المشاركين في الاستبيان، نحو 76 في المئة، شعرت أن من الأخلاقي أن تقوم السيارات من دون سائقين بإنقاذ أكبر قدر من الأشخاص، وهذا يعني التضحية بالركاب الذين داخل السيارة.

وعندما سألت الدراسة نفسها المشاركين عن هل أنهم سيشترون سيارة يُمكن أن تتسبب في مقتلهم في ظرف حرج مثلما ذُكر، بدوا فجأة مترددين بالتضحية بأنفسهم من أجل الخير العام وإنقاذ أكبر عدد من الأشخاص. أية مفاجأة تلك!.

وهذا شيء يجدر تذكره خارج عالم السيارات من دون سائقين: إن اللوغاريتمات تُبنى لإنجاز هدف محدد، بيد أن النتيجة المرغوبة قد تتغير تبعا لمن سألتهم أو لكيفية توجيه أسئلتك لهم؟

في العادة، ينسجم ما هو أفضل بالنسبة إليك مع ما يحاول اللوغاريتم فعله: فلوغاريتمات التأمين قد تسهم في تخفيض نفقاتك، ولوغاريتمات التعرف على الوجه قد تساعد في جعل الطوابير تسير بشكل أسرع (بالنسبة لبعض الناس على الأقل). بيد أنه من المهم معرفة لمصلحة من تعمل هذه اللوغارتمات (لحساب شركات من أمثال: يوتيوب، سبوتيفاي، أوديوبل، فيسبوك، وما شابه)، فكل اللوغاريتمات بُنيت لخدمة الأشياء التي تحبها، ليس لأن لديها رغبة عميقة الجذور لأن تراك مستمتعا. بل إنها تحاول أن تبقيك في الموقع الذي تخدمه فقط لأطول فترة ممكنة، وأن تبيعك أشياءً وتُسوق لك الإعلانات.

هذه لمحات عن تلك القوة المرعبة التي تقف خلف عالم تكنولوجيا الإنترنت الذي نغرق فيه، ولكن ستجد الكثير في محاضرات أعياد الميلاد في المعهد الملكي البريطاني لعام 2019 والتي تحمل عنوان : “أسرار وأكاذيب : قوة الرياضيات الخفية” في 26 و 27 و 28 من الشهر الجاري وتنقل في بي بي سي راديو 4 في الساعة الثامنة مساءً.