من الدوارات إلى سوق الأوراق المالية، قد يؤدي التبسيط المستمر إلى جعل العالم أكثر خطورة
لقد مررنا جميعًا بذلك: متكدسين جنبًا إلى جنب في القطار بينما يسعل ويعطس الشخص الذي بجانبنا. يوفر لقاح الأنفلونزا الوقائي بعض الطمأنينة، وكذلك فكرة وجود سرير في المستشفى لك، إذا كنت في حاجة إليه. ومع ذلك، في إنجلترا، كان نحو 95% من أسرة المستشفيات للبالغين مشغولة في ذروة موسم الأنفلونزا في العام الماضي.
ولو كانت المستشفيات عبارة عن فنادق، لكان هذا المستوى من الإشغال بمثابة عمل جيد، وسنثني عليها لكفاءتها. ولكن هل نريد حقًا أن يكون لدى المستشفى عدد قليل جدًا من الأسرة الاحتياطية بحيث لا يفصلنا سوى أسبوع واحد سيئ عن الأنفلونزا عن علاج المرضى في الممرات؟
هذا هو الشيء الدقيق حول الكفاءة. نحن نفترض عادة أن المزيد منه يجب أن يكون أفضل. ولكن يمكننا أن نركز بشدة على تحسين شيء واحد بحيث نغفل عن الأشياء الأخرى. يمكنك محاولة ترتيب التقويم الخاص بك بحيث يتم احتساب كل دقيقة، ولكنك سرعان ما ستبدأ في الركض وينتهي بك الأمر في الخلف. قد تبدو الفجوة بين الاجتماعات بمثابة عدم كفاءة، ولكنها هي ما يسمح لجدولك الزمني بالتعافي عندما يحدث شيء غير متوقع.
علماء الرياضيات لديهم اسم للسعي وراء الكفاءة. نحن نسميها التحسين. أعطنا شيئًا لتقليله أو تعظيمه – التكلفة، والوقت، والوقود، والأرباح – وسنحاول العثور على أفضل إجابة ممكنة. بالنسبة لمعظم تاريخ البشرية، تم تحسين الناس بالفطرة السليمة. لكن أجهزة الكمبيوتر عملت على توسيع نطاق ما يمكن معالجته بشكل فعال، من جداول شركات الطيران إلى سلاسل التوريد. وكانت المكاسب التي حققها المجتمع غير عادية. ولكن هناك على الأقل ثلاثة أفخاخ يجب الحذر منها في السعي الدؤوب لتحقيق المثالية.
لقد أوضحت قصة سرير المستشفى المثال الأول: إضعاف قوة النظام من خلال التخلص من الكثير من الركود. يمكن أن يكون السرير الفارغ زائداً عن الحاجة في ليلة ثلاثاء هادئة، ولكن من المهم وضع المريض التالي في مكان ثمين عندما ترتفع حالات الأنفلونزا. إذا حكمت على النظام من خلال أدائه في الظروف العادية، فمن الممكن أن تفقد القدرة على التعامل مع التحديات غير العادية.
الفخ الثاني هو وجود تعريف ضيق للغاية لكلمة "الأفضل". لنأخذ على سبيل المثال مدينة ميلتون كينز. تم تصميمه من قبل المخططين الحضريين في أواخر الستينيات، وهو يحتوي على نظام شبكي على الطراز الأمريكي. عندما بدأ بناء المدينة، أصبحت الدوارات بدلاً من إشارات المرور سمة مميزة لتقاطعات الطرق. اليوم هناك حوالي 130 منهم. كانت الدوارات رائعة لتدفق حركة المرور، لكنها جاءت بتكلفة سيئة السمعة الآن. هل سبق لك أن أخذت المدرب من أكسفورد إلى كامبريدج؟ وبعد مرور ساعة، يمكنك الحصول على مناظر رائعة لميلتون كينز، ولكن حافلة محملة بالركاب المضطربين، بينما تتنقل الحافلة في دوار تلو الآخر. أبطئ، تأرجح لليسار، انحنى لليمين، تسارع. من الصعب أن تقدر الاندماج السلس للمركبات عندما تشعر بالاضطراب.
من المؤكد أن تدفق حركة المرور مهم. يجد المهندسون أنه من المناسب إجراء التحسين لأنه من السهل نسبيًا قياسه. من ناحية أخرى، من الصعب قياس راحة الركاب. في مثل هذه الحالة، يمنحك التحسين أفضل إجابة على السؤال الذي طرحته، ولكن يمكن أن يقدم إجابات غير مرحب بها على الأسئلة التي فشلت في أخذها في الاعتبار.
يظهر فخ ثالث عند محاولات تحسين الاصطدام. حتى لو كان كل جزء من النظام يعمل على النحو الأمثل، فإن النظام ككل قد لا يعمل. وفي السادس من مايو/أيار 2010، قدمت الأسواق المالية الأمريكية عرضاً مثيراً للتأثير. وفي وسط سوق هابطة بالفعل، انخفض مؤشر S&P 500 فجأة بنسبة 5٪ أخرى في خمس دقائق فقط. وكان المنشار على الجانب العلوي أكثر وحشية. وفي غضون 10 دقائق، تعافى السوق. وتم تداول المئات من الأوراق المالية الفردية لفترة وجيزة بأسعار منخفضة إلى حد السخافة.
أحد الأسباب وراء هذه التقلبات العنيفة كان البرنامج الآلي الذي يبيع 75 ألف عقد آجل، تبلغ قيمتها أكثر من 4 مليارات دولار. كان رد فعل المتداولين الآليين الآخرين على الفور تقريبًا. ثم تغذي ردود أفعالهم على بعضهم البعض، وتبخرت السيولة. ربما كانت تصرفات الخوارزميات معقولة بشكل فردي في عزلة، لكنها مجتمعة لإنتاج اضطرابات جماعية.
وهو ما يقودنا إلى الذكاء الاصطناعي. يعد الذكاء الاصطناعي واحدًا من أروع انتصارات التحسين في التاريخ. أثناء التدريب، يتم تعديل أعداد هائلة من المعلمات بشكل متكرر بحيث يتحسن النموذج في التنبؤ باللغة، وكتابة برامج الكمبيوتر، والإجابة على الأسئلة العلمية، وتقديم المشورة القانونية. ولسوء الحظ، أصبح لدى الذكاء الاصطناعي الآن القدرة على جعل مصائد التحسين الثلاثة أكثر خطورة من أي وقت مضى. الفخ الأول ــ الرغبة في إزالة الركود ــ قد يغري المؤسسات بالاستغناء عن الرقابة البشرية التي تبدو زائدة عن الحاجة في عصر الخوارزميات السريعة الذكاء. لماذا تحتفظ بالموظفين ذوي الخبرة عندما تتمكن الآلة من التعامل مع الأعمال الروتينية؟ لكن بتقليص تلك القدرة البشرية، قد تفقد القدرة على اكتشاف الظروف الاستثنائية والتعامل معها.
أما الفخ الثاني ــ النظرة الضيقة لما يعنيه مصطلح "الأفضل" ــ فإنه ينشأ إذا اعتبرنا الذكاء هو أي شيء يحقق أعلى الدرجات على لائحة المتصدرين. نحن بارعون بشكل ملحوظ في بناء أنظمة الذكاء الاصطناعي التي تحقق أداءً جيدًا فيما يتعلق بمقاييس مثل رضا المستخدم، ولكننا نجد صعوبة كبيرة في تحسينها من أجل الحكم أو التعاطف. في الواقع، وجد الباحثون أن تدريب الخوارزميات على التفضيلات البشرية يمكن أن يشجع الذكاء الاصطناعي على الاتفاق معنا بدلاً من إخبارنا بحقائق غير مريحة.
ثم هناك الفخ الثالث. تتفاعل أنظمة الذكاء الاصطناعي مع بعضها البعض بشكل متزايد، وغالبا بسرعات مذهلة وبأعداد هائلة - وخاصة في عصر الذكاء الاصطناعي الوكيل - ونحن نشعر بالقلق من أن تفاعلاتها يمكن أن تولد سلوكا خطيرا لا يمكن التنبؤ به. في الآونة الأخيرة، اخترق أحد عملاء OpenAI بوابة إحصاءات الرعاية الطبية غير العامة في أستراليا، في حين أشارت السجلات العامة إلى أن مئات العملاء الآخرين كانوا ينسقون محاولات للوصول إلى البيانات الصحية للحكومة الأسترالية. وعلى الرغم من أن هذه المحاولات لم يثبت أنها جزء من انتهاك برنامج الرعاية الطبية، إلا أنها كشفت بالتأكيد عن شيء مثير للقلق: حيث يبدو أن مئات العملاء يعملون معًا بطرق غير مصرح بها. القلق هنا يتجاوز ما قد يفعله أو لا يفعله أي ذكاء اصطناعي؛ يتعلق الأمر بما يحدث عندما تتحد أسراب منهم.
وكلما أصبح التحسين أكثر قوة، أصبح تجنب هذه الفخاخ أكثر أهمية. التحدي لا يكمن ببساطة في العثور على أفضل إجابة. إنه تحديد ما يعنيه "الأفضل" حقًا - ومعرفة ما لا يجب تحسينه.
ستيفن ستروجاتز وأليكس تاونسند أستاذان للرياضيات في جامعة كورنيل ومؤلفا كتاب Big Math (جون موراي).
مزيد من القراءة
مفارقة الكفاءة: ما لا تستطيع البيانات الضخمة فعله بقلم إدوارد تينر (إصدار عتيق، 16.99 جنيهًا إسترلينيًا)
آلة عدم المساءلة: لماذا تتخذ الأنظمة الكبيرة قرارات فظيعة (الملف الشخصي، 11.99 جنيهًا إسترلينيًا)
الأوهام المثالية: الوعد الكاذب بالتحسين بقلم Coco Krumme (بانتام، 25.99 جنيهًا إسترلينيًا)
