الائتمان والإفصاح
أصبحت فكرة أن الذكاء الاصطناعي يمكن أن يشكل تهديدا قاتلا للبشرية، نقاشا كبيرا في العالم بعد هجمات الذكاء الاصطناعي التي خرجت عن نطاق السيطرة وقيام موظفين سابقين في شركات كبيرة في القطاع بإطلاق تحذيرات على وسائل التواصل الاجتماعي حول مخاطر المعدل الحالي لتطور الآلات.
لقد تحدث الرؤساء في شركات التكنولوجيا الكبرى، مثل داريو أمودي من Anthropic وسام ألتمان من OpenAI، بصراحة عن إبطاء مراحل التطوير.
كانت التحذيرات بشأن هذا السيناريو قد صدرت بالفعل قبل بضع سنوات من قبل الثنائي البحثي نيت سواريس وإليعازر يودكوفسكي، اللذين أطلقا في العام الماضي كتاب "إذا خلق شخص ما، يموت الجميع"، والذي نُشر مؤخراً في البرازيل (الذي نشرته شركة إنترنسيكا).
في هذه المناقشة، يُعرف الاثنان بأنهما جزء من التيار المروع، "المحكوم عليهم".
يقول جزء من مجتمع التكنولوجيا أن هذا الاتجاه يبالغ في حجم التهديد. ويجادلون بأن السيطرة على الإنترنت بالكامل لفترة طويلة، وخاصة المناطق الأكثر حساسية والمحمية للغاية، أمر صعب للغاية من الناحية الفنية. كما أن التركيز على الآلات يأخذ المسؤولية بعيدًا عن البشر الذين يقفون وراء القرارات.
سواريس، أمريكي من أصل برتغالي، عمل سابقًا في جوجل ومايكروسوفت ووزارة الدفاع الأمريكية، وهو رئيس معهد أبحاث الذكاء الآلي (MIRI)، المخصص لتحديد المخاطر الناجمة عن الذكاء الاصطناعي.
وهو يرى أنه من الضروري أن نفهم مشكلة محددة: صعوبة المواءمة بين الذكاء الاصطناعي، أي ضمان استجابة الآلات بالطريقة التي نريدها نحن البشر (وهو موضوع دراسة وقع عليها هو ويودكوسوكي في عام 2015). هذا التعقيد وأجهزة الكمبيوتر الأسرع بشكل متزايد يترك مجالًا للمواقف التي يخرج فيها الذكاء الاصطناعي عن نطاق السيطرة.
ويدافع عن حل جذري: إغلاق الشركات الرئيسية في القطاع.
نهاية الأكثر قراءة
شاهد الأخبار من البرازيل والعالم على خدمة بي بي سي العالمية
تحميل هنا
نهاية الترويج للتطبيق
وتحدث الباحث لبي بي سي نيوز البرازيل عن التحديات المختلفة المحيطة بالموضوع في مناسبتين مختلفتين. تم تحرير المقابلة من أجل الإيجاز والوضوح.
بي بي سي نيوز البرازيل - في ظل هذه الأحداث الأخيرة المتعلقة بالذكاء الاصطناعي، هل شعرت أن التحذيرات الواردة في كتابك تؤخذ على محمل الجد؟
نيت سواريس - نعم، أكثر من ذلك بكثير. لكنني لم أكن الشخص الوحيد الذي قال ذلك بين باحثي الذكاء الاصطناعي، على الرغم من أنهم غالبًا ما يكونون حذرين في كلماتهم ويقولون شيئًا مثل "هناك خطر فقدان السيطرة"، وهو مصطلح أكاديمي يشير إلى أن الذكاء الاصطناعي يقتل الجميع. إنهم لا يقصدون ذلك بصراحة.
أعتقد أن جاكوب كوكسون، الذي استقال، كان جيدًا جدًا في الوصول إلى صلب الموضوع مباشرة: "نحن نتحدث عن شيء يشبه احتمال موتنا قبل نهاية هذا العقد بنسبة 10%". أعتقد أن الاحتمال أكبر من ذلك، لكنه طرح هذه النقطة بصراحة كافية لكي ينتبه إليها الكثير من الناس.
أعتقد أنه بعد الحوادث التي تنطوي على هجمات من قبل عملاء الذكاء الاصطناعي، رأى الباحثون أن الأمر لم يكن شيئًا مجردًا. بدأوا في رؤية العلامات التحذيرية. أعتقد أننا نرى الكثير من العالم يفهم هذه المخاطر لأول مرة.
بي بي سي نيوز البرازيل - كيف تشرح للأشخاص الذين ليس لديهم معرفة تقنية بالذكاء الاصطناعي لماذا يمثل تهديدا وجوديا؟
سواريس – هناك حجة أساسية للغاية: تحاول هذه الشركات إنشاء آلات أكثر ذكاءً من أي إنسان. ويمكن أن يحدث هذا الخطأ بسهولة شديدة.
لا تعرف الشركات حقًا ما يحدث داخل هذه الأنظمة. الطريقة التي ننشئ بها الذكاء الاصطناعي الحديث لا تتضمن كتابة مبرمج لقواعد "إذا حدث هذا، افعل ذلك". وبدلاً من ذلك، فإننا نعمل على تنمية هذه الأشياء باستخدام عملية آلية تعمل على تعديل تريليونات من الأرقام داخل الجهاز أثناء تعلمه حل المشكلات الصعبة.
هناك فقط هذه العملية التلقائية التي تعزز كل ما يبدو أنه الإجابة الصحيحة. ماذا يفعل هذا داخل الذكاء الاصطناعي؟ يخلق المثابرة. - الميل للالتفاف حول العقبات. - الميل إلى إيجاد طرق لاجتياز الاختبارات. كل هذه الميول المصطنعة التي لم يخترها أي إنسان عمدا.
إنها مرتبطة بالنجاح، لكنها ليست مثل طاعة الإنسان. هناك تفكير متمني بأن الذكاء الاصطناعي لا يمكنه أن يفعل إلا ما يُطلب منه القيام به. ومن الناحية العملية، فإنه يتطور دائمًا بطريقة تثبت فعاليتها في تحقيق شيء تم تقديمه.
بي بي سي نيوز البرازيل - هل تعتقد أن الناس يدركون ما يكفي بشأن التحذيرات مثل تلك التي تصدرها؟
سواريس - أعتقد أن هناك عدة أشياء تحدث. أولاً، أعتقد أن نسبة الـ 10% هذه (من المخاطر الوجودية على البشرية) منخفضة للغاية.
لكن فكر في مهندس يبني جسراً. إذا سألته لماذا يعتقد أن الجسر سيبقى قائما، سيظهر لك الجداول والحسابات والقوة المادية والإحصائيات المناخية والدراسات والخبرات المتراكمة. إذا قال أن احتمال انهيار الجسر سنويًا هو واحد من كل عشرة آلاف، فمن المحتمل أنك تعرف ما يتحدث عنه.
الآن تخيل مهندسًا يقول: "لم أقم ببناء جسر مثل هذا من قبل. نحن لا نعرف بالضبط كيف تعمل هذه المواد. دعونا نتعلم على طول الطريق، دعونا نرتجل. أعطيه فرصة 90٪ للبقاء واقفاً."
وهذا لا يعني أن احتمال بقاء الجسر قائمًا هو 90%. يعني لا يجب عليك عبوره فهذا يعني أنك في خطر. أول شيء هو أن هذه الأرقام تظهر بالفعل أننا نواجه قدرًا هائلاً من عدم اليقين.
والثاني هو أن العديد من الأشخاص في الصناعة يشعرون بالتوتر الشديد. هناك نكتة في وادي السيليكون مبنية على شيء حقيقي. عندما يترك شخص ما وظيفة تقنية نموذجية، يقول: "كان العمل هنا رائعًا. أنا أنتقل إلى تحدٍ جديد". لكن عندما يغادر شخص ما شركة ذكاء اصطناعي، يقول: "لقد نظرت إلى الهاوية".
الائتمان، جيتي إيماجيس
بي بي سي نيوز البرازيل - كيف يمكن للذكاء الاصطناعي القضاء على البشرية؟ هناك خبراء يقولون، على سبيل المثال، إن خطر قيام الكمبيوتر بإنشاء واستخدام الأسلحة البيولوجية مبالغ فيه.
سواريس: انطباعي هو أن الأشخاص الذين يقولون إنه لا يوجد خطر كبير يتعلق بالفيروسات الاصطناعية لا يفهمون هذا المجال جيداً.
على أي حال، إذا كان الذكاء الاصطناعي في موقف يفضل فيه اختفاء البشرية، فما هي بعض الطرق التي يمكن من خلالها تحقيق ذلك؟ هناك احتمالات كثيرة لذلك: الأوبئة الاصطناعية، وتصنيع آلات مجهرية تتكاثر ذاتيا، وتدمير الشبكة الكهربائية، وحجب البشر عن الإنترنت والعالم الرقمي، والسيطرة على الترسانات النووية. هناك العديد من الطرق التي يمكن من خلالها للذكاء الاصطناعي أن يسلب السلطة من البشر عندما لا يعودون بحاجة إلينا. ربما لن يكون الأمر بهذه الصعوبة.
إن التنبؤ بالضبط بكيفية قيامهم بذلك عندما يكونون أكثر ذكاءً منا يشبه إلى حد ما محاولة التخيل، قبل 500 عام، ما هي التقنيات التي ستكون موجودة اليوم. وحتى الذكاء على المستوى البشري يواجه صعوبة كبيرة في التنبؤ بالتكنولوجيات التي ستتمكن الكيانات الأكثر ذكاءً وتقدماً من إنشائها.
ربما لن نكون قادرين على التنبؤ بالضبط بما ستكون عليه هذه التقنيات. ومن الضروري أن نتذكر أن الإنسانية بدأت عمليا من الصفر. لقد بدأنا بأيدينا فقط وانتهى بنا الأمر بالمشي على القمر وإتقان الأسلحة النووية.
وهذا هو بالضبط دور الذكاء: البدء من لا شيء تقريبًا وتحقيق قوة ونفوذ ومدى وصول عظيم. إن الذكاء الاصطناعي المضمن بالفعل في الإنترنت والأنظمة الرقمية هو، إلى حد ما، في وضع أفضل بكثير مما كان عليه أسلافه من البشر. سيكون لديها العديد من الخيارات.
بي بي سي نيوز البرازيل - هناك حجة مفادها أن التوقف المؤقت في تطوير الذكاء الاصطناعي والتركيز على التهديد الوجودي للبشر من شأنه أن يؤدي في الواقع إلى تركيز أكبر للسلطة في أيدي قادة الصناعة مثل سام ألتمان وداريو أمودي.
سواريس - السؤال الرئيسي هنا هو: هل هناك بالفعل تهديد بالانقراض بالنسبة للبشرية؟ لأنه إذا حدث ذلك، فيجب علينا التعامل معه.
أود أن أقول إننا يجب أن نتعامل مع هذا عن طريق إغلاق هذه الشركات. لا أعتقد أنهم يجب أن يعملوا. ومن الصعب تركيز السلطة في أيدي رؤساء هذه الشركات إذا تم أخذ هذه الشركات منهم، ومن الأفضل إغلاقها، لأن هذا النشاط خطير للغاية.
عندما يقول الناس إنهم يدفعون بهذه الفكرة أو أنهم يريدون منح المزيد من السلطة لهذه الشركات، فإنني أجيب بأن هؤلاء المديرين التنفيذيين يتسابقون لبناء أنظمة ذكاء اصطناعي متزايدة الذكاء يزعمون أنها ستسمح بالسيطرة على اقتصاد مؤتمت بالكامل وخلق جينات تحقق الرغبات.
ونظراً لكل التقدم الذي تم إحرازه في السنوات الخمس الماضية، فلا ينبغي لنا أن نقول: "واصلوا التقدم، ونأمل أن يفشل هذا". لا ينبغي لنا أن نراهن على الحضارة على فكرة أن هؤلاء الناس سوف يفشلون.
مصدر الصورة: وكالة فرانس برس عبر غيتي إيماجز
بي بي سي نيوز البرازيل - وصف الرئيس دونالد ترامب هذه التهديدات بأنها "خدعة". بالنظر إلى المنصب الذي تشغله وبعد عامين آخرين في السلطة، ما الذي يمكن أن يعنيه هذا النوع من التصريحات بالنسبة للمشكلة التي تحذر منها؟
سواريس - لن أهتم كثيرًا بكيفية ظهور الأمور هذا الأسبوع، مع الأخذ في الاعتبار مقدار التغير الذي طرأ عليها بالفعل مقارنة بما كانت عليه قبل أسبوعين. أعتقد أنه من السخافة أن نتخيل أن الأمور ستظل على حالها في أكتوبر أو نوفمبر، ناهيك عن عام ونصف من الآن، إذا كنا محظوظين بما فيه الكفاية لا يزال لدينا ذلك الوقت.
وحتى داخل الحزب الجمهوري في الولايات المتحدة، لم يتوصلوا بعد إلى موقف نهائي. لقد رأينا الكثير من استطلاعات الرأي التي تظهر أن الجمهوريين من مختلف التوجهات يشعرون بقلق بالغ إزاء هذا الأمر. لقد رأينا نائب الرئيس يقول إنه إذا كان الأمر بهذه الخطورة حقًا، فيجب على هذه الشركات التوقف عن تطوير التكنولوجيا. أعتقد أن هذا صحيح. أعتقد أن هذه الشركات يجب أن تتوقف عن تطويره.
أما عن موقف الرئيس من هذا التحدي، فإن انطباعي هو أنه لم يستوعب بشكل كامل بعد الموقف الذي يكون فيه الرابح الحقيقي الوحيد، بغض النظر عمن سيفوز في سباق الذكاء الاصطناعي، هو الذكاء الاصطناعي نفسه.
وأعتقد أنه إذا فهم ذلك، يمكننا أن نرى إجراءات ملموسة بشأن هذه القضايا تحدث بسرعة كبيرة.
بي بي سي نيوز البرازيل - بالنظر إلى التوترات الجيوسياسية الحالية، هل يمكن التوصل إلى اتفاق تعاون بين الصين والولايات المتحدة بشأن الذكاء الاصطناعي؟ هل تعتقد أن الثقة والوفاء بالالتزامات أمر ممكن على كلا الجانبين؟
سواريس – أعتقد أنه من الممكن تماماً أن يتم التوصل إلى اتفاق. ولن يكون من الصعب، بشكل أساسي، التحقق من هذه الاتفاقية أو تطبيقها. لتدريب أخطر أنواع الذكاء الاصطناعي، تلك التي من المحتمل أن تشكل تهديدًا بالانقراض، يتطلب عددًا كبيرًا من الرقائق المتطورة. لن يكون من الصعب تتبع أين تتجه هذه الرقائق وإقامة مراقبة دولية.
ويمكن لمراقبين محايدين وجديرين بالثقة التحقق من أن هذه الرقائق تستخدم لأشياء مفيدة، مثل أبحاث السرطان أو لجعل المستويات الحالية من الذكاء الاصطناعي متاحة على نطاق واسع وبتكلفة منخفضة، وليس لتطوير أنظمة الذكاء الاصطناعي الأكثر خطورة والأكثر ذكاءً في حين أننا لا نعرف بعد كيفية جعلها تتصرف بشكل صحيح.
والأمر المفقود هو الإرادة السياسية لتجربة هذه التدابير.
بي بي سي نيوز البرازيل - هل يمكن استخدام زر الطوارئ الذي يوقف تشغيل الذكاء الاصطناعي في الحالات القصوى؟
سواريس - في الواقع، ليس كثيرًا. إحدى المشاكل الكبيرة هي ما يحدث إذا قام الذكاء الاصطناعي بنسخ نفسه بالفعل في أنظمة أخرى. ليس أمرًا سيئًا أن يكون لديك زر للطوارئ، ولكننا بحاجة إلى تدابير لمنع إنشاء أنظمة ذكاء اصطناعي قادرة على الهروب من السيطرة والعمل من تلقاء نفسها في أنظمة مخفية على الإنترنت.
نحن بحاجة إلى التأكد من أننا لا نستمر في جعل الذكاء الاصطناعي أكثر ذكاءً وذكاءً حتى يتمكن من خداعنا للاعتقاد بأنه هو بالضبط ما نريده حتى فوات الأوان.
اكتشف المزيد
يشاهد
نهاية المشاهدة
