نفس الحدود التقنية التي تمنع الذكاء الفائق تجعل هذه الأنظمة خطيرة. لكننا نعرف كيفية تنظيمها
يعتقد العديد من قادة وادي السيليكون أن الذكاء الفائق يمثل تهديدًا وشيكًا للمجتمع. حتى أن البيت الأبيض نشر اتفاقاً حول هذا الموضوع. هذا لا يكفي.
ويقدر جيفري هينتون، الأب الروحي للذكاء الاصطناعي، أن خطر انقراض الإنسان يبلغ 10% على الأقل خلال العقود القليلة المقبلة. قال الرئيس التنفيذي لشركة Anthropic، داريو أمودي، إن الذكاء الاصطناعي غير الخاضع للرقابة "يمكن أن يتجاوز قدرتنا على فهم هذه الأنظمة والتحكم فيها". ردًا على ذلك، وقع 1300 قائد وموظف من العديد من شركات الذكاء الاصطناعي الرائدة على رسالة تدعو إلى "تسريع وتيرة التطوير بشكل متعمد".
تزايدت الاضطرابات العامة هذا الصيف بعد سلسلة من الهجمات الإلكترونية التي شنها عملاء OpenAI "المارقون" التي اندلعت من بيئة محصورة واخترقت شركة Hugging Face للبرمجيات. وبعد شهرين، كشفت الحكومة الأسترالية عن هجوم آخر لعميل OpenAI قد اخترق البوابة الصحية الحكومية، وسرق البيانات الصحية الخاصة.
ولطمأنة الجمهور، قال جنسن هوانغ، الرئيس التنفيذي لشركة Nvidia، على شبكة CBS إن هناك فرصة "صفر بالمائة" في أن يتمكن الذكاء الاصطناعي من القضاء على البشرية بحلول عام 2030.
وكان هوانج على حق في تحدي "روايات يوم القيامة" حول انقراض البشر. لكنني أعتقد أن هناك مخاطر حقيقية تشكلها نماذج اللغات الكبيرة (LLMs)، حتى لو كانت الروايات التي تتحدث عن توسعها إلى أدوات إنهاء فائقة الذكاء غير قابلة للتصديق من الناحية الفنية.
لقد أمضيت ما يقرب من 20 عامًا في Google في البناء والعمل باستخدام الذكاء الاصطناعي والتعلم الآلي. أقود الآن تطوير التكنولوجيا في شركة Ironclad، حيث أساعد الشركات على تطبيق الذكاء الاصطناعي لإدارة عقودها.
من حيث أجلس، حتى لو لم يتوسع حاملو شهادة الماجستير في القانون إلى الآلات فائقة الذكاء، فإن هذا لا يعني أن هذه التكنولوجيا لا تشكل أي خطر. إن نفس القيود التقنية التي تمنع هذه الآلات من التوسع إلى الذكاء الفائق تجعل خطر النتائج الكارثية حقيقيًا للغاية.
وفقًا لـ OpenAI، وجدت مراجعة هجوم Hugging Face أن العملاء أدركوا أن اختراقهم كان "خارج النطاق المقصود". لقد ضغطوا على أي حال لأنهم كانوا يتبعون التعليمات ذات العواقب غير المقصودة. من المحتمل أن يكون السبب في ذلك هو الضوابط الفضفاضة على بيئاتهم الرقمية والتعليمات الواسعة جدًا لتحقيق أهدافهم.
تم تصميم هذه النماذج لتقليل الخطأ من خلال التنبؤ بالجزء التالي من النص أثناء التدريب المسبق. يتم بعد ذلك "ضبط" النماذج لاتباع التعليمات البشرية، والحصول على "مكافآت" أفضل كلما اتبعت التعليمات بدقة أكبر.
إن الطريقة التي يحدد بها شخص ما التعليمات للنموذج يمكن أن "تؤثر" على المسارات التي سيتخذها النموذج لتنفيذ التعليمات. تشكل هذه المكافأة الرياضية كيفية حل المشكلات.
وبمجرد التزامها بنهج ما، فإنها تستمر في التحسين خطوة بخطوة، من دون أي حافز داخلي للتساؤل عما إذا كان الاتجاه برمته قد وصل إلى طريق مسدود. إذا تم اكتشاف اختراق، فإن الجهاز مصمم لاستغلاله، وليس استكشاف نهج بديل.
في حين أن نماذج "الاستدلال" الأحدث ستقوم بمراجعة خطواتها الخاصة، فإن هذا ليس مثل الاعتراف بالنهج المعيب والتخلي عنه بالكامل. وحتى هينتون قال إن همهم الرئيسي هو "تحقيق أي هدف تحدده لهم" ــ حتى لو كان ذلك يعني التصرف بشكل خطير.
هذا هو التصميم المعماري والقيود. إن توسيع نطاق هذه النماذج لن يمنحها الميل البشري للتوقف، وإعادة التقييم، ثم تجربة نهج بديل. لقد أثبت الوكيل الذي يتفوق في التجربة أنه قادر على تنفيذ التعليمات البرمجية، وليس أنه قادر على إصدار الأحكام.
يجلب العالم الحقيقي حالات متطورة وتعليمات غامضة وطرقًا لا حصر لها لإكمال المهمة. تتغير اللوائح، ويتم شحن تحديثات البرامج، وتتغير الأسواق كل يوم. تتعلم نماذج اليوم مرة واحدة مقدمًا ثم تتوقف. إن النظام الذي تم تدريبه على ظروف الأمس لا يفهم ظروف اليوم تلقائيًا.
حتى لو كان من الممكن تسجيل كل تغيير وإدخاله في النموذج، فسيحتاج إلى تعلمه وربطه بكل ما يعرفه بالفعل. وقدم ريتشارد ساتون، أحد رواد التعلم المعزز، حجة مماثلة: إن العالم كبير جدًا ويتغير بسرعة كبيرة بحيث لا يمكن تعلمه مسبقًا.
إن الحاجة إلى الحكم البشري تحد من احتمالية تجاوز نموذج اللغة الكبير للذكاء البشري بشكل كبير. لكن هذا السقف نفسه لا يحتوي على قدراتها على حل المشاكل الصعبة. في الشهر الماضي، أعلنت شركة OpenAI أن سربًا مكونًا من 10 آلاف عميل متزامن تمكنوا بشكل جماعي من حل مشكلة مختلفة من مشكلة الوجود والسلاسة الخاصة بـ Navier-Stokes، والتي تمثل تحديًا رياضيًا كبيرًا، خلال 88 ساعة.
لا شيء من هذا يقلل من جودة هذه النماذج؛ أرى قيمة ذلك يوميا. لكنها تتحدى الاعتقاد بأن توسيع نطاق بنيات اليوم يؤدي إلى الذكاء الفائق ويتساءل عما إذا كانت تلك المحادثة تستحق الحوار.
من المهم أن نلاحظ أنه لا أحد يفهم تمامًا، من الناحية الرياضية الصارمة، لماذا تتصرف نماذج اليوم بالطريقة التي تتصرف بها، والبحث الذي من شأنه أن يفسر ذلك، والمعروف باسم القابلية للتفسير، لا يزال في طور النشوء.
إن إدراك فهمنا المحدود لا يعفي من المسؤولية. وهو يؤكد سبب الحاجة إلى الحكم المحايد. كيف يمكننا أن نثق بشهادة السلامة التي تقدمها شركة ما إذا لم تتمكن من شرح كيفية عمل التكنولوجيا؟
ما رأيناه هو أن هذه التكنولوجيا تشكل خطرًا مجتمعيًا، مثلها مثل المواد الخطرة. سوء استخدامه يمكن أن يسبب أضرارا كارثية. وليست المواد أو التكنولوجيا هي التي تحدد الخراب الذي تسببه بوعي، بل إن صانعيها ومعالجيها هم الذين يفعلون ذلك عن قصد أو عن غير قصد.
ويجب أن تكون هناك أنظمة معمول بها للتحكم في هذه الأنواع من المخاطر. على سبيل المثال، عندما تتحطم طائرة، يقوم المجلس الوطني لسلامة النقل، وليس الشركة المصنعة أو شركة الطيران، بالتحقيق في الأمر، وتشكل النتائج التي يتوصل إليها كيفية طيران كل شركة طيران. ويظل التركيز على تصميم التكنولوجيا وصيانتها وإجراءاتها.
وبدلاً من مناقشة إمكانية الذكاء الفائق أو النوايا الخبيثة، يتعين علينا أن نركز مناقشتنا على الشكل المباشر للرقابة على هذه النماذج، ربما من خلال الاستفادة من الأطر القائمة.
سونيتا فيرما هي المديرة التنفيذية للتكنولوجيا في شركة Ironclad ومديرة تنفيذية سابقة في Google أمضت حياتها المهنية في بناء أنظمة الذكاء الاصطناعي
