باحث يستقيل محذراً من نماذج ذاتية التحسين للذكاء الاصطناعي
أعادت استقالة باحث في مجال الذكاء الاصطناعي النقاش حول الحدود التي يمكن أن يصل إليها تطوير النماذج المتقدمة، بعدما عبّر عن مخاوفه من انتقال الصناعة تدريجياً من بناء أنظمة تنفذ المهام التي يحددها البشر إلى نماذج قد تمتلك قدرة متزايدة على تطوير أدائها بنفسها.
اقرأ أيضا: بن غفير والذكاء الاصطناعي.. تجويع الأسرى يتحول لدعاية
وأعلن الباحث جيكوب كوكسون مغادرته شركة «أنثروبيك»، عازياً قراره إلى عدم رغبته في المشاركة في تطوير أنظمة قادرة، وفق تقديره، على تحسين نفسها بصورة متواصلة. ويرى كوكسون أن الوصول إلى هذا المستوى من التطور يطرح سؤالاً يتجاوز قدرة النماذج على أداء المهام المعقدة، ليصل إلى مسألة قدرة البشر على إبقاء هذه الأنظمة ضمن الحدود التي جرى تصميمها من أجلها.
ويستند هذا التخوف إلى فكرة أن الأنظمة التي تستطيع تحسين قدراتها بصورة متكررة قد تدخل في دورة يصعب التنبؤ بمخرجاتها على المدى الطويل. فكلما ارتفعت قدرة النظام على تحليل المعلومات وكتابة البرمجيات وتطوير أدواته، يصبح من الأصعب تحديد الكيفية التي يمكن أن يتصرف بها عند بلوغه مستويات أعلى من الاستقلالية.
سباق لا يتوقف
المشكلة، وفق هذا الطرح، لا ترتبط بشركة واحدة بقدر ما تتصل بطبيعة المنافسة التي تشهدها صناعة الذكاء الاصطناعي. فالشركات الكبرى تتسابق على تطوير نماذج أكثر قدرة على الاستدلال والبرمجة والتخطيط وتنفيذ المهام، فيما يدفع التنافس التجاري والعلمي باتجاه تقليص الفواصل الزمنية بين جيل وآخر من النماذج.
وفي هذا السياق، يشير كوكسون إلى أن بعض العاملين في القطاع باتوا يستخدمون تعبيرات من قبيل «المرحلة الحاسمة» و«المرحلة النهائية» عند الحديث عن الطريق المؤدي إلى نماذج ذاتية التحسين.
ولا تعني هذه المصطلحات بالضرورة وجود توافق داخل القطاع على أن الوصول إلى أنظمة خارجة عن السيطرة بات أمراً حتمياً، لكنها تعكس، بحسب التحذيرات المطروحة، تصاعد النقاش بشأن ما إذا كانت وتيرة التطور الحالية تمنح إجراءات الأمان والرقابة الوقت الكافي لمواكبة قدرات النماذج الجديدة.
بين التقدم والمخاطر
لطالما ارتبط تطور الذكاء الاصطناعي بوعود تتعلق بزيادة الإنتاجية وتسريع البحث العلمي وتحسين الخدمات، إلا أن النقاش انتقل خلال السنوات الأخيرة إلى مستوى مختلف، يتعلق بطبيعة العلاقة المستقبلية بين الإنسان والأنظمة التي يصنعها.
وتكمن إحدى أكثر النقاط حساسية في مسألة «التحكم». فالنظام الذي ينفذ أوامر واضحة يتيح للبشر هامشاً واسعاً للمراقبة والتدخل، بينما قد تصبح عملية الرقابة أكثر تعقيداً عندما تتولى الأنظمة بنفسها سلسلة طويلة من العمليات، خصوصاً إذا كانت قادرة على تعديل أساليب عملها أو اقتراح طرق جديدة لتحقيق أهدافها.
من هنا، لا تتوقف المخاوف عند احتمال وقوع خطأ تقني، وإنما تمتد إلى سؤال أوسع: ماذا يحدث إذا أصبحت قدرة النظام على التعلم والتطوير أسرع من قدرة البشر على فهم مساره بالكامل؟
تحذير أم سيناريو مستقبلي؟
كوكسون يذهب إلى السيناريو الأكثر تشدداً في تقديراته، إذ حذر من احتمال خروج التطورات عن السيطرة، وربط ذلك بإطار زمني قد يصل إلى نهاية العام المقبل.
لكن هذا التقدير يبقى، حتى الآن، توقعاً وليس نتيجة علمية محسومة. فمسألة وصول الذكاء الاصطناعي إلى مرحلة يستطيع فيها تطوير نفسه بصورة مستقلة، فضلاً عن احتمال فقدان البشر السيطرة عليه، لا تزال موضع نقاش واسع بين الباحثين، مع اختلاف كبير في تقدير سرعة حدوث مثل هذه التطورات وإمكاناتها ومخاطرها.
ومع ذلك، فإن أهمية التحذير لا تكمن بالضرورة في دقة الموعد الذي حدده الباحث، بقدر ما تكمن في كشفه عن القلق المتزايد داخل القطاع نفسه. فالنقاش لم يعد يدور فقط حول ما يستطيع الذكاء الاصطناعي فعله اليوم، وإنما حول ما قد يصبح قادراً على فعله عندما تتراكم قدرات النماذج وتتراجع الحاجة إلى التدخل البشري في مراحل متزايدة من عملية التطوير.
وبينما تواصل الشركات دفع حدود القدرات التقنية، تبدو القضية الأساسية مرتبطة بمدى قدرة الأبحاث الخاصة بالسلامة والرقابة والتشريعات على مواكبة هذا التسارع. فالمنافسة على بناء النموذج الأكثر قدرة قد تكون أسرع بكثير من النقاشات المتعلقة بوضع قواعد واضحة لاستخدامه.
وفي نهاية المطاف، لا يمثل تحذير باحث واحد دليلاً على أن الذكاء الاصطناعي يتجه حتماً إلى تدمير البشرية، لكنه يعكس تحولاً مهماً في طبيعة النقاش: من السؤال التقليدي حول ماذا يستطيع الذكاء الاصطناعي أن يفعل؟ إلى سؤال أكثر حساسية حول من يحدد حدود ما يستطيع فعله، ومن يملك القدرة على إيقافه إذا تجاوزها؟
