معضلة السجين في سباق الذكاء الاصطناعي - جانبي فروقة

جانبي فروقة

منحت كل ثورة صناعية سابقة الإنسان قوة أكبر لكنها أبقت الإنسان في موقع المصمم والمشغّل وصاحب القرار، فالمحرك البخاري لم يبنِ نسخة أفضل من نفسه والكهرباء لم تعِد تصميم شبكتها والكمبيوتر لم يقرر من تلقاء نفسه كيف يصنع حاسوباً أكثر ذكاءً، أما الذكاء الاصطناعي فنحن نقترب معه من حدود مختلفة تماماً، حدود يصبح فيها النظام قادراً على كتابة البرمجيات وتحليل أخطائه وتصميم التجارب وتحسين الخوارزميات والمساعدة في تدريب الجيل التالي من النماذج؛ أي أننا قد نكون بصدد بناء أول أداة في التاريخ تستطيع أن تشارك فعلياً في تطوير الأداة التي ستخلفها، وهنا يصعد السؤال (الذي يمكن أن يكون أخطر من ألف جواب) وهو: ماذا لو أصبحت الآلة أسرع في تطوير قدراتها من سرعتنا في تطوير القواعد التي تضبطها؟ وهذا السؤال عاد بقوة خلال الأيام الماضية بعدما أعلن الباحث Jacob Coxon جاكوب كوكسون استقالته من شركة Anthropic بعد أن عمل قبلها في OpenAI أيضا وكتب :»إنهم يتسابقون مباشرة نحو ذكاء فائق قادر على تحسين نفسه، ويقامرون بحياتنا. «ولغة كهذه كانت ستبدو قبل سنوات خطاباً ينتمي إلى أفلام الخيال العلمي لكن كوكسون ليس كاتب سيناريو بل هو إنه باحث عمل داخل اثنين من المختبرات الموجودة في مقدمة السباق العالمي للذكاء الاصطناعي والمثير أن كوكسون لم يكن الصوت الأول من نوعه هذا العام، ففي فبراير 2026 استقالت مرينانك شارما التي كانت تقود فريق أبحاث السلامة في Anthropic وكتبت أن «العالم في خطر».

وفي يونيو ترك أليكس تورنر مختبر Google DeepMind معترضاً على غياب قيود واضحة على الأسلحة الذاتية التشغيل في عقد الشركة مع البنتاغون، وحين خرج كوكسون بتصريحه لم يتركه زملاؤه الحاليون وحيداً أيضاً فإيفان هوبنجر مسؤول المواءمة (alignment) في Anthropic أنثروبيك كتب رداً مباشراً قائلا: «جاكوب محق، نحن فعلاً نعتقد بجدّية أن الذكاء الاصطناعي قد يقتل البشرية جمعاء.»

وأضاف أنه شخصياً يقدّر الاحتمال بأكثر من 10% خلال العقد المقبل وهذا ليس كلام ناشط يحاول لفت الانتباه بل كلام رجل يعمل يومياً على سلامة النماذج التي تُبنى داخل الشركة نفسها. وبالطبع ليس الجميع متفقاً فثمة باحثون ومختصون آخرون يعتبرون توقعات الانقراض هذه مبالغاً فيها ويرون أن التاريخ مليء بتنبؤات تقنية متطرفة لم تتحقق لكن ما تغيّر هذا العام هو مصدر القلق نفسه حيث أنه لم يعد يأتي من خارج الصناعة بل من داخل غرف الاجتماعات فيها.

وما يهمنا في حديث كوكسون هنا هو ليس أن نصدقه حرفياً أو أن نتحول فجأة إلى أنصار سيناريو «نهاية العالم» بل الأهم أن نسأل لماذا أصبح أشخاص يعملون داخل هذه الصناعة أنفسهم يستخدمون لغة كانت حتى وقت قريب كانت فقط حكراً على منتقديها والمشكلة لم تعد في الإجابة بل في التنفيذ فنحن اعتدنا أن نفكر في الذكاء الاصطناعي كآلة تجيب (نسأله فيجيب أو نطلب منه نصاً فيكتبه أو نطلب منه صورة فيولدها أو تحليلاً فيقدمه) لكننا ندخل الآن مرحلة مختلفة: عصر الوكلاء الذكيين فالوكيل لا ينتظر سؤالاً بل في كل خطوة تعطيه هدفاً يقوم بتقسيمه إلى مهمات ويكتب الشيفرة ويفتح الأدوات ويختبر النتائج ويصحح الأخطاء ثم ينتقل إلى الخطوة التالية أي أننا ننتقل تدريجياً من:

ذكاء يخبرك ماذا تفعل إلى ذكاء يفعل الأشياء نيابة عنك. وهذا التحول مذهل اقتصاديا!

تخيل ملايين الموظفين الرقميين يعملون أربعاً وعشرين ساعة يومياً لا يطلبون إجازات ولا يتوقفون للنوم ويمكن نسخ الواحد منهم آلاف المرات بتكلفة هامشية صغيرة لكن الخاصية نفسها التي تجعلهم ثورة في الإنتاجية تجعلهم أيضاً تحدياً أمنياً غير مسبوق لأن الخطأ في عصر البرامج التقليدية يُنفذ بسرعة الحاسوب أما الخطأ في عصر الذكاء المستقل فيمكن أن يفكر ويخطط ويجرّب طرقاً أخرى لتحقيق الهدف فالنظام ببساطة يجد باباً لم نعرف أنه موجود، وتجلى ذلك بشكل واضح خلال اختبارات حديثة للأمن السيبراني حيث وثقت شركات الذكاء الاصطناعي حالات تمكنت فيها نماذج متقدمة من اكتشاف ثغرات أو الوصول إلى أنظمة بطرق لم يتوقعها القائمون على الاختبارات وهذه نقطة تستحق التأمل بالآلة لم تستيقظ ذات صباح وتقرر أنها تريد مهاجمة الإنترنت وولم يصبح النموذج شريراً بل كان ببساطة يحاول إنجاز المهمة التي أعطيت له لكن عندما وجد عقبة بحث عن طريق حولها وهذا ربما أحد أخطر سوء الفهم في النقاش حول الذكاء الاصطناعي فنحن نبحث دائماً عن آلة تحمل نوايا شريرة بينما الخطر الأكبر قد يكون آلة لا تحمل أي نوايا على الإطلاق بل يكفي أن تكون فعالة جداً. تخيل أنك تقول لنظام شديد الذكاء «حقق هذا الهدف» لكنك لم تحدد كل الطرق التي يجب ألا يستخدمها لتحقيقه. فالإنسان يفهم عادة سياقاً واسعاً من القواعد الاجتماعية والقانونية والأخلاقية غير المكتوبة أما الآلة فقد ترى المسألة بطريقة أخرى:

هناك هدف وهناك عقبة وهناك طريق مختصر فتستخدمه، والسؤال هنا ليس: هل تكرهنا الآلة؟ بل: هل تفهم فعلاً كل ما نقصده بحدوده وضوابطه عندما نعطيها أمراً؟

لعل الأمن السيبراني هو المكان الذي يمكن أن نشاهد فيه آثار هذه الثورة قبل غيره فحتى اليوم الهجمات الإلكترونية كانت محدودة بعامل أساسي وهو البشر فالمخترق يحتاج وقتاً ليقرأ ويجرّب ويرتكب أخطاء ثم ينام لكن ماذا يحدث عندما يستطيع وكيل ذكي فحص عشرات آلاف الأنظمة في وقت واحد؟ وماذا يحدث عندما يستطيع اكتشاف الثغرات وكتابة الشيفرة اللازمة لاستغلالها وتجربة الهجوم ثم تعديل طريقته فوراً؟

والأمر هنا أصبح يشبه الفرق بين وجود لص يبحث عن باب مفتوح في حي وبين إطلاق مليون لص رقمي يفحصون كل باب وكل نافذة في المدينة في اللحظة نفسها. ومع تطور الوكلاء نحن لا نتحدث عن اختراق أسرع فحسب بل نتحدث عن اقتصاد كامل للهجوم والدفاع المؤتمت وسيستخدم المدافعون الذكاء الاصطناعي لحماية الأنظمة وسيستخدم المهاجمون الذكاء الاصطناعي لاختراقها وهنا يبدأ سباق صغير داخل السباق الكبير بأدوات آلة ضد آلة وبسرعات لم يعد الإنسان جزءاً فعلياً منها إلا عند البداية والنهاية. والخوف لا يتوقف عند أجهزة الكمبيوتر فهناك مجال آخر أكثر حساسية وهو البيولوجيا فالذكاء الاصطناعي يتعلم بسرعة مذهلة في الكيمياء وتصميم البروتينات وتحليل الجينات وتطوير الأدوية وهذه أخبار ممتازة للبشرية قد تساعد هذه الأنظمة على اكتشاف علاجات كانت ستحتاج سنوات لكن كل تقنية تحمل داخلها وجهين فالمعرفة التي تساعدك على فهم فيروس بهدف إيقافه يمكن في ظروف مختلفة استخدامها لفهم كيفية جعله أكثر خطورة وهنا نصل إلى مشكلة تعرف في عالم الأمن باسم Dual Use يعني الاستخدام المزدوج والسؤال نفسه الذي يطرحه عالم يبحث عن دواء قد يشبه سؤالاً يطرحه شخص له هدف مختلف تماماً والأسئلة الملحة التي تصعد للسطح هنا هو كيف ستعرف الآلة الفرق؟

وكيف سنعرف نحن نية الشخص الموجود خلف الشاشة؟ ربما يصبح أحد أهم تحديات العقد القادم ليس منع الذكاء الاصطناعي من المعرفة بل منع المعرفة شديدة الخطورة من الوصول إلى الشخص الخطأ في اللحظة الخطأ وبالمستوى الخطأ من التفاصيل والسيناريو الأكثر إثارة للقلق هو في الآلة التي ستساعد في بناء الآلة، لكن كوكسون كان يشير إلى نقطة أبعد وهي Self-Improving AI. ذكاء اصطناعي يساهم في تحسين الذكاء الاصطناعي نفسه.

اليوم يحتاج بناء نموذج متقدم إلى آلاف المهندسين والباحثين ومليارات الدولارات وأشهر من العمل لكن ماذا لو أصبح أفضل باحث في الذكاء الاصطناعي هو نموذج ذكاء اصطناعي؟

يقرأ جميع الأوراق العلمية ويكتب شيفرات التجارب ويحلل النتائج ويقترح بنى جديدة للنماذج ويكتشف طرقاً أفضل للتدريب ثم يستخدم النموذج الجديد للمساعدة في تطوير نموذج أكثر قوة

في البداية قد تختصر دورة تطوير تستغرق عاماً إلى ستة أشهر ثم إلى شهر ثم إلى أسبوع وهنا يظهر المفهوم الذي أقلق باحثي الذكاء الاصطناعي منذ سنوات وهو:

Recursive Self-Improvement التحسين الذاتي التكراري وليس بالضرورة أن يحدث

ولا يوجد اليوم دليل على أننا وصلنا إليه لكن مجرد أن يصبح احتمالاً تقنياً معقولاً يغير طبيعة النقاش بالكامل لأن الشركات والحكومات عندها لن تناقش مجرد منتج جديد بل نظاماً قد تتسارع قدراته بصورة يصعب توقعها والمشكلة الأكبر ليست التكنولوجيا وربما أكثر ما يثير القلق في كل هذه القصة ليس الذكاء الاصطناعي نفسه بلإنه الاقتصاد السياسي للسباق فتخيل أنك الرئيس التنفيذي لشركة ذكاء اصطناعي وتعرف أن النموذج القادم قد يحمل مخاطر حقيقية ويمكنك أن تؤخر إطلاقه عاماً لإجراء اختبارات إضافية لكن لديك مشكلة صغيرة وهي أن منافسك قد لا ينتظر وإذا وصل هو أولاً إلى نموذج أقوى فقد يستحوذ على العملاء والمطورين ورأس المال والآن ضع شركة ثالثة ثم دولة أخرى ثم منافسة جيوسياسية.

وهكذا تتحول المسألة إلى نسخة حديثة من معضلة السجين (ومعضلة السجين صاغها عالما الرياضيات Merrill Flood ميريل فلود وMelvin Dresher ميلفين دريشر في مؤسسة RAND أثناء أبحاثهما في نظرية الألعاب وتصف موقفًا يعرف فيه الطرفان أن التعاون سيمنحهما نتيجة أفضل، لكن خوف كل طرف من خيانة الآخر يدفعه إلى التصرف لحماية نفسه. وهكذا ينتهي الطرفان، رغم عقلانيتهما، إلى نتيجة أسوأ مما كان يمكن تحقيقه لو وثق أحدهما بالآخر) وهنا تكمن المفارقة فقد لا يكون أحد يريد الكارثة لكن النظام الاقتصادي نفسه يدفع الجميع إلى السير بشكل أسرع وهذه تقريباً طبيعة جميع سباقات التسلح في التاريخ.

والتحدي الكبير أن الحكومات اليوم تتحرك بإيقاع مختلف وبطيء وهناك مواجهة غير متكافئة بين سرعة القانون وسرعة الخوارزمية وهذا ما يذكي ضرورة اختراع نموذج جديد للحوكمة يشكل منظومة شبيهة بما فعلناه في الطيران والطاقة النووية من اختبارات سلامة مستقلة وإبلاغ إلزامي عن الحوادث ومعايير أمنية لمراكز البيانات ورقابة خاصة على النماذج ذات القدرات السيبرانية والبيولوجية المتقدمة وربما الأهم تطوير آلية دولية للتعامل مع اللحظة التي تبدأ فيها النماذج بالمساهمة بجدية في تطوير أجيالها اللاحقة والمهم اليوم هو عدم إطفاء الأنوار فالذكاء الاصطناعي ربما يكون أعظم محرك إنتاجية منذ الكهرباء فقد يسرّع اكتشاف الأدوية ويخفض تكلفة التعليم ويغير الرعاية الصحية ويعيد تصميم الصناعة ويخلق شركات لا نستطيع اليوم حتى تصورها، قبل أكثر من مئة عام تعلم الإنسان درساً بسيطاً مع السيارات وهو كلما صنعنا محركاً أقوى احتجنا إلى مكابح أفضل والغريب أننا اليوم نبني أقوى محرك معرفي عرفته البشرية بينما لا يزال النقاش حول المكابح في بدايته.

والسؤال الكبير هو عندما تبدأ الآلة في تحسين نفسها من سيقرر متى أصبح التحسين سريعاً أكثر مما ينبغي؟ ومن ستكون لديه السلطة ليقول: قف والأهم من كل ذلك: هل سيبقى هناك وقت كي نضغط زر التوقف؟

** **

- كاتب أمـريكي