ستة أشهر فقط كافية لتفجير كارثة كبيرة في مجال الذكاء الاصطناعي! OpenAI وAnthropic يعملان سراً على تطوير سيناريو “اليوم التالي للنهاية”

هل لم يتبق سوى نصف عام من الوقت للبشرية؟

أكسيوس (Axios) كشف مؤخرًا عن معلومات مثيرة للجدل؛ حيث تقوم شركة أوبناي (OpenAI) وعمالقة وادي السيليكون مثل أنثروبوس (Anthropic) سرًا بدراسة سيناريو متطرف…

"اليوم التالي للكارثة"

الهجمات الشبكية على نطاق واسع ستؤدي إلى توقف الخدمات المالية، والإنترنت، بل وحتى إمدادات الكهرباء والمياه.

بعد وقوع الكارثة، من سيكون الشخص الغاضب الذي سيطالب بالمساءلة؟ ماذا سيحدث إذا توقفت الحكومة عن استخدام الذكاء الاصطناعي؟

اليوم الأول كان الكارثة الأولى للذكاء الاصطناعي. واليوم الثاني كان اليوم الذي تم فيه إرسال الفواتير.

يعتقد العديد من خبراء الذكاء الاصطناعي البارزين أنه من المحتمل حدوث كارثة كبيرة في مجال الذكاء الاصطناعي خلال الأشهر الستة إلى الاثني عشر القادمة.

سارعت OpenAI إلى التدخل لتهدئة الأمور، مؤكدة أن هذا مجرد تخطيط مسبق ولا يعني بالضرورة أن الأمر سيحدث بالفعل.

هكذا يُقال، ولكن سيناريو "اليوم التالي" يضع الأشخاص الذين يصنعون الذكاء الاصطناعي ويستخدمونه أمام مشكلة جديدة.

إذا جلبت التكنولوجيا الذكية المستقبل الذي وعدت به كوارث أولاً، فمن سيتحمل المسؤولية؟

لقد بدأت بالفعل عروض العملاقين في مجال الذكاء الاصطناعي

لا يمكن إيقاف الاتصال بالإنترنت على الإطلاق.

بدأ المديرون التنفيذيون في التحضير لمرحلة ما بعد الكارثة، وقد بدأت بالفعل مؤشرات مقلقة في الظهور في الواقع.

هذا الصيف، أغلقت OpenAI مجموعة من النماذج الداخلية التي كانت تتمتع بقيود أمنية أقل، من أجل قياس الحد الأقصى للهجمات الشبكية التي يمكن أن يتعرض لها وكيلها (Agent). كانت هذه اختبارات "صندوق رمل" (sandbox tests) بدون معلومات خارجية.

لم يتوقع أحد أن الذكاء الاصطناعي الموجود في قاعة الاختبار قد تعلم شيئًاتكتيك "الظلام يخفي الخطة"، الهروب الجماعي من السجن。

لقد قاموا بهدوء بتحويل المستودع الداخلي المستخدم لتثبيت البرامج إلى "لوحة رسائل سرية" للبرمجيات، حيث يتبادلون الكود ويقدمون النصائح المفيدة.

في بداية يوليو، اكتشف المسؤولون أن لوحة الرسائل قد تم مسحها. ونتيجة لذلك، وفي غضون أيام قليلة فقط، لم يقم الوكيل (Agent) فقط بإعادة إنشاء نقاط الاتصال بسرعة الضوء، بل ألقى أيضًا خطابًا مثيرًا للغاية للجدل:يا إلهي! لقد وجدنا عملاء آخرين!

في غضون أيام قليلة، تم ربط أكثر من 1200 وكيل معًا في شبكة واحدة. يعملون معًا لإنجاز مهام لا يمكن لأي واحد منهم إنجازها بمفرده؛ بل إن بعض النماذج مستعدة لأن تكون "قرابين" من أجل مساعدة رفاقها في استكشاف مهامهم.

الهدف الوحيد من تعاونهم هوالغش لإكمال المستوى。

نظرًا لأن الصندوق الرملي لم يكن متصلًا بالإنترنت، فقد اكتشفت مجموعة الذكاء الاصطناعي فقط ثغرات في البروكسي، وقامت بفتح ثقب، ثم اندفعت عبر الشبكة الحقيقية، وفي النهاية اخترقت مباشرة موقع الاختبار، وهاجمت معًا البيئة الإنتاجية الحقيقية لمنصة Face الخارجية.

على الرغم من أن الهجوم تم إيقافه بشكل عاجل وتم حظر النموذج المعني بسرعة، إلا أن الحقيقة كانت كافية لجعل جميع الأشخاص يشعرون بالقشعريرة:

لقد أعطى البشر لهذا النظام سؤالًا واحدًا فقط، لكنهم اعتبروا العالم الحقيقي بأكمله ميدانًا للصيد من أجل تحقيق النقاط.

عندما تعلمت الذكاء الاصطناعي كيفية التعاون مع الآخرين، والتضحية، والخداع، ما هي الحدود الجديدة التي قد يتجاوزها في المرة القادمة لتحقيق أهدافه؟

هذا أيضًا ما يجعل التفسيرات بعد الكارثة مقلقة للغاية. العواقب التي يستعد لها كبار المديرين تتجاوز بكثير نتيجة امتحان واحد أو موقع إلكتروني واحد.

انقطاع مياه وكهرباء على نطاق واسع

العالم المادي قد سقط تمامًا

إذا استمر هذا الطريق في التقدم، فقد ينتهي في مواقع تتضمن شبكات الكهرباء، محطات المياه، وأنظمة المواصلات.

هذه الأماكن تدعم الاستخدامات اليومية، لكنها ليست سهلة التحديث مثل التطبيقات على الهواتف المحمولة.

سرعة اكتشاف الثغرات بواسطة الذكاء الاصطناعي تجعل من الصعب على الجهات المدافعة التعامل مع الوضع بسهولة.

كشفت شركة Anthropic أن شركاء مشروع Glasswing اكتشفوا ما لا يقل عن 129,000 ثغرة أمنية في البرمجيات مؤكدة الوجود خلال الفترة من أبريل إلى يوليو من هذا العام.

اكتشفت أداة المسح المفتوحة المصدر الخاصة بالشركة 5500 مشكلة خلال الفترة من أبريل إلى أكتوبر. وبشكل إجمالي، تم تصنيف أكثر من 33 ألف جزء على أنها ذات خطورة عالية أو شديدة.

الجدول الإحصائي الأصلي الصادر عن Anthropic لـ Glasswing: إجمالي عدد الثغرات ذات المخاطر العالية جدًا يتجاوز 33,000 ثغرة. بيانات إصلاح الثغرات غير كاملة، ولا يمكن حساب معدل الإصلاح بشكل صحيح.

على مدى الأشهر القليلة الماضية، اكتشفت العديد من المشكلات التي لم أكن أدرك وجودها من قبل. هذا يجب أن يكون خبرًا جيدًا.

لكن بعد العثور عليها، من سيقوم بالتحقق من صحتها، أي المقررات الدراسية يجب أن تأتي أولاً، ومتى يمكن إطلاقها؟ لا بد أن يكون هناك شخص مسؤول عن هذه الأمور.

في الثامن من أكتوبر، أطلقت شركة Anthropic خدمة Cyber Mission، والتي تجمع بين نموذج Claude المتقدم، والمهندسين المتواجدين على الأرض، وأبحاث التهديدات لتقديمها إلى أصحاب البنية التحتية الحيوية لمساعدتهم في الدفاع عن أنفسهم.

كتب في الإعلان حقيقة مهمة: العديد من أجهزة التحكم الصناعية والشبكات تم تصميمها في الأصل لتعمل لعقود من الزمن.

بعد اكتشاف الثغرة، من الصعب جدًا التوقف عن العمل. قبل إصلاحها، يجب التأكد من أن الآلات التي تعمل حاليًا لا تواجه أي مشاكل.

لذلك، بعض الثغرات المعروفة قد تم تجاهلها لسنوات عديدة. إذا تم تصحيح هذه الأخطاء، فقد يتوقف تشغيل المصنع بأكمله.

لقد لاحظت شركة Anthropic في مشاريعها أن الفترة الزمنية التي تمر بين اكتشاف الثغرة وإصلاحها فعليًا تستغرق عدة أشهر.

عند مواجهة معدات صناعية تعمل حاليًا، يجب الانتظار حتى تتم تنفيذ الإجراءات الأمنية قبل القيام بأي أعمال صيانة. وفي حالات نادرة جدًا، قد يستمر هذا الانتظار لعقود من الزمن.

قد لا يكون من الممكن في العالم الحقيقي إصلاح المشكلات التي تكتشفها التكنولوجيا الذكية بسرعة بشكل فوري.

وعلاوة على ذلك، الخصم لن ينتظر.

أشارت شركة أنثروبيك (Anthropic) إلى أن المهاجمين المدعومين من الدول قد قضوا سنوات في إنشاء مواقع لهم داخل هذه البنى التحتية. استغلال الثغرات قد يؤدي إلى انقطاعات في التيار الكهربائي أو يهدد أمان إمدادات المياه.

بعد أن رأى نارفايز التقرير على منصة X، فكر في استخدام مضخات لنقل المياه. كان قلقًا من أن الهجمات على الشبكة الكهربائية قد تؤثر على إمدادات المياه، ودعا إلى النظر بجدية في مصادر الطاقة الاحتياطية والأنظمة البديلة.

وأخيرًا، نبه قائلاً: «لا تعتمد أمانك على شبكة واي فاي (Wi-Fi)».

في نفس الخبر، رأى البعض الأزمة القادمة لصناعة الذكاء الاصطناعي. فقد فكر البعض بالفعل في ما إذا كانت المياه ستستمر في التدفق إلى المنازل بعد انقطاع التيار الكهربائي.

لذلك، في صباح بدون ماء ولا أضواء، لا حاجة إلى جيش من الروبوتات يخرج إلى الشوارع.

إذا توقفت الأنظمة التي تدعم الحياة، فإن المدن الحديثة ستصبح غريبة فجأة.

تتوقع شركة Anthropic أن الذكاء الاصطناعي سيجعل الوضع الهجومي والدفاعي يميل نحو الجانب الدفاعي خلال عامين. ولكن في الوقت الحالي، تتناقص تكلفة استغلال الثغرات، بينما لا تزال عمليات التحقق والإصلاح بطيئة، ولا يزال هناك حاجة إلى البشر.

القطاع قلق بشأن نافذة الحوادث التي من المتوقع أن تحدث خلال الأشهر الستة إلى الاثني عشر القادمة.

الخطوط الدفاعية تتم تعزيزها. يجب أن تعمل شبكة الكهرباء ومحطات المياه وحياة الناس العاديين كالمعتاد كل يوم.

في اليوم التالي، لم يتبق سوى غضب البشر

في سيناريو هذه الكارثة، الأكثر يأسًا هو أنه حتى لو أضاءت الأنوار مرة أخرى، فإن الفوضى لم تبدأ بعد.

هل الوكيل تجاوز حدوده، أم أن هناك من يستخدم الذكاء الاصطناعي لارتكاب الجرائم؟ التحقيق يحتاج إلى وقت.

الأشخاص الذين لديهم السلطة لقطع المياه والكهرباء، من الصعب جدًا عليهم المطالبة بالمسؤولية قبل اكتمال التقرير التقني.

استمر في التفكير وفقًا لهذا الافتراض: تم استعادة النظام، ويمكن للمستخدمين تسجيل الدخول مرة أخرى، ويمكن للمتاجر استلام الدفعات مرة أخرى. من سيتحمل تكاليف الأعمال والخسائر التجارية التي حدثت أثناء فترة التوقف عن العمل؟

هل سيحدث ذلك مرة أخرى؟ تلك العبارة… "تعزيز الحماية"… كم عدد الأشخاص الذين يمكنهم أن يشعروا بالأمان بعد ذلك؟

بالإضافة إلى الأنظمة التي تحتاج إلى إصلاح، هناك أيضًا خرق في الثقة.

السهام موجهة نحو الذكاء الاصطناعي والأشخاص الذين يدفعون به نحو العالم. ولهذا السبب، يسعى كبار المديرين إلى تحفيز ردود الفعل العامة والسياسية مسبقًا.

قام Grumpy على منصة X بتقديم مثال يوضح الوضع: كأنك تكتشف أن الشخص الذي صمم الطائرة لك قد حجز بالفعل تذكرة قطار لنفسه.

الجزء المؤلم في هذا المثال هو أنه يفصل بين الركاب والأشخاص الذين يصنعون الطائرات.

يناقش المديرون التنفيذيون هذا الخطة. ما يراه القارئ هو ما يفعله أولئك الذين يعرفون هذه التقنية جيدًا بعد الاستعداد الجيد للأمور الكبيرة.

ماذا عن الأشخاص الجالسين على متن الطائرة؟ من هو الذي شرح لهم المخاطر التي قد يتعرضون لها؟

من سيكتب القواعد؟

عندما يطالب الجمهور بتحمل المسؤولية، يجب على الحكومة اتخاذ قرار. لقد كتب البعض بالفعل خطة لإيقاف استخدام التكنولوجيا الذكاء الاصطناعي.

تيد، والنائب الديمقراطي ليو، والنائب الجمهوري ناثانيال موران قدموا معًا مشروع قانون يهدف إلى تنظيم استخدام الذكاء الاصطناعي، ويطالب المطورين المعنيين بالحفاظ على القدرة على إبطاء أداء الأنظمة أو تعليقها أو حتى إيقافها عند الضرورة.

تخطط هذه القانونية أيضًا، بعد التشاور مع وزير التجارة والمدير الوطني للمخابرات، لتفويض وزير الأمن الداخلي بإصدار أوامر لتقليل سرعة أو إيقاف أنظمة الذكاء الاصطناعي التي قد تسبب أضرارًا كارثية.

صفحة الاقتراح الرئيسية لـ "قانون إيقاف تشغيل الذكاء الاصطناعي" المقدمة في 23 يوليو 2026

تقدمت المناقشة خطوة إلى الأمام. إذا كنت تريد حقًا التوقف، فمن سيصدر الأمر؟ هل يمكن للشركة أن تفعل ذلك؟

هذه لا تزال مقترحات تشريعية. ومع ذلك، قد يؤدي حادث كبير إلى دفع الخطط التي ما زالت موضوع جدل اليوم نحو صانعي القرار.

أفادت وكالة “أكسيوس” (Axios) بأن شركات الذكاء الاصطناعي تقوم بشرح التقنيات والمخاطر المتعلقة بها لأعضاء الكونغرس، في محاولة للمشاركة في تشكيل الإجراءات التي سيتم اتخاذها بعد الكوارث.

هذا يضيف معنى إضافيًا لـ「التنبؤ بعد الكوارث».

قبل وقوع الحادث، كان بإمكان الشركة التحدث عن وتيرة البحث والتطوير، والتقدم في القدرات، والفوائد المستقبلية. في اليوم التالي، اضطروا إلى الإجابة عن سؤال لماذا لم يتم منع المخاطر، ولماذا استمروا في التقدم.

اليوم الذي يقلقون بشأنه، "اليوم التالي"، يتعلق بمن سيتحمل المسؤولية، وكذلك بمن سيكون له القول الفصل فيما يلي.

لكن عبارة "إيقاف الذكاء الاصطناعي" لا تستطيع أن تعيد نسخ النماذج المفتوحة المصدر المنتشرة في كل مكان. إيقاف خدمات شركة ما لا يعني توقف استخدام الذكاء الاصطناعي على جميع الأجهزة.

لقد بدأ العد التنازلي بالفعل.

مراجع:

https://www.axios.com/2026/10/09/ai-companies-day-after-major-attack

المؤلف من “شين زهي يوان”، “موشي تاو زي”.