جرس إنذار من أنثروبيك: كيف تهدد مخاطر الذكاء الاصطناعي مفتوح المصدر أمننا السيبراني؟

في سباق التسلح التكنولوجي المحموم الذي يشهده العالم اليوم، تقف البشرية أمام مفترق طرق حاسم. فبينما تلهث الشركات والدول لامتلاك أحدث التقنيات لتعزيز كفاءتها وسيادتها، تبرز أصوات من قلب وادي السيليكون تدق ناقوس الخطر. التحذير الأحدث والأكثر وضوحاً جاء من شركة “أنثروبيك” (Anthropic)، إحدى أبرز الشركات الرائدة في تطوير نماذج الذكاء الاصطناعي المتقدمة، والتي ألقت حجراً ثقيلاً في المياه الراكدة للنقاش حول مخاطر الذكاء الاصطناعي مفتوح المصدر وتأثيره المباشر على الأمن القومي والسيبراني العالمي.

هل النماذج المفتوحة التي تَعِد بإضفاء الديمقراطية على التكنولوجيا هي في الواقع حصان طروادة يحمل كوارث سيبرانية؟ ولماذا قررت “أنثروبيك” التحدث الآن بصوت عالٍ حول هذا التهديد؟

تحذير دبلن: رسالة حازمة من قلب الصناعة

خلال فعاليات “القمة الدولية للذكاء الاصطناعي” التي انعقدت في العاصمة الأيرلندية دبلن، خرج “غيوم برينسن”، رئيس العمليات الدولية في “أنثروبيك”، بتصريحات لا تقبل التأويل. لقد وضع النقاط على الحروف فيما يخص التوجه المتسارع نحو البدائل المفتوحة التي تنافس نماذج شركته.

الرسالة كانت واضحة: النماذج المفتوحة، وتحديداً تلك التي تُعرف بـ “مفتوحة الأوزان” (Open-Weights)، تنطوي بطبيعتها الهيكلية على “مخاطر أكبر بكثير” لوقوع حوادث تتعلق بالأمن السيبراني. لم يكن برينسن يهاجم المنافسين لمجرد المنافسة، بل صرّح بوضوح: “علينا توخي الحذر الشديد فيما يتعلق بسلامة النماذج مفتوحة المصدر. لا أستطيع الحكم على مدى سلامة النماذج المفتوحة التي يطورها الآخرون، لكنها بطبيعتها تحمل طبقات من الخطر لا يمكن تجاهلها”.

هذا التحذير لا يأتي من فراغ؛ فهو يعكس قلقاً متنامياً داخل الأروقة الأمنية والتقنية من أن إتاحة التكنولوجيا المتقدمة للعموم دون حواجز حماية مركزية قد يكون بمثابة تسليم أسلحة متطورة لجهات غير مسؤولة.

صراع الفلسفات: الأنظمة المغلقة مقابل النماذج “مفتوحة الأوزان”

لفهم جذور هذه الأزمة، يجب أن نغوص تحليلياً في طبيعة الصراع الحالي في سوق الذكاء الاصطناعي. السوق ينقسم حالياً إلى تيارين رئيسيين:

1. خندق الأنظمة المغلقة والمحكومة

تقوده شركات مثل “أنثروبيك” و”أوبن إيه آي” (OpenAI). تعتمد هذه الفلسفة على تطوير نماذج ذكاء اصطناعي قوية جداً، لكنها تبقى محتجزة داخل خوادم الشركة الأم. لا يمكن للمستخدمين الوصول إلى شيفرتها المصدرية أو “أوزانها” (وهي المعادلات الرياضية الدقيقة التي تحدد كيف يتخذ النموذج قراراته). يُتاح للمستخدمين فقط التفاعل معها عبر واجهات برمجة التطبيقات (APIs). الميزة الكبرى هنا هي الرقابة الصارمة؛ إذا اكتشفت الشركة أن النموذج يُستخدم لغرض خبيث (مثل توليد أكواد فيروسات أو معلومات مضللة)، يمكنها إيقافه أو تعديل مساره فوراً.

2. خندق النماذج مفتوحة المصدر (مفتوحة الأوزان)

هنا تكمن المعضلة. هذه النماذج تُتاح أوزانها وبنيتها الهيكلية للجمهور وللمطورين حول العالم. يسمح هذا النهج لأي شخص بتنزيل النموذج، وتعديله، وإعادة تدريبه، وتشغيله محلياً على أجهزته الخاصة دون أي رقابة من الشركة المبتكرة.

يقول مؤيدو هذا التيار إنه يوفر تكاليف هائلة ويمنع احتكار الشركات التكنولوجية الأمريكية الكبرى لمستقبل البشرية. ولكن، وكما أشار مسؤولو “أنثروبيك”، فإن إزالة المركزية تعني إزالة القدرة على إيقاف الاستخدام السيء.

كابوس الأمن السيبراني: عندما يتحول الكود المفتوح إلى سلاح

تستند مخاوف “أنثروبيك” إلى خبرتها العميقة في تأمين منتجاتها الموجهة للشركات. عندما يكون النموذج مفتوح الأوزان، فإنه يفقد “حواجز الحماية” (Guardrails) بمجرد أن يقع في أيدي مطور خبيث. ففي النماذج المغلقة، هناك فلاتر تمنع الذكاء الاصطناعي من الإجابة على استفسارات خطيرة مثل “كيف أقوم باختراق خادم بنكي؟”.

أما في النماذج مفتوحة المصدر، يمكن للقراصنة (الهاكرز) ببساطة نزع هذه الفلاتر البرمجية وإعادة توجيه قدرات الذكاء الاصطناعي الهائلة لأتمتة الهجمات السيبرانية، وتطوير برمجيات فدية متطورة، واكتشاف الثغرات الأمنية في الأنظمة الحساسة بسرعة تفوق القدرات البشرية آلاف المرات.

أفران ذكية تتحول إلى جيوش إلكترونية!

لم تتوقف تحذيرات “أنثروبيك” عند الاختراقات التقليدية. ففي تصعيد لافت لخطابها التحذيري، كشفت الشركة في وقت سابق من الأسبوع ذاته عن سيناريو يبدو وكأنه مستلهم من أفلام الخيال العلمي، ولكنه بات قريباً جداً من الواقع المادي.

حذرت الشركة من أن النسخ الأصغر حجماً والأقل تعقيداً من نماذج الذكاء الاصطناعي (والتي غالباً ما تكون مفتوحة المصدر لسهولة تشغيلها)، قد تصبح قريباً قادرة على إنشاء وتوجيه نوع جديد ومرعب من شبكات الأجهزة المخترقة (Botnets). هذه البرمجيات المدعومة بالذكاء الاصطناعي ستتمتع بالقدرة على “نسخ نفسها” ذاتياً والانتشار بشكل وبائي عبر الأجهزة المنزلية الصغيرة المتصلة بالإنترنت (إنترنت الأشياء IoT)، مثل الأفران الذكية، الثلاجات، وأجهزة التوجيه (الراوتر).

تخيل جيشاً من ملايين الأجهزة المنزلية المخترقة، يتم إدارتها وتوجيهها بذكاء اصطناعي لتنفيذ هجمات حجب الخدمة الموزعة (DDoS) ضد بنى تحتية وطنية أو مؤسسات مالية كبرى. هذا هو المستوى المتقدم من المخاطر الذي تحاول “أنثروبيك” لفت انتباه المشرعين إليه.

السيادة الوطنية الرقمية: حجة مغرية ولكن خطيرة

بالتوازي مع هذه التحذيرات التقنية، تواجه “أنثروبيك” تحدياً سياسياً واقتصادياً جيو-استراتيجياً، خاصة مع اقتراب موعد إدراجها المتوقع في البورصة. دول كثيرة، وعلى رأسها الدول الأوروبية، يتنامى لديها شعور بالقلق المبرر من الاعتماد الكلي على تكنولوجيا الذكاء الاصطناعي المصممة والمحتكرة أمريكياً.

هنا، ظهرت النماذج المفتوحة كطوق نجاة لتحقيق ما يُسمى بـ “السيادة الوطنية الرقمية”:

• أوروبا وميسترال: طرحت شركة “ميسترال إيه آي” (Mistral AI) الفرنسية الناشئة نماذج مفتوحة الأوزان، وتم تسويقها بنجاح بوصفها “الخيار السيادي لأوروبا”. هذا الخيار يمنح الحكومات والشركات الأوروبية قدرة على بناء تطبيقاتها دون إرسال بياناتها الحساسة إلى خوادم أمريكية.
• التمدد الصيني: في الجانب الآخر من العالم، تكتسب مجموعة كبيرة من النماذج مفتوحة المصدر المطوّرة في الصين رواجاً هائلاً خارج حدودها، حيث توفر قدرات تقنية عالية بتكلفة شبه معدومة، مما يسهل انتشارها في الأسواق الناشئة ويزيد من تعقيد المشهد الأمني العالمي.

تجد “أنثروبيك” نفسها مضطرة لإقناع هذا السوق العالمي بأن “السيادة الموهومة” التي توفرها النماذج المفتوحة قد تأتي بثمن باهظ جداً إذا ما تعرضت البنى التحتية الوطنية لهجمات سيبرانية متطورة لا يمكن السيطرة عليها.

تدابير “أنثروبيك”: كيف تحمي تكنولوجيتها من الانفلات؟

في مواجهة هذه التحديات، وفي أعقاب عمليات اختراق بارزة مرتبطة بالذكاء الاصطناعي هزت الصناعة مؤخراً، لم تكتفِ “أنثروبيك” بالتنظير والتحذير، بل اتخذت خطوات استباقية. بقيادة غيوم برينسن لجهود المبيعات الموجهة للشركات والمؤسسات الحساسة، اعتمدت الشركة على “الدستور البرمجي” (Constitutional AI) كركيزة أساسية لمنع النماذج من اتخاذ تصرفات ضارة.

لقد صممت الشركة آليات تقييم داخلية وتدابير حماية إضافية تجعل نماذجها (مثل عائلة Claude) قادرة على رفض الأوامر الخبيثة حتى لو تمت محاولة التلاعب بها أو خداعها بهندسة الأوامر (Prompt Injection). هذه الجاهزية الأمنية هي ما تحاول الشركة بيعه للعملاء الدوليين كبديل آمن عن “المخاطرة” باستخدام أدوات مفتوحة المصدر قد تكون مخترقة من الأساس.

الخلاصة في نقاط: ماذا يجب أن نفهم من هذه الأزمة؟

• النماذج مفتوحة المصدر تسحب زر “الإيقاف الطارئ” من يد الشركات المصنعة، مما يجعل التكنولوجيا عرضة للاستخدام العسكري أو الإجرامي.
• الأمن السيبراني المستقبلي لن يواجه قراصنة بشراً فقط، بل برمجيات ذكية قادرة على التكاثر والتحكم في الأجهزة الذكية المنزلية.
• بحث الدول عن “السيادة التقنية” عبر تبني نماذج مفتوحة المصدر (أوروبية أو صينية) يجب أن يترافق مع وعي كامل بحجم الثغرات الأمنية المحتملة.
• الأنظمة المغلقة (مثل أنثروبيك وأوبن إيه آي) توفر بيئة أكثر قابلية للرقابة والتدخل، مما يقلل من احتمالية تحول الذكاء الاصطناعي إلى أداة تدمير شامل.

دعوة للهدوء والتنظيم الدولي

في ختام رسائلها التحذيرية، اتخذت “أنثروبيك” موقفاً ينم عن مسؤولية عالية، حيث دعت صراحة إلى إبطاء وتيرة تطوير الذكاء الاصطناعي. هذه الدعوة لا تهدف لعرقلة الابتكار، بل لانتزاع وقت مستقطع يسمح للعالم بتطبيق معايير دولية صارمة، وبناء آليات تقييم متسقة وعابرة للحدود. إن التكنولوجيا التي تمتلك القدرة على تغيير وجه البشرية، تمتلك أيضاً القدرة على إعادتنا عقوداً إلى الوراء إذا ما تُرِكت مشرعة الأبواب أمام كل من هب ودب تحت لافتة “المصدر المفتوح”.