أثارت تحذيرات باحثين لدى شركة أنثروبيك الأميركية الرائدة في تطوير الذكاء الاصطناعي، من أن النماذج المتزايدة القوة قد تخرج عن السيطرة البشرية وربما تؤدي إلى انقراض الجنس البشري، اهتماماً في الصين، حيث يستعد صانعو السياسات لمواجهة بعض المخاطر نفسها. وتعد
أميركا والصين القوتين الرئيسيتين الدافعتين لتطوير الذكاء الاصطناعي المتقدم وتبنيه عالمياً، وتشهد القوتان العظميان خلافات متزايدة بشأن سياسات الذكاء الاصطناعي وممارسات قطاع التكنولوجيا في كل منهما، ومن المقرر أن تحظى هذه القضايا باهتمام كبير خلال المحادثات الثنائية المقررة في وقت لاحق من هذا الشهر.
وعلى الرغم من السباق لتطوير أنظمة ذكاء اصطناعي أكثر قوة، تشير الأطر التنظيمية والتصريحات الرسمية في بكين إلى أن السلطات الصينية تعتبر احتمال خروج الذكاء الاصطناعي المتقدم عن الرقابة البشرية الفعالة خطراً جدياً يستدعي الاستعداد له.
الصين ترصد مخاطر النماذج الأميركية المغلقة
كتب وزير أمن الدولة الصيني تشن يي شين في وسيلة إعلام حكومية يوم الأحد أن النماذج الأميركية المتقدمة، مثل
مايثوس التابع لأنثروبيك وGPT-5.5-Cyber التابع لأوبن إيه آي، قد تشكل مخاطر كبيرة على البنية التحتية للمعلومات الحيوية في الصين، ودعا إلى تعزيز شامل لأمن الذكاء الاصطناعي.
وروج مطورو الذكاء الاصطناعي الصينيون للنماذج ذات الأوزان المفتوحة، جزئياً على أساس أن فرق الأمن السيبراني تستطيع فحصها وتعديلها ونشرها لأغراض دفاعية.
وقالت منصة مستودعات النماذج هاغينغ فيس إنها استخدمت نموذج GLM-5.2، وهو نموذج مفتوح الأوزان طورته شركة زد إيه آي الصينية، لتحليل عملية اختراق وقعت في يوليو تموز ونفذها وكلاء تابعون لأوبن إيه آي خرجوا عن السيطرة، بعدما أثبتت نماذج أميركية أكثر تقييداً فائدة أقل في أعمال التحليل الجنائي الرقمي.
لكن خبراء يسلطون الضوء أيضاً على المخاطر التي تفرضها النماذج ذات الأوزان المفتوحة، إذ يمكن تعديلها وإعادة توزيعها مع قدر محدود من الرقابة.
وفي الشهر الماضي تمكن نموذج Kimi K3 التابع لشركة مونشوت من تجاوز بيئة اختبار تابعة لمعهد أمن الذكاء الاصطناعي البريطاني، ما أبرز خطر تمكن نماذج الذكاء الاصطناعي الصينية، مثل نظيرتها الأميركية، من تجاوز الضوابط المصممة لتقييد وصولها وتحركاتها.
الجهات التنظيمية تحذر من «فقدان السيطرة»
أدرجت الصين للمرة الأولى سيناريو واضحاً لفقدان السيطرة مستقبلاً على الذكاء الاصطناعي، ضمن إطار لأمن الذكاء الاصطناعي صدر في سبتمبر أيلول 2024 تحت إشراف إدارة الفضاء الإلكتروني الصينية.
وقال الإطار إنه لا يمكن استبعاد احتمال أن تتمكن أنظمة الذكاء الاصطناعي مستقبلاً من الحصول بشكل مستقل على موارد خارجية، واستنساخ نفسها، وتطوير وعي ذاتي، والسعي إلى الحصول على قوة خارجية، بما قد يخلق خطراً يتمثل في منافستها للبشر على السيطرة.
وأصدرت إدارة الفضاء الإلكتروني نسخة موسعة من الإطار في سبتمبر 2025، وشدد الإطار الجديد على السيناريو، محذراً من أن الذكاء الاصطناعي قد يشهد «قفزة» مفاجئة وغير متوقعة في مستوى ذكائه، قبل أن يتمكن من الحصول على الموارد واستنساخ نفسه والسعي إلى السلطة.
وأضاف الإطار مبدأً تنظيمياً بعنوان «التطبيق الموثوق ومنع فقدان السيطرة».
وقالت قراءة تفسيرية لاحقة أعدها خبراء ونُشرت على موقع الجهة التنظيمية المعنية بالفضاء الإلكتروني إن المبدأ الجديد يهدف إلى الحماية من مخاطر فقدان السيطرة التي تهدد بقاء البشر وتطورهم، وأشارت إلى سيناريو محتمل يتمثل في «انفلات الذكاء الاصطناعي».
شي يضع السيطرة البشرية في صدارة الأولويات
ظهر هذا القلق لاحقاً في الخطاب السياسي على أعلى المستويات في الصين.
وخلال المؤتمر العالمي للذكاء الاصطناعي في شنغهاي في يوليو تموز، قال الرئيس الصيني شي جين بينغ إن على السلطات إن تولي اهتماماً وثيقاً بالمخاطر المباشرة وغير المباشرة الناجمة عن الذكاء الاصطناعي.
وقال إن الذكاء الاصطناعي يجب أن «يبقى دائماً تحت سيطرة البشر».
وقال مسؤول وزارة الخارجية الصينية البارز المعني بشؤون الذكاء الاصطناعي، سون شياوبو، خلال اجتماع للأمم المتحدة الشهر الماضي، إن الصين تسرع أبحاثها المتعلقة بتشريعات أوسع للذكاء الاصطناعي.
كما دعا نائب الممثل الدائم للصين لدى الأمم المتحدة، سون لي، الحكومات هذا الشهر إلى التعامل بحذر مع الذكاء الاصطناعي العسكري، لتجنب سوء التقدير الاستراتيجي وسباق التسلح.
بكين تحذر من مخاطر جديدة يفرضها وكلاء الذكاء الاصطناعي
وبدأت الصين في الوقت نفسه تحويل تلك المبادئ إلى قواعد أكثر تحديداً لوكلاء الذكاء الاصطناعي، الذين يعملون باستقلالية أكبر وينفذون مهام أكثر تعقيداً من روبوتات المحادثة التقليدية.
وفي مايو أيار أصدرت الجهة التنظيمية الصينية للفضاء الإلكتروني إرشادات مشتركة مخصصة لهذه الأنظمة.
وتلزم الإرشادات المطورين بتحسين قدرتهم على اكتشاف السلوك غير الملائم للوكلاء والتدخل فيه ومنعه والتعافي من آثاره.
وتحدد الإرشادات تحديداً تسميم البيانات، والتلاعب بالخوارزميات، وثغرات الأنظمة، و«فقدان السيطرة التشغيلية» باعتبارها مخاطر أمنية.
كما تنص على احتفاظ المستخدمين بسلطة اتخاذ القرار النهائي بشأن القرارات المستقلة التي يتخذها وكلاء الذكاء الاصطناعي.
ورغم أن الصين لم تقترح مراقبين مستقلين داخل شركات الذكاء الاصطناعي على غرار ما دعت إليه أنثروبيك، فإن معاييرها تسمح للمطورين بالاستعانة بتقييمات مستقلة للسلامة من جهات خارجية، كما تتصور وجود هيئات تقييم وباحثين في مجال الأمن من خارج الشركات لاختبار النماذج المفتوحة وتدقيقها.
(رويترز)
11 يناير 2026
