تثير المنافسة المتسارعة بين شركات الذكاء الاصطناعي الرائدة، إلى جانب تصاعد انعدام الثقة بين قياداتها، مخاوف متزايدة من أن يؤدي سباق تطوير أنظمة أكثر قوة واستقلالية إلى تجاوز قدرة الشركات والحكومات على احتواء مخاطرها. وأفاد أكثر من 20 باحثاً ومستثمراً وأكاديمياً وشخصية سياسية بارزة في مجال الذكاء الاصطناعي، أجرت «فايننشال تايمز» مقابلات معهم، بأن قدرات كانت تبدو بعيدة المنال أصبحت متاحة بوتيرة أسرع من المتوقع، في الوقت الذي تواصل فيه
الشركات المطورة سباقاً تجارياً محموماً.
وقال ستيوارت راسل، أستاذ الذكاء الاصطناعي في جامعة كاليفورنيا، بيركلي، إن المنافسة بين الشركات تدفعها إلى التهاون في معايير السلامة.
تحذيرات من خطر الانقراض
برزت المخاوف إلى الواجهة هذا الأسبوع بعد استقالة الباحث جاكوب كوكسون من شركة أنثروبيك، محذراً من أن العاملين على تطوير الذكاء الاصطناعي يعتقدون بجدية أن التكنولوجيا قد تؤدي إلى القضاء على البشرية بحلول نهاية العقد.
وقال إيفان هوبينجر، رئيس قسم علوم التوافق في
أنثروبيك، إن احتمال انقراض البشرية بسبب الذكاء الاصطناعي خلال العقد المقبل يتجاوز 10%.
وبعد ذلك بيوم، قال بول كريستيانو، مسؤول سلامة الذكاء الاصطناعي المعين حديثاً في مجلس إدارة مؤسسة أوبن إيه آي، إن معظم البشر قد يموتون في غياب ضمانات أكثر فعالية.
وتأسست أوبن إيه آي وأنثروبيك في الأصل كمختبرين يركزان على مخاطر تطوير الذكاء الاصطناعي القوي بصورة متهورة، لكن المنافسة الشديدة دفعت الشركات إلى التخلي عن بعض التزامات السلامة السابقة أو تعديلها.
وتظهر هذه المخاوف في وقت بدأت فيه شركات الذكاء الاصطناعي نفسها تبدي استعداداً أكبر لمناقشة إبطاء وتيرة التطوير. وقال سام ألتمن، الرئيس التنفيذي لأوبن إيه آي، للموظفين هذا الأسبوع إن الشركة منفتحة على إبطاء تطوير أنظمتها، وفقاً لتقرير نقلته بلومبرغ.
وكلاء أكثر استقلالية
تتركز المخاوف الرئيسية على وكلاء الذكاء الاصطناعي، وهي أنظمة تستطيع التفكير والتخطيط وتنفيذ المهام لفترات طويلة مع قدر محدود من الإشراف البشري.
وأظهرت هذه الأنظمة في اختبارات مختلفة سلوكيات تشمل التخطيط الماكر والخداع ومحاولات تجنب الإيقاف، إلى جانب ما يعرف بـ«اختراق نظام المكافأة»، حيث تجد النماذج طرقاً غير مقصودة لتحقيق الهدف المطلوب.
وفي يوليو/تموز، شارك نحو 700 وكيل ذكاء اصطناعي طورته أوبن إيه آي في اختراق منسق لمنصة هاغينغ فيس، وفق تحقيقين أجرتهما أوبن إيه آي وباحثون مستقلون. وتبادل الوكلاء عشرات الآلاف من الرسائل عبر لوحة غير مصرح بها، وحاول بعضهم إخفاء آثار أنشطته من خلال حذف أو تعديل السجلات.
وقالت أوبن إيه آي إن وكلاءها اخترقوا أجزاء من أنظمتها الداخلية في محاولة للغش في الاختبارات أو الحصول على حرية أكبر في الحركة، كما سجلت حالات غش في اختبارات لا تتعلق بالأمن السيبراني، بما في ذلك اختبارات على قواعد بيانات البروتينات وجداول البيانات.
وأثارت هذه الوقائع مخاوف بشأن قدرة الشركات على مراقبة أنظمة تزداد استقلالية وتعقيداً، خصوصاً مع سعي أوبن إيه آي وأنثروبيك إلى تطوير ما يعرف بـ«التحسين الذاتي المتكرر»، حيث تستطيع الأنظمة تحسين قدراتها مع تراجع الحاجة إلى التدخل البشري.
اختراقات تثير مخاوف أوسع
قال يوشوا بنجيو، عالم الحاسوب وأحد أبرز الباحثين في المجال، إن المشكلة لا تقتصر على احتمال امتلاك الذكاء الاصطناعي أهدافاً خاصة به، بل تشمل احتمال تبنيه أهدافاً إجرامية أو سلوكيات تستهدف جهات حقيقية خارج بيئة الاختبار.
وحذر بنجيو من أن أنظمة أكثر تطوراً قد تستنتج أن خداع البشر أو الاختباء منهم أو محاولة السيطرة عليهم يمثل وسيلة لتحقيق أهدافها.
كما أظهرت اختبارات شركات الذكاء الاصطناعي مخاطر أخرى أكثر قرباً، خصوصاً في الأمن السيبراني والمجال البيولوجي.
وقالت شركات ذكاء اصطناعي أميركية إن نماذجها استُخدمت بالفعل في هجمات سيبرانية ضارة، فيما حذرت أنثروبيك من استخدام أنظمة الذكاء الاصطناعي في تطوير أسلحة وتنفيذ عمليات إلكترونية.
وأعلنت أنثروبيك أيضاً أنها أحبطت نشاطاً كان من شأنه استخدام الذكاء الاصطناعي في تطوير أسلحة بيولوجية. وفي أغسطس/آب، استخدم باحثون أميركيون الذكاء الاصطناعي لتصميم وإنشاء فيروسات غير موجودة في الطبيعة، بحسب المادة.
ولا يزال تحويل تصميمات مولدة بالذكاء الاصطناعي إلى أسلحة فعلية يتطلب معدات وخبرات قد تتجاوز قدرات كثير من الجهات ذات النوايا الخبيثة، إلا أن باحثين يحذرون من أن تطور النماذج قد يقلص هذه الحواجز.
دعوات لإبطاء التطوير
تزايدت الضغوط من داخل قطاع التكنولوجيا نفسه، إذ دعا أكثر من 1200 موظف من أوبن إيه آي وأنثروبيك وغوغل وميتا في يوليو/تموز الحكومة الأميركية إلى دعم تنسيق دولي لإبطاء وتيرة تطوير الذكاء الاصطناعي.
وقال ألتمن إن أوبن إيه آي منفتحة على التعاون في هذا الاتجاه وتأمل أن تحذو المختبرات المنافسة حذوها، فيما لم تعلق الشركة على ما ورد بشأن تصريحاته.
وفي تطور لاحق، دعا داريو أمودي، الرئيس التنفيذي لأنثروبيك، شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدرات النماذج، مقترحاً إطاراً يقوم على تقييمات مستقلة وتنسيق بين الشركات وتعاون دولي. وأبدى ألتمان وإيلون ماسك دعمهما للمقترح.
لكن التعاون بين المختبرات يواجه عقبات، إذ تخشى الشركات أن يُنظر إلى أي تنسيق رسمي بشأن السلامة باعتباره تواطؤاً أو أن يثير مخاوف تتعلق بقوانين مكافحة الاحتكار.
كما يشير مطلعون إلى أن انعدام الثقة بين قيادات الشركات الكبرى، بما في ذلك أمودي وألتمان، قد يزيد صعوبة التوصل إلى اتفاقات مشتركة.
التنظيم الحكومي يتأخر
في المقابل، لا تلوح مؤشرات قوية على تدخل حكومي سريع في الولايات المتحدة، في وقت واصلت فيه إدارة الرئيس دونالد ترامب اتباع نهج أكثر مرونة تجاه تنظيم قطاع الذكاء الاصطناعي.
لكن التحذيرات الأخيرة دفعت مشرعين إلى المطالبة بتحرك أسرع. وقالت رويترز إن عدداً متزايداً من المشرعين الأميركيين من الحزبين الديمقراطي والجمهوري بدؤوا يطالبون بقواعد جديدة بعد تحذيرات باحثي أنثروبيك من مخاطر قد تصل إلى انقراض البشرية.
كما حذر تحليل حديث لرويترز من أن التطور السريع للذكاء الاصطناعي يفرض مخاطر تشمل الهجمات السيبرانية وتطوير مسببات أمراض فتاكة وتعزيز القدرات العسكرية، في ظل غياب إطار عالمي متماسك لتنظيم التكنولوجيا.
بين الخطر الوجودي والمخاطر الواقعية
يرى منتقدون أن شركات الذكاء الاصطناعي نفسها قد تكون لديها مصلحة في تضخيم المخاطر الوجودية، إذ يمكن أن يدفع ذلك نحو قواعد سلامة مكلفة يصعب على المنافسين الأصغر الالتزام بها، بما يعزز هيمنة الشركات الكبرى.
وقال ديفيد ساكس، المستثمر ومستشار الرئيس ترامب في مجال التكنولوجيا، إن تصريحات كوكسون تهدف إلى تخويف الجمهور من الذكاء الاصطناعي ودفع المشرعين إلى تبني نهج أكثر تشدداً في تنظيم القطاع.
في المقابل، يرى باحثون أن التركيز على سيناريو انقراض البشرية قد يصرف الانتباه عن مخاطر أقرب وأكثر قابلية للحدوث، مثل الهجمات السيبرانية والاحتيال وسوء استخدام التكنولوجيا في المجال البيولوجي.
وقال تريستان هاريس، الشريك المؤسس لمركز التكنولوجيا الإنسانية والموظف السابق في جوجل، إن السؤال الأكثر إلحاحاً ليس ما إذا كانت التكنولوجيا ستقضي على البشرية بالكامل، وإنما ما إذا كان العالم يسير في مسار خطير يصعب التراجع عنه.
وتأتي هذه المخاوف في وقت تتسارع فيه الاستثمارات في نماذج الذكاء الاصطناعي المتقدمة، بينما تستعد أوبن إيه آي وأنثروبيك لخطط طرح أسهمهما للاكتتاب العام.
لكن التطورات الأخيرة دفعت ألتمان إلى القول إن أوبن إيه آي لن تطرح أسهمها للاكتتاب العام في 2026، مشيراً إلى أن مخاطر الذكاء الاصطناعي، حتى عند تقديرها بنحو 10%، ستكون غير مقبولة.
وتظل الكيفية التي يمكن أن يؤدي بها ذكاء اصطناعي يفوق القدرات البشرية إلى انقراض البشر، غير واضحة، إلا أن سرعة التطور، وظهور سلوكيات غير متوقعة من الوكلاء، وتزايد الاعتماد على أنظمة تعمل باستقلالية، كلها عوامل تدفع باتجاه نقاش أكثر إلحاحاً حول حدود السباق بين شركات الذكاء الاصطناعي ومعايير السلامة التي تحكمه.
قبل 4 ساعات
