تواصل شركة «أوبن إيه آي» العمل على تحديد النطاق الكامل للنشاط غير المرغوب فيه لوكلاء الذكاء الاصطناعي التابعين لها، في وقت كشفت فيه الشركة عن تسريب 53 صورة لمستخدمي ChatGPT، ما يسلط الضوء على تحديات متزايدة تواجهها الشركة في مراقبة تصرفات أنظمة الذكاء الاصطناعي التي تعمل بصورة أكثر استقلالية. وبعد نحو شهرين من كشف «أوبن إيه آي» عن حادثة اختراق مستودع «هاجينغ فيس» نتيجة نشاط وكلائها، لا تزال الشركة تراجع سجلات نشاط هذه الأنظمة بحثًا عن حالات أخرى، وفقًا لشخصين مطلعين على الأمر تحدثا إلى «رويترز».
وقالت «أوبن إيه آي» إن مراجعة نشاط الوكلاء قد تستغرق أشهرًا بالنظر إلى حجم العمل، بينما قدّر أحد الأشخاص المطلعين على الأمر أنه بحلول منتصف سبتمبر كانت الشركة قد رصدت نحو 24 حادثة تصرف فيها وكلاؤها بطرق غير مرغوبة، واستمر العدد في الارتفاع مع فحص فرق الشركة للسجلات الداخلية واكتشاف حالات لم تكن معروفة سابقًا.
تسريب 53 صورة
وكشفت «أوبن إيه آي» يوم الجمعة أن وكلاءها سربوا 53 صورة تعود إلى مستخدمي ChatGPT، بعدما أرسلوها إلى مواقع لاستضافة الصور دون أن يكون ذلك مقصودًا.
ولم تحدد الشركة ما إذا كانت الصور مولدة
بالذكاء الاصطناعي أو تظهر أشخاصًا حقيقيين، كما لم تكشف متى نُشرت الصور، وقالت إن معظم الصور جرى حذفها، وإنها تعمل مع مزودي خدمات الاستضافة لإزالة الصور المتبقية.
وتستخدم «أوبن إيه آي» بعض بيانات المستخدمين التي جرى إخفاء هويتها في تدريب النماذج، بينما لا تُستخدم بيانات عملاء المؤسسات في التدريب، ويتعين على مستخدمي ChatGPT من المستهلكين إلغاء الاشتراك إذا كانوا لا يريدون استخدام بياناتهم لهذا الغرض.
وقالت الشركة إن البيانات تمر قبل استخدامها في التدريب بعملية إخفاء للهوية تزيل البيانات الوصفية والأسماء ومعلومات الاتصال، بهدف جعل ربطها بأفراد بعينهم أمرًا صعبًا.
لكن أشخاصًا مطلعين على ممارسات الشركة قالوا إن هذه العملية تحمل مخاطر، إذ قد لا تُزال بعض المعلومات التي تسمح بتحديد هوية الأشخاص بشكل كامل، كما يمكن أن تتسرب البيانات أثناء عمل النماذج.
اتساع نطاق الحوادث
لا تقتصر الحالات التي تراجعها «أوبن إيه آي» على تسريب الصور، فقد شهد الشهران الماضيان أكثر من 15 حادثة مرتبطة بوكلائها، كشفت عنها الشركة أو باحثون خارجيون أو جهات أخرى.
وتراوحت هذه الحوادث بين ترك رسائل شبيهة بالرسائل المزعجة على مواقع الإنترنت، وحادثة «هاجينغ فيس» التي تضمنت استخدام مجموعة من الوكلاء لثغرات برمجية غير معروفة سابقًا للخروج من بيئتهم والوصول إلى مستودع الذكاء الاصطناعي أثناء تنفيذ مهمة بحثية.
كما اكتشف باحثون خارجيون في وقت سابق من سبتمبر أن وكلاء تابعين لـ«أوبن إيه آي» سيطروا على موقع ألماني شبه مهجور واستخدموه لمشاركة أساليب للتحايل على بعض المهام وتجاوز قيود الشركة وإخفاء نشاطهم.
وقالت شركة أبحاث الذكاء الاصطناعي «ترانس لوس» هذا الأسبوع إنها اكتشفت حالات أخرى مرتبطة بوكلاء «أوبن إيه آي»، من بينها تجاوز أنظمة مكافحة الروبوتات التابعة للمعهد الأسترالي للصحة والرعاية، إلى جانب حالتين أخريين، وقالت «أوبن إيه آي» إن جزءًا كبيرًا من النشاط الذي أبلغت عنه «ترانس لوس» يتداخل مع حالات تخضع بالفعل للتحقيق.
تحدٍ جديد للخصوصية
تسلط هذه الحوادث الضوء على تحدٍ مختلف عن المخاطر التقليدية لاستخدام الذكاء الاصطناعي، إذ لا يتعلق الأمر فقط بما يقوله النموذج للمستخدم، وإنما بما يمكن أن يفعله عندما يُمنح القدرة على تنفيذ مهام متعددة بصورة شبه مستقلة.
وتواجه شركات الذكاء الاصطناعي ضغوطًا متزايدة لمراقبة هذه الأنظمة، خصوصًا مع توسع استخدام الوكلاء القادرين على تصفح الإنترنت واستخدام الأدوات وتنفيذ سلسلة من الإجراءات لتحقيق هدف معين.
وأعلنت «أوبن إيه آي» في 16 سبتمبر إطارًا جديدًا للإفصاح عن حوادث السلوك غير المنضبط للوكلاء، وقالت إنها ستفضل الشفافية حتى عندما تكون أهمية الحادثة غير مؤكدة.
لكن شخصين مطلعين على التحقيق الداخلي وصفا العملية بأنها شديدة الانغلاق ومتأثرة بدور المستشارين القانونيين للشركة، وقالت «أوبن إيه آي» إن محاميها لم يثنوا المحققين عن التوسع في التحقيق.
وبينما تواصل الشركة مراجعة سجلات نشاط وكلائها، يظل حجم الحالات الفعلي غير واضح، خصوصًا أن عددًا من الحوادث السابقة اكتشفه باحثون خارجيون بدلًا من الشركة نفسها.
وتشير هذه التطورات إلى أن التحدي بالنسبة لـ«أوبن إيه آي» لم يعد فقط في تطوير وكلاء أكثر قدرة، وإنما أيضًا في معرفة ما يفعله هؤلاء الوكلاء ومراقبته ومنعهم من تجاوز الحدود المسموح بها.
قبل يوم
