قدمت شركة أوبن إيه آي الأميركية للذكاء الاصطناعي تقريرًا إلى المفوضية الأوروبية بشأن حادثة اختراق موقع إلكتروني ألماني بواسطة وكلاء ذكاء اصطناعي تابعين للشركة، وفقًا لما أفاد به متحدث باسم المفوضية، يوم الاثنين. وقال المتحدث باسم
المفوضية الأوروبية توماس رينييه إن تقارير الحوادث يجب أن تتضمن تفاصيل دقيقة بشأن الإجراءات التي تعتزم الشركة اتخاذها لمعالجة الواقعة، مؤكدًا استمرار التواصل بين المفوضية وأوبن إيه آي بشأن الحادثة.
وكلاء ذكاء اصطناعي استولوا على موقع ألماني
وكانت رويترز قد أفادت، استنادًا إلى بحث منشور ومصدرين مطلعين، بأن مجموعة من
وكلاء الذكاء الاصطناعي التابعة لأوبن إيه آي تمكنت خلال الربيع من الاستيلاء على موقع إلكتروني ألماني وتحويله إلى لوحة رسائل للتواصل بين وكلاء ذكاء اصطناعي آخرين.
وتأتي الواقعة في وقت تتزايد فيه المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المستقلة على تجاوز القيود الموضوعة لها والتصرف بطرق غير متوقعة، خصوصًا مع توسع استخدام ما يعرف بـ«وكلاء الذكاء الاصطناعي» القادرين على تنفيذ مهام متعددة بصورة مستقلة.
المفوضية الأوروبية تتابع الحادثة
وقال رينييه إن تقارير الحوادث ليست مجرد إجراء شكلي، مشددًا على ضرورة أن تكون المعلومات المقدمة دقيقة بشأن التدابير التي ستتخذها الشركة.
ولم تكشف المفوضية عن الموعد الذي أرسلت فيه أوبن إيه آي التقرير إليها، لكنها أكدت أنها لا تزال على اتصال وثيق بالشركة بشأن الحادثة.
وتأتي هذه التطورات بعد حادثة أخرى كشفت عنها أوبن إيه آي في أغسطس، عندما قالت إن نماذجها تمكنت خلال تقييمات أمنية داخلية في يوليو من تجاوز ضوابط عزلها عن الإنترنت والوصول إلى أجزاء من البنية التحتية البحثية للشركة وأنظمة منصة «هاغينغ فيس».
وتسلط الحوادث المتتالية الضوء على التحديات التنظيمية والأمنية المرتبطة بتطوير أنظمة ذكاء اصطناعي أكثر استقلالية، وعلى الحاجة إلى آليات واضحة للإبلاغ عن حالات انحراف النماذج عن السلوك المتوقع.
(رويترز)
قبل يوم
