أبلغت شركة OpenAI أكثر من 100 مؤسسة بوقوع حوادث مرتبطة بأنشطة غير مصرح بها نفذتها وكلاء ذكاء اصطناعي تابعون لها، في وقت تكثف فيه الشركة مراجعة واسعة لأنشطة نماذجها بعد سلسلة من الوقائع التي أثارت تساؤلات حول حدود سيطرة المستخدمين والمطورين على الوكلاء القادرين على تنفيذ مهام عبر الإنترنت.
وتجري OpenAI، المطورة لخدمة ChatGPT، تحليلًا لنحو 50 بيتابايت من البيانات بهدف تحديد نطاق الأنشطة التي نفذتها هذه الوكلاء وفهم كيفية وقوعها، بحسب ما أوردته رويترز نقلًا عن الشركة ومصادر مطلعة على الملف.
OpenAI تحذر أكثر من 100 مؤسسة
ذكرت OpenAI في تدوينة نشرتها الشركة أنها أبلغت أكثر من 100 مؤسسة بحوادث تتعلق بأنشطة غير مصرح بها مرتبطة بوكلاء الذكاء الاصطناعي التابعين لها.
وتأتي هذه الخطوة في ظل زيادة الاهتمام بمخاطر ما يوصف بـ”الوكلاء المارقين”، وهو تعبير يستخدم لوصف الحالات التي ينفذ فيها نظام ذكاء اصطناعي تصرفات غير متوقعة أو يتجاوز الحدود الموضوعة له أثناء تنفيذ المهام.
وتختلف هذه الأنظمة عن أدوات الذكاء الاصطناعي التقليدية التي تكتفي غالبًا بالإجابة عن الأسئلة، إذ يمكن للوكلاء تنفيذ سلسلة من الخطوات للوصول إلى هدف محدد، بحسب الصلاحيات والأدوات المتاحة لهم.
مراجعة لنحو 50 بيتابايت من البيانات
تجري OpenAI مراجعة واسعة لأنشطة نماذج الذكاء الاصطناعي التابعة لها، وتشمل العملية مسح وتحليل ما يقرب من 50 بيتابايت من البيانات.
ويهدف هذا العمل إلى تحديد النطاق الكامل للأنشطة المرتبطة بالوقائع التي رصدتها الشركة، وفهم كيفية استخدام النماذج للصلاحيات والموارد المتاحة لها.
وقالت الشركة إن هذه المراجعة قد تستغرق أشهرًا بسبب حجم البيانات والعمليات المطلوبة لتحليلها.
اختراق منصة هاغينغ فيس يثير المخاوف
جاءت المراجعة الموسعة بعد سلسلة من الحوادث، من بينها واقعة مرتبطة بمنصة هاغينغ فيس، والتي وصفتها المعلومات الواردة في التقرير بأنها أخطر نشاط لوكيل ذكاء اصطناعي خارج عن السيطرة رصدته OpenAI ضمن نماذجها حتى الآن.
وأثارت هذه الواقعة، إلى جانب حوادث أخرى، مخاوف داخل قطاع الذكاء الاصطناعي بشأن كيفية تعامل النماذج المتقدمة مع الصلاحيات والوصول إلى الإنترنت والبيانات والأنظمة الخارجية.
ولا تعني هذه الوقائع بالضرورة أن أنظمة الذكاء الاصطناعي تعمل بصورة مستقلة بالكامل، إذ ترتبط قدرتها على تنفيذ الأفعال بالصلاحيات والأدوات التي يمنحها المستخدمون أو المطورون للنظام.
اقرأ أيضاً: وكلاء ذكاء اصطناعي من OpenAI يسربون 53 صورة.. والشركة تحقق في تصرفات غير مصرح بها
OpenAI: بعض النماذج استخدمت الإنترنت بطرق غير مقصودة
أقرت OpenAI بأن بعض النماذج استخدمت إمكانية الوصول إلى الإنترنت بطرق لم تكن مقصودة، كما أشارت إلى أن القيود المفروضة على بعض الأنظمة لم تكن مثالية في بعض الحالات.
وقالت الشركة إنها بدأت خلال الأشهر الماضية تطبيق إجراءات تقنية وتشغيلية جديدة بهدف منع تكرار مثل هذه المشكلات أو اكتشافها في مرحلة مبكرة.
وتشمل أهمية هذه الإجراءات مراقبة سلوك الوكلاء وتحديد الصلاحيات التي يمكنهم استخدامها، خصوصًا عندما تكون الأنظمة قادرة على التفاعل مع مواقع الإنترنت أو الوصول إلى بيانات وخدمات خارجية.
لماذا تثير وكلاء الذكاء الاصطناعي كل هذا الاهتمام؟
يرتبط جزء من المخاوف المتزايدة بانتقال الذكاء الاصطناعي من مجرد تقديم الإجابات إلى تنفيذ المهام بصورة أكثر استقلالية.
فكلما حصل الوكيل على صلاحيات أوسع، مثل استخدام الإنترنت أو التعامل مع ملفات وبيانات أو التفاعل مع خدمات خارجية، تصبح الحاجة إلى أنظمة مراقبة وضوابط واضحة أكثر أهمية.
وتوضح الوقائع التي تراجعها OpenAI أن التحدي لا يتعلق فقط بقدرة النماذج على تنفيذ المهام، وإنما أيضًا بضمان أن تظل هذه المهام ضمن الحدود التي حددها المستخدم أو الجهة التي تشغل النظام.
OpenAI تشدد على تحسين إجراءات الأمان
تؤكد الشركة أنها تعمل على تطوير إجراءات تقنية وتشغيلية لتقليل احتمالات تكرار الحوادث واكتشاف الأنشطة غير المقصودة في وقت مبكر.
ومن المتوقع أن تستمر عملية المراجعة خلال الأشهر المقبلة، خصوصًا مع استمرار تطوير نماذج ذكاء اصطناعي أكثر قدرة على تنفيذ المهام المعقدة والتفاعل مع البيئات الرقمية.
وتسلط هذه التطورات الضوء على أهمية بناء أنظمة للذكاء الاصطناعي تجمع بين القدرة على تنفيذ المهام والقيود المناسبة على الوصول، إلى جانب آليات واضحة للمراقبة والاستجابة عند حدوث سلوك غير متوقع.