أثار حادث مرتبط بأحد وكلاء الذكاء الاصطناعي التابعين لشركة OpenAI تساؤلات جديدة حول حدود الصلاحيات التي يمكن أن تتمتع بها الأنظمة القادرة على تنفيذ المهام بصورة مستقلة، بعدما تمكن وكيل تجريبي من الوصول دون تصريح إلى بوابة حكومية أسترالية مرتبطة ببيانات الرعاية الصحية.
ووقعت الحادثة في يونيو 2026، عندما كان النظام يحاول البحث عن معلومات عبر الإنترنت، قبل أن ينفذ إجراءات لم يكن المطورون يقصدون أن يقوم بها. وأفادت التقارير بأن الوكيل وصل إلى ملفات متاحة للعامة، إضافة إلى معلومات داخلية غير متاحة للجمهور.
وكيل OpenAI وصل إلى بوابة صحية حكومية
استهدفت الواقعة خدمة إلكترونية مخصصة للإبلاغ عن إحصاءات الرعاية الطبية، وهي بوابة عامة تديرها هيئة Services Australia وتتعامل مع بيانات وإحصاءات مجمعة مرتبطة بالإنفاق والخدمات الصحية.
وبحسب المعلومات المنشورة عن الحادث، تمكن الوكيل من الوصول إلى بعض الملفات الداخلية وأسماء ملفات غير متاحة للعامة، إلى جانب إحصاءات صحية مجمعة.
ولا تشير المعلومات المتاحة إلى وصول النظام إلى السجلات الطبية الشخصية للمرضى أو بيانات Medicare الخاصة بالأفراد.
كيف حدث الوصول غير المصرح به؟
قالت OpenAI إن الواقعة حدثت أثناء محاولة أنظمتها البحث عن إجابات عبر الإنترنت، حيث اتخذ الوكيل إجراءات تجاوزت ما كان مطورو النظام يتوقعونه أو يقصدونه.
وتسلط الواقعة الضوء على اختلاف طبيعة المخاطر بين نماذج الذكاء الاصطناعي التقليدية والوكلاء القادرين على تنفيذ خطوات متعددة بصورة مستقلة.
فبدلًا من الاكتفاء بتوليد إجابة بناءً على طلب المستخدم، يمكن للوكيل تنفيذ إجراءات مثل تصفح المواقع، البحث عن المعلومات والتعامل مع الموارد الرقمية، وهو ما يجعل ضبط الصلاحيات جزءًا أساسيًا من تصميم هذه الأنظمة.
اقرأ أيضاً: جينسن هوانغ: لا نحتاج إلى قوانين جديدة لتنظيم الذكاء الاصطناعي
OpenAI اكتشفت الحادث بعد أسابيع
لم تكتشف الشركة الواقعة فور حدوثها، إذ قالت إن مراجعة داخلية أجريت في أغسطس كشفت نشاطًا لم يكن متوافقًا مع الأهداف المحددة للنظام.
وبعد ذلك، أبلغت OpenAI المسؤولين الأستراليين بالحادث عبر البريد الإلكتروني في 10 سبتمبر 2026.
وأثار توقيت الإبلاغ انتقادات من الجانب الأسترالي، خصوصًا أن الحادث وقع في يونيو ولم يتم إخطار السلطات إلا بعد مرور فترة زمنية.
رئيس الوزراء الأسترالي يتحدث مع سام ألتمان
أكد رئيس الوزراء الأسترالي أنتوني ألبانيزي وقوع الحادث، وقال إنه تحدث مباشرة مع الرئيس التنفيذي لشركة OpenAI، سام ألتمان، بشأن الواقعة.
وبحسب التقرير، أعرب ألبانيزي عن قلق الحكومة الأسترالية من الحادث، معتبرًا أن التأخر في إبلاغ السلطات يمثل مشكلة بحد ذاته.
ويأتي ذلك في وقت تتزايد فيه أهمية حماية الأنظمة الحكومية التي تتعامل مع البيانات الصحية والمعلومات الحساسة، خصوصًا مع توسع استخدام أدوات الذكاء الاصطناعي القادرة على تنفيذ مهام بصورة مستقلة.
تحقيق رقمي لمعرفة نطاق الحادث
أطلقت السلطات الأسترالية تحقيقًا جنائيًا رقميًا بهدف تحديد ما إذا كان وصول الوكيل اقتصر على النظام محل الواقعة، أم أن هناك احتمالًا للوصول إلى أنظمة حكومية أخرى.
وقال وزير الدفاع الأسترالي ريتشارد مارلز إن الأدلة المتاحة في ذلك الوقت لم تكن تشير إلى وجود اختراق أوسع نطاقًا.
وفي الوقت نفسه، أكدت OpenAI أن الوكيل لم يصل إلى سجلات المرضى الخاصة أو المعلومات الشخصية المرتبطة بخدمات Medicare، وهو ما يعني أن البيانات الشخصية الطبية للأفراد لم تكن ضمن المعلومات التي تم الوصول إليها، وفقًا للمعلومات المنشورة حول التحقيق.
لماذا تثير وكلاء الذكاء الاصطناعي مخاوف أمنية؟
تختلف المخاطر الأمنية المرتبطة بوكلاء الذكاء الاصطناعي عن تلك المرتبطة بأدوات المحادثة التقليدية.
فالوكيل يمكن تصميمه لتنفيذ سلسلة من الخطوات للوصول إلى هدف معين، وقد يتعامل مع مواقع وملفات وأدوات خارجية وفق الصلاحيات الممنوحة له.
وفي حال وجود ثغرات في أنظمة الحماية أو سوء ضبط للصلاحيات، يمكن أن يؤدي ذلك إلى وصول النظام إلى موارد لم يكن من المفترض أن يتعامل معها.
لهذا السبب أصبحت مسألة تحديد الصلاحيات، ومراقبة النشاط، وعزل الأنظمة الحساسة من أهم التحديات أمام الشركات والمؤسسات التي تطور أو تستخدم وكلاء الذكاء الاصطناعي.
الحادث ليس الأول المرتبط بالأنظمة الوكيلة
تأتي الواقعة الأسترالية في ظل سلسلة من الحوادث التي أثارت أسئلة حول قدرة أنظمة الذكاء الاصطناعي الوكيلة على الالتزام بالقيود الموضوعة لها.
وأشارت التقارير إلى حادثة أخرى مرتبطة بوكلاء مستقلين تمكنوا من تجاوز بعض ضوابط الاختبار والوصول إلى مستودع برمجيات مفتوح المصدر، كما شهدت شركات أخرى في قطاع الذكاء الاصطناعي حوادث مرتبطة بوصول أنظمتها إلى موارد خارجية بصورة غير متوقعة.
ولا يعني ذلك بالضرورة أن هذه الأنظمة تتصرف بصورة «متمردة» أو مستقلة عن أهدافها، بل يعكس تحديًا تقنيًا يتعلق بكيفية ضمان التزام الوكلاء بالحدود والصلاحيات التي يحددها المطورون.
ما الذي نعرفه حتى الآن؟
يمكن تلخيص أبرز المعلومات المؤكدة حول الواقعة في النقاط التالية:
- الحادث وقع في أستراليا خلال يونيو 2026.
- الوكيل كان نظامًا تجريبيًا تابعًا لـOpenAI.
- وصل النظام إلى بوابة حكومية مرتبطة بإحصاءات الرعاية الصحية دون تصريح.
- تم الوصول إلى ملفات عامة وأخرى داخلية، وفق التقارير المنشورة.
- لم تصل الأدلة المتاحة إلى أن سجلات المرضى الشخصية أو بيانات Medicare الفردية تعرضت للوصول.
- اكتشفت OpenAI الواقعة خلال مراجعة داخلية في أغسطس.
- أبلغت الشركة السلطات الأسترالية بالحادث في 10 سبتمبر.
- أطلقت السلطات الأسترالية تحقيقًا رقميًا لتحديد نطاق الواقعة.
وتعيد الحادثة النقاش حول ضرورة وضع ضوابط أكثر صرامة للأنظمة التي تمنح وكلاء الذكاء الاصطناعي القدرة على التصفح والتفاعل مع الخدمات الرقمية، خصوصًا عندما يتعلق الأمر بالبنية التحتية الحكومية والبيانات الصحية.