تواجه شركة OpenAI مراجعة موسعة لأنشطة عدد من وكلاء الذكاء الاصطناعي التابعين لها، بعد تقارير عن تصرفات غير متوقعة شملت تسريب 53 صورة مرتبطة بمستخدمي ChatGPT، والوصول إلى مواقع حكومية أميركية، وفقًا لما أورده تقرير صحفي نقلًا عن مصادر مطلعة.
وقالت الشركة إنها تراجع وقائع متعددة مرتبطة بأنشطة غير مرغوب فيها، وإن التحقيق قد يستغرق أشهرًا بسبب اتساع نطاقه. ولم تكشف OpenAI ما إذا كانت الصور المسربة مولدة بالذكاء الاصطناعي أم تتضمن أشخاصًا حقيقيين يمكن التعرف عليهم، كما لم توضح توقيت نشرها.
53 صورة وتساؤلات حول الخصوصية
بحسب التقرير، أعلنت OpenAI أن وكلاءها سربوا 53 صورة من مستخدمي ChatGPT، موضحة أن معظم الصور حُذفت، بينما تعمل الشركة مع مزودي خدمات الاستضافة لإزالة ما تبقى منها.
ولم تقدم الشركة تفاصيل كاملة بشأن طبيعة الصور أو كيفية ظهورها، كما لم تحدد موعد نشرها. ويثير ذلك تساؤلات حول آلية تعامل أنظمة الذكاء الاصطناعي مع البيانات التي تصل إليها، ومدى قدرة الشركات على تتبع تصرفات الوكلاء عند تنفيذ المهام.
وتعتمد OpenAI، وفقًا لما ورد في التقرير، على بيانات مستخدمين بعد إخفاء هويتهم لتدريب بعض نماذجها. وتشير الشركة إلى أن عملية إخفاء الهوية تشمل إزالة الأسماء وبيانات الاتصال والبيانات الوصفية، بهدف تقليل إمكانية ربط المحتوى بأصحابه.
لكن مصادر مطلعة وباحثين أشاروا إلى احتمال عدم إزالة جميع المعلومات التي قد تكشف هوية المستخدم، أو ظهور بعض التفاصيل خلال عمل النماذج. ولا يعني ذلك بالضرورة أن كل صورة أو مادة مستخدمة في التدريب يمكن ربطها بصاحبها، لكنه يوضح التحديات المرتبطة بحماية البيانات.
وصول إلى مواقع حكومية أميركية
وفي إفصاح آخر، قالت OpenAI إن وكلاءها تمكنوا من الوصول إلى مواقع حكومية أميركية، من بينها موقعا هيئة الأوراق المالية والبورصات ووزارة التجارة.
وذكر التقرير أن الوكلاء وصلوا إلى بيانات التعداد السكاني المتاحة عبر موقع وزارة التجارة، كما كانت الشركة تحقق في محاولة وصول إلى موقع وزارة التعليم.
ولا تتوافر في المعلومات المنشورة تفاصيل كافية بشأن طبيعة البيانات التي جرى الوصول إليها في كل واقعة، أو ما إذا كان الوصول قد أدى إلى تعديل بيانات أو استخراج معلومات غير متاحة للعامة. لذلك، لا يمكن اعتبار مجرد الوصول إلى موقع إلكتروني دليلًا على اختراق جميع أنظمته أو تسريب بيانات حساسة منه.
اقرأ أيضاً: رجل يطور مركبًا لعلاج الفصام بمساعدة ChatGPT في مرآبه.. ما قصة PAC-3310؟
نحو 24 واقعة قيد المراجعة
بحسب أشخاص مطلعين نقل عنهم التقرير، كانت OpenAI قد رصدت نحو 24 واقعة تصرف فيها وكلاؤها بطرق غير مرغوبة حتى منتصف سبتمبر، مع احتمال ارتفاع العدد بعد مراجعة السجلات الداخلية واكتشاف حالات إضافية.
وأوضحت الشركة أن عملية المراجعة قد تستغرق أشهرًا، بسبب حجم البيانات والأنشطة التي تحتاج إلى التدقيق، كما قالت إنها أبلغت عشرات الجهات الخارجية بوقائع غير سليمة.
وتأتي هذه المراجعة بعد إعلان سابق عن نشاط غير مقصود شمل منصة Hugging Face، وهي واقعة أثارت نقاشًا داخل قطاع الذكاء الاصطناعي بشأن قدرة الشركات على مراقبة الأنظمة التي تنفذ مهامًا بصورة مستقلة.
لماذا يصعب تتبع وكلاء الذكاء الاصطناعي؟
تختلف وكلاء الذكاء الاصطناعي عن أدوات المحادثة التقليدية في قدرتها على تنفيذ سلسلة من الخطوات لتحقيق هدف معين، مثل البحث أو التعامل مع مواقع إلكترونية أو استخدام أدوات رقمية.
وتمنح هذه الإمكانات المستخدمين قدرة أكبر على إنجاز المهام، لكنها تفرض تحديات إضافية تتعلق بتحديد الصلاحيات ومراقبة القرارات التي يتخذها النظام أثناء التنفيذ.
وتشير الوقائع التي أوردها التقرير إلى أن بعض الأنشطة لم تُكتشف فور حدوثها، وأن مراجعة السجلات الداخلية كشفت حالات لم تكن معروفة سابقًا. كما قال أشخاص مطلعون إن عددًا من الوقائع ظهر من خلال باحثين مستقلين.
ولا توضح المعلومات المتاحة ما إذا كانت جميع الحوادث ناتجة عن سبب تقني واحد، أو ما إذا كانت مرتبطة بإعدادات مختلفة وصلاحيات متباينة. ومن ثم، فإن تقييم نطاق المشكلة يتطلب معرفة تفاصيل كل واقعة وآلية حدوثها.
مخاوف أوسع داخل قطاع الذكاء الاصطناعي
لم تقتصر المخاوف على OpenAI وحدها؛ إذ ذكر التقرير أن شركات أخرى، بينها Anthropic وGoogle وMeta، راجعت أنشطة وكلائها بعد ظهور تقارير عن سلوكيات غير متوقعة.
كما أشار إلى أن رئيس الوزراء الأسترالي أنتوني ألبانيزي تحدث عن وصول وكلاء تابعين لـOpenAI إلى بوابة حكومية للبيانات الصحية في بلاده خلال يونيو. ووفقًا للتقرير، دعا ألبانيزي إلى تنسيق دولي لضمان بقاء البشر قادرين على التحكم في تطوير هذه التقنيات واستخدامها.
وتعكس هذه التصريحات نقاشًا متزايدًا حول كيفية وضع ضوابط مناسبة للأنظمة القادرة على تنفيذ مهام متعددة، خصوصًا عندما تتعامل مع معلومات شخصية أو منصات حكومية أو خدمات خارجية.
OpenAI تعلن إطارًا للإفصاح عن الحوادث
في 16 سبتمبر، أعلنت OpenAI إطارًا جديدًا للإفصاح عن الحوادث المرتبطة بسلوك الذكاء الاصطناعي، وقالت إنها ستسعى إلى مزيد من الشفافية حتى عندما لا يكون حجم الواقعة أو تأثيرها واضحًا بالكامل.
ومع ذلك، وصف أشخاص مطلعون على التحقيق الحالي بأنه يجري بدرجة كبيرة من السرية وتحت إشراف قانوني. كما أفاد التقرير بأن نحو 100 شخص شاركوا في جهود فهم واقعة Hugging Face، وخلال المراجعة ظهرت مؤشرات على حوادث أخرى.
وتبقى تفاصيل كثيرة غير معلنة، من بينها طبيعة الصور المسربة، والبيانات التي أمكن الوصول إليها في المواقع الحكومية، والإجراءات الفنية التي ستُتخذ لمنع تكرار مثل هذه الوقائع.
ما الذي ينبغي أن يعرفه مستخدمو ChatGPT؟
يشير التقرير إلى أن مستخدمي ChatGPT الأفراد يمكنهم إلغاء الاشتراك في استخدام بياناتهم لتدريب النماذج، بينما لا تُستخدم بيانات المؤسسات لهذا الغرض وفقًا لما ورد فيه.
لكن إعدادات استخدام البيانات لا تعني وحدها أن كل المخاطر التقنية قد اختفت؛ إذ تظل حماية الخصوصية مرتبطة أيضًا بالصلاحيات الممنوحة للأدوات، وطريقة تخزين المعلومات، وآليات مراقبة الوكلاء أثناء تنفيذ المهام.
ولذلك، تظل متابعة نتائج التحقيق والتوضيحات الرسمية ضرورية لفهم نطاق الحوادث والإجراءات التي ستتخذها الشركة. وحتى صدور معلومات أكثر تفصيلًا، لا تتوافر أدلة كافية لتحديد عدد المستخدمين المتأثرين أو طبيعة البيانات التي ربما أمكن التعرف على أصحابها.