فتح جينسن هوانغ، المؤسس والرئيس التنفيذي لشركة إنفيديا، نقاشًا جديدًا حول الطريقة التي ينبغي أن تتعامل بها الحكومات والشركات مع مخاطر الذكاء الاصطناعي، بعدما أكد أن تطوير هذه التكنولوجيا لا يحتاج بالضرورة إلى قوانين جديدة، معتبرًا أن مسؤولية السلامة تقع بدرجة كبيرة على عاتق المهندسين والشركات التي تطور الأنظمة.
وجاءت تصريحات هوانغ خلال مشاركته في مؤتمر Dreamforce التابع لشركة Salesforce في سان فرانسيسكو، حيث ناقش مستقبل الذكاء الاصطناعي وسرعة تطوره والمخاوف المتعلقة بالسلامة.
ويرى هوانغ أن الذكاء الاصطناعي، مهما بلغت درجة تعقيده، يظل في النهاية نظامًا حاسوبيًا صممه البشر، وبالتالي يمكن التعامل مع مخاطره من خلال الهندسة والاختبارات وقواعد المسؤولية الموجودة بالفعل، بدلًا من بناء منظومة تشريعية جديدة بالكامل.
هوانغ: السلامة مشكلة هندسية وليست قانونية
اختصر هوانغ رؤيته في عبارة واضحة مفادها أن سلامة الذكاء الاصطناعي مشكلة هندسية وليست قانونية.
وبحسب تصوره، فإن الشركات التي تطور أنظمة الذكاء الاصطناعي قادرة على اختبار منتجاتها قبل طرحها، وتحديد المخاطر المحتملة، وإبطاء عملية الإطلاق إذا لم تكن واثقة من مستوى الأمان أو الأداء.
ويعتقد الرئيس التنفيذي لإنفيديا أن الشركات لديها حافز تجاري طبيعي لتجنب إطلاق منتجات غير آمنة، لأن فشل المنتج قد يؤدي إلى فقدان ثقة العملاء والإضرار بسمعة الشركة وخسارة الإيرادات.
وقال هوانغ إن الشركات تستطيع تحديد سرعة تطوير منتجاتها وفق مستوى الثقة في أدائها وسلامتها، مشددًا في الوقت نفسه على أن الابتكار السريع والسلامة ليسا بالضرورة هدفين متعارضين.
وأضاف أن الشركة إذا شعرت في مرحلة ما بأن الوضع خرج عن السيطرة أو أن المنتج غير آمن، فعليها التوقف مؤقتًا ومعالجة المشكلة قبل استئناف التطوير.
اقرأ أيضاً: واشنطن تسابق الزمن لتنظيم الذكاء الاصطناعي.. تحذيرات من سباق قد يتجاوز قدرة البشر على السيطرة
لماذا يرفض هوانغ القوانين الجديدة؟
لا يقوم موقف هوانغ على رفض فكرة السلامة في الذكاء الاصطناعي، بل على اختلافه بشأن الطريقة المناسبة لتحقيقها.
فهو يرى أن الأسواق وقواعد المسؤولية الحالية يمكن أن تؤدي جزءًا كبيرًا من الدور الذي يطالب به المدافعون عن التشريعات الجديدة.
وبحسب هذا التصور، إذا طورت شركة نظامًا يسبب أضرارًا أو فشل في أداء وظيفته، فإن القوانين الحالية المتعلقة بمسؤولية المنتجات والأضرار يمكن أن توفر أساسًا للتعامل مع القضية.
كما يرى أن المنافسة بين شركات الذكاء الاصطناعي قد تشكل ضغطًا إضافيًا على الشركات لتطوير منتجات أكثر أمانًا، لأن المستخدمين والعملاء لن يثقوا طويلًا في أنظمة تسبب مشكلات متكررة.
وهذا يعني أن هوانغ يفضل نموذجًا يعتمد بصورة أكبر على الهندسة، واختبارات السلامة، ومسؤولية الشركات، وآليات السوق بدلًا من إصدار قوانين جديدة مخصصة لكل جانب من جوانب الذكاء الاصطناعي.
الذكاء الاصطناعي ليس “عقلًا فضائيًا”
تطرق هوانغ أيضًا إلى المخاوف المتزايدة من أن تصبح أنظمة الذكاء الاصطناعي كيانات مستقلة يصعب التحكم فيها.
وفي حديثه، رفض تصوير الذكاء الاصطناعي باعتباره نوعًا جديدًا من “العقل الفضائي”، مؤكدًا أن هذه الأنظمة في النهاية تعتمد على العتاد والبرمجيات التي صنعها البشر.
وتأتي هذه التصريحات وسط نقاش متصاعد داخل صناعة التكنولوجيا بشأن مدى سرعة تطور نماذج الذكاء الاصطناعي، وما إذا كانت قدراتها المتزايدة تستدعي وضع ضوابط إضافية قبل الوصول إلى مراحل أكثر تقدمًا.
وفي مؤتمر Dreamforce نفسه، ظهرت اختلافات واضحة بين كبار مسؤولي شركات الذكاء الاصطناعي حول هذه القضية؛ إذ دعا الرئيس التنفيذي لشركة Anthropic داريو أمودي إلى مزيد من إجراءات السلامة والتنسيق، بينما أكد هوانغ أن تطوير الذكاء الاصطناعي يمكن أن يستمر بسرعة مع الحفاظ على سلامة المنتجات.
هل تكفي آليات السوق لضمان السلامة؟
هنا تظهر النقطة الأكثر إثارة للجدل في رؤية هوانغ.
فالاعتماد على السوق يفترض أن الشركات ستتجنب إطلاق المنتجات التي ترى أنها غير آمنة، وأن المنافسة ستعاقب المنتجات التي تسبب أضرارًا أو تقدم أداءً ضعيفًا.
لكن منتقدي هذا النهج يشيرون إلى أن بعض الأضرار قد تحدث قبل أن يتمكن السوق من الاستجابة لها.
وتزداد المشكلة تعقيدًا في حالة الذكاء الاصطناعي، لأن بعض الأنظمة قد تتعامل مع كميات ضخمة من المعلومات، أو تنفذ مهام متعددة، أو تتفاعل مع أدوات وخدمات خارجية.
كما أن اكتشاف بعض الأخطاء قد يكون صعبًا قبل استخدام المنتج على نطاق واسع.
وهذا يطرح سؤالًا مهمًا: هل يكفي أن تتخذ الشركات قرارات السلامة بنفسها، أم أن بعض الاستخدامات عالية المخاطر تحتاج إلى معايير خارجية أيضًا؟
ولا توجد إجابة موحدة على هذا السؤال حتى الآن، وهو أحد الأسباب الرئيسية لاستمرار النقاش بين شركات التكنولوجيا والباحثين والمشرعين.
حوادث تقنية تعيد النقاش إلى الواجهة
شهد قطاع التكنولوجيا خلال السنوات الأخيرة عددًا من الحوادث التي أظهرت أن المنتجات البرمجية المعقدة يمكن أن تتسبب في آثار واسعة عندما يحدث خلل غير متوقع.
ومن أبرز الأمثلة أزمة تحديث CrowdStrike في عام 2024، عندما تسبب تحديث برمجي في تعطيل عدد كبير من أجهزة الكمبيوتر التي تعمل بنظام Windows، وأثر في قطاعات مختلفة حول العالم.
ورغم أن الواقعة لم تكن مرتبطة بالذكاء الاصطناعي، فإنها أصبحت مثالًا على حجم الأضرار التي يمكن أن تنتج عن خلل برمجي عندما يكون المنتج مستخدمًا على نطاق واسع.
وفي الذكاء الاصطناعي تحديدًا، ظهرت خلال الفترة الأخيرة مخاوف مرتبطة بقدرة بعض النماذج على تنفيذ مهام معقدة والتعامل مع أدوات خارجية، إلى جانب قضايا تتعلق بالأمان والخصوصية وسوء الاستخدام.
وتشير هذه الحالات إلى أن اختبارات السلامة أصبحت جزءًا أساسيًا من تطوير النماذج الحديثة، لكن النقاش يبقى قائمًا حول مدى كفاية الاختبارات الداخلية وحدها.
التنظيم الذاتي خيار آخر أمام القطاع
إلى جانب التشريعات الحكومية، يوجد مسار ثالث يزداد حضوره في النقاش، وهو التنظيم الذاتي لصناعة الذكاء الاصطناعي.
ويقوم هذا النموذج على اتفاق الشركات والمختبرات على معايير مشتركة لاختبار النماذج وتقييم المخاطر والتعامل مع الثغرات قبل طرح المنتجات.
ويكتسب هذا المسار أهمية مع انتقال الذكاء الاصطناعي من مرحلة روبوتات المحادثة إلى أنظمة أكثر قدرة على تنفيذ المهام بصورة مستقلة.
لكن التنظيم الذاتي يواجه بدوره تحديات، من بينها اختلاف المصالح بين الشركات، والمنافسة الشديدة، وصعوبة ضمان التزام جميع المختبرات بالمعايير نفسها.
كما أن الذكاء الاصطناعي أصبح صناعة عالمية، ما يعني أن وضع قواعد داخل دولة واحدة لا يضمن بالضرورة تطبيقها على الشركات الموجودة في دول أخرى.
ساتيا ناديلا يدعو إلى اهتمام عالمي بالسلامة
في السياق نفسه، تحدث الرئيس التنفيذي لشركة مايكروسوفت ساتيا ناديلا عن ضرورة التعامل مع مخاطر الذكاء الاصطناعي على نطاق عالمي.
وخلال قمة All-In، أشار ناديلا إلى أن الشركات الصينية ستواجه بدورها تحديات تتعلق بالاختراقات الإلكترونية وسلامة أنظمة الذكاء الاصطناعي، معتبرًا أن المخاوف المتعلقة بهذه التكنولوجيا لا تقتصر على دولة واحدة.
ويعكس ذلك جانبًا آخر من النقاش الحالي: فحتى إذا اتفقت الشركات الأميركية على معايير معينة للسلامة، فإن المنافسة العالمية في مجال الذكاء الاصطناعي تجعل التنسيق الدولي قضية مهمة بالنسبة إلى عدد من الخبراء والمسؤولين في القطاع.
لماذا يكتسب موقف إنفيديا أهمية؟
تكتسب تصريحات هوانغ وزنًا خاصًا بسبب موقع إنفيديا في صناعة الذكاء الاصطناعي.
فالشركة أصبحت من أهم موردي الرقائق ومعالجات الحوسبة المستخدمة في تدريب وتشغيل نماذج الذكاء الاصطناعي، كما توسعت أعمالها لتشمل البرمجيات والمنصات والأدوات التي يعتمد عليها المطورون.
وبالتالي، فإن النقاش حول سرعة تطوير الذكاء الاصطناعي يرتبط بصورة مباشرة بمستقبل صناعة تعتمد بدرجة كبيرة على البنية التحتية التي توفرها شركات مثل إنفيديا.
وفي الوقت نفسه، لا يمثل موقف هوانغ إجماعًا داخل قطاع التكنولوجيا. فهناك مسؤولون في شركات أخرى يرون أن التطور السريع للقدرات يستدعي وضع معايير سلامة أكثر وضوحًا، فيما يركز آخرون على إمكانية تحقيق التقدم والسلامة معًا دون إبطاء وتيرة الابتكار.
هوانغ يتمسك بالابتكار السريع مع مسؤولية الشركات
يؤكد موقف جينسن هوانغ أن الخلاف داخل صناعة الذكاء الاصطناعي لا يدور حول ما إذا كانت السلامة مهمة، وإنما حول من يجب أن يضع قواعدها وكيف يتم تطبيقها.
فبينما يرى هوانغ أن الشركات والمهندسين والأسواق والقوانين الحالية يمكن أن توفر إطارًا مناسبًا، يرى آخرون أن سرعة تطور التكنولوجيا تستدعي معايير وضوابط إضافية.
ومن جانبه، لا يدعو هوانغ إلى تجاهل السلامة، بل يؤكد ضرورة التوقف عندما ترى الشركة أن المنتج غير آمن، ثم معالجة المشكلة قبل طرحه.
ويأتي هذا النقاش في مرحلة تتسارع فيها قدرات نماذج الذكاء الاصطناعي، وتتوسع استخداماتها في البرمجة والأعمال والبحث وتحليل البيانات وتنفيذ المهام، ما يجعل قضية السلامة جزءًا أساسيًا من مستقبل الصناعة.
ما الذي يجب معرفته عن موقف جينسن هوانغ؟
يمكن تلخيص موقف الرئيس التنفيذي لإنفيديا في عدة نقاط رئيسية:
- هوانغ لا يرى حاجة إلى قوانين جديدة مخصصة لتنظيم الذكاء الاصطناعي.
- يعتبر سلامة الذكاء الاصطناعي في الأساس مشكلة هندسية وتقنية.
- يرى أن الشركات تستطيع إيقاف أو إبطاء إطلاق المنتجات عندما تكون مخاطرها غير واضحة.
- يعتقد أن قوى السوق والمنافسة يمكن أن تشجع الشركات على تطوير منتجات أكثر أمانًا.
- يرى أن القوانين الحالية، بما فيها قواعد مسؤولية المنتجات، قد تكون قادرة على التعامل مع بعض الأضرار.
- في المقابل، يواصل عدد من قادة قطاع الذكاء الاصطناعي الدعوة إلى معايير وإجراءات سلامة إضافية.
- الخلاف حول تنظيم الذكاء الاصطناعي لم يُحسم بعد، مع استمرار النقاش بين الشركات والحكومات والباحثين حول أفضل طريقة للتعامل مع المخاطر.
ما الذي نعرفه حتى الآن؟
يمثل موقف جينسن هوانغ اتجاهًا واضحًا داخل صناعة التكنولوجيا يدعو إلى مواصلة تطوير الذكاء الاصطناعي بسرعة، مع الاعتماد بدرجة أكبر على الهندسة ومسؤولية الشركات وقوى السوق بدلًا من فرض قوانين جديدة.
في المقابل، تظهر مواقف أخرى داخل القطاع تطالب بإجراءات أكثر تنظيمًا وتنسيقًا، خصوصًا مع ارتفاع قدرات النماذج واتساع نطاق استخدامها.
وبذلك يبقى السؤال الأساسي مفتوحًا: هل تستطيع الصناعة إدارة مخاطر الذكاء الاصطناعي من خلال أدواتها الحالية، أم أن التطور السريع لهذه التكنولوجيا سيحتاج إلى قواعد جديدة؟ ويبدو أن الإجابة ستتحدد تدريجيًا مع ظهور مزيد من الاستخدامات والاختبارات والحوادث الواقعية خلال السنوات المقبلة.