أعلنت شركة أوبن إيه آي عن إطلاق ميزتين جديدتين في روبوت الدردشة شات جي بي تي، تستهدفان تعزيز الحماية ضد التهديدات المتزايدة في عالم الذكاء الاصطناعي، خاصة هجمات حقن الأوامر التي قد تُستغل للوصول إلى بيانات حساسة أو تنفيذ أوامر غير مصرح بها.
الميزات الجديدة
وضع القفل (Lockdown Mode):
يفرض قيودًا صارمة على تفاعل شات جي بي تي مع الأنظمة الخارجية، ويعطل بعض الأدوات والقدرات التي قد يستغلها المخترقون.
يستهدف بالأساس المستخدمين الأكثر عرضة للمخاطر مثل فرق الأمن والمديرين التنفيذيين، على أن يُتاح لاحقًا للمستخدمين العاديين.
ميزة الخطر المرتفع (Elevated Risk):
تعرض تنبيهات حول مستوى المخاطر المرتبطة باستخدام قدرات معينة للنظام، خصوصًا الميزات المتصلة بالشبكات أو تلك التي قد تحتوي على ثغرات لم تُعالج بعد.
خلفية القرار
تأتي هذه الإجراءات في ظل تنامي التحذيرات بشأن محاولات استغلال ثغرات الذكاء الاصطناعي، حيث تسعى أوبن إيه آي إلى توفير أدوات حماية إضافية لضمان استخدام أكثر أمانًا لتقنيات الذكاء الاصطناعي الحديثة، مع التركيز على حماية المستخدمين ذوي الحساسية العالية للبيانات.
هذه الخطوة تعكس إدراك الشركات المطورة للذكاء الاصطناعي أن الأمن السيبراني أصبح جزءًا لا يتجزأ من الابتكار، وأن تعزيز الثقة لدى المستخدمين يتطلب موازنة بين قوة الأدوات ودرجة الأمان.
