باحثون يخترقون “شات جي بي تي” باستخدام “كلود” ويكشفون تهديدات الذكاء الاصطناعي

نجح فريق من باحثي الأمن السيبراني في اختراق نظام “شات جي بي تي” لشركة “أوبن إيه آي” باستخدام برنامج الذكاء الاصطناعي “كلود” التابع لشركة “أنثروبيك” المنافسة، وذلك ضمن برنامج مكافأة مكشفي الثغرات الأمنية الذي أطلقته “أوبن إيه آي” بنفسها. وأوضح الباحثون من شركة “هاكترون” الناشئة في مجال الأمن الإلكتروني أنهم تمكنوا من الوصول إلى حساب خاص بأحد موظفي “أوبن إيه آي”، ما أتاح لهم الاطلاع على الكود البرمجي الداخلي للشركة.

وأفاد الباحثون بأن عملية الاختراق استغرقت أيامًا قليلة من العمل الآلي، وساعات قليلة من التدخل البشري، وبتكلفة أقل من 3 آلاف دولار. كما أن هذه الثغرة الأمنية مكّنتهم من كشف نقاط ضعف في عدد من المنصات الرقمية الأخرى مثل “سلاك” و”زوم” و”ميتا”.

وأشار التقرير إلى أن الاعتماد على الذكاء الاصطناعي في اختراق الأنظمة يُعد تطورًا نوعيًا مقارنة بالطرق التقليدية التي كانت تتطلب فرقًا كبيرة وجهودًا مضنية. وقال الباحثون في ملاحظاتهم الختامية: “لطالما استفادت البرمجيات من الحماية القائمة، إلا أن الذكاء الاصطناعي يزيل هذه الحماية”، مؤكدين على ضرورة تحديث الإجراءات الأمنية لتواكب قدرات المهاجمين الحديثة.

وبدأ الباحثون محاولاتهم باستخدام نموذج “كلود أوبوس 4.8” من “أنثروبيك”، لكنه فشل في بعض الجلسات. ومع إطلاق “أوبوس 5″، تمكن الفريق من تنفيذ الاختراق بنجاح. وبحسب ما ذكرته صحيفة “وول ستريت جورنال”، كان الباحثون يمتلكون حق الوصول إلى نسخة خاصة من نموذج “كلود” موجهة للمتخصصين في الأمن السيبراني.

وأكدت “أوبن إيه آي” أنها قامت بمعالجة الثغرات الأمنية المكتشفة وأخذت الإجراءات اللازمة لتعزيز أمن نظامها.

تسلط هذه الحادثة الضوء على التحديات العديدة التي تواجه صناعة الذكاء الاصطناعي فيما يتعلق بالأمن والسلامة، في ظل تصاعد الاعتماد على هذه التكنولوجيا المتقدمة في مختلف القطاعات.