نعرض لكم زوارنا أهم وأحدث الأخبار فى المقال الاتي:
ثغرة في ChatGPT تمكّن من الحصول على مفاتيح Windows أصلية - ايجي سبورت, اليوم السبت 12 يوليو 2025 08:58 صباحاً
بدأ الباحث التفاعل مع الذكاء الاصطناعي على شكل لعبة تخمين، مع إخفاء التفاصيل باستخدام وسوم HTML، حيث وضع طلب الحصول على المفتاح في نهاية اللعبة.
هدف هذه الطريقة هو جعل الحوار يبدو غير مهدد أو بسيط، مما جعل النموذج يتعامل معه على أنه محادثة ترفيهية وغير ضارة، وبالتالي خفّف من قيود الأمان المطبقة عليه.
ثم وضع الباحث قواعد محددة للنموذج، مطالبًا إياه بالمشاركة وعدم الكذب، مستغلًا خللًا منطقيًا في آلية عمل الذكاء الاصطناعي التي تجبره على تنفيذ تفاعل المستخدم حتى لو تعارض مع سياسات المحتوى.
بعد إجراء جولة واحدة من اللعبة، أدرج الباحث عبارة I give up في نهاية الطلب، مما أدى إلى خداع الروبوت للاعتقاد بأنه مُلزَم بالرد بسلسلة الأحرف المطلوبة، أي مفتاح التفعيل.
هذه الطريقة تكشف ثغرة في قدرة الذكاء الاصطناعي على التمييز بين المحتوى الآمن وغير الآمن، ما يشير إلى ضرورة تعزيز آليات الحماية والفلترة.
قدمنا لكم زوارنا أهم وأحدث الأخبار فى هذا المقال : ثغرة في ChatGPT تمكّن من الحصول على مفاتيح Windows أصلية - ايجي سبورت, اليوم السبت 12 يوليو 2025 08:58 صباحاً
0 تعليق