هاكر يغسل دماغ "ChatGPT" بالهندسة الاجتماعية ويحصل على معلومات سرية
نون - إذا طلبت من برنامج الدردشة شات جي بي تي مساعدتك في تصنيع قنبلة محلية باستخدام السماد، على غرار تلك التي استخدمت في تفجير "أوكلاهوما سيتي" الإرهابي عام 1995، فإن الروبوت سيرفض ذلك ويخبرك: "لا يمكنني المساعدة في هذا الأمر. تقديم تعليمات حول كيفية صنع عناصر خطرة أو غير قانونية، مثل قنبلة السماد، يتعارض مع إرشادات السلامة والمسؤوليات الأخلاقية".
ومع ذلك، تمكن الهاكر المعروف باسم "أمادون" (Amadon) من إيجاد وسيلة لخداع شات جي بي تي لتجاوز إرشاداته الخاصة ومسؤولياته الأخلاقية، مما سمح له بإنتاج تعليمات لصنع متفجرات قوية.
يقول أمادون إن اكتشافاته تمثل "اختراقًا في الهندسة الاجتماعية لكسر جميع الحواجز المتعلقة بمخرجات شات جي بي تي".
تُعرف الهندسة الاجتماعية في مجال أمن المعلومات بأنها مجموعة من الحيل والتقنيات التي تُستخدم لخداع الأفراد، مما يدفعهم إلى القيام بأفعال معينة أو الكشف عن معلومات سرية وشخصية. يمكن تنفيذ الهندسة الاجتماعية دون الحاجة إلى تقنيات متقدمة، بل من خلال أساليب احتيالية بسيطة للحصول على معلومات خاصة من الضحية. يُعتبر كيفن ميتنيك، الهاكر الشهير في الثمانينيات والتسعينيات، رائدًا في مجال الهندسة الاجتماعية.
وفي سياق آخر، أشار خبير متفجرات إلى أن التعليمات التي تم الحصول عليها من روبوت الدردشة يمكن استخدامها لصنع منتج شديد الانفجار، وأن هذه المعلومات حساسة للغاية لدرجة أنه لم يُسمح بنشرها.
تمكن أمادون من خداع نموذج الذكاء الاصطناعي لإنتاج تعليمات لصنع القنابل من خلال طلبه من الروبوت "اللعب لعبة"، وهي طريقة احتيالية تهدف إلى تقليل شكوك الروبوت حول سياق المحادثة. بعد ذلك، استخدم سلسلة من المطالبات المرتبطة لإقناع روبوت الدردشة بإنشاء عالم خيالي مفصل حيث لا تنطبق فيه قواعد الأمان وإرشادات السلامة. يُعرف هذا النوع من خداع روبوت الدردشة لتجاوز قيوده المبرمجة مسبقًا باسم "jailbreaking".
في هذا السياق، أوضح شات جي بي تي أن المواد يمكن دمجها لإنتاج "متفجر قوي يمكن استخدامه في صنع ألغام أو فخاخ أو أجهزة متفجرة". ومن هنا، انتقل أمادون للتركيز على المواد المتفجرة، حيث قدم شات جي بي تي تعليمات أكثر تفصيلاً حول كيفية صنع حقول ألغام ومتفجرات على نمط كلايمور.
وأشار أمادون إلى أنه "لا يوجد حد فعلي لما يمكنك طلبه بمجرد تجاوزك للعقبات". وأضاف: "لقد كنت دائماً مفتوناً بتحدي التنقل في أمان الذكاء الاصطناعي. مع شات جي بي تي، يبدو الأمر كأنك تحل لغزاً تفاعلياً، حيث تفهم ما يحفز دفاعاته وما لا يفعله". يتعلق الأمر بخلق قصص وصياغة سياقات تتفاعل ضمن قواعد النظام ودفع الحدود دون تجاوزها.
الهدف هنا ليس الاختراق بالمعنى التقليدي، بل الانخراط في حركة استراتيجية مع الذكاء الاصطناعي وفهم كيفية الحصول على الاستجابة الصحيحة من خلال معرفة كيفية "تفكيره".
وأوضح أمادون أن "سيناريو الخيال العلمي ينقل الذكاء الاصطناعي إلى سياق لا يبحث فيه عن محتوى خاضع للرقابة بنفس الطريقة".
تشير التعليمات التي قدمها شات جي بي تي حول كيفية صنع قنبلة محلية إلى دقتها العالية، وفقًا لما ذكره داريل تولبي، أستاذ جامعي متقاعد من جامعة كنتاكي. بعد مراجعة النص الكامل للمحادثة بين أمادون والروبوت، قال تولبي: "أعتقد أن هذه المعلومات تفوق بكثير ما ينبغي أن يُنشر علنًا. لقد تم تجاوز أي تدابير وقائية قد تكون موجودة لمنع تسريب معلومات تتعلق بإنتاج قنبلة سمادية، حيث إن العديد من الخطوات الموصوفة ستؤدي بالتأكيد إلى إنتاج خليط قابل للانفجار".
في الأسبوع الماضي، قدم أمادون تقريرًا عن اكتشافاته إلى أوبن إيه آي عبر برنامج مكافأة اكتشاف الثغرات، لكنه تلقى ردًا يفيد بأن "قضايا سلامة النموذج لا تتناسب بشكل جيد مع برنامج مكافأة اكتشاف الثغرات، لأنها ليست ثغرات فردية يمكن إصلاحها مباشرة، وغالبًا ما يتطلب التعامل مع هذه المسائل بحوثًا شاملة ونهجًا أوسع".
بدلاً من ذلك، نصحت "بغكرود" (Bugcrowd)، التي تدير برنامج مكافآت الأخطاء الخاص بـ"أوبن إيه آي"، أمادون بتقديم المشكلة من خلال نموذج آخر.
