كيف تتحقق FortressAI من أن أداة الذكاء الاصطناعي لم يتم العبث بها؟
إجابة موجزة: قبل منح أي أداة ذكاء اصطناعي حق الوصول إلى البيانات، تُقيّم FortressAI ما إذا كانت هذه الأداة قد تعرضت للعبث — من خلال التحقق من سلامة عملياتها والمكتبات المُحمَّلة باستخدام نفس تحليلات سلوك الذاكرة التي تعمل عليها بقية المنصة. الأداة المعتمَدة التي تم اختراقها لا تحصل على بياناتك لمجرد كونها مدرجة في قائمة السماح.
الاعتماد ليس مرادفًا للثقة
تتوقف معظم آليات حوكمة الذكاء الاصطناعي عند قائمة السماح: هل هذا التطبيق مصرّح به؟ هذا ضروري لكنه غير كافٍ، لأن هوية التطبيق وسلامته مسألتان مختلفتان.
يمكن أن يكون كل من claude.exe، وعميل Copilot، وتطبيق ChatGPT لسطح المكتب، أو متصفح يشغّل Gemini، معتمَدًا بشكل مشروع — وفي الوقت نفسه عرضة للاستغلال. المهاجم الذي يخترق عميل ذكاء اصطناعي معتمَدًا يرث كل ما مُنح لهذا العميل من صلاحيات الوصول إلى البيانات. وقائمة السماح وحدها تُسلّم له ذلك.
لذلك تُقيّم FortressAI أمرين اثنين قبل السماح بالوصول إلى البيانات:
- هل هذه الأداة مصرَّح بها؟ (تقييم وسياسة خاصان بكل أداة)
- هل ما زالت هذه الأداة على حالها؟ (هل تعرضت العملية أو مكتباتها للعبث)
ويجب أن يتحقق الشرطان معًا.
ما المقصود بـ "العبث" هنا
يعتمد هذا التحقق على تحليلات الذاكرة — وهي طبقة الاستشعار الأساسية ذاتها التي تقوم عليها حماية البيانات والهوية. وتنظر هذه التحليلات في حالة البرنامج قيد التشغيل ومكتباته المُحمَّلة بحثًا عن مؤشرات الحقن، أو التعديل داخل الذاكرة، أو الاستغلال.
ولهذا الأمر أهمية لأن أساليب الهجوم الحديثة تستهدف تحديدًا العمليات الموثوقة. فالكود المُحقَن في تطبيق معتمَد يرث صلاحياته وسمعته. والتحقق من الملف على القرص لا يثبت شيئًا عمّا آلت إليه العملية في الذاكرة.
ماذا يحدث عند فشل التحقق
تتبع الاستجابة نفس النموذج المتدرّج المستخدَم في جميع أنحاء المنصة:
- مصرَّح به وغير مُتلاعَب به، ضمن السياسة — يتم السماح بالوصول.
- مصرَّح به وغير مُتلاعَب به، لكنه يتجاوز السياسة — يُحظر، أو تُخفى البيانات، أو تُقدَّم بيانات وهمية، وذلك بحسب قواعدك. وتستمر الأداة في العمل.
- متلاعَب به أو غير معروف — يُرفض أو يُعلَّق، وفقًا لمحرك السلوك وإعداداتك.
الأثر العملي لذلك: يُعامَل عميل الذكاء الاصطناعي المخترَق كمهاجم، لا كتطبيق معتمَد يمرّ بيوم سيّئ.