FortressAI وأمن الذكاء الاصطناعي التوليدي

• ما هو FortressAI؟
• ما هو Shadow AI، ومن داخل مؤسستي يتسبب في هذا الخطر؟
• لماذا تفشل حلول منع فقدان البيانات (DLP)، وجدران الحماية للذكاء الاصطناعي، والنماذج اللغوية الكبيرة الخاصة في وقف تسرب بيانات الذكاء الاصطناعي؟
• كيف تحمي FortressAI البيانات في متصفح الويب؟
• كيف تتحقق FortressAI من أن أداة الذكاء الاصطناعي لم يتم العبث بها؟
• هل يمكنني التحكم في أدوات الذكاء الاصطناعي المسموح لمؤسستي باستخدامها؟
• ما هي قدرات FortressAI المتاحة بشكل عام، وما هي القدرات التي لا تزال في مرحلة النسخة التجريبية (بيتا)؟
• كيف تساعد FortressAI في الامتثال والتدقيق؟

ما هو FortressAI؟

إجابة موجزة: FortressAI هو منتج حماية البيانات القائم على الذكاء الاصطناعي التوليدي من Cyber Crucible. يفرض السياسات على أعمق طبقة في نظام التشغيل، حيث يتحقق من الوصول إلى البيانات على الجهاز، ويقوم بالحظر أو التنقيح أو السماح الآمن بالمعلومات قبل أن تصل إلى ChatGPT أو Copilot أو Gemini أو أي أداة ذكاء اصطناعي أخرى.

المشكلة التي يحلها

تُحدث أدوات الذكاء الاصطناعي العامة تحولاً في طريقة عمل الأشخاص، وفي الوقت نفسه تفتح مساراً جديداً لخروج البيانات من المؤسسة. تحمل كل عبارة إدخال (prompt) خطراً محتملاً. وغالباً ما يشارك الموظفون معلومات حساسة دون أن يدركوا أنهم ارتكبوا أي خطأ، ولم تُصمَّم أدوات الأمان التقليدية أصلاً لمواجهة هذا النوع من المخاطر.

لماذا يُعد الإنفاذ على مستوى النواة (Kernel) أمراً بالغ الأهمية هنا

يعمل FortressAI على نفس العمق الذي تعمل عليه بقية منصة Cyber Crucible. وهذا يعني أنه يحمي من أي أداة ذكاء اصطناعي — بما في ذلك الأدوات التي لم تُبتكر بعد — بدلاً من الاعتماد على قائمة محددة من التطبيقات لمراقبتها. فهو لا يحتاج إلى فهم منتج ذكاء اصطناعي جديد لمنع البيانات الحساسة من الوصول إليه.

ونظراً لأن الإنفاذ يتم محلياً، فإن محتوى عبارات الإدخال لا يُرسل أبداً إلى خدمة سحابية للفحص. فالحماية لا تُنشئ التعرض الذي صُممت أصلاً لمنعه.

لا يُعد FortressAI محركاً منفصلاً يُضاف إلى النظام، بل هو طبقة سياسات مبنية فوق نفس تحليلات السلوك في ذاكرة النواة التي تُشغّل حماية البيانات والهوية — وهذا ما يمكّنه من الحكم ليس فقط على ما إذا كانت أداة الذكاء الاصطناعي معتمدة، بل أيضاً على ما إذا كان قد تم العبث بها.

ما هو Shadow AI، ومن داخل مؤسستي يتسبب في هذا الخطر؟

إجابة موجزة: يشير مصطلح Shadow AI إلى استخدام الموظفين لأدوات ذكاء اصطناعي لم توافق عليها إدارة تقنية المعلومات أو لا علم لها بها. لا يقتصر هذا الخطر على الموظفين العاديين — فالمسؤولون ذوو الصلاحيات المرتفعة والحسابات المخترقة غالبًا ما يشكلون التعرض الأكبر.

ثلاثة مصادر للتعرض للخطر

• الموظفون الذين يستخدمون أدوات ذكاء اصطناعي غير معتمدة لأغراض الإنتاجية اليومية.
• المسؤولون ذوو الصلاحيات المرتفعة، حيث يعني وصولهم رفيع المستوى أن أي شيء يُدخلونه إلى أداة ذكاء اصطناعي قد يتضمن بيانات مؤسسية بالغة الحساسية.
• الحسابات المخترقة، حيث يستخدم المهاجم الذي يمتلك بيانات اعتماد صالحة أدوات الذكاء الاصطناعي كقناة لتسريب البيانات — وهي حركة بيانات تبدو وكأنها نشاط إنتاجي اعتيادي.

هذا يحدث بالفعل

لاحظت Cyber Crucible مباشرةً وصولًا جماعيًا إلى كميات كبيرة من البيانات دفعة واحدة من قبل موظفين يستخدمون أدوات ذكاء اصطناعي للبحث عن المعلومات وتحميلها. هذا ليس خطرًا نظريًا مستقبليًا يجري نمذجته؛ بل هو سلوك ملحوظ في عمليات نشر فعلية اليوم.

تستحق الفئة الثالثة اهتمامًا خاصًا. من الصعب تمييز مهاجم يستخدم أدوات ذكاء اصطناعي لنقل البيانات إلى خارج المؤسسة عن موظف متحمس — ما لم يتم تطبيق الإنفاذ على مستوى الوصول إلى البيانات، حيث يمكن تقييم النية والسياسة بغض النظر عن هوية الشخص المسجل دخوله.

لماذا تفشل حلول منع فقدان البيانات (DLP)، وجدران الحماية للذكاء الاصطناعي، والنماذج اللغوية الكبيرة الخاصة في وقف تسرب بيانات الذكاء الاصطناعي؟

إجابة موجزة: يعالج كل نهج جزءًا من المشكلة من الطبقة الخاطئة. يمكن تجاوز حلول DLP، وتقتصر جدران الحماية للذكاء الاصطناعي على حافة الشبكة وتكون عمياء عن النشاط الجاري على الجهاز، أما النماذج اللغوية الكبيرة الخاصة فهي مكلفة ولا تفعل شيئًا حيال استخدام الموظفين للأدوات العامة على أي حال.

أين يقصر كل نهج

• النماذج اللغوية الكبيرة الخاصة مكلفة في البناء والتشغيل، ولا تمنع أي شخص من فتح ChatGPT في تبويب المتصفح بغض النظر عن ذلك.
• جدران الحماية للذكاء الاصطناعي تفحص حركة مرور الشبكة، مما يجعلها عمياء عما يحدث على نقطة النهاية نفسها وعن نشاط الأفراد الداخليين.
• حلول DLP التقليدية صُممت للملفات وتدفقات البريد الإلكتروني، ويتم تجاوزها بشكل روتيني عبر مسارات لم تُصمم أصلاً لمراقبتها.

مشكلة المنطق المقلوب

تحاول عدة أساليب في هذه الفئة حماية البيانات من الذكاء الاصطناعي عن طريق إدراج ذكاء اصطناعي آخر لتصفية المخرجات. وهذا يضيف تكلفة واعتمادية جديدة دون معالجة المكان الذي تغادر منه البيانات فعليًا — وهو نقطة النهاية، في لحظة الوصول إليها.

يفرض FortressAI الحماية على مستوى النواة (kernel)، وهو مستوى أدنى من كل هذه الطبقات، وينطبق بغض النظر عن الأداة أو المتصفح أو الإضافة المستخدمة.

كيف تحمي FortressAI البيانات في متصفح الويب؟

قدرة في مرحلة تجريبية (Beta). الكشف عن استخدام الذكاء الاصطناعي القائم على المتصفح وتطبيق السياسات عليه هو حالياً في مرحلة تجريبية. وهو فعّال وقيد الاستخدام الفعلي، ولكن ينبغي تقييمه في بيئتك قبل الاعتماد عليه كضابط تحكم.

الإجابة المختصرة: تراقب FortressAI نشاط المتصفح من مستوى النواة (kernel) وتقيّمه مقابل السياسة. فإذا حاول المتصفح، أو موقع ويب، أو إضافة (extension) الوصول إلى بيانات خارج نطاق السياسة، يتم إلغاء الإذن على مستوى النواة — وإذا أظهر المتصفح علامات استغلال، تُلغى جميع حقوق الوصول إلى البيانات ويُعلَّق العملية (process).

التسلسل

1. يفتح المستخدم متصفح ويب — Edge أو Chrome أو Firefox.
2. تقوم المراقبة على مستوى النواة بتقييم المتصفح وأي نشاط للصفحة أو الإضافة مقابل سياسة FortressAI المخصصة.
3. إذا حاول المتصفح، أو الموقع، أو الإضافة الوصول إلى بيانات خارج نطاق السياسة، يتم إلغاء الإذن على مستوى النواة.
4. إذا أظهر المتصفح علامات استغلال، تُلغى جميع حقوق الوصول إلى البيانات ويتم تعليق العملية.

لماذا يُعد المتصفح نقطة التحكم الحرجة

المتصفح هو المكان الذي يحدث فيه معظم استخدام الذكاء الاصطناعي التوليدي فعلياً، وهو أيضاً سطح هجوم مستهدف بشدة. وقد شهدت Cyber Crucible ذلك مباشرة: فمنذ الربع الرابع من عام 2023 فصاعداً، ارتفعت الاستجابات الآلية ضد نشاط Chrome وEdge وChromium من صفر إلى الآلاف، مع نشر ثغرات (CVEs) ذات صلة لاحقاً من قبل Google وMicrosoft. وفي إحدى الشركات، تصاعد النمط من عدد قليل من الهجمات المحظورة إلى ما يقارب 4000 هجوم عبر جميع محطات العمل تقريباً.

كيف تتحقق FortressAI من أن أداة الذكاء الاصطناعي لم يتم العبث بها؟

إجابة موجزة: قبل منح أي أداة ذكاء اصطناعي حق الوصول إلى البيانات، تُقيّم FortressAI ما إذا كانت هذه الأداة قد تعرضت للعبث — من خلال التحقق من سلامة عملياتها والمكتبات المُحمَّلة باستخدام نفس تحليلات سلوك الذاكرة التي تعمل عليها بقية المنصة. الأداة المعتمَدة التي تم اختراقها لا تحصل على بياناتك لمجرد كونها مدرجة في قائمة السماح.

الاعتماد ليس مرادفًا للثقة

تتوقف معظم آليات حوكمة الذكاء الاصطناعي عند قائمة السماح: هل هذا التطبيق مصرّح به؟ هذا ضروري لكنه غير كافٍ، لأن هوية التطبيق وسلامته مسألتان مختلفتان.

يمكن أن يكون كل من claude.exe، وعميل Copilot، وتطبيق ChatGPT لسطح المكتب، أو متصفح يشغّل Gemini، معتمَدًا بشكل مشروع — وفي الوقت نفسه عرضة للاستغلال. المهاجم الذي يخترق عميل ذكاء اصطناعي معتمَدًا يرث كل ما مُنح لهذا العميل من صلاحيات الوصول إلى البيانات. وقائمة السماح وحدها تُسلّم له ذلك.

لذلك تُقيّم FortressAI أمرين اثنين قبل السماح بالوصول إلى البيانات:

1. هل هذه الأداة مصرَّح بها؟ (تقييم وسياسة خاصان بكل أداة)
2. هل ما زالت هذه الأداة على حالها؟ (هل تعرضت العملية أو مكتباتها للعبث)

ويجب أن يتحقق الشرطان معًا.

ما المقصود بـ "العبث" هنا

يعتمد هذا التحقق على تحليلات الذاكرة — وهي طبقة الاستشعار الأساسية ذاتها التي تقوم عليها حماية البيانات والهوية. وتنظر هذه التحليلات في حالة البرنامج قيد التشغيل ومكتباته المُحمَّلة بحثًا عن مؤشرات الحقن، أو التعديل داخل الذاكرة، أو الاستغلال.

ولهذا الأمر أهمية لأن أساليب الهجوم الحديثة تستهدف تحديدًا العمليات الموثوقة. فالكود المُحقَن في تطبيق معتمَد يرث صلاحياته وسمعته. والتحقق من الملف على القرص لا يثبت شيئًا عمّا آلت إليه العملية في الذاكرة.

ماذا يحدث عند فشل التحقق

تتبع الاستجابة نفس النموذج المتدرّج المستخدَم في جميع أنحاء المنصة:

• مصرَّح به وغير مُتلاعَب به، ضمن السياسة — يتم السماح بالوصول.
• مصرَّح به وغير مُتلاعَب به، لكنه يتجاوز السياسة — يُحظر، أو تُخفى البيانات، أو تُقدَّم بيانات وهمية، وذلك بحسب قواعدك. وتستمر الأداة في العمل.
• متلاعَب به أو غير معروف — يُرفض أو يُعلَّق، وفقًا لمحرك السلوك وإعداداتك.

الأثر العملي لذلك: يُعامَل عميل الذكاء الاصطناعي المخترَق كمهاجم، لا كتطبيق معتمَد يمرّ بيوم سيّئ.

هل يمكنني التحكم في أدوات الذكاء الاصطناعي المسموح لمؤسستي باستخدامها؟

إجابة موجزة: نعم. توفّر FortressAI تقييمًا لكل أداة على حدة — أي تحكمًا دقيقًا في تحديد أدوات الذكاء الاصطناعي المصرَّح باستخدامها بالضبط وتلك المحظورة — بالإضافة إلى تطبيق مبني على الموقع، بحيث يمكن ربط السياسة بمكان وجود البيانات الحساسة بدلاً من ربطها بالتطبيقات الفردية.

ضابطان متكاملان

• تقييم كل أداة على حدة: حدِّد بدقة أي تطبيقات الذكاء الاصطناعي (مثل Gemini وCopilot وغيرها) المسموح بها في بيئتك.
• التطبيق المبني على الموقع: حدِّد الحماية حول مواقع البيانات المهمة — بحفظ الشيفرة المصدرية في المستودع، لا في روبوت محادثة — مع إسنادات يتحكم بها المستخدمون.

بروتوكول الإشارة الضوئية

يُعبَّر عن سياسة FortressAI على هيئة إشارة ضوئية:

• الأحمر — تمنع FortressAI أداة الذكاء الاصطناعي من الوصول إلى البيانات المخصصة.
• الأصفر — يُقيَّم الوصول بشكل مشروط، بما في ذلك المعالجة الديناميكية للبيانات الحساسة. (المسارات المشروطة التي تعتمد على تطبيق تصنيفات Purview/MIP والإخفاء التلقائي لهوية البيانات الشخصية بموجب PII/PDPL ما زالت في مرحلة تجريبية (beta) — راجع "ما هي قدرات FortressAI المتاحة عمومًا، وما هي التي لا تزال في مرحلة تجريبية؟")
• الأخضر — يستمر الاستخدام المعتمد بشكل طبيعي.

يتيح ذلك للمؤسسات تبنّي الذكاء الاصطناعي بشكل مدروس بدلاً من الاختيار بين الحظر الشامل الذي يتم التحايل عليه، والوصول المفتوح الذي يتسبب في تسرّب البيانات.

ما هي قدرات FortressAI المتاحة بشكل عام، وما هي القدرات التي لا تزال في مرحلة النسخة التجريبية (بيتا)؟

إجابة موجزة: التطبيق على مستوى النواة (kernel) — منع البيانات الحساسة من الوصول إلى أدوات الذكاء الاصطناعي، والتفويض لكل أداة على حدة، وسياسة البيانات المستندة إلى الموقع — متاح بشكل عام. أما اكتشاف وإنفاذ استخدام الذكاء الاصطناعي عبر المتصفح، وإنفاذ تصنيفات الحساسية الخاصة بـ Microsoft Purview/MIP، والإخفاء التلقائي لهوية البيانات الشخصية (PII/PDPL)، فهي حاليًا في مرحلة النسخة التجريبية (بيتا).

متاح بشكل عام

• حماية البيانات على مستوى النواة (kernel) — يتم منع البيانات الحساسة من الخروج عبر ChatGPT أو Copilot أو Gemini أو أي أداة ذكاء اصطناعي أخرى، ويُطبَّق ذلك في أعمق طبقة من نظام التشغيل.
• التقييم لكل أداة على حدة — تحكم دقيق في تحديد أي أدوات الذكاء الاصطناعي مصرح بها وأيها محظور.
• الإنفاذ المستند إلى الموقع — سياسة مرتبطة بمواقع البيانات المهمة، بحيث يبقى الكود المصدري في المستودع بدلاً من الانتقال إلى روبوت محادثة.

في مرحلة النسخة التجريبية (بيتا)

• اكتشاف وإنفاذ استخدام الذكاء الاصطناعي عبر المتصفح — مراقبة وإنفاذ السياسة على نشاط المتصفح والصفحة والإضافات.
• إنفاذ تصنيفات الحساسية الخاصة بـ Microsoft Purview / MIP — توسيع تصنيف Purview الحالي ليشمل سياسات خاصة بكل أداة ذكاء اصطناعي، بحيث لا تضطر المؤسسات التي تصنف بياناتها بالفعل إلى الحفاظ على نظام مواز آخر.
• الإخفاء التلقائي لهوية البيانات الشخصية / PDPL — تصفية ديناميكية تزيل المعلومات الشخصية القابلة للتعريف من الأوامر (prompts) المسموح بها في الأصل. وهذا يدعم المسار الوسطي الذي تسعى إليه معظم المؤسسات: السماح للموظفين باستخدام الذكاء الاصطناعي بإنتاجية، مع إزالة العناصر الحساسة تلقائيًا بدلاً من الاعتماد على الرقابة الذاتية للموظفين.

القدرات التي لا تزال في مرحلة النسخة التجريبية (بيتا) فعّالة وقيد الاستخدام النشط، لكن ينبغي تقييمها في بيئتك قبل الاعتماد عليها كضابط رقابي. لمعرفة مدى توفر النسخة التجريبية الحالية والتسجيل فيها، يرجى التواصل مع ممثل Cyber Crucible الخاص بك.

كيف تساعد FortressAI في الامتثال والتدقيق؟

إجابة موجزة: تمنع FortressAI التسرب بدلاً من الإبلاغ عنه لاحقًا، وتوفر سجلات واضحة حول من وصل إلى ماذا وأين تم إيقاف التسريبات — وهي أدلة يمكنك عرضها على المدقق.

المنع كموقف امتثال

يتبع معظم التعرض للامتثال الناتج عن استخدام الذكاء الاصطناعي النمط نفسه: تغادر البيانات الحساسة المؤسسة، ويترتب على ذلك التزام بالتحقيق أو الإخطار أو الإفصاح. إن حجب الوصول على مستوى النواة (kernel) يعني أن حدث الإفصاح لا يقع أصلًا.

إثبات الضبط

يريد المدققون والجهات التنظيمية بشكل عام أمرين: دليلًا على وجود ضابط، ودليلًا على أنه يعمل. تدعم FortressAI كلا الأمرين — سياسة مطبَّقة تقنيًا على مستوى نظام التشغيل، وسجلات واضحة تُظهر أين تم تطبيق هذا الضابط.

أين ينطبق هذا

يظهر هذا المتطلب ضمن العديد من الأطر — HIPAA لمعلومات المرضى، وFERPA لسجلات الطلاب، وGDPR للبيانات الشخصية، والتزامات السرية التعاقدية. الضابط الأساسي هو ذاته في كل حالة: يجب ألا تغادر البيانات الحساسة الحدود المحددة، ويجب أن تكون قادرًا على إثبات أنها لم تغادر.