ما هو Shadow AI، ومن داخل مؤسستي يتسبب في هذا الخطر؟
إجابة موجزة: يشير مصطلح Shadow AI إلى استخدام الموظفين لأدوات ذكاء اصطناعي لم توافق عليها إدارة تقنية المعلومات أو لا علم لها بها. لا يقتصر هذا الخطر على الموظفين العاديين — فالمسؤولون ذوو الصلاحيات المرتفعة والحسابات المخترقة غالبًا ما يشكلون التعرض الأكبر.
ثلاثة مصادر للتعرض للخطر
- الموظفون الذين يستخدمون أدوات ذكاء اصطناعي غير معتمدة لأغراض الإنتاجية اليومية.
- المسؤولون ذوو الصلاحيات المرتفعة، حيث يعني وصولهم رفيع المستوى أن أي شيء يُدخلونه إلى أداة ذكاء اصطناعي قد يتضمن بيانات مؤسسية بالغة الحساسية.
- الحسابات المخترقة، حيث يستخدم المهاجم الذي يمتلك بيانات اعتماد صالحة أدوات الذكاء الاصطناعي كقناة لتسريب البيانات — وهي حركة بيانات تبدو وكأنها نشاط إنتاجي اعتيادي.
هذا يحدث بالفعل
لاحظت Cyber Crucible مباشرةً وصولًا جماعيًا إلى كميات كبيرة من البيانات دفعة واحدة من قبل موظفين يستخدمون أدوات ذكاء اصطناعي للبحث عن المعلومات وتحميلها. هذا ليس خطرًا نظريًا مستقبليًا يجري نمذجته؛ بل هو سلوك ملحوظ في عمليات نشر فعلية اليوم.
تستحق الفئة الثالثة اهتمامًا خاصًا. من الصعب تمييز مهاجم يستخدم أدوات ذكاء اصطناعي لنقل البيانات إلى خارج المؤسسة عن موظف متحمس — ما لم يتم تطبيق الإنفاذ على مستوى الوصول إلى البيانات، حيث يمكن تقييم النية والسياسة بغض النظر عن هوية الشخص المسجل دخوله.