النقطة العمياء للذكاء الاصطناعي في قاعات الإدارة: الشركات تضخ مليارات الدولارات في الأمن بينما تغفل عن التهديد الحقيقي
تتسع فجوة خطيرة على أعلى المستويات في الشركات الأمريكية، حيث يتم اعتماد ميزانيات أمنية للذكاء الاصطناعي دون فهم واضح لما يحتاج للحماية حقاً. أخيراً يحصل مدراء أمن المعلومات على أموال لتأمين أنظمة الذكاء الاصطناعي، لكن تحقيقاً جديداً يكشف أن العديد منهم يستعد لإنفاقها على دفاعات خاطئة تماماً، تاركاً الأصول الأساسية معرضة لخطر اختراق البيانات والبرمجيات الخبيثة من الجيل القادم.
تنبع الأزمة من التبني المتفجر وغير المُدار لأدوات الذكاء الاصطناعي التوليدي من قبل الموظفين. تستخدم الفرق مئات التطبيقات غير المُختبَرة، من مساعدات البرمجة إلى روبوتات التسويق، مما يخلق سطح هجوم مترامي الأطراف لا تستطيع أدوات الأمن السيبراني التقليدية رؤيته. منصات الأمن القديمة، المصممة لعصر البرمجيات المثبتة، عمياء عن التفاعلات التي تحدث في الوقت الفعلي داخل أدوات الذكاء الاصطناعي القائمة على المتصفحات. يخلق هذا العمى بيئة مثالية لتصريف البيانات، سواء كان ذلك بطريق الخطأ أو من خلال حملة تصيد احترافية تستهدف سير العمل الجديدة.
هذه ليست مجرد مسألة امتثال؛ إنها ثغرة أمنية أساسية. النهج التقليدي القائم على حصر كل تطبيق ذكاء اصطناعي هو معركة خاسرة ضد سوق تطلق مئات الأدوات الجديدة أسبوعياً. النموذج الناشئ، الموضح في إطار تقني جديد للمشتريات، يحول التركيز من تأمين "التطبيق" إلى تأمين "التفاعل". هذا يعني الحصول على الرؤية والتحكم في اللحظة الدقيقة التي يتم فيها كتابة أمر أو تحميل ملف إلى أي واجهة ذكاء اصطناعي، وهي طريقة محايدة للأداة وأكثر فاعلية بكثير. دون هذا الفحص على مستوى التفاعل، لا تستطيع الشركات منع الرموز الحساسة أو البيانات المالية أو المعلومات الشخصية من التغذية إلى نموذج لغوي كبير غير خاضع للرقابة، وهو سيناريو مهيأ للاستغلال.
التأثير شديد على أي منظمة تستخدم الذكاء الاصطناعي لدفع الإنتاجية. تتعرض الشركات المالية لخطر تسريب خوارزميات التداول، وقد تكشف الكيانات الصحية عن سجلات المرضى، وربما تفقد الشركات المصنعة التصاميم الخاصة. التهديد يتجاوز مجرد اختراق بسيط للبيانات؛ فالمخرجات المسممة أو المُحَرفة من الذكاء الاصطناعي قد تؤدي إلى قرارات عمل كارثية أو يتم توظيفها في مخططات برامج الفدية. علاوة على ذلك، بينما تستكشف المؤسسات أمن العملات المشفرة وسلسلة الكتل للمعاملات، تصبح سلامة العقود الذكية والتدقيقات التي تولدها وكلاء الذكاء الاصطناعي أمراً بالغ الأهمية ويجب حمايتها.
