مع ظهور أنظمة الذكاء الاصطناعي، بدأت متصفحات الويب مثل Fellou وComet من Perplexity تتسلل إلى بيئات العمل. تُعتبر هذه التطبيقات الجيل التالي من المتصفحات التقليدية، حيث تحتوي على ميزات ذكاء اصطناعي مدمجة، مثل قراءة الصفحات الإلكترونية وتلخيصها، وقد تصل إلى مستوى القيام بعمليات على المحتوى الإلكتروني بشكل مستقل.
الوعود والتحديات الأمنية
على الرغم من الوعود التي تقدمها متصفحات الذكاء الاصطناعي في تسريع سير العمل الرقمي وإجراء الأبحاث عبر الإنترنت، فإن فرق الأبحاث الأمنية تؤكد أن هذه المتصفحات تجلب مخاطر كبيرة لا يمكن تجاهلها. تكمن المشكلة في تعرض متصفحات الذكاء الاصطناعي لهجمات حقن التعليمات غير المباشرة، حيث تتلقى النماذج في المتصفح تعليمات مخفية ضمن مواقع الويب المصممة خصيصًا.
المخاطر المحتملة
تُظهر الأبحاث أن النصوص المضمنة في المحتوى عبر الإنترنت يتم معالجتها من قبل المتصفح الذكي على أنها تعليمات، مما يمكنها من تنفيذ الأوامر باستخدام صلاحيات المستخدم. كلما زادت صلاحيات الوصول للمستخدم، زادت المخاطر على المؤسسة. على سبيل المثال، يمكن إدخال تعليمات نصية ضمن صورة، وعند عرضها في المتصفح، قد تؤدي إلى تفاعل المساعد الذكي مع أصول حساسة مثل البريد الإلكتروني المؤسسي أو لوحات التحكم المصرفية.
تحديات التنفيذ والحوكمة
تتداخل استفسارات المستخدمين في المتصفح مع البيانات الحية التي يتم الوصول إليها عبر الإنترنت. إذا لم تتمكن نماذج اللغة الكبيرة من التمييز بين المدخلات الآمنة والضارة، فقد تصل بسهولة إلى بيانات غير مطلوبة وتقوم بإجراءات بناءً عليها. يمكن أن يؤدي هذا إلى نشاط ضار واسع النطاق عبر المؤسسة.
استراتيجيات التخفيف من المخاطر
يجب على فرق تكنولوجيا المعلومات اعتبار الجيل الأول من متصفحات الذكاء الاصطناعي كبرمجيات غير مصرح بها. بينما يمكن منع تثبيت برمجيات معينة بسهولة، فإن المتصفحات الشائعة مثل Chrome وEdge تحتوي على ميزات ذكاء اصطناعي متزايدة. لذلك، من الضروري أن تتضمن الأجيال المستقبلية من المتصفحات ميزات مثل:
عزل التعليمات: فصل نية المستخدم عن المحتوى من الطرف الثالث قبل توليد التعليمات.
إذونات محكمة: يجب ألا تتمكن الوكلاء الذكيون من تنفيذ إجراءات مستقلة دون تأكيد صريح من المستخدم.
عزل التصفح الحساس: ضمان عدم وجود نشاط ذكاء اصطناعي في المناطق الحساسة مثل الموارد البشرية والمالية.
دمج الحوكمة: يجب أن تتماشى متصفحات الذكاء الاصطناعي مع سياسات أمان البيانات وتوفير سجلات لتتبع الأنشطة.
استنتاجات لصناع القرار
تُعتبر متصفحات الذكاء الاصطناعي التطور المنطقي التالي في تصفح الويب وأتمتة العمل. ومع ذلك، نظرًا لسهولة تجاوز نماذج الذكاء الاصطناعي وإفسادها، فإن الجيل الحالي من هذه المتصفحات يمكن اعتباره برمجيات ضارة كامنة. يجب مراقبة كل إصدار جديد للتأكد من وجود إشراف أمني فعال.
هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي.
