بناء مستقبل آمن للذكاء الاصطناعي: مبادرة متكاملة من SANS لتعزيز أمان الذكاء الاصطناعي

تسارع المؤسسات التي تدمج الذكاء الاصطناعي في القوى العاملة وعروضها نحو الابتكار، ولكن العديد منها غير مستعد للتحديات الأمنية المصاحبة لذلك. ومع تسارعها في نشر نماذج أكثر كفاءة وفعالية من حيث التكلفة، غالباً ما تتجاهل المخاطر المتعلقة بتلاعب النماذج والهجمات المعادية، وهي تهديدات لا تستطيع الدفاعات التقليدية اكتشافها أو إيقافها. في الوقت نفسه، لا يزال العديد من القادة يكافحون مع كيفية تشغيل الذكاء الاصطناعي بشكل آمن وموثوق في بيئاتهم. ومع تعمق الذكاء الاصطناعي في عمليات الأعمال والبنية التحتية الحيوية، تتسارع المخاطر بسرعة وعلى نطاق عالمي.

لمساعدة المؤسسات على التنقل بين هذه المخاطر واستعادة السيطرة، أطلق معهد SANS مبادرة رئيسية. حيث أعلن المعهد اليوم عن الإطلاق المرتقب لإرشادات أمان الذكاء الاصطناعي الحرجة الإصدار 1.0، وهو إطار عملي مدفوع بالعمليات مصمم للدفاعين والقادة الذين يحتاجون إلى تأمين أنظمة الذكاء الاصطناعي حالاً. ستظهر الإرشادات في قمة الذكاء الاصطناعي من SANS 2025، وتركز على ستة مجالات حيوية: التحكم في الوصول، حماية البيانات، استراتيجيات النشر، أمان الاستنتاج، المراقبة، والحوكمة، المخاطر، والامتثال. صُممت هذه الإرشادات لتزويد فرق الأمان والقيادة بتوجيهات واضحة وعملية للدفاع عن أنظمة الذكاء الاصطناعي في البيئات الواقعية. كل قسم يقدم توصيات قابلة للتنفيذ لمساعدة المؤسسات في تحديد وتخفيف وإدارة المخاطر المرتبطة بتقنيات الذكاء الاصطناعي الحديثة. بمجرد إصدارها، ستكون الإرشادات مفتوحة لتعليقات المجتمع، مما يتيح للممارسين والباحثين وقادة الصناعة المساهمة برؤى وتحديثات مع تطور التهديدات وظهور أفضل الممارسات الجديدة.

قال روب تي لي، رئيس قسم الأبحاث ورئيس قمة الذكاء الاصطناعي في SANS: “نرى المؤسسات تقوم بنشر نماذج لغوية كبيرة، وتوليد مدعوم بالاسترجاع، وعوامل مستقلة أسرع مما يمكنها تأمينها”. وأضاف: “هذه الإرشادات مصممة لتلبية احتياجات المجال في الوقت الحالي. إنها ليست نظرية؛ بل كُتبت للمحللين والقادة في الميدان، الذين يحتاجون إلى حماية هذه الأنظمة بدءًا من اليوم”.

مع تحول تقنيات الذكاء الاصطناعي إلى محور أساسي في كل جانب من جوانب عمليات الأعمال، لم يكن هناك حاجة أكبر للأدوات مفتوحة المصدر لتعزيز فرق الأمان والقدرات الجديدة لمساعدة في تأمين الذكاء الاصطناعي. لمعالجة هذا الأمر، دعا هاكاثون الأمن السيبراني من SANS مجتمع الأمن السيبراني لتصميم أدوات مفتوحة المصدر تتماشى مباشرة مع الإرشادات الأمنية الجديدة. هذا الحدث الفريد تحدى المشاركين لتطوير حلول مبتكرة لحماية نماذج الذكاء الاصطناعي، ورصد عمليات الاستنتاج، والدفاع ضد الهجمات المعادية، ومعالجة الثغرات الأخرى الفريدة لأنظمة الذكاء الاصطناعي. سيتم عرض الأدوات التي تم إنتاجها خلال الهاكاثون في القمة، مما يوفر حلولاً ملموسة وواقعية للمؤسسات.

قالت كيت مارشال، مديرة هاكاثون الذكاء الاصطناعي ورئيسة قمة الذكاء الاصطناعي في SANS: “نحتاج إلى المزيد من الأشخاص الذين يفهمون كيفية عمل الذكاء الاصطناعي من الداخل وكيفية الدفاع عنه”. وأضافت: “الهاكاثون يحدث فرقًا بالفعل. إنه لا يخلق أدوات فحسب؛ بل يعرض المواهب، وهذا بالضبط ما نحتاجه لتأمين أنظمة الذكاء الاصطناعي في المستقبل”.

يُعد الهاكاثون خطوة قوية في معالجة فجوة مهارات الذكاء الاصطناعي المتزايدة، حيث يوفر للمشاركين تجربة عملية وإشراف مباشر من أفضل خبراء أمان الذكاء الاصطناعي. مع الطلب المتزايد على محترفي أمان الذكاء الاصطناعي، تعتبر المبادرات مثل هذه حاسمة لضمان جاهزية خط أنابيب المواهب لتلبية احتياجات الصناعة. الأدوات الفائزة لن تتلقى فقط رؤية ودعماً، بل ستصبح أيضاً جزءاً لا يتجزأ من مساعدة المؤسسات في تطبيق الإرشادات الأمنية بفعالية.

ستنتهي هذه الجهود المشتركة في قمة الذكاء الاصطناعي من SANS 2025 في 31 مارس، حيث يجتمع قادة من الأمن السيبراني، وتطوير الذكاء الاصطناعي، والسياسة لإطلاق الإرشادات واستكشاف كيفية تأمين أنظمة الذكاء الاصطناعي في التطبيقات الواقعية. ستتضمن القمة مناقشات معمقة حول تنفيذ الإرشادات، وعروض حية للأدوات الفائزة من الهاكاثون، ونقاشات حول تحديات أمان الذكاء الاصطناعي في قطاعات مثل الحكومة والرعاية الصحية والبنية التحتية الحيوية. هنا تتجمع هذه الجهود، مع الإرشادات ومشاريع الهاكاثون والمحادثات في القمة، لتشكيل خارطة طريق شاملة وقابلة للتنفيذ لتأمين الذكاء الاصطناعي.

قال روب تي لي: “لقد وصلنا إلى نقطة حيث لم يعد هذا النوع من العمل اختيارياً”. وأضاف: “كانت الصناعة بحاجة إلى شيء مركزي، مكان موثوق لتوحيد الجهود حول أمان الذكاء الاصطناعي. نحتاج إلى ضوابط حقيقية، وأدوات حقيقية، وطريقة لتنمية المهارات التي ستحمي العالم. هذا ما هو عليه الأمر. الأمر لا يتعلق بـ SANS، بل يتعلق بالتجمع كمجتمع لتحقيق هذا الأمر بشكل صحيح”.

من خلال دمج إصدار إرشادات أمان الذكاء الاصطناعي الحرجة، وزخم هاكاثون أمان الذكاء الاصطناعي، والتعليم التعاوني في الذكاء الاصطناعي في القمة، تخلق SANS لحظة حاسمة في الصناعة وتأمين مكان يمكن لمتخصصي الذكاء الاصطناعي أن يتحدوا فيه، ويبتكروا، ويبنون مستقبل الذكاء الاصطناعي الآمن معًا.

هذا المحتوى تم باستخدام أدوات الذكاء الاصطناعي.