هجمات adversarial ضد أنظمة الرؤية الحاسوبية: MIT تكشف عن 23 طريقة لخداع نماذج التعرف على الصور

كشف باحثون في MIT CSAIL عن 23 طريقة لخداع نماذج التعرف على الصور باستخدام هجمات adversarial. بحسب تقرير نشرته The Hacker News في 8 سبتمبر 2026، هذه الهجمات يمكن أن تخدع أنظمة الأمن والتحقيق الطبي والتطبيقات الأخرى.

كيف تعمل هجمات adversarial؟

تتبع هجمات adversarial عدة مراحل:

1. إنشاء صورة أصلية.
2. إضافة ضوضاء أو أنماط طفيفة غير مرئية للعين البشرية.
3. تغيير التصنيف بشكل جذري.
4. خداع النظام المستهدف.

أمثلة على الهجمات

من بين الهجمات ال 23 التي تم اكتشافها:

الهجوم 1: خداع نظام التعرف على الوجوه

في هجوم على نظام أمن، تم خداع نظام التعرف على الوجوه:

1. تم إضافة أنماط adversarial طفيفة على صورة وجه.
2. النظام صنف الصورة على أنها وجه مختلف تماماً.
3. تم الوصول إلى مناطق محظورة.

الهجوم 2: خداع نظام التشخيص الطبي

في هجوم آخر، تم خداع نظام تشخيص طبي:

1. تم إضافة أنماط adversarial على صور الأشعة السينية.
2. النظام صنف الصور على أنها طبيعية رغم وجود أورام.
3. تم تفادي تشخيص أمراض خطيرة.

تقنيات الهجمات

يستخدم المهاجمون عدة تقنيات:

التطبيقات المستهدفة

تركز الهجمات على:

• أنظمة الأمن.
• أنظمة التشخيص الطبي.
• أنظمة المراقبة.
• التطبيقات الاجتماعية.

مؤشرات الاختراق (IOCs)

التدابير المضادة

توصي MIT باتخاذ التدابير التالية:

1. استخدام تقنيات الدفاع ضد adversarial.
2. مراقبة نتائج النموذج بحثاً عن أنماط مشبوهة.
3. تطبيق تقنيات التعلم الآمن.
4. تحديث النماذج بانتظام.
5. اختبار النماذج بأنماط adversarial.

التأثير

يمكن لهجمات adversarial أن تكون لها تأثيرات واسعة:

• فشل أنظمة الأمن.
• تشخيص طبي خاطئ.
• خسائر مالية.
• تسريب بيانات حساسة.

الخاتمة

تمثل هجمات adversarial ضد أنظمة الرؤية الحاسوبية تهديداً جديداً ومتطوراً. يجب على المؤسسات اتخاذ جميع التدابير اللازمة لحماية أنظمتها من هذه الهجمات.

«هجمات adversarial هي التحدي الكبير في مجال رؤية الحاسب. يجب علينا تطوير تدابير دفاعية جديدة لحماية أنظمتنا.» — MIT CSAIL