مایکروسافت و 11 شرکت فناوری هوش مصنوعی را نجات می دهند - وبلاگ هیمالیا

به گزارش وبلاگ هیمالیا، یک سازمان تحقیقاتی با همکاری مایکروسافت و 11 شرکت فناوری چارچوبی را برای مقابله با حملات متخاصم که به سیستم های هوش مصنوعی وارد می گردد، فراهم نموده اند.

شرکت مایکروسافت با همکاری سازمان تحقیقاتی MITRE چارچوبی برای یاری به کارشناسان امنیت سایبری جهت مقابله با حملات به مدل های هوش مصنوعی فراهم نموده اند.

این چارچوب ماتریکس تهدید یادگیری ماشینی متخاصم (Adversarial ML Threat Matrix نام دارد و در گیت هاب فراهم است. علاوه بر مایکروسافت و MITRE یازده شرکت دیگر نیز در این پروژه با آنها همکاری می نمایند.

درهمین راستا MITRE دربیانیه ای رسمی در وب سایت خود نوشت: باهمکاری مایکروسافت، بوش، آی بی ام، انویدیا، ایرباس، دیپ اینستینک، تو سیکس لبز، دانشگاه تورنتو، دانشگاه کاردیف، دانشگاه کارنگی ملون، پرایس واترهاوسکوپرز و انستیتو ماشین یادگیری بری ویل این چارچوب را عرضه می نماید تا در شناسایی، هشدار و پاسخ به تهدیدها علیه سیستم های یادگیری ماشینی (ML) به تحلیلگران یاری کند.

مایکروسافت در وبلاگ خود اظهار داشت طی 4 سال گذشته با افزایش قابل توجه حملات به سیستم هایML تجاری روبرو بوده است. گزارش های بازاری ماتریکس تهدید ناشی از یادگیری ماشینی متخاصم قرار است تیم های امنیتی را تقویت کند.

این ماتریکس مجموعه ای از رفتارهای خصمانه و آسیب پذیری هایی را در بردارد که شرکت مایکروسافت و MIRTE طی سال ها مشاهده نموده اند.

مایکروسافت در پستی در وبلاگ خود گفت: متوجه شده ایم مهاجمان هنگام حمله به یک سیستم یادگیری ماشینی از ترکیبی از تکنیک های سنتی مانند فیشینگ در کنار تکنیک های یادگیری ماشینی متخاصم استفاده می نمایند.،مهر