افشاگری کارمند مایکروسافت ضد محصول اوپن ای آی
به گزارش مداربسته، تیم حقوقی مایکروسافت مهندسی که شکافی را در محصول DALL-E3 اوپن ای آی یافته بود به زور ساکت کردند و او حالا می خواهد افشاگری کند.
به گزارش مداربسته به نقل از انگجت، یک مدیر مایکروسافت مدعی است محصول DALL-E3 شرکت اوپن ای آی شکاف های امنیتی دارد که به کاربران اجازه می دهد تصاویر خشن یا مخرب تولید کنند. نشریه «گیک وایر» در گزارشی اعلام نموده تیم حقوقی مایکروسافت، از تلاشهای شین جونز رهبر مهندسی مایکروسافت برای اخطار به مردم در رابطه با این شکاف جلوگیری کرده است. این افشاگر حالا می خواهد پیام خویش را به گوش مقامات برساند. جونز در نامه ای پتی موری، ماریا کانتول، آدام اسمیت سناتورهای آمریکایی و همینطور باب فرگوسن دادستان کل ایالت واشنگتن نوشته است: من به این نتیجه رسیدم کهDALL-E3 ریسکی برای ایمنی عومی است و تا زمانیکه اوپن ای آی چالش های در رابطه با این مدل را برطرف نکرده، نباید جهت استفاده عمومی عرضه شود. وی در اوایل دسامبر 2023 کشف کرد یک شکاف به او اجازه می دهد دستورالعمل امنیتی DALL-E3 را دور بزند. جونز مدعی است مشکل را به مدیران خود در مایکروسافت گزارش داده و آنها به او دستور داده اند تا شخصا این اختلال را به صورت مستقیم به اوپن ای آی گزارش دهد. بعد از این اقدام وی متوجه شد شکاف مذکور در DALL-E3 اجازه تولید تصاویر خشن و مخرب را می دهد. در مرحله بعد این مهندس تلاش کرد اختلال کشف شده را در یک پست لینکدین به صورت عمومی فاش کند. او در اینباره در نامه اش نوشته است: بامداد 14 دسامبر 2023 میلادی من به صورت عمومی نامه ای به هیات مدیره اوپن ای آی در لینکدین منتشر کردم و از آنها خواستم تا DALL-E3 را تعلیق کنند چونکه مایکروسافت یکی از اعضای هیات نظارت در اوپن ای آی است و من قبلا نگرانی هایم را با تیم رهبری مطرح کردم. من مایکروسافت را از نامه مذکور هم آگاه کردم. مایکروسافت در پاسخ به این اقدام از وی خواست پستش را حذف کند. او در قسمت دیگری نوشته است: مدت کوتاهی بعد از فاش شدن نامه به تیم رهبری ام، مدیرم با من تماس گرفت و گفت بخش حقوقی مایکروسافت خواهان حذف پست شده است. او به من گفت تیم حقوقی شرکت توجیهات خاص خود برای حذف نامه را بزودی در یک ایمیل برای من ارسال می کنند و من باید بدون انتظار برای دریافت ایمیل مذکور پست را حذف کنم. هرچند جونز از این دستور پیروی کرد اما هیچ وقت توضیحاتی از تیم حقوقی مایکروسافت دریافت نکرده است. او بعدا تلاش می کند تا اطلاعاتی در اینباره از تیم حقوقی به دست آورد اما مورد غفلت واقع می شود. سخنگوی اوپن ای آی در نامه ای به انگجت نوشته است: ما بعد از دریافت گزارش کارمند مایکروسافت، به سرعت مبحث را بررسی کردیم و مطمئن شدیم تکنیکی که او به اشتراک گذاشته سیستم های ایمنی ما را دور نمی زند. ایمنی اولویت اصلی ما است و ما نگاهی چند جانبه در این حوزه در پیش گرفته ایم.
منبع: مداربسته
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب