موارد تازه هک هوش مصنوعی اوپن ای آی و آنتروپیک افشا شد
مداربسته: دو شرکت آنتروپیک و اوپن ای آی از موارد بیشتر هک شرکت ها توسط عامل های هوش مصنوعی شان خبر دادند.
به گزارش مداربسته به نقل از رویترز، اوپن ای موارد دیگری از فرار عامل های خودکار هوش مصنوعی کشف کرده است. این شرکت تحقیقات درباره ی هک پلت فرم هاگینگ فیس را که توجهات جهانی را به خود جلب کرد، گسترده تر می کند.
به گفته دو منبع آگاه، هک های جدید طی تحقیقی درباره ی آن که چطور یکی از عامل از بستر آزمایشی فرار کرد و وارد هاگینگ فیس شد، فاش شده اند.
در همین راستا اوپن ای آی مشغول بررسی این موارد جدید است. یکی از منابع آگاه هم فاش کرد ماهیت فرار عامل های هوش مصنوعی محدود بوده و تصور نمی شود هیچ کدام از آنها شبکه اوپن ای آی را ترک کرده باشند.
سخنگوی این شرکت با اشاره به بیانیه صادره از طرف شرکت، اعلام نمود مشغول بررسی فعالیتهای وسیع تر مدلها علاوه بر رویداد نفوذ به هاگینگ فیس است.
کشف رفتار خطرناک اضافی در اوپن ای آی حتی با وجود ماهیت محدود آن، ممکنست تقاضا برای قوانین صادره از طرف کاخ سفید و نقاط دیگر را بیشتر کند.
در این میان کارشناسان ایمنی هوش مصنوعی باور دارند رویدادهای فاش شده جدید تصویری از گروهی لابراتوار های بسیار پیشرفته ایجاده کرده اند که توانایی آنها برای توسعه عامل های هک خودکار خطرناک خیلی بیشتر از توانایی برای کنترل آنها اسست.
از سوی دیگر نشریه ایندپندنت درگزارشی اعلام نمود سیستم هوش مصنوعی «کلاود» به بیراهه رفته و سه شرکت مختلف را طی مرحله آزمایش هک کرده است. آنتروپیک، شرکت مالک کلاود اعلام نمود از آنجائیکه مدلهای هوش مصنوعی بطور تصادفی اجازه دسترسی به اینترنت آزاد را یافتند، حملات مذکور امکان پذیر شده اند.
این شرکت گوشزد نمود رویداد مذکور نشانه ای از آنست که چطور هوش مصنوعی را می توان برای نقض چارچوب های امنیت سایبری و همینطور برای صیانت از آن به کار برد و همینطور کنترل چنین سیستم هایی برای شرکت های سازنده تا چه دشوار است.
آنتروپیک در یک پست وبلاگی اعلام نمود بعد از بررسی ۱۴۱۰۰۶ تست، این موارد را شناسایی کرده است. بررسی تست ها بعد از آن انجام شد که اوپن ای آی اعلام نمود یک عامل هوش مصنوعی هاگینگ را به خطر انداخته است.
در جریان آزمایش های امنیت سایبری، به مدلهای کلاودگفته شده بود که به اینترنت دسترسی ندارند اما به علت یک سوءتفاهم که یکی از شرکای ارزیابی آنتروپیک در آن نقش داشت، این سیستم ها همچنان به اینترنت عمومی متصل باقی ماندند. درنتیجه، امکان دسترسی بدون مجوز به سامانه های سه سازمان برقرار شد. شرکت آنتروپیک بدون این که نام این سازمان ها را اعلام نماید، این مورد را تأیید کرد. این شرکت هوش مصنوعی اعلام نمود در رویدادهای مذکور مدلهای «کلاود اوپوس ۴.۷»، «کلاود مایتوس ۵» و یک مدل تحت آزمایش های داخلی دخیل بوده اند.
قدیمی ترین پرونده هک به زمان آوریل مربوط است و هنگام ارزیابی محیط هایی رخداده بود که بطور عمدی فاقد چارچوب های ایمنی بودند تا شرکت بتواند قابلیت های هوش مصنوعی را ارزیابی کند.
منبع: مداربسته
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب