اوپن ای آی سیستم خاموشی خودکار هوش مصنوعی را پیاده سازی می کند
به گزارش وبی کارت، اوپن ای آی به دنبال خروج مهارنشده ی یکی از ابزارهای هوش مصنوعی خود در خلال آزمایشی امنیتی، سامانه ی خاموشی خودکار طراحی می کند.
به گزارش وبی کارت به نقل از خبر آنلاین و بر طبق گزارش زومیت، مهندسان OpenAI سرگرم توسعه قابلیتی موسوم به خاموشی خودکار برای مهار سامانه های هوش مصنوعی هستند تا در وضعیت بحرانی بتوان فعالیت آنها را متوقف ساخت.
اوپن ای آی بعد از وقوع رخداد امنیتی و خروج مهارنشده ی یکی از ابزارهایش از محیط ایزوله ی دیجیتال در حین آزمون های ایمنی، به قانون گذاران آمریکایی اعلام نموده تدابیر سخت گیرانه تری در پیش می گیرد.
به گزارش رویترز، پاسخ ارایه شده به دو تن از نمایندگان حزب دموکرات در مجلس نمایندگان آمریکا نشان داده است نظارت بر روند اجرای وظایف سامانه های خودمختار تشدید شده است. OpenAI حال بر ابزارهای دیجیتالی مورد استفاده ی مدلها و مراحل مرحله به مرحله آنها کنترل بیشتری اعمال می کند.
محدودیت دسترسی مدلهای تحت آزمایش به اینترنت بخش دیگری از پروتکلهای جدید این توسعه دهنده محسوب می شود. عامل خودمختاری که در آزمایش اخیر رفتاری خارج از کنترل نشان داد، با اتصال به اینترنت توانسته بود به زیرساخت های پلت فرم هاگینگ فیس نفوذ کند.
ارایه نشدن گزارشهای دقیق فنی و لاگ های مربوط به نفوذ امنیتی از طرف اوپن ای آی، انتقاد شدید نمایندگان کنگره را به همراه داشت.
گرگ کاسار، نماینده ی دموکرات مجلس نمایندگان آمریکا، اظهار داشت: «تمایل نداشتن شما به ارایه ی اطلاعات درخواستی به اعضاء کنگره به شدت نگران کننده است و این پیام را منتقل می کند که مجموعه ی شما با حوادث امنیت سایبری با جدیت لازم برخورد نمی کند.»
نمایندگان کنگره در واکنش به رخدادهای اخیر، طرحی قانونی با عنوان کلید خاموشی هوش مصنوعی پیشنهاد داده اند. طبق لایحه ی درحال بررسی، مقامات دولتی ایالات متحده اختیارات قانون
OpenAI حال بر ابزارهای دیجیتالی مورد استفاده ی مدلها و مراحل مرحله به مرحله آنها کنترل بیشتری اعمال می کند. گرگ کاسار، نماینده ی دموکرات مجلس نمایندگان آمریکا، گفت: تمایل نداشتن شما به ارائه ی اطلاعات درخواستی به اعضاء کنگره بشدت نگران کننده است و این پیام را منتقل می کند که مجموعه ی شما با حوادث امنیت سایبری با جدیت لازم برخورد نمی نماید.
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب