اوپن ای آی سیستم خاموشی خودکار هوش مصنوعی را پیاده سازی می کند
نهایت علم: اوپن ای آی در پی خروج مهارنشده ی یکی از ابزارهای هوش مصنوعی خود در خلال آزمایشی امنیتی، سیستم ی خاموشی خودکار طراحی می کند.
به گزارش نهایت علم به نقل از خبر آنلاین و بر طبق گزارش زومیت، مهندسان OpenAI سرگرم توسعه قابلیتی موسوم به خاموشی خودکار برای مهار سیستم های هوش مصنوعی هستند تا در وضعیت بحرانی بتوان فعالیت آنها را متوقف نمود.
اوپن ای آی بعد از وقوع رخداد امنیتی و خروج مهارنشده ی یکی از ابزارهایش از محیط ایزوله ی دیجیتال در حین آزمون های ایمنی، به قانون گذاران آمریکایی اعلام نموده تدابیر سخت گیرانه تری در پیش می گیرد.
به گزارش رویترز، پاسخ ارایه شده به دو تن از نمایندگان حزب دموکرات در مجلس نمایندگان آمریکا نشان داده است نظارت بر روند اجرای وظایف سیستم های خودمختار تشدید شده است. OpenAI حال بر ابزارهای دیجیتالی مورد استفاده ی مدلها و مراحل قدم به قدم آنها کنترل بیشتری اعمال می کند.
محدودیت دسترسی مدلهای تحت آزمایش به اینترنت بخش دیگری از پروتکلهای جدید این توسعه دهنده به حساب می آید. عامل خودمختاری که در آزمایش اخیر رفتاری خارج از کنترل نشان داد، با اتصال به اینترنت توانسته بود به زیرساخت های پلت فرم هاگینگ فیس نفوذ کند.
ارایه نشدن گزارشات دقیق فنی و لاگ های مربوط به نفوذ امنیتی از طرف اوپن ای آی، انتقاد شدید نمایندگان کنگره را به همراه داشت.
گرگ کاسار، نماینده ی دموکرات مجلس نمایندگان آمریکا، اظهار داشت: «تمایل نداشتن شما به ارایه ی اطلاعات درخواستی به اعضاء کنگره به شدت نگران کننده است و این پیام را منتقل می کند که مجموعه ی شما با حوادث امنیت سایبری با جدیت لازم برخورد نمی کند.»
نمایندگان کنگره در واکنش به رخدادهای اخیر، طرحی قانونی با عنوان کلید خاموشی هوش مصنوعی پیشنهاد داده اند. طبق لایحه ی درحال بررسی، مقامات دولتی ایالات متحده اختیارات قانون
منبع: elmend.ir
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب