مدیران ارشد هوش مصنوعی خواهان کندتر شدن پیشرفت آن شدند
نهایت علم: ایلان ماسک و سم آلتمن از درخواست داریو آمودئی مدیر ارشد اجرائی آنتروپیک برای حضور بازبین های طرف ثالث در شرکتهای پیشرو هوش مصنوعی به صورت دائمی پشتیبانی کردند.
به گزارش نهایت علم به نقل از اسکای نیوز، داریو آمودئی مدیر ارشد اجرایی آنتروپیک مقاله ای با عنوان «ما باید در پیشروی مرزها شتاب زده عمل نکنیم» ( We Must Pace the Frontier) را منتشر نموده که در آن از شرکت های فناوری می خواهد سرعت بهبود قابلیت های مدلهای هوش مصنوعی را کندتر کنند.
این مقاله در حالی منتشر می شود که نگرانی ها درباره ی سواستفاده از هوش مصنوعی شدت گرفته است. از طرف دیگر آنتروپیک بتازگی فاش کرده چند هکر از مدلهای کلاود آن برای فعالیتهایی مانند توسعه اسلحه، عملیات های نظامی و نظارت و کلاهبرداری بهره برده اند.
آمودئی در همین زمینه طرحی سه بخشی ارایه کرده که شرکتش نیز به آن متعهد است. وی در پستی در شبکه اجتماعی ایکس نوشت: ما ارزیاب های طرف ثالث را با دسترسی دائمی و در سطح کارمندان برای سیستم هایمان فراهم می نماییم تا آنها بتوانند التزام مان به اقدامات ایمنی را تایید کنند، درباره ی رویدادها گزارش دهند و همسویی مدلها طی آموزش را ارزیابی کنند.
پس از آن ایلان ماسک مدیر ارشد اجرایی ایکس و سم آلتمن مدیر ارشد اجرایی اوپن ای آی نیز از این مقاله دفاع کردند. ماسک نیز پاسخ به پست آمودئی نوشت: داریو درست می گوید.
سم آلتمن نیز در ایکس نوشت: من هم با داریو موافقم که ما نیاز داریم در پیشروی شتاب زده عمل نکنیم. این مورد اصلی گفتگوهایی است که هفته های اخیر در اوپن ای آی داشتیم. تعهد به حضور ارزیاب های مستقل با دسترسی در سطح کارمند یک ایده عالی است و ما نیز همین کار را انجام می دهیم. بزودی اطلاعات بیشتری به اشتراک می گذاریم.
بطور خلاصه به گزارش نهایت علم به نقل از اسکای نیوز، داریو آمودئی مدیر ارشد اجرائی آنتروپیک مقاله ای با عنوان ما باید در پیشروی مرزها شتاب زده عمل نکنیم ( We Must Pace the Frontier) را منتشر نموده که در آن از شرکتهای فناوری می خواهد سرعت بهبود قابلیت های مدل های هوش مصنوعی را کندتر کنند. این مقاله در حالی منتشر می شود که نگرانی ها در رابطه با ی سواستفاده از هوش مصنوعی شدت گرفته است. وی در پستی در شبکه اجتماعی ایکس نوشت: ما ارزیاب های طرف ثالث را با دسترسی دائمی و در سطح کارمندان برای سیستم هایمان فراهم می نماییم تا آنها بتوانند التزام مان به اقدامات ایمنی را تایید کنند، در رابطه با ی رویدادها گزارش دهند و همسویی مدلها طی آموزش را ارزیابی کنند. بعد از آن ایلان ماسک مدیر ارشد اجرائی ایکس و سم آلتمن مدیر ارشد اجرائی اوپن ای آی هم از این مقاله دفاع کردند.
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب