آگاه: به نقل ازرویترز، دیوید رابینسون در مقاله‌ای با عنوان «من از اوپن‌ای‌آی استعفا دادم زیرا فرهنگ معیوبی دارد» که در نشریه آتلانتیک منتشر شده، مدعی است شرکت‌های هوش مصنوعی از جمله اوپن‌ای‌آی به اندازه کافی محتاط نیستند و باید قبل از توسعه سیستم‌های توانمندتر بر کارشناسی و تحقیق ایمنی بیشتر تاکید کنند. رابینسون مدعی است اوپن‌ای‌آی به شدت به آنچه استقرار تکرارشونده می‌نامد، متکی است و فقط زمانی که چالش‌ها ظاهر می‌شوند سیستم‌ها را عرضه و اقدامات ایمنی را قدرتمندتر می‌کند.
این اظهار به گفتمان داخلی صنعت هوش مصنوعی درباره آنکه آیا شرکت‌های فناوری برای توسعه سیستم‌های قدرتمندتر به سرعت حرکت می‌کنند یا خیر، افزوده می‌شود. اوپن‌ای‌آی و آنتروپیک، دو شرکت رقیب پس از رویدادهایی که در آن اقدامات ایمنی کارآمد نبود یا سیستم‌های آزمایشی رفتار غیرمنتظره‌ای داشتند، با نظارت بیشتری روبه‌رو شدند. رابینسون سه سال و نیم در اوپن‌ای‌آی فعالیت و به تهیه پیش‌نویس چارچوب آمادگی شرکت کرد و بر گزارش ایمنی ۱۲ مدل پیشرو نظارت داشت. وی در گزارش خود نوشته است: در حالی که شرکت با سرعت از یک عرضه به عرضه بعدی می‌رسد، نمی‌تواند به سطحی از دقت و مراقبتی که من معتقدم لازم است، دست پیدا کند. سخنگوی اوپن‌ای‌آی در بیانیه‌ای گفت: ما اطمینان حاصل می‌کنیم که مدل‌هایمان از حد توانایی‌ای که می‌توانیم به‌طور ایمن مدیریت و محافظت کنیم، فراتر نروند و هر زمان که لازم باشد سرعت را کاهش دهیم، آموزش مدل‌ها را متوقف می‌کنیم یا عرضه و استفاده از مدل‌ها را محدود می‌کنیم. رابینسون همچنین هشدار داد که توانایی‌های هوش مصنوعی با سرعتی بیشتر از درک پژوهشگران از همسویی در حال پیشرفت است؛ حوزه‌ای که بر اطمینان از عملکرد سیستم‌های
هوش مصنوعی مطابق با اهداف و ارزش‌های انسانی تمرکز دارد.
۱۳ مهر ۱۴۰۵ - ۱۲:۲۸
کد مطلب: ۲۵٬۹۳۰
کارمند سابق بخش ایمنی اوپن‌ای‌آی که اخیرا استعفا داده از رویکرد شرکت در خصوص ایمنی هوش مصنوعی انتقاد و استدلال می‌کند این فرهنگ پرسرعت مبتنی بر توسعه سریع، ریسک شکست را بالا می‌برد.
نظر شما