آگاه: به نقل از رویترز، این شرکت همزمان هشدار داد این صنعت باید چالشهای کلیدی همسویی مانند قدرتمندتر شدن سیستم را حل کند. اوپن ایآی چارچوبی جدید برای ردیابی، تحقیق و افشای موارد ناهمسویی
هوش مصنوعی همراه ۶ گزارش مفصل درباره رفتار غیرمنتظره یا نگران کننده مدل مورد نظر را منتشر کرد. هرچند این شرکت گزارشها را طی ۶ ماه گذشته منتشر کرده اما قدیمیترین مورد چنین رفتاری مربوط به اکتبر سال گذشته بوده است.
این بیانیه در حالی منتشر میشود که نگرانیها درباره آنکه تلاشها برای کنترل ایمنی هوش مصنوعی عقبتر از توسعه سریع سیستمهای قدرتمند است، هر روز بیشتر میشود. محققان هشدار دادهاند در حالی که عاملهای هوش مصنوعی خودکارتر میشوند، ممکن است رفتارهایی در آنها ایجاد شود که با مقصود خالقان مدل متفاوت باشد و رصد یا کنترل آنها سختتر میشود. اوپن ایآی و دیگر آزمایشگاههای هوش مصنوعی از جولای ۲۰۲۶ میلادی با سختگیریهای بیشتری روبهرو شدهاند. در آن زمان شرکت مذکور اعلام کرد طی فرآیند آموزش عاملهای
هوش مصنوعیاش کنترلهای داخلی و اقدامات هماهنگی را دور زدهاند. اوپن ایآی این موضوع را یک رویداد سایبری بیسابقه خواند. رویداد مذکور بحث و گمانهزنی درباره ریسک سیستمهای هوش مصنوعی قدرتمند و آنکه آیا شرکتهایی که آنها را توسعه میدهند میتوانند نظارت کافی فراهم کنند یا خیر، به وجود آورد.
۲۸ شهریور ۱۴۰۵ - ۱۲:۰۴
کد مطلب: ۲۵٬۴۶۵
اوپن ایآی اعلام کرد انتشار گزارشهای مرتب درباره رفتارهای غیرمنتظره یا غیرمجاز هوش مصنوعی را آغاز میکند.
نظر شما