گزارش Open -ai و نظرات کاربران چت شده نشان می دهد که این چت ها تأیید می کنند که کاربر بالاتر از رفتار و صاف و صاف است.
به گفته اینا ، OpenAi گزارشی از مشکل Celess در Chatgpt و GPT-4O Intelligence Artificial منتشر کرده است ، که این شرکت را وادار به بازگرداندن نسخه منتشر شده هفته گذشته کرد.
به نقل از تک -کران ، پس از به روزرسانی مدل GPT-4O ، کاربران رسانه های اجتماعی می دانند که ChatPPT شروع به پاسخگویی به روشی می کند که همپوشانی داشته و نظر کاربران را تأیید می کند. این به سرعت یک تقلید شد. مصرف کنندگان تصاویر توصیه های چت چت را تهیه کرده اند که با کاربران برای راه حل ها و ایده های مختلف مشکل ساز و خطرناک موافقت کرده اند.
سام آلتمن ، مدیرعامل Open AIA ، روز یکشنبه این مشکل را در حساب X خود تأیید کرد و گفت که این شرکت در اسرع وقت کار خواهد کرد. دو روز بعد ، آلتمن اعلام کرد که به روزرسانی GPT-4O به ایالت قبلی بازگردانده شده است و اوپن در حال کار بر روی اصلاحات بیشتر در مورد شخصیت مدل است.
به گفته OpenAI ، این به روزرسانی ، که قرار بود احساس بصری و مؤثرتری از شخصیت مدل پیش فرض ایجاد کند ، بیش از حد تحت تأثیر بازخورد کوتاه مدت قرار دارد و به طور کامل در نظر نگرفته است که چگونه تعامل کاربران با CATPT توسعه یافته است.
در نتیجه ، GPT -4O روی پاسخ هایی که بسیار حمایتی بودند اما تمسخرآمیز بودند ، متمرکز شد. فعل و انفعالات خانوادگی می تواند ناراحت کننده و نگران کننده باشد و باعث پریشانی شود. ما کوتاه بودیم و سعی داشتیم آن را ترمیم کنیم.
Openai می گوید که در حال اجرای چندین تغییر ، از جمله تغییر استراتژی های آموزش مدل اساسی و دستورالعمل های سیستماتیک برای منحرف کردن GPT-4O از چاپلوسی است. دستورات سیستم دستورالعمل های اولیه هستند که رفتار و لحن مدل را در تعامل راهنمایی می کنند. این شرکت همچنین سپرهای محافظ بیشتری را برای بهبود صداقت و شفافیت مدل ایجاد می کند و همچنان به گسترش نمرات خود برای کمک به شناسایی مشکلات فراتر از صاف شدن می پردازد.
همچنین ، OpenAi گفت روش های آزمایش به کاربران کمک می کند تا در زمان واقعی برای بازخورد ظاهر شوند تا مستقیماً بر تعامل چت خود تأثیر بگذارند و یک کاراکتر را از چندین کاراکتر CT چت انتخاب کنند.
این شرکت در پست وبلاگ خود نوشت: “ما در حال بررسی روش های جدید برای شامل بررسی های گسترده تر و دموکراتیک در گپ پیش فرض هستیم.” ما امیدواریم که این بررسی ها به ما کمک کند تا در مورد ارزشهای مختلف فرهنگی در سراسر جهان بهتر فکر کنیم و درک کنیم که مصرف کنندگان چگونه می خواهند توسعه دهند. همچنین ، ما معتقدیم که کاربران باید کنترل بیشتری بر نحوه چت CT داشته باشند و اگر با رفتار پیش فرض موافق نیستند ، تنظیماتی را به حدی که ایمن و ممکن باشد ، تنظیم می کنند.
پایان پیام
منبع خبر: https://www.isna.ir/news/1404021006911/%DA%86%D8%AA-%D8%AC%DB%8C-%D9%BE%DB%8C-%D8%AA%DB%8C-%DA%86%D8%A7%D9%BE%D9%84%D9%88%D8%B3-%D8%B4%D8%AF%D9%87-%D8%A7%D8%B3%D8%AA
