نتایج آزمایشات داخلی گوگل نشان می دهد که مدل هوش مصنوعی که اخیراً راه اندازی شده است ، در برخی از برآوردهای ایمنی از مدل قبلی خود رتبه پایین تری کسب کرده است.
به گفته اینا ، Google در یک گزارش فنی فاش کرد که مدل فلش Gemini 2.5 آن می تواند متن بیشتری نسبت به Flash Jina 4.5 تولید کند ، که دستورالعمل های ایمنی آن را نقض می کند. Flash Jamina 2.5 در دو معیار برای “متن به متن” و “ایمنی تصویر به متن” 2.9 درصد و 3.5 درصد حالت داشت.
به نقل از Takrakchch ، ایمنی متن در صورت دریافت پیام ، میزان تخلفات دستورالعمل های Google را بر اساس مدل در نظر می گیرد. با این حال ، ایمنی تصویر متن هنگام دریافت پیام با استفاده از یک تصویر ، میزان تعامل مدل را در این محدودیت ها ارزیابی می کند. هر دو آزمایش اتوماتیک هستند و تحت نظارت انسان نیستند. سخنگوی Google در E -Mail تأیید کرده است که Flash Jamina 4.1 از نظر متن و تبدیل تصویر به متن با صدای بلندتر عمل می کند.
این نتایج باورنکردنی در حالی حاصل شد که شرکت های اطلاعاتی مصنوعی در تلاشند تا مدل های خود را آسانتر کنند. به عبارت دیگر ، احتمال امتناع از پاسخگویی به سؤالات متناقض یا حساس را کاهش می دهد. در آخرین نسخه Llama ، متا اعلام کرده است که او مدل ها را تنظیم کرده است تا برخی از دیدگاه ها را به دیگران ترجیح ندهد و به خواسته های سیاسی بیشتری پاسخ دهد. Openai در اوایل سال جاری اعلام کرد که این مدل های آینده را ایجاد می کند تا آنها موقعیتی نکنند و نظرات بی شماری را در مورد موضوعات بحث برانگیز ارائه دهند.
این تلاشهای بی دقتی گاهی برعکس است. روز دوشنبه ، گزارش شده است که مدل ChatGPT به طور پیش فرض شرکت Openia به افراد زیر سن قانونی اجازه می دهد تا مکالمات نامناسب داشته باشند. Open -ai این رفتار را به یک مشکل نسبت می دهد.
طبق گزارش فنی Google ، Jamina 4.1 Flash ، هنوز در مرحله پیش نمایش ، دستورالعمل هایی را دنبال می کند ، از جمله دستورالعمل هایی که مشکل را طی می کنند ، دقیق تر از Flash Jina 4.1. این شرکت ادعا می کند که این مشکلات را می توان تا حدی به مثبت کاذب نسبت داد ، اما وی همچنین اعتراف کرد که Flash Jenya 2.5 گاهی اوقات در صورت درخواست صریح ، باعث ایجاد اختلال در حد می شود.
پایان پیام
منبع خبر: https://www.isna.ir/news/1404021308745/%D9%87%D9%88%D8%B4-%D9%85%D8%B5%D9%86%D9%88%D8%B9%DB%8C-%DA%AF%D9%88%DA%AF%D9%84-%D8%AF%D8%B1-%D8%A7%D8%B1%D8%B2%DB%8C%D8%A7%D8%A8%DB%8C-%D8%A7%DB%8C%D9%85%D9%86%DB%8C-%D8%A7%D9%85%D8%AA%DB%8C%D8%A7%D8%B2-%D9%BE%D8%A7%DB%8C%DB%8C%D9%86%DB%8C-%DA%AF%D8%B1%D9%81%D8%AA
