شرکت «اوپن‌ای‌آی» به تاریخ انتشار سیستم هوش مصنوعی «اپراتور» خود نزدیک می‌شود که می‌تواند کنترل رایانه شخصی کاربر را در دست بگیرد و اقداماتی را از سوی او انجام دهد.
به گزارش ایسنا، «تیبور بلاهو»(Tibor Blaho)، مهندس نرم‌افزار که به افشای دقیق محصولات هوش مصنوعی شهرت دارد، ادعا کرده شواهدی را درباره سیستم «اپراتور»(Operator) شرکت «اوپن‌ای‌آی»(OpenAI) کشف کرده است که مدت‌ها شایعه شده بود. نشریاتی از جمله بلومبرگ پیشتر درباره اپراتور گزارش داده بودند. گفته می‌شود اپراتور یک سیستم «عاملی» است که می‌تواند وظایفی را مانند نوشتن کد و رزرو سفر به طور خودکار انجام دهد.
به نقل از تک کرانچ، بر اساس اطلاعات منتشرشده، اوپن‌ای‌آی ژانویه را به عنوان ماه انتشار اپراتور هدف قرار داده است. اطلاعات کشف‌شده توسط بلاهو به این اطلاعات اعتبار می‌دهد. به گفته بلاهو، او هنگام استفاده از «چت‌جی‌پی‌تی»(ChatGPT) اوپن‌ای‌آی برای سیستم‌عامل «مک‌اواس»(macOS) گزینه‌هایی را یافته است که در حال حاضر پنهان شده‌اند تا میان‌برهایی را برای «Toggle Operator» و «Force Quit Operator» تعریف کنند. بلاهو ادامه داد: اوپن‌ای‌آی در وب‌سایت خود، ارجاعاتی را به اپراتور اضافه کرده است؛ البته ارجاعاتی که هنوز به صورت عمومی قابل مشاهده نیستند.
به گفته بلاهو، وب‌سایت اوپن‌ای‌آی حاوی جدول‌های غیر عمومی است که عملکرد اپراتور را با سایر سیستم‌های هوش مصنوعی رایانه‌ای مقایسه می‌کند. اگر اعداد دقیق باشند، نشان می‌دهند که اپراتور ۱۰۰ درصد قابل اعتماد نیست. اپراتور با وظایفی که یک انسان می‌تواند به راحتی انجام دهد، مشکل دارد. در آزمایشی که اپراتور را به ثبت نام در فضای ابری و راه‌اندازی یک ماشین مجازی موظف می‌کرد، اپراتور تنها در ۶۰ درصد مواقع موفق بود. در آزمایش دیگری که اپراتور وظیفه ایجاد کیف پول بیت کوین را بر عهده داشت، تنها ۱۰ درصد از مواقع توانست موفق شود.
تک کرانچ برای اظهار نظر با اوپن‌ای‌آی تماس گرفته، اما هنوز پاسخی دریافت نکرده است.
ورود قریب‌الوقوع اوپن‌ای‌آی به فضای عامل هوش مصنوعی در زمانی اتفاق می‌افتد که رقبایی از جمله «آنتروپیک»، «گوگل» و سایرین نیز به بازی وارد شده‌اند. عوامل هوش مصنوعی ممکن است ریسک‌پذیر باشند، اما غول‌های فناوری در حال حاضر از آنها به عنوان حرکت بزرگ بعدی در هوش مصنوعی یاد می‌کنند. با وجود این، برخی از کارشناسان نگرانی‌هایی را درباره ایمنی آنها مطرح کرده‌اند که در صورت پیشرفت سریع فناوری ممکن است رخ دهند.
یکی از نمونه‌های فاش‌شده نشان می‌دهد که اپراتور در ارزیابی‌های ایمنی از جمله آزمایش‌هایی که سعی دارند سیستم را به انجام دادن فعالیت‌های غیرقانونی و جستجوی داده‌های شخصی حساس ترغیب کنند، به خوبی عمل می‌کند. بر اساس گزارش‌ها، آزمایش ایمنی یکی از دلایل چرخه طولانی توسعه اپراتور است.
اوپن‌ای‌آی پیشتر به دلیل عدم تاکید بر ایمنی به نفع تولید سریع فناوری خود، مورد انتقاد پژوهشگران هوش مصنوعی از جمله کارکنان سابق خود قرار گرفته است.
انتهای پیام
منبع خبر: https://www.isna.ir/news/1403110201061/%D8%A7%D9%BE%D8%B1%D8%A7%D8%AA%D9%88%D8%B1-%D8%B4%D8%B1%DA%A9%D8%AA-%D8%A7%D9%88%D9%BE%D9%86-%D8%A7%DB%8C-%D8%A2%DB%8C-%D8%A8%D9%87-%D8%A7%D9%86%D8%AA%D8%B4%D8%A7%D8%B1-%D9%86%D8%B2%D8%AF%DB%8C%DA%A9-%D9%85%DB%8C-%D8%B4%D9%88%D8%AF
