OpenAI با هدف رقابت جدیتر با رقبایی چون گوگل، گزینه جدیدی به نام پردازش فلکس را برای API مدلهای هوش مصنوعی خود معرفی کرده است. این قابلیت که در حال حاضر به صورت نسخه بتا در دسترس است، امکان استفاده از مدلها با هزینه کمتر را فراهم میآورد، هرچند سرعت پاسخدهی در آن پایینتر است و گاهی منابع بهطور موقت در دسترس نبودهاند.
پردازش فلکس در حال حاضر برای مدلهای استدلالی جدید OpenAI یعنی و فعال شده است. استفاده از این گزینه بیشتر برای کارهای کماولویت یا غیرتولیدی مانند ارزیابی مدلها، غنیسازی دادهها و پردازشهای ناهمزمان توصیه شده است.
کاهش هزینه استفاده از مدلهای OpenAI
OpenAI پردازش فلکس را برای کاهش نیمی هزینه API مدلهای و رونمایی کرد 2هزینه استفاده از API با این گزینه دقیقا به نصف کاهش مییابد. برای مدل، قیمت پردازش فلکس ۵ دلار به ازای هر میلیون توکن ورودی و ۲۰ دلار برای هر میلیون توکن خروجی تعیین شده است، در حالی که قیمت عادی به ترتیب ۱۰ دلار و ۴۰ دلار بوده است. برای مدل نیز قیمت از ۱.۱۰ دلار برای هر میلیون توکن ورودی و ۴.۴۰ دلار برای توکنهای خروجی، به ترتیب به ۰.۵۵ دلار و ۲.۲۰ دلار کاهش یافته است.
این گزینه جدید در حالی از سوی OpenAI معرفی شده که هزینه استفاده از مدلهای پیشرفته هوش مصنوعی روزبهروز بیشتر میشود و رقبایی مانند گوگل نیز مدلهای کمهزینهتر و بهینهتری را به بازار عرضه میکنند. به عنوان مثال، گوگل اخیرا مدل 2.5 را معرفی کرده که با هزینهای کمتر، عملکردی برابر یا بهتر از مدل شرکت دارد.
OpenAI با ارسال یک ایمیل به مشتریان خود برای معرفی گزینه پردازش فلکس، توضیح داده که کاربران سطوح ۱ تا ۳ مصرف (بر اساس میزان هزینه مصرفی) برای دسترسی به مدل، باید فرآیند احراز هویت جدید این شرکت را تکمیل کنند. پشتیبانی از خلاصهسازی استدلالی و API استریم نیز مشروط به انجام این احراز هویت است. پیشتر این شرکت اعلام کرده بود که هدف از این احراز هویت، جلوگیری از سوءاستفاده و نقض سیاستهای استفاده از خدمات آن است.