مدل GPT-4o Long Output با ظرفیت ۶۴ هزار توکن خروجی معرفی شد

OpenAI به‌تازگی یک صفحه در وب‌سایت خود منتشر کرده که در آن نام یک مدل زبانی بزرگ جدید را می‌بینیم: GPT-4o Long Output. این مدل جدید نسبت به مدل GPT-4o که در اردیبهشت‌ماه رونمایی شد، تفاوت عمده‌ای دارد و آن نیز در تعداد توکن‌های خروجی آن است. این مدل در هر درخواست تا ۶۴ هزار توکن خروجی به شما ارائه می‌دهد. برای مقایسه، خروجی GPT-4o حداکثر ۴ هزار توکن است.

براساس اعلام OpenAI، نسخه آزمایشی GPT-4o Long Output حداکثر ۶۴ هزار توکن خروجی در هر درخواست ارائه می‌دهد. این افزایش ۱۶ برابری نسبت به مدل اصلی GPT-4o، به کاربران و به طور خاص‌تر به توسعه‌دهندگان شخص ثالث که از API این چت‌بات بهره می‌برند این فرصت را می‌دهد تا پاسخ‌های طولانی‌تر، معادل یک رمان ۲۰۰ صفحه‌ای داشته باشند.

توکن‌ها در مدل‌‌های زبانی بزرگ به نمایش عددی مفاهیم، ​​ساختارهای دستوری و همچنین معنای آن‌ها اشاره دارند. برای مثال کلمه «Hello» یک توکن است، «Hi» نیز هرچند همان معنا را دارد، اما توکن دیگری محسوب می‌شود.

مدل آزمایشی GPT-4o Long Output

مدل اصلی GPT-4o حداکثر ۱۲۸ هزار توکن در پنجره زمینه (Context Window) ارائه می‌کند؛ پنجره زمینه مقدار حاوی توکن‌هایی است که مدل می‌تواند در هر تعامل، ازجمله در توکن‌های ورودی و خروجی، مدیریت کند. اکنون GPT-4o Long Output نیز همان ۱۲۸ هزار توکن پنجره زمینه را ارائه می‌دهد. بنابراین چگونه OpenAI می‌تواند تعداد توکن‌های خروجی را ۱۶ برابر افزایش دهد و از ۴۰۰۰ به ۶۴۰۰۰ توکن برساند، درحالی‌که پنجره زمینه کلی را روی ۱۲۸۰۰۰ نگه دارد؟

پاسخ ساده است، GPT-4o اصلی اگرچه پنجره ۱۲۸ هزار توکنی داشت، اما پیام خروجی آن به ۴۰۰۰ توکن محدود بود. یعنی در ازای ۱۲۴ هزار پیام ورودی، شما حداکثر ۴۰۰۰ توکن دریافت می‌کردید. یا برای مثال، GPT-4o mini حداکثر ۱۶ هزار توکن خروجی داشت. اکنون OpenAI با حفظ همان پنجره زمینه، سقف خروجی را تا ۶۴ هزار توکن بالا برده است.

یکی از سخنگویان OpenAI به VentureBeat گفته است: «ما بازخوردهایی را از مشتریان خود شنیدیم که می‌خواهند زمینه خروجی طولانی‌تری داشته باشند. ما همیشه درحال آزمایش راه‌های جدیدی هستیم تا می‌توانیم به بهترین شکل به نیازهای مشتریان خود پاسخ دهیم.»

انتظار می‌رود مرحله آزمایش آلفا GPT-4o Long Output چند هفته به طول بینجامد و به OpenAI اجازه می‌دهد تا داده‌هایی را درباره اینکه چه میزان خروجی بیشتر نیازهای کاربر را برآورده می‌کند، جمع‌آوری کند. با ارائه خروجی‌های طولانی‌تر، مدل GPT-4o می‌تواند پاسخ‌های جامع‌تر و دقیق‌تری ارائه دهد.