نسخه 3.8 مدل Qwen3.8-27B: شش ویژگی فنی کلیدی
Qwen3.8-27B مدل زبانی علّی با رمزگذار بینایی از شرکت Qwen است که هم تصویر و هم ویدیو را درک میکند و با 27 میلیارد پارامتر در دسته مدلهای متراکم (dense) قرار میگیرد.
Qwen3.8-27B مدل زبانی علّی با رمزگذار بینایی از شرکت Qwen است که هم تصویر و هم ویدیو را درک میکند و با 27 میلیارد پارامتر در دسته مدلهای متراکم (dense) قرار میگیرد.
مشخصات
- نوع مدل: Causal Language Model with Vision Encoder
- پارامترها: 27B
- بعد پنهان (Hidden dimension): 5120
- اندازه Token Embedding: 248320 (padded)
- تعداد لایهها: 64
- هدهای Gated DeltaNet linear attention: 48 برای V و 16 برای QK
- بعد هد Gated DeltaNet: 128
- هدهای Gated attention: 24 برای Q و 4 برای KV
- بعد هد Gated attention: 256
- بعد Rotary position embedding: 64
- بعد میانی Feed-forward: 17408
- طول کانتکست بومی: 262144 توکن
- طول کانتکست قابل گسترش: 1000000 توکن
- Qwen3.8-27B یک مدل زبانی علّی با رمزگذار بینایی است.
- این مدل از نوع متراکم (dense) است، نه معماری میکسچر-آف-اکسپرتز.
- درک تصویر و درک ویدیو هر دو در این مدل پشتیبانی میشوند.
- طول کانتکست بومی 262144 توکن است و قابلیت گسترش تا 1000000 توکن را دارد.
- حالت تفکر (thinking mode) و حفظ زنجیرهی تفکر (preserved thinking) هر دو بهصورت پیشفرض فعال هستند.
- عمق استدلال از طریق پارامتر reasoning_effort قابل تنظیم است.
- این مدل با چهار فریمورک Hugging Face Transformers، vLLM، SGLang و TokenSpeed کار میکند.
- این مدل مناسبِ افراد و تیمهای زیر است:
- کسانی که به دنبال مدلی با پشتیبانی همزمان از درک تصویر و ویدیو هستند
- کسانی که نیاز به پردازش متنهای بسیار طولانی تا 1000000 توکن دارند
- کسانی که میخواهند عمق استدلال مدل را از طریق reasoning_effort تنظیم کنند
- کسانی که با فریمورکهای Hugging Face Transformers، vLLM، SGLang یا TokenSpeed کار میکنند
Qwen3.8-27B از چهار مسیر اجرا قابل استفاده است: Hugging Face Transformers، vLLM، SGLang و TokenSpeed. با توجه به اینکه thinking mode و preserved thinking بهصورت پیشفرض فعال هستند، عمق استدلال مدل را میتوانید با تنظیم پارامتر reasoning_effort در فراخوانی خود کنترل کنید.
منابع
- Qwen3.8 Blog Announcement — Qwen