DeepSeek-dən istifadəçi başına cavab sürətini yüzdə 85-ə qədər artıran yeni çıxarış optimizasiyası: DSpark

Çin mərkəzli süni intellekt təşəbbüsü DeepSeek, DeepSeek-V4 modellərində cavab istehsal sürətini artırmağa yönəlmiş yeni çıxarış optimizasiyası DSpark-ı təqdim edib. Şirkətin məlumatlarına görə, DSpark, xüsusilə intensiv istifadə senarilərində böyük dil modellərinin daha sürətli cavab verməsini hədəfləyən öngörülü çözümleme çərçivəsi kimi fəaliyyət göstərir.

DSpark, yeni bir model arxitekturası təqdim etmədən, DeepSeek-V4-Pro üzərində əlavə olunan bir çıxarış modulu ilə işləyir. Bu, DeepSeek-in modelin əsas qabiliyyətlərini dəyişdirmək əvəzinə, eyni modeldən daha sürətli cavab alınmasını təmin edən mühəndislik yönümlü bir təkmilləşdirmə etdiyini göstərir.

Sistemin əsasında yüngül bir “draft model” mövcuddur. Bu model, istehsal ediləcək cavab üçün namizəd token-ləri əvvəlcədən proqnozlaşdırır və sonra əsas model bu namizədləri toplu şəkildə təsdiqləyir. Beləliklə, cavab istehsalı tam token token irəliləmək əvəzinə daha paralel bir struktura malik olur.

DeepSeek-in testlərinə görə, DSpark, əvvəlki nəsil MTP-1 ilə müqayisədə Flash modeldə istifadəçi tərəfində istehsal sürətini yüzdə 60-dan yüzdə 85-ə, Pro modeldə isə yüzdə 57-dən yüzdə 78-ə qədər artırıb. Eyni testlərdə DSpark-ın, Eagle3 və DFlash kimi mövcud spekülatif çözümleme yanaşmalarına nisbətən daha uzun qəbul edilən token diziləri istehsal etdiyi də qeyd olunur.

Bundan əlavə, DeepSeek DSpark ilə birlikdə DeepSpec adlı açıq mənbəli alətlər dəstini təqdim edib. GitHub-da MIT lisenziyası ilə yayımlanan DeepSpec, məlumat hazırlama, draft model təhsili və qiymətləndirmə proseslərini əhatə edən tam yığın bir kod bazasıdır.