DeepSeek V3.2 Rilis: Konteks Lebih Panjang, Biaya API 50% Lebih Hemat

Bisnis.com, JAKARTA– DeepSeek memperkenalkan type eksperimental baru bernama V3.2-exp yang dirancang untuk menekan biaya inferensi yang jauh lebih rendah saat digunakan dalam operasi konteks panjang.

Pengumuman tersebut disampaikan melalui unggahan di Hugging Face, lengkap dengan tautan menuju makalah akademis di GitHub.

Melansir laman TechCrunch Selasa (30/9/2025) fitur utama dalam type baru ini disebut DeepSeek Sparse Consideration.

Mekanismenya cukup unik sistem menggunakan modul bernama lightning indexer untuk memprioritaskan bagian-bagian tertentu dari jendela konteks.

Setelah itu, ada sistem lain bernama fine-grained token variety yang memilih token paling relevan dari potongan tersebut untuk dimasukkan ke jendela perhatian type yang terbatas.

Dengan cara ini, type tetap bisa menangani konteks panjang tanpa membebani server terlalu besar. Berdasarkan uji awal, biaya panggilan API untuk operasi dengan konteks panjang bisa ditekan hingga 50%.

Meski begitu, pengujian lanjutan masih diperlukan untuk memastikan klaim tersebut. Karena type ini bersifat open weight dan tersedia free of charge di Hugging Face, uji coba independen dari pihak ketiga diperkirakan segera menyusul.

Riset terbaru DeepSeek ini menambah deretan inovasi yang berfokus pada pengurangan biaya inference yaitu biaya menjalankan type AI yang sudah dilatih, berbeda dengan biaya melatihnya.

Upaya ini berangkat dari kebutuhan agar arsitektur transformer bisa bekerja lebih efisien. DeepSeek, perusahaan berbasis di Tiongkok, dikenal sebagai pemain unik di tengah persaingan riset AI world.

Pada awal 2025, mereka sempat mencuri perhatian lewat type R1 yang dilatih terutama dengan reinforcement studying dengan biaya lebih rendah dibanding pesaing dari Amerika Serikat. Namun, gaungnya meredup setelah R1 tidak memicu perubahan besar seperti yang sempat diprediksi.

Meski mungkin tidak menimbulkan kehebohan sebesar R1, pendekatan baru berbasis “sparse consideration” ini diyakini tetap dapat memberikan pelajaran penting bagi penyedia AI di AS dalam menjaga biaya operasi tetap rendah.

Bisnis Parfum Lokal