MemTensor membuka MemT-1.0, model yang menyimpan memori di dalam komputasinya
Tim MemTensor merilis MemT-1.0, keluarga model dengan memori persisten yang menjadi bagian dari perhitungan model, bukan konteks yang terus memanjang. Ada dua ukuran: Flash 288 miliar parameter dengan 17 miliar aktif, dan Nano 36 miliar parameter dengan 3 miliar aktif.
Terverifikasi
MemTensor, tim riset yang berbasis di Tiongkok, merilis MemT-1.0 sebagai keluarga model fondasi bermemori. Gagasannya: memori yang bertahan dan terus berkembang dijadikan bagian intrinsik dari komputasi model, bukan sesuatu yang dititipkan pada jendela konteks yang terus memanjang. Repositori resminya dibuka di GitHub pada 19 Oktober 2026 dan diumumkan ke publik pada 20 Oktober. Bobot model tersedia lewat Hugging Face.
Ada dua model. MemT-1.0-Nano berukuran 36 miliar parameter dengan 3 miliar parameter aktif, dibangun di atas Qwen3.6-35B-A3B, dengan 451 juta parameter memori yang dapat dilatih dan status memori dinamis 10 juta. MemT-1.0-Flash berukuran 288 miliar parameter dengan 17 miliar parameter aktif, dibangun di atas DeepSeek-V4-Flash, dengan 3,61 miliar parameter memori terlatih dan status memori dinamis 336 juta. Keduanya memakai arsitektur MoE sehingga biaya inferensi mengikuti parameter yang aktif, bukan total parameter.
Secara arsitektur, ada blok memori native yang berjalan berdampingan dengan atensi backbone. Di dalamnya ada blok memori lokal yang memelihara matriks memori multi-kanal dan berubah antar langkah interaksi, serta blok hyper memory yang berisi proyeksi query, key, dan value yang dapat dilatih, ditambah gerbang hapus, tulis, lupa, dan keluaran. Saat model menghasilkan teks, atensi memori membaca status memori terkini, menormalkan dan menyaring hasilnya, lalu menambahkannya ke keluaran atensi backbone. Pada akhir setiap giliran, mekanisme pembaruan memperbarui memori pada tingkat token untuk langkah berikutnya.
Konsekuensi praktisnya soal ukuran. Status memori yang persisten berukuran tetap, sehingga penyimpanan turun sekitar 66 kali dibanding cache KV konteks penuh pada riwayat sepanjang 128 ribu token. Artinya percakapan panjang tidak lagi membengkakkan biaya penyimpanan secara linear terhadap panjang riwayat. Model juga dilatih dengan 34 miliar token data melalui pipeline dua tahap, dan evaluasinya mencakup 11 tolok ukur memori.
Hasil evaluasinya perlu dibaca dengan hati-hati. Pada 11 tolok ukur memori, MemT-1.0-Flash dan MemT-1.0-Nano menempati posisi pertama dan kedua di antara metode memori parametrik yang dievaluasi, dengan rata-rata skor 50,6 dan 47,0 menurut laporan Science and Technology Daily. Namun README proyek menyatakan sistem memori tekstual yang kuat masih unggul secara keseluruhan, terutama pada riwayat panjang yang menuntut pengambilan bukti rinci. Soal lisensi juga tidak seragam: bobot MemT-1.0-Flash disebut berlisensi MIT, sedangkan perangkat lunak di repositori memakai lisensi PolyForm Noncommercial. Untuk pemakaian komersial, status lisensi tiap komponen wajib diperiksa lebih dulu.
Fakta, angka, nama, dan kutipan dalam naskah ini telah dicocokkan dengan sumber-sumber di atas. Naskah ditulis ulang oleh redaksi, bukan salinan. Laporkan kesalahan
