Liquid AI Rilis LFM2.5-Encoder: Gak Cuma Kencang, Tapi Juga Canggih!

Hey, kamu tahu nggak? Liquid AI baru aja ngeluarin dua encoder baru yang kece, yaitu LFM2.5-Encoder-230M dan LFM2.5-Encoder-350M. Keduanya punya kemampuan luar biasa dengan konteks yang bisa mencapai 8,192 token. Ini artinya, mereka bisa menangani input yang panjang tanpa masalah. Gak heran kalau banyak yang penasaran sama performa mereka!

Jadi, apa sih yang bikin LFM2.5-Encoder ini spesial? Pertama-tama, kedua encoder ini dibangun di atas arsitektur LFM2 yang udah terbukti handal. Mereka nggak dilatih dari nol, tapi diambil dari backbone decoder LFM2.5 yang udah ada, dan dimodifikasi dengan beberapa perubahan penting. Salah satunya adalah penggunaan bidirectional attention mask, yang bikin setiap token bisa memperhatikan konteks di kiri dan kanan. Keren, kan?

Selain itu, LFM2.5-Encoder ini juga menggunakan pendekatan non-causal untuk short convolutions. Ini berarti setiap token bisa menggabungkan informasi dari tetangga di kedua sisi. Dan yang lebih menarik, mereka dilatih dengan masked language modeling dengan tingkat masking 30%, lebih padat dibanding BERT yang cuma 15%. Ini bikin mereka lebih efektif dalam memahami konteks yang lebih panjang.

Kalau kita lihat dari performanya, LFM2.5-Encoder-350M berhasil meraih peringkat keempat dari 14 model yang diuji dengan rata-rata skor 81.02. Sementara itu, LFM2.5-Encoder-230M ada di peringkat keenam dengan skor 79.29. Ini artinya, kedua encoder ini bisa bersaing dengan model-model besar lainnya. Dan yang bikin lebih menarik, keduanya bisa berjalan di CPU dengan kecepatan yang luar biasa.

Liquid AI juga mengklaim bahwa LFM2.5-Encoder-230M bisa menyelesaikan satu forward pass dalam waktu sekitar 28 detik untuk 8,192 token. Bandingkan dengan ModernBERT-base yang butuh lebih dari 90 detik! Ini jelas jadi pilihan yang lebih efisien untuk aplikasi yang membutuhkan kecepatan.

Encoder ini cocok banget buat berbagai penggunaan, mulai dari pengolahan teks, klasifikasi, hingga deteksi informasi pribadi. Liquid AI bahkan udah nyiapin beberapa demo yang bisa kamu coba langsung. Misalnya, ada demo untuk routing prompt tanpa pelatihan sebelumnya, dan juga deteksi PII yang bisa mengenali 40 jenis informasi di 16 bahasa. Seru banget, kan?

Jadi, buat kamu yang lagi nyari solusi AI yang cepat dan efisien, LFM2.5-Encoder dari Liquid AI ini bisa jadi pilihan yang tepat. Jangan ketinggalan untuk coba dan eksplor lebih jauh, soalnya teknologi ini bisa bikin pekerjaan kamu jadi lebih mudah dan cepat!