Cloudflare merilis pratinjau model AI «Clairic» yang khusus mengekstrak data dari dokumen di Workers AI

Cloudflare merilis pratinjau model AI «Clairic», yang mengambil nilai untuk item tertentu dari dokumen, di Workers AI, platform eksekusi AI miliknya. Pengguna menentukan nama item seperti nomor pesanan atau jumlah tagihan, lalu model mengembalikan nilai dalam format yang ditentukan beserta tingkat keyakinannya. Bobot model untuk penggunaan terbuka juga dijadwalkan akan dirilis dalam waktu dekat. Cloudflare turut menunjukkan contoh pemrosesan yang menggabungkannya dengan LLM.

AI yang mengambil data, bukan AI yang menulis teks

Banyak orang mungkin membayangkan AI generatif sebagai sesuatu yang piawai menulis teks dengan lancar. Namun, Clairic justru memiliki karakter yang nyaris berlawanan. Tugasnya terbatas pada mengekstrak item tertentu, seperti «mengambil jumlah total dari faktur» atau «menemukan nomor pesanan dalam email».

Cara kerjanya juga memiliki keunikan. LLM pada umumnya menghasilkan teks dengan menyusun kata satu per satu (dalam satuan token), tetapi Clairic tidak menggunakan cara generasi seperti itu. Model ini mengembalikan jawaban untuk semua item yang ditentukan dalam satu kali pemrosesan. Jika dokumen tidak memuat nilai yang dimaksud, Clairic mengembalikan «null» (tidak ditemukan), sehingga tidak memaksakan jawaban—sifat yang membuatnya cocok untuk kebutuhan praktis.

Selain ekstraksi, Clairic juga disebut mampu melakukan perhitungan sederhana, estimasi, dan prediksi. Dengan kata lain, Clairic lebih mudah dipahami sebagai «petugas persiapan» yang merapikan informasi yang tersebar agar mudah digunakan, bukan sebagai pihak yang bertugas menulis teks.

Membagi tugas penanganan pertanyaan ke beberapa model

Contoh penggunaan yang ditunjukkan Cloudflare cukup menarik. Kasusnya adalah email keluhan pelanggan. Pertama, Clairic mengekstrak nomor pesanan, jumlah uang, dan kondisi kerusakan dari email, lalu memperkirakan biaya perbaikan.

Berikutnya, giliran «Clef», model untuk pengambilan keputusan. Dengan mengacu pada aturan internal perusahaan, model ini memilih apakah pelanggan akan mendapat pengembalian dana atau perbaikan. Terakhir, GLM-5.3, sebuah LLM, menulis balasan untuk pelanggan.

Yang menarik di sini adalah bahwa semua tugas tidak diserahkan kepada satu model raksasa. Jika diibaratkan dengan tempat kerja manusia, susunannya mirip tim yang terdiri dari petugas penerima yang merapikan informasi, petugas pengambil keputusan yang menentukan kebijakan, dan orang yang piawai menulis untuk menyusun balasan. Cloudflare menyebut kelompok model kecil yang menangani pemrosesan cepat seperti ini sebagai model «System One», dan membayangkan model-model tersebut digunakan secara berantai bersama LLM.

Menurut saya, gagasan inilah inti dari pengumuman kali ini. Saat ingin mengadopsi AI, kita cenderung berfokus pada «memilih satu model paling cerdas». Namun, jika pekerjaan diuraikan, tidak semua tugas membutuhkan kemampuan berpikir maksimal. Merancang sistem yang menggunakan alat berbeda sesuai perannya bisa menjadi praktik standar AI untuk pekerjaan di masa mendatang.

Angka kecepatan menunjukkan dampak pembagian tugas

Mari kita lihat angka yang menarik. Dalam perbandingan Cloudflare, pemrosesan tiga tahap yang dijelaskan tadi memerlukan waktu 19.3 detik. Jika ketiga tahap yang sama dikerjakan hanya dengan GLM-5.3, prosesnya memerlukan 61.7 detik dan biayanya dikatakan hampir dua kali lipat.

Namun, angka ini ditunjukkan untuk contoh pemrosesan tertentu. Perbedaan yang sama belum tentu muncul dalam semua pekerjaan; angka tersebut sebaiknya dipandang sebagai gambaran «seberapa besar hasilnya bisa berubah jika tugas dibagi». Meski begitu, fakta bahwa selisih waktunya mencapai lebih dari tiga kali lipat menjadi alasan untuk mempertimbangkan manfaat rancangan yang memisahkan tugas.

Batasannya juga dijelaskan dengan gamblang. Clairic belum mampu menangani rangkaian perhitungan yang panjang secara stabil. Untuk sementara, pengembang harus menjalankan pemrosesan semacam itu dengan kode buatan sendiri.

Meski demikian, dunia yang dipenuhi model spesialis yang dapat menjalankan tugas sesuai keahliannya dengan cepat dan murah tentu menarik bagi lingkungan kerja praktis. Manfaat pembagian tugas ini seharusnya makin besar untuk pekerjaan rutin yang datang dalam jumlah besar setiap hari, seperti pemrosesan faktur dan penanganan pertanyaan pelanggan. LLM dapat berfokus pada pekerjaan yang hanya bisa dilakukan oleh LLM. Clairic memberi gambaran tentang pintu masuk menuju masa depan seperti itu.