Databricks baru-baru ini memperkenalkan Adaptive Instructed-Retriever, sebuah model retrieval yang dirancang untuk meningkatkan efisiensi pencarian AI di lingkungan perusahaan. Model ini mampu menyesuaikan langkah pencarian berdasarkan kompleksitas kueri, sehingga dapat menyeimbangkan kualitas jawaban, latensi, dan biaya komputasi.
Model baru ini dikembangkan dari pendekatan sebelumnya yang dikenal sebagai Instructed-Retriever-1. Berbeda dengan versi sebelumnya yang mengandalkan pencarian paralel satu langkah, Adaptive Instructed-Retriever menggabungkan pencarian paralel dengan pendekatan sekuensial multi-langkah ketika diperlukan pengumpulan bukti tambahan. Pendekatan ini memungkinkan model menghentikan proses lebih awal pada kueri sederhana tanpa mengorbankan hasil pada pertanyaan yang lebih rumit.
Pelatihan model dilakukan melalui lingkungan retrieval sintetis dan proses sintesis data agentik. Databricks memanfaatkan data pelatihan yang ada dari Instructed-Retriever-1 serta menambahkan pertanyaan multi-hop sintetis yang memerlukan beberapa langkah pencarian. Selanjutnya, model dilatih menggunakan pembelajaran penguatan online untuk mengevaluasi potensi peningkatan kualitas retrieval terhadap biaya langkah tambahan.
Hasil pelatihan menghasilkan beberapa checkpoint model dengan tingkat kompromi kualitas-latensi yang berbeda. Perusahaan dapat memilih checkpoint yang sesuai dengan kebutuhan aplikasi tertentu, sehingga strategi pencarian tidak diterapkan secara seragam untuk semua beban kerja.
Dalam konteks yang lebih luas, kemampuan ini menjadi relevan seiring meningkatnya adopsi agen AI di lingkungan produksi. Banyak organisasi menghadapi tantangan dalam mengelola konsumsi sumber daya yang tidak terduga ketika agen melakukan pencarian berulang. Model adaptif ini menawarkan mekanisme untuk membatasi langkah pencarian yang tidak perlu, sehingga membantu menjaga prediktabilitas biaya operasional.
Selain itu, pendekatan ini berpotensi mengurangi beban pengembang dalam merancang alur kontrol manual untuk pertanyaan multi-hop. Keputusan mengenai kapan harus menyempurnakan kueri atau menghentikan pencarian kini ditangani langsung oleh kebijakan yang telah dipelajari model, sehingga mengurangi kebutuhan akan orkestrasi khusus yang kompleks.
Meskipun demikian, penerapan model ini tetap memerlukan pengujian menyeluruh terhadap berbagai checkpoint untuk menentukan keseimbangan optimal antara biaya, latensi, dan kualitas. Tim pengembang juga perlu memastikan bahwa data dasar telah disiapkan dengan baik, termasuk struktur data yang konsisten dan definisi istilah yang jelas, karena kebijakan pencarian yang canggih tidak dapat mengatasi kekurangan pada data itu sendiri.
Evaluasi internal menunjukkan bahwa Adaptive Instructed-Retriever mampu menandingi atau melampaui kualitas retrieval dari beberapa model tujuan umum sambil menyelesaikan permintaan dalam waktu yang lebih singkat. Namun, organisasi disarankan untuk melakukan pengujian pada beban kerja aktual sebelum mengintegrasikan model ini ke dalam tumpukan AI mereka.
Secara keseluruhan, inovasi ini mencerminkan upaya industri untuk mengembangkan solusi retrieval yang lebih efisien dan dapat disesuaikan, seiring semakin kompleksnya kebutuhan pencarian dalam aplikasi AI skala besar.
