JetBrains mengumumkan bahwa KotlinLLM, prototipe penelitian untuk mendelegasikan logika runtime ke model bahasa besar, kini tersedia sebagai proyek sumber terbuka. Langkah ini memungkinkan pengembang bereksperimen dengan makro cerdas berbasis LLM dalam bahasa Kotlin secara lebih terbuka.
KotlinLLM hadir sebagai plugin IntelliJ IDEA yang dirancang untuk menghasilkan kode, memperbarui runtime, serta mendukung hot-reloading. Berbeda dari penggunaan LLM yang umum terjadi pada tahap pengembangan seperti pelengkapan kode, pendekatan ini memindahkan pemanfaatan model ke fase eksekusi aplikasi yang telah dikompilasi.
JetBrains menjelaskan bahwa metode delegasi runtime langsung sering kali lambat, tidak deterministik, serta mahal karena ketergantungan pada layanan eksternal. Sementara itu, alur kerja agen eksternal cenderung menyimpan logika di luar basis kode sehingga sulit ditinjau atau diuji. Sebagian besar penelitian sebelumnya juga lebih banyak menyasar bahasa yang diinterpretasikan seperti Python, bukan bahasa yang dikompilasi dan bertipe statis seperti Kotlin.
Untuk mengatasi keterbatasan tersebut, KotlinLLM menerapkan tiga pendekatan utama. Pertama, lokasi pemanggilan dalam kode menunjukkan bahwa fitur tersebut didukung LLM sehingga terlihat jelas saat peninjauan kode. Kedua, perilaku yang dihasilkan disimpan sebagai kode sumber Kotlin biasa yang dapat dikomit, ditinjau, diuji, dan didistribusikan layaknya kode lain. Ketiga, setelah dihasilkan, kode berjalan sebagai Kotlin murni tanpa memerlukan plugin atau panggilan LLM tambahan sehingga tidak menimbulkan latensi atau biaya lanjutan.
Sebagai pencipta bahasa Kotlin, JetBrains memiliki pemahaman mendalam terhadap kebutuhan komunitas yang mengutamakan keamanan tipe dan performa kompilasi. Integrasi LLM pada runtime melalui pendekatan ini berpotensi memperluas penerapan model bahasa besar pada aplikasi berskala besar yang memerlukan auditabilitas tinggi.
Selain itu, penyimpanan kode yang dihasilkan sebagai artefak sumber terbuka memungkinkan tim pengembang mempertahankan kontrol penuh atas perilaku aplikasi tanpa harus bergantung pada konektivitas eksternal. Hal ini relevan bagi organisasi yang memiliki persyaratan ketat terkait reproduksibilitas dan kepatuhan.
KotlinLLM dirilis di bawah lisensi Apache 2.0. Repositori proyek mencakup plugin IntelliJ IDEA, API Smart macro, serta contoh proyek yang dapat digunakan sebagai titik awal eksperimen. Dengan ketersediaan sumber terbuka ini, komunitas diharapkan dapat mengembangkan lebih lanjut integrasi LLM pada bahasa yang dikompilasi secara statis.
