Cloud computing sejak awal memang berfokus pada ketahanan sistem. Ketika membangun aplikasi berskala besar, perencanaan sumber daya, kapasitas, dan kemampuan beradaptasi terhadap lonjakan permintaan menjadi hal krusial. Pola pikir survivalist dalam arsitektur cloud menekankan pembuatan sistem yang mampu menghadapi kondisi tak terduga, termasuk lonjakan trafik mendadak atau kebutuhan inferensi AI di berbagai wilayah pengguna.
Selama satu dekade terakhir, komputasi serverless telah menjadi pilihan utama untuk mencapai ketahanan tersebut. Pendekatan ini menyembunyikan detail infrastruktur sehingga tim dapat berkonsentrasi pada logika aplikasi. Kini, AI hadir dalam ekosistem serverless dan mengubah cara penerapan kecerdasan buatan secara massal.
Konsep serverless AI cukup sederhana. Alih-alih menyediakan instans GPU, mengelola deployment model, dan menentukan ukuran infrastruktur inferensi, pengembang cukup memanggil API, mengirim data, lalu menerima respons. Penyedia layanan menangani seluruh proses di belakang layar, termasuk penskalaan otomatis dan penagihan berbasis token atau permintaan. Layanan seperti Amazon Bedrock, Azure OpenAI Service, dan Google Cloud Vertex AI telah menjadikan pendekatan ini standar.
Keunggulan utama terletak pada skalabilitas. Organisasi tidak perlu lagi menghabiskan waktu untuk memperkirakan kebutuhan infrastruktur AI yang kerap sulit diprediksi. GPU mahal, dan menentukan jumlah yang tepat agar mampu menangani beban puncak tanpa pemborosan memerlukan keahlian khusus. Serverless AI mengalihkan tanggung jawab tersebut sepenuhnya kepada penyedia layanan.
Pendekatan ini sangat cocok untuk sektor ritel yang mengalami fluktuasi musiman. Selama periode liburan, mesin rekomendasi berbasis AI dapat menghadapi sepuluh kali lipat beban normal, sementara di bulan-bulan sepi permintaan turun tajam. Serverless memastikan tidak ada kapasitas menganggur yang tetap dibayar.
Namun, model bayar per penggunaan juga menyimpan risiko biaya tersembunyi. Ketika beban kerja bersifat statis dan berjalan terus-menerus sepanjang hari, biaya serverless cenderung lebih tinggi dibandingkan penyediaan infrastruktur khusus dengan tarif tetap. Fleksibilitas yang ditawarkan menjadi premi yang tidak selalu diperlukan.
Selain itu, serverless AI mengurangi kebutuhan akan insinyur infrastruktur khusus, sehingga tim dapat lebih fokus pada penyesuaian model dan pengembangan fitur aplikasi. Di sisi lain, ketergantungan pada API penyedia tertentu berpotensi menimbulkan risiko vendor lock-in yang membatasi perpindahan antar platform cloud di masa depan.
Keputusan penggunaan serverless AI harus didasarkan pada analisis pola trafik, batasan anggaran, dan kebutuhan operasional organisasi. Beban kerja dengan fluktuasi tinggi dan tidak terprediksi menjadi kandidat ideal, sedangkan inferensi dengan volume stabil lebih baik menggunakan infrastruktur yang diprovisi secara khusus. Pendekatan survivalist dalam arsitektur cloud tetap relevan: alat terbaik adalah yang sesuai dengan kebutuhan nyata, bukan yang terdengar paling mutakhir.
