Seorang klien baru-baru ini menghubungi dengan permasalahan yang semakin sering muncul di kalangan pengguna layanan cloud besar. Mereka telah melakukan komitmen reserved instance dalam jumlah signifikan kepada penyedia cloud utama untuk mendukung proyek pelatihan AI yang direncanakan besar-besaran. Namun, kapasitas tersebut kini menganggur dan menimbulkan biaya bulanan yang tidak kecil. Rencana awal untuk menjual kembali komitmen tersebut kepada pihak lain ternyata tidak dapat direalisasikan dengan mudah.
Dahulu, pasar sekunder untuk reserved instances berfungsi melalui mekanisme resmi yang disediakan penyedia cloud. Perusahaan dapat mendaftar sebagai penjual, mencantumkan reservasi yang tidak terpakai beserta harga dan ketentuannya, kemudian transaksi difasilitasi jika pembeli ditemukan. Mekanisme ini memberikan fleksibilitas bagi organisasi yang mengalami perubahan kebutuhan bisnis atau proyeksi konsumsi yang meleset.
Perkembangan pesat kecerdasan buatan telah memperbesar skala permasalahan ini. Banyak organisasi melakukan komitmen komputasi berdasarkan rencana ambisius untuk pelatihan model dan beban inferensi yang diproyeksikan tumbuh pesat. Ketika beberapa proyek tidak berjalan sesuai rencana atau pola penggunaan ternyata lebih ringan, kapasitas cadangan menjadi tidak termanfaatkan.
Pada Januari 2024, AWS memberlakukan perubahan kebijakan yang menghentikan fasilitas penjualan kembali EC2 Reserved Instances melalui Reserved Instance Marketplace. Perusahaan kini terikat pada komitmen tersebut kecuali dapat memanfaatkannya sendiri atau melakukan modifikasi reservasi yang diizinkan. Langkah ini mengurangi opsi pengelolaan keuangan cloud yang sebelumnya tersedia.
Salah satu analisis penting yang muncul dari situasi ini adalah dorongan bagi praktik FinOps untuk lebih mengutamakan akurasi peramalan konsumsi sebelum melakukan komitmen jangka panjang. Perusahaan perlu membangun model proyeksi yang mempertimbangkan variabilitas beban kerja AI secara lebih konservatif, sehingga risiko overcommitment dapat ditekan sejak awal.
Opsi yang masih tersedia meliputi modifikasi reservasi yang bersifat convertible, penggunaan broker pihak ketiga untuk skenario tertentu, serta optimalisasi pemanfaatan melalui pemantauan dan otomatisasi beban kerja. Setiap opsi ini memiliki keterbatasan masing-masing, baik dari segi cakupan maupun tingkat kepastian hasil.
Analisis kedua menyoroti implikasi terhadap strategi multi-cloud. Organisasi yang sebelumnya mengandalkan satu penyedia utama kini perlu mengevaluasi kebijakan transfer kapasitas di platform lain seperti Azure dan Google Cloud secara berkala. Perubahan kebijakan sewaktu-waktu dapat mengubah ketersediaan opsi resale, sehingga perencanaan kontingensi menjadi bagian integral dari pengelolaan anggaran teknologi.
Dampaknya paling terasa pada perusahaan yang menggelontorkan dana besar untuk kapasitas AI tanpa mekanisme keluar yang memadai. Fokus pada peramalan akurat, penentuan ukuran komitmen yang tepat, serta optimalisasi berkelanjutan menjadi pendekatan yang lebih berkelanjutan dibandingkan mengandalkan resale sebagai jaring pengaman.
