Google Cloud, perusahaan asal AS, mengumumkan pada 21 Oktober (waktu setempat) bahwa mereka menambahkan tiga model, termasuk “GPT-6 Astra” dari OpenAI, perusahaan asal AS, ke katalog modelnya, “Model Garden”. Model-model tersebut tersedia dalam pratinjau privat bagi sebagian pelanggan perusahaan. Google Cloud menyatakan bahwa pelanggan dapat menggunakannya di infrastrukturnya serta menyatukan pengadaan, penagihan, dan pengelolaan.
Cara membeli model AI mungkin akan berubah
Saat AI generatif digunakan untuk pekerjaan, pembicaraan biasanya lebih dulu berpusat pada “model mana yang paling cerdas”. Namun, dalam penerapan di lapangan, hal-hal yang tampak sepele seperti kontrak, penagihan, dan penanganan data justru sering menyita waktu, bukan?
Kabar kali ini menyoroti hal-hal yang tampak sepele tersebut. Seiring penambahan ini, Google Cloud mengklaim sebagai satu-satunya hyperscaler yang menyediakan model tertutup dari tiga perusahaan besar. Hyperscaler adalah penyedia layanan cloud besar yang mengoperasikan pusat data raksasa di seluruh dunia. Namun, kata “satu-satunya” merupakan klaim Google Cloud sendiri dan sebaiknya dipahami sebagai pernyataan dari pihak perusahaan.
Tiga model yang ditambahkan dan perbedaannya dengan koneksi API
Tiga model yang ditambahkan ke Model Garden adalah “GPT-6 Astra”, yang disebut sebagai model teratas OpenAI; “GPT-6.1 Sol”, bagi pengguna yang mengutamakan efisiensi biaya; serta “GPT-6 Luna”, model ringan. Pilihannya disusun agar pengguna dapat memilih sesuai kebutuhan: mengutamakan kinerja, menekan biaya, atau memilih model yang lebih ringan.
Sebenarnya, mengakses model OpenAI melalui API dari Google Cloud sudah dimungkinkan sejak sebelumnya. Perubahan kali ini adalah, dengan dicantumkannya model OpenAI di Model Garden, model tersebut dapat dijalankan di infrastruktur Google Cloud, sementara pengadaan, penagihan, dan pengelolaannya dapat disatukan melalui Google Cloud.
Ibaratnya, ini seperti beralih dari berbelanja di toko yang berbeda-beda menjadi membayar semuanya di kasir satu pusat perbelanjaan. Bagi staf pengadaan dan keuangan di perusahaan, perbedaan dalam kerepotan ini mungkin sama pentingnya dengan perbedaan kinerja antar-model.
Penanganan data yang ingin diperiksa perusahaan sejak awal
Masalah data tak terhindarkan ketika perusahaan menerapkan AI. Google Cloud menjelaskan bahwa prompt dan konteks yang dimasukkan pelanggan, serta keluaran model, akan disimpan dalam batas yang telah ditentukan dan tidak digunakan untuk melatih model.
Selain itu, opsi zero data retention (ZDR) juga disebut akan tersedia dalam waktu dekat. ZDR adalah pendekatan operasional yang tidak menyimpan data interaksi di pihak penyedia layanan. Hal ini cenderung menjadi perhatian bagi industri yang menangani informasi sensitif.
Kemudahan memilih di antara beberapa model memang menarik, tetapi keputusan akhir untuk menerapkannya tampaknya akan bergantung pada apakah perusahaan dapat memastikan bahwa ketentuan pengelolaan data tersebut sesuai dengan persyaratannya sendiri.
Yang menjadi perhatian bukan jumlah model, melainkan kemudahan pengoperasian
Semakin banyak pilihan, semakin muncul pertanyaan baru bagi perusahaan tentang cara menata kontrak dan pengelolaan setiap model. Fokus pengumuman kali ini, menurut saya, bukan sekadar penambahan satu model, melainkan tersedianya jalur untuk mengintegrasikan model OpenAI ke lingkungan Google Cloud yang sudah ada.
Layanan ini pertama-tama tersedia dalam pratinjau privat bagi sebagian pelanggan perusahaan. Google Cloud menyatakan akan menyediakan lebih banyak model secara bertahap ke depannya. Kriteria dalam memilih cloud pun akan meluas, termasuk mempertimbangkan model apa saja yang dapat digunakan di lingkungan perusahaan sendiri. Pengumuman kali ini menunjukkan salah satu bagian dari tren tersebut.
コメント