Google Cloud mengumumkan bahwa Google Kubernetes Engine (GKE) kini mendukung hingga 65.000 node, memungkinkannya untuk menangani model AI triliun parameter yang masif. Seiring berkembangnya AI generatif, kebutuhan akan daya komputasi yang sangat besar untuk melatih model ini semakin meningkat. GKE kini menawarkan skala 10X lebih besar daripada dua penyedia cloud publik terbesar lainnya, yang memungkinkan pelanggan mengurangi waktu pelatihan model atau menskalakan model ke multi-triliun parameter. Perluasan ini juga memungkinkan menjalankan lima pekerjaan dalam satu klaster, masing-masing cocok dengan skala rekor dunia Google Cloud sebelumnya untuk pekerjaan pelatihan terbesar untuk LLM. Pelanggan seperti Anthropic, sebuah perusahaan riset dan keamanan AI, menyambut baik perkembangan ini. Secara teknis, GKE sedang bertransisi dari etcd open-source, penyimpanan nilai kunci terdistribusi, ke penyimpanan nilai kunci baru yang lebih tangguh berdasarkan Spanner, database terdistribusi Google. Perubahan ini akan mengantarkan tingkat keandalan baru bagi pengguna GKE, meningkatkan latensi operasi klaster. Selain itu, berkat perombakan besar-besaran infrastruktur GKE yang mengelola bidang kontrol Kubernetes, GKE kini menskalakan secara signifikan lebih cepat. Google Cloud juga mempertahankan komitmennya terhadap open source, memastikan semua pengoptimalan dan peningkatan yang diperlukan untuk skala tersebut merupakan bagian dari Kubernetes open source inti.
GKE Berskala hingga 65.000 Node untuk Model AI Triliun Parameter
Google Cloud