Kolaborasi Google Compute Engine dan Anyscale dalam Memperkuat Komputasi AI

Google Compute Engine menjadi landasan penting dalam evolusi pesat AI selama dekade terakhir, yang bertransformasi dari konsep futuristik menjadi alat yang mudah diakses.

Di tengah perkembangannya, Ray muncul sebagai AI Compute Engine sumber terbuka yang memfasilitasi peningkatan skala beban kerja AI kompleks, seperti pemrosesan data multimodal, pelatihan model, dan inferensi.

Dikembangkan di UC Berkeley pada tahun 2016 dan digunakan oleh perusahaan terkemuka, Ray mengatasi evolusi bertahap infrastruktur AI yang terfragmentasi dan mahal. Untuk menyederhanakan kompleksitas ini, para pendiri Ray mendirikan Anyscale. 

Anyscale adalah platform AI terpadu yang dibangun di atas Ray, menawarkan solusi yang aman, skalabel, hemat biaya, dan dioptimalkan, sehingga memungkinkan tim mempercepat pelatihan dan penerapan modal AI di berbagai skala dan infrastruktur, termasuk cloud.

Keberhasilan Anyscale dalam meningkatkan efisiensi dan mengurangi biaya bagi perusahaan seperti Canva dan RunwayML menunjukkan pentingnya infrastruktur yang gesit dan berkinerja tinggi yang menjadi fokus Anyscale dalam memilih penyedia layanan cloud yang tepat.

Opsi komputasi fleksibel untuk efisiensi

Kebanyakan perusahaan atau organisasi saat ini menjalankan proyek AI yang kompleks, melibatkan berbagai LLM dan non-LLM dalam berbagai kerangka kerja untuk aplikasi AI.

Beban kerja AI mencakup pemrosesan data, pelatihan, penyetelan, inferensi, dan penyajian model dengan ukuran dan kebutuhan pengguna yang beragam.

Untuk efisiensi GPU dan biaya cloud, Google Compute Engine menawarkan ratusan jenis instance dengan fleksibilitas pemilihan berbagai jumlah GPU dan TPU.

Anyscale memanfaatkan fleksibilitas ini, sehingga memungkinkan pelanggan mengoptimalkan setiap model dan beban kerja pada perangkat keras paling efisien dalam satu kluster yang dapat terdiri dari ratusan mesin dengan berbagai akselerator.

Anyscale juga mendukung penggunaan berbagai jenis kapasitas dan secara dinamis menyesuaikan kluster untuk mengoptimalkan pemanfaatan sumber daya dan biaya.

Baca juga: Cara AI Agent Mengubah Customer Experience dengan Customer Engagement Suite

Kinerja terkemuka

Infrastruktur dengan performa tinggi sangat krusial untuk keberhasilan produksi. Dengan Google Compute Engine, kluster ratusan node dapat diluncurkan dalam waktu kurang dari 60 detik.

Kecepatan peluncuran ini, ditambah dengan kemampuan skala otomatis Ray, berdampak besar pada penerapan aplikasi AI.

Bayangkan aplikasi serving online dengan lonjakan traffic tiba-tiba. Anyscale di atas Google Compute Engine memungkinkan penskalaan cepat tanpa perlu overprovisioning atau melanggar SLA karena menunggu mesin diluncurkan.

Berfungsi dari mana saja

Pertimbangan terbesar yang Google miliki saat ingin menerapkan Anyscale bagi pelanggan adalah di mana mereka akan menjalankan beban kerja mereka. Pada akhirnya, Google adalah platform komputasi terdistribusi, dan Google memungkinkan pelanggan untuk menskalakan beban kerja AI di mana saja.

Namun, beban kerja tersebut akan selalu sangat bergantung pada data itu sendiri. Salah satu proposisi nilai utama Google adalah dapat membuka komputasi di mana saja, baik itu lingkungan yang dihosting, cloud publik, atau cloud pribadi.

Banyak pelanggan menggunakan Cloud Storage dan BigQuery untuk menyimpan data pelatihan model, sehingga memprioritaskan integrasi dengan Google Cloud sebagai penyedia utama.

Sebagai penyedia global dengan API umum, Google Cloud memungkinkan untuk menerapkan solusi di semua wilayah komersial, mendukung persyaratan keamanan dan privasi pelanggan, serta mempercepat ekspansi ke pasar baru.

Baca juga: Memahami Google Cloud Backup Service dan Fitur Disaster Recovery Terbaru

Era multimodal data telah tiba. Multimodal data seperti teks, audio, gambar dan video mencakup hingga 80% data perusahaan yang secara inheren jauh lebih besar daripada data terstruktur. 

Google terus berupaya untuk mengaktifkan teknologi AI yang lebih canggih. Di PointStar, kami tetap fokus untuk membantu Anda melewati tantangan AI dengan infrastruktur yang berkinerja, andal, dan hemat biaya. Hubungi PointStar untuk membantu Anda bertransformasi!