OPINI: Melampaui Pusat Data, Mengapa Komputasi AI di Indonesia Harus Terdistribusi?

Liputan6.com, Jakarta - Ledakan pertumbuhan kecerdasan buatan (AI) dalam beberapa tahun terakhir membuat banyak orang meyakini bahwa kita tengah menuju revolusi industri baru, di mana mesin-mesin cerdas yang mampu menjawab pertanyaan dan membuat konten multimedia akan hadir di mana-mana.

Di Indonesia, AI berkembang pesat, dengan semakin banyak organisasi di sektor logistik, sumber daya manusia, edukasi, keamanan siber, dan banyak lagi, menerapkan AI dalam operasional sehari-hari dan inovasi.

Sama seperti revolusi industri sebelumnya yang didorong oleh kekuatan uap, air, dan listrik, kebangkitan era AI akan ditandai dengan meluasnya daya komputasi yang menyimpan dan memproses data.

Menghadirkan AI di mana saja tergantung pada ketersediaan dan efisiensi daya komputasi. Maka sangat penting untuk memastikan jaringan infrastruktur komputasi tersedia.

Tak dapat diragukan, pusat data adalah jantung atau inti dari revolusi AI. Aplikasi AI Generatif (Gen AI) berbasis Large Language Models (LLMs) butuh pelatihan data dalam jumlah yang sangat besar.

Pemrosesan yang intensif semacam ini membutuhkan infrastruktur komputasi skala besar dan berperforma tinggi, yang terdiri dari ratusan ribu chip central processing units (CPUs), graphics processing units (GPUs), accelerator, dan jaringan.

Indonesia memiliki kapasitas pusat data yang AI-ready terbesar nomor dua di Asia Tenggara, dengan rencana untuk menambah kapasitas sebesar 270 persen lagi.

Namun, meskipun sangat penting, pusat data saja tidak bisa memenuhi persyaratan kehadiran di mana-mana atau ubiquity dan latensi rendah yang dibutuhkan oleh AI, seperti juga tidak realistis jika kita menggantungkan diri pada bendungan untuk menyimpan dan mendistribusikan pasokan air untuk satu negara.

Era AI membutuhkan daya komputasi yang dipasok oleh pusat data, PC, dan perangkat edge dengan tiga alasan utama di bawah ini:

1. Pertama adalah ekonomi: biaya menjalankan segala sesuatu yang terkait AI melalui pusat data atau cloud bisa sangat mahal. Baik itu dengan memiliki sendiri, menyewa pusat data, atau mengandalkan layanan cloud secara berlangganan; investasi, operasional dan kompleksitasnya bisa jadi di luar jangkauan banyak organisasi.
2. Kedua adalah jarak fisik: mengirim data bolak balik antara lokasi, di mana data dihasilkan dan pusat data akan memperlambat banyak hal, sehingga tidak ideal untuk penerapan yang bersifat time-sensitive, seperti kendaran otonom.
3. Terakhir, peraturan yang berlaku: tidak semua organisasi atau negara setuju dengan penyimpanan data mereka di luar organisasi atau negara karena masalah keamanan. Di Indonesia contohnya, setiap penyedia sistem elektronik harus mengelola, memproses, dan menyimpan sistem elektronik dan data mereka di Indonesia.

Oleh karena itu, komputasi AI harus disebarkan di berbagai lokasi dan perangkat, dengan menggunakan sumber daya komputasi yang berbeda untuk berbagai kasus penggunaan AI. Karena komputasi menjadi semakin kuat dan efisien, mengapa harus menyempurnakan language model yang lebih kecil di pusat data atau cloud jika Anda dapat melakukannya langsung di PC Anda?

PC saat ini sedang berada di titik balik dengan kehadiran AI PC. Dengan kombinasi CPU, GPU dan Neural Processing Unit (NPU) – produktivitas, kreativitas, gaming dan banyak lagi, kini bisa ditingkatkan dengan AI secara lokal dengan efisiensi yang luar biasa.

Jadi bayangkan bagaimana beberapa baris instruksi di PowerPoint bisa membantu membuat presentasi dengan visual yang menakjubkan hanya dalam beberapa detik.

Beberapa mungkin mengatakan bahwa mereka sudah melakukan hal tersebut melalui browser di laptop yang sudah berusia tiga tahun. Hal itu mungkin saja bisa, namun PC yang lebih tua butuh waktu lebih lama untuk memproses, mengonsumsi energi lebih besar, memakan biaya yang lebih tinggi untuk mengirimkan data bolak balik antara cloud dan PC, dan hal ini akan jadi rumit ketika Anda sedang menangani data sensitif yang tidak bisa meninggalkan lokasi atau negara Anda.

Masalah-masalah ini menjadi semakin besar dalam lingkungan enterprise. Semakin banyak karyawan menggunakan aplikasi AI dalam pekerjaan mereka sehari-hari; semakin banyak perusahaan yang harus melatih atau menyempurnakan model AI mereka dengan proprietary data; dan perhatikan bahwa banyak software enterprise seperti aplikasi manajemen database memiliki model lisensi yang membebankan biaya kepada perusahaan berdasarkan jumlah core dari CPU di cloud yang digunakan untuk menjalankan aplikasi tersebut.

Dengan AI PC, perangkat-perangkat ini dapat mengoptimalkan jalannya beban kerja AI, sehingga pemanfaatan sumber daya hardware menjadi lebih baik.

Bayangkan betapa jauh lebih cepat dan lebih hemat biaya jika perusahaan dapat menjalankan banyak aplikasi AI ini langsung di PC karyawan, tanpa harus terus-terusan membayar biaya untuk komputasi cloud. Potensi pengurangan biaya operasional, peningkatan efisiensi, dan produktivitas dapat menghasilkan manfaat bisnis yang signifikan dari waktu ke waktu.

Memiliki 'Edge' di Era AI

Selain pusat data dan AI PC, semakin banyak AI akan pindah ke “edge”. Edge tersebut meliputi pengaplikasian Internet of Things (IoT), kendaraan otonom, dan perangkat untuk kota cerdas, yang akan melengkapi pengalaman AI sehari-hari.

Komputasi untuk edge tersebut membutuhkan pemrosesan data ‘di sekeliling’ atau di edge suatu jaringan, lebih dekat dengan lokasi di mana data dihasilkan, alih-alih mengandalkan pusat data yang tersentralisasi.

Kebutuhan akan komputasi edge sangat penting di era AI. Pertama, ia memungkinkan pemrosesan sesuatu yang sangat penting secara real-time ketika keputusan dalam sekian detik bisa memberikan dampak terhadap keselamatan, seperti automasi di industri.

Untuk yang lain, memproses data secara lokal akan menurunkan volume data yang dikirimkan ke cloud, yang akan mengurangi ‘kemacetan’ dalam jaringan, memangkas biaya transfer data, dan meningkatkan keamanan dengan meminimalkan paparan data sensitif selama transmisi.

Terakhir, saat koneksi internet mengalami gangguan, komputasi edge akan memastikan aplikasi-aplikasi yang penting dapat terus berfungsi – sangat vital bagi industri layanan kesehatan.

Kasus-kasus penggunaan AI yang memanfaatkan model machine learning terlatih untuk membuat prediksi atau keputusan berdasarkan input data baru yang disebut inferencing.

Berbeda dengan pelatihan, yang seringkali membutuhkan infrastruktur komputasi yang lebih demanding untuk mendukungnya, inferencing bisa dengan lebih mudah dilakukan di edge melalui server komputasi umum, dengan hardware yang sudah dikenal, konsumsi daya yang lebih rendah, dan fleksibilitas yang menjadi keunggulannya untuk bertahan di lingkungan yang berbeda.

Faktanya, IDC memperkirakan bahwa pada tahun 2025, sebanyak 75% data yang dihasilkan oleh enterprise di dunia tidak akan dihasilkan dan diproses di pusat data tradisional atau cloud, melainkan di edge.

Penting untuk diketahui bahwa tidak hanya akan ada lebih banyak AI dan komputasi di edge, beban kerja yang utama juga akan mengalami proses inferencing.

Pikirkan berapa banyak orang yang “membangun” model cuaca versus berapa banyak orang yang “menggunakan” model cuaca. Ini adalah pelatihan versus inferencing, dan yang terakhir akan mengambil alih beban kerja AI dalam jumlah besar di masa yang akan datang. Mengetahui hal ini akan membantu perusahaan-perusahaan mempersiapkan infrastruktur komputasi yang tepat di masa depan.

Intinya adalah bukan tentang apakah komputasi edge lebih penting dibandingkan komputasi yang dilakukan di pusat data, atau apakah CPU lebih penting daripada GPU. Ini adalah tentang menggunakan tool yang tepat untuk pekerjaan yang tepat.

AI itu rumit, dan tergantung pada kasus penggunaannya, AI memiliki persyaratan komputasi yang sangat berbeda untuk dipenuhi, termasuk pengalaman pengguna, pertimbangan operasional, biaya, regulasi pemerintah, dan banyak lagi.

Untuk mengembangkan AI secara berkelanjutan, kita harus memikirkan tentang jenis infrastruktur yang paling sesuai untuk memenuhi permintaan komputasi Indonesia yang tidak pernah ‘terpuaskan’.

Kembali lagi ke analogi utilitas – seperti halnya pasokan air untuk satu negara yang butuh lebih dari sekadar bendungan, tetapi juga reservoir atau penampungan air, fasilitas pengolahan, dan banyak lagi, demikian juga dengan pasokan daya komputasi yang membutuhkan jaringan infrastruktur yang berbeda-beda.

Dengan pelajaran yang bisa dipetik dari pasokan utilitas tadi, termasuk efisiensi, keamanan, dan keberlanjutan – penting untuk diingat bahwa tidak ada ‘one-size-fit-all’, tidak ada satu ‘ukuran’ yang cocok untuk semua hal, begitu pula untuk daya komputasi di era AI.