NeutraDC Ungkap Hal Krusial yang Bedakan Data Center Biasa dan AI Ready

CTO NeutraDC, Thomas Anthony saat menghadiri AI for Indonesia by kumparan di Djakarta Theater, Jakarta, Rabu (4/12/2024). Foto: Iqbal Firdaus/kumparan

Telkomsel Data Ekosistem (NeutraDC) terus menyediakan layanan data center (pusat data) berkualitas tinggi di Indonesia. Namun, mereka mengungkapkan bahwa untuk membangun data center AI ready di Indonesia membutuhkan infrastruktur dan sumber daya yang mendukung.

Dr. Thomas Anthony, CTO NeutraDC, mengatakan ada beberapa hal krusial yang membedakan data center biasa dengan data center AI ready. Perbedaan utamanya terletak pada kemampuan dan infrastruktur yang diperlukan untuk mendukung kebutuhan komputasi AI yang sangat intensif.

"Untuk membangun data center yang siap AI, kami harus mempertimbangkan banyak hal, termasuk pemeliharaan data, memastikan fasilitas kami memiliki beban struktural yang memadai, dan koneksi lintas data yang mengalir dapat dikelola dengan baik,” papar Dr. Thomas dalam acara AI for Indonesia di sesi panel diskusi bertema ‘Data Localization for AI Democratization’, di The Ballroom Djakarta Theater, Jakarta Pusat, Rabu (4/12).

Pusat data biasa dirancang untuk menyimpan dan memproses data menggunakan server dengan proses umum seperti CPU (Central Processing Unit). Biasanya, mereka mengoptimalkan kapasitas penyimpanan dan kinerja komputasi untuk aplikasi dan layanan tradisional, seperti web hosting, database, dan pengolahan data bisnis.

Selain itu, data center biasanya tidak memiliki konfigurasi untuk menangani pemrosesan data dalam jumlah besar yang dibutuhkan untuk pelatihan model AI atau inferensi AI yang cepat. Pusat data biasa juga memiliki infrastruktur pendingin standar yang cukup untuk menjaga suhu server dalam kisaran yang dapat diterima. Energi yang digunakan cenderung lebih sedikit karena beban komputasi yang ditangani tidak terlalu besar.

Sementara itu, keamanan data di data center biasa umumnya lebih berfokus pada perlindungan data tradisional, seperti enkripsi data, kontrol akses, dan perlindungan terhadap ancaman eksternal lebih umum.

Ilustrasi Data Center. Foto: Gorodenkoff/Shutterstock

Berbeda dengan data center AI ready, biasanya dilengkapi dengan perangkat keras khusus untuk mendukung beban kerja AI yang sangat besar, seperti GPU (Graphics Processing Units) yang dirancang untuk melakukan komputasi paralel yang diperlukan untuk pelatihan model AI, terutama dalam deep learning dan machine learning. GPU memiliki kemampuan jauh lebih tinggi daripada CPU dalam menjalankan algoritma AI yang kompleks.

Kemudian TPU (Tensor Processing Units), chip khusus yang dikembangkan oleh Google untuk mempercepat proses pelatihan model AI, terutama di bidang machine learning. Terakhir, FPGA (Field-Programmable Gate Arrays) yang digunakan untuk mempercepat pemrosesan AI, karena bisa diprogram ulang sesuai kebutuhan aplikasi AI tertentu.

Selain itu, data center yang dirancang khusus untuk AI memiliki infrastruktur yang dioptimalkan untuk komputasi intensif. Skalabilitas yang lebih tinggi untuk menangani volume data yang besar dan kompleks, arsitektur jaringan cepat yang memungkinkan distribusi beban kerja AI dengan latensi rendah, seperti jaringan 400Gb Ethernet atau teknologi lain yang mendukung komunikasi data berkecepatan tinggi, serta memori berkapasitas tinggi dan penyimpanan yang cepat (seperti SSD NVMe) untuk mendukung analisis data besar dan pelatihan model AI.

Data center AI ready dirancang untuk mendukung Big Data, termasuk kemampuan untuk menyimpan, mengakses, dan memproses data dalam jumlah sangat besar yang diperlukan oleh model AI. Mereka juga sering terintegrasi dengan cloud dan platform AI berbasis cloud untuk mendukung komputasi yang terdistribusi dan berbasis skala besar. Integrasi dengan platform AI seperti Google Cloud AI, Amazon Web Services (AWS), dan Microsoft Azure memungkinkan pengelolaan data dan model AI yang lebih efisien.

Tak hanya itu, data center AI Ready memerlukan sistem pendinginan dan pengelolaan energi yang lebih canggih, karena proses pelatihan AI sangat intensif dalam penggunaan energi, perangkat keras khusus (seperti GPU dan TPU) menghasilkan lebih banyak panas. Oleh karena itu, data center ini sering kali memiliki sistem pendinginan cair atau teknologi pendinginan berbasis freezer yang lebih efisien untuk menjaga suhu server dalam kondisi optimal dan menghindari kerusakan perangkat keras.

“Ketika berbicara tentang data center yang siap AI, biasanya kita membandingkan dengan data center reguler yang mengelola data dengan kepadatan rendah, yaitu sekitar 5 kWh hingga 15 kWh. Namun, untuk AI, kebutuhan daya dapat meningkat hingga 20 kWh hingga 150 kWh atau lebih,” papar Dr. Thomas.

Dari segi keamanan, data center AI ready perlu lebih ketat karena volume data besar yang digunakan dalam AI seringkali mengandung informasi sensitif, dan model AI itu sendiri bisa sangat bernilai. Oleh karena itu, data center AI ready seringkali dilengkapi dengan enkripsi end-to-end, keamanan berbasis perangkat keras, dan protokol privasi data yang lebih kuat. Pengelolaan data juga sering melibatkan manajemen versi model AI dan audit log untuk melacak perubahan model dan data yang digunakan.

NeutraDC sendiri sudah memiliki 37 pusat data di seluruh Indonesia, termasuk ekspansi ke Batam dan Singapura. Perusahaan juga terus meningkatkan kapasitas untuk kepadatan rendah maupun tinggi.

“Industri pusat data di Indonesia sedang merangkul teknologi baru. Sebelumnya, kami menggunakan teknologi lama, namun sekarang kami beralih ke teknologi baru dalam hal daya ambien dan peringkat daya. Ambisi kami adalah meningkatkan peringkat daya dari 1,2 menjadi 1,3. Kami sangat optimis,” tutup Dr. Thomas.