Intel Gaudi 3, Prosesor AI Baru dengan Performa Unggul

Intel baru-baru ini mengumumkan pengembangan terbarunya dalam bidang kecerdasan buatan (Artificial Intelligence) dengan memperkenalkan akselerator AI terbaru mereka yang diberi nama Gaudi 3. Pengumuman ini disampaikan pada konferensi Vision 2024 yang digelar di Phoenix, Arizona, Amerika Serikat. Gaudi 3 menjadi sorotan karena klaimnya memiliki performa yang 50% lebih baik dibandingkan dengan chip AI Nvidia H100.

Gaudi 3 merupakan penerus dari Gaudi 2 dan telah diungkapkan pertama kali pada acara Intel AI Everywhere pada bulan Desember 2023. CEO Intel, Pat Gelsinger, percaya bahwa Gaudi 3 akan menjadi pesaing serius bagi chip AI dari Nvidia dan AMD.

Spesifikasi Gaudi 3 mencakup dua chip TSMC 5nm yang dilengkapi dengan 64 core Tensor generasi ke-5. Hal ini membuatnya memiliki kapasitas memori HBM2e yang mencapai 128GB dengan kecepatan 3,7Gbps dan bandwidth 3,7 TB per detik. Peningkatan signifikan dibandingkan dengan Gaudi 2, yang hanya memiliki 24 core Tensor dan kapasitas memori HBM2e 96GB dengan kecepatan 3,27Gbps serta bandwidth 2,45TB per detik.  Hal ini menjadikan Gaudi 3 lebih kuat dalam melakukan komputasi AI yang kompleks dan membutuhkan kapasitas memori yang besar, demikian dikutip dari Techspot, Kamis (11/4/2024).

Selain itu, Gaudi 3 juga hadir dengan varian SRAM 96GB dan bandwidth 12,8TB per detik, serta VRAM berkapasitas 128GB. Kemampuan komputasi Gaudi 3 mencapai 1,835 TFLOPS FP8 dan BF16 matrix, dengan konsumsi daya sebesar 900 watt. Bandingkan dengan Gaudi 2 yang memiliki kemampuan komputasi 835 TFLOPS di FP8 Matrix, 432 TFLOPS di BF16 Matrix, dan konsumsi daya hanya 600W.

Keunggulan lain dari Gaudi 3 adalah adanya 24 port Ethernet 200Gb yang meningkatkan fleksibilitas dan mendukung standar jaringan terbuka. Intel juga memberikan dukungan PCIe untuk berbagai kebutuhan, termasuk retrieval-augmented generation (RAG).

Intel mengklaim bahwa Gaudi 3 memiliki kemampuan komputasi AI yang 4x lebih cepat di BF16, bandwidth memori 1,5x lebih tinggi, dan bandwidth jaringan 2x lebih tinggi dibandingkan dengan pendahulunya. Hal ini membuatnya sangat cocok untuk keperluan melatih generative AI (GenAI).

Dalam perbandingan dengan Nvidia H100, Intel menyatakan bahwa Gaudi 3 memiliki performa yang 50% lebih baik saat digunakan untuk komputasi Llama2 7B dan 13B, serta model parameter GPT-3 175B. Selain itu, konsumsi daya Gaudi 3 juga 40% lebih efisien dalam parameter yang sama.

Saat ini, Intel telah mulai mengirimkan sampel chip Gaudi 3 kepada mitra mereka, dengan produksi massal dijadwalkan dimulai pada pertengahan tahun ini. Pengiriman varian Gaudi 3 dengan pendingin udara akan dimulai pada kuartal ketiga tahun 2024, sementara varian dengan pendingin air akan tersedia pada kuartal keempat tahun yang sama.

Dengan kehadiran Gaudi 3, Intel memberikan komitmen untuk terus menjadi pemimpin dalam teknologi AI dengan menghadirkan inovasi yang berdampak positif pada industri dan pengguna di seluruh dunia. Kinerja unggul, efisiensi energi, dan fleksibilitas yang ditawarkan oleh Gaudi 3 menjadi bukti nyata akan kemajuan Intel dalam menghadapi tuntutan komputasi AI yang semakin kompleks dan tinggi.