Kecerdasan Data Generatif

Nvidia memperkenalkan GPU workstation kecil yang hemat daya

Tanggal:

Nvidia memperluas portofolio GPU-nya pada hari Senin dengan kartu stasiun kerja kecil yang diklaimnya memberikan peningkatan kinerja yang cukup besar sambil hanya menyedot daya, secara relatif.

Dengan 2,816 inti CUDA dan memori GDDR16 ECC 6 GB, RTX 2000 Ada mungkin bukan chip stasiun kerja Nvidia yang paling kuat, tetapi slot ganda dengan faktor bentuk setengah tinggi menjadikannya salah satu yang terkecil berdasarkan mikroarsitektur Nvidia Ada Lovelace.

Ini bukan pertama kalinya kami melihat faktor bentuk dari Nvidia ini. GPU slinger 12GB RTX A2000, yang memulai debutnya pada tahun 2021, menampilkan desain bergaya blower serupa yang mampu masuk ke beberapa sistem yang sangat kecil, seperti HP. Z2 G9Mini.

Meskipun penyegaran Ada mempertahankan anggaran daya 70W yang sama dengan pendahulunya, Nvidia mengklaim kartu baru ini sekitar 30 persen lebih cepat dalam beban kerja grafis, dan hingga 50 persen lebih cepat dalam berbagai beban kerja rendering dan AI, seperti model pembuatan gambar Difusi Stabil. .

Dalam hal kinerja mentah, Nvidia menyebut kartu tersebut mampu menghasilkan sekitar 12 teraFLOPS dengan presisi tunggal atau sekitar 192 teraFLOPS FP8 yang jarang dari die GPU AD107-nya.

Jika cetakan tersebut terdengar familier, maka cetakan tersebut sama dengan yang digunakan pada GPU gaming Nvidia RTX 299 seharga $4060, yang kami memandang musim semi lalu. Bukan hal yang aneh bagi Nvidia (atau sebagian besar perusahaan chip) mendaur ulang cetakan untuk digunakan di beberapa rangkaian produk, mengubah konfigurasi memori dan/atau mengaktifkan/menonaktifkan fitur untuk menciptakan diferensiasi. Misalnya, L40 Nvidia menggunakan GPU yang sama mati sebagai RTX 4090.

Cerita serupa terjadi pada RTX 2000 Ada, yang selain jauh lebih kecil dibandingkan RTX 4060, memiliki memori dua kali lipat dan TDP yang jauh lebih rendah, sehingga dapat dijalankan sepenuhnya dari slot PCIe. RTX 2000 Ada memang memiliki inti CUDA yang lebih sedikit, dan mungkin jam yang lebih rendah, namun kartu ini tidak dirancang untuk bermain game.

Sebaliknya, lini workstation RTX Nvidia โ€“ yang biasa disebut GPU Quadro โ€“ disertifikasi untuk digunakan dengan beban kerja profesional, seperti Solidworks, dan mengapa ia menggunakan hal-hal seperti memori ECC.

Berbicara tentang memori, frame buffer RTX 2000 Ada yang lebih besar juga akan berguna bagi mereka yang menambah beban kerja kreatif atau desain dengan model AI generatif. Dengan vRAM onboard 16GB, kartu ini seharusnya dapat dengan mudah mengakomodasi 13 miliar model parameter di FP8 dan berpotensi lebih besar lagi ketika memanfaatkan teknik seperti kuantisasi.

Meskipun demikian, bus memori 128-bit pada kartu tersebut terbukti agak membatasi dalam hal kinerja. Anda dapat melihat lembar spesifikasi lengkap di sini.

Namun, jika yang Anda cari hanyalah lebih banyak memori untuk menjalankan model bahasa besar secara lokal, ada opsi yang lebih murah dan/atau lebih berperforma di luar sana, terutama jika Anda dapat melupakan fitur stasiun kerja Nvidia. Kartu grafis Nvidia RTX 4070 TI Super dan AMD RX 7600XT, yang diluncurkan di CES bulan lalu, juga menampilkan DRAM 16GB. Yang terakhir bisa didapat dengan harga $329, membuatnya jauh lebih murah daripada RTX 2000 Ada seharga $625.

Jika Anda sedang mencari kartu workstation kecil dengan vRAM berlebih, RTX 2000 Ada kini tersedia dari berbagai mitra dewan Nvidia, termasuk Arrow Electronics, PNY, dan Ingram Micro. Kartu ini juga akan dijual di workstation pre-build dari HP, Dell Tech, dan Lenovo mulai bulan April. ยฎ

tempat_img

Intelijen Terbaru

tempat_img