Kecerdasan Data Generatif

AIBlockchain

Model Grok AI Tertantang oleh Model Viral Groq AI

Diterbitkan ulang oleh Plato
Diterbitkan ulang oleh Plato

Tanggal:

views: 0

Dengan model AI Groq yang membuat ChatGPT tampak lemah dan sejajar dengan model Elon Musk, yang juga bernama Grok, pengguna media sosial mulai menyadarinya.

Groq adalah model kecerdasan buatan (AI) terbaru yang menyebabkan kegemparan di media sosial berkat kecepatan respons dan teknologi inovatifnya yang dapat menghilangkan kebutuhan akan GPU.

Baca juga: AI Membuat Phishing Lebih Meyakinkan Dari Sebelumnya

Model AI menjadi sensasi dalam semalam setelah uji benchmark publiknya menjadi viral di platform media sosial X, menunjukkan bahwa Grog mengungguli chatbot AI yang populer, ChatGPT.

Groq menggunakan unit pemrosesan bahasa (LPU)

Kecepatan respons Groq disebabkan oleh tim di balik model AI yang mengembangkan chip sirkuit terintegrasi khusus aplikasi (ASIC) unik untuk model bahasa besar (LLM), yang memungkinkannya menghasilkan 500 token per detik. Versi model yang tersedia untuk umum, ChatGPT-3.5, dapat menghasilkan sekitar 40 token per detik. 

Daripada menggunakan unit pemrosesan grafis (GPU) yang mahal dan langka yang biasanya digunakan untuk menjalankan model AI, pengembang model ini, Groq Inc., mengklaim telah menciptakan unit pemrosesan bahasa (LPU) pertama yang digunakan untuk menjalankan modelnya.

Menurut Groq, LPU juga lebih hemat energi. LPU dapat melakukan lebih banyak komputasi per watt berkat kemampuannya mencegah kurang dimanfaatkannya inti dan mengurangi upaya yang diperlukan untuk mengelola banyak thread.

Selain itu, beberapa TSP dapat dihubungkan berkat desain chip Groq, yang menghilangkan hambatan tradisional yang terkait dengan cluster GPU. Menurut Groq, hal ini meminimalkan persyaratan perangkat keras untuk model AI besar dan membuat sistem dapat diskalakan.

Groq menantang Grok.

Namun, perusahaan di balik Groq didirikan pada tahun 2016, dan Groq telah terdaftar sebagai merek dagang. Pencipta model Groq merilis a posting blog November lalu, dia menyebut nama Elon Musk sebagai Grok (tetapi dieja dengan “k”), karena model AI mulai semakin populer.

Dalam postingan blognya, kata Groq mereka dapat memahami mengapa Musk ingin menggunakan nama mereka. Musk menyukai hal-hal yang cepat (roket, hyperloop, nama perusahaan satu huruf), dan produk mereka, Mesin Inferensi LPU Groq, adalah cara tercepat untuk menjalankan model bahasa besar (LLM) dan aplikasi AI generatif lainnya. Namun, mereka harus meminta Musk untuk memilih nama lain dan cepat.

Baik Grok maupun Musk belum berkomentar di X (sebelumnya Twitter) tentang kemiripan nama kedua model tersebut sejak Groq viral di media sosial.

Pengguna bereaksi

Namun, beberapa pengguna platform sudah mulai membandingkan model LPU dan model berbasis GPU populer lainnya. 

Menurut salah satu pengguna yang bekerja di bidang pengembangan AI, Groq adalah “pengubah permainan” untuk produk yang memerlukan latensi rendah (mengacu pada waktu yang diperlukan untuk menjalankan permintaan dan mendapatkan respons).

Pengguna lain mengatakan bahwa LPU Groq mungkin merupakan pengganti yang baik untuk “perangkat keras berperforma tinggi” dari chip Nvidia A100 dan H100 yang sangat banyak dicari, serta “peningkatan besar-besaran” pada GPU di masa depan dalam hal memenuhi kebutuhan. tuntutan aplikasi AI.

Hal ini terjadi ketika pengembang AI terkemuka berupaya membuat chip mereka secara internal agar tidak bergantung hanya pada model Nvidia. 

tempat_img

Intelijen Terbaru

tempat_img

Hak Cipta @ 2024 Plato Technologies Inc.

Hubungi kami

Hai, yang di sana! Apa yang bisa saya bantu?