eng
competition

Text Practice Mode

llm dari elon musk

created Mar 18th, 04:21 by Syafiqur LP3I


0


Rating

237 words
6 completed
00:00
grok di buat jadi open source hari ini
 
kamu bisa download grok secara gratis dengan torrent di link github grok
apakah karna licence open source berarti bisa di pakai untuk perusahaan di seluruh dunia
 
hai copilot
 
Halo! Informasi yang Anda baca mengenai Grok yang menjadi open source berarti bahwa sekarang kode dan arsitektur model AI tersebut tersedia untuk umum. Model dengan 314 miliar parameter memerlukan GPU dengan memori yang cukup besar untuk dapat menjalankannya. Implementasi lapisan MoE (Mixture of Experts) yang disebutkan tidak efisien karena dirancang untuk menghindari penggunaan kernel khusus, yang biasanya diperlukan untuk model sebesar ini.
 
Untuk menjalankan model dengan 314 miliar parameter, Anda akan memerlukan beberapa GPU high-end dengan memori yang besar. Misalnya, diskusi di komunitas menunjukkan bahwa Anda mungkin memerlukan sekitar 4 GPU NVIDIA 3090 untuk menjalankan model ini dengan offloading sepenuhnya ke GPU
 
Perusahaan kecil mungkin menghadapi tantangan dalam menjalankan model ini karena biaya dan sumber daya yang dibutuhkan. Namun, tergantung pada kasus penggunaan spesifik dan sumber daya yang tersedia, mungkin ada cara untuk bekerja dengan model yang lebih kecil atau menggunakan cloud computing dengan GPU yang disediakan oleh penyedia layanan.
 
Jadi, secara umum, menjalankan Grok dengan 314 miliar parameter memang lebih layak bagi perusahaan besar yang memiliki akses ke banyak GPU dan sumber daya komputasi yang signifikan. Namun, ini tidak berarti perusahaan kecil tidak bisa sama sekali menggunakan Grok; mereka mungkin perlu menyesuaikan pendekatan mereka atau mencari solusi alternatif.
 
xD
 
 

saving score / loading statistics ...