Hi-tech2 médias2 articles Mis à jour le 9 novembre à 15 h 14

Kimi K3 de 2 800 milliards de paramètres sur Optane

Photo publiée par Clubic (article « Il fait tourner une IA avec 2 800 milliards de paramètres sans GPU, mais sa RAM surchauffe ») · voir l’article

Un passionné de homelab affirme avoir fait tourner le modèle Kimi K3, de 2 800 milliards de paramètres, sans aucun GPU, en utilisant un processeur Xeon à 40 cœurs et des barrettes de mémoire Intel Optane. L'expérience fonctionne, mais la mémoire chauffe fortement, ce qui montre que cette méthode a un prix. Le cas illustre la possibilité de faire tourner de très grands modèles d'IA en local sans carte graphique.

Ouvrir dans Comptoir

Ce qu’en disent les médias

15:14 Clubic Il fait tourner une IA avec 2 800 milliards de paramètres sans GPU, mais sa RAM surchauffe
14:08 Génération NT Un homelabber fait tourner un modèle IA de 2 800 milliards de paramètres sur de la mémoire Optane

Comptoir rassemble les articles des médias par sujet. Chaque titre ci-dessus mène à l’article chez son éditeur. Mentions légales