Exploration par sujet

#gguf

Toutes les ressources de la plateforme relatives au sujet gguf.

Modèles (2)

experimental.brain.fr 2024

fr.brain.carotte-7B

Un modèle expérimental francophone de 7 milliards de paramètres créé il y a deux ans. Une archive historique de l'évolution de l'IA ouverte en France.
NVIDIA 2025

Nemotron-3-Nano-30B-A3B

Un modèle performant de 30B optimisé par NVIDIA, disponible en version GGUF pour une utilisation efficace sur matériel grand public.

Tutoriels (1)

01

Comprendre llama.cpp et le format GGUF sous le capot

Le moteur C++ derrière l'inférence locale. Comment ça marche et comment optimiser vos modèles au plus près de la RAM.

→

Chroniques (1)

Nemotron-3-Nano-30B-A3B : Le nouveau champion 30B pour l'inférence locale

NVIDIA proposent une version optimisée du Nemotron-3-Nano-30B-A3B. Voici comment le faire tourner en local avec llama.cpp, du CPU au GPU.