Objectifs pédagogiques
À l'issue de la formation, le stagiaire sera capable de :
- Choisir un modèle open source adapté à un usage et à un matériel donné
- Installer et configurer Ollama et Open WebUI sur un serveur
- Connecter l'assistant à des documents internes et gérer les utilisateurs
- Dimensionner l'infrastructure et superviser l'usage
Public visé
- Administrateurs systèmes, DevOps, développeurs
- Responsables informatiques soucieux de souveraineté des données
Prérequis
- Aisance en ligne de commande Linux
- Notions de Docker
Programme
Pourquoi héberger ses modèles
- Confidentialité, souveraineté, coûts : comparer API et hébergement local
- Panorama des modèles ouverts (Mistral, Llama, Qwen, Gemma…) et de leurs licences
Choisir et faire tourner un modèle
- Taille, quantification, mémoire : dimensionner CPU et GPU
- Ollama : installation, téléchargement, paramétrage, API
Une interface pour les utilisateurs
- Open WebUI avec Docker : installation, comptes, droits
- Bases documentaires et assistants personnalisés
Exploiter en production
- Sécurisation des accès, sauvegardes, mises à jour
- Supervision des performances et de l’usage
- Mise en situation finale
Méthodes pédagogiques
- Possibilité de travailler sur les données des participants (en intra, après accord)
- Supports de cours, codes source et corrigés remis aux participants
- Formation dispensée par un consultant data et IA qui conçoit et met en production ce qu'il enseigne
Modalités d'évaluation
- Questionnaire de positionnement en début de formation
- Exercices pratiques corrigés tout au long de la formation
- Mise en situation finale : déploiement complet d'un assistant local
- Questionnaire de satisfaction à chaud
Accessibilité
Formation accessible aux personnes en situation de handicap. Contactez-nous en amont (contact@dcid-consulting.fr) afin d'étudier ensemble les adaptations nécessaires.