Aller au contenu
DCIDConsulting

Formation · IA générative

Déployer des modèles de langage en local (Ollama, Open WebUI)

Installer, choisir et exploiter des modèles de langage open source sur vos propres serveurs pour disposer d'un assistant IA qui garde vos données chez vous.

Objectifs pédagogiques

À l'issue de la formation, le stagiaire sera capable de :

  • Choisir un modèle open source adapté à un usage et à un matériel donné
  • Installer et configurer Ollama et Open WebUI sur un serveur
  • Connecter l'assistant à des documents internes et gérer les utilisateurs
  • Dimensionner l'infrastructure et superviser l'usage

Public visé

  • Administrateurs systèmes, DevOps, développeurs
  • Responsables informatiques soucieux de souveraineté des données

Prérequis

  • Aisance en ligne de commande Linux
  • Notions de Docker

Programme

Pourquoi héberger ses modèles

  • Confidentialité, souveraineté, coûts : comparer API et hébergement local
  • Panorama des modèles ouverts (Mistral, Llama, Qwen, Gemma…) et de leurs licences

Choisir et faire tourner un modèle

  • Taille, quantification, mémoire : dimensionner CPU et GPU
  • Ollama : installation, téléchargement, paramétrage, API

Une interface pour les utilisateurs

  • Open WebUI avec Docker : installation, comptes, droits
  • Bases documentaires et assistants personnalisés

Exploiter en production

  • Sécurisation des accès, sauvegardes, mises à jour
  • Supervision des performances et de l’usage
  • Mise en situation finale

Méthodes pédagogiques

  • Possibilité de travailler sur les données des participants (en intra, après accord)
  • Supports de cours, codes source et corrigés remis aux participants
  • Formation dispensée par un consultant data et IA qui conçoit et met en production ce qu'il enseigne

Modalités d'évaluation

  • Questionnaire de positionnement en début de formation
  • Exercices pratiques corrigés tout au long de la formation
  • Mise en situation finale : déploiement complet d'un assistant local
  • Questionnaire de satisfaction à chaud

Accessibilité

Formation accessible aux personnes en situation de handicap. Contactez-nous en amont (contact@dcid-consulting.fr) afin d'étudier ensemble les adaptations nécessaires.

DCID Consulting est un organisme de formation enregistré sous le numéro de déclaration d'activité 24 45 03602 45 auprès du préfet de la région Centre-Val de Loire. Cet enregistrement ne vaut pas agrément de l'État.

Cette formation vous intéresse ?

Dates, adaptation du programme, formule intra ou inter : échangeons sur votre besoin.