Ollama

IA et modèles de langages

Table des matières

  • Rappel sur les Intelligences Artificielles
  • Les modèles de language
  • Présentation du projet Ollama
  • Exemple dans la pratique
  • Contraintes matérielles
  • Conclusion

Rappel sur l’IA

Donne-moi une définition de l'intelligence artificielle.

L’Intelligence Artificielle (IA) est un domaine de l’informatique qui vise à créer des systèmes capables de réaliser des tâches qui, à l’origine, nécessitaient l’intelligence humaine.

Il s’agit donc de concevoir des algorithmes et des modèles informatiques pour simuler des fonctions cognitives telles que l’apprentissage, la résolution de problèmes, la reconnaissance d’images ou de discours, la prise de décision, etc.

L’IA peut être classée en deux catégories : l’IA faible, conçue pour effectuer une tâche spécifique, et l’IA forte, capable d’effectuer n’importe quelle tâche intellectuelle qu’un humain peut faire.

- Mistral -

Rappel sur l’IA

  • Simulation de l’intelligence humaine
  • Vise à faciliter la résolution de problèmes
  • Se reposant sur 2 sous-domaines :
    • Machine Learning
    • Deep Learning
  • Réseaux de neurones

Les modèles de langages

Qu'est-ce qu'un modèle de langage dans le domaine de l'IA ?

En Intelligence Artificielle, un modèle de langage est un algorithme ou un ensemble d’algorithmes qui permet de traiter et de comprendre le langage naturel. Ces modèles sont utilisés pour permettre aux ordinateurs de comprendre et de générer du langage naturel, de manière à ce qu’ils puissent interagir avec les humains de manière plus naturelle et plus efficace.

Les modèles de langage en Intelligence Artificielle sont souvent basés sur l’apprentissage automatique, ce qui signifie qu’ils sont entraînés à partir de vastes quantités de données de langage naturel. Ces données peuvent inclure des textes, des conversations, des audio ou des vidéos, et ils sont utilisés pour enseigner aux ordinateurs à reconnaître et à comprendre les différentes structures et les caractéristiques du langage naturel.

Les modèles de langage sont utilisés dans de nombreux domaines de l’Intelligence Artificielle, tels que le traitement du langage naturel (NLP), la génération de langage naturel, la compréhension de la parole, la synthèse vocale, la traduction automatique, le dialogue naturel et la résolution de problèmes.

Il existe différents types de modèles de langage en Intelligence Artificielle, tels que les modèles de langage statistique, les modèles de langage basés sur des règles, les modèles de langage hybrides et les modèles de langage cognitifs. Chacun de ces modèles a des avantages et des inconvénients, et ils sont utilisés dans différents contextes et pour différents objectifs.

Les modèles de langage sont très utiles dans de nombreux domaines, tels que la gestion de la clientèle, la réponse à des questions fréquentes, la fourniture de services de conversation, la réalisation de tâches de traitement du langage naturel, la compréhension de la parole et la synthèse vocale. Ils sont également utilisés dans les assistants virtuels, tels que Amazon Alexa, Google Assistant et Apple Siri, pour permettre aux utilisateurs de communiquer avec ces assistants de manière plus naturelle et plus efficace.

- Llama2 (70b) -

Les modèles de langage

  • Modèle statistique
  • Traitement du langage naturel
  • Plusieurs domaines d’application
    • Assistants virtuels
    • Gestion de la clientelle
    • Services de conversation

Les modèles de langage

Quelques points clés :

  • Apprentissage - Formés sur de grands corpus de textes (Livres, discussions, encyclopédies, …)
  • Prédiction - Peuvent prédire les mots dans une phrase donnée
  • Génération de texte - Peut générer du texte comme une dissertation histoire
  • Applications - Peuvent êtres utilisées pour la traduction automatique, les assistants virtuels, …

Le projet Ollama

  • Rendre disponible des modèles de langages
  • Personnalisation des modèles
  • Fonctionnement similaire à Docker
  • Interface Web : Open WebUI

Mise en pratique

Contraintes matérielles

  • Vitesse de traitement dépendant du matériel
  • Demande de la mémoire vive (beaucoup...)
  • Fonctionne sur des cartes graphique ou processeurs puissants

Conclusion

mindmap root((Ollama)) Llama2 (7b) (13b) (70b) (chat) Codellama (7b) (13b) (34b) (70b) (python) Mistral (7b) (text) Mixtral (text) (8x7b) (instruct)