L'équipe de Hugging Face, composée de deux personnes, développe des modèles d'IA de type ChatGPT.

La startup Hugging Face a formé une équipe H4 de deux développeurs pour construire des chatbots basés sur des modèles d'IA open source.

Ce que nous savons

Selon l'ingénieur Lewis Tunstall, après la sortie de ChatGPT, ils ont commencé à expérimenter l'utilisation de bibliothèques et de modèles open source pour reproduire cette fonctionnalité. L'objectif principal de H4 est d'entraîner les modèles à interagir avec les humains.

L'équipe a déjà présenté plusieurs modèles de langage affinés, dont Zephyr-7B-α et Falcon-40B. Une grappe de plus de 1000 cartes graphiques Nvidia A100 est utilisée pour les entraîner.

H4 étudie également les techniques d'alignement des modèles et construit des outils pour les tester.

H4 reste délibérément petit pour être flexible et s'adapter à l'évolution rapide du paysage de l'IA. Pour ce faire, elle collabore avec d'autres groupes de recherche Hugging Face.

L'équipe vise à renforcer la communauté de l'IA open source en publiant le code et les données nécessaires à l'entraînement des modèles de chat. La commercialisation de leur travail n'est pas un objectif de H4, ont précisé les développeurs.

Source : TechCrunch TechCrunch