Het tweepersoons team van Hugging Face ontwikkelt ChatGPT-achtige AI-modellen

Hugging Face

Startup Hugging Face heeft een H4-team van twee ontwikkelaars gevormd om chatbots te bouwen op basis van open source AI-modellen.

Dit is wat we weten

Volgens ingenieur Lewis Tunstall begonnen ze na de release van ChatGPT te experimenteren met het gebruik van open source bibliotheken en modellen om dergelijke functionaliteit te repliceren. De belangrijkste focus van H4 is het trainen van modellen voor interactie met mensen.

Het team heeft al verschillende verfijnde taalmodellen gepresenteerd, waaronder Zephyr-7B-α en Falcon-40B. Een cluster van meer dan 1000 Nvidia A100 grafische kaarten wordt gebruikt om ze te trainen.

H4 onderzoekt ook technieken om modellen op elkaar af te stemmen en bouwt tools om ze te testen.

H4 blijft bewust klein om flexibel te zijn en zich aan te passen aan het snel veranderende AI-landschap. Daarbij werkt het samen met andere Hugging Face-onderzoeksgroepen.

Het team wil de open source AI-gemeenschap versterken door code en gegevens vrij te geven om chatmodellen te trainen. Het commercialiseren van hun werk is geen doel van H4, merkten de ontwikkelaars op.

Bron: TechCrunch