Stability AI heeft een compact taalmodel van 1,6 miljard parameters aangekondigd

Via: Bohdan Kaminskyi | 22.01.2024, 20:10
Stability AI heeft een compact taalmodel van 1,6 miljard parameters aangekondigd

Stability AI, een bedrijf dat bekend staat om generatieve AI voor tekst en afbeeldingen, heeft een nieuw compact taalmodel onthuld, Stable LM 2 1.6B. Volgens de ontwikkelaars is de release bedoeld om de barrières voor AI-experimenten te verlagen en de gemeenschap uit te breiden met minder rekenkracht.

Dit is wat we weten

Volgens Carlos Riquelme van Stability AI is de belangrijkste prestatie van het nieuwe product niet de omvang, maar de perfectie van de algoritmen en de hoeveelheid hoogwaardige trainingsgegevens in zeven talen. Hierdoor ligt Stable LM 2 1,6B voor op andere grotere modellen, waaronder Stability AI's eigen Stable LM 3B.

Stability AI zegt dat het is zoals met computers en microchips - na verloop van tijd worden ze kleiner en tegelijkertijd krachtiger.

Stable LM-technologie wordt meestal gebruikt om tekstuele inhoud te genereren en te begrijpen. Door de kleinere omvang bestaat er nog steeds een risico op "hallucinaties" en giftig gedrag. Het bedrijf belooft een beter risicobeheer.

Stability AI heeft een aparte focus op transparantie. Naast afgewerkte modellen publiceert het bedrijf ruwe versies ervan vóór de laatste trainingscyclus. Dit moet ontwikkelaars de kans geven om de algoritmes aan te passen aan hun behoeften met betere resultaten.

Zoals Stability AI opmerkt, is openheid noodzakelijk om de gemeenschap van experts in generatieve AI uit te breiden.

Bron: VentureBeat