Das zweiköpfige Team von Hugging Face entwickelt ChatGPT-ähnliche KI-Modelle

Das Startup Hugging Face hat ein H4-Team aus zwei Entwicklern gebildet, um Chatbots auf der Grundlage von Open-Source-KI-Modellen zu entwickeln.

Was bekannt ist

Laut dem Ingenieur Lewis Tunstall begannen sie nach der Veröffentlichung von ChatGPT mit der Verwendung von Open-Source-Bibliotheken und -Modellen zu experimentieren, um solche Funktionen zu replizieren. Der Schwerpunkt von H4 liegt auf dem Training von Modellen für die Interaktion mit Menschen.

Das Team hat bereits mehrere verfeinerte Sprachmodelle vorgestellt, darunter Zephyr-7B-α und Falcon-40B. Ein Cluster von über 1000 Nvidia A100-Grafikkarten wird zum Trainieren dieser Modelle verwendet.

H4 erforscht auch Techniken zum Abgleich der Modelle und entwickelt Tools, um sie zu testen.

H4 bleibt absichtlich klein, um flexibel zu sein und sich an die sich schnell verändernde KI-Landschaft anzupassen. Dabei arbeitet es mit anderen Hugging Face-Forschungsgruppen zusammen.

Das Team möchte die Open-Source-KI-Gemeinschaft durch die Freigabe von Code und Daten zum Trainieren von Chatmodellen unterstützen. Die Kommerzialisierung ihrer Arbeit ist nicht das Ziel von H4, so die Entwickler.

Quelle: TechCrunch