Команда з двох осіб у Hugging Face розробляє моделі ШІ, подібні до ChatGPT

Стартап Hugging Face сформував команду H4 з двох розробників, яка займається створенням чат-ботів на основі відкритих моделей ШІ.

Що відомо

За словами інженера Льюїса Танстолла (Lewis Tunstall), після виходу ChatGPT вони почали експериментувати з використанням open source бібліотек і моделей для повторення такого функціоналу. Основним напрямком H4 є навчання моделей взаємодії з людьми.

Команда вже представила кілька доопрацьованих мовних моделей, зокрема Zephyr-7B-α і Falcon-40B. Для їхнього навчання використовується кластер із понад 1000 відеокарт Nvidia A100.

H4 також досліджує методи вирівнювання моделей і створює інструменти для їх тестування.

H4 свідомо залишається невеликою, щоб бути гнучкою і адаптуватися до швидко мінливого ландшафту ШІ. При цьому вона співпрацює з іншими дослідницькими групами Hugging Face.

Команда прагне розширити можливості спільноти open source ШІ, випускаючи код і дані для навчання чат-моделей. Комерціалізація їхньої роботи не є метою H4, зазначили розробники.

Джерело: TechCrunch