NVIDIA hat einen Chatbot veröffentlicht, der direkt auf dem PC des Benutzers läuft
NVIDIA
NVIDIA hat den Chat mit RTX vorgestellt, einen lokalen Chatbot, der auf dem Computer des Benutzers läuft.
Was bekannt ist
Chat with RTX ermöglicht es, persönliche Daten von einer Festplatte für die Verwendung mit offenen Sprachmodellen wie Mistral oder Llama 2 anzuhängen. Auf der Grundlage dieser Dateien kann der Chatbot z. B. einen Lebenslauf erstellen oder Fragen des Nutzers beantworten.
Das Programm unterstützt eine Vielzahl von Datenformaten, darunter .txt, .pdf, .doc/.docx und .xml. Laut NVIDIA dauert es nur Sekunden, um die erforderlichen Dateien zu indizieren und herunterzuladen. Die Kontextinformationen aus den Dokumenten werden dann integriert, um relevantere Antworten zu liefern.
Chat mit RTX unterstützt auch die Integration von YouTube-Videos und Wiedergabelisten. Der Benutzer kann einen Link zu einem Video angeben und der Chatbot analysiert den Inhalt, um bei der Suche nach Antworten auf dieses Wissen zurückzugreifen.
Chat mit RTX läuft lokal ohne Internetzugang, was den Datenschutz gewährleistet und den persönlichen Kontext des PC-Besitzers berücksichtigt. Dies unterscheidet ihn von Cloud-basierten Chatbots, die Anfragen an entfernte Server weiterleiten.
Bislang handelt es sich um eine Demoversion des Produkts, weshalb die Entwickler vor Fehlern gewarnt haben. Chat mit RTX erfordert eine Grafikkarte der GeForce RTX 30-Serie oder höher und mindestens 8 GB VRAM.