NVIDIA lanza un chatbot que se ejecuta directamente en el PC del usuario
NVIDIA
NVIDIA ha presentado Chat with RTX, un chatbot local que se ejecuta en el ordenador personal del usuario.
Esto es lo que sabemos
Chat with RTX permite adjuntar datos personales desde un disco duro para utilizarlos con modelos de lenguaje abierto como Mistral o Llama 2. A partir de estos archivos, el chatbot puede, por ejemplo, elaborar un CV o responder a las preguntas del usuario.
El programa admite diversos formatos de datos, como .txt, .pdf, .doc/.docx y .xml. Según NVIDIA, tarda unos segundos en indexar y descargar los archivos necesarios. A continuación, la información contextual de los documentos se integra para ofrecer respuestas más relevantes.
El chat con RTX también admite la integración con vídeos y listas de reproducción de YouTube. El usuario puede proporcionar un enlace a un vídeo y el chatbot analizará el contenido para aprovechar este conocimiento en la búsqueda de respuestas.
Chat with RTX se ejecuta localmente sin acceso a Internet, lo que garantiza la privacidad de los datos y tiene en cuenta el contexto personal del propietario del PC. Esto lo diferencia de los chatbots basados en la nube que retransmiten las peticiones a servidores remotos.
Por ahora, se trata de una versión demo del producto, por lo que los desarrolladores han advertido de posibles fallos. Chat with RTX requiere una tarjeta gráfica GeForce RTX serie 30 o superior y un mínimo de 8 GB de VRAM para funcionar.