O Chat with RTX é o novo chatbot que a Nvidia está a lançar e que corre localmente na máquina do utilizador. O sistema pode ser alimentado com dados pessoais e, com acesso aos ficheiros e pastas, consegue dar respostas e procurar informação.
Segundo a Nvidia, o sistema consegue rapidamente ligar ficheiros locais no computador e lidar com estes como um conjunto de dados para um grande modelo de linguagem, como o Mistral ou o Llama 2. O Chat with RTX suporta os formatos mais habituais como .txt, .pdf, .docx ou .xml e a Nvidia desscreve que é capaz de carregar a informação relevante em poucos segundos. Além dos ficheiros, o assistente pode receber vídeos de YouTube e listas de reprodução, sendo depois capaz de integrar esta informação nas suas respostas.
O The Verge, que já teve contacto com o assistente, noticia que este pode ser “uma parte valiosa para a investigação feita por jornalistas ou por qualquer outra pessoa que precise de analisar uma coleção de documentos”. Por não ter de recorrer a recursos na cloud, esta abordagem promete ser mais segura, com a Nvidia a clarificar que o Chat with RTX “permite aos utilizadores processar dados sensíveis num PC local sem a necessidade de os partilhar com um terceiro ou de ter ligação à Internet”.
Para já, em fase de demonstração, o sistema ainda tem alguns bugs, com a Nvidia a dever ser capaz de os eliminar quando os utilizadores começarem a aceder e a reportá-los. Em termos de requisitos, o sistema só está disponível para utilizadores com Windows e Nvidia GeForce RTX 30 ou superior e pelo menos 8 GB de VRAM.
Leia mais sobre o Chat with RTX aqui.
