Lanciata una demo gratuita di quello che può fare Chat con RTX
Nvidia entra nel mercato consumer dell’IA generativa con il lancio di una versione demo gratuita di un chatbot che viene eseguito localmente sul PC. Questo dà al programma l’accesso ai file e documenti personali, con un occhio alla privacy. È possibile fornire a “Chat con RTX” una selezione di dati personali e fargli creare riepiloghi basati su tali informazioni ma anche porre domande, proprio come qualsiasi chatbot, e approfondire i dati per trovare risposte. L’azienda afferma che il progetto consente agli utenti di “connettere rapidamente e facilmente file locali su un PC come set di dati a un modello linguistico di grandi dimensioni open source come Mistral o Llama 2”. Nvidia fornisce l’esempio di un utente che chiede al chatbot informazioni su un ristorante consigliato dal suo partner mentre si trovava a Las Vegas. Il software esegue la scansione dei file locali per trovare la risposta. Supporta, a tal proposito, una vasta gamma di file, inclusi .txt, .pdf, .doc/.docx e .xml. L’azienda afferma che caricherà i file rilevanti nel suo set di dati “in pochi secondi”.
Chat con RTX integra anche video e playlist di YouTube per aggiungere un URL video nel set e integrare la conoscenza contenuta nella clip per query contestuali. Nvidia afferma che ciò sarà utile quando si chiederanno consigli di viaggio “basati sui contenuti dei video degli influencer preferiti” o quando si cercheranno tutorial e riepiloghi derivati da risorse educative. The Verge ha avuto un po’ di tempo pratico con il chatbot e ne è rimasto impressionato, scrivendo che è possibile considerarlo come “una parte preziosa della ricerca di dati per giornalisti o chiunque abbia bisogno di analizzare una raccolta di documenti”. Sembra un grande passo verso qualcosa che assomigli a un vero assistente digitale che funziona nel quadro contestuale dei dati personali. Con la maggior parte dei chatbot, i dati vengono inviati al cloud, ma Chat with RTX “consente agli utenti di elaborare dati sensibili su un PC locale senza la necessità di condividerli con terzi o di disporre di una connessione Internet”. Quindi è più sicuro e contestualmente più consapevole.
