Una nuova funzione permette ai modelli di auto-creare codice per connettersi a strumenti esterni
Man mano che la concorrenza nello spazio dell’IA generativa diventa più agguerrita, OpenAI procede con l’aggiornare i suoi modelli di generazione di testo, riducendo al contempo i prezzi. La società ha annunciato il rilascio di nuove versioni di GPT-3.5-turbo e GPT-4, quest’ultima con una novità, declinata nella “chiamata di funzione”. Come spiega OpenAI in un post sul blog, la nuova funzionalità consente agli sviluppatori di descrivere le funzioni di programmazione a GPT-3.5-turbo e GPT-4 e fare in modo che i modelli creino il codice per eseguire tali funzioni. Ad esempio, la funzione di chiamata può aiutare a creare chatbot che rispondono alle domande chiamando strumenti esterni, convertendo il linguaggio naturale in query di database ed estraendo dati strutturati dal testo. “Questi modelli sono stati messi a punto sia per rilevare quando una funzione deve essere chiamata sia per rispondere con strumenti che aderiscono alla firma della funzione”, scrive OpenAI. “La funzione di chiamata permette agli sviluppatori di recuperare in modo più affidabile i dati strutturati dal modello”.
OpenAI sta inoltre introducendo delle novità in GPT-3.5-turbo, tradotte in una finestra di contesto notevolmente ampliata che, misurata in token o parti di testo grezze, fa riferimento al testo che il modello considera prima di generare testo aggiuntivo. I modelli con piccole finestre di contesto tendono a “dimenticare” il contenuto anche di conversazioni molto recenti, portandoli a deviare fuori tema, spesso in modi problematici. Il nuovo GPT-3.5-turbo offre quattro volte la lunghezza del contesto (16.000 token) al doppio del prezzo: 0,003 dollari per 1.000 token di input (ovvero token inseriti nel modello) e 0,004 dollari per 1.000 token di output (token generati dal modello). OpenAI afferma che la tecnologia può produrre circa 20 pagine di testo in una volta sola, meno delle centinaia di pagine promesse dal concorrente Anthropic, su cui punta Google. Tra i lati positivi, OpenAI afferma la riduzione dei prezzi per GPT-3.5-turbo (l’originale, non la versione con la finestra di contesto espansa) del 25%. Gli sviluppatori possono dunque utilizzare il modello per 0,0015 dollari su 1.000 token di input e a 0,002 dollari per 1.000 token di output, che equivalgono a circa 700 pagine per dollaro.
