La société OpenAI, créatrice de l'outil ChatGPT qui fait tant parler en ce moment, a annoncé la disponibilié d'une API pour permettre aux développeurs d'intégrer le robot conversationnel dans leurs applications. Dans la foulée, OpenAI introduit également une API pour son outil Whisper qui convertit la parole en texte.

OpenAI assure que grâce à une série d'optimisations à l'échelle du système, la société a réduit les coûts de 90 % pour ChatGPT depuis décembre. Des économies qui sont maintenant transmsies aux utilisateurs de l'API, selon OpenAI.

Le modèle publié, gpt-3.5-turbo, est le même modèle que celui utilisé dans le produit ChatGPT. Il est au prix de 0,002 $ par 1 000 jetons, ce qui, selon OpenAI, est 10 fois moins cher que ses modèles GPT-3.5 existants.

Les modèles GPT consomment du texte non structuré, qui est représenté dans le modèle sous la forme d'une séquence de « jetons ». Les modèles ChatGPT consomment à la place une séquence de messages avec des métadonnées. (Sous le capot, l'entrée est toujours rendue au modèle sous la forme d'une séquence de « jetons » que le modèle doit consommer; Le format brut utilisé par le modèle est un nouveau format appelé Chat Markup Language (« ChatML ») .)

La société envisage d'améliorer son produit au fil du temps, et indique : Les utilisateurs de l'API ChatGPT peuvent s'attendre à des améliorations continues des modèles et à la possibilité de choisir une capacité dédiée pour un contrôle plus approfondi des modèles.

Site : openai.com