Bloomberg, désormais un pionnier dans la fusion de l’intelligence artificielle, a dévoilé son document de recherche révolutionnaire introduisant Bloombergpttm, un modèle d’IA génératif spécialisé à grande échelle méticuleusement perfectionné pour le domaine financier. Contrairement à ses homologues, Bloomberggpt excelle dans les tâches financières de traitement du langage naturel (NLP), tout en maintenant ses prouesses dans les références générales du modèle de grande langue (LLM).
Un changement de paradigme dans l’IA financier
Des progrès récents dans les LLM ont déployé une gamme de nouvelles applications dans divers domaines. Néanmoins, les subtilités et la terminologie idiosyncratique du secteur financier ont fait signe la nécessité d’un modèle à assignation de domaine. Bloomberggpt marque la création de cette progression de cette époque, sur le point d’élever des efforts de PNL financiers existants, notamment l’analyse des sentiments, la reconnaissance des entités nommée, la classification des nouvelles et la réponse aux questions, entre autres. Au-delà de la simple amélioration, Bloomberggpt promet de révolutionner l’utilisation du vaste réservoir de données résidant dans le terminal de Bloomberg, débloquant le plein potentiel de l’IA dans la sphère financière.
Bloomberg’s Decade Helf Ai Odyssey
Pendant plus d’une décennie, Bloomberg se tenait à l’avant-garde de l’application de l’IA, de l’apprentissage automatique et de la PNL dans le domaine financier. Actuellement, Bloomberg supervise un vaste répertoire de tâches NLP amorcées pour augmenter avec un modèle de langue averti en finance. Pionnier d’une méthodologie hybride fusionnant les données financières avec des ensembles de données polyvalents, les chercheurs de Bloomberg ont conçu un modèle qui atteint des performances inégalées dans les références financières, tout en maintenant la compétitivité dans les références LLM générales.
Construire Bloomberggpt
La rupture de Bloomberggpt découlait d’une fusion d’expertise du groupe de produits et de recherche ML de Bloomberg et de l’équipe d’ingénierie de l’IA. Cet effort de collaboration a conduit à la création de l’un des ensembles de données spécifiques au domaine les plus vastes, en tirant du puits profond du référentiel de documents de langage financier de la société. Ce formidable corpus, comprenant 363 milliards de jetons, a été augmenté d’un jeu de données public de 345 milliards de jetons, culminant dans un corpus de formation colossal hébergeant plus de 700 milliards de jetons.
De ce corpus étendu, un modèle de langue causal de 50 milliards de paramètres de paramètres a été perfectionné. Une validation rigoureuse a été effectuée contre un spectre de repères englobant la PNL spécifique à la finance, des repères internes de Bloomberg et diverses catégories de tâches PNL à usage général. Il convient de noter que Bloomberggpt éclipse ses homologues de modèle ouvert de taille proportionnelle dans les tâches financières, tout en offrant des performances comparables ou supérieures dans les références PNL générales.
Un aperçu du futur
Shawn Edwards, directeur de la technologie de Bloomberg, a souligné la foulée monumentale atteinte, mettant l’accent sur la valeur profonde inhérente au développement du LLM inaugural adapté au domaine financier. Il a déclaré: «Bloomberggpt nous permettra de s’attaquer à de nombreux nouveaux types d’applications, tandis qu’il offre des performances beaucoup plus élevées que des modèles personnalisés pour chaque application, dans un délai de marché plus rapide.»
Gideon Mann, chef de l’équipe de produits et de recherche ML de Bloomberg, a expliqué le rôle par excellence des données dans la qualité des modèles ML et NLP. Il a élucidé: «Grâce à la collecte de documents financiers, Bloomberg a organisé sur quatre décennies, nous avons pu créer soigneusement un ensemble de données large et propre et spécifique au domaine pour former un LLM le mieux adapté aux cas d’utilisation financière. Nous sommes ravis d’utiliser Bloomberggpt pour améliorer nos clients NLP existants, tout en imaginant de nouvelles façons de mettre ce modèle pour travailler à nos clients.»
