Falcon 180B

Falcon 180B est un grand modèle de langage open source développé par le Technology Innovation Institute d’Abou Dabi. Il répond au besoin de disposer d’un modèle de génération de texte puissant et librement accessible, permettant aux organisations de construire des applications d’IA sans dépendre exclusivement de services propriétaires fermés.

Le modèle appartient à la famille Falcon et a été entraîné sur un très vaste corpus de données textuelles, en grande partie issu du jeu de données RefinedWeb. Avec environ 180 milliards de paramètres, il génère et complète du texte, répond à des questions et accomplit diverses tâches de traitement du langage naturel. Il est diffusé avec des poids ouverts, ce qui autorise le déploiement local, le fine-tuning et l’intégration dans des pipelines personnalisés, dans le respect des conditions de sa licence.

Falcon 180B s’adresse aux chercheurs, ingénieurs en IA et entreprises capables de mobiliser une infrastructure conséquente. Ses forces sont son ouverture, sa qualité de génération et sa flexibilité d’adaptation. Ses limites tiennent à des besoins matériels très importants en mémoire GPU, qui le rendent coûteux à exécuter, ainsi qu’à une mise en œuvre exigeant des compétences techniques avancées par rapport à des API clés en main.