Construite par Christian de Portzamparc, lauréat du concours organisé par l’établissement public de La Villette pour la Cité de la musique, l’aile Ouest destinée à reloger le Conservatoire National Supérieur de Musique et de Danse de Paris (jusqu’alors installé rue de Madrid dans le 8e arrondissement de Paris) est inaugurée par François Mitterrand. L’aile Est qui abrite deux salles de concert de 1600 et 250 places, un musée instrumental, des ateliers pédagogiques et une médiathèque, est livrée en décembre 1995, le musée n’ouvrant au public qu’en 1997. Le grand auditorium qui fait partie du programme d’origine a été abandonné du fait de la construction de l’Opéra Bastille. Il est relancé en mars 2006, grâce à un partenariat entre l’État et la ville de Paris. Construit par Jean Nouvel, lauréat du concours organisé en 2007, il est doté d’une salle de 2400 places et d’un ensemble d’équipements permettant les répétitions des orchestres qui y sont en résidence, notamment l’Orchestre de Paris. Inauguré en 2015, il est réuni avec l’aile Est de la Cité de la musique au sein de la Philharmonie de Paris, établissement public créé par le décret n° 2015-1178 du 24 septembre 2015.