На месте усадьбы герцога де Пине из рода Люксембургов в 1615 году началось строительство дворца. Его заказала вдова короля Генриха IV Мария Медичи, которая после смерти супруга не желала жить в Лувре. Она попросила архитектора Саломона де Бросса перестроить герцогский отель в «тосканском стиле».
В 1626 году де Бросс скончался, и до 1631 года за ходом строительства следил Жак Лемерсье. После смерти королевы дворец стал жилищем герцогов Орлеанских. В 1723 году опустевшее здание стало Люксембургским музеем, где были выставлены полотна фламандских художников, в том числе Рубенса.
Во время Французской революции Люксембургский дворец превратили в тюрьму, а в 1799 году передали Сенату. Во время фашистской оккупации Парижа здесь находился штаб люфтваффе. В настоящее время здание вновь занято Сенатом Франции; его окружает Люксембургский сад.