Малий палац, Пті-Пале (як і його «брат» Гранд-Пале) знаходиться біля Єлисейських полів на місці, де раніше розташовувався Палац індустрії, зведений до Всесвітньої виставки 1855 року. Обидва «брата» були побудовані до чергової Всесвітньої виставки 1900 року. Після її завершення Пті-Пале віддали під музей сучасного мистецтва.
З боку власника палацу, міста Парижа, це був далекоглядний крок. Будівля Пті-Пале було найсучаснішим для своєї епохи і відрізнялося рідкісної красою. Ця репутація підштовхувала серйозних колекціонерів передавати картини і скульптури саме сюди. Брати Дютюі з Руана передали музею колекцію старожитностей, яку вони збирали все життя, - предмети мистецтва давньої Греції, Середньовіччя, Ренесансу, фламандську живопис.
Пті-Пале цікавий також своєю багатою колекцією ікон. Ікони досить довго на Заході не вважалися мистецтвом, оскільки не брали участь у розвитку європейського живопису. Так, вивезені білою еміграцією в Європу ікони найчастіше не знаходили покупців. Саме з цієї причини меценат Роже Кабаль зумів на скромні кошти зібрати видатну приватну колекцію ікон, яку подарував музею. Збори серйозно поповнилося під час війни в Лівані - звідти вдалося вивезти і врятувати ікони, що знайшли притулок в Пті-Пале.
Палац, власність муніципалітету, реставрувався повністю на кошти, отримані від податку на проживання в Парижі. Зараз це один з рідкісних безкоштовних музеїв міста.