收藏馆的起源可以追溯到神圣罗马帝国皇帝、波希米亚国王和奥地利大公鲁道夫二世统治时期。1583 年，鲁道夫二世要求捷克议会为布拉格城堡的改建提供捐款，从那时起，不仅在欧洲各地购买了绘画和雕塑作品，并委托专人进行艺术品收藏，还建造了几个房间来展示这些作品。1612 年，鲁道夫二世去世时，收藏的艺术品已超过 3000 件。

在随后的三十年战争期间，部分画作被运往维也纳。克里斯蒂娜女王在扬-阿莫斯-夸美纽斯（Jan Amos Comenius）的怂恿下下令保护波希米亚王国的珍宝不受天主教哈布斯堡王朝的侵害，因此大部分藏品成为瑞典军队的猎物。500 多幅画作因此被瑞典收藏，其中大部分至今仍保留在瑞典。

由于布拉格城堡将继续作为哈布斯堡王朝的代表居所，部分画作从维也纳运回，其他画作则被购买。最迟在 1656 年，修复后的画廊已收藏了约 600 幅绘画，虽然比原来的画廊小了很多，但其艺术价值并不逊色于维也纳的收藏。直到玛丽亚-特蕾莎统治下的布拉格城堡重建之前，画廊一直保留着原貌，1762 年作为一个独立的空间被关闭。这些画作仅作为皇室居室的装饰。大量画作被卖到了德累斯顿，其他画作则被拍卖。

1918 年后，新成立的捷克斯洛伐克共和国要求奥地利归还画作。奥地利方面承认了这一要求，但只提出归还劣质作品，因此没有达成协议。随后，从所谓的马萨里克国家基金购买的画作重新装饰了布拉格城堡，部分旧藏品也借给了国家美术馆。然而，城堡里并没有单独的画廊。1961 年，另一部分以当时 "不适当的 "宗教为主题的绘画作品被移交给了国家遗产保护研究所。至此，原有藏品被分割和缩减。

然而，20 世纪 60 年代气氛的变化起到了积极的作用，经过长期的努力，1964-1965 年，原来位于西班牙厅下面的马厩被改建成了布拉格城堡新的图片展览厅。在雅罗米尔-诺伊曼（Jaromír Neumann）教授的领导下，根据时任总统安东宁-诺沃特尼（Antonín Novotný）的决定，恢复了鲁道夫二世皇帝的初衷。 展览在数量上只是原藏品的一小部分，但在单件艺术品的质量上却意义重大，它重新回到了布拉格城堡，并开始向公众开放。

1989 年后，人们开始寻找布拉格城堡的新面貌。以前关闭的空间向游客开放，许多东西都在重建和改变。赋予城堡更新、更现代的面貌的愿望也促成了改造图片库的决定。1995-1998 年，按照现代安全和空调标准对所有房间进行了大规模技术翻新。根据 Bořek Šípek 的计划，对展览空间进行了改造，重新设计了入口，并在室内配备了座椅家具。此外，还可以购买鲁道夫原来收藏的几幅画作。最重要的历史和现代绘画作品被选作永久展览，个别作品则根据其与当地绘画学校的关系进行了排列。鲁道夫大师的画作和鲁道夫二世皇帝的藏品都有自己的展厅。

绘画廊最新概念的作者是艺术史学家 Eliška Fučíková，她曾是诺伊曼教授的合作者，参与过布拉格城堡收藏史的研究。新绘画廊的藏品于 2001 年在马斯特里赫特整体展出时获得了国际认可。