Počátky Obrazárny Pražského hradu sahají do přelomu 16. a 17. století, do období vlády císaře Svaté říše římské, českého krále a rakouského arcivévody Rudolfa II. Od roku 1583, kdy Rudolf II. požádal české stavy o příspěvek na zvelebení Pražského hradu, došlo nejen k nákupům obrazů a soch po celé Evropě a k vytváření uměleckých děl na zakázku pro tuto sbírku, ale i k dostavbě několika sálů pro jejich vystavení. Prostor byl vybrán nad již dříve postavenými Konírnami mezi dnešním II. nádvořím a Jelením příkopem a také v budově oddělující dnešní druhé a třetí nádvoří. Největší ze sálů, dnes nazývaný Španělský,  byl dostaven v roce 1606. Celá sbírka v roce 1612, kdy Rudolf II. umírá, obsahovala kolem 3000 děl.

Během následující Třicetileté války byla část obrazů odvezena do Vídně. Podstatná část se až několik dní před koncem války stala kořistí cíleného výpadu švédských vojsk, nařízeného královnou Kristýnou na popud Jana Amose Komenského, který chtěl uchránit poklady českého království před katolickými Habsburky. Švédové měli konkrétní popis sbírky v podobě císařského inventárního soupisu z roku 1647. Přes 500 obrazů se tak dostalo do Švédských sbírek, kde jsou většinou dodnes. V roce 1649 byl na Pražském hradě pořízen nový inventární seznam, který zahrnoval jen dva obrazy a mnoho prázdných rámů.

Protože Pražský hrad měl nadále sloužit Habsburkům jako reprezentativní sídlo, došlo jednak k zpětnému převozu části obrazů z Vídně, jednak k nákupům dalších obrazů. Obnovená obrazárna pak nejpozději v roce 1656 obsahovala asi 600 obrazů, a ačkoliv tehdy byla mnohem menší, svou uměleckou hodnotou nezaostávala ani za původní sbírkou, ani za sbírkami vídeňskými. Během 18. století bylo několik obrazů převezeno do Vídně a jiné zase do Prahy, ale Obrazárna jako taková zůstala zachována až do přestavby Pražského hradu za vlády Marie Terezie. Obrazárna jako samostatný prostor byla zrušena v roce 1762. Obrazy nadále nesloužily jako samostatná sbírka ve vyčleněném prostoru, ale pouze jako dekorace královských apartmánů. Velký soubor obrazů byl prodán do Drážďan, ostatní „přebytečné“ obrazy byly prodány v dražbě. Původní prostory určené pro prezentaci Obrazárny Pražského hradu se již od tereziánské přestavby pro tento účel nikdy nevyužily a dodnes slouží jako prostory reprezentativní.

Po roce 1918 požadovala nově vzniklá Československá republika po Rakousku navrácení odvezených obrazů. Rakouská strana sice tento nárok uznala, ale k navrácení nabídla pouze podřadné obrazy, takže k dohodě nedošlo. Následně byly prostory Pražského hradu nově vyzdobovány obrazy zakoupenými z tzv. Masarykova fondu národní kultury a část starých sbírek byla zapůjčena do Národní galerie. Samostatná obrazárna na Hradě neexistovala. V roce 1961 byla další část obrazů s tehdy „nevhodnou“ náboženskou tématikou předána Státnímu ústavu památkové péče. Tím bylo dokončeno tříštění a redukování původních sbírek.

Změna atmosféry v ČSSR v šedesátých letech se však pozitivně přičinila o to, že po dlouhém úsilí dochází v letech 1964 – 1965 k přestavbě původních koníren pod Španělským sálem a vzniká zde nová Obrazárna Pražského hradu. Pod vedením profesora Jaromíra Neumanna, z rozhodnutí tehdejšího prezidenta Antonína Novotného, došlo k obnovení původního záměru císaře Rudolfa II. a expozice, která je sice početně jen zlomkem původních sbírek, ale je významná kvalitou jednotlivých uměleckých děl, se znovu vrátila na Pražský hrad. Poprvé se tak stala bez omezení přístupnou veřejnosti a navíc se dostala do kontextu jiných evropských galerií a některá její unikátní díla jsou dodnes zapůjčována na výstavy u nás i v zahraničí.

Po roce 1989 dochází k hledání nové tváře Pražského hradu, mnohé prostory, které byly dříve uzavřené, se otvírají návštěvníkům, mnoho věcí se rekonstruuje a mění. Snaha dát Hradu novější, moderní vzhled vedla i k rozhodnutí o proměně Obrazárny Pražského hradu. V letech 1995–1998 byly zásadně technicky rekonstruovány všechny prostory podle moderních norem bezpečnosti a klimatizace. Dále byly podle projektu Bořka Šípka, pozvaného na Hrad prezidentem Václavem Havlem, provedeny úpravy výstavních prostor, nové řešení vchodu a vybavení interiérů sedacím nábytkem. Podařilo se také zakoupit několik obrazů z původní Rudolfovy sbírky. Pro stálou expozici byly vybrány pouze nejvýznamnější kusy historického a moderního malířství. V prostorách Obrazárny byla jednotlivá díla rozmístěna podle příslušnosti k lokálním malířským školám. Vlastní prostor mají také obrazy rudolfinských mistrů a díla ze sbírek císaře Rudolfa II.  Autorkou poslední koncepce Obrazárny Pražského hradu je PhDr. Eliška Fučíková, která již v šedesátých letech byla asistentkou profesora Neumanna a podívala se na výzkumech historie sbírek Pražského hradu, včetně srovnávání jednotlivých historických inventářů a dalších dokumentů, které umožňují objasnit vývoj těchto sbírek od 16. století pod dnešek. Mezinárodního ocenění dostala sbírka této nové Obrazárny v roce 2001, kdy byla jako celek vystavena v Maastrichtu.