Het Oude Observatorium te Peking werd tijdens de Yuan-Dynastie onder Koeblai Khan in 1279 door de astronomen Wáng Xún (王恂)en Guō Shǒujìng (郭守敬) in de buurt van de tegenwoordige locatie gesticht. Kopieën van de oorspronkelijke instrumenten bevinden zich ten westen van de uitzichttoren bij het tegenwoordige tentoonstellingsgebouw. Die uitzichttoren is nog van de Ming-dynastie, 1442. Het grootste deel van de daar tentoongestelde oude instrumenten werd gebouwd in 1442 tijdens de Ming-dynastie en later nog verbeterd tijdens de Qing-dynastie, dus na 1644.
Het Oude Observatorium van Beijing is een van de oudste observatoria ter wereld. De gehele museum ruimte beslaat een oppervlak van 10.000 m². Het observatorium zelf bevindt zich op een 15 meter hoog stenen platform van 40 bij 40 meter, een uitbouw van de oude stadswal van de Ming-dynastie, zoals boven gezegd.
Het oudste deel stamt zelfs uit de Yuan-dynastie, uit het jaar 1279. Een markante 10 meter hoge observatietoren stamt uit de Ming-dynastie, zie boven 1442. Tijdens de Qing-dynastie werden de meeste instrumenten door de jezuïet Ferdinand Verbiest vernieuwd en verbeterd. Verbiest had rond 1660 na zijn confrater Adam Schall von Bell grote zeggenschap over het observatorium.
Later kwamen er nog een theodoliet (1715) en een nieuw armillarium (1744) bij. Tijdens en na de val van de Qing-dynastie, 1912, kwamen troepen van de achtlandenalliantie naar China en sleepten veel oude instrumenten weg, die echter tegen het einde van de Eerste Wereldoorlog grotendeels teruggegeven werden.
De tegenwoordige instrumenten stammen overwegend uit de tijd van Ferdinand Verbiest, vanaf 1666 het hoofd van de missie van de jezuïeten in China. Weliswaar was in Europa de verrekijker al bekend, maar positiebepalingen aan de hemel werden overal verder op de wereld meestal nog zonder telescoop gedaan. De felle strijd en de confrontatie tussen de jezuïeten, die Tycho Brahes idee aanhingen en de Chinese astronomen, die aanhangers waren van de traditionele astronomie, leidden tot de arrestatie van Verbiest en zijn confrater Adam Schall von Bell op 16 november 1664.
Zij werden beschuldigd van samenzwering tegen de Staat. Maar op 2 mei 1665 werd, mede door de aardbeving in Peking, gratie verleend aan beiden. In 1670 werd Ferdinand Verbiest benoemd tot directeur van het Keizerlijk Observatorium van Peking. Hij kreeg van keizer Kangxi van de Qing-dynastie, die door vele historici beschouwd wordt als de meest succesvolle onder alle Chinese keizers, de opdracht om nieuwe astronomische instrumenten te bouwen.
Op het terrein in de voorhof van het tentoonstellingsgebouw bevinden zich replica van de oudere instrumenten. Deze replica zijn gemaakt in 1983. De originele van deze replica bevinden zich in het Purple Mountain Observatorium in Nanking:
Bij deze beide armillarsferen bevonden zich oorspronkelijk bekkens die met water gevuld waren en als een waterpas voor de instrumenten dienden.