V roku 539 pred n. l. padla Novobabylonská ríša v bitke pri Opise pod vedením
perzského kráľa Kýra Veľkého. Múry Babylonu boli veľmi vysoké a hrubé. Jediná cesta do mesta viedla cez jednu z mnohých brán. Vedľa hradieb tiekol Eufrat a Kýros sa rozhodol využiť rieku, aby sa dostal do mesta. Kýrove vojská odklonili rieku Eufrat. To spôsobilo, že hladina rieky klesla a vojaci mohli vstúpiť do mesta.
Babylončania v ten večer usporiadali oslavu. Perzská armáda obsadila väčšinu mesta skôr, ako sa Babylončania dozvedeli, že sa Peržania dostali do mesta. Túto správu podal Herodotos a spomína sa aj v hebrejskej Biblii. Kýros sa zmocnil mesta tak, že prešiel cez brány Babylonu, pričom opití Babylončania nekládli takmer žiadny odpor.
Kýros neskôr vydal dekrét, ktorý umožnil ľuďom vrátane Židov vrátiť sa do svojej krajiny. Spomína sa to v Starom zákone. Umožnil obnoviť židovský chrám v Jeruzaleme.
Za Kýra a nasledujúceho perzského kráľa Dareia Veľkého sa Babylon stal hlavným mestom 9. satrapie (Babylónia na juhu a Atúra na severe). Bolo centrom vzdelanosti a vedeckého pokroku. V achaimenovskej Perzii sa oživilo babylonské umenie astronómie a matematiky. Babylonskí učenci zostavovali mapy súhvezdí. Mesto bolo administratívnym hlavným mestom Perzskej ríše. Táto ríša bola najmocnejšou vo vtedajšom známom svete. Uskutočnilo sa mnoho významných archeologických objavov, ktoré zlepšujú naše poznatky o tomto období.
Prví perzskí králi sa snažili zachovať Mardukove náboženské obrady. Za vlády Dareia III. viedlo nadmerné zdanenie a početné vojny k úpadku hlavných babylonských svätýň a kanálov a k rozpadu regiónu. Napriek trom povstaniam v rokoch 522, 521 a 482 pred n. l. zostala krajina a mesto Babylon dve storočia pod perzskou nadvládou. V roku 331 pred n. l. sa vlády ujal Alexander Veľký. Pod vládou Partskej ríše sa Babylon naďalej zmenšoval a strácal na význame.