Különleges jelentőséggel bír a zsinagóga udvarán található temető, hiszen a zsidó hagyomány szerint temetkezési helyeket nem szokás imahelyek közelében kialakítani. A Dohány utcai zsinagóga az egyetlen a világon, amelynek kertjében mégis temető van, ez azonban a második világháború körülményei közt, szükségből jött létre.

Az 1944. november 18-án létrehozott budapesti gettóban a nélkülözés, az éhezés, a hideg és a nyilasok gyilkosságai miatt rengetegen életüket vesztették. A zord időjárás és a háborús körülmények miatt a holttesteket nem tudták temetőbe szállítani, így több mint 3000 áldozat teste maradt a zsinagóga falánál, valamint a környező utcákon és tereken. Őket végül a zsinagóga udvarán, 24 közös sírban temették el.

A zsidó vallási törvények tiltják a holttestek kihantolását, valamint azt is, hogy temetkezés történjen egy zsinagógában vagy annak közvetlen közelében. A budapesti gettó áldozatainak többsége ezért nyugodhat ma is a templom kertjében, a vallás temetési előírásai ugyanis erősebbek voltak a megszokott gyakorlatnál.