Die Anfänge des jüdischen Friedhofs reichen bis ins Mittelalter zurück. Er lag außerhalb der Stadtmauern auf einem Hügel, an dessen Fuß heute die Heinrichstraße vorbeiführt. Am südseitigen Hang befand sich früher „das Schmitze Bächelsche“. Ein fließendes Gewässer war für die rituellen Waschungen auf dem Friedhof nötig und ermöglichte die Einrichtung einer Brunnenanlage. Noch heute zeugt davon der Brunnenstein. Auf dem Friedhof wurde seit Mitte des 14. Jh. bestattet. Grabsteine aus dieser Zeit existieren nicht mehr. Der Friedhof der mittelalterlichen Gemeinde ist mit dem der im 17. Jh. wiederbegründeten neuzeitlichen Gemeinde identisch. Der älteste erhaltene Stein stammt aus dem Jahr 1696 und wurde für Mosche Sohn des Mordechai Hakohen gesetzt. Viele bedeutende Mitglieder der jüdischen Gemeinde wurden hier beigesetzt. Dazu gehören Isaac Bürger, sein Sohn Samuel Bürger, Isaak Levison oder Samuel Wallerstein.

Über die Beerdigungen in der NS- Zeit ist wenig bekannt. Nach dem Zweiten Weltkrieg wurden auf Weisung der Besatzungsmächte die kriegsbedingten Zerstörungen sowie jene des NS-Vandalismus beseitigt und der Friedhof instandgesetzt; dies war Ende 1948 abgeschlossen. Die vorerst letzte Bestattung fand im Jahr 1997 statt. Der Friedhof ist Eigentum des „Landesverbands der Jüdischen Gemeinden von Nordrhein“, seine Pflege und Erhaltung obliegt der Stadt Siegburg.

Am 23. September 1962 wurde ein Gedenkstein in deutscher und hebräischer Sprache für die jüdischen Opfer des NS-Regimes errichtet. Am 1. September 2009 erfolgte die Pflanzung von einer Eiche und drei Buchen als Mahnung und Symbol für die Menschenrechte sowie die Enthüllung einer Erinnerungstafel an die Geschehnisse der Schoah. Am 4. September 2009 wurde ein Gedenkstein für die in der Schoah ermordete Familie Rochmann eingeweiht.

Auf einer Fläche von 6.294 qm befinden sich mehr als 364 Grabsteine (Mazewot). Der Friedhof steht unter Denkmalschutz und ist der Öffentlichkeit nur im Rahmen von Führungen zugänglich.