La Puerta de Sión es una de las puertas originales de la muralla otomana pero tenía mucho menor importancia que la Puerta de Yafo y servía como un punto muy secundario de salida de la ciudad, principalmente para los que iban a los cementerios y construcciones religiosas del Monte Sión.
La Puerta de Sión resultó gravemente dañada en 1949 cuando el Palmáj la hizo explotar para lograr acceso a la sitiada comunidad judía en la ciudad antigua.
La puerta fue parcialmente reparada después de la Guerra de los Seis Días.
Algunas de las cicatrices de la batalla se exponen deliberadamente para registrar la historia de la ciudad.