La Petite Fille de Jérusalem est l'histoire d'une enfance dans la Ville sainte à la fin du XIXe siècle. Les odeurs des souks, les couleurs chaudes de la terre et des murs, le ciel, les musiques, les chants et les prières y sont mêlés. Ses habitants, décrits avec précision et humour, se côtoient : Arabes – musulmans et chrétiens –, Juifs, Turcs, Grecs, Arméniens, Russes, Circassiens, esclaves noirs, Occidentaux de toute confession… On assiste également à l'arrivée des Juifs d'Europe pauvres et en guenilles. C'est à l'abri d'une vieille maison sarrasine et du magasin paternel que Siona Bénédictus grandit. Sa vie est façonnée par la tendresse de sa nourrice moabite, le rigorisme de sa mère, diaconesse luthérienne allemande, et l'excentricité érudite de son père, antiquaire, libraire et se disant archéologue.
La Petite Fille de Jérusalem est également l'histoire du père, Juif d'origine russe, converti à l'anglicanisme, dont la boutique de souvenirs et d'antiquités locales, nichée près du Saint-Sépulcre, fait rêver la « petite Sulamite ». Un lieu magique rempli de vases, de tissus, de stèles et de livres anciens, de dames prenant le thé assises sur des sofas…
Ce père, trop souvent absent, abandonne sa famille pour des expéditions mystérieuses au pays de Moab (Jordanie actuelle). Un jour, il en rapporte un manuscrit fait de bandelettes de cuir gravées d'une ancienne écriture hébraïque qu'il identifie comme l'un des plus anciens rouleaux de la Bible : le Deutéronome. En 1882, Moses Wilhelm Shapira (le véritable nom du père de l'auteur) part à Londres vendre son trésor au British Museum. Accusé de faux, il se suicide dans un hôtel à Rotterdam. Les rêves de richesses de la famille s'effondrent. Détenait-il le premier manuscrit dit de la mer Morte, soixante-cinq ans trop tôt ? C'est la question que pose le texte du bibliste Paul Auvray mis en annexe au roman.
La vie de Siona bascule. Mme Bénédictus ne peut régler les dettes de son époux, vend boutique et maison et retourne, avec sa fille, dans son Allemagne natale. Déracinée, perdue à Berlin, si éloignée de la Jérusalem aimée, Siona fait le serment des exilés de Babylone : « Si je t'oublie, Jérusalem, que ma main droite s'oublie ! » (Psaume 137).