Около одного км. к югу от Южных ворот расположена Малая пагода Диких гусей. Пагода была построена при закладке Храма Счастья. Храм был основан в честь второго императора Тан Гаоцзун (Ли Чжи; 628-683 гг., правил 649-683 гг.) через год после его смерти.

Он был построен его вдовой, императрицей У Цзэтянь (624-705 гг., 690-705 гг.), которая установила жесткий контроль за страной. Знаменитый буддийский центр, храм Счастья стал местом прибывания 200 монахов в период Тан (618-907 гг.). Ее знаменитым обитателем был паломник И Цзин (635-713 гг.), который поселился там в 705 году, также как и Сюань Дзан (602-664 гг.) в храме Милосердия, он переводил буддийские писания, привезенные с собой из Индии. Храм был разрушен, за исключением двух больших колоколов, которые первоначально располагались во внутреннем дворе храма. В настоящее время два здания возле пагоды, построенные в период Мин, используются в административных целях.

Пагода была построена в период с 707 по 709 гг., но свое нынешнее название приобрела только после того, как соседняя пагода на юго-востоке стала называться Большой пагодой Диких гусей. Она также предназначалась для хранения буддийских сутр. Хотя она ниже Большой пагоды Диких гусей, ее высота составляет 43 метра, она содержит больше этажей.

В 1555 году в период Мин землетрясение разрушило первоначальную 15-метровую пагоду: трещина прошла с крыши до основания, а два верхних этажа обвалились. Трещина была заделана, но во время ремонта два обрушившихся этажа не были восстановлены. Современная 13-этажная пагода — это результат труда танских архитекторов, которые продемонстрировали свое мастерство в строительстве пагод. Пагода, пережив дюжену землетрясений за последние 200 лет, до сих пор стоит на своем месте.

Полностью она была отреставрирована в 1965 году, когда установили громоотводник и провели освещение. Пагода Малого Дикого Гуся построена из кирпича, по форме представляет квадрат, каждая сторона которого составляет 11.38 метров. Она смотрится очень изящно с ритмичным рядом выступающих карнизов. На первом этаже на северной и южной арками находятся танские гравюры и фигуры Будды. Надписи минского периода рассказывают о землетрясении, которое не смогло разрушить пагоду.