Den 18. maj 1705 lagde kirkens patron Ulrik Christian Gyldenløve grundstenen til et rummeligt kapel langs Børskanalen. Det var gammel praksis at kirkerne efterhånden tillagde en krans af småbygninger til begravelser. Der var således et lille kapel fra 1660 med to begravelser, der hvor nu Store Skriftestol findes. Et andet kapel fra 1660'erne lå ud for indgangen til Urtegårdsgangen og fungerede som trappehus med gravkrypt underneden. Det blev revet ned 1834, og erstattet med en større bygning, der helt sløjfedes i 1872. 1697 var blevet opført et gravkapel til søhelten Niels Juel i hjørnet mellem Korgang og Urtegårdsgang. Det blev brudt ned i 1709, da Niels Juels gravmæle flyttedes til dets nuværende plads. På stedet opførtes et sakristi i 1770 og i 1834 den nuværende Lille Skriftestol. Men der var brug for et større kapel med plads til flere begravelser, og derfor blev det store gravkapel til. Arkitekten hed Johan Conrad Ernst. Han var stadsbygmester og avancerede senere til generalbygmester. 
Kongen ville nødig berøves sin gode udsigt fra slottet ud over Holmen, så da spærrene rejste sig over bygningen blev der råbt stop ovre fra Slotsholmen. Ernst måtte udarbejde nye planer til et helt fladt tag, som kunne få kongelig approbation. Kapelsalen var egentlig ikke bestemt til at være gravplads - kisterne skulle stå nedenunder i de 34 gravkrypter. Men allerede 1709 fik Niels Juel og Niels Benzon deres gravkapeller i salen. Andre endnu eksisterende "knop- skydninger" på Holmens Kirke er som nævnt Lille og Store Skriftestole fra de to store istandsættelser i hhv. 1834 og 1872.
