Ne voulant pas être séparé de son épouse pour l’éternité, l’Archiduc Héritier fit construire sous l’église un caveau pour lui et son épouse la duchesse de Hohenberg.
Le décès d’un quatrième enfant en automne 1908 en fut le prétexte. Ce dernier est enterré dans le mur au-dessus de ses parents. Le caveau lui-même fut construit en 1909 par l’architecte Ludwig Baumann avec des sarcophages simples. Peu après leur enterrement, le caveau d’Artstetten devint un lieu de pèlerinage pour les autrichiens.
De 1955 à 1956, un nouveau caveau fut construit pour les deux fils de l’Héritier du Trône et leurs descendants. Les descendants de la princesse Anita de Hohenberg et du Comte Romée de La Poëze d’Harambure ont repris l’ancien caveau du château, lequel est situé directement sous l’église.