Ve Vardzíi najdete spoustu horizontálních i vertikálních spojovacích tunelů. Jeden vede i zezadu do chrámu vestavěného do skály, který je jednou z největších atrakcí celého jeskynního komplexu.