El edificio fue fundado por los jesuitas en el año 1556, construido en el sitio de un antiguo monasterio dominicano, y no fue convertido en biblioteca hasta dos siglos más tarde. La biblioteca forma parte del conjunto de edificios históricos Clementinum, el segundo complejo monumental y arquitectónico más grande de Praga, que alberga también dos iglesias, tres capillas varias salas de exposiciones y un observatorio astronómico.
El impresionante techo de la Biblioteca Nacional de la República Checa, lleno de frescos pintados por el artista Jan Hiebl, su colección histórica de globos terráqueos y los enormes estantes de madera, la convierten en un sitio realmente mágico y fascinante.
El Clementinum aparece en el relato “El milagro secreto”, dentro del libro Ficciones (1944) de Jorge Luis Borges, en la que su protagonista tiene un sueño de esta biblioteca donde los bibliotecarios buscan a Dios en sus libros. Uno de los bibliotecarios dice: “Dios está en una de las letras de una de las páginas de uno de los cuatrocientos mil libros del Clementinum. Mis padres y los padres de mis padres han buscado esta letra; yo mismo me he quedado ciego buscándola”. Tras abrir un atlas al azar, en el que aparece un mapa de la India, el protagonista encontrará a Dios tocando una de sus letras.
También Borges afirmó en una de sus citas más famosas: “Siempre me he imaginado el paraíso como una especie de biblioteca”, y sin duda la Biblioteca de Praga sería uno de los mejores ejemplos.