El origen de esta prisión se remonta al año 1830 y los primeros presos llegaron en 1835.
La prisión estaba situada entre las calles de Dzielna, Wiezienna y Pawiak; el nombre de esta última es de la que recibiría el nombre el complejo penitenciario y que significa: pavo real.
Desde sus inicios, junto a los presos comunes también había presos políticos. Tras el levantamiento de enero de 1864, llegaron a Pawiak los participantes en la sublevación, como los miembros del Gobierno Nacional y el líder de las tropas polacas Romuald Tragutt, que finalmente fue ejecutado. Junto a ellos también se encontraban miembros de diversas organizaciones políticas que también lucharon contra las autoridades zaristas.
Polonia (1939-1944), ya que fue en ella en donde la Gestapo realizaba la mayor parte de sus interrogatorios. Las autoridades de ocupación estaba dispuesta a acabar con las élites polacas con el fin de eliminar toda resistencia y convertir a los polacos en simples súbditos del III Reich. Esa política convirtió a Pawiak en uno más de los crueles eslabones del sistema de terror que instauró el nazismo en tierras polacas.
Los presos pertenecían a todos los grupos sociales y en la prisión estuvieron recluidos desde miembros de organizaciones clandestinas hasta simples transeúntes. No solo llegaban hombres o mujeres solos, también llegaban familias enteras, con niños pequeños o mujeres embarazadas.
Las condiciones de vida en las celdas eran muy duras: celdas al triple o el cuádruple de su capacidad (de 3 personas a 10 o 18), ridículas raciones de comida, el constante acoso y extrema brutalidad de los carceleros alemanes y la constante convicción de la muerte. Pasar a las celdas 265, 267 y 268, en el módulo masculino y a las 8 y 9 o la capilla, en el módulo de mujeres, significaba la muerte inminente.
Se calcula que en el periodo de ocupación alemana pasaron por la prisión de Pawiak cerca de 100.000 prisioneros, de los que 37.000 fueron ejecutados y unos 60.000 fueron deportados a los campos de concentración.
En la pared de una de las celdas aún se puede leer:
¡Es fácil hablar de Polonia. Más difícil es trabajar por ella. Aún es más difícil es morir y lo más difícil es sufrir!
Ante la proximidad del frente los alemanes iniciaron la liquidación de la población reclusa. Por ese motivo, el 19 de julio de 1944, algunos presos iniciaron un motín, con apoyo del exterior, pero este fracasó. El líder del motín, el ucraniano Wachmeister Petrenko se suicidó junto a otros amotinados. Como represalia, los alemanes ejecutaron al día siguiente a 380 presos.
Los alemanes llevaron a cabo ejecuciones masivas de los prisioneros restantes entre el 13 y el 18 de agosto, durante el Levantamiento de Varsovia.
El 21 de agosto, los alemanes en su huida de la capital polaca, volaron por los aires el complejo carcelario de Pawiak y quedaron destruidos la mayor parte de los archivos de los prisioneros. Por lo que probablemente nunca se conozcan los nombres de todos los hombres y mujeres que sufrieron entre los muros de Pawiak.