Como la gran mayoría de actores consagrados, su éxito cinematográfico vino precedido de una extensa carrera teatral, forjándose con los textos de Shakespeare y de los clásicos griegos. Comenzó a tener reconocimiento, bien por sus interpretaciones, el éxito entre el público de la película o bien por la calidad de la misma, a raíz de su intervención en La caída del Imperio Romano (Anthony Mann, 1964). Su papel de Cómodo no pasó desapercibido entre tanta estrella, una composición más comedida comparada con la de Joaquin Phoenix en Gladiator (2000) en una historia con muchos puntos en común.
No obstante, la película por la que siempre será recordado es Sonrisas y lágrimas (Robert Wise, 1965), donde dio vida al Capitán Von Trapp, un estricto militar que educa a sus hijos como tal, pero desde que enviudó, decide encargar la educación de sus hijos a una institutriz, Julie Andrews, de la que quedará prendado. El apuesto capitán se convirtió en su papel más mítico, con el que se atreve incluso a cantar y tocar la guitarra. Fruto de un éxito bien digerido, Plummer continuó por esta misma senda con El hombre que pudo reinar (John Huston, 1975), en la que pudo hacerse un hueco entre los gigantes Sean Connery y Michael Caine, interpretando a un estupefacto Rudyard Kipling que presta atención, como si del propio espectador se tratara, a la fascinante historia de aventuras que un harapiento Michael Caine le narra.
Su carrera sufrirá un progresivo deterioro, como les sucedió a tantas primeras figuras de los 60 y 70, en la década de los 80, donde lo único destacable fue su colaboración en la serie El Pájaro Espino (1983). No fue hasta mediados de los 90 cuando consiguió remontar el vuelo, llegando a ser lo que es en la actualidad, uno de los actores secundarios de cierta edad mejor valorados. Prueba de ello es la gran cantidad de películas, la mayor parte grandes producciones americanas, en las que participa, y por las que su rostro es conocido hoy día: Doce Monos (Terry Gilliam, 1995), El Dilema (Michael Mann, 1999), La Búsqueda (Jon Turteltaub, 2004) o El Nuevo Mundo (Terrence Malick, 2005). A pesar de sus 81 años, ha conseguido papeles como protagonista, algo complicado tal y como está hoy en día la industria, ávida de rostros juveniles, y además con un éxito notable. Su interpretación de León Tolstói en La última estación (Michael Hoffman, 2009) le permitió pelear por el oscar, aunque incomprensiblemente encuadrado en la categoría de mejor actor de reparto, pero haciendo justicia, eso sí, a una carrera que merecía al menos la nominación.
Otros títulos importantes de su filmografía:
La rebelde (Robert Mulligan, 1965)
La noche de los generales (Anatole Litvak, 1966)
Waterloo (Sergei Bondarchuk, 1970)
El regreso de la pantera rosa (Blake Edwards, 1975)
Jesús de Nazareth (Franco Zefirelli, 1977)
Asesinato por decreto (Bob Clark, 1978)
Lobo (Mike Nichols, 1994)
Una mente maravillosa (Ron Howard, 2001)
Plan Oculto (Spike Lee, 2006)
El imaginario del doctor Parnassus (Terry Gilliam, 2009)
Millenium: Los hombres que no amaban a las mujeres (David Fincher, 2011)