Il est né Clarence LaVaughn Walker dans le comté de Sunflower, Mississippi, États-Unis, de métayers Willie et Rachel (née Pittman) Walker. C.L. Franklin se souviendra que la seule chose que son père a faite pour lui était de lui apprendre à saluer à son retour du service lors de la Première Guerre mondiale en 1919. Willie Walker a abandonné la famille quand Clarence avait quatre ans. L’année suivante, Rachel a épousé Henry Franklin, dont la famille a adopté le nom de famille.

À l’âge de 16 ans, il devient prédicateur, travaillant d’abord dans le circuit de prédication itinérant noir, avant de s’installer à l’Église baptiste de New Salem à Memphis, Tennessee, où il reste jusqu’en mai 1944. De là, il s’installe à la chaire de l’Église baptiste de l’Amitié à Buffalo, dans l’État de New York, où il sert jusqu’en juin 1946, date à laquelle il devient pasteur de la Nouvelle Église baptiste Bethel à Detroit, dans le Michigan. À la fin des années 1940 et 1950, sa renommée grandit. Il prêcha dans tout le pays, tout en conservant sa chaire au Nouveau Béthel. Connu comme l’homme à la « Voix d’un million de dollars », Franklin a enregistré plusieurs de ses sermons dans les années 1970 (beaucoup d’entre eux ont été publiés par le label JVB de Joe Von Battle) et ont diffusé des sermons à la radio le dimanche. Il commandait jusqu’à 4000 per par apparition pour ses apparitions publiques, des frais élevés pour l’époque.

Parmi ses sermons les plus célèbres figurent  » L’Aigle Stirreth Son nid » et « Os secs dans la vallée ». En 2011, « The Eagle Stirreth Her Nest » a été ajouté au Registre national d’enregistrement de la Bibliothèque du Congrès. Certains sermons sont publiés dans un volume édité par les Presses de l’Université de l’Illinois. Franklin était également connu pour sa voix chantante et son style de prédication qui se transformait organiquement en chanson; il encourageait également sa fille Aretha Franklin dans ses efforts musicaux. Au cours des années 1950, il l’emmène avec lui lors de tournées de conférences et d’engagements musicaux, et forme un groupe a cappella avec Anthony Alexander Chamblee, son cousin germain.

Dans les années 1950 et 1960, il s’implique dans le mouvement des droits civiques et travaille à mettre fin aux pratiques discriminatoires contre les membres des Black United Auto Workers à Detroit. Franklin était un ami et un partisan de Martin Luther King Jr. Il a aidé à diriger la marche de la liberté du Dr King sur Woodward Avenue à Detroit en juin 1963.