De groep werd in 1958 opgericht in Canton, Ohio, toen de leden van de groep naar de Canton McKinley High School gingen. Oorspronkelijk bekend als de Mascots, en vervolgens de Triumphs, de vrienden begonnen met het opnemen met “Miracles” in 1961, dat was een matige hit in de omgeving van Cleveland. In 1963 namen ze de naam “The O ‘Jays” aan, als eerbetoon aan de Cleveland radio diskjockey Eddie O ‘ Jay die deel uitmaakte van het krachtige managementteam van Frankie Crocker, Herb Hamlett & Eddie O ‘ Jay, (Toop, 1991). In 1963 brachten The O ‘ Jays Lonely Drifter uit, hun eerste hit in de Billboard Hot 100. Hun debuutalbum, dat kort daarna uitkwam, werd Comin ‘ Through.ondanks hun succes als touring group en op de R&B charts, overwoog de groep om in 1972 te stoppen met de muziekindustrie. Rond die tijd, de originele leden Bill Isles en Bobby Massey vertrokken, waardoor de groep een trio. De overige drie originele leden, Eddie Levert, William Powell, en Walter Williams, waren actief op en Gamble& Huff, een team van producers en songwriters met wie the O ‘ Jays al enkele jaren werkte, tekenden hen bij hun Philadelphia International label. Plotseling, de O’ Jays ‘ fortuinen veranderd, en ze eindelijk scoorde met hun eerste miljoen-verkoper, “Back Stabbers,” van het album met dezelfde naam. Dit album produceerde nog een aantal hitsingles, waaronder “992 Arguments”, “Sunshine”, “Time To Get Down” en de #1 pop smash, ” Love Train.na het toevoegen van Sammy Strain (geboren op 9 December 1939) (van Little Anthony and The Imperials), gingen the O ‘ Jays verder met het opnemen, maar met beperkt succes. In 1978 bracht de groep “Use ta Be My Girl” uit, wat hun laatste Top-vijf hit was, hoewel ze nummers bleven plaatsen op de R&B charts gedurende de jaren 1980. The O ‘Jays’ succes was niet beperkt tot de Verenigde Staten, als ze ook geregistreerd negen hitsingles in het Verenigd Koninkrijk tussen 1972 en 1983, waaronder vier nummers die de Top 20 in de UK Singles Chart bereikte. Hun album uit 1987, Let Me Touch You, was een doorbraak van een soort, en bevatte de # 1 R&B hit “Lovin’ You. Hoewel ze in de late jaren 1980 en vroege jaren 1990 de R&B charts bleven zetten, bereikten de O ‘ Jays nooit meer popsucces. In 1992 verliet Sammy Strain de groep en keerde terug naar The Imperials. Strain ‘ s vertrek werd ingevuld door Nathaniel Best (geboren op 13 December 1960), die later werd vervangen door Eric Grant. Later in de jaren 1990, de groep deed weinig opnemen, hoewel ze bleef een populaire Live draw. Hun laatste album was Imagination dat in 2004 werd uitgebracht.