Die Gruppe wurde 1958 in Canton, Ohio, gegründet, als ihre Mitglieder die Canton McKinley High School besuchten. Ursprünglich bekannt als die Maskottchen und dann die Triumphe, begannen die Freunde 1961 mit „Miracles“ aufzunehmen, was ein mäßiger Hit in der Gegend von Cleveland war. 1963 nahmen sie den Namen „The O’Jays“ an, zu Ehren des Cleveland Radio Discjockeys Eddie O’Jay, der Teil des mächtigen Managementteams von Frankie Crocker war, Herb Hamlett & Eddie O’Jay (Toop, 1991). 1963 veröffentlichten die O’Jays mit „Lonely Drifter“ ihren ersten nationalen Chart-Hit auf den Billboard Hot 100 und erreichten Platz 93. Ihr Debütalbum, das kurz darauf veröffentlicht wurde, kam durch.

Trotz ihres Erfolgs als Tourgruppe und in den R&B-Charts hatte die Gruppe 1972 überlegt, die Musikindustrie zu verlassen. Um diese Zeit, Die ursprünglichen Mitglieder Bill Isles und Bobby Massey gingen, Verlassen der Gruppe ein Trio. Die restlichen drei ursprünglichen Mitglieder, Eddie Levert, William Powell und Walter Williams, kämpften weiter und & Huff, ein Team von Produzenten und Songwritern, mit denen die O’Jays seit mehreren Jahren zusammengearbeitet hatten, unterschrieb sie bei ihrem Philadelphia International Label. Plötzlich änderte sich das Schicksal der O’Jays und sie punkteten schließlich mit ihrem ersten Millionenverkäufer „Back Stabbers“ aus dem gleichnamigen Album. Dieses Album produzierte mehrere weitere Hit-Singles, darunter „992 Argumente“, „Sonnenschein“, „Zeit runter zu kommen“ und der # 1 Pop Smash „Love Train.“Nach dem Hinzufügen von Sammy Strain (geboren am 9. Dezember 1939) (von Little Anthony and the Imperials) setzten die O’Jays die Aufnahme fort, wenn auch mit begrenztem Erfolg. 1978 veröffentlichte die Gruppe „Use ta Be My Girl“, ihren letzten Top-Five-Hit, obwohl sie in den 1980er Jahren weiterhin Songs in den R&B-Charts platzierten. Der Erfolg der O’Jays war nicht auf die Vereinigten Staaten beschränkt, da sie zwischen 1972 und 1983 auch neun Hit-Singles im Vereinigten Königreich aufzeichneten, darunter vier Tracks, die die Top 20 in der UK Singles Chart erreichten. Ihr 1987er Album Let Me Touch You war eine Art Durchbruch und enthielt den #1 R&B Hit „Lovin‘ You.“ Obwohl sie in den späten 1980er und frühen 1990er Jahren weiterhin in den R&B-Charts auftraten, erzielten die O’Jays nie wieder Pop-Erfolge. 1992 verließ Sammy Strain die Gruppe und kehrte zu den Imperials zurück. 13. Dezember 1960), der später von Eric Grant ersetzt wurde. Später in den 1990er Jahren machte die Gruppe wenig Aufnahmen, obwohl sie eine beliebte Live-Auslosung blieb. Ihr letztes Album war Imagination, das 2004 veröffentlicht wurde.

Probleme beim Abspielen dieser Datei? Siehe Medienhilfe.

Im Jahr 2003 spielte das Trio in dem Film The Fighting Temptations mit Cuba Gooding Jr. und Beyoncé Knowles. In dem Film spielten sie drei Friseure mit unglaublicher Stimmharmonie, die sich dem örtlichen Kirchenchor anschlossen, um den Protagonisten des Films zu helfen: Darrin (Gooding) und Lilly (Knowles), die Chorleiterin bzw.2005 wurden die O’Jays in die Rock and Roll Hall of Fame aufgenommen. Die ursprünglichen Mitglieder Eddie Levert, Walter Williams, Bobby Massey und posthum William Powell wurden aufgenommen. In einer kontroversen Notiz, Sammy Strain wurde ebenfalls in die Gruppe aufgenommen, während ursprüngliches Mitglied Bill Isles nicht war. (Strain ist einer der wenigen Künstler in der Geschichte der Popmusik, der doppelt in den RRHOF aufgenommen wurde: mit The O’Jays im Jahr 2005 und Little Anthony and the Imperials im Jahr 2009). Im Jahr 2006 traten die O’Jays bei den ESPY Awards auf, die von Lance Armstrong moderiert wurden. „Aus Liebe zum Geld“ war der Titelsong der erfolgreichen Reality-TV-Show The Apprentice mit Donald Trump, und die Gruppe spielte das Lied einmal live in der Show.Am 23. Februar 2007 berichtete die Website von Radio-Canada, dass der kanadische Industrieminister Jim Prentice das Lied „For The Love of Money“ ohne die Erlaubnis der Gruppe während einer politischen Veranstaltung verwendet habe, ein Fauxpas, da Prentice für die Anwendung des Urheberrechtsgesetzes in Kanada verantwortlich ist. Radio-Canada berichtete auch, dass Prentice seitdem von den Anwälten sowohl für The O’Jays als auch für Warner / Chappell Music kontaktiert wurde.Am 28.Juni 2009 wurden die O’Jays bei der BET Award Show 2009 im Shrine Auditorium mit dem BET’s 2009 Life Time Achievement Award geehrt. Tevin Campbell, Trey Songz, Tyrese Gibson und Johnny Gill führten ein Medley der Songs der Gruppe auf, gefolgt von der Preisverleihung durch Don Cornelius. Die Gruppe erinnerte sich, scherzte mit dem Publikum, und nahm ihre Auszeichnung an, bevor sie Interpretationen ihrer Hits aufführte.

Am 30.Oktober 2010 trat die Gruppe bei Jon Stewart und Stephen Colberts Rally to Restore Sanity and/or Fear in Washington, DC auf. In Cleveland, Ohio, wurden die O’Jays am 17.August 2013 in die National Rhythm & Blues Hall of Fame aufgenommen. Die O’Jays sind auch zweimalige Grammy Hall of Fame-Kandidaten für ihre Songs „Love Train“ (aufgenommen 2006) und „For the Love of Money“ (aufgenommen 2016).Am 25. Juni 2019 listete das New York Times Magazine The O’Jays unter Hunderten von Künstlern auf, deren Material Berichten zufolge beim Universal Fire 2008 zerstört wurde.