La società è stata fondata nel 1919 da General Motors (GM) come General Motors Acceptance Corporation (GMAC) per fornire finanziamenti ai clienti automobilistici. Nel 1939, la società fondò la Motors Insurance Corporation ed entrò nel mercato assicurativo dei veicoli.

Nel 1985, mentre GM era sotto la guida di Roger Smith, che ha cercato di diversificare la società, GMAC formata GMAC Mortgage e acquisito Colonial Mortgage così come il braccio di servizio di Norwest Mortgage, che comprendeva un portafoglio di mortgage 11 miliardi di mutui.

Nel 1991, la società fu costretta a cancellare bad 275 milioni di crediti inesigibili come parte di una perdita di million 436 milioni subita da frodi commesse da John McNamara, che gestiva uno schema Ponzi.

Nel 1998, la società ha costituito GMAC Real Estate. Nel 1999, GMAC Mortgage ha acquisito Ditech. Nel 2000, la società ha formato GMAC Bank, una banca diretta. Nel 2005, la società ha costituito GMAC ResCap come holding per le sue operazioni ipotecarie.

Nel 2006, General Motors ha venduto una partecipazione del 51% in GMAC a Cerberus Capital Management, una società di private equity. Anche quell’anno, GMAC ha venduto una partecipazione di controllo di GMAC Commercial Holdings (la sua divisione immobiliare rinominata Capmark) a Goldman Sachs, Kohlberg Kravis Roberts e Five Mile Capital Partners. GMAC Real Estate è stata venduta a Brookfield Asset Management. Nel 2009, Capmark ha presentato istanza di fallimento e la sua attività di erogazione e assistenza di prestiti in Nord America è stata acquisita da Berkadia, una joint venture di Leucadia National e Berkshire Hathaway.

Il 24 dicembre 2008, la Federal Reserve ha accettato la richiesta della società di diventare una holding bancaria. Nel gennaio 2009, la società ha chiuso Nuvell Financial Services, la sua divisione di prestiti subprime.

A seguito delle perdite in GMAC ResCap, il Dipartimento del Tesoro degli Stati Uniti ha investito $17,2 miliardi nella società nel 2008-2009. Il Tesoro ha venduto la sua ultima partecipazione nella società nel 2014, recuperando billion 19,6 miliardi dal suo investimento di billion 17,2 miliardi.

Nel maggio 2009 GMAC Bank è stata rinominata Ally Bank. Nel maggio 2010, GMAC si è rinominata Ally Financial. Nel settembre 2010, la società ha venduto la sua attività di finanza resort a Centerbridge Partners. Nel 2012, la società ha venduto le sue operazioni bancarie canadesi a Royal Bank of Canada per $3,8 miliardi. Nell’aprile 2014, è diventata una società pubblica tramite un’offerta pubblica iniziale. Nel 2015, ha spostato la sua sede in One Detroit Center, che è stato successivamente rinominato Ally Detroit Center. Nel mese di giugno 2016, la società ha acquisito TradeKing, un agente di cambio, per million 275 milioni, che è stato ri-branded come Ally Invest.

Nel maggio 2016, Ally Bank è rientrata nel settore dei mutui con il lancio della sua offerta direct-to-consumer denominata Ally Home. Ad aprile 2019, Ally Home ha collaborato con Better.com per lanciare una piattaforma ipotecaria digitale.

Nel 2016, la società ha spostato più di 1.500 dipendenti a 13 piani di Ally Detroit Center. Nel 2017, Ally ha firmato un contratto di locazione per 400.000 piedi quadrati presso il centro Ally Charlotte a Charlotte, Carolina del Nord, in programma per essere completato nel 2021, e si sposterà i suoi uffici da 440 South Church.