společnost byla založena v roce 1919 společností General Motors (GM) jako General Motors Acceptance Corporation (GMAC)za účelem financování automobilových zákazníků. V roce 1939 společnost založila Motors Insurance Corporation a vstoupila na trh pojištění vozidel.

V roce 1985, zatímco GM byl pod vedením Rogera Smithe, který se snažil diverzifikovat společnost, GMAC tvořil GMAC Hypotéky a získané Koloniální Hypotéky, stejně jako servis rameno Norwest Hypotéku, která zahrnovala 11 miliard dolarů hypotečního portfolia.

v roce 1991 byla společnost nucena odepsat nedobytný dluh ve výši 275 milionů dolarů jako součást ztráty ve výši 436 milionů dolarů, kterou utrpěl podvod spáchaný Johnem Mcnamarou, který provozoval Ponziho schéma.

v roce 1998 vznikla společnost GMAC Real Estate. V roce 1999 získala společnost GMAC hypotéka Ditech. V roce 2000 společnost založila GMAC Bank, přímou banku. V roce 2005 založila společnost GMAC ResCap jako holdingová společnost pro své hypoteční operace.

v roce 2006 prodal General Motors 51% podíl v GMAC společnosti Cerberus Capital Management, private equity společnosti. Také v tomto roce prodal GMAC kontrolní podíl GMAC Commercial Holdings (jeho realitní divize přejmenovaná na Capmark)Goldman Sachs, Kohlberg Kravis Roberts a Five Mile Capital Partners. GMAC nemovitost byla prodána Brookfield Asset Management. V roce 2009, Capmark podali návrh na konkurz a jeho Severní Ameriky úvěrů a servis podnikání získal Berkadia, společný podnik Leucadia National a Berkshire Hathaway.

dne 24. prosince 2008 Federální rezervní systém přijal žádost společnosti stát se bankovní holdingovou společností. V lednu 2009 společnost ukončila svou divizi subprime lending Nuvell Financial Services.

v důsledku ztrát v GMAC ResCap investovalo Ministerstvo financí Spojených států v letech 2008-2009 do společnosti 17,2 miliardy dolarů. Ministerstvo financí prodalo svůj poslední podíl ve firmě v roce 2014 a získalo zpět 19,6 miliardy dolarů z investice ve výši 17,2 miliardy dolarů.

V květnu 2009 byla GMAC Bank přejmenována na Ally Bank. V květnu 2010 se GMAC znovu označil za Ally Financial. V září 2010 společnost prodala svůj resort finance společnosti Centerbridge Partners. V roce 2012 společnost prodala své kanadské bankovní operace Royal Bank of Canada za 3,8 miliardy dolarů. V dubnu 2014 se stala veřejnou společností prostřednictvím počáteční veřejné nabídky. V roce 2015 přesunula své sídlo do jednoho Detroitského centra, které bylo následně přejmenováno na Ally Detroit Center. V červnu 2016 společnost získala obchod s akciemi TradeKing za 275 milionů dolarů, která byla přejmenována na Ally Invest.

V květnu 2016 Ally Bank znovu vstoupila do hypotečního podnikání spuštěním své přímé nabídky pro spotřebitele s názvem Ally Home. V dubnu 2019 se Ally Home spojila s Better.com zahájit digitální hypoteční platformu.

v roce 2016 společnost přesunula více než 1500 zaměstnanců do 13 pater Ally Detroit Center. V roce 2017 Ally podepsala nájemní smlouvu na 400 000 čtverečních stop v Ally Charlotte Center v Charlotte v Severní Karolíně, která má být dokončena v roce 2021, a přesune své kanceláře z 440 South Church.