firma została założona w 1919 roku przez General Motors (GM) jako General Motors Acceptance Corporation (GMAC) w celu zapewnienia finansowania klientom z branży motoryzacyjnej. W 1939 roku firma założyła Motors Insurance Corporation i weszła na rynek ubezpieczeń samochodowych.

w 1985 roku, gdy GM był pod kierownictwem Rogera Smitha, który dążył do dywersyfikacji firmy, GMAC założył GMAC Mortgage i nabył Colonial Mortgage, a także ramię serwisowe Norwest Mortgage, które obejmowało portfel kredytów hipotecznych o wartości 11 miliardów dolarów.

w 1991 roku firma została zmuszona do umorzenia 275 milionów dolarów nieściągalnego długu w ramach straty 436 milionów dolarów poniesionej w wyniku oszustwa popełnionego przez Johna Mcnamarę, który prowadził program Ponzi.

w 1998 roku powstała firma GMAC Real Estate. W 1999 roku GMAC Mortgage przejął Ditech. W 2000 roku firma utworzyła GMAC Bank, Bank bezpośredni. W 2005 r. firma utworzyła GMAC ResCap jako spółkę holdingową w zakresie operacji hipotecznych.

w 2006 roku General Motors sprzedał 51% udziałów w GMAC firmie Cerberus Capital Management, private equity. Również w tym samym roku GMAC sprzedała pakiet kontrolny GMAC Commercial Holdings (jego dział nieruchomości zmienił nazwę na Capmark) Goldman Sachs, Kohlberg Kravis Roberts i Five Mile Capital Partners. GMAC Real Estate został sprzedany Brookfield Asset Management. W 2009 roku Capmark złożyła wniosek o upadłość, a jej północnoamerykańska działalność pożyczkowa i serwisowa została przejęta przez Berkadia, joint venture Leucadia National i Berkshire Hathaway.

24 grudnia 2008 r. Rezerwa Federalna przyjęła wniosek spółki o przekształcenie jej w spółkę holdingową. W styczniu 2009 roku firma zamknęła Nuvell Financial Services, swój dział kredytów subprime.

w wyniku strat w GMAC ResCap w latach 2008-2009 Departament Skarbu Stanów Zjednoczonych zainwestował w spółkę 17,2 mld dolarów. Skarbiec sprzedał swój ostatni udział w Spółce w 2014 r., odzyskując 19,6 mld USD z inwestycji w wysokości 17,2 mld USD.

w maju 2009 roku GMAC Bank został przemianowany na Ally Bank. W maju 2010 roku GMAC zmienił nazwę na Ally Financial. We wrześniu 2010 roku firma sprzedała swoją działalność resortową Centerbridge Partners. W 2012 roku firma sprzedała swoje kanadyjskie operacje bankowe Royal Bank of Canada za 3,8 miliarda dolarów. W kwietniu 2014 r.stała się spółką publiczną w ramach pierwszej oferty publicznej. W 2015 roku przeniosła swoją siedzibę do One Detroit Center, które następnie zostało przemianowane na Ally Detroit Center. W czerwcu 2016 roku firma przejęła TradeKing, maklerstwo giełdowe, za 275 milionów dolarów, który został ponownie oznaczony jako Ally Invest.

w maju 2016 r.Ally Bank ponownie rozpoczął działalność w zakresie kredytów hipotecznych, wprowadzając ofertę direct-to-consumer o nazwie Ally Home. W kwietniu 2019 roku Ally Home nawiązała współpracę z Better.com uruchomi cyfrową platformę kredytów hipotecznych.

w 2016 roku firma przeniosła ponad 1500 pracowników na 13 pięter Ally Detroit Center. W 2017 r.Ally podpisała umowę najmu na 400 000 stóp kwadratowych w Ally Charlotte Center w Charlotte w Karolinie Północnej, która ma zostać ukończona w 2021 r. i przeniesie swoje biura z 440 South Church.