De band werd opgericht als Peter Green's Fleetwood Mac door Peter Green die samen met John McVie en Mick Fleetwood in John Mayall's Bluesbreakers had gespeeld. Peter Green was de gitarist die de herinnering aan Eric Clapton bij de Bluesbreakers had doen verbleken. De doorstroming in de "kweekvijver voor gitaristen", de Bluesbreakers, was hoog.

In 1967 werd Fleetwood Mac opgericht. Korte tijd daarna kwam slide-gitarist Jeremy Spencer de groep versterken. Aanvankelijk was eerste gitarist Peter Green bepalend voor het geluid: melancholieke blues en gitaarduetten tussen Green en Jeremy Spencer. Alleen op het eerste album is pure blues te horen, het geluid van de groep veranderde al snel, zeker nadat in 1968 de groep nogmaals werd uitgebreid, ditmaal met gitarist Danny Kirwan.

De bekendste songs tot dan toe waren Black Magic Woman, later gecoverd door Santana, Need your love so bad en Albatross.

Met het album Then Play On werd Fleetwood Mac een rockgroep. Het album is een schitterend voorbeeld van de veelzijdige muzikaliteit waartoe de band in staat is. Er staan prachtige ballads op, "Closing My Eyes" en "Although The Sun Is Shining", die worden afgewisseld met ruige rocknummers als "Rattlesnake Shake", "Fighting and Searching for Madge" en het beroemde symfonische "Oh Well". Alleen al op het intro van Oh Well zullen heel wat gitaristen zich de blaren op hun vingers hebben geoefend.

In 1970 verliet Green de band onverwacht; als gevolg van zijn drugsgebruik was hij al enige tijd niet te handhaven, maar uiteindelijk nam hij zelf de beslissing om op te stappen. Hij werd vervangen door toetseniste Christine Perfect, leadzangeres op de enige hitsingle van de groep Chicken Shack, "I would rather go blind", die eerder op het album "Then Play On" als gastmuzikante meespeelde. Ze trouwde hierna met John McVie en heette voortaan Christine McVie. In 1971 verliet ook Spencer de groep en hij werd vervangen door de Amerikaanse gitarist Bob Welch. Afgezien van de twee naamgevers van de groep, tevens de minst creatieve leden, McVie en Fleetwood, had Fleetwood Mac nu weinig meer van doen met de bluesband uit de jaren 60. Voortaan maakte Fleetwood Mac popmuziek, ondanks regelmatige bezettingswisselingen. Hierdoor werd een nieuw publiek aangesproken maar haakten fans van het eerste uur af.

Na het vertrek van gitarist Danny Kirwan werd Bob Weston aangesproken als vervanging. Bob Weston was reeds bekend met Fleetwood Mac vanuit zijn tourverleden met Long John Baldry. Bob Weston is te horen op twee albums van Fleetwood Mac, "Penguin" en "Mystery to me". De twee albums scoorden goed in de hitlijsen.

Eind 1974 vestigden de leden van de band zich in Californië. Kort daarna verliet Welch de groep, waardoor alleen Fleetwood en het echtpaar McVie overbleven. Met de komst van het duo Stevie Nicks en Lindsey Buckingham kreeg de groep een belangrijke nieuwe impuls. Dat de groep hiermee een nieuw begin maakte wordt geïllustreerd door de titel van het eerste album in deze bezetting; de plaat heet eenvoudig "Fleetwood Mac", net als het debuut van het oude Fleetwood Mac uit 1967. Het volgende album "Rumours" uit 1977, met de hit "Go your own way", had een enorm commercieel succes en wordt als het beste van dit tweede Fleetwood Mac beschouwd. Doordat zowel het echtpaar McVie als het duo Nicks-Buckingham in die tijd relationele problemen hadden en zich middels muziek en teksten afreageerden bevat het album een aantal nummers met een sterke emotionele lading. Ook de opvolger "Tusk" was een groot succes, evenals "Mirage" uit 1982. De leden hielden zich in de volgende jaren vooral bezig met solo-projecten. In 1987 verscheen "Tango in the Night", een album waaraan al vanaf 1985 was gewerkt. Het was een groot commercieel succes maar bleef in artistiek opzicht ver achter bij zijn voorgangers.

Na het verschijnen van "Tango in the Night" verliet Buckingham de band. Hij werd vervangen door gitaristen Billy Burnette en Rick Vito, waarmee in 1990 het zwakke album "Behind the Mask" werd opgenomen. In de jaren daarna stapten ook Stevie Nicks, Christine McVie en Vito uit de band. In 1993 trad de Rumours-bezetting op, bij de inauguratie van president Bill Clinton. Het betrof een eenmalige reünie, en in een nieuwe bezetting, met daarin onder meer Dave Mason, ging Fleetwood Mac in 1994 op tournee en werd het geflopte album "Time" opgenomen. In 1997 keerden Buckingham en Nicks terug voor een tournee, naar aanleiding waarvan het live-album "The Dance" verscheen. Een nieuw studio-album verscheen pas in 2003, "Say You Will", dat een artistieke verbetering is ten opzichte van de voorgaande twee albums maar waarop Christine McVie node wordt gemist.

Fleetwood Mac is van plan in 2009 een nieuw album op te nemen. Stevie Nicks heeft eerder aangegeven niet als enige vrouw door te willen gaan met Fleetwood Mac. Christine Mac Vie heeft weer aangegeven niet geïnteresseerd te zijn in een nieuwe samenwerking, waarna Sheryl Crow is gevraagd om het team te versterken. Zij heeft eerder met Stevie Nicks samengewerkt.