Zanger/gitarist Dave Matthews haalde in 1991 muzikanten uit de plaatselijke jazz-scene bij elkaar – aanvankelijk alleen om een demo van door hemzelf geschreven liedjes op te nemen. Het klikte echter zo goed tussen de samengeraapte sessiemuzikanten dat ze besloten bij elkaar te blijven. Dankzij veel optredens groeiden de DMB-leden binnen korte tijd uit tot lokale muziekhelden.
Eind 1993 verscheen het eerste album, een live-album getiteld ‘Remember Two Things’, op een klein platenlabel. Hoewel de band nog alleen in de omgeving bekend was, haalde de plaat de gouden status. Dankzij talloze live-optredens groeide het aantal fans snel en opmerkelijk genoeg vond DMB het goed dat deze fans privé-opnames maakten van de optredens. Een jaar later bracht de band op hetzelfde label het mini-album ‘Recently’ uit.
Daarna bood RCA de band een platencontract aan en ‘Under the Table and Dreaming’ verscheen begin 1994, gevolgd door hun eerste Amerikaanse tour en een aantal optredens in Europa. Inmiddels genoot DMB landelijke bekendheid. In 1995 waren er al meer dan 4 miljoen exemplaren van ‘Under the Table and Dreaming’ verkocht, goed voor viermaal platina. Hun volgende album, ‘Crash’, kwam in 1996 op nummer 2 binnen in de Billboard Album Top 200. De plaat was complexer en had meer uitgesponnen instrumentale stukken dan de voorganger. Een jaar later verscheen een live dubbelalbum om de fans een alternatief te bieden voor de talloze illegale bootlegs die verspreid werden.
De band ging door met zeer intensief toeren en ruilde de kleinere zalen in voor grote uitverkochte stadions. Begin 2001 verscheen ‘Everyday’ en van dat album kwam een klein jaar later hun eerste grote hit in Nederland: ‘The Space Between’.
Op 19 augustus 2008 overleed de saxofonist van de band, LeRoi Moore, aan de gevolgen van een ongeluk met zijn terreinwagen. Op 2 juni 2009 komt het nieuwste album uit, namelijk ‘Big Whiskey And The Groogrux King’.
Door de jaren heen kwamen en gingen verschillende bandleden. De huidige bezetting bestaat uit zeven muzikanten.
Na 2009 maakte de band nog de twee studioalbums Away from the world (2012) en Come Tomorrow (2018). Voor laatstgenoemde werd een internationale tour aangekondigd. In mei 2019 zijn te zien in Afas Live.