Ole Ivars startet i 1964, og er fortsatt aktive. Fram til nå har de gitt ut 45 album, og vunnet mange gullplater, platinaplater, samt åtte Spellemannspriser, inkludert Årets Spellemann i 1999. To av bandets opprinnelige medlemmer er fortsatt med.
Bandet ble startet av vokalist Ivar Grønsveen og Ole Ødegård. Det opprinnelige bandet de spilte i, het The Tainix, men de bestemte seg for å bytte navn, og bruke sine egne fornavn i bandets navn, inspirert av svenske band som Sven-Ingvars. Bandet slo gjennom i 1968, med sangen “Regnets rytme”, som solgte til gull. De fikk også sølvplate for den første LP-en de ga ut, og ble dermed det første norske bandet som solgte mer enn 25 000 eksemplarer av én plate.
Vokalisten Iver Grønsveen døde i 1973, men bandet valgte å fortsette. Den nye vokalisten ble Lasse Johansen. Bandet ble brukt som husorkester i en TV-serie på midten av 70-tallet, og ble dermed et kjent navn. Som mange andre lengelevende band, har også Ole Ivars byttet medlemmer flere ganger. I 1978 forlot Ole Ødegård bandet, sammen med vokalisten og saksofonisten. De dannet et eget band, som het Ole Ivars Veteraner. Bandet Ole Ivars fortsatte også å spille, og de to nesten identiske navnene skapte litt forvirring blant konsertarrangører. Bandet Ole Ivars ga seg i 1982, og da byttet Ole Ivars Veteraner navn til Ole Ivars.
I 1983 overtok William Kristoffersen som bassist i bandet, og han har etter den tid skrevet de fleste sangene deres. Ole Ivars har mottatt kulturpriser og blitt kåret til Tidenes Norske Danseband. Bandet har deltatt i Melodi Grand Prix, og de spilte under åpningen av operaen i Oslo. Som eneste danseband noensinne har de også spilt på VG-lista Topp 20 på Rådhusplassen i Oslo. I 2014 ble det laget en teaterforestilling basert på noen av sangene deres.