Kjeld Flemming tog initiativ til at starte Hørsholm Jazz-kompagni og indkaldte til en stiftende generalforsamling d. 3 februar 2004. På et møde forud havde Kjeld sammen med Knud Rasmussen og Joan Ipsen udarbejdet vedtægter, der blev godkendt af kommunen, og man fik tildelt øvelokaler på Hørsholm skole.
Jazz-kompagniet havde fra starten stor succes. Til det første møde kom der 25 Jazz-interesserede. Kompagniet fik stor opbakning af Hørsholm kommune og var på et tidspunkt oppe på ca. 50 udøvende medlemmer.
Det første orkester, der fik navnet Hørsholm Jazz kompagni, havde Søren Mortensen som kapelmester. Søren spillede trompet, Kjeld Flemming (trommer), Peter Carlsen (tenorsax og sang), Knud Rasmussen (tenorsax), Jørn Palm Gundel (basun og sang), Poul Anderson (klarinet), Gert Karlsson (piano), Kent A. Hansen (guitar) og Morten K. (bas).
Jazz Kompagniet havde stor succes, og der blev hurtigt oprettet flere orkestre: I 2004 Kjeld Flemmings Kvartet. Årene efter Swingpatruljen og Usserød Swingband. Senere kom Kaj Normann og de andre, Hørsholm Swingtetten, Blue Bossa, GentleJazz, Retro Boys og Q24.
Kjeld Flemming bestred formandsposten i 13 år frem til 2017, hvor der gennem årene blev arrangeret Jazz Festival med kendte orkestre, og der blev månedligt arrangeret Kultur Café i Café ‘Sneppen’ på Jagt og Skovbrugsmuseet, med kendte kunstnere og orkestre.
Da Erling Krøll i 2017 blev formand flyttede Jazz Kompagniet til Selmersbo med de månedlige Jam aftener. Erling var formand til 2022 hvor Henrik Ellegaard overtog formandsposten frem til august 2023.
Ved generalforsamlingen 29 august 2023 overtog Kjeld Flemming igen formandsposten.
