Karl Klindworth était le fils de Carl August Klindworth et Dorothea Wilhelmine (1800–1853), née Lamminger, fille de l’imprimeur de cour Johann Thomas Lamminger (1757–1805). Il était également le neveu de l’homme politique Georg Klindworth et de l’horloger Karl Friedrich Felix Klindworth (1788–1851). Enfant, le jeune Klindworth suit des cours de violon et apprend à jouer du piano. N’ayant pas été accepté comme élève de Louis Spohr, il rejoint alors une compagnie de théâtre itinérante en tant que violoniste et chef d’orchestre à l’âge de 17 ans. Plus tard, en 1850, il prend la direction de la Neue Liedertafel à Hanovre. De là, il va à Weimar en 1852, et il étudie le piano avec Franz Liszt. Parmi ses camarades se trouvaient Hans von Bülow et William Mason.
En 1854, il se rend à Londres, où il reste pendant quatorze ans, étudiant, enseignant et apparaissant parfois en public. C’est à Londres qu’il fait la connaissance de richard Wagner venu dirigé une série de concerts. Liszt recommande Wagner à Klindworth.
Dans la lettre du 25 janvier 1855, voici ce que Liszt dit à Wagner de Klindworth : « [à propos de l’ouverture de Tannhäuser qui fut joué à la Société Philarmonique de Londres] Klindworth et Rémény étaient à peu près les seuls qui eussent le courage d’applaudir et de rompre en visière les préjugés invétérés de la Société Philarmonique.[…] Comme wagnérien de la veille, je te recommande Klindworth, un excellent musicien, qui a rempli autrefois els fonctions de chef d’orchestre à Hanovre, […] et un pianiste de premier ordre, qui a étudié pendant dix-huit mois avec moi à Weimar ; tu me permettras bien d’envoyer à Klindworth quelques lignes à ton adresse. Il n’y a pas, que je sache, de pianiste à Londres qui le vaille ; seulement, il s’est mis à dos les épiciers et les manœuvres de là-bas en affichant ses sympathies pour ce qu’on appelle « la musique de l’avenir ».
De Londres, Klindworth se rendit à Moscou, en 1868, pour occuper le poste de professeur de piano au Conservatoire. Pendant qu’il était en Russie, il termine les arrangements pour piano du Der Ring des Nibelungen de Wagner, qu’il avait commencé lors de la visite de Wagner en Angleterre, en 1855. Ces arrangements pour piano restent des références encore aujourd’hui.
Wagner écrit le 16 mai 1855 à Liszt : « Klindworth a fait la partition pour piano du premier acte de la Walkyrie, qu’il joue à la perfection ; malheureusement, j’ai tout à fait perdu ma voix ici et ne puis plus chanter. » Et dans une lettre à Minna, il écrit : « Klindworth a terminé l’arrangement pour piano du premier acte de la Walkyrie et me l’a joué hier avec une virtuosité prodigieuse. »
Richard Wagner est si impressionné des qualités de transcripteurs de Klindworth qu’il veut lui proposer de transcrire son ouverture de Faust et d’autres œuvres encore. C’est encore Klindworth qui joue la Sonate de Liszt pour la première fois à Wagner. Il a également terminé son édition critique des œuvres de Frédéric Chopin. Il devient ensuite chef d’orchestre de l’Orchestre philharmonique de Berlin en 1882, en association avec Joachim et Wüllner. Il était également le chef d’orchestre de la Société Wagner de Berlin. À cette époque, il crée également la Klindworths Musikschule, qui deviendra plus tard le Conservatoire de Klindworth-Scharwenka. Klindworth reste à Berlin jusqu’en 1893, date à laquelle il se retire à Potsdam, exerçant toujours en tant que professeur. Il gagne une grande réputation en tant qu’éditeur d’œuvres musicales. Il a également très finement réorchestré le deuxième concerto pour piano de Chopin, bien que beaucoup de gens préfèrent toujours l’arrangement du compositeur. (Carl Tausig avait précédemment fait une édition du concerto en mi mineur.)
Klindworth adopte et élève Winifred Williams, parente de son épouse Henrietta Karop et devenue orpheline à l’âge de deux ans. Pour lui, elle doit devenir une « wagnérienne » parfaite. Klindworth faisait partie d’une communauté de végétariens d’Oranienburg, à laquelle il resta fidèle jusqu’à sa mort.
Il décéde en 1916 à Stolpe, près d’Oranienburg, à l’âge de 85 ans.