Studiò alla [[GITIS|Scuola Filarmonica di Mosca]], eccellendo nello studio del contrabbasso e, ventenne, entrò a far parte dell'orchestra del [[BolshoiTeatro TheatreBol'šoj|BolshoiBol'šoj]] nel 1894. Nello stesso anno debuttò come solista a Mosca ed in breve tempo, dopo numerosi successi ottenuti in numerose tournée, si guadagnò la fama di uno dei più abili virtuosi di questo strumento. Nel 1905 sposò in seconde nozze la figlia di un facoltoso commerciante di the il quale, come regalo di nozze, esaudì il sogno di Koussevitzky di avere una sua orchestra, fornendogli i fondi necessari alla formazione di un ensemble di settantacinque elementi. Con questa orchestra diede i primi concerti nel 1907 dirigendo tra l'altro le prime delle composizioni di di allora giovani compositori russi come [[Sergej Sergeevič Prokof'ev|Prokofiev]], [[Aleksandr Skrjabin|Scriabin]] e [[Igor' Fëdorovič Stravinskij|Stravinskij]]. Nel 1908 si trasferì a Berlino dove continuò gli studi di direzione con [[Arthur Nikisch]] e diresse l'[[Berliner Philharmoniker|orchestra filarmonica]] in un concerto che comprendeva il [[Concerto per pianoforte e orchestra n. 2 (Rachmaninov)|Concerto per pianoforte n. 2 di Rachmaninov)]] con l'autore quale solista. L'anno successivo fondò la Éditions Russes de Musique, acquisendo i cataloghi di alcuni tra i maggiori compositori dell'epoca. Nel periodo 1909-1920 alternò l'attività di direttore a quella di solista di contrabbasso esibendosi in concerti in Russia e nel resto d'Europa.
In seguito alla [[Rivoluzione russa|rivoluzione]] lasciò la Russia, dove fino al 1920 aveva diretto l'[[Orchestra filarmonica di StatoSan Pietroburgo|Orchestra filarmonica di Pietrogrado]] e si stabilì a Parigi fondandovi, nel 1921, i "Concerts Symphoniques K".
Il 19 ottobre 1922 diresse la prima, dell'orchestrazione di [[Maurice Ravel]], di ''[[Quadri di un'esposizione]]'' di [[Modest Petrovič Musorgskij|Musorgskij]] al [[Opéra National de Paris|Teatro dell'Opéra]]. Nel [[1925]] dirige la prima esecuzione assoluta nel [[Théâtre de l'Opéra]] di Parigi del "Concertino" di [[Arthur Honegger]].
