Quando la guerra scoppiò nel [[1914]], il corpo d'armata di Tersztyánszky divenne parte della 2^ armata che si trovava lungo le rive del fiume [[Save]] in [[Serbia]]. La campagna fu un completo fallimento ma il 4° corpo d'armata riuscì a concludere alcuni attacchi di successo in supporto alla 5^ armata. Nel settembre del [[1914]] Tersztyánszky ed il suo corpo vennero trasportati nel teatro di guerra russo ove presero parte all'attacco di [[Wereszyca]] tra l'[[8 settembre|8]] ed il [[9 settembre]] [[1914]]. Il [[9 settembre]], inoltre, egli ottenne il comando del 7° corpo d'armata e con entrambi i corpi sotto il suo comando venne coinvolto nelle battaglie contro le ingenti forze militari russe nei pressi di [[Lemberg]]. Nell'ottobrreottobre del [[1914]] fu un grado di catturare lo strategico [[Passo Uzsok]] e invineinfine prese [[Turka]] il [[10 ottobre]] di quell'anno. La sua avanzata di successo venne fermata dalla superiorità evidente delle forze dell'Impero russo, ma per la sua leadershipeglileadership venne onorato con la gran croce dell'Ordine della Corona Ferrea con decorazioni di guerra il [[5 ottobre]] [[1914]]. Il [[28 ottobre]] [[1914]] la 2^ armata che includeva Tersztyánszky ed i suoi corpi d'armata vennero trasferiti in [[Slesia]], [[Prussia]]. Durante i combattimenti che seguirono (e specialmente nelle battaglie nei pressi di [[Szczecow]]) il generale Tersztyánszky trovò ancora una volta il modo per distinguersi con contro le forze russe anche se non fu possibile contrattaccare all'offensiva. Per queste operazioni egli ricevette la croce di ferro di I e II classe nonché la I classe della decorazione della croce rossa tedesca il [[31 maggio]] [[1915]]. Nella primavera del [[1915]] il generale Tersztyánszky venne prescelto per pianificare la nuova offensiva contro la [[Serbia]] e prese il comando delle truppe lungo la linea [[Danubio]]-[[Save]] - rinominate appunto ''Armeegruppe Tersztyánszky'' - il [[22 maggio]] [[1915]]. Durante il mese successivo egli sviluppò un piano per attaccare ma il suo temperamento collerico e pretenzioso ne dispose il suo sollevamento dall'incarico, grazie anche al negativo influsso del conte Tisza, primo ministro ungherese.
Per gli sforzi compiuti in campo bellico, ad ogni modo, egli ottenne la gran croce dell'Ordine Imperiale di Leopoldo con decorazioni di guerra il [[4 novembre]] [[1915]]. Il [[1 maggio]] [[1916]] venne promosso ''Generaloberst'' e nuovamente sembrò che dovesse rientrare in gioco. Infatti nel giugno del [[1916]] il generale [[Conrad von Hötzendorf]], comandante dello staff dell'esercito austro-ungarico, era alla ricerca di un comandante che non si facesse "intimidire dai comandanti tedeschi e rude abbastanza da spronare i nostri" e trovò l'uomo giusto nel generale Tersztyánszky. Il [[7 giugno]] [[1916]] egli ottenne il comando della 4^ armata. La sua prima missione fu quella di supportare il generale di cavalleria [[Georg von der Marwitz]] nel suo "Armeegruppe" durante un nuovo contrattacco che si ebbe sulla fine di giungogiugno del [[1916]]. Durante questa nuova offensiva la 4^ armata ebbe numerose perdite e non fu in grado di completare l'obbiettivo. Tra il luglio e l'agosto del [[1916]] la 4^ armata si trovò in una situazione particolarmente critica durante il contrattacco russo e nuovamente subì molte perdite. Il [[17 ottobre]] [[1916]] il generale Tersztyánszky ottenne la croce al merito militare di I classe con decorazioni di guerra ed il [[17 marzo]] dell'anno successivo ottenne un'encomio particolare da parte dell'imperatore per il suo accorato impegno nel gerstiregestire una fase delicata degli scontri, oltre al ''[[Signum Laudis]]'' in bronzo con decorazioni di guerra; poco dopo ricevette la gran croce dell'Ordine dell'Aquila Rossa di Prussia. Ad ogni modo fu ancora una volta il suo carattere a creargli dei problemi e questa volta si mise contro il generale von Linsingen dell'esercito imperiale tedesco che ne dispose infine il rimpiazzo col generale Kirchbach. Karl ottenne il comando della 3^ armata in Galizia con la quale cercò di fermare l'offensiva russa a [[Stanislau]] ed a [[Lausz]] ma il [[10 luglio]] [[1917]] dovette soccombere alle preponderanti forze nemiche, retrocedendo di 20 chilometri dal fronte. L'area perduta venne ripresa alcuni giorni dopo dai suoi uomini, ma questo piccolo successo non aiutò il generale Tersztyánszky che venne rimoso dal comando il [[12 luglio]] [[1917]].
L'Imperatore, che comunque apprezzava il valore del vecchio veterano, non voleva metterlo a riposo definitivamente e gli offrì il comando della Guardia Nobile ungherese, ma Tersztyánszky preferì rifiutare questo incarico. Egli scrisse una lunga lettera al generale Bolfras nella quale spiegò i motivi per cui non poteva accettare quella nomina, primo tra tutti il contrasto col primo ministro conte Tisza. Per evitare ulteriori tensioni, il generale Tersztyánszky venne nominato comandante della ''Leibgarde Reiter Eskadron'' alla corte di [[Vienna]] e l'[[11 agosto]] [[1917]] rievettericevette la stella della decorazione della croce rossa austriaca. Dopo il suo definitivo ritiro a vita privata il [[1 dicembre]] [[1918]] egli visse a viennaVienna ove morì il [[7 marzo]] [[1921]].
