Nato a Carfizzi, in provincia di Crotone, da una famiglia arbëreshe, dopo essersi laureato in Lettere all'Università di Bari si trasferisce ad Amburgo, in Germania, presso il padre emigrato. Qui insegna in una scuola per figli di emigranti e inizia a scrivere i primi racconti. Nel 1984 appare la prima raccolta di racconti Den Koffer und weg!, cui segue nel 1984 un saggio in lingua tedesca, scritto in collaborazione con Meike Behrmann, Die Germanesi, tradotto due anni dopo in lingua italiana col titolo I Germanesi, storia e vita di una comunità calabrese e dei suoi emigranti. Successivamente, ritornato in Italia, si stabilisce a Besenello, nel Trentino, dove continua l'attività di scrittore e insegnante. È autore di numerosi romanzi e racconti di successo.
Nel luglio del 2009, con il romanzo Gli anni veloci, vince la terza edizione del "Premio Letterario Nazionale Tropea - Una regione per leggere", organizzato dall'Accademia degli Affaticati, precedendo Mario Desiati e Paolo Di Stefano.[2][3].
I temi prevalenti nelle opere di narrativa di Abate sono il ricordo delle tradizioni culturali di origine, soprattutto delle piccole comunità arbëreshe, e l'incontro con le popolazioni che risiedono laddove più forte è l'emigrazione del Meridione. I racconti di Abate, emigrato da giovane in Germania per motivi di lavoro, sono frutto dell'esperienza diretta dell'autore in Germania e nell'Italia settentrionale. In alcune opere di Carmine Abate, specialmente nella raccolta di racconti intitolata Il Muro dei Muri, viene dato rilievo a quello che è il vero nemico della società, il razzismo, la barriera più grande che esiste al mondo e che cerca di dividere gli uomini, motivo d'incomprensione e d'incomunicabilità tra questi ultimi. I temi dell'odio e dell'intolleranza, nell'opera di Carmine Abate, sono trattati in una lingua personale costituita da termini nelle lingue italiana, di arbëreshe e tedesca, con uno stile apparentemente semplice, scorrevole e facilmente comprensibile, ma soprattutto che richiama con piacere alla lettura.
Abate è autore con Cataldo Perri dello spettacolo teatrale Vivere per addizione nelle terre d'andata tratto da Terre di andata e Vivere per addizione[4], presentato il 19 agosto 2011 nel "I festival dei luoghi" a Soveria Mannelli.