Brown iniziò la sua carriera di allenatore al Severn School nel 1931 prima di diventare capo-allenatore alla Massillon Washington High School a Massillon, Ohio, dove crebbe. Quella squadra perse solo dieci partite in undici stagioni. Successivamente fu assunto dalla Ohio State University portando la squadra alla vittoria del suo primo campionato NCAA nel 1942. Dopo la seconda guerra mondiale, Brown divenne il capo-allenatore dei Cleveland Browns della AAFC che vinsero tutti e 4 i campionati della storia della lega, guidati in campo dal quarterbackOtto Graham. Nel 1950 la lega si fuse con la NFL e lì Brown condusse la sua squadra ad altri tre titoli di campioni, nel 1950, 1954 e 1955. Fu licenziato nel gennaio 1963 per una lotta di potere col proprietario Art Modell. Brown nel 1968 fu il cofondatore e il primo allenatore dei Cincinnati Bengals. Si ritirò come allenatore nel 1975 ma rimase presidente dei Bengals fino alla sua morte nel 1991. I Bengals gli intitolarono il Paul Brown Stadium. Fu inserito nella Pro Football Hall of Fame nel 1967.
Brown è accreditato per un gran numero di innovazioni nel football americani. Fu il primo a studiare gli avversari in video, ad assumere uno staff di assistenti a tempo e a testare i giocatori sulla loro conoscenza del libro degli schemi di gioco[1]. Inventò anche la moderna maschera protettiva per i caschi dei giocatori. Giocò anche un ruolo importante nell'abbattimente delle barriere razziali nel football[2], portando alcuni dei primi giocatori afro-americani come Marion Motley a giocare per le sue squadre. Brown tuttavia non fu universalmente popolare[3]. Egli aveva possedeva una mania del controllo che lo portò spesso in conflitto coi suoi giocatori. Queste dispute, insieme con la mancanza di consultazioni con Modell nelle decisioni principali, portarono al suo licenziamento da allenatore dei Browns nel 1963[4].