Toutes les chansons ont été écrites par Ezra Koenig, sauf mentions contraires. La musique a été entièrement composée par Vampire Weekend, excepté Taxi Cab et I Think Ur a Contra, composées par Rostam Batmanglij et Ezra Koenig.
Horchata - 3:26 (Ezra Koenig, Rostam Batmanglij)
White Sky - 2:58
Holiday - 2:18
California English - 2:30
Taxi Cab - 3:55
Run - 3:52
Cousins - 2:25
Giving Up the Gun - 4:46
Diplomat's Son - 6:01 (Ezra Koenig, Rostam Batmanglij)
Le nom de l'album est en contraste avec l'album des ClashSandinista!. En effet, les Contras étaient des contre-révolutionnaires opposés au mouvement sandiniste. Ezra Koening dit s'être inspiré de Joe Strummer pour les paroles de "Taxi Cab"[1]. De plus, dans les paroles de "I Think Ur a Contra", apparaît la phrase Complete Control, titre d'une chanson des Clash. Enfin, le titre "Diplomat's Son" est aussi une référence à Joe Strummer[2].
Le titre de l'album fait également référence au jeu vidéo Contra[3].
Le morceau "Diplomat's Son" sample la chanson "Hussel" de M.I.A..
Le groupe ainsi que le photographe qui a créé la pochette de l'album sont poursuivis en justice le 14 juillet 2010 par Ann Kirsten Kennis qui prétend que sa photo (prise en 1983) a été utilisée sans son accord. Le mannequin réclame 2M$ de dédommagement[4]. En août 2011, un accord à l'amiable, contre le versement d'une somme dont le montant n'a pas été communiqué, intervient entre le groupe et son label et Ann Kirsten Kennis[5].