Jem Cohen a réalisé plus de 40 films construits à partir de ses propres archives de séquences de rue, de portraits et de sons. Beaucoup d'entre eux explorent la collision entre le documentaire, le récit et l'expérimental. Certains sont des films de ville, d'autres des collaborations avec des musiciens; la plupart relient le personnel au politique, tous sont difficiles à catégoriser.

En 2008, Cohen travaille avec Patti Smith sur une série de courts métrages et d'installations pour son exposition à la Fondation Cartier à Paris. En 2006, trois films, Building A Broken Mousetrap (The Ex in New York), Blessed Are The Dreams Of Men et Nyc Weights And Measures, ont été présentés en première au Festival International du Film à Toronto. Le long métrage Chain a été présenté en première au Festival International du Film de Berlin en 2004 et à New York au Museum of Modern Art. Chain a reçu un Independent Spirit Award en 2005 et a été diffusé sur ARTE en Europe et sur la chaîne Sundance aux États-Unis. Instrument, le documentaire de Cohen sur le groupe de punk Fugazi, est présenté en première au Festival du Film de Rotterdam, tout comme Benjamin Smoke - réalisé avec Peter Sillen. Ses œuvres antérieures incluent Lost Book Found, Buried In Light, Amber City et Blood Orange Sky.

En 2005, Jem a organisé le Fusebox Festival; quatre jours "au carrefour du cinéma, de la musique et de l'activisme", avec The Evens, The Ex, Patti Smith, Tom Verlaine, Thee Silver Mountain Elegies Play War Radio (membres de Silver Mt. Zion et Hangedup), Guy Picciotto, T Griffin Coraline et Jerusalem In My Heart. L'autre travail de Cohen avec des musiciens comprend des collaborations film/musique avec Godspeed You! Black Emperor, Vic Chesnutt, Terry Riley, Elliott Smith, Sparklehorse, REM, Jonathan Richman, Blonde Redhead, Stephen Vitiello, et l'Orpheus Orchestra avec Gil Shaham.

Cohen a eu des rétrospectives au National Film Theatre de Londres, au BAFICI (Festival du Film Indépendant de Buenos Aires), au Gijon Film Festival (Espagne) et à Cinematexas. Ses œuvres ont été diffusées par la BBC, PBS, ZDF/ARTE et Sundance Channel, et font partie des collections du Museum of Modern Art, du Whitney Museum et de la Screen Gallery de Melbourne.

Cohen a coproduit l'album North Star Deserter de Vic Chesnutt. Sa première exposition de photographies a lieu en 2009.