Tatăl lui Berry a povestit pentru revista Rolling Stone că fiul său suferea de demență, boală care se acutizase în ultimul timp.
Berry a venit cu ideea pentru numele formației Beastie Boys și a fost unul dintre primii membrii ai trupei atunci când s-a format în anul 1981. Primul concert al trupei a avut loc în apartamentul uli Berry din New York în fața unui public restrâns.
Acesta a cântat pe EP-ul trupei, „Polly Wog Stew”, înregistrat în 1982, dar a plecat la scurt timp, înainte ca trupa să treacă de la punk la genul hip-hop, potrivit Rolling Stone. După plecarea lui Berry, Beastie Boys a înregistrat prima melodie hip-hop numită „Cooky Puss”, care a marcat stilul ulterior al formației.
Berry a fost membru al altor formații mai puțin cunoscute după ce a plecat precum Even Worse, Big Fat Love, Highway Stars și Bourbon Deluxe.
Deși Berry a părăsit Beastie Boys la începutul drumului muzical al trupei, aceștia nu au negat contribuția sa la consolidarea trupei. În 2012 când formația a fost inclusă în The Rock and Roll Hall of Fame, Adam Horovitz a citit un speech în care John Berry era menționat.