Após a sua saída do Clash, Levene fundou a banda Public Image Ltd, em 1978, ao lado cantor John Lydon, antes conhecido como Johnny Rotten, vocalista do Sex Pistols, e do baixista Jah Wobble. Foi com esta formação que Levene teve mais sucesso: o disco “Metal Box”, de 1979, é considerado um clássico do pós-punk.