Seus pais são judeus-americanos, chamados Jack e Helen. Jack Crystal, seu pai, trabalhava no Commodore Music Shop.
Crystal entrou na Universidade de Marshall em Huntington, Virgínia Ocidental com uma bolsa de estudos como atleta de baseball, jogo que aprendeu com seu pai. Contudo, ele nunca jogou em Marshall, e a bolsa foi suspensa no seu primeiro ano. Crystal, então, retornou para Nova Iorque com sua futura esposa, Janice Goldfinger, com quem teve duas filhas. Estudou direção de cinema e televisão na Universidade de Nova Iorque.
Em 2021, o ator levou para a Broadway uma versão musical do seu filme Mr. Saturday Night, de 1992. Sua performance nos palcos lhe rendeu uma indicação ao Tony Awards.
Billy Crystal já apresentou nove vezes a entrega do prêmio Oscar, o que lhe rendeu diversas vitórias no Emmy. Possui uma estrela na Calçada da Fama, localizada em 6925 Hollywood Boulevard.
Recebeu três indicações como Melhor Ator, por Harry e Sally - Feitos um para o outro" (1989), Amigos, sempre amigos (1991) e Mr. Saturday Night - A arte de fazer rir (1992).