Inserção e Remoção das classes para realizar a animação.

Modal CSS3 - anima.js

$(document).ready(function(){
	$('.modal-open').click(function(){
		$('.overlay').addClass('modal-show');
		$('.modal').addClass('modal-show');
		$('.modal-content').addClass('modal-animate');
	});
	$('.modal-close').click(function(){
		$('.overlay').removeClass('modal-show');
		$('.modal').removeClass('modal-show');
		$('.modal-content').removeClass('modal-animate');
	});
});