A prototipação é uma atividade fundamental no desenvolvimento de software. Ela permite que você tenha uma ideia de como o sistema ficará antes mesmo de construí-lo.
Neste sentido a prototipação é para o software o que uma planta baixa é para o engenheiro civil. No entanto, existem muitos aspéctos complicados no desenvolvimento de software que não se restrigem a questões visuais.
Existem diversas ferramentas para criação de protótipos. Veja as que eu recomendo na seção de Softwares Recomendados
Assim o protótipo é um modelo de como o sistema deve ser. Podendo ser um rascunho ou até mesmo a configuração final.
Particularmente adimiro protótipos que rascunham como o sistema devem ser, pois eles custam menos para criação e permitem que os envolvidos no sistema (stakeholders) entendam como ele será.
Veja um exemplo de um protótipo do cadastro de eventos de um sistema:
