Formatos de imagen: Guía de optimización

Existen multitud de formatos de imagen para guardar gráficos, fotografías o dibujos: JPEG, PNG, GIF, BMP... ¿Cuál es el mejor para cada caso?