Un elemento muy importante en el arte musulmán es la decoración y la rica ornamentación que adornan y enmascaran los pobres materiales arquitectónicos. Es común al gusto musulmán dedicar un mayor cuidado a la decoración interior, con riquísimos mosaicos, yeserías, placas de mármol, cerámica esmaltada, etc., mientras que las fachadas exteriores ofrecen una sorprendente simplicidad, que sólo se abandona en portadas y recubrimiento de cúpulas. La influencia bizantina es palpable en la elección de temas decorativos. Ya hemos que se excluyen los temas animados y gozan de predilección los de carácter vegetal presentados de forma estilizada, los atauriques, los de trazado epigráfico (con trazos rectos o cúficos y trazos cursivos o nesijíes), y los motivos geométricos, a modo de estrellas, polígonos y lazos combinados con soluciones infinitas (lacería). Además, un recurso muy utilizado es reiterar y repetir los elementos decorativos, que se multiplican hasta el infinito. La repetición unida a la densidad ornamental contribuyen a crear ese efecto de movilidad y agitación. Muy normal son las ventanas de piedra caladas con motivos geométricos o vegetales, llamadas celosías. También, en el exterior de los edificios se utiliza la cerámica vidriada, que posee un peculiar brillo metálico.
También anotar que en Al-Andalus, durante el dominio Almóhade (1146-1236), es característico el uso de una abundante decoración que llega a enmascarar el nítido esquema constructivo empleado (esta decoración es importada del norte de África). Son característicos los llamados «Paños de sebka», peculiares redes de rombos que se prolongan infinitamente y cubren todos los espacios lisos.