As duas formas – divagar e devagar – existem na Língua Portuguesa.

Ou seja, ambas as expressões estão corretas, devendo, no entanto, ser usadas em diferentes situações.

Divagar significa vaguear, andar em diferentes direções; voar nos pensamentos; desviar-se do assunto que se está tratando; fantasiar, devanear, sonhar.

Ele fecha os olhos e parece divagar.
Vale a pena divagar algum tempo para admirar o quão belo é este planeta.

Devagar significa em baixa velocidade; de maneira lenta; vagarosamente; lentamente.

A melhor forma de o fazer é devagar, sem pressas.
As negociações estão a decorrer devagar.


Referências

Divagar advém do latim divagare.
Devagar advém da expressão de vagar.