As duas formas ermo e esmo estão corretas, contudo seus significados são diferentes.
Ou seja, ambas as palavras são válidas, devendo, no entanto, ser usadas em diferentes situações.
Ermo, como substantivo, significa lugar insulado, descampado, deserto, consagrado à oração. Como adjetivo significa que está só ou desacompanhado; solitário; diz-se de um local inabitado.
Eu prefiro permanecer aqui no ermo.
Só eu e a minha sombra, num lugar ermo e escuro.
Que lugar mais ermo.
Como forma vergal é a primeira pessoa do singular do presente do indicativo do verbo esmar (calcular; orçar)
Esmo significa estimativa; cálculo aproximado; avaliação superficial.
Conforme seu esmo, havia 250 pessoas no local.
É habitualmente usado na locução adverbial a esmo que significa ao acaso; sem intenção definida; sem certeza.
Ela começou a falar a esmo… frases desconexas.
Um indivíduo enlouqueceu no centro comercial matando pessoas a esmo sem motivo ou razão.