As duas formas – modesta e modéstia – existem na Língua Portuguesa.

Ou seja, são palavras da mesma “família” mas devem ser usadas em diferentes situações.

Modesta é um adjetivo «feminino de modesto », significa que tem ou mostra humildade ou moderação quanto a seus próprios méritos, importância, etc; sem vaidade, egoísmo ou pretensão; moderada, limitada, pequena.

Habito numa casa modesta.
Parece um risco grande para uma recompensa tão modesta.

Modéstia é um substantivo, significa a qualidade de modesto(a); ausência de vaidade, de ostentação, de luxo; simplicidade e moderação

Essa falsa modéstia já cansa, Maria!
Um pouco de modéstia lhe fará bem.


Modesta à parte ou Modéstia à parte?

A forma correta da expressão é « modéstia à parte » que dizemos quando alguém quer se vangloriar (gabar, louvar) de algo, sem parecer e/ou ser arrogante. Isto é, colando a modéstia à parte.

A história é emocionante, modéstia à parte.
Modéstia à parte, fiz um trabalho magnífico!


Referências

Modesto advém do latim modestus.
Modéstia advém do latim modestia.