As duas formas – histérico e estérico – existem na Língua Portuguesa.

Ou seja, ambas as expressões estão corretas, devendo, no entanto, ser usadas em diferentes situações.

Histérico significa referente à histeria; diz-se daquele que sofre de histeria; muito nervoso, que revela desequilíbrio.

Desde que o fato aconteceu, ele está histérico e não quer mais comer.

Pode ter o sentido de “loucura” social, “alegria” intensa, etc.

Hoje, o mundo inteiro está histérico com “ídolos”.
Eu estava histérico e queria tanto falar do golo histórico.

Estérico significa relativo à estrutura de uma molécula ou à disposição dos átomos; é uma palavra usada no campo científico, principalmente na química.

Impedimento estérico é a interação de repulsão que acontece quando os átomos são forçados a permanecer junto além daquilo que seu raio atômico permite.


Referências

Histérico advém do grego hysterikós.
Estérico advém do inglês steric.