As duas formas – encontrasse e encontra-se – existem na Língua Portuguesa.

Ou seja, ambas as expressões estão corretas e são formas verbais do verbo encontrar mas empregues em diferentes modos.

Encontrasse é a primeira e terceira pessoa do singular do pretérito imperfeito do modo subjuntivo do verbo.

se eu [ encontrasse ], se ele; ela; você [ encontrasse ]

Seria útil se você encontrasse o recibo.
Valeria milhões se eu encontrasse o comprador certo.

Obs:
subjuntivo (português brasileiro) ou conjuntivo (português europeu) = modo verbal que não expressa certeza, e sim uma dúvida, desejo ou situações hipotéticas

A forma encontra-se é uma conjugação pronominal (acompanhados do pronome oblíquo “se”) do verbo – neste caso, no presente do indicativo. O pronome é usado para indicar ações relativas ao sujeito que as pratica.

Ele encontra-se com ela à porta.
Lamento, o caso encontra-se encerrado.