As duas formas tentasse e tenta-se existem na Língua Portuguesa.

Ou seja, ambas as expressões estão corretas e são formas verbais do verbo tentar mas empregues em diferentes pessoas gramaticais/tempos verbais; com distintas pronúncias.

Tentasse é a primeira e terceira pessoa do singular do pretérito imperfeito do modo subjuntivo do verbo.

se eu [ tentasse ], se ele; ela; você [ tentasse ]

Foi como se o destino nos tentasse separar.
Mesmo que tentasse é quase impossível.

Obs:
subjuntivo (português brasileiro) ou conjuntivo (português europeu) = modo verbal que não expressa certeza, e sim uma dúvida, desejo ou situações hipotéticas

A forma tenta-se, com hífen, é uma conjugação pronominal (acompanhado do pronome oblíquo “se”) do verbo – neste caso, no presente do indicativo. O pronome é usado para indicar ações relativas ao sujeito que as pratica, no caso ele, ela ou você.

Não é fácil, mas tenta-se.
Como espião, tenta-se trabalhar apenas com uma equipa experiente.