As duas formas – sentasse e senta-se – existem na Língua Portuguesa.

Ou seja, ambas as expressões estão corretas e são formas verbais do verbo sentar mas empregues em diferentes modos.

Sentasse é a primeira e terceira pessoa do singular do pretérito imperfeito do modo subjuntivo do verbo.

se eu [ sentasse ], se ele; ela; você [ sentasse ]

Ela pediu que ele se sentasse.
Não gostava que alguém se sentasse aqui.

Obs:
subjuntivo (português brasileiro) ou conjuntivo (português europeu) = modo verbal que não expressa certeza, e sim uma dúvida, desejo ou situações hipotéticas

A forma senta-se, com hífen, é uma conjugação pronominal (acompanhado do pronome oblíquo “se”) do verbo – neste caso, no presente do indicativo. O pronome é usado para indicar ações relativas ao sujeito que as pratica.

Ela senta-se no sofá e põe-se confortável.
Uma linda rapariga senta-se ao lado dele.