As duas formas – dezessete e dezassete existem na Gramática Portuguesa e ambas com o mesmo significado. A única diferença refere-se ao País onde é usado.
Dezessete significa dez mais sete ou cardinalidade de um conjunto que contenha dezessete elementos distintos representado pelo símbolo 17. Usa-se no Brasil.
Esta questão também se estende ao erro comum de escrever “dezasete e desesete”; ambas estas formas estão incorretas.
Dezassete usa-se em Portugal.
É um vocábulo com dupla grafia tal como os números 16 ( dezasseis/dezesseis ) e 19 ( dezanove/dezenove ).
Referências
O numeral romano é XVII.