A forma correta de escrita é retângulo de acordo com a Língua Portuguesa e foi introduzido pelo Acordo Ortográfico.

Ou seja, é escrito sem a consoante “c”.

Retângulo significa polígono regular que possui todos os ângulos retos.

Toras de madeiras intercaladas formavam um retângulo.
O retângulo é um quadrilátero com dois lados de mesmo comprimento e dois lados de mesma largura.

A regra é que para sequências interiores “ct” o “c” apenas é escrito quando é pronunciado.

Esta questão também se estende às dúvidas recto e reto? e recta e reta?; em ambos os casos é escrito sem a consoante “c” pelas mesmas razões.

Rectângulo não está gramaticalmente correto na Língua Portuguesa; era a forma de escrita antes do AO.


Referências

Advém do latim medieval rectangulum.