A forma correta de escrita é além-mar de acordo com a Gramática Portuguesa e segundo o Acordo Ortográfico.
Além-mar é um advérbio que advém da construção de além + mar. Significa, deste modo, que algo se localiza do outro lado do mar, para além do mar, também referido como ultramar.
Além mar não está gramaticalmente correto na Língua Portuguesa.
Obs: Usa-se o hífen nas palavras compostas iniciadas pelo elemento além.