Allora...
esaminando il problema, non penso dipende dalla struttura del server.propriets, prima però farei dei tentativi, cioé al posto di usare un vpn userei l'ip locale, che lo puoi ricavare facilmente andanto su cmd.exe e digiti ipconfig, io preferei a fare cosi, solo all'inizio per vedere se è un problema dell'ip.
poi dipende, non cambia nulla dal vpn all'ip locale se no che solo quelli che appartengono alla rete domestica possono giocare, nel vpn entra solo chi partecipa alla rete.
in primis dovresti aprire le porte, do per scontato che lo sai fare, se no ci sono un sacco di guide, inclusa la mia, che se necessita te la invio cosi leggi con calma i vari procedimenti da fare.
Una volta aperta la porta in entrata e in uscita la salvi e metti l'ip hamachi che lo hai mascherato giustamente, immagino l'hai messo.
avvolte poi il problema non è proprio l'ip, ma java stesso, infatti, java nei serve non funzionerà se datato o mancante,
un buon aggiornamento del vecchio java non fa mai male, sia per 64 che per 32 bit.
io scommetterei tutto che riguarda il caro vecchio java, infatti, creai server anni fa che davano problemi simili, i server erano in bella vista ma non mi permetteva di entrare, grazie agli aggiornamenti di java sono riuscito a sistemare questo problema.