Vamos a ver. Desinstala el java, y bajate el de mi pagina. Despues reinicia el ordenador y te lo deberia ejecutar bien.
Si aun asi no te sale bien, prueba a hacer lo siguiente:
Metete en el directorio donde esta el visualdivx instalado y escribe lo siguiente:
java -jar VisualDivX.jar
siempre respetando las mayusculas y minusculas. Y asi podras arrancarlo, aunque te recomiendo la primera solucion.