Чтобы установить Java3D на Ubuntu необходимо:
1) скачать java3d-1_3_2-linux-amd64.zip
2)перейти в директорию где у вас установлена java, а конкретнее в директорию jre
3) распаковать архив
После  распаковки архива должно быть следующее:
a) в директории $JAVA_HOME/jre/lib/amd64 должны быть файлы libj3dutils.so и libj3dcore-ogl.so
b)в директории $JAVA_HOME/jre/lib/ext должны быть файлы j3dcore.jar, j3dutils.jar,  vecmath.jar