开发3D界面应用程序应该怎么起步？

如果要做一个3D界面的应用程序（类似3D电子相册或者是虚拟现实那样），所有介绍Directx开发的书上都是从矩阵变换这些讲起的。虽然这些是基础，但是所有都自己写似乎是在开发一个3D引擎了，有点重新发明轮子的感觉。而且，画面渲染的效果和商业级游戏的效果有天壤之别。
有没有现成的这种工具（引擎）可以使用？比如，我在画面中放一个模型，然后设定好材质光照这些，就像是3Dmax里那样，就可以自己渲染出很好的效果？
要开发的程序并不复杂，没有一个游戏那么麻烦，只是用到了三维的界面。但是需要一些很炫的视觉效果，比如HDR之类，而且有互动，应该用什么东西开发？

或者说，好像没有人直接拿现成的比如虚幻3这样的引擎写非游戏类的软件。但是我又希望能达到那样的视觉效果，应该怎么做？

古月引擎