Hallo Jan,
die Glattheit der Oberfläche hängt von der Feinheit des verwendeten Polygonnetzes ab und nicht vom Renderer oder dessen Einstellungen.
D.h. Du solltest das Polygonnetz feiner in den Optionen einstellen, das betrifft die schattierte Darstellung und alle möglichen Renderer (Flamingo nXt, V-Ray, Rhino Renderer, Brazil, etc.).
Gruß
Michael