일단 제가 알기로는 DG 체계의 CONTOUR 프로시저에서 /QUINTIC이라는 키워드는 존재하지 않습니다. 제 짐작으로는 아마도 CONTOUR 프로시저의 사용 예제 내에서 다른 함수에서 이 키워드가 사용된 것을 보신 것 같은데요. 불규칙 격자 데이터를 규칙 격자화하는 기능을 수행하는 TRIGRID 함수의 사용 예제를 보신 것이 아닐까요? 이 함수에서 /QUINTIC이란 키워드를 지원합니다만, 어쨌든 이것은 불규칙 격자 데이터를 규칙 격자화하는 알고리즘과 관련된 것입니다.
본론으로 돌아와서, contour의 선을 부드럽게 한다는 것에 대한 개념을 명확히 할 필요가 있습니다. 즉 원본 데이터를 그대로 둔 채 선만 부드럽게 하고자 하는 경우인지, 아니면 원본 데이터 자체를 좀 더 부드럽게 다듬고 그걸 바탕으로 contour를 다시 그리고자 하는 경우인지를 구분해야 합니다. 질문하신 내용만으로는 어느 쪽을 원하시는 것인지 정확히 판별하기가 힘든데요. 전자에 대해서는 그게 가능한 것인지는 저도 잘 모르겠습니다. 후자의 경우라면 여러가지 방법들이 있겠지만, 예를 들면 MIN_CURVE_SURF 함수를 원본 데이터에 먼저 사용하여 데이터 자체를 부드럽게 다듬은 후 CONTOUR 프로시저나 함수에 투입하는 방법을 생각해볼 수 있습니다.
만약 불규칙 분포를 하는 데이터 포인트들을 규칙격자화하여 contour를 그리고자 하는 경우라면 앞서 언급한 MIN_CURVE_SURF외에도 TRIGRID, KRIG2D, GRIDDATA 등의 기능들을 활용하는 방법도 고려해볼만 합니다.