int_tabulated() 값 문제

홈 › 게시판 › IDL Q&A › int_tabulated() 값 문제

1 답변 글타래를 보이고 있습니다
  • 글쓴이
    글
    • 2017/05/24 6:11 오후 #4967 Reply
      hj
      회원

      안녕하세요
      ubuntu 14.04 32bit 사용자입니다. IDL 8.2.2 (linux x 86 m32)를 사용하고 있습니다.

      int_tabulated의 예제( https://harrisgeospatial.com/docs/INT_TABULATED.html )를 아래와 같이 수행하면 result 값으로 1.6271이 나와야 할 것으로 보이나… 저는 1.62323이 나옵니다.

      X = [0.0, .12, .22, .32, .36, .40, .44, .54, .64, .70, .80]
      F = [0.200000, 1.30973, 1.30524, 1.74339, 2.07490, 2.45600, $
      2.84299, 3.50730, 3.18194, 2.36302, 0.231964]
      result = INT_TABULATED(X, F)

      차이가 나타나는 이유가 무엇인가요?
      IDL 최신 버전은 1.62323이 나오는지요? 또 차이는 항상 0.2% 정도 유지되는지요?

    • 2017/05/25 2:05 오후 #4968 Reply
      Sangwoo
      회원

      저도 확인해본 결과 버전이나 OS 등에 상관없이 모두 1.62323이 나옵니다. 이 값이 맞는 값이라고 보시면 됩니다. 도움말 예제 설명에서 1.6271로 나온 것은 오타일 수도 있고, 아니면 내용 자체가 오래전 버전이나 머신에서 돌린 결과였을 가능성도 있습니다. 도움말에서 INT_TABULATED 함수의 version history를 보면 “Pre 4.0″이라고 나오는데, 이 얘기는 IDL 4.0 버전 이전부터 존재했던 함수라는 얘기거든요. 최소한 20여년 전에 도입된 기능이란 얘기이므로 도움말 상의 설명 내용 역시 꽤 오래전 버전일 가능성도 있습니다. 물론 예전 머신에서는 왜 계산값이 약간 다르게 나오는지에 대해서는 지금 시점에선 확인할 방법은 없을 것 같습니다.

      • 이 답변은 Sangwoo에 의해 6 years, 11 months 전에 수정됐습니다.
  • 글쓴이
    글
1 답변 글타래를 보이고 있습니다
'int_tabulated() 값 문제'에 답변달기
글쓴이 정보: