Masking이라고 정의하면 조금 다른 의미가 될 수는 있지만 아마도 의미하시는 바를 수행하는 데는 문제가 없을 것 같습니다. 아래 링크를 참고하시어 inside라는 함수를 사용하시면(IDL 자체 함수가 아닙니다), 될 것 같습니다.
http://www.idlcoyote.com/tips/point_in_polygon.html
각 주를 나타내는 Polygon 좌표가 있을 것입니다. 그리고 가지고 계신 GRID에서 각 격자의 좌표가 있을 텐데, 각 state 마다, GRID 중 state 영역의 POLYGON 안으로 떨어지는 GRID를 체크하시면 될 것 같습니다. 해당 GRID 만 이용하여 평균 등을 내면 그것이 해당 State의 통계값이 되겠지요.
물론 GRID의 좌표와 POLYGON의 좌표는 동일 좌표계여야 합니다. 아니라면 어느 한쪽으로 변환을 해서 써야 할 것 같습니다.