http://mobile.ticketmonster.co.kr/deals/353640814
위 url 을 브라우저에서 들어가보시면 딜 상단에 카카오스토리 공유하기가 있는데요.
태그 내 og 관련 설정도 이상없고, 이외의 다른 페이지들은 스크랩도 정상적으로 작동하고 있어서 스크립트 문제가 아닌듯하네요..
위 url에 대해서만 스크랩이 불가한 상황인데, 해결방안에 대해 빠른 답변 부탁드립니다.
응답정보:
{
“code”: -604,
“msg”: “invalid story scrap url: http://mobile.ticketmonster.co.kr/deals/353640814”
}
@mornya 그르네요. 담당자분께 한번 문의 드려볼께요.
참고로 개발자 웹사이트에서 REST API 도구에서 스토리쪽의 "링크 정보 얻기"로 쉽게 테스트 가능해요. 제가 해보니 말씀하신대로 에러가 나네요.
@mornya 일단 해당 사이트가 wget http://mobile.ticketmonster.co.kr/deals/353640814 이런식으로 접근하면
거의 100% 503 에러가 떨어지는데요. 혹시나 헤더나 User-Agent 체크를 한다거나 하는 부분이 존재하시는지요?
1개의 좋아요
@charsyam wget 실행하니 서비스단에서 Null-pointer Exception이 발생하고 있는 것 같습니다.
이 부분 확인해보는 중입니다.
1개의 좋아요
@charsyam 확인해보니 해당 url 진입시에 백엔드단에서 cookie 값을 가져오도록 하고있었는데, 관련 쿠키가 없을 경우 Null-pointer Exception을 발생시키고 있었네요.
크롤링을 위해 웹 브라우저가 아닌 wget 으로 페이지를 읽어올 때는 쿠키값이 당연히 존재하지 않으므로 NPE를 발생해서 503을 리턴하게 된겁니다.
아무튼 수정해서 배포했더니 정상적으로 크롤링이 되고 있습니다 ^^
시간내서 확인해주셔서 감사드립니다!
좋은 하루되세요~
1개의 좋아요