친절한 답변 감사합니다.
그리고 비슷한 문제를 겪을 다른 분들을 위해 해결방법을 남기자면,
문제의 원인은 kakao map이 붙는 div 노드가 제가 만든 웹 컴포넌트 내부 shadowDOM에 있어서 polyline의 setMap호출 시 내부적으로 document.getElementById를 호출할 때 shadowDOM 내에 있는 노드는 찾을 수가 없어서 예외가 발생했던 것이었습니다.
해당 웹 컴포넌트에서 shadowDOM을 open하지 않도록 하니 문제가 없어졌습니다.