openai 의 chatgpt 는 text/event-stream 방식을 지원합니다.
해당 방식으로 하면 사용자가 응답지연을 크게 느끼지 않을 수 있습니다.
kogpt 도 text/event-stream content-type 지원 여부가 궁금합니다
현재는 지원이 안되는듯하지만 추후 예정에 있는지 문의드립니다.
안녕하세요, 답변이 늦어 죄송합니다.
현재 KoGPT는 stream 방식을 지원하고 있지 않습니다.
추후 버전 업 시에 스펙에 포함될 수 있을지 논의해보도록 하겠습니다.
감사합니다.