ABBO 기술 블로그

API Throttling [가설] 기본적으로 API Gateway에서는 안정적인 상태 요청 속도를 10,000rps(초당 요청수)로 제한하고, API에 대해 버스트(즉, 최대 버킷 크기)를 5,000 요청으로 제한한다. API Gateway에서 버스트 한도는 API Gateway에서 429 Too Many Requests 오류 응답을 반환하지 않고, 정상적으로 이행할 수 있는 최대 동시 요청 제출 수이다. [CASE 1] 호출자가 1초 동안 균등하게 10,000개의 요청을 제출하면(예를 들어 1밀리초마다 10개 요청), API Gateway는 어떤것도 삭제하지 않고 모든 요청을 처리. [CASE 2] 호출자가 첫 밀리초내에 10,000개 요청을 제출하면 API Gateway는 1초 내에 이 요청 중 5..