처리율 제한 장치(rate limiter)

• 네트워크 시스템에서 클라이언트, 또는 서비스가 보내는 트래픽의 처리율을 제어하기 위한 장치

  • ex) HTTP에서 이 장치는 특정 기간 내에 전송되는 클라이언트의 요청 횟수를 제한한다.
  • API 요청 횟수가 제한 장치에 정의된 임계치를 넘어서면, 추가로 도달한 모든 호출은 처리가 중단된다!

• 몇 가지 사례들

  • 사용자는 초당 2회 이상 새 글을 올릴 수 없다.
  • 같은 IP 주소로는 하루에 10개 이상의 계정을 생성할 수 없다.
  • 같은 디바이스로는 주당 5회 이상 리워드를 요청할 수 없다.

API에 처리율 제한 장치를 두면 좋은 점들

• Dos 공격에 의한 자원 고갈을 방지할 수 있다.

  • 처리율 제한 장치는 추가 요청에 대해서는 처리를 중단함으로써, Dos 공격을 방지한다.

• 비용을 절감한다.

  • 서버를 많이 두지 않아도 되고, 우선순위가 높은 API에 더 많은 자원을 할당할 수 있다.
  • 특히, 써드 파티 API에 사용료를 지불하고 있는 회사들에게는 아주 중요하다.
    • ex) 신용 확인, 결제, 건강 상태 확인..

• 서버 과부하를 막는다.

  • 봇에서 오는 트래픽이나 사용자의 잘못된 이용 패턴으로 유발된 트래픽을 걸러낼 수 있다.

1단계: 문제 이해 및 설계 범위 확정

처리율 제한 장치를 구현하는 데는 여러 가지 알고리즘을 사용할 수 있다.

• 지원자
  • 어떤 종류의 처리율 제한 장치를 설계해야 하나요?