3.3. 플랫폼 게이트웨이 프록시 및 인증 서비스 확장에 대한 고려 사항

프록시에 대한 요청 또는 기존 플랫폼 게이트웨이 서비스 기능을 초과하는 경우 플랫폼 게이트웨이 프록시 및 인증 서비스를 확장하는 것이 적합할 수 있습니다. 이 경우 수직 스케일링이 gRPC, Envoy, Nginx 및 WSGI 서비스에 대한 모든 작업자 풀 값을 자동으로 조정하지 않기 때문에 수평 스케일링이 선호됩니다.

CPU 사용률의 병목 현상을 관찰하면 gRPC 인증 서비스를 확장하면 처리량이 향상될 수 있습니다. 그러나 외부 인증 공급자가 높은 대기 시간 소스인 경우 gRPC 서비스의 수평 확장은 최소한의 이점이 있습니다. 업스트림 서비스 시간과 총 요청 대기 시간 간의 차이를 관찰하여 요청에 대한 gRPC 인증 대기 시간을 확인할 수 있습니다.

가장 강력한 인증 방법은 다음과 같습니다.

각 Envoy는 이를 개별적으로 추적하므로 플랫폼 게이트웨이 서비스 포드를 수평으로 스케일링하는 경우 각 구성 요소의 API에 상태 점검 수를 늘립니다. 로그에서 사용자 에이전트 Envoy/HC 를 사용하여 이를 확인할 수 있습니다. 상태 점검은 사용자가 시작한 요청과 동일한 서비스 및 큐를 통해 진행되므로 과부하로 인해 전체 요청 시간이 느리면 상태 점검도 시간 초과될 수 있습니다. 이 경우 Envoy는 상태 점검을 다시 전달할 때까지 이러한 서비스 노드에 대한 요청 전달을 중지합니다.

*** uWSGI listen queue of socket ":8000" (fd: 3) full !!! (101/100) ***