18.8. 사용자 프로비저닝 인프라가 있는 제한된 네트워크에서 VMC에 클러스터 설치
OpenShift Container Platform 4.9 버전에서는 AWS의 VMC(VMware Cloud)에 배포하여 제한된 네트워크에서 프로비저닝하는 VMware vSphere 인프라에 클러스터를 설치할 수 있습니다.
OpenShift Container Platform 배포를 위해 VMC 환경을 구성한 후 VMC 환경에 공동 배치된 bastion 관리 호스트에서 OpenShift Container Platform 설치 프로그램을 사용합니다. 설치 프로그램 및 컨트롤 플레인은 OpenShift Container Platform 클러스터에 필요한 리소스 배포 및 관리 프로세스를 자동화합니다.
OpenShift Container Platform은 단일 VMware vCenter에만 클러스터 배포를 지원합니다. 여러 vCenter에 머신/머신 세트가 있는 클러스터 배포는 지원되지 않습니다.
18.8.1. vSphere용 VMC 설정
AWS 호스팅된 vSphere 클러스터에 VMware Cloud (VMC)의 OpenShift Container Platform을 설치하여 하이브리드 클라우드 전반에 애플리케이션을 온프레미스 및 오프프레미스 모두 배포 및 관리할 수 있습니다.
VMware vSphere에 OpenShift Container Platform을 설치하기 전에 VMC 환경에서 여러 옵션을 구성해야 합니다. VMC 환경에 다음과 같은 사전 요구 사항이 있는지 확인합니다.
- 비독점 DHCP 사용, NSX-T 네트워크 세그먼트 및 서브넷을 생성합니다. 서브넷에서 다른 VM(가상 머신)을 호스팅할 수 있지만 OpenShift Container Platform 배포에서는 8개 이상의 IP 주소를 사용할 수 있어야 합니다.
다음 방화벽 규칙을 설정합니다.
- 포트 443의 설치 호스트와 소프트웨어 정의 데이터 센터(SDDC) 관리 네트워크 간의 ANY:ANY 방화벽 규칙입니다. 이를 통해 배포 중에 RHCOS(Red Hat Enterprise Linux CoreOS) OVA를 업로드할 수 있습니다.
- OpenShift Container Platform 컴퓨팅 네트워크와 인터넷 간의 HTTPS 방화벽 규칙입니다. 이 연결을 통해 OpenShift Container Platform은 노드, PVC(영구 볼륨 클레임) 및 기타 리소스를 프로비저닝 및 관리하기 위해 vCenter과 통신할 수 있습니다.
OpenShift Container Platform을 배포하려면 다음 정보가 있어야 합니다.
-
OpenShift Container Platform 클러스터에
vmc-prod-1
로 로그인합니다. -
companyname.com
과 같은 기본 DNS 이름입니다. -
기본값을 사용하지 않는 경우 Pod 네트워크 CIDR 및 서비스 네트워크 CIDR을 식별해야 하며, 기본적으로
10.128.0.0/14
및172.30.0.0/16
으로 설정됩니다. 이러한 CIDR은 pod-to-pod 및 pod-to-service 통신에 사용되며 외부에서 액세스할 수 없지만 조직의 기존 서브넷과 중복되어서는 안 됩니다. 다음 vCenter 정보를 참조하십시오:
- vCenter 호스트 이름, 사용자 이름 및 암호
-
데이터 센터 이름 (예:
SDDC-Datacenter
) -
Cluster-1
과 같은 클러스터 이름 - 네트워크 이름
WorkloadDatastore
와 같은 데이터 저장소 이름참고클러스터 설치가 완료된 후 vSphere 클러스터를 VMC
Compute-ResourcePool
리소스 풀로 이동하는 것이 좋습니다.
-
OpenShift Container Platform 클러스터에
VMC에 bastion으로 배포된 Linux 기반 호스트입니다.
- bastion 호스트는 RHEL(Red Hat Enterprise Linux) 또는 기타 Linux 기반 호스트일 수 있습니다. 인터넷에 연결되어 있어야 하고 OVA를 ESXi 호스트에 업로드하는 기능이 있어야 합니다.
OpenShift CLI 툴을 bastion 호스트에 다운로드하여 설치합니다.
-
openshift-install
설치 프로그램 -
OpenShift CLI(
oc
) 툴
-
Kubernetes 용 VMware NCP (NSX Conrainer Plugin)dOpen에는 사용할 수 없으며 NSX는 OpenShift SDN으로 사용되지 않습니다. 현재 VMC에서 사용할 수 있는 NSX 버전은 OpenShift Container Platform에서 인증된 NCP 버전과 호환되지 않습니다.
그러나 NSX DHCP 서비스는 전체 스택 자동화된 OpenShift Container Platform 배포와 vSphere와의 Machine API 통합을 통해 수동 또는 자동으로 프로비저닝된 노드를 사용하여 가상 머신 IP 관리에 사용됩니다. 또한 OpenShift Container Platform 클러스터와 bastion 호스트와 VMC vSphere 호스트 사이에서 액세스할 수 있도록 NSX 방화벽 규칙이 생성됩니다.
18.8.1.1. VMC Sizer 툴
AWS의 VMware Cloud는 AWS 베어메탈 인프라 상단에 구축됩니다. 이는 AWS 네이티브 서비스를 실행하는 것과 동일한 베어 메탈 인프라입니다. AWS 소프트웨어 정의 데이터 센터(SDDC)의 VMware 클라우드가 배포되면 이러한 물리적 서버 노드를 사용하고 단일 테넌트 방식으로 VMware ESXi 하이퍼바이저를 실행할 수 있습니다. 즉, VMC를 사용하는 모든 사용자가 물리적 인프라에 액세스할 수 없습니다. 가상 인프라를 호스팅하는데 필요한 물리적 호스트 수를 고려해야 합니다.
이를 확인하기 위해 VMware는 AWS Sizer에서 VMC를 제공합니다. 이 툴을 사용하면 VMC에서 호스팅할 리소스를 정의할 수 있습니다.
- 워크로드 유형
- 총 가상 머신 수
사양 정보는 다음과 같습니다:
- 스토리지 요구사항
- vCPU
- vRAM
- 오버커밋 비율
이러한 세부 정보를 사용하여 VMware 모범 사례를 기반으로 보고서를 생성하고 클러스터 구성과 필요한 호스트 수를 권장합니다.
18.8.2. vSphere 사전 요구 사항
- OpenShift Container Platform 설치 및 업데이트 프로세스에 대한 세부 사항을 검토합니다.
- 클러스터 설치 방법 선택 및 사용자를 위한 준비에 대한 문서를 읽습니다.
미러 호스트에 레지스트리를 생성하고 사용 중인 OpenShift Container Platform 버전의
imageContentSources
데이터를 가져옵니다.중요미러 호스트에 설치 미디어가 있으므로 해당 컴퓨터를 사용하여 모든 설치 단계를 완료하십시오.
- 블록 레지스트리 스토리지가 프로비저닝되어 있습니다. 자세한 내용은 영구 저장 장치 이해를 참조하십시오.
방화벽을 사용하며 Telemetry 서비스를 사용할 예정인 경우 클러스터가 액세스해야 하는 사이트를 허용하도록 방화벽을 구성해야 합니다.
참고프록시를 구성하는 경우에도 해당 사이트 목록을 검토하십시오.
18.8.3. 네트워크가 제한된 환경에서의 설치 정보
OpenShift Container Platform 4.9에서는 소프트웨어 구성 요소를 받기 위한 인터넷 접속이 필요하지 않은 설치를 수행할 수 있습니다. 제한된 네트워크 설치는 클러스터를 설치하는 클라우드 플랫폼에 따라 설치 관리자 프로비저닝 인프라 또는 사용자 프로비저닝 인프라를 사용하여 완료할 수 있습니다.
클라우드 플랫폼에 제한된 네트워크 설치를 수행하는 방법을 선택해도 클라우드 API에 액세스는 가능해야 합니다. Amazon Web Service의 Route 53 DNS 및 IAM 서비스와 같은 일부 클라우드 기능에는 인터넷 액세스가 필요합니다. 사용 중인 네트워크에 따라 베어메탈 하드웨어 또는 VMware vSphere에 설치하기 위해 필요한 인터넷 액세스가 줄어들 수 있습니다.
제한된 네트워크 설치를 완료하려면 OpenShift Container Platform 레지스트리의 내용을 미러링하고 설치 미디어를 포함할 레지스트리를 생성해야 합니다. 인터넷과 폐쇄 네트워크에 모두 액세스하거나 제한 사항을 따르는 다른 방법을 통해 미러 호스트에 레지스트리를 생성할 수 있습니다.
사용자 프로비저닝 설치의 구성이 복잡하므로 사용자 프로비저닝 인프라를 사용하여 제한된 네트워크 설치를 시도하기 전에 표준 사용자 프로비저닝 인프라 설치를 완료하는 것이 좋습니다. 이 테스트 설치를 완료하면 제한된 네트워크에 설치하는 동안 발생할 수 있는 문제를 보다 쉽게 파악 및 해결할 수 있습니다.
18.8.3.1. 추가 제한
제한된 네트워크의 클러스터에는 다음과 같은 추가 제한이 있습니다.
-
ClusterVersion
상태에사용 가능한 업데이트를 검색할 수 없음
오류가 포함되어 있습니다. - 기본적으로 필요한 이미지 스트림 태그에 액세스할 수 없기 때문에 개발자 카탈로그의 내용을 사용할 수 없습니다.
18.8.4. OpenShift Container Platform 용 인터넷 액세스
OpenShift Container Platform 4.9에서 클러스터를 설치하기 위해 필요한 이미지를 받으려면 인터넷 액세스가 필요합니다.
다음의 경우 인터넷 액세스가 필요합니다.
- OpenShift Cluster Manager 에 액세스하여 설치 프로그램을 다운로드하고 서브스크립션 관리를 수행합니다. 클러스터가 인터넷에 액세스할 수 있고 Telemetry 서비스를 비활성화하지 않은 경우, 클러스터에 자동으로 권한이 부여됩니다.
- Quay.io에 액세스. 클러스터를 설치하는 데 필요한 패키지를 받을 수 있습니다.
- 클러스터 업데이트를 수행하는 데 필요한 패키지를 받을 수 있습니다.
클러스터가 직접 인터넷에 액세스할 수 없는 경우, 프로비저닝하는 일부 유형의 인프라에서 제한된 네트워크 설치를 수행할 수 있습니다. 이 프로세스 동안 필요한 콘텐츠를 다운로드하고 이를 사용하여 설치 패키지로 미러 레지스트리를 채웁니다. 설치 유형에 따라서는 클러스터를 설치하는 환경에 인터넷 액세스가 필요하지 않을 수도 있습니다. 클러스터를 업데이트하기 전에 미러 레지스트리의 내용을 업데이트합니다.
18.8.5. VMware vSphere 인프라 요구사항
사용하는 구성 요소의 요구사항을 충족하는 VMware vSphere 버전 6 또는 7 인스턴스에 OpenShift Container Platform 클러스터를 설치해야 합니다.
가상 환경 제품 | 필요한 버전 |
---|---|
VM 하드웨어 버전 | 13 이상 |
vSphere ESXi hosts | 6.5 이상 |
vCenter 호스트 | 6.5 이상 |
이제 VMware vSphere 버전 6.7U2 또는 이전 버전에 클러스터를 설치하는 것이 더 이상 사용되지 않으며 가상 하드웨어 버전 13은 더 이상 사용되지 않습니다. 이러한 버전은 여전히 완전히 지원되지만 향후 OpenShift Container Platform 버전에서는 지원이 제거됩니다. 이제 OpenShift Container Platform의 vSphere 가상 머신의 하드웨어 버전 15가 기본값이 되었습니다. vSphere 노드의 하드웨어 버전을 업데이트하려면 " vSphere에서 실행되는 노드에서 하드웨어 업데이트" 문서를 참조하십시오.
구성 요소 | 지원되는 최소 버전 | 설명 |
---|---|---|
하이퍼바이저 | HW 버전 13이 포함된 vSphere 6.5 이상 | 이 버전은 RHCOS(Red Hat Enterprise Linux CoreOS)가 지원하는 최소 버전입니다. Red Hat Enterprise Linux 8 지원 하이퍼바이저 목록을 참조하십시오. |
In-tree 드라이버가 있는 스토리지 | vSphere 6.5 이상 | 이 플러그인은 OpenShift Container Platform에 포함된 vSphere용 인트리 스토리지 드라이버를 사용하여 vSphere 스토리지를 생성합니다. |
vSphere 버전 6.5 인스턴스를 사용하는 경우 OpenShift Container Platform을 설치하기 전에 6.7U3 또는 7.0로 업그레이드하는 것이 좋습니다.
OpenShift Container Platform을 설치하기 전에 ESXi 호스트의 시간이 동기화되었는지 확인해야 합니다. VMware 문서에서 Edit Time Configuration for a Host를 참조하십시오.
추가 리소스
- vSphere 노드의 하드웨어 버전을 업데이트하려면 vSphere에서 실행 중인 노드에서 하드웨어 업데이트를 참조하십시오.
18.8.6. 사용자 프로비저닝 인프라를 포함한 클러스터의 시스템 요구사항
사용자 프로비저닝 인프라가 포함된 클러스터의 경우, 필요한 모든 시스템을 배포해야 합니다.
이 섹션에서는 사용자 프로비저닝 인프라에 OpenShift Container Platform을 배포해야 하는 요구 사항에 대해 설명합니다.
18.8.6.1. 클러스터 설치에 필요한 시스템
최소 OpenShift Container Platform 클러스터에 다음과 같은 호스트가 필요합니다.
호스트 | 설명 |
---|---|
임시 부트스트랩 시스템 한 개 | 컨트롤 플레인 시스템 세 개에 OpenShift Container Platform 클러스터를 배포하기 위한 부트스트랩 시스템이 클러스터에 필요합니다. 클러스터를 설치한 후 부트스트랩 시스템을 제거할 수 있습니다. |
컨트롤 플레인 시스템 세 개 | 컨트롤 플레인 시스템은 컨트롤 플레인을 구성하는 Kubernetes 및 OpenShift Container Platform 서비스를 실행합니다. |
두 개 이상의 컴퓨팅 시스템(작업자 시스템이라고도 함). | OpenShift Container Platform 사용자가 요청한 워크로드는 컴퓨팅 머신에서 실행됩니다. |
클러스터의 고가용성을 유지하려면 이러한 클러스터 시스템에 대해 별도의 물리적 호스트를 사용하십시오.
부트스트랩, 컨트롤 플레인 시스템은 운영 체제로 RHCOS (Red Hat Enterprise Linux CoreOS)를 사용해야 합니다. 그러나 컴퓨팅 머신은 RHCOS(Red Hat Enterprise Linux CoreOS), RHEL (Red Hat Enterprise Linux) 7.9 또는 RHEL 8.4 중에서 선택할 수 있습니다.
RHCOS는 RHEL 8(Red Hat Enterprise Linux)을 기반으로하며 모든 하드웨어 인증 및 요구사항을 모두 이어받습니다. Red Hat Enterprise Linux 기술 기능 및 제한을 참조하십시오.
18.8.6.2. 클러스터 설치를 위한 최소 리소스 요구 사항
각 클러스터 시스템이 다음과 같은 최소 요구사항을 충족해야 합니다.
시스템 | 운영 체제 | vCPU [1] | 가상 RAM | 스토리지 | IOPS [2] |
---|---|---|---|---|---|
부트스트랩 | RHCOS | 4 | 16GB | 100GB | 300 |
컨트롤 플레인 | RHCOS | 4 | 16GB | 100GB | 300 |
컴퓨팅 | RHCOS, RHEL 7.9 또는 RHEL 8.4 [3] | 2 | 8GB | 100GB | 300 |
- SMT(동시 멀티스레딩) 또는 하이퍼 스레딩이 활성화되지 않은 경우 하나의 vCPU는 하나의 물리적 코어와 동일합니다. 활성화하면 다음과 같은 공식을 사용하여 해당 비율을 계산합니다. (코어 당 스레드 수 × 코어 수) × 소켓 수 = vCPU 수
- OpenShift Container Platform 및 Kubernetes는 디스크 성능에 민감하며 특히 10ms p99 fsync 기간이 필요한 컨트롤 플레인 노드의 etcd에 더 빠른 스토리지가 권장됩니다. 많은 클라우드 플랫폼에서 스토리지 크기와 IOPS를 함께 확장되므로 충분한 성능을 얻으려면 스토리지 볼륨을 과도하게 할당해야 할 수 있습니다.
- 사용자가 프로비저닝한 모든 설치와 마찬가지로 클러스터에서 RHEL 컴퓨팅 머신을 사용하기로 선택한 경우 시스템 업데이트 수행, 패치 적용 및 기타 필요한 모든 작업 실행을 포함한 모든 운영 체제의 라이프 사이클 관리 및 유지 관리에 대한 책임이 있습니다. RHEL 7 컴퓨팅 머신 사용은 더 이상 사용되지 않으며 향후 OpenShift Container Platform 4 릴리스에서 제거될 예정입니다.
18.8.6.3. 인증서 서명 요청 관리
사용자가 프로비저닝하는 인프라를 사용하는 경우 자동 시스템 관리 기능으로 인해 클러스터의 액세스가 제한되므로 설치한 후 클러스터 인증서 서명 요청(CSR)을 승인하는 메커니즘을 제공해야 합니다. kube-controller-manager
는 kubelet 클라이언트 CSR만 승인합니다. machine-approver
는 올바른 시스템에서 발행한 요청인지 확인할 수 없기 때문에 kubelet 자격 증명을 사용하여 요청하는 서비스 인증서의 유효성을 보장할 수 없습니다. kubelet 서빙 인증서 요청의 유효성을 확인하고 요청을 승인하는 방법을 결정하여 구현해야 합니다.
18.8.6.4. 사용자 프로비저닝 인프라에 대한 네트워킹 요구사항
모든 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템이 부팅 중에 Ignition 구성 파일을 가져오려면 initramfs
에 네트워킹을 구성해야 합니다.
초기 부팅 과정에서 시스템에 필요한 부팅 옵션을 제공하여 DHCP 서버를 통해 설정하거나 정적으로 설정하는 IP 주소 구성이 필요합니다. 네트워크 연결이 설정된 후 시스템은 HTTP 또는 HTTPS 서버에서 Ignition 구성 파일을 다운로드합니다. 그런 다음 Ignition 구성 파일을 사용하여 각 머신의 정확한 상태를 설정합니다. Machine Config Operator는 설치 후 새 인증서 또는 키 적용과 같은 머신에 대한 추가 변경을 완료합니다.
클러스터 시스템의 장기적인 관리를 위해 DHCP 서버를 사용하는 것이 좋습니다. DHCP 서버가 클러스터 시스템에 영구 IP 주소, DNS 서버 정보 및 호스트 이름을 제공하도록 구성되었는지 확인합니다.
사용자 프로비저닝 인프라에 DHCP 서비스를 사용할 수 없는 경우 RHCOS 설치 시 노드에 IP 네트워킹 구성과 DNS 서버의 주소를 대신 제공할 수 있습니다. ISO 이미지에서 설치하는 경우 부팅 인수로 전달할 수 있습니다. 고정 IP 프로비저닝 및 고급 네트워킹 옵션에 대한 자세한 내용은 RHCOS 설치 및 OpenShift Container Platform 부트스트랩 프로세스 시작 섹션을 참조하십시오.
Kubernetes API 서버가 클러스터 시스템의 노드 이름을 확인할 수 있어야 합니다. API 서버와 작업자 노드가 서로 다른 영역에 있는 경우, API 서버가 노드 이름을 확인할 수 있도록 기본 DNS 검색 영역을 설정할 수 있습니다. 노드 개체와 모든 DNS 요청에서 항상 정규화된 도메인 이름으로 호스트를 가리키는 것도 지원되는 방법입니다
18.8.6.4.1. DHCP를 통해 클러스터 노드의 호스트 이름 설정
RHCOS(Red Hat Enterprise Linux CoreOS) 시스템에서 호스트 이름은 NetworkManager를 통해 설정됩니다. 기본적으로 시스템은 DHCP를 통해 호스트 이름을 가져옵니다. DHCP에서 호스트 이름을 제공하지 않거나, 커널 인수를 통해 정적으로 설정하거나 다른 방법을 통해 설정하면 역방향 DNS 조회를 통해 얻을 수 있습니다. 역방향 DNS 조회는 노드에서 네트워크를 초기화한 후 수행되며 확인하는 데 시간이 걸릴 수 있습니다. 다른 시스템 서비스는 이 보다 먼저 시작하여 호스트 이름을 localhost
등으로 감지할 수 있습니다. DHCP를 사용하여 각 클러스터 노드의 호스트 이름을 제공하여 이 문제를 방지할 수 있습니다.
또한 DHCP를 통해 호스트 이름을 설정하면 DNS 분할 수평 구현 환경에서 수동으로 DNS 레코드 이름 구성 오류를 무시할 수 있습니다.
18.8.6.4.2. 네트워크 연결 요구사항
OpenShift Container Platform 클러스터 구성 요소가 통신할 수 있도록 시스템 간 네트워크 연결을 구성해야 합니다. 각 시스템에서 클러스터에 있는 다른 모든 시스템의 호스트 이름을 확인할 수 있어야 합니다.
이 섹션에서는 필요한 포트에 대해 자세히 설명합니다.
연결된 OpenShift Container Platform 환경에서 모든 노드는 플랫폼 컨테이너의 이미지를 가져오고 Red Hat에 원격 측정 데이터를 제공하기 위해 인터넷에 액세스할 수 있어야 합니다.
프로토콜 | 포트 | 설명 |
---|---|---|
ICMP | 해당 없음 | 네트워크 연결성 테스트 |
TCP |
| 메트릭 |
|
| |
| Kubernetes에서 예약하는 기본 포트 | |
| openshift-sdn | |
UDP |
| VXLAN 및 Geneve |
| VXLAN 및 Geneve | |
|
| |
| IPsec IKE 패킷 | |
| IPsec NAT-T 패킷 | |
TCP/UDP |
| Kubernetes 노드 포트 |
ESP | 해당 없음 | IPsec Encapsulating Security Payload (ESP) |
프로토콜 | 포트 | 설명 |
---|---|---|
TCP |
| Kubernetes API |
프로토콜 | 포트 | 설명 |
---|---|---|
TCP |
| etcd 서버 및 피어 포트 |
사용자 프로비저닝 인프라에 대한 NTP 구성
OpenShift Container Platform 클러스터는 기본적으로 공용 NTP(Network Time Protocol) 서버를 사용하도록 구성되어 있습니다. 로컬 엔터프라이즈 NTP 서버를 사용하거나 클러스터가 연결이 끊긴 네트워크에 배포되는 경우 특정 시간 서버를 사용하도록 클러스터를 구성할 수 있습니다. 자세한 내용은 chrony 타임 서비스 설정 문서를 참조하십시오.
DHCP 서버가 NTP 서버 정보를 제공하는 경우 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템의 chrony 타임 서비스에서 정보를 읽고 NTP 서버와 클럭을 동기화할 수 있습니다.
18.8.6.5. 사용자 프로비저닝 DNS 요구사항
OpenShift Container Platform 배포의 경우 다음 구성 요소에 DNS 이름을 확인해야 합니다.
- Kubernetes API
- OpenShift Container Platform 애플리케이션 와일드카드
- 부트스트랩, 컨트롤 플레인 및 컴퓨팅 시스템
Kubernetes API, 부트스트랩 시스템, 컨트롤 플레인 시스템 및 컴퓨팅 시스템에 대한 역방향 DNS 확인이 필요합니다.
DNS A/AAAA 또는 CNAME 레코드는 이름 확인에 사용되며 PTR 레코드는 역방향 이름 확인에 사용됩니다. RHCOS (Red Hat Enterprise Linux CoreOS)는 DHCP에서 호스트 이름을 제공하지 않는 한 모든 노드의 호스트 이름을 설정할 때 역방향 레코드를 사용하기 때문에 역방향 레코드가 중요합니다. 또한 역방향 레코드는 OpenShift Container Platform이 작동하는 데 필요한 인증서 서명 요청 (CSR)을 생성하는 데 사용됩니다.
DHCP 서버를 사용하여 각 클러스터 노드에 호스트 이름을 제공하는 것이 좋습니다. 자세한 내용은 사용자 프로비저닝 인프라 섹션에 대한 DHCP 권장 사항 섹션을 참조하십시오.
사용자가 프로비저닝한 OpenShift Container Platform 클러스터에 대해 다음 DNS 레코드가 필요하며 설치 전에 있어야 합니다. 각 레코드에서 <cluster_name>
은 클러스터 이름이고 <base_domain>
은 install-config.yaml
파일에서 지정하는 기반 도메인입니다. 전체 DNS 레코드는 <component>.<cluster_name>.<base_domain>
형식입니다.
구성 요소 | 레코드 | 설명 |
---|---|---|
Kubernetes API |
| API 로드 밸런서를 식별하는 DNS A/AAAA 또는 CNAME 레코드와 DNS PTR 레코드입니다. 이 레코드는 클러스터 외부의 클라이언트와 클러스터 내의 모든 노드에서 확인할 수 있어야 합니다. |
| 내부적으로 API 로드 밸런서를 식별하는 DNS A/AAAA 또는 CNAME 레코드와 DNS PTR 레코드입니다. 이 레코드는 클러스터 내의 모든 노드에서 확인할 수 있어야 합니다. 중요 API 서버는 Kubernetes에 기록된 호스트 이름으로 작업자 노드를 확인할 수 있어야 합니다. API 서버가 노드 이름을 확인할 수 없는 경우 프록시된 API 호출이 실패할 수 있으며 pod에서 로그를 검색할 수 없습니다. | |
라우트 |
| 애플리케이션 인그레스 로드 밸런서를 참조하는 와일드카드 DNS A/AAA 또는 CNAME 레코드입니다. 애플리케이션 인그레스 로드 밸런서는 Ingress 컨트롤러 Pod를 실행하는 머신을 대상으로 합니다. Ingress 컨트롤러 Pod는 기본적으로 컴퓨팅 머신에서 실행됩니다. 이 레코드는 클러스터 외부의 클라이언트와 클러스터 내의 모든 노드에서 확인할 수 있어야 합니다.
예를 들어 |
부트스트랩 시스템 |
| 부트스트랩 머신을 식별하는 DNS A/AAAA 또는 CNAME 레코드와 DNS PTR 레코드입니다. 이 레코드는 클러스터 내의 노드에서 확인할 수 있어야 합니다. |
컨트롤 플레인 머신 |
| 컨트롤 플레인 노드의 각 머신을 식별하는 DNS A/AAAA 또는 CNAME 레코드와 DNS PTR 레코드입니다. 이 레코드는 클러스터 내의 노드에서 확인할 수 있어야 합니다. |
컴퓨팅 머신 |
| 작업자 노드의 각 머신을 식별하는 DNS A/AAAA 또는 CNAME 레코드와 DNS PTR 레코드입니다. 이 레코드는 클러스터 내의 노드에서 확인할 수 있어야 합니다. |
OpenShift Container Platform 4.4 이상에서는 DNS 구성에서 etcd 호스트 및 SRV 레코드를 지정할 필요가 없습니다.
dig
명령을 사용하여 이름과 역방향 이름을 확인할 수 있습니다. 자세한 검증 단계는 사용자 프로비저닝 인프라의 DNS 확인 섹션을 참조하십시오.
18.8.6.5.1. 사용자 프로비저닝 클러스터의 DNS 구성 예
이 섹션에서는 사용자 프로비저닝 인프라에 OpenShift Container Platform을 배포하기 위한 DNS 요구 사항을 충족하는 A 및 PTR 레코드 구성 샘플을 제공합니다. 샘플은 하나의 DNS 솔루션을 선택하기 위한 조언을 제공하기 위한 것이 아닙니다.
이 예제에서 클러스터 이름은 ocp4
이고 기본 도메인은 example.com
입니다.
사용자 프로비저닝 클러스터의 DNS A 레코드 구성 예
다음 BIND 영역 파일의 예제에서는 사용자가 프로비저닝한 클러스터의 이름 확인을 위한 샘플 A 레코드를 보여줍니다.
예 18.19. 샘플 DNS 영역 데이터베이스
$TTL 1W @ IN SOA ns1.example.com. root ( 2019070700 ; serial 3H ; refresh (3 hours) 30M ; retry (30 minutes) 2W ; expiry (2 weeks) 1W ) ; minimum (1 week) IN NS ns1.example.com. IN MX 10 smtp.example.com. ; ; ns1.example.com. IN A 192.168.1.5 smtp.example.com. IN A 192.168.1.5 ; helper.example.com. IN A 192.168.1.5 helper.ocp4.example.com. IN A 192.168.1.5 ; api.ocp4.example.com. IN A 192.168.1.5 1 api-int.ocp4.example.com. IN A 192.168.1.5 2 ; *.apps.ocp4.example.com. IN A 192.168.1.5 3 ; bootstrap.ocp4.example.com. IN A 192.168.1.96 4 ; master0.ocp4.example.com. IN A 192.168.1.97 5 master1.ocp4.example.com. IN A 192.168.1.98 6 master2.ocp4.example.com. IN A 192.168.1.99 7 ; worker0.ocp4.example.com. IN A 192.168.1.11 8 worker1.ocp4.example.com. IN A 192.168.1.7 9 ; ;EOF
- 1
- Kubernetes API의 이름 확인을 제공합니다. 레코드는 API 로드 밸런서의 IP 주소를 나타냅니다.
- 2
- Kubernetes API의 이름 확인을 제공합니다. 레코드는 API 로드 밸런서의 IP 주소를 참조하며 내부 클러스터 통신에 사용됩니다.
- 3
- 와일드카드 경로의 이름 확인을 제공합니다. 레코드는 애플리케이션 인그레스 로드 밸런서의 IP 주소를 나타냅니다. 애플리케이션 인그레스 로드 밸런서는 Ingress 컨트롤러 Pod를 실행하는 머신을 대상으로 합니다. Ingress 컨트롤러 Pod는 기본적으로 컴퓨팅 머신에서 실행됩니다.참고
이 예제에서는 Kubernetes API 및 애플리케이션 인그레스 트래픽에 동일한 로드 밸런서를 사용합니다. 프로덕션 시나리오에서는 각각에 대해 개별적으로 로드 밸런서 인프라를 확장할 수 있도록 API 및 애플리케이션 인그레스 로드 밸런서를 별도로 배포할 수 있습니다.
- 4
- 부트스트랩 시스템의 이름 확인을 제공합니다.
- 5 6 7
- 컨트롤 플레인 시스템의 이름 확인을 제공합니다.
- 8 9
- 컴퓨팅 시스템의 이름 확인을 제공합니다.
사용자 프로비저닝 클러스터의 DNS PTR 레코드 구성 예
다음 예제 BIND 영역 파일은 사용자 프로비저닝 클러스터의 역방향 이름 확인을 위한 샘플 PTR 레코드를 보여줍니다.
예 18.20. 역방향 레코드의 샘플 DNS 영역 데이터베이스
$TTL 1W @ IN SOA ns1.example.com. root ( 2019070700 ; serial 3H ; refresh (3 hours) 30M ; retry (30 minutes) 2W ; expiry (2 weeks) 1W ) ; minimum (1 week) IN NS ns1.example.com. ; 5.1.168.192.in-addr.arpa. IN PTR api.ocp4.example.com. 1 5.1.168.192.in-addr.arpa. IN PTR api-int.ocp4.example.com. 2 ; 96.1.168.192.in-addr.arpa. IN PTR bootstrap.ocp4.example.com. 3 ; 97.1.168.192.in-addr.arpa. IN PTR master0.ocp4.example.com. 4 98.1.168.192.in-addr.arpa. IN PTR master1.ocp4.example.com. 5 99.1.168.192.in-addr.arpa. IN PTR master2.ocp4.example.com. 6 ; 11.1.168.192.in-addr.arpa. IN PTR worker0.ocp4.example.com. 7 7.1.168.192.in-addr.arpa. IN PTR worker1.ocp4.example.com. 8 ; ;EOF
OpenShift Container Platform 애플리케이션 와일드카드에는 PTR 레코드가 필요하지 않습니다.
18.8.6.6. 사용자 프로비저닝 인프라에 대한 로드 밸런싱 요구사항
OpenShift Container Platform을 설치하기 전에 API 및 애플리케이션 인그레스 로드 밸런싱 인프라를 프로비저닝해야 합니다. 프로덕션 시나리오에서는 각각에 대해 개별적으로 로드 밸런서 인프라를 확장할 수 있도록 API 및 애플리케이션 인그레스 로드 밸런서를 별도로 배포할 수 있습니다.
RHEL(Red Hat Enterprise Linux) 인스턴스를 사용하여 API 및 애플리케이션 인그레스 로드 밸런서를 배포하려면 RHEL 서브스크립션을 별도로 구매해야 합니다.
로드 밸런서 인프라는 다음 요구 사항을 충족해야 합니다.
API 로드 밸런서: 플랫폼과 상호 작용하고 플랫폼을 구성할 수 있도록 사용자(인간과 시스템 모두)에게 공통 끝점을 제공합니다. 다음 조건을 설정합니다.
- Layer 4 로드 밸런싱 전용입니다. 이를 Raw TCP, SSL Passthrough 또는 SSL Bridge 모드라고 합니다. SSL Bridge 모드를 사용하는 경우, API 경로에 대해 SNI(Server Name Indication, 서버 이름 표시)를 활성화해야 합니다.
- 스테이트리스 로드 밸런싱 알고리즘입니다. 옵션은 로드 밸런서 구현에 따라 달라집니다.
참고API 로드 밸런서가 제대로 작동하기 위해 세션 지속성이 필요하지 않습니다.
로드 밸런서의 전면과 후면 모두에서 다음 포트를 구성하십시오.
표 18.82. API 로드 밸런서 포트 백엔드 시스템(풀 멤버) 내부 외부 설명 6443
부트스트랩 및 컨트롤 플레인. 부트스트랩 시스템이 클러스터 컨트롤 플레인을 초기화한 후 로드 밸런서에서 부트스트랩 시스템을 제거합니다. API 서버 상태 검사 프로브에 대한
/readyz
끝점을 구성해야 합니다.X
X
Kubernetes API 서버
22623
부트스트랩 및 컨트롤 플레인. 부트스트랩 시스템이 클러스터 컨트롤 플레인을 초기화한 후 로드 밸런서에서 부트스트랩 시스템을 제거합니다.
X
시스템 구성 서버
참고API 서버가
/readyz
엔드포인트를 해제하는 시점부터 풀에서 API 서버 인스턴스가 제거되는 시점까지 시간이 30초를 넘지 않도록 로드 밸런서를 구성해야 합니다./readyz
가 오류를 반환하거나 정상 상태가 된 후 정해진 시간 안에 끝점이 제거 또는 추가되어야 합니다. 5초 또는 10초의 프로빙 주기(두 번의 성공적인 요청은 정상 상태, 세 번의 요청은 비정상 상태)는 충분한 테스트를 거친 값입니다.애플리케이션 인그레스 로드 밸런서: 클러스터 외부에서 유입되는 애플리케이션 트래픽에 대한 인그래스 포인트를 제공합니다. 다음 조건을 설정합니다.
- Layer 4 로드 밸런싱 전용입니다. 이를 Raw TCP, SSL Passthrough 또는 SSL Bridge 모드라고 합니다. SSL Bridge 모드를 사용하는 경우 인그레스 경로에 대해 SNI(Server Name Indication, 서버 이름 표시)를 활성화해야 합니다.
- 사용 가능한 옵션과 플랫폼에서 호스팅되는 애플리케이션 유형에 따라 연결 기반 또는 세션 기반 지속성이 권장됩니다.
작은 정보애플리케이션 인그레스 로드 밸런서에서 클라이언트의 실제 IP 주소를 확인할 수 있는 경우 소스 IP 기반 세션 지속성을 활성화하면 엔드 투 엔드 TLS 암호화를 사용하는 애플리케이션의 성능을 향상시킬 수 있습니다.
로드 밸런서의 전면과 후면 모두에서 다음 포트를 구성하십시오.
표 18.83. 애플리케이션 인그레스 로드 밸런서 포트 백엔드 시스템(풀 멤버) 내부 외부 설명 443
기본적으로 인그레스 컨트롤러 pod, 컴퓨팅 또는 작업자를 실행하는 시스템입니다.
X
X
HTTPS 트래픽
80
기본적으로 인그레스 컨트롤러 pod, 컴퓨팅 또는 작업자를 실행하는 시스템입니다.
X
X
HTTP 트래픽
1936
기본적으로 Ingress 컨트롤러 Pod를 실행하는 작업자 노드입니다. 수신 상태 점검 프로브에 대해
/healthz/ready
끝점을 구성해야 합니다.X
X
HTTP 트래픽
컴퓨팅 노드가 0인 3-노드 클러스터를 배포하는 경우 Ingress 컨트롤러 Pod는 컨트롤 플레인 노드에서 실행됩니다. 3-노드 클러스터 배포에서 HTTP 및 HTTPS 트래픽을 컨트롤 플레인 노드로 라우팅하도록 애플리케이션 인그레스 로드 밸런서를 구성해야 합니다.
인그레스 라우터에 대한 작업 구성이 OpenShift Container Platform 클러스터에 필요합니다. 컨트롤 플레인 초기화 후 인그레스 라우터를 설정해야 합니다.
18.8.6.6.1. 사용자 프로비저닝 클러스터의 로드 밸런서 구성 예
이 섹션에서는 사용자 프로비저닝 클러스터의 로드 밸런싱 요구 사항을 충족하는 API 및 애플리케이션 수신 로드 밸런서 구성 예를 제공합니다. 샘플은 HAProxy 로드 밸런서에 대한 /etc/haproxy/haproxy.cfg
구성입니다. 이 예제에서는 하나의 로드 밸런싱 솔루션을 선택하기 위한 조언을 제공하는 것을 목적으로 하지 않습니다.
이 예제에서는 Kubernetes API 및 애플리케이션 인그레스 트래픽에 동일한 로드 밸런서를 사용합니다. 프로덕션 시나리오에서는 각각에 대해 개별적으로 로드 밸런서 인프라를 확장할 수 있도록 API 및 애플리케이션 인그레스 로드 밸런서를 별도로 배포할 수 있습니다.
예 18.21. API 및 애플리케이션 인그레스 로드 밸런서 구성 샘플
global log 127.0.0.1 local2 pidfile /var/run/haproxy.pid maxconn 4000 daemon defaults mode http log global option dontlognull option http-server-close option redispatch retries 3 timeout http-request 10s timeout queue 1m timeout connect 10s timeout client 1m timeout server 1m timeout http-keep-alive 10s timeout check 10s maxconn 3000 frontend stats bind *:1936 mode http log global maxconn 10 stats enable stats hide-version stats refresh 30s stats show-node stats show-desc Stats for ocp4 cluster 1 stats auth admin:ocp4 stats uri /stats listen api-server-6443 2 bind *:6443 mode tcp server bootstrap bootstrap.ocp4.example.com:6443 check inter 1s backup 3 server master0 master0.ocp4.example.com:6443 check inter 1s server master1 master1.ocp4.example.com:6443 check inter 1s server master2 master2.ocp4.example.com:6443 check inter 1s listen machine-config-server-22623 4 bind *:22623 mode tcp server bootstrap bootstrap.ocp4.example.com:22623 check inter 1s backup 5 server master0 master0.ocp4.example.com:22623 check inter 1s server master1 master1.ocp4.example.com:22623 check inter 1s server master2 master2.ocp4.example.com:22623 check inter 1s listen ingress-router-443 6 bind *:443 mode tcp balance source server worker0 worker0.ocp4.example.com:443 check inter 1s server worker1 worker1.ocp4.example.com:443 check inter 1s listen ingress-router-80 7 bind *:80 mode tcp balance source server worker0 worker0.ocp4.example.com:80 check inter 1s server worker1 worker1.ocp4.example.com:80 check inter 1s
- 1
- 이 예에서 클러스터 이름은
ocp4
입니다. - 2
- 포트
6443
은 Kubernetes API 트래픽을 처리하고 컨트롤 플레인 시스템을 가리킵니다. - 3 5
- 부트스트랩 항목은 OpenShift Container Platform 클러스터 설치 전에 있어야 하며 부트스트랩 프로세스가 완료된 후 제거해야 합니다.
- 4
- 포트
22623
은 머신 구성 서버 트래픽을 처리하고 컨트롤 플레인 시스템을 가리킵니다. - 6
- 포트
443
은 HTTPS 트래픽을 처리하고 Ingress 컨트롤러 Pod를 실행하는 시스템을 가리킵니다. Ingress 컨트롤러 Pod는 기본적으로 컴퓨팅 머신에서 실행됩니다. - 7
- 포트
80
은 HTTP 트래픽을 처리하고 Ingress 컨트롤러 Pod를 실행하는 머신을 가리킵니다. Ingress 컨트롤러 Pod는 기본적으로 컴퓨팅 머신에서 실행됩니다.참고컴퓨팅 노드가 0인 3-노드 클러스터를 배포하는 경우 Ingress 컨트롤러 Pod는 컨트롤 플레인 노드에서 실행됩니다. 3-노드 클러스터 배포에서 HTTP 및 HTTPS 트래픽을 컨트롤 플레인 노드로 라우팅하도록 애플리케이션 인그레스 로드 밸런서를 구성해야 합니다.
HAProxy를 로드 밸런서로 사용하는 경우 HAProxy 노드에서 netstat -nltupe
를 실행하여 haproxy
프로세스가 포트 6443
, 22623
, 443
및 80
에서 수신 대기 중인지 확인할 수 있습니다.
HAProxy를 로드 밸런서로 사용하고 SELinux가 enforcing
으로 설정된 경우 HAProxy 서비스가 setsebool -P haproxy_connect_any=1
을 실행하여 구성된 TCP 포트에 바인딩할 수 있는지 확인해야 합니다.
18.8.7. 사용자 프로비저닝 인프라 준비
사용자 프로비저닝 인프라에 OpenShift Container Platform을 설치하기 전에 기본 인프라를 준비해야 합니다.
이 섹션에서는 OpenShift Container Platform 설치를 준비하기 위해 클러스터 인프라를 설정하는 데 필요한 높은 수준의 단계에 대해 자세히 설명합니다. 여기에는 클러스터 노드에 대한 IP 네트워킹 및 네트워크 연결 구성, 방화벽을 통해 필요한 포트 활성화, 필수 DNS 및 로드 밸런싱 인프라를 설정하는 작업이 포함됩니다.
준비 후 클러스터 인프라는 사용자 프로비저닝 인프라가 있는 클러스터의 요구 사항 섹션에 설명된 요구 사항을 충족해야 합니다.
사전 요구 사항
- OpenShift Container Platform 4.x 테스트된 통합 페이지를 검토했습니다.
- 사용자 프로비저닝 인프라가 있는 클러스터의 요구 사항 섹션에 자세히 설명된 인프라 요구 사항을 검토했습니다.
프로세스
DHCP를 사용하여 클러스터 노드에 IP 네트워킹 구성을 제공하는 경우 DHCP 서비스를 구성합니다.
- 노드의 영구 IP 주소를 DHCP 서버 구성에 추가합니다. 구성에서 관련 네트워크 인터페이스의 MAC 주소를 각 노드의 의도한 IP 주소와 일치시킵니다.
DHCP를 사용하여 클러스터 시스템의 IP 주소 지정을 구성하는 경우 시스템은 DHCP를 통해 DNS 서버 정보도 가져옵니다. DHCP 서버 구성을 통해 클러스터 노드에서 사용하는 영구 DNS 서버 주소를 정의합니다.
참고DHCP 서비스를 사용하지 않는 경우 RHCOS 설치 시 IP 네트워킹 구성과 DNS 서버의 주소를 노드에 제공해야 합니다. ISO 이미지에서 설치하는 경우 부팅 인수로 전달할 수 있습니다. 고정 IP 프로비저닝 및 고급 네트워킹 옵션에 대한 자세한 내용은 RHCOS 설치 및 OpenShift Container Platform 부트스트랩 프로세스 시작 섹션을 참조하십시오.
DHCP 서버 구성에 클러스터 노드의 호스트 이름을 정의합니다. 호스트 이름 고려 사항에 대한 자세한 내용은 DHCP를 통해 클러스터 노드 호스트 이름 설정 섹션을 참조하십시오.
참고DHCP 서비스를 사용하지 않는 경우 클러스터 노드는 역방향 DNS 조회를 통해 호스트 이름을 가져옵니다.
- 네트워크 인프라가 클러스터 구성 요소 간 필수 네트워크 연결을 제공하는지 확인합니다. 요구 사항에 대한 자세한 내용은 사용자 프로비저닝 인프라 섹션의 네트워킹 요구 사항 섹션을 참조하십시오.
- OpenShift Container Platform 클러스터 구성 요소가 통신하는 데 필요한 포트를 활성화하도록 방화벽을 구성합니다. 필요한 포트에 대한 자세한 내용은 사용자 프로비저닝 인프라 섹션의 네트워킹 요구 사항 섹션을 참조하십시오.
클러스터에 필요한 DNS 인프라를 설정합니다.
- Kubernetes API, 애플리케이션 와일드카드, 부트스트랩 시스템, 컨트롤 플레인 시스템 및 컴퓨팅 시스템의 DNS 이름 확인을 구성합니다.
Kubernetes API, 부트스트랩 시스템, 컨트롤 플레인 시스템 및 컴퓨팅 시스템에 대한 역방향 DNS 확인을 구성합니다.
OpenShift Container Platform DNS 요구 사항에 대한 자세한 내용은 사용자 프로비저닝 DNS 요구 사항 섹션을 참조하십시오.
DNS 구성을 확인합니다.
- 설치 노드에서 Kubernetes API의 레코드 이름, 와일드카드 경로 및 클러스터 노드에 대해 DNS 조회를 실행합니다. 응답의 IP 주소가 올바른 구성 요소에 해당하는지 확인합니다.
설치 노드에서 로드 밸런서 및 클러스터 노드의 IP 주소에 대해 역방향 DNS 조회를 실행합니다. 응답의 레코드 이름이 올바른 구성 요소에 해당하는지 확인합니다.
자세한 DNS 검증 단계는 사용자 프로비저닝 인프라에 대한 DNS 확인 섹션을 참조하십시오.
- 필요한 API 및 애플리케이션 수신 로드 밸런싱 인프라를 프로비저닝합니다. 요구 사항에 대한 자세한 내용은 사용자 프로비저닝 인프라에 대한 로드 밸런싱 요구 사항 섹션을 참조하십시오.
일부 로드 밸런싱 솔루션에는 로드 밸런싱을 초기화하기 전에 클러스터 노드의 DNS 이름을 확인해야 합니다.
18.8.8. 사용자 프로비저닝 인프라에 대한 DNS 확인 검증
사용자 프로비저닝 인프라에 OpenShift Container Platform을 설치하기 전에 DNS 구성을 확인할 수 있습니다.
클러스터를 설치하기 전에 이 섹션에 설명된 검증 단계를 성공해야 합니다.
사전 요구 사항
- 사용자 프로비저닝 인프라에 필요한 DNS 레코드를 구성했습니다.
프로세스
설치 노드에서 Kubernetes API의 레코드 이름, 와일드카드 경로 및 클러스터 노드에 대해 DNS 조회를 실행합니다. 응답에 포함된 IP 주소가 올바른 구성 요소에 해당하는지 확인합니다.
Kubernetes API 레코드 이름을 조회합니다. 결과가 API 로드 밸런서의 IP 주소를 가리키는지 확인합니다.
$ dig +noall +answer @<nameserver_ip> api.<cluster_name>.<base_domain> 1
- 1
<nameserver_ip>
를 네임서버의 IP 주소로,<cluster_name>
을 클러스터 이름으로,<base_domain>
을 기본 도메인 이름으로 바꿉니다.
출력 예
api.ocp4.example.com. 0 IN A 192.168.1.5
Kubernetes 내부 API 레코드 이름을 조회합니다. 결과가 API 로드 밸런서의 IP 주소를 가리키는지 확인합니다.
$ dig +noall +answer @<nameserver_ip> api-int.<cluster_name>.<base_domain>
출력 예
api-int.ocp4.example.com. 0 IN A 192.168.1.5
예제
*.apps.<cluster_name>.<base_domain>
을 테스트합니다. DNS 와일드카드를 조회합니다. 모든 애플리케이션 와일드카드 조회는 애플리케이션 인그레스 로드 밸런서의 IP 주소로 확인되어야 합니다.$ dig +noall +answer @<nameserver_ip> random.apps.<cluster_name>.<base_domain>
출력 예
random.apps.ocp4.example.com. 0 IN A 192.168.1.5
참고예제 출력에서는 Kubernetes API 및 애플리케이션 인그레스 트래픽에 동일한 로드 밸런서를 사용합니다. 프로덕션 시나리오에서는 각각에 대해 개별적으로 로드 밸런서 인프라를 확장할 수 있도록 API 및 애플리케이션 인그레스 로드 밸런서를 별도로 배포할 수 있습니다.
random
항목을 다른 와일드카드 값으로 교체할 수 있습니다. 예를 들어 OpenShift Container Platform 콘솔의 경로를 쿼리할 수 있습니다.$ dig +noall +answer @<nameserver_ip> console-openshift-console.apps.<cluster_name>.<base_domain>
출력 예
console-openshift-console.apps.ocp4.example.com. 0 IN A 192.168.1.5
부트스트랩 DNS 레코드 이름에 대해 조회를 실행합니다. 결과가 부트스트랩 노드의 IP 주소를 가리키는지 확인합니다.
$ dig +noall +answer @<nameserver_ip> bootstrap.<cluster_name>.<base_domain>
출력 예
bootstrap.ocp4.example.com. 0 IN A 192.168.1.96
- 이 방법을 사용하여 컨트롤 플레인 및 컴퓨팅 노드의 DNS 레코드 이름에 대해 조회를 수행합니다. 결과가 각 노드의 IP 주소에 해당하는지 확인합니다.
설치 노드에서 로드 밸런서 및 클러스터 노드의 IP 주소에 대해 역방향 DNS 조회를 실행합니다. 응답에 포함된 레코드 이름이 올바른 구성 요소에 해당하는지 확인합니다.
API 로드 밸런서의 IP 주소에 대해 역방향 조회를 수행합니다. 응답에 Kubernetes API 및 Kubernetes 내부 API의 레코드 이름이 포함되어 있는지 확인합니다.
$ dig +noall +answer @<nameserver_ip> -x 192.168.1.5
출력 예
5.1.168.192.in-addr.arpa. 0 IN PTR api-int.ocp4.example.com. 1 5.1.168.192.in-addr.arpa. 0 IN PTR api.ocp4.example.com. 2
참고OpenShift Container Platform 애플리케이션 와일드카드에는 PTR 레코드가 필요하지 않습니다. 애플리케이션 인그레스 로드 밸런서의 IP 주소에 대한 역방향 DNS 확인에는 유효성 검사 단계가 필요하지 않습니다.
부트스트랩 노드의 IP 주소에 대해 역방향 조회를 수행합니다. 결과가 부트스트랩 노드의 DNS 레코드 이름을 가리키는지 확인합니다.
$ dig +noall +answer @<nameserver_ip> -x 192.168.1.96
출력 예
96.1.168.192.in-addr.arpa. 0 IN PTR bootstrap.ocp4.example.com.
- 이 방법을 사용하여 컨트롤 플레인 및 컴퓨팅 노드의 IP 주소에 대해 역방향 조회를 수행합니다. 결과가 각 노드의 DNS 레코드 이름과 일치하는지 확인합니다.
18.8.9. 클러스터 노드 SSH 액세스를 위한 키 쌍 생성
OpenShift Container Platform을 설치하는 동안 SSH 공개 키를 설치 프로그램에 지정할 수 있습니다. 키는 Ignition 구성 파일을 통해 RHCOS(Red Hat Enterprise Linux CoreOS) 노드에 전달되며 노드에 대한 SSH 액세스를 인증하는 데 사용됩니다. 키는 각 노드에서 core
사용자의 ~/.ssh/authorized_keys
목록에 추가되어 암호 없는 인증을 활성화합니다.
키가 노드에 전달되면 키 쌍을 사용하여 사용자 core
로 RHCOS 노드에 SSH로 SSH 연결을 수행할 수 있습니다 . SSH를 통해 노드에 액세스하려면 로컬 사용자의 SSH에서 개인 키 ID를 관리해야 합니다.
설치 디버깅 또는 재해 복구를 수행하기 위해 클러스터 노드에 SSH를 실행하려면 설치 프로세스 중에 SSH 공용 키를 지정해야 합니다. ./openshift-install gather
명령에도 SSH 공개 키가 클러스터 노드에 있어야 합니다.
재해 복구 및 디버깅이 필요한 프로덕션 환경에서는이 단계를 생략하지 마십시오.
AWS 키 쌍과 같이 플랫폼 고유의 방식으로 구성된 키가 아닌 로컬 키를 사용해야 합니다.
프로세스
로컬 시스템에 클러스터 노드의 인증에 사용할 기존 SSH 키 쌍이 없는 경우 새로 생성합니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
$ ssh-keygen -t ed25519 -N '' -f <path>/<file_name> 1
- 1
- 새 SSH 키의 경로 및 파일 이름(예:
~/.ssh/id_ed25519
)을 지정합니다. 기존 키 쌍이 있는 경우 공개 키가'~/.ssh
디렉터리에 있는지 확인하십시오.
참고x86_64
아키텍처에 FIPS 검증 / 진행중인 모듈 (Modules in Process) 암호화 라이브러리를 사용하는 OpenShift Container Platform 클러스터를 설치하려면ed25519
알고리즘을 사용하는 키를 생성하지 마십시오. 대신rsa
또는ecdsa
알고리즘을 사용하는 키를 생성합니다.공개 SSH 키를 확인합니다.
$ cat <path>/<file_name>.pub
예를 들어 다음을 실행하여
~/.ssh/id_ed25519.pub
공개 키를 확인합니다.$ cat ~/.ssh/id_ed25519.pub
아직 추가되지 않은 경우 로컬 사용자의 SSH 에이전트에 SSH 개인 키 ID를 추가합니다. 키의 SSH 에이전트 관리는 클러스터 노드에 암호 없는 SSH 인증을 수행하거나
./openshift-install gather
명령을 사용하려는 경우 필요합니다.참고일부 배포에서는
~/.ssh/id_rsa
및~/.ssh/id_dsa
와 같은 기본 SSH 개인 키 ID가 자동으로 관리됩니다.ssh-agent
프로세스가 로컬 사용자에 대해 실행되지 않은 경우 백그라운드 작업으로 시작합니다.$ eval "$(ssh-agent -s)"
출력 예
Agent pid 31874
참고클러스터가 FIPS 모드인 경우 FIPS 호환 알고리즘만 사용하여 SSH 키를 생성합니다. 키는 RSA 또는 ECDSA여야 합니다.
ssh-agent
에 SSH 개인 키를 추가합니다.$ ssh-add <path>/<file_name> 1
- 1
- SSH 개인 키의 경로 및 파일 이름을 지정합니다(예:
~/.ssh/id_ed25519
).
출력 예
Identity added: /home/<you>/<path>/<file_name> (<computer_name>)
다음 단계
- OpenShift Container Platform을 설치할 때 SSH 공개 키를 설치 프로그램에 지정합니다. 프로비저닝하는 인프라에 클러스터를 설치하는 경우 설치 프로그램에 키를 제공해야 합니다.
18.8.10. 수동으로 설치 구성 파일 만들기
OpenShift Container Platform을 사용자가 프로비저닝한 설치의 경우 설치 구성 파일을 수동으로 생성합니다.
사전 요구 사항
- 로컬 시스템에 설치 프로그램에 제공할 SSH 공개 키가 있습니다. 키는 디버깅 및 재해 복구를 위해 클러스터 노드에 대한 SSH 인증에 사용됩니다.
- OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.
-
명령 출력에서
imageContentSources
섹션을 가져와서 리포지토리를 미러링합니다. - 미러 레지스트리에 대한 인증서의 내용을 가져옵니다.
프로세스
필요한 설치 자산을 저장할 설치 디렉터리를 만듭니다.
$ mkdir <installation_directory>
중요디렉터리를 만들어야 합니다. 부트스트랩 X.509 인증서와 같은 일부 설치 자산은 단기간에 만료되므로 설치 디렉터리를 재사용해서는 안 됩니다. 다른 클러스터 설치의 개별 파일을 재사용하려면 해당 파일을 사용자 디렉터리에 복사하면 됩니다. 그러나 설치 자산의 파일 이름은 릴리스간에 변경될 수 있습니다. 따라서 이전 OpenShift Container Platform 버전에서 설치 파일을 복사할 때는 주의하십시오.
샘플
install-config.yaml
파일 템플릿을 사용자 지정하여<installation_directory>
에 저장합니다.참고이 설정 파일의 이름을
install-config.yaml
로 지정해야 합니다.-
docker.io
와 같이 RHCOS가 기본적으로 신뢰하는 레지스트리를 사용하는 경우를 제외하고,additionalTrustBundle
섹션에 있는 미러 리포지토리에 대한 인증서 내용을 제공해야 합니다. 대부분의 경우 미러 인증서를 제공해야 합니다. 리포지토리를 미러링하려면 명령 출력의
imageContentSources
섹션을 삽입해야 합니다.참고일부 플랫폼 유형의 경우 대체로
./openshift-install create install-config --dir <installation_directory>
를 실행하여install-config.yaml
파일을 생성할 수 있습니다. 프롬프트에서 클러스터 구성에 대한 세부 정보를 제공할 수 있습니다.
-
여러 클러스터를 설치하는 데 사용할 수 있도록
install-config.yaml
파일을 백업합니다.중요install-config.yaml
파일은 설치 과정의 다음 단계에서 사용됩니다. 이 시점에서 이를 백업해야 합니다.
18.8.10.1. VMware vSphere용 샘플 install-config.yaml
파일
install-config.yaml
파일을 사용자 지정하여 OpenShift Container Platform 클러스터 플랫폼에 대한 자세한 정보를 지정하거나 필수 매개변수 값을 수정할 수 있습니다.
apiVersion: v1 baseDomain: example.com 1 compute: - hyperthreading: Enabled 2 3 name: worker replicas: 0 4 controlPlane: hyperthreading: Enabled 5 6 name: master replicas: 3 7 metadata: name: test 8 platform: vsphere: vcenter: your.vcenter.server 9 username: username 10 password: password 11 datacenter: datacenter 12 defaultDatastore: datastore 13 folder: "/<datacenter_name>/vm/<folder_name>/<subfolder_name>" 14 fips: false 15 pullSecret: '{"auths":{"<local_registry>": {"auth": "<credentials>","email": "you@example.com"}}}' 16 sshKey: 'ssh-ed25519 AAAA...' 17 additionalTrustBundle: | 18 -----BEGIN CERTIFICATE----- ZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZ -----END CERTIFICATE----- imageContentSources: 19 - mirrors: - <local_registry>/<local_repository_name>/release source: quay.io/openshift-release-dev/ocp-release - mirrors: - <local_registry>/<local_repository_name>/release source: quay.io/openshift-release-dev/ocp-v4.0-art-dev
- 1
- 클러스터의 기본 도메인입니다. 모든 DNS 레코드는 이 기본 도메인의 하위 도메인이어야 하며 클러스터 이름을 포함해야 합니다.
- 2 5
controlPlane
섹션은 단일 매핑이지만 compute 섹션은 일련의 매핑입니다. 서로 다른 데이터 구조의 요구사항을 충족하도록compute
섹션의 첫 번째 줄은 하이픈(-
)으로 시작해야 하며controlPlane
섹션의 첫 번째 줄은 하이픈으로 시작할 수 없습니다. 현재 두 섹션이 모두 단일 시스템 풀을 정의하지만 향후 출시되는 OpenShift Container Platform 버전은 설치 과정에서 여러 컴퓨팅 풀 정의를 지원할 수 있습니다. 하나의 컨트롤 플레인 풀만 사용됩니다.- 3 6
- 동시 멀티스레딩 또는
hyperthreading
활성화/비활성화 여부를 지정합니다. 시스템 코어의 성능을 높이기 위해 기본적으로 동시 멀티스레딩이 활성화됩니다. 매개변수 값을Disabled
로 설정하여 비활성화할 수 있습니다. 일부 클러스터 시스템에서 동시 멀티스레딩을 비활성화할 경우에는 해당 멀티스레딩을 모든 클러스터 시스템에서 비활성화해야 합니다.중요동시 멀티스레딩을 비활성화하는 경우 용량 계획에서 시스템 성능이 크게 저하될 수 있는 문제를 고려해야 합니다. 동시 멀티스레딩을 비활성화하는 경우 시스템은 8개 이상의 CPU와 32GB의 RAM을 사용해야 합니다.
- 4
replicas
매개변수의 값을0
으로 설정해야 합니다. 이 매개변수는 클러스터를 생성하고 관리하는 작업자 수를 제어합니다. 이는 사용자 프로비저닝 인프라를 사용할 때 클러스터가 실행하지 않는 기능입니다. OpenShift Container Platform 설치를 완료하기 전에 클러스터에서 사용할 작업자 시스템을 수동으로 배포해야 합니다.- 7
- 클러스터에 추가하는 컨트롤 플레인 시스템의 수입니다. 클러스터에서 이 값을 클러스터의 etcd 끝점 수로 사용하므로 이 값은 배포하는 컨트롤 플레인 시스템의 수와 일치해야 합니다.
- 8
- DNS 레코드에 지정한 클러스터 이름입니다.
- 9
- vCenter 서버의 정규화된 호스트 이름 또는 IP 주소입니다.
- 10
- 서버에 액세스하기 위한 사용자의 이름입니다. 이 사용자에게는 최소한 vSphere에서 정적 또는 동적 영구 볼륨 프로비저닝 에 필요한 역할과 권한이 있어야 합니다.
- 11
- vSphere 사용자와 연결된 암호입니다.
- 12
- vSphere 데이터 센터입니다.
- 13
- 사용할 기본 vSphere 데이터 저장소입니다.
- 14
- 선택사항: 설치 관리자 프로비저닝 인프라의 경우 설치 프로그램이 가상 머신을 생성하는 기존 폴더의 절대 경로(예:
/<datacenter_name>/vm/<folder_name>/<subfolder_name>)
. 이 값을 제공하지 않으면 설치 프로그램이 인프라 ID로 이름이 지정된 데이터 센터 가상 머신 폴더에 최상위 폴더를 만듭니다. 클러스터에 인프라를 제공하는 경우에는 이 매개변수를 생략합니다. - 15
- FIPS 모드 활성화 또는 비활성화 여부입니다. 기본적으로 FIPS 모드는 비활성화됩니다. FIPS 모드가 활성화되면 OpenShift Container Platform이 실행되는 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템에서 기본 Kubernetes 암호화 제품군은 우회하고 RHCOS와 함께 제공되는 암호화 모듈을 대신 사용합니다.중요
FIPS 검증 / 진행중인 모듈 암호화 라이브러리 사용은
x86_64
아키텍처의 OpenShift Container Platform 배포에서만 지원됩니다. - 16
<local_registry>
는 미러 레지스트리가 해당 내용을 제공하는 데 사용하는 레지스트리 도메인 이름과 포트(선택사항)를 지정합니다. 예:registry.example.com
또는registry.example.com:5000
.<credentials>
는 미러 레지스트리의 base64 인코딩 사용자 이름과 암호를 지정합니다.- 17
- RHCOS(Red Hat Enterprise Linux CoreOS)의
core
사용자에 대한 기본 SSH 키의 공용 부분입니다.참고설치 디버깅 또는 재해 복구를 수행하려는 프로덕션 OpenShift Container Platform 클러스터의 경우
ssh-agent
프로세스가 사용하는 SSH 키를 지정합니다. - 18
- 미러 레지스트리에 사용한 인증서 파일의 내용을 제공하십시오.
- 19
- 명령 출력에서
imageContentSources
섹션을 제공하여 리포지토리를 미러링하십시오.
18.8.10.2. 설치 중 클러스터 단위 프록시 구성
프로덕션 환경에서는 인터넷에 대한 직접 액세스를 거부하고 대신 HTTP 또는 HTTPS 프록시를 사용할 수 있습니다. install-config.yaml
파일에서 프록시 설정을 구성하여 프록시가 사용되도록 새 OpenShift Container Platform 클러스터를 구성할 수 있습니다.
사전 요구 사항
-
기존
install-config.yaml
파일이 있습니다. 클러스터에서 액세스해야 하는 사이트를 검토하고 프록시를 바이패스해야 하는지 확인했습니다. 기본적으로 호스팅 클라우드 공급자 API에 대한 호출을 포함하여 모든 클러스터 발신(Egress) 트래픽이 프록시됩니다. 필요한 경우 프록시를 바이패스하기 위해
Proxy
오브젝트의spec.noProxy
필드에 사이트를 추가했습니다.참고Proxy
오브젝트의status.noProxy
필드는 설치 구성에 있는networking.machineNetwork[].cidr
,networking.clusterNetwork[].cidr
,networking.serviceNetwork[]
필드의 값으로 채워집니다.Amazon Web Services (AWS), Google Cloud Platform (GCP), Microsoft Azure 및 Red Hat OpenStack Platform (RHOSP)에 설치하는 경우
Proxy
오브젝트status.noProxy
필드도 인스턴스 메타데이터 끝점(169.254.169.254
)로 채워집니다.
절차
install-config.yaml
파일을 편집하고 프록시 설정을 추가합니다. 예를 들면 다음과 같습니다.apiVersion: v1 baseDomain: my.domain.com proxy: httpProxy: http://<username>:<pswd>@<ip>:<port> 1 httpsProxy: https://<username>:<pswd>@<ip>:<port> 2 noProxy: example.com 3 additionalTrustBundle: | 4 -----BEGIN CERTIFICATE----- <MY_TRUSTED_CA_CERT> -----END CERTIFICATE----- ...
- 1
- 클러스터 외부에서 HTTP 연결을 구축하는 데 사용할 프록시 URL입니다. URL 스키마는
http
여야 합니다. - 2
- 클러스터 외부에서 HTTPS 연결을 구축하는 데 사용할 프록시 URL입니다.
- 3
- 대상 도메인 이름, IP 주소 또는 프록시에서 제외할 기타 네트워크 CIDR로 이루어진 쉼표로 구분된 목록입니다. 하위 도메인과 일치하려면 도메인 앞에
.
을 입력합니다. 예를 들어,.y.com
은x.y.com
과 일치하지만y.com
은 일치하지 않습니다.*
를 사용하여 모든 대상에 대해 프록시를 바이패스합니다. vCenter의 IP 주소와 해당 시스템에 사용하는 IP 범위를 포함해야 합니다. - 4
- 이 값을 제공하면 설치 프로그램에서 추가 CA 인증서를 보유할
openshift
이라는 구성 맵을 생성합니다.-config 네임스페이스에 user-ca-
bundleadditionalTrustBundle
및 하나 이상의 프록시 설정을 제공하는 경우프록시
오브젝트는trustedCA
필드의user-ca-bundle
구성 맵을 참조하도록 구성됩니다. 그러면 Cluster Network Operator에서trustedCA
매개변수에 대해 지정된 콘텐츠를 RHCOS 신뢰 번들과 병합하는trusted-ca-bundle
구성 맵을 생성합니다. 프록시의 ID 인증서를 RHCOS 트러스트 번들에 있는 기관에서 서명하지 않은 경우additionalTrustBundle
필드가 있어야 합니다.
참고설치 프로그램에서 프록시
adinessEndpoints
필드를 지원하지 않습니다.- 파일을 저장해 놓고 OpenShift Container Platform을 설치할 때 참조하십시오.
제공되는 install-config.yaml
파일의 프록시 설정을 사용하는 cluster
라는 이름의 클러스터 전체 프록시가 설치 프로그램에 의해 생성됩니다. 프록시 설정을 제공하지 않아도 cluster
Proxy
오브젝트는 계속 생성되지만 spec
은 nil이 됩니다.
cluster
라는 Proxy
오브젝트만 지원되며 추가 프록시는 생성할 수 없습니다.
18.8.11. Kubernetes 매니페스트 및 Ignition 설정 파일 생성
일부 클러스터 정의 파일을 수정하고 클러스터 시스템을 수동으로 시작해야 하므로 클러스터가 시스템을 구성하는 데 필요한 Kubernetes 매니페스트 및 Ignition 구성 파일을 사용자가 생성해야 합니다.
설치 구성 파일은 Kubernetes 매니페스트로 변환됩니다. 매니페스트는 나중에 클러스터 머신을 구성하는 데 사용되는 Ignition 구성 파일로 래핑됩니다.
-
OpenShift Container Platform 설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인
node-bootstrapper
인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오. - 클러스터를 설치한 후 24시간에서 22시간까지의 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.
사전 요구 사항
- OpenShift Container Platform 설치 프로그램을 가져오셨습니다. 제한된 네트워크 설치의 경우, 해당 파일은 미러 호스트에 있습니다.
-
install-config.yaml
설치 구성 파일을 생성하셨습니다.
프로세스
OpenShift Container Platform 설치 프로그램이 포함된 디렉터리로 변경하고 클러스터에 대한 Kubernetes 매니페스트를 생성합니다.
$ ./openshift-install create manifests --dir <installation_directory> 1
- 1
<installation_directory>
는 사용자가 만든install-config.yaml
파일이 포함된 설치 디렉터리를 지정합니다.
컨트롤 플레인 시스템 및 컴퓨팅 머신 세트를 정의하는 Kubernetes 매니페스트 파일을 제거합니다.
$ rm -f openshift/99_openshift-cluster-api_master-machines-*.yaml openshift/99_openshift-cluster-api_worker-machineset-*.yaml
이러한 리소스는 사용자가 직접 생성하고 관리하기 때문에 초기화할 필요가 없습니다.
- 시스템 API로 머신 세트 파일을 보존하여 컴퓨팅 시스템을 생성할 수 있지만 사용자 환경과 일치하도록 해당 참조를 업데이트해야 합니다.
<installation_directory>/manifests/cluster-scheduler-02-config.yml
Kubernetes 매니페스트 파일의mastersSchedulable
매개변수가false
로 설정되어 있는지 확인합니다. 이 설정으로 인해 컨트롤 플레인 머신에서 포드가 예약되지 않습니다.-
<installation_directory>/manifests/cluster-scheduler-02-config.yml
파일을 엽니다. -
mastersSchedulable
매개변수를 찾아서 값을False
로 설정되어 있는지 확인합니다. - 파일을 저장하고 종료합니다.
-
Ignition 구성 파일을 생성하려면 설치 프로그램이 포함된 디렉터리에서 다음 명령을 실행합니다.
$ ./openshift-install create ignition-configs --dir <installation_directory> 1
- 1
<installation_directory>
는 동일한 설치 디렉터리를 지정합니다.
설치 디렉터리의 부트스트랩, 컨트롤 플레인 및 컴퓨팅 노드에 대한 Ignition 구성 파일이 생성됩니다.
kubeadmin-password
및kubeconfig
파일은./<installation_directory>/auth
디렉터리에 생성됩니다.. ├── auth │ ├── kubeadmin-password │ └── kubeconfig ├── bootstrap.ign ├── master.ign ├── metadata.json └── worker.ign
18.8.12. 인프라 이름 추출
Ignition 구성 파일에는 AWS의 VMware Cloud에서 클러스터를 고유하게 식별하는 데 사용할 수 있는 고유한 클러스터 식별가 포함되어 있습니다. 클러스터 ID를 가상 머신 폴더의 이름으로 사용하려면 해당 ID를 추출해야 합니다.
사전 요구 사항
- OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿을 받으셨습니다.
- 클러스터에 대한 Ignition 구성 파일을 생성하셨습니다.
-
jq
CLI를 설치하셨습니다.
18.8.13. RHCOS 설치 및 OpenShift Container Platform 부트스트랩 프로세스 시작
VMware vSphere의 사용자 프로비저닝 인프라에 OpenShift Container Platform을 설치하려면 vSphere 호스트에 RHCOS(Red Hat Enterprise Linux Core OS)를 설치해야 합니다. RHCOS를 설치할 때 설치 중인 머신 유형에 대해 OpenShift Container Platform 설치 프로그램에서 생성한 Ignition 구성 파일을 제공해야 합니다. 적합한 네트워킹, DNS 및 로드 밸런싱 인프라를 구성한 경우 RHCOS 머신이 재부팅된 후 OpenShift Container Platform 부트스트랩 프로세스가 자동으로 시작됩니다.
사전 요구 사항
- 클러스터에 대한 Ignition 구성 파일이 있어야 합니다.
- 사용자 컴퓨터에서 액세스할 수 있고 생성한 시스템이 액세스할 수 있는 HTTP 서버에 액세스할 수 있습니다.
- vSphere 클러스터 를 생성했습니다.
프로세스
-
설치 프로그램에서 생성된 부트스트랩 Ignition 구성 파일(
<installation_directory>/bootstrap.ign
)을 HTTP 서버에 업로드합니다. 이 파일의 URL을 기록해 둡니다. 부트스트랩 노드의 다음 보조 Ignition 구성 파일을
<installation_directory>/merge-bootstrap.ign으로 컴퓨터에 저장합니다.
{ "ignition": { "config": { "merge": [ { "source": "<bootstrap_ignition_config_url>", 1 "verification": {} } ] }, "timeouts": {}, "version": "3.2.0" }, "networkd": {}, "passwd": {}, "storage": {}, "systemd": {} }
- 1
- 호스팅한 부트스트랩 Ignition 구성 파일의 URL을 지정합니다.
부트스트랩 머신에 대한 VM(가상 머신)을 생성할 때 이 Ignition 구성 파일을 사용합니다.
설치 프로그램이 생성한 다음 Ignition 구성 파일을 찾습니다.
-
<installation_directory>/master.ign
-
<installation_directory>/worker.ign
-
<installation_directory>/merge-bootstrap.ign
-
Ignition 구성 파일을 Base64 인코딩으로 변환합니다. 이 절차의 뒷부분에서는 이러한 파일을 VM의 추가 구성 매개변수
guestinfo.ignition.config.data
에 추가해야 합니다.예를 들어 Linux 운영 체제를 사용하는 경우
base64
명령을 사용하여 파일을 인코딩할 수 있습니다.$ base64 -w0 <installation_directory>/master.ign > <installation_directory>/master.64
$ base64 -w0 <installation_directory>/worker.ign > <installation_directory>/worker.64
$ base64 -w0 <installation_directory>/merge-bootstrap.ign > <installation_directory>/merge-bootstrap.64
중요설치를 마친 후 클러스터에 컴퓨팅 시스템을 더 추가하려면 Ignition 구성 파일을 삭제하지 마십시오.
RHCOS OVA 이미지를 가져옵니다. RHCOS 이미지 미러 페이지에서 이미지를 사용할 수 있습니다.
중요RHCOS 이미지는 OpenShift Container Platform 릴리스에 따라 변경되지 않을 수 있습니다. 설치하는 OpenShift Container Platform 버전과 같거나 그 이하의 버전 중 가장 최신 버전의 이미지를 다운로드해야 합니다. 지원되는 경우 OpenShift Container Platform 버전과 일치하는 이미지 버전을 사용합니다.
파일 이름에는
rhcos-vmware.<architecture>.ova
형식의 OpenShift Container Platform 버전 번호가 포함됩니다.vSphere Client에서 VM을 저장할 데이터 센터 폴더를 생성합니다.
- VMs and Templates 보기를 클릭합니다.
- 데이터 센터 이름을 마우스 오른쪽 버튼으로 클릭합니다.
-
New Folder
New VM and Template Folder를 클릭합니다. -
표시되는 창에서 폴더 이름을 입력합니다.
install-config.yaml
파일에서 기존 폴더를 지정하지 않은 경우 인프라 ID와 동일한 이름으로 폴더를 생성합니다. vCenter는 이 폴더 이름을 사용하여 Workspace 구성에 적절한 위치에 스토리지를 동적으로 프로비저닝합니다.
vSphere Client에서 OVA 이미지에 대한 템플릿을 생성한 다음 필요에 따라 템플릿을 복제합니다.
참고다음 단계에서 템플릿을 생성한 다음 모든 클러스터 시스템에 대한 템플릿을 복제합니다. 그런 다음 VM을 프로비저닝할 때 복제된 머신 유형의 Ignition 구성 파일의 위치를 제공합니다.
- Hosts and Clusters 탭에서 클러스터 이름을 마우스 오른쪽 버튼으로 클릭하고 Deploy OVF Template을 선택합니다.
- Select an OVF 탭에서 다운로드한 RHCOS OVA 파일의 이름을 지정합니다.
-
이름 및 폴더 선택 탭에서 템플릿의 가상 시스템 이름 (예:
Template-RHCOS
)을 설정합니다. vSphere 클러스터의 이름을 클릭하고 이전 단계에서 생성한 폴더를 선택합니다. - Select a compute resource 탭에서 vSphere 클러스터 이름을 클릭합니다.
Select storage 탭에서 VM의 스토리지 옵션을 구성합니다.
- 스토리지 기본 설정에 따라 Thin Provision 또는 Thick Provision을 선택합니다.
-
install-config.yaml
파일에서 지정한 데이터 저장소를 선택합니다.
- Select network 탭에서 사용 가능한 경우 클러스터에 대해 구성한 네트워크를 지정합니다.
OVF 템플릿을 생성할 때 템플릿 사용자 지정 탭에 값을 지정하지 않거나 템플릿을 추가로 구성하지 마십시오.
중요원래 VM 템플릿을 시작하지 마십시오. VM 템플릿이 꺼져 있어야 하며 새 RHCOS 머신에 대해 복제해야 합니다. VM 템플릿을 시작하면 VM 템플릿이 플랫폼의 VM으로 구성되므로 시스템 세트가 구성을 적용할 수 있는 템플릿으로 사용되지 않습니다.
선택 사항: 필요한 경우 VM 템플릿에서 구성된 가상 하드웨어 버전을 업데이트합니다. 자세한 내용은 가상 머신을 VMware 설명서의 최신 하드웨어 버전으로 업그레이드를 참조하십시오.
중요필요한 경우 VM 템플릿의 하드웨어 버전을 버전 15로 업데이트하는 것이 좋습니다. 이제 vSphere에서 실행 중인 클러스터 노드에 하드웨어 버전 13을 사용하는 것이 더 이상 사용되지 않습니다. 가져온 템플릿의 기본값이 하드웨어 버전 13인 경우 VM 템플릿을 하드웨어 버전 15로 업그레이드하기 전에 ESXi 호스트가 6.7U3 이상인지 확인해야 합니다. vSphere 버전이 6.7U3 미만인 경우 이 업그레이드 단계를 건너뛸 수 있습니다. 그러나 향후 OpenShift Container Platform 버전은 6.7U3 미만의 하드웨어 버전 13 및 vSphere 버전에 대한 지원을 제거하도록 예약되어 있습니다.
템플릿이 배포된 후 클러스터에서 시스템의 가상 머신을 배포합니다.
-
템플릿 이름을 마우스 오른쪽 버튼으로 클릭하고 Clone
Clone to Virtual Machine을 클릭합니다. -
Select a name and folder 탭에서 가상 머신의 이름을 지정합니다.
control-plane-0
또는compute-1
과 같은 시스템 유형을 이름에 포함할 수 있습니다. - Select a name and folder 탭에서 클러스터에 대해 생성한 폴더의 이름을 선택합니다.
- Select a compute resource 탭에서 데이터 센터의 호스트 이름을 선택합니다.
- 선택사항: Select storage 탭에서 스토리지 옵션을 사용자 지정합니다.
- Select clone options에서 Customize this virtual machine’s hardware를 선택합니다.
Customize hardware 탭에서 VM Options
Advanced를 클릭합니다. 선택 사항: vSphere에서 기본 DHCP 네트워킹을 재정의합니다. 고정 IP 네트워킹을 활성화하려면 다음을 수행합니다.
고정 IP 구성을 설정합니다.
$ export IPCFG="ip=<ip>::<gateway>:<netmask>:<hostname>:<iface>:none nameserver=srv1 [nameserver=srv2 [nameserver=srv3 [...]]]"
명령 예
$ export IPCFG="ip=192.168.100.101::192.168.100.254:255.255.255.0:::none nameserver=8.8.8.8"
guestinfo.afterburn.initrd.network-kargs
속성을 설정한 후 vSphere의 OVA에서 VM을 부팅합니다.$ govc vm.change -vm "<vm_name>" -e "guestinfo.afterburn.initrd.network-kargs=${IPCFG}"
선택사항: 클러스터 성능 문제가 발생하는 경우 Latency Sensitivity 목록에서 High를 선택합니다. VM의 CPU 및 메모리 예약에 다음과 같은 값이 있는지 확인합니다.
- 메모리 예약 값은 구성된 메모리 크기와 같아야 합니다.
- CPU 예약 값은 측정된 물리적 CPU 속도를 곱한 최소 대기 시간이 짧은 가상 CPU 수여야 합니다.
-
구성 편집을 클릭하고 Configuration Parameters 창에서 사용 가능한 매개 변수 목록을 검색하여 스틸 클럭 회계 (
stealclock.enable
)를 검색합니다. 사용 가능한 경우 해당 값을TRUE
로 설정합니다. 스틸링 클럭 계정을 사용하면 클러스터 문제 해결에 도움이 될 수 있습니다. 구성 추가 매개변수를 클릭합니다. 다음 매개변수 이름 및 값을 정의합니다.
-
guestinfo.ignition.config.data
: 이 절차에서 이전에 생성한 base-64 인코딩 파일을 찾고 이 머신 유형에 대해 base64로 인코딩된 Ignition 구성 파일의 내용을 붙여넣습니다. -
guestinfo.ignition.config.data.encoding
:base64
를 지정합니다. -
disk.EnableUUID
:TRUE
를 지정합니다. -
stealclock.enable
:이 매개 변수가 정의되지 않은 경우 추가하고TRUE
를 지정합니다.
-
- Customize hardware 탭의 Virtual Hardware 패널에서 지정된 값을 필요에 따라 수정합니다. RAM, CPU 및 디스크 스토리지의 양이 시스템 유형에 대한 최소 요구사항을 충족하는지 확인합니다.
- 구성을 완료하고 VM의 전원을 켭니다.
-
템플릿 이름을 마우스 오른쪽 버튼으로 클릭하고 Clone
각 시스템에 대해 이전 단계에 따라 클러스터의 나머지 시스템을 생성합니다.
중요이때 부트스트랩 및 컨트롤 플레인 시스템을 생성해야 합니다. 일부 Pod는 기본적으로 컴퓨팅 시스템에 배포되므로 클러스터를 설치하기 전에 컴퓨팅 시스템을 두 개 이상 생성합니다.
18.8.14. vSphere의 클러스터에 더 많은 컴퓨팅 머신 추가
VMware vSphere에서 사용자가 프로비저닝한 OpenShift Container Platform 클러스터에 더 많은 컴퓨팅 머신을 추가할 수 있습니다.
사전 요구 사항
- 컴퓨팅 머신의 base64로 인코딩된 Ignition 파일을 가져옵니다.
- 클러스터에 생성한 vSphere 템플릿에 액세스할 수 있습니다.
프로세스
템플릿이 배포된 후 클러스터에서 시스템의 가상 머신을 배포합니다.
-
템플릿 이름을 마우스 오른쪽 버튼으로 클릭하고 Clone
Clone to Virtual Machine을 클릭합니다. -
Select a name and folder 탭에서 가상 머신의 이름을 지정합니다.
compute-1
과 같은 머신 유형을 이름에 포함할 수 있습니다. - Select a name and folder 탭에서 클러스터에 대해 생성한 폴더의 이름을 선택합니다.
- Select a compute resource 탭에서 데이터 센터의 호스트 이름을 선택합니다.
- 선택사항: Select storage 탭에서 스토리지 옵션을 사용자 지정합니다.
- Select clone options에서 Customize this virtual machine’s hardware를 선택합니다.
Customize hardware 탭에서 VM Options
Advanced를 클릭합니다. - Latency Sensitivity 목록에서 High를 선택합니다.
Edit Configuration을 클릭하고 Configuration Parameters 창에서 Add Configuration Params를 클릭합니다. 다음 매개변수 이름 및 값을 정의합니다.
-
guestinfo.ignition.config.data
: 이 머신 유형에 대해 base64로 인코딩된 컴퓨팅 Ignition 구성 파일의 내용을 붙여넣습니다. -
guestinfo.ignition.config.data.encoding
:base64
를 지정합니다. -
disk.EnableUUID
:TRUE
를 지정합니다.
-
- Customize hardware 탭의 Virtual Hardware 패널에서 지정된 값을 필요에 따라 수정합니다. RAM, CPU 및 디스크 스토리지의 양이 시스템 유형에 대한 최소 요구사항을 충족하는지 확인합니다. 또한 사용 가능한 네트워크가 여러 개인 경우 Add network adapter에서 올바른 네트워크를 선택해야 합니다.
- 구성을 완료하고 VM의 전원을 켭니다.
-
템플릿 이름을 마우스 오른쪽 버튼으로 클릭하고 Clone
- 계속해서 클러스터에 추가 컴퓨팅 머신을 만듭니다.
18.8.15. 디스크 파티션 설정
대부분의 경우 데이터 파티션은 원래 다른 운영 체제를 설치하는 대신 RHCOS를 설치하여 생성됩니다. 이러한 경우 OpenShift Container Platform 설치 프로그램은 디스크 파티션을 설정할 수 있어야합니다.
그러나 OpenShift Container Platform 노드를 설치할 때 기본 파티션 설정을 덮어 쓰기하기 위해 개입이 필요한 두 가지 경우가 있습니다.
별도의 파티션 생성: 빈 디스크에 그린 필드 설치의 경우 파티션에 별도의 스토리지를 추가할 수 있습니다. 이는
/var
또는/var
의 하위 디렉터리 (예:/var/lib/etcd
)중 하나를 별도의 파티션으로 만드는 경우에 공식적으로 지원됩니다.중요100GB 이상의 디스크 크기 및 특히 1TB보다 큰 디스크 크기의 경우 별도의
/var
파티션을 만듭니다. 자세한 내용은 " 별도의/var
파티션 생성" 및 이 Red Hat 지식베이스 문서 를 참조하십시오.중요Kubernetes는 두 개의 파일 시스템 파티션만 지원합니다. 원래 구성에 둘 이상의 파티션을 추가하는 경우 Kubernetes는 모든 파티션을 모니터링할 수 없습니다.
-
기존 파티션 유지: 브라운 필드 설치에서 기존 노드에 OpenShift Container Platform을 재설치하고 이전 운영 체제에 설치된 데이터 파티션을 유지해야 하는 경우 기존 데이터 파티션을 유지할 수 있는
coreos-installer
에 부팅 인수와 옵션이 모두 있습니다.
별도의 /var
파티션 만들기
일반적으로 OpenShift Container Platform의 디스크 파티션 설정은 설치 프로그램에 맡겨야합니다. 그러나 확장하려는 파일 시스템의 일부에 별도의 파티션을 생성해야 하는 경우가 있습니다.
OpenShift 컨테이너 플랫폼은 /var
파티션 또는 /var
의 하위 디렉터리 중 하나에 스토리지를 연결하는 단일 파티션의 추가를 지원합니다. 예를 들면 다음과 같습니다.
-
/var/lib/containers
: 시스템에 더 많은 이미지와 컨테이너가 추가됨에 따라 확장될 수 있는 컨테이너 관련 콘텐츠를 보관합니다. -
/var/lib/etcd
: etcd 스토리지의 성능 최적화와 같은 목적으로 별도로 보관할 데이터를 보관합니다. /var
: 감사 등의 목적에 맞게 별도로 분리하여 보관해야 하는 데이터를 보관합니다.중요100GB보다 큰 디스크 크기 및 특히 1TB보다 큰 디스크의 경우 별도의
/var
파티션을 만듭니다.
/var
디렉터리의 콘텐츠를 별도로 저장하면 필요에 따라 해당 영역에 대한 스토리지 확장을 보다 용이하게 하고 나중에 OpenShift Container Platform을 다시 설치하여 해당 데이터를 그대로 보존할 수 있습니다. 이 방법을 사용하면 모든 컨테이너를 다시 가져올 필요가 없으며 시스템을 업데이트할 때 대용량 로그 파일을 복사할 필요도 없습니다.
RHCOS(Red Hat Enterprise Linux CoreOS)를 새로 설치하기 전에 /var가
파티션을 설정합니다.
있어야
하므로 다음 절차에서는 OpenShift Container Platform 설치의 openshift-install
준비 단계 중에 삽입되는 머신 구성 매니페스트를 생성하여 별도의 /var
절차
OpenShift Container Platform 설치 파일을 저장할 디렉터리를 만듭니다.
$ mkdir $HOME/clusterconfig
openshift-install
을 실행하여manifest
및openshift
하위 디렉터리에 파일 세트를 만듭니다. 프롬프트가 표시되면 시스템 질문에 대답합니다.$ openshift-install create manifests --dir $HOME/clusterconfig ? SSH Public Key ... $ ls $HOME/clusterconfig/openshift/ 99_kubeadmin-password-secret.yaml 99_openshift-cluster-api_master-machines-0.yaml 99_openshift-cluster-api_master-machines-1.yaml 99_openshift-cluster-api_master-machines-2.yaml ...
추가 파티션을 구성하는 Butane 구성을 생성합니다. 예를 들어 파일 이름을
$HOME/clusterconfig/98-var-partition.bu
로 지정하고, 디스크 장치 이름을worker
시스템의 스토리지 장치 이름으로 변경하고 스토리지 크기를 적절하게 설정합니다. 이 예에서는/var
디렉토리를 별도의 파티션에 배치합니다.variant: openshift version: 4.9.0 metadata: labels: machineconfiguration.openshift.io/role: worker name: 98-var-partition storage: disks: - device: /dev/<device_name> 1 partitions: - label: var start_mib: <partition_start_offset> 2 size_mib: <partition_size> 3 filesystems: - device: /dev/disk/by-partlabel/var path: /var format: xfs mount_options: [defaults, prjquota] 4 with_mount_unit: true
- 1
- 파티션을 설정해야하는 디스크 저장 장치 이름입니다.
- 2
- 데이터 파티션을 부트 디스크에 추가할 때 최소 25000 메비 바이트가 권장됩니다. 루트 파일 시스템은 지정된 오프셋까지 사용 가능한 모든 공간을 채우기 위해 자동으로 크기가 조정됩니다. 값이 지정되지 않거나 지정된 값이 권장 최소값보다 작으면 생성되는 루트 파일 시스템의 크기가 너무 작아지고 RHCOS를 나중에 다시 설치할 때 데이터 파티션의 첫 번째 부분을 덮어 쓸 수 있습니다.
- 3
- 데이터 파티션의 크기(MB)입니다.
- 4
- 컨테이너 스토리지에 사용되는 파일 시스템에
prjquota
마운트 옵션을 활성화해야 합니다.
참고별도의
/var
파티션을 만들 때 다른 인스턴스 유형에 동일한 장치 이름이 없는 경우 작업자 노드에 다른 인스턴스 유형을 사용할 수 없습니다.Butane 구성에서 매니페스트를 생성하여
clusterconfig/openshift
디렉터리에 저장합니다. 예를 들어 다음 명령을 실행합니다.$ butane $HOME/clusterconfig/98-var-partition.bu -o $HOME/clusterconfig/openshift/98-var-partition.yaml
openshift-install
을 다시 실행하여manifest
및openshift
하위 디렉터리의 파일 세트에서 Ignition 구성을 만듭니다.$ openshift-install create ignition-configs --dir $HOME/clusterconfig $ ls $HOME/clusterconfig/ auth bootstrap.ign master.ign metadata.json worker.ign
이제 Ignition 구성 파일을 vSphere 설치 절차에 대한 입력으로 사용하여 RHCOS (Red Hat Enterprise Linux CoreOS) 시스템을 설치할 수 있습니다.
18.8.16. bootupd를 사용하여 부트로더 업데이트
bootupd
를 사용하여 부트로더를 업데이트하려면 RHCOS 머신에 수동으로 bootupd
를 설치하거나 systemd
유닛이 활성화된 머신 구성을 제공해야 합니다. grubby
또는 기타 부트로더 툴과는 달리 bootupd
는 커널 인수 전달과 같은 커널 공간 구성을 관리하지 않습니다.
bootupd
를 설치한 후 OpenShift Container Platform 클러스터에서 원격으로 관리할 수 있습니다.
bootupd
는 BootHole 취약점에 대한 보호와 같이 베어 메탈 또는 가상화 하이퍼바이저 설치에서만 사용하는 것이 좋습니다.
수동 설치 방법
bootctl
명령줄 툴을 사용하여 bootupd
를 수동으로 설치할 수 있습니다.
시스템 상태를 검사합니다.
# bootupctl status
출력 예
Component EFI Installed: grub2-efi-x64-1:2.04-31.fc33.x86_64,shim-x64-15-8.x86_64 Update: At latest version
bootupd
를 설치하지 않고 생성된 RHCOS 이미지에는 명시적 채택 단계가 필요합니다.시스템 상태가
Adoptable
인 경우 채택을 수행합니다.# bootupctl adopt-and-update
출력 예
Updated: grub2-efi-x64-1:2.04-31.fc33.x86_64,shim-x64-15-8.x86_64
업데이트를 사용할 수 있는 경우 다음 재부팅에 변경 사항이 적용되도록 업데이트를 적용합니다.
# bootupctl update
출력 예
Updated: grub2-efi-x64-1:2.04-31.fc33.x86_64,shim-x64-15-8.x86_64
시스템 구성 방법
bootupd
를 활성화하는 또 다른 방법은 머신 구성을 제공하는 것입니다.
다음 예와 같이
systemd
단위가 활성화된 머신 구성 파일을 제공합니다.출력 예
variant: rhcos version: 1.1.0 systemd: units: - name: custom-bootupd-auto.service enabled: true contents: | [Unit] Description=Bootupd automatic update [Service] ExecStart=/usr/bin/bootupctl update RemainAfterExit=yes [Install] WantedBy=multi-user.target
18.8.17. 부트스트랩 프로세스가 완료될 때까지 대기 중
OpenShift Container Platform 부트스트랩 프로세스는 클러스터 노드가 먼저 디스크에 설치된 영구 RHCOS 환경으로 부팅된 후에 시작됩니다. Ignition 구성 파일을 통해 제공되는 구성 정보는 부트스트랩 프로세스를 초기화하고 머신에 OpenShift Container Platform을 설치하는 데 사용됩니다. 부트스트랩 프로세스가 완료될 때까지 기다려야 합니다.
사전 요구 사항
- 클러스터에 대한 Ignition 구성 파일이 생성되어 있습니다.
- 적합한 네트워크, DNS 및 로드 밸런싱 인프라가 구성되어 있습니다.
- 설치 프로그램을 받아서 클러스터의 Ignition 구성 파일을 생성했습니다.
- 클러스터 머신에 RHCOS를 설치하고 OpenShift Container Platform 설치 프로그램에서 생성된 Ignition 구성 파일을 제공했습니다.
프로세스
부트스트랩 프로세스를 모니터링합니다.
$ ./openshift-install --dir <installation_directory> wait-for bootstrap-complete \ 1 --log-level=info 2
출력 예
INFO Waiting up to 30m0s for the Kubernetes API at https://api.test.example.com:6443... INFO API v1.22.1 up INFO Waiting up to 30m0s for bootstrapping to complete... INFO It is now safe to remove the bootstrap resources
이 명령은 Kubernetes API 서버가 컨트롤 플레인 시스템에서 부트스트랩되었다는 신호를 보낼 때 성공합니다.
부트스트랩 프로세스가 완료된 후 로드 밸런서에서 부트스트랩 시스템을 제거합니다.
중요이 시점에 로드 밸런서에서 부트스트랩 시스템을 제거해야 합니다. 부트스트랩 머신 자체를 제거하거나 다시 포맷할 수도 있습니다.
18.8.18. CLI를 사용하여 클러스터에 로그인
클러스터 kubeconfig
파일을 내보내서 기본 시스템 사용자로 클러스터에 로그인할 수 있습니다. kubeconfig
파일에는 CLI에서 올바른 클러스터 및 API 서버에 클라이언트를 연결하는 데 사용하는 클러스터에 대한 정보가 포함되어 있습니다. 이 파일은 클러스터별로 고유하며 OpenShift Container Platform 설치 과정에서 생성됩니다.
사전 요구 사항
- OpenShift Container Platform 클러스터를 배포했습니다.
-
oc
CLI를 설치했습니다.
프로세스
kubeadmin
인증 정보를 내보냅니다.$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1
- 1
<installation_directory>
는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
내보낸 구성을 사용하여
oc
명령을 성공적으로 실행할 수 있는지 확인합니다.$ oc whoami
출력 예
system:admin
18.8.19. 머신의 인증서 서명 요청 승인
클러스터에 시스템을 추가하면 추가한 시스템별로 보류 중인 인증서 서명 요청(CSR)이 두 개씩 생성됩니다. 이러한 CSR이 승인되었는지 확인해야 하며, 필요한 경우 이를 직접 승인해야 합니다. 클라이언트 요청을 먼저 승인한 다음 서버 요청을 승인해야 합니다.
사전 요구 사항
- 클러스터에 시스템을 추가했습니다.
프로세스
클러스터가 시스템을 인식하는지 확인합니다.
$ oc get nodes
출력 예
NAME STATUS ROLES AGE VERSION master-0 Ready master 63m v1.22.1 master-1 Ready master 63m v1.22.1 master-2 Ready master 64m v1.22.1
출력에 생성된 모든 시스템이 나열됩니다.
참고이전 출력에는 일부 CSR이 승인될 때까지 컴퓨팅 노드(작업자 노드라고도 함)가 포함되지 않을 수 있습니다.
보류 중인 CSR을 검토하고 클러스터에 추가한 각 시스템에 대해
Pending
또는Approved
상태의 클라이언트 및 서버 요청이 표시되는지 확인합니다.$ oc get csr
출력 예
NAME AGE REQUESTOR CONDITION csr-8b2br 15m system:serviceaccount:openshift-machine-config-operator:node-bootstrapper Pending csr-8vnps 15m system:serviceaccount:openshift-machine-config-operator:node-bootstrapper Pending ...
예에서는 두 시스템이 클러스터에 참여하고 있습니다. 목록에는 승인된 CSR이 더 많이 나타날 수도 있습니다.
CSR이 승인되지 않은 경우, 추가된 시스템에 대한 모든 보류 중인 CSR이
Pending
상태로 전환된 후 클러스터 시스템의 CSR을 승인합니다.참고CSR은 교체 주기가 자동으로 만료되므로 클러스터에 시스템을 추가한 후 1시간 이내에 CSR을 승인하십시오. 한 시간 내에 승인하지 않으면 인증서가 교체되고 각 노드에 대해 두 개 이상의 인증서가 표시됩니다. 이러한 인증서를 모두 승인해야 합니다. 클라이언트 CSR이 승인되면 Kubelet은 인증서에 대한 보조 CSR을 생성하므로 수동 승인이 필요합니다. 그러면 Kubelet에서 동일한 매개변수를 사용하여 새 인증서를 요청하는 경우 인증서 갱신 요청은
machine-approver
에 의해 자동으로 승인됩니다.참고베어 메탈 및 기타 사용자 프로비저닝 인프라와 같이 머신 API를 사용하도록 활성화되지 않는 플랫폼에서 실행되는 클러스터의 경우 CSR(Kubelet service Certificate Request)을 자동으로 승인하는 방법을 구현해야 합니다. 요청이 승인되지 않으면 API 서버가 kubelet에 연결될 때 서비스 인증서가 필요하므로
oc exec
,oc rsh
,oc logs
명령을 성공적으로 수행할 수 없습니다. Kubelet 엔드 포인트에 연결하는 모든 작업을 수행하려면 이 인증서 승인이 필요합니다. 이 방법은 새 CSR을 감시하고 CSR이system:node
또는system:admin
그룹의node-bootstrapper
서비스 계정에 의해 제출되었는지 확인하고 노드의 ID를 확인합니다.개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오.
$ oc adm certificate approve <csr_name> 1
- 1
<csr_name>
은 현재 CSR 목록에 있는 CSR의 이름입니다.
보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오.
$ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs --no-run-if-empty oc adm certificate approve
참고일부 Operator는 일부 CSR이 승인될 때까지 사용할 수 없습니다.
이제 클라이언트 요청이 승인되었으므로 클러스터에 추가한 각 머신의 서버 요청을 검토해야 합니다.
$ oc get csr
출력 예
NAME AGE REQUESTOR CONDITION csr-bfd72 5m26s system:node:ip-10-0-50-126.us-east-2.compute.internal Pending csr-c57lv 5m26s system:node:ip-10-0-95-157.us-east-2.compute.internal Pending ...
나머지 CSR이 승인되지 않고
Pending
상태인 경우 클러스터 머신의 CSR을 승인합니다.개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오.
$ oc adm certificate approve <csr_name> 1
- 1
<csr_name>
은 현재 CSR 목록에 있는 CSR의 이름입니다.
보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오.
$ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs oc adm certificate approve
모든 클라이언트 및 서버 CSR이 승인된 후 머신은
Ready
상태가 됩니다. 다음 명령을 실행하여 확인합니다.$ oc get nodes
출력 예
NAME STATUS ROLES AGE VERSION master-0 Ready master 73m v1.22.1 master-1 Ready master 73m v1.22.1 master-2 Ready master 74m v1.22.1 worker-0 Ready worker 11m v1.22.1 worker-1 Ready worker 11m v1.22.1
참고머신이
Ready
상태로 전환하는 데 서버 CSR의 승인 후 몇 분이 걸릴 수 있습니다.
추가 정보
- CSR에 대한 자세한 내용은 인증서 서명 요청을 참조하십시오.
18.8.20. Operator의 초기 설정
컨트롤 플레인이 초기화된 후 일부 Operator를 즉시 구성하여 모두 사용 가능하도록 해야 합니다.
사전 요구 사항
- 컨트롤 플레인이 초기화되어 있습니다.
절차
클러스터 구성 요소가 온라인 상태인지 확인합니다.
$ watch -n5 oc get clusteroperators
출력 예
NAME VERSION AVAILABLE PROGRESSING DEGRADED SINCE authentication 4.9.0 True False False 19m baremetal 4.9.0 True False False 37m cloud-credential 4.9.0 True False False 40m cluster-autoscaler 4.9.0 True False False 37m config-operator 4.9.0 True False False 38m console 4.9.0 True False False 26m csi-snapshot-controller 4.9.0 True False False 37m dns 4.9.0 True False False 37m etcd 4.9.0 True False False 36m image-registry 4.9.0 True False False 31m ingress 4.9.0 True False False 30m insights 4.9.0 True False False 31m kube-apiserver 4.9.0 True False False 26m kube-controller-manager 4.9.0 True False False 36m kube-scheduler 4.9.0 True False False 36m kube-storage-version-migrator 4.9.0 True False False 37m machine-api 4.9.0 True False False 29m machine-approver 4.9.0 True False False 37m machine-config 4.9.0 True False False 36m marketplace 4.9.0 True False False 37m monitoring 4.9.0 True False False 29m network 4.9.0 True False False 38m node-tuning 4.9.0 True False False 37m openshift-apiserver 4.9.0 True False False 32m openshift-controller-manager 4.9.0 True False False 30m openshift-samples 4.9.0 True False False 32m operator-lifecycle-manager 4.9.0 True False False 37m operator-lifecycle-manager-catalog 4.9.0 True False False 37m operator-lifecycle-manager-packageserver 4.9.0 True False False 32m service-ca 4.9.0 True False False 38m storage 4.9.0 True False False 37m
- 사용할 수 없는 Operator를 구성합니다.
18.8.20.1. 기본 OperatorHub 소스 비활성화
Red Hat 및 커뮤니티 프로젝트에서 제공하는 콘텐츠를 소싱하는 Operator 카탈로그는 OpenShift Container Platform을 설치하는 동안 기본적으로 OperatorHub용으로 구성됩니다. 제한된 네트워크 환경에서는 클러스터 관리자로서 기본 카탈로그를 비활성화해야 합니다.
절차
OperatorHub
오브젝트에disableAllDefaultSources: true
를 추가하여 기본 카탈로그의 소스를 비활성화합니다.$ oc patch OperatorHub cluster --type json \ -p '[{"op": "add", "path": "/spec/disableAllDefaultSources", "value": true}]'
또는 웹 콘솔을 사용하여 카탈로그 소스를 관리할 수 있습니다. 관리
18.8.20.2. 이미지 레지스트리 스토리지 구성
기본 스토리지를 제공하지 않는 플랫폼에서는 처음에 Image Registry Operator를 사용할 수 없습니다. 설치한 후에 스토리지를 사용하도록 레지스트리를 구성하여 Registry Operator를 사용 가능하도록 만들어야 합니다.
프로덕션 클러스터에 필요한 영구 볼륨을 구성하는 과정의 지침이 표시됩니다. 해당하는 경우, 프로덕션 환경 외 클러스터에서만 사용할 수 있는 저장 위치로서 빈 디렉터리를 구성하는 과정의 지침이 표시됩니다.
업그레이드 중에 Recreate
롤아웃 전략을 사용하여 이미지 레지스트리의 블록 스토리지 유형 사용을 허용하기 위한 추가 지침이 제공됩니다.
18.8.20.2.1. VMware vSphere용 레지스트리 스토리지 구성
클러스터 관리자는 설치한 후 스토리지를 사용하도록 레지스트리를 구성해야 합니다.
사전 요구 사항
- 클러스터 관리자 권한이 있어야 합니다.
- VMware vSphere에 클러스터가 있어야 합니다.
Red Hat OpenShift Container Storage와 같이 클러스터용 영구 스토리지 프로비저닝.
중요OpenShift Container Platform은 복제본이 하나만 있는 경우 이미지 레지스트리 스토리지에 대한
ReadWriteOnce
액세스를 지원합니다.ReadWriteOnce
액세스에서는 레지스트리가Recreate
롤아웃 전략을 사용해야 합니다. 두 개 이상의 복제본으로 고 가용성을 지원하는 이미지 레지스트리를 배포하려면ReadWriteMany
액세스가 필요합니다.- "100Gi" 용량이 필요합니다.
테스트 결과, RHEL의 NFS 서버를 핵심 서비스용 스토리지 백엔드로 사용하는 데 문제가 있는 것으로 나타납니다. 여기에는 OpenShift Container Registry and Quay, 스토리지 모니터링을 위한 Prometheus, 로깅 스토리지를 위한 Elasticsearch가 포함됩니다. 따라서 RHEL NFS를 사용하여 핵심 서비스에서 사용하는 PV를 백업하는 것은 권장되지 않습니다.
마켓플레이스의 다른 NFS 구현에는 이러한 문제가 나타나지 않을 수 있습니다. 이러한 OpenShift Container Platform 핵심 구성 요소에 대해 완료된 테스트에 대한 자세한 내용은 개별 NFS 구현 공급업체에 문의하십시오.
절차
스토리지를 사용하도록 레지스트리를 구성하기 위해
configs.imageregistry/cluster
리소스에서spec.storage.pvc
를 변경합니다.참고공유 스토리지를 사용할 때 보안 설정을 확인하여 외부에서의 액세스를 방지합니다.
레지스트리 pod가 없는지 확인합니다.
$ oc get pod -n openshift-image-registry -l docker-registry=default
출력 예
No resourses found in openshift-image-registry namespace
참고출력에 레지스트리 Pod가 있는 경우 이 절차를 계속할 필요가 없습니다.
레지스트리 구성을 확인합니다.
$ oc edit configs.imageregistry.operator.openshift.io
출력 예
storage: pvc: claim: 1
- 1
image-registry-storage
영구 볼륨클레임
(PVC)을 자동으로 생성할 수 있도록 claim 필드를 비워 둡니다. PVC는 기본 스토리지 클래스를 기반으로 생성됩니다. 그러나 기본 스토리지 클래스에서 RADOS 블록 장치(RBD)와 같은 ReadWriteOnce(ReadWriteOnce) 볼륨을 제공할 수 있으므로 복제본이 두 개 이상될 때 문제가 발생할 수 있습니다.
clusteroperator
상태를 확인합니다.$ oc get clusteroperator image-registry
출력 예
NAME VERSION AVAILABLE PROGRESSING DEGRADED SINCE MESSAGE image-registry 4.7 True False False 6h50m
18.8.20.2.2. 프로덕션 환경 외 클러스터에서 이미지 레지스트리의 스토리지 구성
이미지 레지스트리 Operator에 대한 스토리지를 구성해야 합니다. 프로덕션 환경 외 클러스터의 경우, 이미지 레지스트리를 빈 디렉터리로 설정할 수 있습니다. 이렇게 하는 경우 레지스트리를 다시 시작하면 모든 이미지가 손실됩니다.
프로세스
이미지 레지스트리 스토리지를 빈 디렉터리로 설정하려면 다음을 수행하십시오.
$ oc patch configs.imageregistry.operator.openshift.io cluster --type merge --patch '{"spec":{"storage":{"emptyDir":{}}}}'
주의프로덕션 환경 외 클러스터에 대해서만 이 옵션을 구성하십시오.
Image Registry Operator가 구성 요소를 초기화하기 전에 이 명령을 실행하면
oc patch
명령이 실패하며 다음 오류가 발생합니다.Error from server (NotFound): configs.imageregistry.operator.openshift.io "cluster" not found
몇 분 후에 명령을 다시 실행하십시오.
18.8.20.2.3. VMware vSphere용 블록 레지스트리 스토리지 구성
클러스터 관리자로서 업그레이드 중에 이미지 레지스트리가 vSphere VMDK(Virtual Machine Disk)와 같은 블록 스토리지 유형을 사용할 수 있도록 허용하기 위해 Recreate
롤아웃 전략을 사용할 수 있습니다.
블록 스토리지 볼륨이 지원되지만 프로덕션 클러스터에서 이미지 레지스트리와 함께 사용하는 것은 권장되지 않습니다. 레지스트리가 블록 스토리지에 구성된 설치는 레지스트리가 둘 이상의 복제본을 가질 수 없기 때문에 가용성이 높지 않습니다.
프로세스
이미지 레지스트리 스토리지를 블록 스토리지 유형으로 설정하려면
Recreate
롤아웃 전략을 사용하고 복제본1
개 만으로 실행되도록 레지스트리를 패치합니다.$ oc patch config.imageregistry.operator.openshift.io/cluster --type=merge -p '{"spec":{"rolloutStrategy":"Recreate","replicas":1}}'
블록 스토리지 장치에 PV를 프로비저닝하고 해당 볼륨의 PVC를 생성합니다. 요청된 블록 볼륨은 RWO(ReadWriteOnce) 액세스 모드를 사용합니다.
VMware vSphere
PersistentVolumeClaim
개체를 정의하려면 다음 내용이 포함된pvc.yaml
파일을 생성합니다.kind: PersistentVolumeClaim apiVersion: v1 metadata: name: image-registry-storage 1 namespace: openshift-image-registry 2 spec: accessModes: - ReadWriteOnce 3 resources: requests: storage: 100Gi 4
파일에서
PersistentVolumeClaim
오브젝트를 만듭니다.$ oc create -f pvc.yaml -n openshift-image-registry
올바른 PVC를 참조하도록 레지스트리 설정을 편집합니다.
$ oc edit config.imageregistry.operator.openshift.io -o yaml
출력 예
storage: pvc: claim: 1
- 1
- 사용자 지정 PVC를 만들면
image-registry-storage
PVC의 기본 자동 생성을 위해claim
필드를 비워둘 수 있습니다.
올바른 PVC를 참조하도록 레지스트리 스토리지를 구성하는 방법은 VMware vSphere 용 레지스트리 스토리지 구성을 참조하십시오.
18.8.21. 사용자 프로비저닝 인프라에 설치 완료
Operator 구성을 완료한 후 제공하는 인프라에 클러스터 설치를 완료할 수 있습니다.
사전 요구 사항
- 컨트롤 플레인이 초기화되어 있습니다.
- 초기 Operator 구성을 완료해야 합니다.
프로세스
다음 명령을 사용하여 모든 클러스터 구성 요소가 온라인 상태인지 확인합니다.
$ watch -n5 oc get clusteroperators
출력 예
NAME VERSION AVAILABLE PROGRESSING DEGRADED SINCE authentication 4.9.0 True False False 19m baremetal 4.9.0 True False False 37m cloud-credential 4.9.0 True False False 40m cluster-autoscaler 4.9.0 True False False 37m config-operator 4.9.0 True False False 38m console 4.9.0 True False False 26m csi-snapshot-controller 4.9.0 True False False 37m dns 4.9.0 True False False 37m etcd 4.9.0 True False False 36m image-registry 4.9.0 True False False 31m ingress 4.9.0 True False False 30m insights 4.9.0 True False False 31m kube-apiserver 4.9.0 True False False 26m kube-controller-manager 4.9.0 True False False 36m kube-scheduler 4.9.0 True False False 36m kube-storage-version-migrator 4.9.0 True False False 37m machine-api 4.9.0 True False False 29m machine-approver 4.9.0 True False False 37m machine-config 4.9.0 True False False 36m marketplace 4.9.0 True False False 37m monitoring 4.9.0 True False False 29m network 4.9.0 True False False 38m node-tuning 4.9.0 True False False 37m openshift-apiserver 4.9.0 True False False 32m openshift-controller-manager 4.9.0 True False False 30m openshift-samples 4.9.0 True False False 32m operator-lifecycle-manager 4.9.0 True False False 37m operator-lifecycle-manager-catalog 4.9.0 True False False 37m operator-lifecycle-manager-packageserver 4.9.0 True False False 32m service-ca 4.9.0 True False False 38m storage 4.9.0 True False False 37m
또는 다음 명령은 모든 클러스터를 사용할 수 있을 때 알립니다. 또한 인증 정보를 검색하고 표시합니다.
$ ./openshift-install --dir <installation_directory> wait-for install-complete 1
- 1
<installation_directory>
는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
출력 예
INFO Waiting up to 30m0s for the cluster to initialize...
Cluster Version Operator가 Kubernetes API 서버에서 OpenShift Container Platform 클러스터 배포를 완료하면 명령이 성공합니다.
중요-
설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인
node-bootstrapper
인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 Recovering from expired control plane certificates 문서를 참조하십시오. - 클러스터를 설치한 후 24시간에서 22시간까지의 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.
Kubernetes API 서버가 Pod와 통신하고 있는지 확인합니다.
모든 Pod 목록을 보려면 다음 명령을 사용하십시오.
$ oc get pods --all-namespaces
출력 예
NAMESPACE NAME READY STATUS RESTARTS AGE openshift-apiserver-operator openshift-apiserver-operator-85cb746d55-zqhs8 1/1 Running 1 9m openshift-apiserver apiserver-67b9g 1/1 Running 0 3m openshift-apiserver apiserver-ljcmx 1/1 Running 0 1m openshift-apiserver apiserver-z25h4 1/1 Running 0 2m openshift-authentication-operator authentication-operator-69d5d8bf84-vh2n8 1/1 Running 0 5m ...
다음 명령을 사용하여 이전 명령의 출력에 나열된 Pod의 로그를 표시합니다.
$ oc logs <pod_name> -n <namespace> 1
- 1
- 이전 명령의 출력에 표시된 대로 Pod 이름과 네임스페이스를 지정합니다.
Pod 로그가 표시되면 Kubernetes API 서버는 클러스터 시스템과 통신할 수 있습니다.
FCP(Fibre Channel Protocol)를 사용하는 설치에는 다중 경로를 활성화하기 위해 추가 단계가 필요합니다. 설치 중에 멀티패스를 활성화하지 마십시오.
자세한 내용은 설치 후 머신 구성 작업 설명서에서 "RHCOS에서 커널 인수를 사용하여 멀티패스 활성화"를 참조하십시오.
- 클러스터 등록 페이지에서 클러스터를 등록합니다.
vSphere에 컴퓨팅 머신 추가에 따라 클러스터 설치가 완료된 후 추가 컴퓨팅 머신을 추가할 수 있습니다.
18.8.22. VMware vSphere 볼륨 백업
OpenShift Container Platform은 새 볼륨을 독립 영구 디스크로 프로비저닝하여 클러스터의 모든 노드에서 볼륨을 자유롭게 연결 및 분리합니다. 결과적으로 스냅샷을 사용하는 볼륨을 백업하거나 스냅샷에서 볼륨을 복원할 수 없습니다. 자세한 내용은 스냅 샷 제한 을 참조하십시오.
프로세스
영구 볼륨의 백업을 생성하려면 다음을 수행합니다.
- 영구 볼륨을 사용중인 애플리케이션을 중지합니다.
- 영구 볼륨을 복제합니다.
- 애플리케이션을 다시 시작합니다.
- 복제된 볼륨의 백업을 만듭니다.
- 복제된 볼륨을 삭제합니다.
18.8.23. OpenShift Container Platform의 Telemetry 액세스
OpenShift Container Platform 4.9에서는 클러스터 상태 및 업데이트 진행에 대한 메트릭을 제공하기 위해 기본적으로 실행되는 Telemetry 서비스에 인터넷 액세스가 필요합니다. 클러스터가 인터넷에 연결되어 있으면 Telemetry가 자동으로 실행되고 OpenShift Cluster Manager 에 클러스터가 자동으로 등록됩니다.
OpenShift Cluster Manager 인벤토리가 올바르거나 OpenShift Cluster Manager를 사용하여 자동으로 또는 OpenShift Cluster Manager를 사용하여 수동으로 유지 관리되는지 확인한 후 subscription watch를 사용하여 계정 또는 다중 클러스터 수준에서 OpenShift Container Platform 서브스크립션을 추적합니다.
추가 리소스
- Telemetry 서비스에 대한 자세한 내용은 원격 상태 모니터링 정보를 참조하십시오.
18.8.24. 다음 단계
- 클러스터를 사용자 지정합니다.
-
Cluster Samples Operator 및
must-gather
툴의 이미지 스트림을 구성합니다. - 제한된 네트워크에서 Operator Lifecycle Manager (OLM) 사용 방법에 대해 살펴봅니다.
- 클러스터를 설치하는 데 사용한 미러 레지스트리에 신뢰할 수 있는 CA가 있는 경우 추가 신뢰 저장소를 구성하여 클러스터에 추가합니다.
- 필요한 경우 원격 상태 보고 옵트아웃을 수행할 수 있습니다.
- 선택 사항: vSphere Problem Detector Operator에서 이벤트를 보고 클러스터에 권한 또는 스토리지 구성 문제가 있는지 확인합니다.