3.4. 네트워크 사용자 지정으로 vSphere에 클러스터 설치

프로세스

1. 필요한 설치 자산을 저장할 설치 디렉터리를 만듭니다.

   $ mkdir <installation_directory>

   중요

   디렉터리를 만들어야 합니다. 부트스트랩 X.509 인증서와 같은 일부 설치 자산은 단기간에 만료되므로 설치 디렉터리를 재사용해서는 안 됩니다. 다른 클러스터 설치의 개별 파일을 재사용하려면 해당 파일을 사용자 디렉터리에 복사하면 됩니다. 그러나 설치 자산의 파일 이름은 릴리스간에 변경될 수 있습니다. 따라서 이전 OpenShift Container Platform 버전에서 설치 파일을 복사할 때는 주의하십시오.

2. 샘플 install-config.yaml 파일 템플릿을 사용자 지정하여 <installation_directory>에 저장합니다.

   참고

   이 설정 파일의 이름을 install-config.yaml로 지정해야 합니다.

3. 여러 클러스터를 설치하는 데 사용할 수 있도록 install-config.yaml 파일을 백업합니다.

   중요

   install-config.yaml 파일은 설치 과정의 다음 단계에서 사용됩니다. 이 시점에서 이를 백업해야 합니다.

프로세스

1. 설치 프로그램이 포함된 디렉터리로 변경하고 매니페스트를 생성합니다.

   $ ./openshift-install create manifests --dir <installation_directory> 1

   1

   <installation_directory>는 클러스터의 install-config.yaml 파일이 포함된 디렉터리의 이름을 지정합니다.

2. <installation_directory>/ manifests/ 디렉토리에 cluster-network-03-config.yml이라는 stub 매니페스트 파일을 만듭니다.

   apiVersion: operator.openshift.io/v1
   kind: Network
   metadata:
     name: cluster
   spec:

3. 다음 예와 같이 cluster-network-03-config.yml 파일에서 클러스터의 고급 네트워크 구성을 지정합니다.

   OVN-Kubernetes 네트워크 공급자의 IPsec 활성화

   apiVersion: operator.openshift.io/v1
   kind: Network
   metadata:
     name: cluster
   spec:
     defaultNetwork:
       ovnKubernetesConfig:
         ipsecConfig:
           mode: Full

4. 선택사항: manifests/cluster-network-03-config.yml 파일을 백업합니다. 설치 프로그램은 Ignition 구성 파일을 생성할 때 manifests/ 디렉터리를 사용합니다.

5. 컨트롤 플레인 시스템을 정의하는 Kubernetes 매니페스트 파일을 제거하고 machineSets를 컴퓨팅합니다.

   $ rm -f openshift/99_openshift-cluster-api_master-machines-*.yaml openshift/99_openshift-cluster-api_worker-machineset-*.yaml

   이러한 리소스는 사용자가 직접 생성하고 관리하기 때문에 초기화할 필요가 없습니다.

   • 시스템 API로 MachineSet 파일을 보존하여 컴퓨팅 시스템을 생성할 수 있지만 사용자 환경과 일치하도록 해당 참조를 업데이트해야 합니다.

프로세스

1. 설치 프로그램에서 생성된 부트스트랩 Ignition 구성 파일(<installation_directory>/bootstrap.ign)을 HTTP 서버에 업로드합니다. 이 파일의 URL을 기록해 둡니다.

2. 부트스트랩 노드에 대한 다음 보조 Ignition 구성 파일을 <installation_directory>/merge-bootstrap.ign으로 컴퓨터에 저장합니다.

   {
     "ignition": {
       "config": {
         "merge": [
           {
             "source": "<bootstrap_ignition_config_url>", 1
             "verification": {}
           }
         ]
       },
       "timeouts": {},
       "version": "3.2.0"
     },
     "networkd": {},
     "passwd": {},
     "storage": {},
     "systemd": {}
   }

   1

   호스팅한 부트스트랩 Ignition 구성 파일의 URL을 지정합니다.

   부트스트랩 머신에 대한 가상 머신(VM)을 생성할 때 이 Ignition 구성 파일을 사용합니다.

3. 설치 프로그램에서 생성한 다음 Ignition 구성 파일을 찾습니다.

   • <installation_directory>/master.ign
   • <installation_directory>/worker.ign
   • <installation_directory>/merge-bootstrap.ign

4. Ignition 구성 파일을 Base64 인코딩으로 변환합니다. 이 절차의 뒷부분에서 이러한 파일을 VM의 추가 구성 매개변수 guestinfo.ignition.config.data 에 추가해야 합니다.

   예를 들어 Linux 운영 체제를 사용하는 경우 base64 명령을 사용하여 파일을 인코딩할 수 있습니다.

   $ base64 -w0 <installation_directory>/master.ign > <installation_directory>/master.64

   $ base64 -w0 <installation_directory>/worker.ign > <installation_directory>/worker.64

   $ base64 -w0 <installation_directory>/merge-bootstrap.ign > <installation_directory>/merge-bootstrap.64

   중요

   설치를 마친 후 클러스터에 컴퓨팅 시스템을 더 추가하려면 Ignition 구성 파일을 삭제하지 마십시오.

5. RHCOS OVA 이미지를 가져옵니다. RHCOS 이미지 미러 페이지에서 이미지를 사용할 수 있습니다.

   중요

   RHCOS 이미지는 OpenShift Container Platform 릴리스에 따라 변경되지 않을 수 있습니다. 설치하는 OpenShift Container Platform 버전과 같거나 그 이하의 버전 중 가장 최신 버전의 이미지를 다운로드해야 합니다. 지원되는 경우 OpenShift Container Platform 버전과 일치하는 이미지 버전을 사용합니다.

   파일 이름에는 rhcos-vmware.<architecture>.ova 형식의 OpenShift Container Platform 버전 번호가 포함됩니다.

6. vSphere Client에서 데이터 센터에 VM을 저장할 폴더를 생성합니다.

   1. VMs and Templates 보기를 클릭합니다.
   2. 데이터 센터 이름을 마우스 오른쪽 버튼으로 클릭합니다.
   3. New Folder New VM and Template Folder를 클릭합니다.
   4. 표시되는 창에서 폴더 이름을 입력합니다. install-config.yaml 파일에서 기존 폴더를 지정하지 않은 경우 인프라 ID와 동일한 이름으로 폴더를 생성합니다. vCenter는 이 폴더 이름을 사용하여 Workspace 구성에 적절한 위치에 스토리지를 동적으로 프로비저닝합니다.

7. vSphere Client에서 OVA 이미지에 대한 템플릿을 생성한 다음 필요에 따라 템플릿을 복제합니다.

   참고

   다음 단계에서 템플릿을 생성한 다음 모든 클러스터 시스템에 대한 템플릿을 복제합니다. 그런 다음 VM을 프로비저닝할 때 복제된 머신 유형의 Ignition 구성 파일의 위치를 제공합니다.

   1. Hosts and Clusters 탭에서 클러스터 이름을 마우스 오른쪽 버튼으로 클릭하고 Deploy OVF Template을 선택합니다.
   2. Select an OVF 탭에서 다운로드한 RHCOS OVA 파일의 이름을 지정합니다.
   3. 이름 및 폴더 선택 탭에서 템플릿의 가상 시스템 이름 (예: Template-RHCOS)을 설정합니다. vSphere 클러스터의 이름을 클릭하고 이전 단계에서 생성한 폴더를 선택합니다.
   4. Select a compute resource 탭에서 vSphere 클러스터 이름을 클릭합니다.

   5. Select storage 탭에서 VM의 스토리지 옵션을 구성합니다.

      • 스토리지 기본 설정에 따라 Thin Provision 또는 Thick Provision을 선택합니다.
      • install-config.yaml 파일에서 지정한 데이터 저장소를 선택합니다.
      • 가상 머신을 암호화하려면 이 가상 머신 암호화를 선택합니다. 자세한 내용은 "가상 머신 암호화 요구" 섹션을 참조하십시오.
   6. Select network 탭에서 사용 가능한 경우 클러스터에 대해 구성한 네트워크를 지정합니다.

   7. OVF 템플릿을 생성할 때 템플릿 사용자 지정 탭에 값을 지정하지 않거나 템플릿을 추가로 구성하지 마십시오.

      중요

      원래 VM 템플릿을 시작하지 마십시오. VM 템플릿이 꺼져 있어야 하며 새 RHCOS 머신에 대해 복제해야 합니다. VM 템플릿을 시작하면 VM 템플릿이 플랫폼의 VM으로 구성되므로 컴퓨팅 머신 세트에서 구성을 적용할 수 있는 템플릿으로 사용되지 않습니다.

8. 선택 사항: 필요한 경우 VM 템플릿에서 구성된 가상 하드웨어 버전을 업데이트합니다. 자세한 내용은 가상 머신을 VMware 설명서의 최신 하드웨어 버전으로 업그레이드를 참조하십시오.

   중요

   필요한 경우 VM 템플릿의 하드웨어 버전을 버전 15로 업데이트하기 전에 해당 템플릿에서 VM을 생성하는 것이 좋습니다. 이제 vSphere에서 실행 중인 클러스터 노드에 하드웨어 버전 13을 사용하는 것이 더 이상 사용되지 않습니다. 가져온 템플릿이 기본적으로 하드웨어 버전 13인 경우 VM 템플릿을 하드웨어 버전 15로 업그레이드하기 전에 ESXi 호스트가 6.7U3 이상인지 확인해야 합니다. vSphere 버전이 6.7U3 미만이면 이 업그레이드 단계를 건너뛸 수 있지만 향후 OpenShift Container Platform 버전은 6.7U3 미만의 하드웨어 버전 13 및 vSphere 버전에 대한 지원을 제거하도록 예약됩니다.

9. 템플릿이 배포된 후 클러스터에서 시스템의 가상 머신을 배포합니다.

   1. 템플릿 이름을 마우스 오른쪽 버튼으로 클릭하고 Clone Clone to Virtual Machine을 클릭합니다.

   2. Select a name and folder 탭에서 가상 머신의 이름을 지정합니다. control-plane-0 또는 compute-1과 같은 시스템 유형을 이름에 포함할 수 있습니다.

      참고

      vSphere 설치의 모든 가상 머신 이름이 고유한지 확인합니다.

   3. Select a name and folder 탭에서 클러스터에 대해 생성한 폴더의 이름을 선택합니다.
   4. Select a compute resource 탭에서 데이터 센터에서 호스트 이름을 선택합니다.
   5. 복제 옵션 선택 탭에서 이 가상 머신의 하드웨어 사용자 지정을 선택합니다.

   6. 하드웨어 사용자 지정 탭에서 고급 매개 변수 를 클릭합니다.

      중요

      다음 구성 제안 사항은 예시용으로만 제공됩니다. 클러스터 관리자는 클러스터에 배치된 리소스 요구에 따라 리소스를 구성해야 합니다. 클러스터 리소스를 가장 잘 관리하려면 클러스터의 루트 리소스 풀에서 리소스 풀을 생성하는 것이 좋습니다.

      • 선택 사항: vSphere에서 기본 DHCP 네트워킹을 재정의합니다. 고정 IP 네트워킹을 활성화하려면 다음을 수행합니다.

        • 고정 IP 구성을 설정합니다.

          명령 예

          $ export IPCFG="ip=<ip>::<gateway>:<netmask>:<hostname>:<iface>:none nameserver=srv1 [nameserver=srv2 [nameserver=srv3 [...]]]"

          명령 예

          $ export IPCFG="ip=192.168.100.101::192.168.100.254:255.255.255.0:::none nameserver=8.8.8.8"

        • vSphere의 OVA에서 VM을 부팅하기 전에 guestinfo.afterburn.initrd.network-kargs 속성을 설정합니다.

          명령 예

          $ govc vm.change -vm "<vm_name>" -e "guestinfo.afterburn.initrd.network-kargs=${IPCFG}"

      • 속성 및 값 필드에 데이터를 지정하여 다음 구성 매개 변수 이름 및 값을 추가합니다. 생성한 각 매개변수에 대한 추가 버튼을 선택해야 합니다.

        • guestinfo.ignition.config.data: 이전에 이 절차에서 생성한 base-64 인코딩 파일을 찾고 이 머신 유형에 대해 base64로 인코딩된 Ignition 구성 파일의 내용을 붙여넣습니다.
        • guestinfo.ignition.config.data.encoding: base64를 지정합니다.
        • disk.EnableUUID: TRUE를 지정합니다.
        • stealclock.enable: 이 매개변수가 정의되지 않은 경우 이를 추가하고 TRUE 를 지정합니다.
        • 클러스터의 루트 리소스 풀에서 하위 리소스 풀을 생성합니다. 이 하위 리소스 풀에서 리소스 할당을 수행합니다.
   7. Customize hardware 탭의 Virtual Hardware 패널에서 지정된 값을 필요에 따라 수정합니다. RAM, CPU 및 디스크 스토리지의 양이 시스템 유형에 대한 최소 요구사항을 충족하는지 확인합니다.
   8. 나머지 구성 단계를 완료합니다. 완료 버튼을 클릭하면 복제 작업을 완료했습니다.
   9. 가상 머신 탭에서 VM을 마우스 오른쪽 버튼으로 클릭한 다음 전원 전원 켜기 을 선택합니다.

   10. 콘솔 출력을 확인하여 Ignition이 실행되었는지 확인합니다.

       명령 예

       Ignition: ran on 2022/03/14 14:48:33 UTC (this boot)
       Ignition: user-provided config was applied

프로세스

1. 템플릿 이름을 마우스 오른쪽 버튼으로 클릭하고 Clone Clone to Virtual Machine을 클릭합니다.

2. Select a name and folder 탭에서 가상 머신의 이름을 지정합니다. compute-1과 같은 머신 유형을 이름에 포함할 수 있습니다.

   참고

   vSphere 설치의 모든 가상 머신 이름이 고유한지 확인합니다.

3. Select a name and folder 탭에서 클러스터에 대해 생성한 폴더의 이름을 선택합니다.
4. Select a compute resource 탭에서 데이터 센터에서 호스트 이름을 선택합니다.
5. 스토리지 선택 탭에서 구성 및 디스크 파일에 대한 스토리지를 선택합니다.
6. 복제 옵션 선택 탭에서 이 가상 머신의 하드웨어 사용자 지정을 선택합니다.

7. 하드웨어 사용자 지정 탭에서 고급 매개 변수 를 클릭합니다.

   • 속성 및 값 필드에 데이터를 지정하여 다음 구성 매개 변수 이름 및 값을 추가합니다. 생성한 각 매개변수에 대한 추가 버튼을 선택해야 합니다.

     • guestinfo.ignition.config.data: 이 머신 유형에 대해 base64로 인코딩된 컴퓨팅 Ignition 구성 파일의 내용을 붙여넣습니다.
     • guestinfo.ignition.config.data.encoding: base64를 지정합니다.
     • disk.EnableUUID: TRUE를 지정합니다.
8. Customize hardware 탭의 Virtual Hardware 패널에서 지정된 값을 필요에 따라 수정합니다. RAM, CPU 및 디스크 스토리지의 양이 시스템 유형에 대한 최소 요구사항을 충족하는지 확인합니다. 많은 네트워크가 있는 경우 새 장치 추가 > 네트워크 어댑터를 선택한 다음 새 네트워크 메뉴 항목에서 제공하는 필드에 네트워크 정보를 입력합니다.
9. 나머지 구성 단계를 완료합니다. 완료 버튼을 클릭하면 복제 작업을 완료했습니다.
10. 가상 머신 탭에서 VM을 마우스 오른쪽 버튼으로 클릭한 다음 전원 전원 켜기 을 선택합니다.

프로세스

1. OpenShift Container Platform 설치 파일을 저장할 디렉터리를 만듭니다.

   $ mkdir $HOME/clusterconfig

2. openshift-install을 실행하여 manifest 및 openshift 하위 디렉터리에 파일 세트를 만듭니다. 프롬프트가 표시되면 시스템 질문에 대답합니다.

   $ openshift-install create manifests --dir $HOME/clusterconfig
   ? SSH Public Key ...
   $ ls $HOME/clusterconfig/openshift/
   99_kubeadmin-password-secret.yaml
   99_openshift-cluster-api_master-machines-0.yaml
   99_openshift-cluster-api_master-machines-1.yaml
   99_openshift-cluster-api_master-machines-2.yaml
   ...

3. 추가 파티션을 구성하는 Butane 구성을 생성합니다. 예를 들어 $HOME/clusterconfig/98-var-partition.bu 파일의 이름을 지정하고, 디스크 장치 이름을 worker 시스템의 스토리지 장치 이름으로 변경하고 스토리지 크기를 적절하게 설정합니다. 이 예에서는 /var 디렉터리를 별도의 파티션에 배치합니다.

   variant: openshift
   version: 4.16.0
   metadata:
     labels:
       machineconfiguration.openshift.io/role: worker
     name: 98-var-partition
   storage:
     disks:
     - device: /dev/disk/by-id/<device_name> 1
       partitions:
       - label: var
         start_mib: <partition_start_offset> 2
         size_mib: <partition_size> 3
         number: 5
     filesystems:
       - device: /dev/disk/by-partlabel/var
         path: /var
         format: xfs
         mount_options: [defaults, prjquota] 4
         with_mount_unit: true

   1

   파티션을 설정해야하는 디스크 저장 장치 이름입니다.

   2

   데이터 파티션을 부트 디스크에 추가할 때 최소 25000 메비 바이트가 권장됩니다. 루트 파일 시스템은 지정된 오프셋까지 사용 가능한 모든 공간을 채우기 위해 자동으로 크기가 조정됩니다. 값이 지정되지 않거나 지정된 값이 권장 최소값보다 작으면 생성되는 루트 파일 시스템의 크기가 너무 작아지고 RHCOS를 나중에 다시 설치할 때 데이터 파티션의 첫 번째 부분을 덮어 쓸 수 있습니다.

   3

   데이터 파티션의 크기(MB)입니다.

   4

   컨테이너 스토리지에 사용되는 파일 시스템에 대해 prjquota 마운트 옵션을 활성화해야 합니다.

   참고

   별도의 /var 파티션을 만들 때 다른 인스턴스 유형에 동일한 장치 이름이 없는 경우 작업자 노드에 다른 인스턴스 유형을 사용할 수 없습니다.

4. Butane 구성에서 매니페스트를 생성하여 clusterconfig/openshift 디렉터리에 저장합니다. 예를 들어 다음 명령을 실행합니다.

   $ butane $HOME/clusterconfig/98-var-partition.bu -o $HOME/clusterconfig/openshift/98-var-partition.yaml

5. openshift-install을 다시 실행하여 manifest 및 openshift 하위 디렉터리의 파일 세트에서 Ignition 구성을 만듭니다.

   $ openshift-install create ignition-configs --dir $HOME/clusterconfig
   $ ls $HOME/clusterconfig/
   auth  bootstrap.ign  master.ign  metadata.json  worker.ign

프로세스

1. 부트스트랩 프로세스를 모니터링합니다.

   $ ./openshift-install --dir <installation_directory> wait-for bootstrap-complete \ 1
       --log-level=info 2

   1

   <installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.

   2

   다른 설치 세부 사항을 보려면 info 대신 warn, debug 또는 error를 지정합니다.

   출력 예

   INFO Waiting up to 30m0s for the Kubernetes API at https://api.test.example.com:6443...
   INFO API v1.29.4 up
   INFO Waiting up to 30m0s for bootstrapping to complete...
   INFO It is now safe to remove the bootstrap resources

   이 명령은 Kubernetes API 서버가 컨트롤 플레인 시스템에서 부트스트랩되었다는 신호를 보낼 때 성공합니다.

2. 부트스트랩 프로세스가 완료되면 로드 밸런서에서 부트스트랩 시스템을 제거합니다.

   중요

   이 시점에 로드 밸런서에서 부트스트랩 시스템을 제거해야 합니다. 부트스트랩 머신 자체를 제거하거나 다시 포맷할 수도 있습니다.

프로세스

1. kubeadmin 인증 정보를 내보냅니다.

   $ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1

   1

   <installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.

2. 내보낸 구성을 사용하여 oc 명령을 성공적으로 실행할 수 있는지 확인합니다.

   $ oc whoami

   출력 예

   system:admin

프로세스

1. 클러스터가 시스템을 인식하는지 확인합니다.

   $ oc get nodes

   출력 예

   NAME      STATUS    ROLES   AGE  VERSION
   master-0  Ready     master  63m  v1.29.4
   master-1  Ready     master  63m  v1.29.4
   master-2  Ready     master  64m  v1.29.4

   출력에 생성된 모든 시스템이 나열됩니다.

   참고

   이전 출력에는 일부 CSR이 승인될 때까지 컴퓨팅 노드(작업자 노드라고도 함)가 포함되지 않을 수 있습니다.

2. 보류 중인 CSR을 검토하고 클러스터에 추가한 각 시스템에 대해 Pending 또는 Approved 상태의 클라이언트 및 서버 요청이 표시되는지 확인합니다.

   $ oc get csr

   출력 예

   NAME        AGE     REQUESTOR                                                                   CONDITION
   csr-8b2br   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
   csr-8vnps   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
   ...

   예에서는 두 시스템이 클러스터에 참여하고 있습니다. 목록에는 승인된 CSR이 더 많이 나타날 수도 있습니다.

3. CSR이 승인되지 않은 경우, 추가된 시스템에 대한 모든 보류 중인 CSR이 Pending 상태로 전환된 후 클러스터 시스템의 CSR을 승인합니다.

   참고

   CSR은 교체 주기가 자동으로 만료되므로 클러스터에 시스템을 추가한 후 1시간 이내에 CSR을 승인하십시오. 한 시간 내에 승인하지 않으면 인증서가 교체되고 각 노드에 대해 두 개 이상의 인증서가 표시됩니다. 이러한 인증서를 모두 승인해야 합니다. 클라이언트 CSR이 승인되면 Kubelet은 인증서에 대한 보조 CSR을 생성하므로 수동 승인이 필요합니다. 그러면 Kubelet에서 동일한 매개변수를 사용하여 새 인증서를 요청하는 경우 인증서 갱신 요청은 machine-approver에 의해 자동으로 승인됩니다.

   참고

   베어 메탈 및 기타 사용자 프로비저닝 인프라와 같이 머신 API를 사용하도록 활성화되지 않는 플랫폼에서 실행되는 클러스터의 경우 CSR(Kubelet service Certificate Request)을 자동으로 승인하는 방법을 구현해야 합니다. 요청이 승인되지 않으면 API 서버가 kubelet에 연결될 때 서비스 인증서가 필요하므로 oc exec, oc rsh, oc logs 명령을 성공적으로 수행할 수 없습니다. Kubelet 엔드 포인트에 연결하는 모든 작업을 수행하려면 이 인증서 승인이 필요합니다. 이 방법은 새 CSR을 감시하고 CSR이 system:node 또는 system:admin 그룹의 node-bootstrapper 서비스 계정에 의해 제출되었는지 확인하고 노드의 ID를 확인합니다.

   • 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오.

     $ oc adm certificate approve <csr_name> 1

     1

     <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.

   • 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오.

     $ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs --no-run-if-empty oc adm certificate approve

     참고

     일부 Operator는 일부 CSR이 승인될 때까지 사용할 수 없습니다.

4. 이제 클라이언트 요청이 승인되었으므로 클러스터에 추가한 각 머신의 서버 요청을 검토해야 합니다.

   $ oc get csr

   출력 예

   NAME        AGE     REQUESTOR                                                                   CONDITION
   csr-bfd72   5m26s   system:node:ip-10-0-50-126.us-east-2.compute.internal                       Pending
   csr-c57lv   5m26s   system:node:ip-10-0-95-157.us-east-2.compute.internal                       Pending
   ...

5. 나머지 CSR이 승인되지 않고 Pending 상태인 경우 클러스터 머신의 CSR을 승인합니다.

   • 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오.

     $ oc adm certificate approve <csr_name> 1

     1

     <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.

   • 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오.

     $ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs oc adm certificate approve

6. 모든 클라이언트 및 서버 CSR이 승인된 후 머신은 Ready 상태가 됩니다. 다음 명령을 실행하여 확인합니다.

   $ oc get nodes

   출력 예

   NAME      STATUS    ROLES   AGE  VERSION
   master-0  Ready     master  73m  v1.29.4
   master-1  Ready     master  73m  v1.29.4
   master-2  Ready     master  74m  v1.29.4
   worker-0  Ready     worker  11m  v1.29.4
   worker-1  Ready     worker  11m  v1.29.4

   참고

   머신이 Ready 상태로 전환하는 데 서버 CSR의 승인 후 몇 분이 걸릴 수 있습니다.

프로세스

1. 다음 명령을 사용하여 모든 클러스터 구성 요소가 온라인 상태인지 확인합니다.

   $ watch -n5 oc get clusteroperators

   출력 예

   NAME                                       VERSION   AVAILABLE   PROGRESSING   DEGRADED   SINCE
   authentication                             4.16.0    True        False         False      19m
   baremetal                                  4.16.0    True        False         False      37m
   cloud-credential                           4.16.0    True        False         False      40m
   cluster-autoscaler                         4.16.0    True        False         False      37m
   config-operator                            4.16.0    True        False         False      38m
   console                                    4.16.0    True        False         False      26m
   csi-snapshot-controller                    4.16.0    True        False         False      37m
   dns                                        4.16.0    True        False         False      37m
   etcd                                       4.16.0    True        False         False      36m
   image-registry                             4.16.0    True        False         False      31m
   ingress                                    4.16.0    True        False         False      30m
   insights                                   4.16.0    True        False         False      31m
   kube-apiserver                             4.16.0    True        False         False      26m
   kube-controller-manager                    4.16.0    True        False         False      36m
   kube-scheduler                             4.16.0    True        False         False      36m
   kube-storage-version-migrator              4.16.0    True        False         False      37m
   machine-api                                4.16.0    True        False         False      29m
   machine-approver                           4.16.0    True        False         False      37m
   machine-config                             4.16.0    True        False         False      36m
   marketplace                                4.16.0    True        False         False      37m
   monitoring                                 4.16.0    True        False         False      29m
   network                                    4.16.0    True        False         False      38m
   node-tuning                                4.16.0    True        False         False      37m
   openshift-apiserver                        4.16.0    True        False         False      32m
   openshift-controller-manager               4.16.0    True        False         False      30m
   openshift-samples                          4.16.0    True        False         False      32m
   operator-lifecycle-manager                 4.16.0    True        False         False      37m
   operator-lifecycle-manager-catalog         4.16.0    True        False         False      37m
   operator-lifecycle-manager-packageserver   4.16.0    True        False         False      32m
   service-ca                                 4.16.0    True        False         False      38m
   storage                                    4.16.0    True        False         False      37m

   또는 다음 명령은 모든 클러스터를 사용할 수 있을 때 알립니다. 또한 인증 정보를 검색하고 표시합니다.

   $ ./openshift-install --dir <installation_directory> wait-for install-complete 1

   1

   <installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.

   출력 예

   INFO Waiting up to 30m0s for the cluster to initialize...

   Cluster Version Operator가 Kubernetes API 서버에서 OpenShift Container Platform 클러스터 배포를 완료하면 명령이 성공합니다.

   중요
   • 설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인 node-bootstrapper 인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오.
   • 24 시간 인증서는 클러스터를 설치한 후 16시간에서 22시간으로 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.

2. Kubernetes API 서버가 Pod와 통신하고 있는지 확인합니다.

   1. 모든 Pod 목록을 보려면 다음 명령을 사용하십시오.

      $ oc get pods --all-namespaces

      출력 예

      NAMESPACE                         NAME                                            READY   STATUS      RESTARTS   AGE
      openshift-apiserver-operator      openshift-apiserver-operator-85cb746d55-zqhs8   1/1     Running     1          9m
      openshift-apiserver               apiserver-67b9g                                 1/1     Running     0          3m
      openshift-apiserver               apiserver-ljcmx                                 1/1     Running     0          1m
      openshift-apiserver               apiserver-z25h4                                 1/1     Running     0          2m
      openshift-authentication-operator authentication-operator-69d5d8bf84-vh2n8        1/1     Running     0          5m
      ...

   2. 다음 명령을 사용하여 이전 명령의 출력에 나열된 Pod의 로그를 표시합니다.

      $ oc logs <pod_name> -n <namespace> 1

      1

      이전 명령의 출력에 표시된 대로 Pod 이름과 네임스페이스를 지정합니다.

      Pod 로그가 표시되면 Kubernetes API 서버는 클러스터 시스템과 통신할 수 있습니다.

3. FCP(Fibre Channel Protocol)를 사용하는 설치에는 다중 경로를 활성화하기 위해 추가 단계가 필요합니다. 설치 중에 멀티패스를 활성화하지 마십시오.

   자세한 내용은 설치 후 머신 구성 작업 설명서의 "RHCOS에서 커널 인수를 사용하여 멀티패스 활성화"를 참조하십시오.

프로세스

1. 다음 명령을 실행하여 기존 DRS 유사성 방지 규칙을 제거합니다.

   $ govc cluster.rule.remove \
     -name openshift4-control-plane-group \
     -dc MyDatacenter -cluster MyCluster

   출력 예

   [13-10-22 09:33:24] Reconfigure /MyDatacenter/host/MyCluster...OK

2. 다음 명령을 실행하여 업데이트된 이름으로 규칙을 다시 생성합니다.

   $ govc cluster.rule.create \
     -name openshift4-control-plane-group \
     -dc MyDatacenter -cluster MyOtherCluster \
     -enable \
     -anti-affinity master-0 master-1 master-2