IBM Z 및 IBM LinuxONE에 설치

프로세스

1. 고정 IP 주소를 설정합니다.
2. 클러스터 노드에 Ignition 파일을 제공하기 위해 HTTP 또는 HTTPS 서버를 설정합니다.
3. 네트워크 인프라가 클러스터 구성 요소 간 필수 네트워크 연결을 제공하는지 확인합니다. 요구 사항에 대한 자세한 내용은 사용자 프로비저닝 인프라 섹션의 네트워킹 요구 사항 섹션을 참조하십시오.

4. OpenShift Container Platform 클러스터 구성 요소가 통신하는 데 필요한 포트를 활성화하도록 방화벽을 구성합니다. 필요한 포트에 대한 자세한 내용은 사용자 프로비저닝 인프라 섹션의 네트워킹 요구 사항 섹션을 참조하십시오.

   중요

   각 컨트롤 플레인 노드에서 이 포트에 액세스해야 하므로 기본적으로 OpenShift Container Platform 클러스터에서 포트 1936 에 액세스할 수 있습니다.

   Ingress 컨트롤러와 관련된 통계 및 메트릭과 같은 민감한 정보가 노출될 수 있으므로 Ingress 로드 밸런서를 사용하여 이 포트를 노출하지 마십시오.

5. 클러스터에 필요한 DNS 인프라를 설정합니다.

   1. Kubernetes API, 애플리케이션 와일드카드, 부트스트랩 시스템, 컨트롤 플레인 시스템 및 컴퓨팅 시스템의 DNS 이름 확인을 구성합니다.

   2. Kubernetes API, 부트스트랩 시스템, 컨트롤 플레인 시스템 및 컴퓨팅 시스템에 대한 역방향 DNS 확인을 구성합니다.

      OpenShift Container Platform DNS 요구 사항에 대한 자세한 내용은 사용자 프로비저닝 DNS 요구 사항 섹션을 참조하십시오.

6. DNS 구성을 확인합니다.

   1. 설치 노드에서 Kubernetes API의 레코드 이름, 와일드카드 경로 및 클러스터 노드에 대해 DNS 조회를 실행합니다. 응답의 IP 주소가 올바른 구성 요소에 해당하는지 확인합니다.

   2. 설치 노드에서 로드 밸런서 및 클러스터 노드의 IP 주소에 대해 역방향 DNS 조회를 실행합니다. 응답의 레코드 이름이 올바른 구성 요소에 해당하는지 확인합니다.

      자세한 DNS 검증 단계는 사용자 프로비저닝 인프라에 대한 DNS 확인 섹션을 참조하십시오.

7. 필요한 API 및 애플리케이션 수신 로드 밸런싱 인프라를 프로비저닝합니다. 요구 사항에 대한 자세한 내용은 사용자 프로비저닝 인프라에 대한 로드 밸런싱 요구 사항 섹션을 참조하십시오.

프로세스

1. 설치 노드에서 Kubernetes API의 레코드 이름, 와일드카드 경로 및 클러스터 노드에 대해 DNS 조회를 실행합니다. 응답에 포함된 IP 주소가 올바른 구성 요소에 해당하는지 확인합니다.

   1. Kubernetes API 레코드 이름을 조회합니다. 결과가 API 로드 밸런서의 IP 주소를 가리키는지 확인합니다.

      $ dig +noall +answer @<nameserver_ip> api.<cluster_name>.<base_domain> 1

      1

      <nameserver_ip>를 네임서버의 IP 주소로, <cluster_name>을 클러스터 이름으로, <base_domain>을 기본 도메인 이름으로 바꿉니다.

      출력 예

      api.ocp4.example.com.		604800	IN	A	192.168.1.5

   2. Kubernetes 내부 API 레코드 이름을 조회합니다. 결과가 API 로드 밸런서의 IP 주소를 가리키는지 확인합니다.

      $ dig +noall +answer @<nameserver_ip> api-int.<cluster_name>.<base_domain>

      출력 예

      api-int.ocp4.example.com.		604800	IN	A	192.168.1.5

   3. 예제 *.apps.<cluster_name>.<base_domain>을 테스트합니다. DNS 와일드카드를 조회합니다. 모든 애플리케이션 와일드카드 조회는 애플리케이션 인그레스 로드 밸런서의 IP 주소로 확인되어야 합니다.

      $ dig +noall +answer @<nameserver_ip> random.apps.<cluster_name>.<base_domain>

      출력 예

      random.apps.ocp4.example.com.		604800	IN	A	192.168.1.5

      참고

      예제 출력에서는 Kubernetes API 및 애플리케이션 인그레스 트래픽에 동일한 로드 밸런서를 사용합니다. 프로덕션 시나리오에서는 각각에 대해 개별적으로 로드 밸런서 인프라를 확장할 수 있도록 API 및 애플리케이션 인그레스 로드 밸런서를 별도로 배포할 수 있습니다.

      random 항목을 다른 와일드카드 값으로 교체할 수 있습니다. 예를 들어 OpenShift Container Platform 콘솔의 경로를 쿼리할 수 있습니다.

      $ dig +noall +answer @<nameserver_ip> console-openshift-console.apps.<cluster_name>.<base_domain>

      출력 예

      console-openshift-console.apps.ocp4.example.com. 604800 IN	A 192.168.1.5

   4. 부트스트랩 DNS 레코드 이름에 대해 조회를 실행합니다. 결과가 부트스트랩 노드의 IP 주소를 가리키는지 확인합니다.

      $ dig +noall +answer @<nameserver_ip> bootstrap.<cluster_name>.<base_domain>

      출력 예

      bootstrap.ocp4.example.com.		604800	IN	A	192.168.1.96

   5. 이 방법을 사용하여 컨트롤 플레인 및 컴퓨팅 노드의 DNS 레코드 이름에 대해 조회를 수행합니다. 결과가 각 노드의 IP 주소에 해당하는지 확인합니다.

2. 설치 노드에서 로드 밸런서 및 클러스터 노드의 IP 주소에 대해 역방향 DNS 조회를 실행합니다. 응답에 포함된 레코드 이름이 올바른 구성 요소에 해당하는지 확인합니다.

   1. API 로드 밸런서의 IP 주소에 대해 역방향 조회를 수행합니다. 응답에 Kubernetes API 및 Kubernetes 내부 API의 레코드 이름이 포함되어 있는지 확인합니다.

      $ dig +noall +answer @<nameserver_ip> -x 192.168.1.5

      출력 예

      5.1.168.192.in-addr.arpa. 604800	IN	PTR	api-int.ocp4.example.com. 1
      5.1.168.192.in-addr.arpa. 604800	IN	PTR	api.ocp4.example.com. 2

      1

      Kubernetes 내부 API의 레코드 이름을 제공합니다.

      2

      Kubernetes API의 레코드 이름을 제공합니다.

      참고

      OpenShift Container Platform 애플리케이션 와일드카드에는 PTR 레코드가 필요하지 않습니다. 애플리케이션 인그레스 로드 밸런서의 IP 주소에 대한 역방향 DNS 확인에는 유효성 검사 단계가 필요하지 않습니다.

   2. 부트스트랩 노드의 IP 주소에 대해 역방향 조회를 수행합니다. 결과가 부트스트랩 노드의 DNS 레코드 이름을 가리키는지 확인합니다.

      $ dig +noall +answer @<nameserver_ip> -x 192.168.1.96

      출력 예

      96.1.168.192.in-addr.arpa. 604800	IN	PTR	bootstrap.ocp4.example.com.

   3. 이 방법을 사용하여 컨트롤 플레인 및 컴퓨팅 노드의 IP 주소에 대해 역방향 조회를 수행합니다. 결과가 각 노드의 DNS 레코드 이름과 일치하는지 확인합니다.

프로세스

1. 로컬 시스템에 클러스터 노드의 인증에 사용할 기존 SSH 키 쌍이 없는 경우 새로 생성합니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.

   $ ssh-keygen -t ed25519 -N '' -f <path>/<file_name> 1

   1

   새 SSH 키의 경로 및 파일 이름(예: ~/.ssh/id_ed25519 )을 지정합니다. 기존 키 쌍이 있는 경우 공개 키가 '~/.ssh 디렉터리에 있는지 확인하십시오.

   참고

   x86_64,ppc64le, s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용하는 OpenShift Container Platform 클러스터를 설치하려면 ed25519 알고리즘을 사용하는 키를 생성하지 마십시오. 대신 rsa 또는 ecdsa 알고리즘을 사용하는 키를 생성합니다.

2. 공개 SSH 키를 확인합니다.

   $ cat <path>/<file_name>.pub

   예를 들어 다음을 실행하여 ~/.ssh/id_ed25519.pub 공개 키를 확인합니다.

   $ cat ~/.ssh/id_ed25519.pub

3. 아직 추가되지 않은 경우 로컬 사용자의 SSH 에이전트에 SSH 개인 키 ID를 추가합니다. 키의 SSH 에이전트 관리는 클러스터 노드에 암호 없는 SSH 인증을 수행하거나 ./openshift-install gather 명령을 사용하려는 경우 필요합니다.

   참고

   일부 배포에서는 ~/.ssh/id_rsa 및 ~/.ssh/id_dsa와 같은 기본 SSH 개인 키 ID가 자동으로 관리됩니다.

   1. ssh-agent 프로세스가 로컬 사용자에 대해 실행되지 않은 경우 백그라운드 작업으로 시작합니다.

      $ eval "$(ssh-agent -s)"

      출력 예

      Agent pid 31874

      참고

      클러스터가 FIPS 모드인 경우 FIPS 호환 알고리즘만 사용하여 SSH 키를 생성합니다. 키는 RSA 또는 ECDSA여야 합니다.

4. ssh-agent에 SSH 개인 키를 추가합니다.

   $ ssh-add <path>/<file_name> 1

   1

   SSH 개인 키의 경로와 파일 이름을 지정합니다(예: ~/.ssh/id_ed25519).

   출력 예

   Identity added: /home/<you>/<path>/<file_name> (<computer_name>)

프로세스

1. Red Hat Hybrid Cloud Console의 Cluster Type 페이지로 이동합니다. Red Hat 계정이 있는 경우 인증 정보를 사용하여 로그인합니다. 계정이 없으면 계정을 만드십시오.

   작은 정보

   특정 OpenShift Container Platform 릴리스의 바이너리를 다운로드할 수도 있습니다.

2. 페이지의 자체 실행 섹션에서 인프라 공급자를 선택합니다.
3. OpenShift 설치 관리자의 드롭다운 메뉴에서 호스트 운영 체제 및 아키텍처를 선택하고 설치 프로그램 다운로드를 클릭합니다.

4. 다운로드한 파일을 설치 구성 파일을 저장할 디렉터리에 배치합니다.

   중요
   • 설치 프로그램은 클러스터를 설치하는 데 사용하는 컴퓨터에 여러 파일을 만듭니다. 클러스터 설치를 마친 후 설치 프로그램과 설치 프로그램으로 생성되는 파일을 보관해야 합니다. 클러스터를 삭제하려면 두 파일이 모두 필요합니다.
   • 클러스터 설치에 실패하거나 설치 프로그램으로 만든 파일을 삭제해도 클러스터는 제거되지 않습니다. 클러스터를 제거하려면 해당 클라우드 공급자에 적용되는 OpenShift Container Platform 설치 제거 절차를 완료해야 합니다.

5. 설치 프로그램 파일의 압축을 풉니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.

   $ tar -xvf openshift-install-linux.tar.gz

6. Red Hat OpenShift Cluster Manager에서 설치 풀 시크릿을 다운로드합니다. 이 풀 시크릿을 사용하면 OpenShift Container Platform 구성 요소에 대한 컨테이너 이미지를 제공하는 Quay.io를 포함하여 인증 기관에서 제공하는 서비스로 인증할 수 있습니다.

프로세스

1. Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
2. 제품 변형 드롭다운 목록에서 아키텍처를 선택합니다.
3. 버전 드롭다운 목록에서 적절한 버전을 선택합니다.
4. OpenShift v4.15 Linux Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.

5. 아카이브의 압축을 풉니다.

   $ tar xvf <file>

6. oc 바이너리를 PATH에 있는 디렉터리에 배치합니다.

   PATH를 확인하려면 다음 명령을 실행합니다.

   $ echo $PATH

프로세스

1. Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
2. 버전 드롭다운 목록에서 적절한 버전을 선택합니다.
3. OpenShift v4.15 Windows Client 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
4. ZIP 프로그램으로 아카이브의 압축을 풉니다.

5. oc 바이너리를 PATH에 있는 디렉터리로 이동합니다.

   PATH를 확인하려면 명령 프롬프트를 열고 다음 명령을 실행합니다.

   C:\> path

프로세스

1. Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
2. 버전 드롭다운 목록에서 적절한 버전을 선택합니다.

3. OpenShift v4.15 macOS Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.

   참고

   macOS arm64의 경우 OpenShift v4.15 macOS arm64 Client 항목을 선택합니다.

4. 아카이브의 압축을 해제하고 압축을 풉니다.

5. oc 바이너리 PATH의 디렉터리로 이동합니다.

   PATH를 확인하려면 터미널을 열고 다음 명령을 실행합니다.

   $ echo $PATH

프로세스

1. 필요한 설치 자산을 저장할 설치 디렉터리를 만듭니다.

   $ mkdir <installation_directory>

   중요

   디렉터리를 만들어야 합니다. 부트스트랩 X.509 인증서와 같은 일부 설치 자산은 단기간에 만료되므로 설치 디렉터리를 재사용해서는 안 됩니다. 다른 클러스터 설치의 개별 파일을 재사용하려면 해당 파일을 사용자 디렉터리에 복사하면 됩니다. 그러나 설치 자산의 파일 이름은 릴리스간에 변경될 수 있습니다. 따라서 이전 OpenShift Container Platform 버전에서 설치 파일을 복사할 때는 주의하십시오.

2. 샘플 install-config.yaml 파일 템플릿을 사용자 지정하여 <installation_directory>에 저장합니다.

   참고

   이 설정 파일의 이름을 install-config.yaml로 지정해야 합니다.

3. 여러 클러스터를 설치하는 데 사용할 수 있도록 install-config.yaml 파일을 백업합니다.

   중요

   install-config.yaml 파일은 설치 과정의 다음 단계에서 사용됩니다. 이 시점에서 이를 백업해야 합니다.

프로세스

1. OpenShift Container Platform 설치 프로그램이 포함된 디렉터리로 변경하고 클러스터에 대한 Kubernetes 매니페스트를 생성합니다.

   $ ./openshift-install create manifests --dir <installation_directory> 1

   1

   <installation_directory>는 사용자가 만든 install-config.yaml 파일이 포함된 설치 디렉터리를 지정합니다.

   주의

   3 노드 클러스터를 실행 중이면 다음 단계를 건너 뛰어 컨트롤 플레인 노드 일정을 계획할 수 있도록 하십시오.

   중요

   기본 예약 불가에서 예약 가능으로 컨트롤 플레인 노드를 구성하면 추가 서브스크립션이 필요합니다. 이는 컨트롤 플레인 노드가 컴퓨팅 노드가 되기 때문입니다.

2. <installation_directory>/manifests/cluster-scheduler-02-config.yml Kubernetes 매니페스트 파일의 mastersSchedulable 매개변수가 false로 설정되어 있는지 확인합니다. 이 설정으로 인해 컨트롤 플레인 머신에서 포드가 예약되지 않습니다.

   1. <installation_directory>/manifests/cluster-scheduler-02-config.yml 파일을 엽니다.
   2. mastersSchedulable 매개변수를 찾아서 값을 False로 설정되어 있는지 확인합니다.
   3. 파일을 저장하고 종료합니다.

3. Ignition 구성 파일을 생성하려면 설치 프로그램이 포함된 디렉터리에서 다음 명령을 실행합니다.

   $ ./openshift-install create ignition-configs --dir <installation_directory> 1

   1

   <installation_directory>는 동일한 설치 디렉터리를 지정합니다.

   설치 디렉터리의 부트스트랩, 컨트롤 플레인 및 컴퓨팅 노드에 대한 Ignition 구성 파일이 생성됩니다. kubeadmin-password 및 kubeconfig 파일은 ./<installation_directory>/auth 디렉터리에 생성됩니다.

   .
   ├── auth
   │   ├── kubeadmin-password
   │   └── kubeconfig
   ├── bootstrap.ign
   ├── master.ign
   ├── metadata.json
   └── worker.ign

프로세스

1. 컨트롤 플레인 및 컴퓨팅 노드에 대한 Butane 구성 파일을 생성합니다.

   컨트롤 플레인 노드에 대한 Butane 구성의 다음 예제에서는 디스크 암호화를 위해 master-storage.bu 라는 파일을 생성합니다.

   variant: openshift
   version: 4.15.0
   metadata:
     name: master-storage
     labels:
       machineconfiguration.openshift.io/role: master
   storage:
     luks:
       - clevis:
           tang:
             - thumbprint: QcPr_NHFJammnRCA3fFMVdNBwjs
               url: http://clevis.example.com:7500
           options: 1
              - --cipher
              - aes-cbc-essiv:sha256
         device: /dev/disk/by-partlabel/root 2
         label: luks-root
         name: root
         wipe_volume: true
     filesystems:
       - device: /dev/mapper/root
         format: xfs
         label: root
         wipe_filesystem: true
   openshift:
     fips: true 3

   1

   암호화 옵션은 FIPS 모드가 활성화된 경우에만 필요합니다. FIPS가 비활성화된 경우 항목을 생략합니다.

   2

   DASD 유형 디스크에 설치하려면 device: /dev/disk/by-label/root 로 바꿉니다.

   3

   FIPS 모드 활성화 또는 비활성화 여부입니다. 기본적으로 FIPS 모드는 비활성화됩니다. FIPS 모드가 활성화되면 OpenShift Container Platform이 실행되는 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템에서 기본 Kubernetes 암호화 제품군은 우회하고 RHCOS와 함께 제공되는 암호화 모듈을 대신 사용합니다.

2. 다음 명령을 실행하여 사용자 지정 initramfs 파일을 생성하여 시스템을 부팅합니다.

   $ coreos-installer pxe customize \
       /root/rhcos-bootfiles/rhcos-<release>-live-initramfs.s390x.img \
       --dest-device /dev/disk/by-id/scsi-<serial_number> --dest-karg-append \
       ip=<ip_address>::<gateway_ip>:<subnet_mask>::<network_device>:none \
       --dest-karg-append nameserver=<nameserver_ip> \
       --dest-karg-append rd.neednet=1 -o \
       /root/rhcos-bootfiles/<node_name>-initramfs.s390x.img

   참고

   처음 부팅하기 전에 클러스터의 각 노드에 대해 initramfs를 사용자 지정하고 PXE 커널 매개 변수를 추가해야 합니다.

3. ignition.platform.id=metal 및 ignition.firstboot 가 포함된 매개변수 파일을 생성합니다.

   컨트롤 플레인 시스템의 커널 매개변수 파일의 예:

   rd.neednet=1 \
   console=ttysclp0 \
   coreos.inst.install_dev=/dev/dasda \1
   ignition.firstboot ignition.platform.id=metal \
   coreos.live.rootfs_url=http://<http_server>/rhcos-<version>-live-rootfs.<architecture>.img \2
   coreos.inst.ignition_url=http://<http_server>/master.ign \3
   ip=10.19.17.2::10.19.17.1:255.255.255.0::enbdd0:none nameserver=10.19.17.1 \
   zfcp.allow_lun_scan=0 \4
   rd.znet=qeth,0.0.bdd0,0.0.bdd1,0.0.bdd2,layer2=1 \
   rd.zfcp=0.0.5677,0x600606680g7f0056,0x034F000000000000 \5

   1

   DASD 유형 디스크에 설치하려면 coreos.inst.install_dev=/dev/dasda 를 추가합니다. FCP 유형 디스크에 대해 이 값을 생략합니다.

   2

   부팅하려는 커널 및 initramfs 의 rootfs 아티팩트 위치를 지정합니다. HTTP 및 HTTPS 프로토콜만 지원됩니다.

   3

   Ignition 구성 파일의 위치를 지정합니다. master.ign 또는 worker.ign 을 사용합니다. HTTP 및 HTTPS 프로토콜만 지원됩니다.

   4

   FCP 유형 디스크에 설치하려면 zfcp.allow_lun_scan=0 을 추가합니다. DASD 유형 디스크에 이 값을 생략합니다.

   5

   DASD 유형 디스크에 설치하는 경우 DASD 장치를 지정하려면 DASD 장치를 rd.dasd=0.0.3490 으로 바꿉니다.

   참고

   매개 변수 파일의 모든 옵션을 한 줄로 작성하고 줄 바꿈 문자가 없는지 확인합니다.

프로세스

1. 프로비저닝 머신에서 Linux에 로그인합니다.

2. RHCOS 이미지 미러 에서 RHCOS(Red Hat Enterprise Linux CoreOS) 커널, initramfs 및 rootfs 파일을 가져옵니다.

   중요

   RHCOS 이미지는 OpenShift Container Platform 릴리스에 따라 변경되지 않을 수 있습니다. 설치하는 OpenShift Container Platform 버전과 같거나 그 이하의 버전 중 가장 최신 버전의 이미지를 다운로드해야 합니다. 이 프로세스에는 아래 설명된 적절한 kernel, initramfs 및 rootfs 아티팩트만 사용하십시오.

   OpenShift Container Platform 버전 번호가 파일 이름에 포함됩니다. 다음 예와 유사합니다.

   • kernel: rhcos-<version>-live-kernel-<architecture>
   • initramfs: rhcos-<version>-live-initramfs.<architecture>.img

   • rootfs: rhcos-<version>-live-rootfs.<architecture>.img

     참고

     rootfs 이미지는 FCP 및 DASD에 대해 동일합니다.

3. 매개 변수 파일을 생성합니다. 다음 매개 변수는 특정 가상 머신에 지정해야 합니다.

   • ip=에 다음 7 개의 항목을 지정하십시오.

     1. 컴퓨터의 IP 주소
     2. 빈 문자열
     3. 게이트웨이
     4. 넷 마스크
     5. hostname.domainname 형식의 시스템 호스트 및 도메인 이름. RHCOS가 설정하도록 하려면 이 값을 생략하십시오.
     6. 네트워크 인터페이스 이름. RHCOS가 설정하도록 하려면 이 값을 생략하십시오.
     7. 고정 IP 주소를 사용하는 경우 none을 지정합니다.
   • coreos.inst.ignition_url=의 경우 시스템 역할의 Ignition 파일을 지정합니다. bootstrap.ign, master.ign 또는 worker.ign을 사용하십시오. HTTP 및 HTTPS 프로토콜만 지원됩니다.
   • coreos.live.rootfs_url=의 경우 부팅 중인 커널 및 initramfs와 일치하는 rootfs 아티팩트를 지정합니다. HTTP 및 HTTPS 프로토콜만 지원됩니다.

   • DASD 유형 디스크에 설치하려면 다음 작업을 완료합니다.

     1. coreos.inst.install_dev= 의 경우 /dev/dasda 를 지정합니다.
     2. rd.dasd=의 경우 RHCOS를 설치할 DASD를 지정합니다.

     3. 변경되지 않은 다른 모든 매개변수는 그대로 두십시오.

        부트스트랩 시스템의 매개 변수 파일 예 bootstrap-0.parm

        rd.neednet=1 \
        console=ttysclp0 \
        coreos.inst.install_dev=/dev/dasda \
        coreos.live.rootfs_url=http://cl1.provide.example.com:8080/assets/rhcos-live-rootfs.s390x.img \
        coreos.inst.ignition_url=http://cl1.provide.example.com:8080/ignition/bootstrap.ign \
        ip=172.18.78.2::172.18.78.1:255.255.255.0:::none nameserver=172.18.78.1 \
        rd.znet=qeth,0.0.bdf0,0.0.bdf1,0.0.bdf2,layer2=1,portno=0 \
        zfcp.allow_lun_scan=0 \
        rd.dasd=0.0.3490

        매개 변수 파일의 모든 옵션을 한 줄로 작성하고 줄 바꿈 문자가 없는지 확인합니다.

   • FCP 유형 디스크에 설치하려면 다음 작업을 완료합니다.

     1. RHCOS를 설치할 FCP 디스크를 지정하려면 rd.zfcp=<adapter>,<wwpn>,<lun>을 사용합니다. 멀티패스의 경우 추가 경로마다 이 단계를 반복합니다.

        참고

        여러 경로를 사용하여 설치할 때 나중에 문제가 발생할 수 있으므로 설치 후에 직접 멀티패스를 활성화해야 합니다.

     2. 설치 장치를 coreos.inst.install_dev=/dev/disk/by-id/scsi-<serial_number> 로 설정합니다.

        참고

        NPIV로 추가 LUN을 구성하는 경우 FCP에는 zfcp.allow_lun_scan=0이 필요합니다. 예를 들어 CSI 드라이버를 사용하므로 zfcp.allow_lun_scan=1 을 활성화해야 하는 경우, 각 노드가 다른 노드의 부팅 파티션에 액세스할 수 없도록 NPIV를 구성해야 합니다.

     3. 변경되지 않은 다른 모든 매개변수는 그대로 두십시오.

        중요

        멀티패스를 완전히 활성화하려면 추가 설치 후 단계가 필요합니다. 자세한 내용은 설치 후 머신 구성 작업 의 "RHCOS에서 커널 인수를 사용하여 멀티패스 활성화"를 참조하십시오.

        다음은 다중 경로가 있는 작업자 노드의 예제 매개변수 파일 worker-1.parm입니다.

        rd.neednet=1 \
        console=ttysclp0 \
        coreos.inst.install_dev=/dev/disk/by-id/scsi-<serial_number> \
        coreos.live.rootfs_url=http://cl1.provide.example.com:8080/assets/rhcos-live-rootfs.s390x.img \
        coreos.inst.ignition_url=http://cl1.provide.example.com:8080/ignition/worker.ign \
        ip=172.18.78.2::172.18.78.1:255.255.255.0:::none nameserver=172.18.78.1 \
        rd.znet=qeth,0.0.bdf0,0.0.bdf1,0.0.bdf2,layer2=1,portno=0 \
        zfcp.allow_lun_scan=0 \
        rd.zfcp=0.0.1987,0x50050763070bc5e3,0x4008400B00000000 \
        rd.zfcp=0.0.19C7,0x50050763070bc5e3,0x4008400B00000000 \
        rd.zfcp=0.0.1987,0x50050763071bc5e3,0x4008400B00000000 \
        rd.zfcp=0.0.19C7,0x50050763071bc5e3,0x4008400B00000000

        매개 변수 파일의 모든 옵션을 한 줄로 작성하고 줄 바꿈 문자가 없는지 확인합니다.

4. initramfs, 커널, 매개 변수 파일 및 RHCOS 이미지를 z/VM에 전송합니다 (예: FTP 사용). FTP를 사용하여 파일을 전송하고 가상 리더에서 부팅하는 방법에 대한 자세한 내용은 Z/VM에서 설치를 참조하십시오.

5. 부트스트랩 노드가 될 z/VM 게스트 가상 머신의 가상 리더에 파일 punch를 실행합니다.

   IBM 문서의 PUNCH 를 참조하십시오.

   작은 정보

   CP PUNCH 명령을 사용하거나 Linux를 사용하는 경우 vmur 명령을 사용하여 두 개의 z/VM 게스트 가상 머신간에 파일을 전송할 수 있습니다.

6. 부트스트랩 시스템에서 CMS에 로그인합니다.

7. 리더에서 부트스트랩 머신에 대해 IPL을 수행합니다.

   $ ipl c

   IBM 문서의 IPL 을 참조하십시오.

8. 클러스터의 다른 컴퓨터에 대해 이 프로세스를 반복합니다.

프로세스

1. 부트스트랩 프로세스를 모니터링합니다.

   $ ./openshift-install --dir <installation_directory> wait-for bootstrap-complete \ 1
       --log-level=info 2

   1

   <installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.

   2

   다른 설치 세부 사항을 보려면 info 대신 warn, debug 또는 error를 지정합니다.

   출력 예

   INFO Waiting up to 30m0s for the Kubernetes API at https://api.test.example.com:6443...
   INFO API v1.28.5 up
   INFO Waiting up to 30m0s for bootstrapping to complete...
   INFO It is now safe to remove the bootstrap resources

   이 명령은 Kubernetes API 서버가 컨트롤 플레인 시스템에서 부트스트랩되었다는 신호를 보낼 때 성공합니다.

2. 부트스트랩 프로세스가 완료되면 로드 밸런서에서 부트스트랩 시스템을 제거합니다.

   중요

   이 시점에 로드 밸런서에서 부트스트랩 시스템을 제거해야 합니다. 부트스트랩 머신 자체를 제거하거나 다시 포맷할 수도 있습니다.

프로세스

1. kubeadmin 인증 정보를 내보냅니다.

   $ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1

   1

   <installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.

2. 내보낸 구성을 사용하여 oc 명령을 성공적으로 실행할 수 있는지 확인합니다.

   $ oc whoami

   출력 예

   system:admin

프로세스

1. 클러스터가 시스템을 인식하는지 확인합니다.

   $ oc get nodes

   출력 예

   NAME      STATUS    ROLES   AGE  VERSION
   master-0  Ready     master  63m  v1.28.5
   master-1  Ready     master  63m  v1.28.5
   master-2  Ready     master  64m  v1.28.5

   출력에 생성된 모든 시스템이 나열됩니다.

   참고

   이전 출력에는 일부 CSR이 승인될 때까지 컴퓨팅 노드(작업자 노드라고도 함)가 포함되지 않을 수 있습니다.

2. 보류 중인 CSR을 검토하고 클러스터에 추가한 각 시스템에 대해 Pending 또는 Approved 상태의 클라이언트 및 서버 요청이 표시되는지 확인합니다.

   $ oc get csr

   출력 예

   NAME        AGE   REQUESTOR                                   CONDITION
   csr-mddf5   20m   system:node:master-01.example.com   Approved,Issued
   csr-z5rln   16m   system:node:worker-21.example.com   Approved,Issued

3. CSR이 승인되지 않은 경우, 추가된 시스템에 대한 모든 보류 중인 CSR이 Pending 상태로 전환된 후 클러스터 시스템의 CSR을 승인합니다.

   참고

   CSR은 교체 주기가 자동으로 만료되므로 클러스터에 시스템을 추가한 후 1시간 이내에 CSR을 승인하십시오. 한 시간 내에 승인하지 않으면 인증서가 교체되고 각 노드에 대해 두 개 이상의 인증서가 표시됩니다. 이러한 인증서를 모두 승인해야 합니다. 클라이언트 CSR이 승인되면 Kubelet은 인증서에 대한 보조 CSR을 생성하므로 수동 승인이 필요합니다. 그러면 Kubelet에서 동일한 매개변수를 사용하여 새 인증서를 요청하는 경우 인증서 갱신 요청은 machine-approver에 의해 자동으로 승인됩니다.

   참고

   베어 메탈 및 기타 사용자 프로비저닝 인프라와 같이 머신 API를 사용하도록 활성화되지 않는 플랫폼에서 실행되는 클러스터의 경우 CSR(Kubelet service Certificate Request)을 자동으로 승인하는 방법을 구현해야 합니다. 요청이 승인되지 않으면 API 서버가 kubelet에 연결될 때 서비스 인증서가 필요하므로 oc exec, oc rsh, oc logs 명령을 성공적으로 수행할 수 없습니다. Kubelet 엔드 포인트에 연결하는 모든 작업을 수행하려면 이 인증서 승인이 필요합니다. 이 방법은 새 CSR을 감시하고 CSR이 system:node 또는 system:admin 그룹의 node-bootstrapper 서비스 계정에 의해 제출되었는지 확인하고 노드의 ID를 확인합니다.

   • 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오.

     $ oc adm certificate approve <csr_name> 1

     1

     <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.

   • 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오.

     $ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs --no-run-if-empty oc adm certificate approve

     참고

     일부 Operator는 일부 CSR이 승인될 때까지 사용할 수 없습니다.

4. 이제 클라이언트 요청이 승인되었으므로 클러스터에 추가한 각 머신의 서버 요청을 검토해야 합니다.

   $ oc get csr

   출력 예

   NAME        AGE     REQUESTOR                                                                   CONDITION
   csr-bfd72   5m26s   system:node:ip-10-0-50-126.us-east-2.compute.internal                       Pending
   csr-c57lv   5m26s   system:node:ip-10-0-95-157.us-east-2.compute.internal                       Pending
   ...

5. 나머지 CSR이 승인되지 않고 Pending 상태인 경우 클러스터 머신의 CSR을 승인합니다.

   • 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오.

     $ oc adm certificate approve <csr_name> 1

     1

     <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.

   • 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오.

     $ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs oc adm certificate approve

6. 모든 클라이언트 및 서버 CSR이 승인된 후 머신은 Ready 상태가 됩니다. 다음 명령을 실행하여 확인합니다.

   $ oc get nodes

   출력 예

   NAME      STATUS    ROLES   AGE  VERSION
   master-0  Ready     master  73m  v1.28.5
   master-1  Ready     master  73m  v1.28.5
   master-2  Ready     master  74m  v1.28.5
   worker-0  Ready     worker  11m  v1.28.5
   worker-1  Ready     worker  11m  v1.28.5

   참고

   머신이 Ready 상태로 전환하는 데 서버 CSR의 승인 후 몇 분이 걸릴 수 있습니다.

프로세스

1. 클러스터 구성 요소가 온라인 상태인지 확인합니다.

   $ watch -n5 oc get clusteroperators

   출력 예

   NAME                                       VERSION   AVAILABLE   PROGRESSING   DEGRADED   SINCE
   authentication                             4.15.0    True        False         False      19m
   baremetal                                  4.15.0    True        False         False      37m
   cloud-credential                           4.15.0    True        False         False      40m
   cluster-autoscaler                         4.15.0    True        False         False      37m
   config-operator                            4.15.0    True        False         False      38m
   console                                    4.15.0    True        False         False      26m
   csi-snapshot-controller                    4.15.0    True        False         False      37m
   dns                                        4.15.0    True        False         False      37m
   etcd                                       4.15.0    True        False         False      36m
   image-registry                             4.15.0    True        False         False      31m
   ingress                                    4.15.0    True        False         False      30m
   insights                                   4.15.0    True        False         False      31m
   kube-apiserver                             4.15.0    True        False         False      26m
   kube-controller-manager                    4.15.0    True        False         False      36m
   kube-scheduler                             4.15.0    True        False         False      36m
   kube-storage-version-migrator              4.15.0    True        False         False      37m
   machine-api                                4.15.0    True        False         False      29m
   machine-approver                           4.15.0    True        False         False      37m
   machine-config                             4.15.0    True        False         False      36m
   marketplace                                4.15.0    True        False         False      37m
   monitoring                                 4.15.0    True        False         False      29m
   network                                    4.15.0    True        False         False      38m
   node-tuning                                4.15.0    True        False         False      37m
   openshift-apiserver                        4.15.0    True        False         False      32m
   openshift-controller-manager               4.15.0    True        False         False      30m
   openshift-samples                          4.15.0    True        False         False      32m
   operator-lifecycle-manager                 4.15.0    True        False         False      37m
   operator-lifecycle-manager-catalog         4.15.0    True        False         False      37m
   operator-lifecycle-manager-packageserver   4.15.0    True        False         False      32m
   service-ca                                 4.15.0    True        False         False      38m
   storage                                    4.15.0    True        False         False      37m

2. 사용할 수 없는 Operator를 구성합니다.

프로세스

1. 다음 명령을 사용하여 모든 클러스터 구성 요소가 온라인 상태인지 확인합니다.

   $ watch -n5 oc get clusteroperators

   출력 예

   NAME                                       VERSION   AVAILABLE   PROGRESSING   DEGRADED   SINCE
   authentication                             4.15.0    True        False         False      19m
   baremetal                                  4.15.0    True        False         False      37m
   cloud-credential                           4.15.0    True        False         False      40m
   cluster-autoscaler                         4.15.0    True        False         False      37m
   config-operator                            4.15.0    True        False         False      38m
   console                                    4.15.0    True        False         False      26m
   csi-snapshot-controller                    4.15.0    True        False         False      37m
   dns                                        4.15.0    True        False         False      37m
   etcd                                       4.15.0    True        False         False      36m
   image-registry                             4.15.0    True        False         False      31m
   ingress                                    4.15.0    True        False         False      30m
   insights                                   4.15.0    True        False         False      31m
   kube-apiserver                             4.15.0    True        False         False      26m
   kube-controller-manager                    4.15.0    True        False         False      36m
   kube-scheduler                             4.15.0    True        False         False      36m
   kube-storage-version-migrator              4.15.0    True        False         False      37m
   machine-api                                4.15.0    True        False         False      29m
   machine-approver                           4.15.0    True        False         False      37m
   machine-config                             4.15.0    True        False         False      36m
   marketplace                                4.15.0    True        False         False      37m
   monitoring                                 4.15.0    True        False         False      29m
   network                                    4.15.0    True        False         False      38m
   node-tuning                                4.15.0    True        False         False      37m
   openshift-apiserver                        4.15.0    True        False         False      32m
   openshift-controller-manager               4.15.0    True        False         False      30m
   openshift-samples                          4.15.0    True        False         False      32m
   operator-lifecycle-manager                 4.15.0    True        False         False      37m
   operator-lifecycle-manager-catalog         4.15.0    True        False         False      37m
   operator-lifecycle-manager-packageserver   4.15.0    True        False         False      32m
   service-ca                                 4.15.0    True        False         False      38m
   storage                                    4.15.0    True        False         False      37m

   또는 다음 명령은 모든 클러스터를 사용할 수 있을 때 알립니다. 또한 인증 정보를 검색하고 표시합니다.

   $ ./openshift-install --dir <installation_directory> wait-for install-complete 1

   1

   <installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.

   출력 예

   INFO Waiting up to 30m0s for the cluster to initialize...

   Cluster Version Operator가 Kubernetes API 서버에서 OpenShift Container Platform 클러스터 배포를 완료하면 명령이 성공합니다.

   중요
   • 설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인 node-bootstrapper 인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오.
   • 24 시간 인증서는 클러스터를 설치한 후 16시간에서 22시간으로 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.

2. Kubernetes API 서버가 Pod와 통신하고 있는지 확인합니다.

   1. 모든 Pod 목록을 보려면 다음 명령을 사용하십시오.

      $ oc get pods --all-namespaces

      출력 예

      NAMESPACE                         NAME                                            READY   STATUS      RESTARTS   AGE
      openshift-apiserver-operator      openshift-apiserver-operator-85cb746d55-zqhs8   1/1     Running     1          9m
      openshift-apiserver               apiserver-67b9g                                 1/1     Running     0          3m
      openshift-apiserver               apiserver-ljcmx                                 1/1     Running     0          1m
      openshift-apiserver               apiserver-z25h4                                 1/1     Running     0          2m
      openshift-authentication-operator authentication-operator-69d5d8bf84-vh2n8        1/1     Running     0          5m
      ...

   2. 다음 명령을 사용하여 이전 명령의 출력에 나열된 Pod의 로그를 표시합니다.

      $ oc logs <pod_name> -n <namespace> 1

      1

      이전 명령의 출력에 표시된 대로 Pod 이름과 네임스페이스를 지정합니다.

      Pod 로그가 표시되면 Kubernetes API 서버는 클러스터 시스템과 통신할 수 있습니다.

3. FCP(Fibre Channel Protocol)를 사용하는 설치에는 다중 경로를 활성화하기 위해 추가 단계가 필요합니다. 설치 중에 멀티패스를 활성화하지 마십시오.

   자세한 내용은 설치 후 머신 구성 작업 설명서의 "RHCOS에서 커널 인수를 사용하여 멀티패스 활성화"를 참조하십시오.

프로세스

1. 고정 IP 주소를 설정합니다.
2. 클러스터 노드에 Ignition 파일을 제공하기 위해 HTTP 또는 HTTPS 서버를 설정합니다.
3. 네트워크 인프라가 클러스터 구성 요소 간 필수 네트워크 연결을 제공하는지 확인합니다. 요구 사항에 대한 자세한 내용은 사용자 프로비저닝 인프라 섹션의 네트워킹 요구 사항 섹션을 참조하십시오.

4. OpenShift Container Platform 클러스터 구성 요소가 통신하는 데 필요한 포트를 활성화하도록 방화벽을 구성합니다. 필요한 포트에 대한 자세한 내용은 사용자 프로비저닝 인프라 섹션의 네트워킹 요구 사항 섹션을 참조하십시오.

   중요

   각 컨트롤 플레인 노드에서 이 포트에 액세스해야 하므로 기본적으로 OpenShift Container Platform 클러스터에서 포트 1936 에 액세스할 수 있습니다.

   Ingress 컨트롤러와 관련된 통계 및 메트릭과 같은 민감한 정보가 노출될 수 있으므로 Ingress 로드 밸런서를 사용하여 이 포트를 노출하지 마십시오.

5. 클러스터에 필요한 DNS 인프라를 설정합니다.

   1. Kubernetes API, 애플리케이션 와일드카드, 부트스트랩 시스템, 컨트롤 플레인 시스템 및 컴퓨팅 시스템의 DNS 이름 확인을 구성합니다.

   2. Kubernetes API, 부트스트랩 시스템, 컨트롤 플레인 시스템 및 컴퓨팅 시스템에 대한 역방향 DNS 확인을 구성합니다.

      OpenShift Container Platform DNS 요구 사항에 대한 자세한 내용은 사용자 프로비저닝 DNS 요구 사항 섹션을 참조하십시오.

6. DNS 구성을 확인합니다.

   1. 설치 노드에서 Kubernetes API의 레코드 이름, 와일드카드 경로 및 클러스터 노드에 대해 DNS 조회를 실행합니다. 응답의 IP 주소가 올바른 구성 요소에 해당하는지 확인합니다.

   2. 설치 노드에서 로드 밸런서 및 클러스터 노드의 IP 주소에 대해 역방향 DNS 조회를 실행합니다. 응답의 레코드 이름이 올바른 구성 요소에 해당하는지 확인합니다.

      자세한 DNS 검증 단계는 사용자 프로비저닝 인프라에 대한 DNS 확인 섹션을 참조하십시오.

7. 필요한 API 및 애플리케이션 수신 로드 밸런싱 인프라를 프로비저닝합니다. 요구 사항에 대한 자세한 내용은 사용자 프로비저닝 인프라에 대한 로드 밸런싱 요구 사항 섹션을 참조하십시오.

프로세스

1. 설치 노드에서 Kubernetes API의 레코드 이름, 와일드카드 경로 및 클러스터 노드에 대해 DNS 조회를 실행합니다. 응답에 포함된 IP 주소가 올바른 구성 요소에 해당하는지 확인합니다.

   1. Kubernetes API 레코드 이름을 조회합니다. 결과가 API 로드 밸런서의 IP 주소를 가리키는지 확인합니다.

      $ dig +noall +answer @<nameserver_ip> api.<cluster_name>.<base_domain> 1

      1

      <nameserver_ip>를 네임서버의 IP 주소로, <cluster_name>을 클러스터 이름으로, <base_domain>을 기본 도메인 이름으로 바꿉니다.

      출력 예

      api.ocp4.example.com.		604800	IN	A	192.168.1.5

   2. Kubernetes 내부 API 레코드 이름을 조회합니다. 결과가 API 로드 밸런서의 IP 주소를 가리키는지 확인합니다.

      $ dig +noall +answer @<nameserver_ip> api-int.<cluster_name>.<base_domain>

      출력 예

      api-int.ocp4.example.com.		604800	IN	A	192.168.1.5

   3. 예제 *.apps.<cluster_name>.<base_domain>을 테스트합니다. DNS 와일드카드를 조회합니다. 모든 애플리케이션 와일드카드 조회는 애플리케이션 인그레스 로드 밸런서의 IP 주소로 확인되어야 합니다.

      $ dig +noall +answer @<nameserver_ip> random.apps.<cluster_name>.<base_domain>

      출력 예

      random.apps.ocp4.example.com.		604800	IN	A	192.168.1.5

      참고

      예제 출력에서는 Kubernetes API 및 애플리케이션 인그레스 트래픽에 동일한 로드 밸런서를 사용합니다. 프로덕션 시나리오에서는 각각에 대해 개별적으로 로드 밸런서 인프라를 확장할 수 있도록 API 및 애플리케이션 인그레스 로드 밸런서를 별도로 배포할 수 있습니다.

      random 항목을 다른 와일드카드 값으로 교체할 수 있습니다. 예를 들어 OpenShift Container Platform 콘솔의 경로를 쿼리할 수 있습니다.

      $ dig +noall +answer @<nameserver_ip> console-openshift-console.apps.<cluster_name>.<base_domain>

      출력 예

      console-openshift-console.apps.ocp4.example.com. 604800 IN	A 192.168.1.5

   4. 부트스트랩 DNS 레코드 이름에 대해 조회를 실행합니다. 결과가 부트스트랩 노드의 IP 주소를 가리키는지 확인합니다.

      $ dig +noall +answer @<nameserver_ip> bootstrap.<cluster_name>.<base_domain>

      출력 예

      bootstrap.ocp4.example.com.		604800	IN	A	192.168.1.96

   5. 이 방법을 사용하여 컨트롤 플레인 및 컴퓨팅 노드의 DNS 레코드 이름에 대해 조회를 수행합니다. 결과가 각 노드의 IP 주소에 해당하는지 확인합니다.

2. 설치 노드에서 로드 밸런서 및 클러스터 노드의 IP 주소에 대해 역방향 DNS 조회를 실행합니다. 응답에 포함된 레코드 이름이 올바른 구성 요소에 해당하는지 확인합니다.

   1. API 로드 밸런서의 IP 주소에 대해 역방향 조회를 수행합니다. 응답에 Kubernetes API 및 Kubernetes 내부 API의 레코드 이름이 포함되어 있는지 확인합니다.

      $ dig +noall +answer @<nameserver_ip> -x 192.168.1.5

      출력 예

      5.1.168.192.in-addr.arpa. 604800	IN	PTR	api-int.ocp4.example.com. 1
      5.1.168.192.in-addr.arpa. 604800	IN	PTR	api.ocp4.example.com. 2

      1

      Kubernetes 내부 API의 레코드 이름을 제공합니다.

      2

      Kubernetes API의 레코드 이름을 제공합니다.

      참고

      OpenShift Container Platform 애플리케이션 와일드카드에는 PTR 레코드가 필요하지 않습니다. 애플리케이션 인그레스 로드 밸런서의 IP 주소에 대한 역방향 DNS 확인에는 유효성 검사 단계가 필요하지 않습니다.

   2. 부트스트랩 노드의 IP 주소에 대해 역방향 조회를 수행합니다. 결과가 부트스트랩 노드의 DNS 레코드 이름을 가리키는지 확인합니다.

      $ dig +noall +answer @<nameserver_ip> -x 192.168.1.96

      출력 예

      96.1.168.192.in-addr.arpa. 604800	IN	PTR	bootstrap.ocp4.example.com.

   3. 이 방법을 사용하여 컨트롤 플레인 및 컴퓨팅 노드의 IP 주소에 대해 역방향 조회를 수행합니다. 결과가 각 노드의 DNS 레코드 이름과 일치하는지 확인합니다.

프로세스

1. 로컬 시스템에 클러스터 노드의 인증에 사용할 기존 SSH 키 쌍이 없는 경우 새로 생성합니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.

   $ ssh-keygen -t ed25519 -N '' -f <path>/<file_name> 1

   1

   새 SSH 키의 경로 및 파일 이름(예: ~/.ssh/id_ed25519 )을 지정합니다. 기존 키 쌍이 있는 경우 공개 키가 '~/.ssh 디렉터리에 있는지 확인하십시오.

   참고

   x86_64,ppc64le, s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용하는 OpenShift Container Platform 클러스터를 설치하려면 ed25519 알고리즘을 사용하는 키를 생성하지 마십시오. 대신 rsa 또는 ecdsa 알고리즘을 사용하는 키를 생성합니다.

2. 공개 SSH 키를 확인합니다.

   $ cat <path>/<file_name>.pub

   예를 들어 다음을 실행하여 ~/.ssh/id_ed25519.pub 공개 키를 확인합니다.

   $ cat ~/.ssh/id_ed25519.pub

3. 아직 추가되지 않은 경우 로컬 사용자의 SSH 에이전트에 SSH 개인 키 ID를 추가합니다. 키의 SSH 에이전트 관리는 클러스터 노드에 암호 없는 SSH 인증을 수행하거나 ./openshift-install gather 명령을 사용하려는 경우 필요합니다.

   참고

   일부 배포에서는 ~/.ssh/id_rsa 및 ~/.ssh/id_dsa와 같은 기본 SSH 개인 키 ID가 자동으로 관리됩니다.

   1. ssh-agent 프로세스가 로컬 사용자에 대해 실행되지 않은 경우 백그라운드 작업으로 시작합니다.

      $ eval "$(ssh-agent -s)"

      출력 예

      Agent pid 31874

      참고

      클러스터가 FIPS 모드인 경우 FIPS 호환 알고리즘만 사용하여 SSH 키를 생성합니다. 키는 RSA 또는 ECDSA여야 합니다.

4. ssh-agent에 SSH 개인 키를 추가합니다.

   $ ssh-add <path>/<file_name> 1

   1

   SSH 개인 키의 경로와 파일 이름을 지정합니다(예: ~/.ssh/id_ed25519).

   출력 예

   Identity added: /home/<you>/<path>/<file_name> (<computer_name>)

프로세스

1. 필요한 설치 자산을 저장할 설치 디렉터리를 만듭니다.

   $ mkdir <installation_directory>

   중요

   디렉터리를 만들어야 합니다. 부트스트랩 X.509 인증서와 같은 일부 설치 자산은 단기간에 만료되므로 설치 디렉터리를 재사용해서는 안 됩니다. 다른 클러스터 설치의 개별 파일을 재사용하려면 해당 파일을 사용자 디렉터리에 복사하면 됩니다. 그러나 설치 자산의 파일 이름은 릴리스간에 변경될 수 있습니다. 따라서 이전 OpenShift Container Platform 버전에서 설치 파일을 복사할 때는 주의하십시오.

2. 샘플 install-config.yaml 파일 템플릿을 사용자 지정하여 <installation_directory>에 저장합니다.

   참고

   이 설정 파일의 이름을 install-config.yaml로 지정해야 합니다.

3. 여러 클러스터를 설치하는 데 사용할 수 있도록 install-config.yaml 파일을 백업합니다.

   중요

   install-config.yaml 파일은 설치 과정의 다음 단계에서 사용됩니다. 이 시점에서 이를 백업해야 합니다.

프로세스

1. OpenShift Container Platform 설치 프로그램이 포함된 디렉터리로 변경하고 클러스터에 대한 Kubernetes 매니페스트를 생성합니다.

   $ ./openshift-install create manifests --dir <installation_directory> 1

   1

   <installation_directory>는 사용자가 만든 install-config.yaml 파일이 포함된 설치 디렉터리를 지정합니다.

   주의

   3 노드 클러스터를 실행 중이면 다음 단계를 건너 뛰어 컨트롤 플레인 노드 일정을 계획할 수 있도록 하십시오.

   중요

   기본 예약 불가에서 예약 가능으로 컨트롤 플레인 노드를 구성하면 추가 서브스크립션이 필요합니다. 이는 컨트롤 플레인 노드가 컴퓨팅 노드가 되기 때문입니다.

2. <installation_directory>/manifests/cluster-scheduler-02-config.yml Kubernetes 매니페스트 파일의 mastersSchedulable 매개변수가 false로 설정되어 있는지 확인합니다. 이 설정으로 인해 컨트롤 플레인 머신에서 포드가 예약되지 않습니다.

   1. <installation_directory>/manifests/cluster-scheduler-02-config.yml 파일을 엽니다.
   2. mastersSchedulable 매개변수를 찾아서 값을 False로 설정되어 있는지 확인합니다.
   3. 파일을 저장하고 종료합니다.

3. Ignition 구성 파일을 생성하려면 설치 프로그램이 포함된 디렉터리에서 다음 명령을 실행합니다.

   $ ./openshift-install create ignition-configs --dir <installation_directory> 1

   1

   <installation_directory>는 동일한 설치 디렉터리를 지정합니다.

   설치 디렉터리의 부트스트랩, 컨트롤 플레인 및 컴퓨팅 노드에 대한 Ignition 구성 파일이 생성됩니다. kubeadmin-password 및 kubeconfig 파일은 ./<installation_directory>/auth 디렉터리에 생성됩니다.

   .
   ├── auth
   │   ├── kubeadmin-password
   │   └── kubeconfig
   ├── bootstrap.ign
   ├── master.ign
   ├── metadata.json
   └── worker.ign

프로세스

1. 컨트롤 플레인 및 컴퓨팅 노드에 대한 Butane 구성 파일을 생성합니다.

   컨트롤 플레인 노드에 대한 Butane 구성의 다음 예제에서는 디스크 암호화를 위해 master-storage.bu 라는 파일을 생성합니다.

   variant: openshift
   version: 4.15.0
   metadata:
     name: master-storage
     labels:
       machineconfiguration.openshift.io/role: master
   storage:
     luks:
       - clevis:
           tang:
             - thumbprint: QcPr_NHFJammnRCA3fFMVdNBwjs
               url: http://clevis.example.com:7500
           options: 1
              - --cipher
              - aes-cbc-essiv:sha256
         device: /dev/disk/by-partlabel/root 2
         label: luks-root
         name: root
         wipe_volume: true
     filesystems:
       - device: /dev/mapper/root
         format: xfs
         label: root
         wipe_filesystem: true
   openshift:
     fips: true 3

   1

   암호화 옵션은 FIPS 모드가 활성화된 경우에만 필요합니다. FIPS가 비활성화된 경우 항목을 생략합니다.

   2

   DASD 유형 디스크에 설치하려면 device: /dev/disk/by-label/root 로 바꿉니다.

   3

   FIPS 모드 활성화 또는 비활성화 여부입니다. 기본적으로 FIPS 모드는 비활성화됩니다. FIPS 모드가 활성화되면 OpenShift Container Platform이 실행되는 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템에서 기본 Kubernetes 암호화 제품군은 우회하고 RHCOS와 함께 제공되는 암호화 모듈을 대신 사용합니다.

2. 다음 명령을 실행하여 사용자 지정 initramfs 파일을 생성하여 시스템을 부팅합니다.

   $ coreos-installer pxe customize \
       /root/rhcos-bootfiles/rhcos-<release>-live-initramfs.s390x.img \
       --dest-device /dev/disk/by-id/scsi-<serial_number> --dest-karg-append \
       ip=<ip_address>::<gateway_ip>:<subnet_mask>::<network_device>:none \
       --dest-karg-append nameserver=<nameserver_ip> \
       --dest-karg-append rd.neednet=1 -o \
       /root/rhcos-bootfiles/<node_name>-initramfs.s390x.img

   참고

   처음 부팅하기 전에 클러스터의 각 노드에 대해 initramfs를 사용자 지정하고 PXE 커널 매개 변수를 추가해야 합니다.

3. ignition.platform.id=metal 및 ignition.firstboot 가 포함된 매개변수 파일을 생성합니다.

   컨트롤 플레인 시스템의 커널 매개변수 파일의 예:

   rd.neednet=1 \
   console=ttysclp0 \
   coreos.inst.install_dev=/dev/dasda \1
   ignition.firstboot ignition.platform.id=metal \
   coreos.live.rootfs_url=http://<http_server>/rhcos-<version>-live-rootfs.<architecture>.img \2
   coreos.inst.ignition_url=http://<http_server>/master.ign \3
   ip=10.19.17.2::10.19.17.1:255.255.255.0::enbdd0:none nameserver=10.19.17.1 \
   zfcp.allow_lun_scan=0 \4
   rd.znet=qeth,0.0.bdd0,0.0.bdd1,0.0.bdd2,layer2=1 \
   rd.zfcp=0.0.5677,0x600606680g7f0056,0x034F000000000000 \5

   1

   DASD 유형 디스크에 설치하려면 coreos.inst.install_dev=/dev/dasda 를 추가합니다. FCP 유형 디스크에 대해 이 값을 생략합니다.

   2

   부팅하려는 커널 및 initramfs 의 rootfs 아티팩트 위치를 지정합니다. HTTP 및 HTTPS 프로토콜만 지원됩니다.

   3

   Ignition 구성 파일의 위치를 지정합니다. master.ign 또는 worker.ign 을 사용합니다. HTTP 및 HTTPS 프로토콜만 지원됩니다.

   4

   FCP 유형 디스크에 설치하려면 zfcp.allow_lun_scan=0 을 추가합니다. DASD 유형 디스크에 이 값을 생략합니다.

   5

   DASD 유형 디스크에 설치하는 경우 DASD 장치를 지정하려면 DASD 장치를 rd.dasd=0.0.3490 으로 바꿉니다.

   참고

   매개 변수 파일의 모든 옵션을 한 줄로 작성하고 줄 바꿈 문자가 없는지 확인합니다.

프로세스

1. 프로비저닝 머신에서 Linux에 로그인합니다.

2. RHCOS 이미지 미러 에서 RHCOS(Red Hat Enterprise Linux CoreOS) 커널, initramfs 및 rootfs 파일을 가져옵니다.

   중요

   RHCOS 이미지는 OpenShift Container Platform 릴리스에 따라 변경되지 않을 수 있습니다. 설치하는 OpenShift Container Platform 버전과 같거나 그 이하의 버전 중 가장 최신 버전의 이미지를 다운로드해야 합니다. 이 프로세스에는 아래 설명된 적절한 kernel, initramfs 및 rootfs 아티팩트만 사용하십시오.

   OpenShift Container Platform 버전 번호가 파일 이름에 포함됩니다. 다음 예와 유사합니다.

   • kernel: rhcos-<version>-live-kernel-<architecture>
   • initramfs: rhcos-<version>-live-initramfs.<architecture>.img

   • rootfs: rhcos-<version>-live-rootfs.<architecture>.img

     참고

     rootfs 이미지는 FCP 및 DASD에 대해 동일합니다.

3. 매개 변수 파일을 생성합니다. 다음 매개 변수는 특정 가상 머신에 지정해야 합니다.

   • ip=에 다음 7 개의 항목을 지정하십시오.

     1. 컴퓨터의 IP 주소
     2. 빈 문자열
     3. 게이트웨이
     4. 넷 마스크
     5. hostname.domainname 형식의 시스템 호스트 및 도메인 이름. RHCOS가 설정하도록 하려면 이 값을 생략하십시오.
     6. 네트워크 인터페이스 이름. RHCOS가 설정하도록 하려면 이 값을 생략하십시오.
     7. 고정 IP 주소를 사용하는 경우 none을 지정합니다.
   • coreos.inst.ignition_url=의 경우 시스템 역할의 Ignition 파일을 지정합니다. bootstrap.ign, master.ign 또는 worker.ign을 사용하십시오. HTTP 및 HTTPS 프로토콜만 지원됩니다.
   • coreos.live.rootfs_url=의 경우 부팅 중인 커널 및 initramfs와 일치하는 rootfs 아티팩트를 지정합니다. HTTP 및 HTTPS 프로토콜만 지원됩니다.

   • DASD 유형 디스크에 설치하려면 다음 작업을 완료합니다.

     1. coreos.inst.install_dev= 의 경우 /dev/dasda 를 지정합니다.
     2. rd.dasd=의 경우 RHCOS를 설치할 DASD를 지정합니다.

     3. 변경되지 않은 다른 모든 매개변수는 그대로 두십시오.

        부트스트랩 시스템의 매개 변수 파일 예 bootstrap-0.parm

        rd.neednet=1 \
        console=ttysclp0 \
        coreos.inst.install_dev=/dev/dasda \
        coreos.live.rootfs_url=http://cl1.provide.example.com:8080/assets/rhcos-live-rootfs.s390x.img \
        coreos.inst.ignition_url=http://cl1.provide.example.com:8080/ignition/bootstrap.ign \
        ip=172.18.78.2::172.18.78.1:255.255.255.0:::none nameserver=172.18.78.1 \
        rd.znet=qeth,0.0.bdf0,0.0.bdf1,0.0.bdf2,layer2=1,portno=0 \
        zfcp.allow_lun_scan=0 \
        rd.dasd=0.0.3490

        매개 변수 파일의 모든 옵션을 한 줄로 작성하고 줄 바꿈 문자가 없는지 확인합니다.

   • FCP 유형 디스크에 설치하려면 다음 작업을 완료합니다.

     1. RHCOS를 설치할 FCP 디스크를 지정하려면 rd.zfcp=<adapter>,<wwpn>,<lun>을 사용합니다. 멀티패스의 경우 추가 경로마다 이 단계를 반복합니다.

        참고

        여러 경로를 사용하여 설치할 때 나중에 문제가 발생할 수 있으므로 설치 후에 직접 멀티패스를 활성화해야 합니다.

     2. 설치 장치를 coreos.inst.install_dev=/dev/disk/by-id/scsi-<serial_number> 로 설정합니다.

        참고

        NPIV로 추가 LUN을 구성하는 경우 FCP에는 zfcp.allow_lun_scan=0이 필요합니다. 예를 들어 CSI 드라이버를 사용하므로 zfcp.allow_lun_scan=1 을 활성화해야 하는 경우, 각 노드가 다른 노드의 부팅 파티션에 액세스할 수 없도록 NPIV를 구성해야 합니다.

     3. 변경되지 않은 다른 모든 매개변수는 그대로 두십시오.

        중요

        멀티패스를 완전히 활성화하려면 추가 설치 후 단계가 필요합니다. 자세한 내용은 설치 후 머신 구성 작업 의 "RHCOS에서 커널 인수를 사용하여 멀티패스 활성화"를 참조하십시오.

        다음은 다중 경로가 있는 작업자 노드의 예제 매개변수 파일 worker-1.parm입니다.

        rd.neednet=1 \
        console=ttysclp0 \
        coreos.inst.install_dev=/dev/disk/by-id/scsi-<serial_number> \
        coreos.live.rootfs_url=http://cl1.provide.example.com:8080/assets/rhcos-live-rootfs.s390x.img \
        coreos.inst.ignition_url=http://cl1.provide.example.com:8080/ignition/worker.ign \
        ip=172.18.78.2::172.18.78.1:255.255.255.0:::none nameserver=172.18.78.1 \
        rd.znet=qeth,0.0.bdf0,0.0.bdf1,0.0.bdf2,layer2=1,portno=0 \
        zfcp.allow_lun_scan=0 \
        rd.zfcp=0.0.1987,0x50050763070bc5e3,0x4008400B00000000 \
        rd.zfcp=0.0.19C7,0x50050763070bc5e3,0x4008400B00000000 \
        rd.zfcp=0.0.1987,0x50050763071bc5e3,0x4008400B00000000 \
        rd.zfcp=0.0.19C7,0x50050763071bc5e3,0x4008400B00000000

        매개 변수 파일의 모든 옵션을 한 줄로 작성하고 줄 바꿈 문자가 없는지 확인합니다.

4. initramfs, 커널, 매개 변수 파일 및 RHCOS 이미지를 z/VM에 전송합니다 (예: FTP 사용). FTP를 사용하여 파일을 전송하고 가상 리더에서 부팅하는 방법에 대한 자세한 내용은 Z/VM에서 설치를 참조하십시오.

5. 부트스트랩 노드가 될 z/VM 게스트 가상 머신의 가상 리더에 파일 punch를 실행합니다.

   IBM 문서의 PUNCH 를 참조하십시오.

   작은 정보

   CP PUNCH 명령을 사용하거나 Linux를 사용하는 경우 vmur 명령을 사용하여 두 개의 z/VM 게스트 가상 머신간에 파일을 전송할 수 있습니다.

6. 부트스트랩 시스템에서 CMS에 로그인합니다.

7. 리더에서 부트스트랩 머신에 대해 IPL을 수행합니다.

   $ ipl c

   IBM 문서의 IPL 을 참조하십시오.

8. 클러스터의 다른 컴퓨터에 대해 이 프로세스를 반복합니다.

프로세스

1. 부트스트랩 프로세스를 모니터링합니다.

   $ ./openshift-install --dir <installation_directory> wait-for bootstrap-complete \ 1
       --log-level=info 2

   1

   <installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.

   2

   다른 설치 세부 사항을 보려면 info 대신 warn, debug 또는 error를 지정합니다.

   출력 예

   INFO Waiting up to 30m0s for the Kubernetes API at https://api.test.example.com:6443...
   INFO API v1.28.5 up
   INFO Waiting up to 30m0s for bootstrapping to complete...
   INFO It is now safe to remove the bootstrap resources

   이 명령은 Kubernetes API 서버가 컨트롤 플레인 시스템에서 부트스트랩되었다는 신호를 보낼 때 성공합니다.

2. 부트스트랩 프로세스가 완료되면 로드 밸런서에서 부트스트랩 시스템을 제거합니다.

   중요

   이 시점에 로드 밸런서에서 부트스트랩 시스템을 제거해야 합니다. 부트스트랩 머신 자체를 제거하거나 다시 포맷할 수도 있습니다.

프로세스

1. kubeadmin 인증 정보를 내보냅니다.

   $ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1

   1

   <installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.

2. 내보낸 구성을 사용하여 oc 명령을 성공적으로 실행할 수 있는지 확인합니다.

   $ oc whoami

   출력 예

   system:admin

프로세스

1. 클러스터가 시스템을 인식하는지 확인합니다.

   $ oc get nodes

   출력 예

   NAME      STATUS    ROLES   AGE  VERSION
   master-0  Ready     master  63m  v1.28.5
   master-1  Ready     master  63m  v1.28.5
   master-2  Ready     master  64m  v1.28.5

   출력에 생성된 모든 시스템이 나열됩니다.

   참고

   이전 출력에는 일부 CSR이 승인될 때까지 컴퓨팅 노드(작업자 노드라고도 함)가 포함되지 않을 수 있습니다.

2. 보류 중인 CSR을 검토하고 클러스터에 추가한 각 시스템에 대해 Pending 또는 Approved 상태의 클라이언트 및 서버 요청이 표시되는지 확인합니다.

   $ oc get csr

   출력 예

   NAME        AGE     REQUESTOR                                                                   CONDITION
   csr-8b2br   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
   csr-8vnps   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
   ...

   예에서는 두 시스템이 클러스터에 참여하고 있습니다. 목록에는 승인된 CSR이 더 많이 나타날 수도 있습니다.

3. CSR이 승인되지 않은 경우, 추가된 시스템에 대한 모든 보류 중인 CSR이 Pending 상태로 전환된 후 클러스터 시스템의 CSR을 승인합니다.

   참고

   CSR은 교체 주기가 자동으로 만료되므로 클러스터에 시스템을 추가한 후 1시간 이내에 CSR을 승인하십시오. 한 시간 내에 승인하지 않으면 인증서가 교체되고 각 노드에 대해 두 개 이상의 인증서가 표시됩니다. 이러한 인증서를 모두 승인해야 합니다. 클라이언트 CSR이 승인되면 Kubelet은 인증서에 대한 보조 CSR을 생성하므로 수동 승인이 필요합니다. 그러면 Kubelet에서 동일한 매개변수를 사용하여 새 인증서를 요청하는 경우 인증서 갱신 요청은 machine-approver에 의해 자동으로 승인됩니다.

   참고

   베어 메탈 및 기타 사용자 프로비저닝 인프라와 같이 머신 API를 사용하도록 활성화되지 않는 플랫폼에서 실행되는 클러스터의 경우 CSR(Kubelet service Certificate Request)을 자동으로 승인하는 방법을 구현해야 합니다. 요청이 승인되지 않으면 API 서버가 kubelet에 연결될 때 서비스 인증서가 필요하므로 oc exec, oc rsh, oc logs 명령을 성공적으로 수행할 수 없습니다. Kubelet 엔드 포인트에 연결하는 모든 작업을 수행하려면 이 인증서 승인이 필요합니다. 이 방법은 새 CSR을 감시하고 CSR이 system:node 또는 system:admin 그룹의 node-bootstrapper 서비스 계정에 의해 제출되었는지 확인하고 노드의 ID를 확인합니다.

   • 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오.

     $ oc adm certificate approve <csr_name> 1

     1

     <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.

   • 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오.

     $ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs --no-run-if-empty oc adm certificate approve

     참고

     일부 Operator는 일부 CSR이 승인될 때까지 사용할 수 없습니다.

4. 이제 클라이언트 요청이 승인되었으므로 클러스터에 추가한 각 머신의 서버 요청을 검토해야 합니다.

   $ oc get csr

   출력 예

   NAME        AGE     REQUESTOR                                                                   CONDITION
   csr-bfd72   5m26s   system:node:ip-10-0-50-126.us-east-2.compute.internal                       Pending
   csr-c57lv   5m26s   system:node:ip-10-0-95-157.us-east-2.compute.internal                       Pending
   ...

5. 나머지 CSR이 승인되지 않고 Pending 상태인 경우 클러스터 머신의 CSR을 승인합니다.

   • 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오.

     $ oc adm certificate approve <csr_name> 1

     1

     <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.

   • 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오.

     $ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs oc adm certificate approve

6. 모든 클라이언트 및 서버 CSR이 승인된 후 머신은 Ready 상태가 됩니다. 다음 명령을 실행하여 확인합니다.

   $ oc get nodes

   출력 예

   NAME      STATUS    ROLES   AGE  VERSION
   master-0  Ready     master  73m  v1.28.5
   master-1  Ready     master  73m  v1.28.5
   master-2  Ready     master  74m  v1.28.5
   worker-0  Ready     worker  11m  v1.28.5
   worker-1  Ready     worker  11m  v1.28.5

   참고

   머신이 Ready 상태로 전환하는 데 서버 CSR의 승인 후 몇 분이 걸릴 수 있습니다.

프로세스

1. 클러스터 구성 요소가 온라인 상태인지 확인합니다.

   $ watch -n5 oc get clusteroperators

   출력 예

   NAME                                       VERSION   AVAILABLE   PROGRESSING   DEGRADED   SINCE
   authentication                             4.15.0    True        False         False      19m
   baremetal                                  4.15.0    True        False         False      37m
   cloud-credential                           4.15.0    True        False         False      40m
   cluster-autoscaler                         4.15.0    True        False         False      37m
   config-operator                            4.15.0    True        False         False      38m
   console                                    4.15.0    True        False         False      26m
   csi-snapshot-controller                    4.15.0    True        False         False      37m
   dns                                        4.15.0    True        False         False      37m
   etcd                                       4.15.0    True        False         False      36m
   image-registry                             4.15.0    True        False         False      31m
   ingress                                    4.15.0    True        False         False      30m
   insights                                   4.15.0    True        False         False      31m
   kube-apiserver                             4.15.0    True        False         False      26m
   kube-controller-manager                    4.15.0    True        False         False      36m
   kube-scheduler                             4.15.0    True        False         False      36m
   kube-storage-version-migrator              4.15.0    True        False         False      37m
   machine-api                                4.15.0    True        False         False      29m
   machine-approver                           4.15.0    True        False         False      37m
   machine-config                             4.15.0    True        False         False      36m
   marketplace                                4.15.0    True        False         False      37m
   monitoring                                 4.15.0    True        False         False      29m
   network                                    4.15.0    True        False         False      38m
   node-tuning                                4.15.0    True        False         False      37m
   openshift-apiserver                        4.15.0    True        False         False      32m
   openshift-controller-manager               4.15.0    True        False         False      30m
   openshift-samples                          4.15.0    True        False         False      32m
   operator-lifecycle-manager                 4.15.0    True        False         False      37m
   operator-lifecycle-manager-catalog         4.15.0    True        False         False      37m
   operator-lifecycle-manager-packageserver   4.15.0    True        False         False      32m
   service-ca                                 4.15.0    True        False         False      38m
   storage                                    4.15.0    True        False         False      37m

2. 사용할 수 없는 Operator를 구성합니다.

프로세스

1. 다음 명령을 사용하여 모든 클러스터 구성 요소가 온라인 상태인지 확인합니다.

   $ watch -n5 oc get clusteroperators

   출력 예

   NAME                                       VERSION   AVAILABLE   PROGRESSING   DEGRADED   SINCE
   authentication                             4.15.0    True        False         False      19m
   baremetal                                  4.15.0    True        False         False      37m
   cloud-credential                           4.15.0    True        False         False      40m
   cluster-autoscaler                         4.15.0    True        False         False      37m
   config-operator                            4.15.0    True        False         False      38m
   console                                    4.15.0    True        False         False      26m
   csi-snapshot-controller                    4.15.0    True        False         False      37m
   dns                                        4.15.0    True        False         False      37m
   etcd                                       4.15.0    True        False         False      36m
   image-registry                             4.15.0    True        False         False      31m
   ingress                                    4.15.0    True        False         False      30m
   insights                                   4.15.0    True        False         False      31m
   kube-apiserver                             4.15.0    True        False         False      26m
   kube-controller-manager                    4.15.0    True        False         False      36m
   kube-scheduler                             4.15.0    True        False         False      36m
   kube-storage-version-migrator              4.15.0    True        False         False      37m
   machine-api                                4.15.0    True        False         False      29m
   machine-approver                           4.15.0    True        False         False      37m
   machine-config                             4.15.0    True        False         False      36m
   marketplace                                4.15.0    True        False         False      37m
   monitoring                                 4.15.0    True        False         False      29m
   network                                    4.15.0    True        False         False      38m
   node-tuning                                4.15.0    True        False         False      37m
   openshift-apiserver                        4.15.0    True        False         False      32m
   openshift-controller-manager               4.15.0    True        False         False      30m
   openshift-samples                          4.15.0    True        False         False      32m
   operator-lifecycle-manager                 4.15.0    True        False         False      37m
   operator-lifecycle-manager-catalog         4.15.0    True        False         False      37m
   operator-lifecycle-manager-packageserver   4.15.0    True        False         False      32m
   service-ca                                 4.15.0    True        False         False      38m
   storage                                    4.15.0    True        False         False      37m

   또는 다음 명령은 모든 클러스터를 사용할 수 있을 때 알립니다. 또한 인증 정보를 검색하고 표시합니다.

   $ ./openshift-install --dir <installation_directory> wait-for install-complete 1

   1

   <installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.

   출력 예

   INFO Waiting up to 30m0s for the cluster to initialize...

   Cluster Version Operator가 Kubernetes API 서버에서 OpenShift Container Platform 클러스터 배포를 완료하면 명령이 성공합니다.

   중요
   • 설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인 node-bootstrapper 인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오.
   • 24 시간 인증서는 클러스터를 설치한 후 16시간에서 22시간으로 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.

2. Kubernetes API 서버가 Pod와 통신하고 있는지 확인합니다.

   1. 모든 Pod 목록을 보려면 다음 명령을 사용하십시오.

      $ oc get pods --all-namespaces

      출력 예

      NAMESPACE                         NAME                                            READY   STATUS      RESTARTS   AGE
      openshift-apiserver-operator      openshift-apiserver-operator-85cb746d55-zqhs8   1/1     Running     1          9m
      openshift-apiserver               apiserver-67b9g                                 1/1     Running     0          3m
      openshift-apiserver               apiserver-ljcmx                                 1/1     Running     0          1m
      openshift-apiserver               apiserver-z25h4                                 1/1     Running     0          2m
      openshift-authentication-operator authentication-operator-69d5d8bf84-vh2n8        1/1     Running     0          5m
      ...

   2. 다음 명령을 사용하여 이전 명령의 출력에 나열된 Pod의 로그를 표시합니다.

      $ oc logs <pod_name> -n <namespace> 1

      1

      이전 명령의 출력에 표시된 대로 Pod 이름과 네임스페이스를 지정합니다.

      Pod 로그가 표시되면 Kubernetes API 서버는 클러스터 시스템과 통신할 수 있습니다.

3. FCP(Fibre Channel Protocol)를 사용하는 설치에는 다중 경로를 활성화하기 위해 추가 단계가 필요합니다. 설치 중에 멀티패스를 활성화하지 마십시오.

   자세한 내용은 설치 후 머신 구성 작업 설명서의 "RHCOS에서 커널 인수를 사용하여 멀티패스 활성화"를 참조하십시오.

4. 클러스터 등록 페이지에서 클러스터를 등록합니다.

프로세스

1. DHCP를 사용하여 클러스터 노드에 IP 네트워킹 구성을 제공하는 경우 DHCP 서비스를 구성합니다.

   1. 노드의 영구 IP 주소를 DHCP 서버 구성에 추가합니다. 구성에서 관련 네트워크 인터페이스의 MAC 주소를 각 노드의 의도한 IP 주소와 일치시킵니다.

   2. DHCP를 사용하여 클러스터 시스템의 IP 주소 지정을 구성하는 경우 시스템은 DHCP를 통해 DNS 서버 정보도 가져옵니다. DHCP 서버 구성을 통해 클러스터 노드에서 사용하는 영구 DNS 서버 주소를 정의합니다.

      참고

      DHCP 서비스를 사용하지 않는 경우 RHCOS 설치 시 IP 네트워킹 구성과 DNS 서버의 주소를 노드에 제공해야 합니다. ISO 이미지에서 설치하는 경우 부팅 인수로 전달할 수 있습니다. 고정 IP 프로비저닝 및 고급 네트워킹 옵션에 대한 자세한 내용은 RHCOS 설치 및 OpenShift Container Platform 부트스트랩 프로세스 시작 섹션을 참조하십시오.

   3. DHCP 서버 구성에 클러스터 노드의 호스트 이름을 정의합니다. 호스트 이름 고려 사항에 대한 자세한 내용은 DHCP를 통해 클러스터 노드 호스트 이름 설정 섹션을 참조하십시오.

      참고

      DHCP 서비스를 사용하지 않는 경우 클러스터 노드는 역방향 DNS 조회를 통해 호스트 이름을 가져옵니다.

2. Red Hat Enterprise Linux CoreOS (RHCOS)의 빠른 설치 또는 RHCOS(Red Hat Enterprise Linux CoreOS)의 전체 설치를 수행하려면 선택합니다. 전체 설치의 경우 Ignition 파일을 제공하고 클러스터 노드에 이미지를 설치하기 위해 HTTP 또는 HTTPS 서버를 설정해야 합니다. 빠른 설치의 경우 HTTP 또는 HTTPS 서버가 필요하지 않지만 DHCP 서버가 필요합니다. "빠른 설치: RHCOS (Red Hat Enterprise Linux CoreOS) 머신 생성 섹션" 및 "전체 설치: Red Hat Enterprise Linux CoreOS (RHCOS) 머신 생성" 섹션을 참조하십시오.
3. 네트워크 인프라가 클러스터 구성 요소 간 필수 네트워크 연결을 제공하는지 확인합니다. 요구 사항에 대한 자세한 내용은 사용자 프로비저닝 인프라 섹션의 네트워킹 요구 사항 섹션을 참조하십시오.

4. OpenShift Container Platform 클러스터 구성 요소가 통신하는 데 필요한 포트를 활성화하도록 방화벽을 구성합니다. 필요한 포트에 대한 자세한 내용은 사용자 프로비저닝 인프라 섹션의 네트워킹 요구 사항 섹션을 참조하십시오.

   중요

   각 컨트롤 플레인 노드에서 이 포트에 액세스해야 하므로 기본적으로 OpenShift Container Platform 클러스터에서 포트 1936 에 액세스할 수 있습니다.

   Ingress 컨트롤러와 관련된 통계 및 메트릭과 같은 민감한 정보가 노출될 수 있으므로 Ingress 로드 밸런서를 사용하여 이 포트를 노출하지 마십시오.

5. 클러스터에 필요한 DNS 인프라를 설정합니다.

   1. Kubernetes API, 애플리케이션 와일드카드, 부트스트랩 시스템, 컨트롤 플레인 시스템 및 컴퓨팅 시스템의 DNS 이름 확인을 구성합니다.

   2. Kubernetes API, 부트스트랩 시스템, 컨트롤 플레인 시스템 및 컴퓨팅 시스템에 대한 역방향 DNS 확인을 구성합니다.

      OpenShift Container Platform DNS 요구 사항에 대한 자세한 내용은 사용자 프로비저닝 DNS 요구 사항 섹션을 참조하십시오.

6. DNS 구성을 확인합니다.

   1. 설치 노드에서 Kubernetes API의 레코드 이름, 와일드카드 경로 및 클러스터 노드에 대해 DNS 조회를 실행합니다. 응답의 IP 주소가 올바른 구성 요소에 해당하는지 확인합니다.

   2. 설치 노드에서 로드 밸런서 및 클러스터 노드의 IP 주소에 대해 역방향 DNS 조회를 실행합니다. 응답의 레코드 이름이 올바른 구성 요소에 해당하는지 확인합니다.

      자세한 DNS 검증 단계는 사용자 프로비저닝 인프라에 대한 DNS 확인 섹션을 참조하십시오.

7. 필요한 API 및 애플리케이션 수신 로드 밸런싱 인프라를 프로비저닝합니다. 요구 사항에 대한 자세한 내용은 사용자 프로비저닝 인프라에 대한 로드 밸런싱 요구 사항 섹션을 참조하십시오.

프로세스

1. 설치 노드에서 Kubernetes API의 레코드 이름, 와일드카드 경로 및 클러스터 노드에 대해 DNS 조회를 실행합니다. 응답에 포함된 IP 주소가 올바른 구성 요소에 해당하는지 확인합니다.

   1. Kubernetes API 레코드 이름을 조회합니다. 결과가 API 로드 밸런서의 IP 주소를 가리키는지 확인합니다.

      $ dig +noall +answer @<nameserver_ip> api.<cluster_name>.<base_domain> 1

      1

      <nameserver_ip>를 네임서버의 IP 주소로, <cluster_name>을 클러스터 이름으로, <base_domain>을 기본 도메인 이름으로 바꿉니다.

      출력 예

      api.ocp4.example.com.		604800	IN	A	192.168.1.5

   2. Kubernetes 내부 API 레코드 이름을 조회합니다. 결과가 API 로드 밸런서의 IP 주소를 가리키는지 확인합니다.

      $ dig +noall +answer @<nameserver_ip> api-int.<cluster_name>.<base_domain>

      출력 예

      api-int.ocp4.example.com.		604800	IN	A	192.168.1.5

   3. 예제 *.apps.<cluster_name>.<base_domain>을 테스트합니다. DNS 와일드카드를 조회합니다. 모든 애플리케이션 와일드카드 조회는 애플리케이션 인그레스 로드 밸런서의 IP 주소로 확인되어야 합니다.

      $ dig +noall +answer @<nameserver_ip> random.apps.<cluster_name>.<base_domain>

      출력 예

      random.apps.ocp4.example.com.		604800	IN	A	192.168.1.5

      참고

      예제 출력에서는 Kubernetes API 및 애플리케이션 인그레스 트래픽에 동일한 로드 밸런서를 사용합니다. 프로덕션 시나리오에서는 각각에 대해 개별적으로 로드 밸런서 인프라를 확장할 수 있도록 API 및 애플리케이션 인그레스 로드 밸런서를 별도로 배포할 수 있습니다.

      random 항목을 다른 와일드카드 값으로 교체할 수 있습니다. 예를 들어 OpenShift Container Platform 콘솔의 경로를 쿼리할 수 있습니다.

      $ dig +noall +answer @<nameserver_ip> console-openshift-console.apps.<cluster_name>.<base_domain>

      출력 예

      console-openshift-console.apps.ocp4.example.com. 604800 IN	A 192.168.1.5

   4. 부트스트랩 DNS 레코드 이름에 대해 조회를 실행합니다. 결과가 부트스트랩 노드의 IP 주소를 가리키는지 확인합니다.

      $ dig +noall +answer @<nameserver_ip> bootstrap.<cluster_name>.<base_domain>

      출력 예

      bootstrap.ocp4.example.com.		604800	IN	A	192.168.1.96

   5. 이 방법을 사용하여 컨트롤 플레인 및 컴퓨팅 노드의 DNS 레코드 이름에 대해 조회를 수행합니다. 결과가 각 노드의 IP 주소에 해당하는지 확인합니다.

2. 설치 노드에서 로드 밸런서 및 클러스터 노드의 IP 주소에 대해 역방향 DNS 조회를 실행합니다. 응답에 포함된 레코드 이름이 올바른 구성 요소에 해당하는지 확인합니다.

   1. API 로드 밸런서의 IP 주소에 대해 역방향 조회를 수행합니다. 응답에 Kubernetes API 및 Kubernetes 내부 API의 레코드 이름이 포함되어 있는지 확인합니다.

      $ dig +noall +answer @<nameserver_ip> -x 192.168.1.5

      출력 예

      5.1.168.192.in-addr.arpa. 604800	IN	PTR	api-int.ocp4.example.com. 1
      5.1.168.192.in-addr.arpa. 604800	IN	PTR	api.ocp4.example.com. 2

      1

      Kubernetes 내부 API의 레코드 이름을 제공합니다.

      2

      Kubernetes API의 레코드 이름을 제공합니다.

      참고

      OpenShift Container Platform 애플리케이션 와일드카드에는 PTR 레코드가 필요하지 않습니다. 애플리케이션 인그레스 로드 밸런서의 IP 주소에 대한 역방향 DNS 확인에는 유효성 검사 단계가 필요하지 않습니다.

   2. 부트스트랩 노드의 IP 주소에 대해 역방향 조회를 수행합니다. 결과가 부트스트랩 노드의 DNS 레코드 이름을 가리키는지 확인합니다.

      $ dig +noall +answer @<nameserver_ip> -x 192.168.1.96

      출력 예

      96.1.168.192.in-addr.arpa. 604800	IN	PTR	bootstrap.ocp4.example.com.

   3. 이 방법을 사용하여 컨트롤 플레인 및 컴퓨팅 노드의 IP 주소에 대해 역방향 조회를 수행합니다. 결과가 각 노드의 DNS 레코드 이름과 일치하는지 확인합니다.

프로세스

1. 로컬 시스템에 클러스터 노드의 인증에 사용할 기존 SSH 키 쌍이 없는 경우 새로 생성합니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.

   $ ssh-keygen -t ed25519 -N '' -f <path>/<file_name> 1

   1

   새 SSH 키의 경로 및 파일 이름(예: ~/.ssh/id_ed25519 )을 지정합니다. 기존 키 쌍이 있는 경우 공개 키가 '~/.ssh 디렉터리에 있는지 확인하십시오.

   참고

   x86_64,ppc64le, s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용하는 OpenShift Container Platform 클러스터를 설치하려면 ed25519 알고리즘을 사용하는 키를 생성하지 마십시오. 대신 rsa 또는 ecdsa 알고리즘을 사용하는 키를 생성합니다.

2. 공개 SSH 키를 확인합니다.

   $ cat <path>/<file_name>.pub

   예를 들어 다음을 실행하여 ~/.ssh/id_ed25519.pub 공개 키를 확인합니다.

   $ cat ~/.ssh/id_ed25519.pub

3. 아직 추가되지 않은 경우 로컬 사용자의 SSH 에이전트에 SSH 개인 키 ID를 추가합니다. 키의 SSH 에이전트 관리는 클러스터 노드에 암호 없는 SSH 인증을 수행하거나 ./openshift-install gather 명령을 사용하려는 경우 필요합니다.

   참고

   일부 배포에서는 ~/.ssh/id_rsa 및 ~/.ssh/id_dsa와 같은 기본 SSH 개인 키 ID가 자동으로 관리됩니다.

   1. ssh-agent 프로세스가 로컬 사용자에 대해 실행되지 않은 경우 백그라운드 작업으로 시작합니다.

      $ eval "$(ssh-agent -s)"

      출력 예

      Agent pid 31874

      참고

      클러스터가 FIPS 모드인 경우 FIPS 호환 알고리즘만 사용하여 SSH 키를 생성합니다. 키는 RSA 또는 ECDSA여야 합니다.

4. ssh-agent에 SSH 개인 키를 추가합니다.

   $ ssh-add <path>/<file_name> 1

   1

   SSH 개인 키의 경로와 파일 이름을 지정합니다(예: ~/.ssh/id_ed25519).

   출력 예

   Identity added: /home/<you>/<path>/<file_name> (<computer_name>)