6.6. BMC 인증 정보 없이 실패한 베어 메탈 컨트롤 플레인 노드 교체
베어 메탈 클러스터의 컨트롤 플레인 노드가 실패하고 복구할 수 없지만 베이스 보드 관리 컨트롤러(BMC) 인증 정보를 제공하지 않고 클러스터를 설치할 수 없는 경우 실패한 노드를 새 노드로 교체하기 위해 추가 단계를 수행해야 합니다.
6.6.1. 사전 요구 사항 링크 복사링크가 클립보드에 복사되었습니다!
- 비정상 베어 메탈 etcd 멤버를 확인했습니다.
- 시스템이 실행되고 있지 않거나 노드가 준비되지 않았음을 확인했습니다.
-
cluster-admin역할의 사용자로 클러스터에 액세스할 수 있어야 합니다. - 문제가 발생할 경우 etcd 백업을 수행했습니다.
-
coreos-installerCLI 를 다운로드하여 설치했습니다. 클러스터에 컨트롤 플레인
머신 세트가없습니다. 다음 명령을 실행하여머신 세트를확인할 수 있습니다.oc get machinesets,controlplanemachinesets -n openshift-machine-api
$ oc get machinesets,controlplanemachinesets -n openshift-machine-apiCopy to Clipboard Copied! Toggle word wrap Toggle overflow 중요작업자에 대해 하나 이상의
머신 세트만 있어야 합니다. 컨트롤 플레인에controlplanemachinesets가 있는 경우 이 절차를 사용하지 마십시오.
6.6.2. 비정상적인 etcd 멤버 제거 링크 복사링크가 클립보드에 복사되었습니다!
비정상 etcd 멤버를 먼저 제거하여 실패한 컨트롤 플레인 노드 제거를 시작합니다.
프로세스
다음 명령을 실행하여 etcd pod를 나열하고 영향을 받는 노드에 없는 pod를 기록하십시오.
oc -n openshift-etcd get pods -l k8s-app=etcd -o wide
$ oc -n openshift-etcd get pods -l k8s-app=etcd -o wideCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
etcd-openshift-control-plane-0 5/5 Running 11 3h56m 192.168.10.9 openshift-control-plane-0 <none> <none> etcd-openshift-control-plane-1 5/5 Running 0 3h54m 192.168.10.10 openshift-control-plane-1 <none> <none> etcd-openshift-control-plane-2 5/5 Running 0 3h58m 192.168.10.11 openshift-control-plane-2 <none> <none>
etcd-openshift-control-plane-0 5/5 Running 11 3h56m 192.168.10.9 openshift-control-plane-0 <none> <none> etcd-openshift-control-plane-1 5/5 Running 0 3h54m 192.168.10.10 openshift-control-plane-1 <none> <none> etcd-openshift-control-plane-2 5/5 Running 0 3h58m 192.168.10.11 openshift-control-plane-2 <none> <none>Copy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 실행중인 etcd 컨테이너에 연결합니다.
oc rsh -n openshift-etcd <etcd_pod>
$ oc rsh -n openshift-etcd <etcd_pod>Copy to Clipboard Copied! Toggle word wrap Toggle overflow &
lt;etcd_pod>를 정상 노드 중 하나와 연결된 etcd pod의 이름으로 바꿉니다.명령 예
oc rsh -n openshift-etcd etcd-openshift-control-plane-0
$ oc rsh -n openshift-etcd etcd-openshift-control-plane-0Copy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 etcd 멤버 목록을 확인합니다. 이러한 값은 나중에 필요하므로 비정상 etcd 멤버의 ID와 이름을 기록해 두십시오.
etcdctl member list -w table
sh-4.2# etcdctl member list -w tableCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 중요etcdctl endpoint health명령은 교체가 완료되고 새 멤버가 추가될 때까지 제거된 멤버를 나열합니다.다음 명령을 실행하여 비정상적인 etcd 멤버를 제거하십시오.
etcdctl member remove <unhealthy_member_id>
sh-4.2# etcdctl member remove <unhealthy_member_id>Copy to Clipboard Copied! Toggle word wrap Toggle overflow &
lt;unhealthy_member_id>를 비정상 노드의 etcd 멤버 ID로 바꿉니다.명령 예
etcdctl member remove 6fc1e7c9db35841d
sh-4.2# etcdctl member remove 6fc1e7c9db35841dCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
Member 6fc1e7c9db35841d removed from cluster b23536c33f2cdd1b
Member 6fc1e7c9db35841d removed from cluster b23536c33f2cdd1bCopy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 멤버 목록을 다시 확인하고 멤버가 제거되었는지 확인합니다.
etcdctl member list -w table
sh-4.2# etcdctl member list -w tableCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 중요멤버를 제거한 후 나머지 etcd 인스턴스가 재부팅되는 동안 클러스터에 짧은 시간 동안 클러스터에 연결할 수 없을 수 있습니다.
다음 명령을 실행하여 rsh 세션을 etcd pod로 종료합니다.
exit
sh-4.2# exitCopy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 etcd 쿼럼 가드를 끕니다.
oc patch etcd/cluster --type=merge -p '{"spec": {"unsupportedConfigOverrides": {"useUnsupportedUnsafeNonHANonProductionUnstableEtcd": true}}}'$ oc patch etcd/cluster --type=merge -p '{"spec": {"unsupportedConfigOverrides": {"useUnsupportedUnsafeNonHANonProductionUnstableEtcd": true}}}'Copy to Clipboard Copied! Toggle word wrap Toggle overflow 이 명령을 사용하면 시크릿을 성공적으로 다시 생성하고 정적 Pod를 롤아웃할 수 있습니다.
다음 명령을 실행하여 제거된 비정상적인 etcd 멤버의 시크릿을 나열합니다.
oc get secrets -n openshift-etcd | grep <node_name>
$ oc get secrets -n openshift-etcd | grep <node_name>Copy to Clipboard Copied! Toggle word wrap Toggle overflow &
lt;node_name>을 제거한 etcd 멤버가 실패한 노드의 이름으로 바꿉니다.명령 예
oc get secrets -n openshift-etcd | grep openshift-control-plane-2
$ oc get secrets -n openshift-etcd | grep openshift-control-plane-2Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
etcd-peer-openshift-control-plane-2 kubernetes.io/tls 2 134m etcd-serving-metrics-openshift-control-plane-2 kubernetes.io/tls 2 134m etcd-serving-openshift-control-plane-2 kubernetes.io/tls 2 134m
etcd-peer-openshift-control-plane-2 kubernetes.io/tls 2 134m etcd-serving-metrics-openshift-control-plane-2 kubernetes.io/tls 2 134m etcd-serving-openshift-control-plane-2 kubernetes.io/tls 2 134mCopy to Clipboard Copied! Toggle word wrap Toggle overflow 제거된 영향을 받는 노드와 연결된 보안을 삭제합니다.
다음 명령을 실행하여 피어 시크릿을 삭제합니다.
oc delete secret -n openshift-etcd etcd-peer-<node_name>
$ oc delete secret -n openshift-etcd etcd-peer-<node_name>Copy to Clipboard Copied! Toggle word wrap Toggle overflow &
lt;node_name>을 영향을 받는 노드의 이름으로 바꿉니다.다음 명령을 실행하여 제공 시크릿을 삭제합니다.
oc delete secret -n openshift-etcd etcd-serving-<node_name>
$ oc delete secret -n openshift-etcd etcd-serving-<node_name>Copy to Clipboard Copied! Toggle word wrap Toggle overflow &
lt;node_name>을 영향을 받는 노드의 이름으로 바꿉니다.다음 명령을 실행하여 메트릭 시크릿을 삭제합니다.
oc delete secret -n openshift-etcd etcd-serving-metrics-<node_name>
$ oc delete secret -n openshift-etcd etcd-serving-metrics-<node_name>1 Copy to Clipboard Copied! Toggle word wrap Toggle overflow &
lt;node_name>을 영향을 받는 노드의 이름으로 바꿉니다.
6.6.3. 비정상적인 etcd 멤버의 머신 삭제 링크 복사링크가 클립보드에 복사되었습니다!
비정상 etcd 멤버의 시스템을 삭제하여 실패한 컨트롤 플레인 노드 제거를 완료합니다.
프로세스
다음 명령을 실행하여 Bare Metal Operator를 사용할 수 있는지 확인합니다.
oc get clusteroperator baremetal
$ oc get clusteroperator baremetalCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
NAME VERSION AVAILABLE PROGRESSING DEGRADED SINCE MESSAGE baremetal 4.20.0 True False False 3d15h
NAME VERSION AVAILABLE PROGRESSING DEGRADED SINCE MESSAGE baremetal 4.20.0 True False False 3d15hCopy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 영향을 받는 노드의
BareMetalHost오브젝트를 나중에 사용할 수 있도록 파일에 저장합니다.oc get -n openshift-machine-api bmh <node_name> -o yaml > bmh_affected.yaml
$ oc get -n openshift-machine-api bmh <node_name> -o yaml > bmh_affected.yamlCopy to Clipboard Copied! Toggle word wrap Toggle overflow &
lt;node_name>을 영향을 받는 노드의 이름으로 교체합니다. 이 이름은 일반적으로 관련BareMetalHost이름과 일치합니다.다음 명령을 실행하여 저장된
BareMetalHost오브젝트의 YAML 파일을 보고 내용이 올바른지 확인합니다.cat bmh_affected.yaml
$ cat bmh_affected.yamlCopy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 영향을 받는
BareMetalHost오브젝트를 제거합니다.oc delete -n openshift-machine-api bmh <node_name>
$ oc delete -n openshift-machine-api bmh <node_name>Copy to Clipboard Copied! Toggle word wrap Toggle overflow &
lt;node_name>을 영향을 받는 노드의 이름으로 바꿉니다.다음 명령을 실행하여 모든 머신을 나열하고 영향을 받는 노드와 연결된 머신을 식별합니다.
oc get machines -n openshift-machine-api -o wide
$ oc get machines -n openshift-machine-api -o wideCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 비정상 멤버의 시스템을 삭제합니다.
oc delete machine -n openshift-machine-api <machine_name>
$ oc delete machine -n openshift-machine-api <machine_name>Copy to Clipboard Copied! Toggle word wrap Toggle overflow &
lt;machine_name>을 영향을 받는 노드와 연결된 머신 이름으로 바꿉니다.명령 예
oc delete machine -n openshift-machine-api examplecluster-control-plane-2
$ oc delete machine -n openshift-machine-api examplecluster-control-plane-2Copy to Clipboard Copied! Toggle word wrap Toggle overflow 참고BareMetalHost및Machine오브젝트를 제거하면 머신 컨트롤러에서Node오브젝트를 자동으로 삭제합니다.어떠한 이유로든 머신 삭제가 지연되거나 명령이 차단되고 지연되는 경우 머신 오브젝트 종료자 필드를 제거하여 강제로 삭제합니다.
주의Ctrl+c를 눌러 시스템 삭제를 중단하지 마십시오. 명령이 완료될 수 있도록 허용해야 합니다. 새 터미널 창을 열어 종료자 필드를 편집하고 삭제합니다.새 터미널 창에서 다음 명령을 실행하여 머신 구성을 편집합니다.
oc edit machine -n openshift-machine-api examplecluster-control-plane-2
$ oc edit machine -n openshift-machine-api examplecluster-control-plane-2Copy to Clipboard Copied! Toggle word wrap Toggle overflow Machine사용자 정의 리소스에서 다음 필드를 삭제한 다음 업데이트된 파일을 저장합니다.finalizers: - machine.machine.openshift.io
finalizers: - machine.machine.openshift.ioCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
machine.machine.openshift.io/examplecluster-control-plane-2 edited
machine.machine.openshift.io/examplecluster-control-plane-2 editedCopy to Clipboard Copied! Toggle word wrap Toggle overflow
6.6.4. 오류가 발생한 노드가 삭제되었는지 확인 링크 복사링크가 클립보드에 복사되었습니다!
교체 컨트롤 플레인 노드를 생성하기 전에 오류가 발생한 노드가 성공적으로 삭제되었는지 확인합니다.
프로세스
다음 명령을 실행하여 머신이 삭제되었는지 확인합니다.
oc get machines -n openshift-machine-api -o wide
$ oc get machines -n openshift-machine-api -o wideCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
NAME PHASE TYPE REGION ZONE AGE NODE PROVIDERID STATE examplecluster-control-plane-0 Running 3h11m openshift-control-plane-0 baremetalhost:///openshift-machine-api/openshift-control-plane-0/da1ebe11-3ff2-41c5-b099-0aa41222964e externally provisioned examplecluster-control-plane-1 Running 3h11m openshift-control-plane-1 baremetalhost:///openshift-machine-api/openshift-control-plane-1/d9f9acbc-329c-475e-8d81-03b20280a3e1 externally provisioned examplecluster-compute-0 Running 165m openshift-compute-0 baremetalhost:///openshift-machine-api/openshift-compute-0/3d685b81-7410-4bb3-80ec-13a31858241f provisioned examplecluster-compute-1 Running 165m openshift-compute-1 baremetalhost:///openshift-machine-api/openshift-compute-1/0fdae6eb-2066-4241-91dc-e7ea72ab13b9 provisioned
NAME PHASE TYPE REGION ZONE AGE NODE PROVIDERID STATE examplecluster-control-plane-0 Running 3h11m openshift-control-plane-0 baremetalhost:///openshift-machine-api/openshift-control-plane-0/da1ebe11-3ff2-41c5-b099-0aa41222964e externally provisioned examplecluster-control-plane-1 Running 3h11m openshift-control-plane-1 baremetalhost:///openshift-machine-api/openshift-control-plane-1/d9f9acbc-329c-475e-8d81-03b20280a3e1 externally provisioned examplecluster-compute-0 Running 165m openshift-compute-0 baremetalhost:///openshift-machine-api/openshift-compute-0/3d685b81-7410-4bb3-80ec-13a31858241f provisioned examplecluster-compute-1 Running 165m openshift-compute-1 baremetalhost:///openshift-machine-api/openshift-compute-1/0fdae6eb-2066-4241-91dc-e7ea72ab13b9 provisionedCopy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 노드가 삭제되었는지 확인합니다.
oc get nodes
$ oc get nodesCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
NAME STATUS ROLES AGE VERSION openshift-control-plane-0 Ready master 3h24m v1.33.4 openshift-control-plane-1 Ready master 3h24m v1.33.4 openshift-compute-0 Ready worker 176m v1.33.4 openshift-compute-1 Ready worker 176m v1.33.4
NAME STATUS ROLES AGE VERSION openshift-control-plane-0 Ready master 3h24m v1.33.4 openshift-control-plane-1 Ready master 3h24m v1.33.4 openshift-compute-0 Ready worker 176m v1.33.4 openshift-compute-1 Ready worker 176m v1.33.4Copy to Clipboard Copied! Toggle word wrap Toggle overflow 모든 클러스터 Operator가 롤아웃 변경 사항을 완료할 때까지 기다립니다. 다음 명령을 실행하여 진행 상황을 모니터링합니다.
watch oc get co
$ watch oc get coCopy to Clipboard Copied! Toggle word wrap Toggle overflow
6.6.5. 새 컨트롤 플레인 노드 생성 링크 복사링크가 클립보드에 복사되었습니다!
BareMetalHost 오브젝트 및 노드를 생성하여 새 컨트롤 플레인 노드 생성을 시작합니다.
프로세스
이전에 저장한
bmh_affected.yaml파일을 편집합니다.파일에서 다음 메타데이터 항목을 제거합니다.
-
creationTimestamp -
생성 -
resourceVersion -
uid
-
-
파일의
status섹션을 제거합니다.
결과 파일은 다음 예와 유사해야 합니다.
bmh_affected.yaml파일의 예Copy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여
bmh_affected.yaml파일을 사용하여BareMetalHost오브젝트를 생성합니다.oc create -f bmh_affected.yaml
$ oc create -f bmh_affected.yamlCopy to Clipboard Copied! Toggle word wrap Toggle overflow BareMetalHost오브젝트를 생성하면 다음 경고가 예상됩니다.Warning: metadata.finalizers: "baremetalhost.metal3.io": prefer a domain-qualified finalizer name to avoid accidental conflicts with other finalizer writers
Warning: metadata.finalizers: "baremetalhost.metal3.io": prefer a domain-qualified finalizer name to avoid accidental conflicts with other finalizer writersCopy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 컨트롤 플레인 ignition 시크릿을 추출합니다.
oc extract secret/master-user-data-managed \ -n openshift-machine-api \ --keys=userData \ --to=- \ | sed '/^userData/d' > new_controlplane.ign$ oc extract secret/master-user-data-managed \ -n openshift-machine-api \ --keys=userData \ --to=- \ | sed '/^userData/d' > new_controlplane.ignCopy to Clipboard Copied! Toggle word wrap Toggle overflow 이 명령은 Ignition 시크릿의 시작
userData행도 제거합니다.다음 예제를 참조하여 새 노드의 네트워크 구성에 대해
new_controlplane_nmstate.yaml이라는 제목의 Nmstate YAML 파일을 생성합니다.Nmstate YAML 파일의 예
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 참고에이전트 기반 설치 관리자를 사용하여 클러스터를 설치한 경우 원래 클러스터 배포의
agent-config.yaml파일에 있는 실패한 노드의networkConfig섹션을 새 컨트롤 플레인 노드의 Nmstate 파일의 시작점으로 사용할 수 있습니다. 예를 들어 다음 명령은 첫 번째 컨트롤 플레인 노드의networkConfig섹션을 추출합니다.cat agent-config-iso.yaml | yq .hosts[0].networkConfig > new_controlplane_nmstate.yaml
$ cat agent-config-iso.yaml | yq .hosts[0].networkConfig > new_controlplane_nmstate.yamlCopy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 사용자 지정 RHCOS(Red Hat Enterprise Linux CoreOS) 라이브 ISO를 생성합니다.
coreos-installer iso customize rhcos-live.86_64.iso \ --dest-ignition new_controlplane.ign \ --network-nmstate new_controlplane_nmstate.yaml \ --dest-device /dev/disk/by-path/<device_path> \ -f$ coreos-installer iso customize rhcos-live.86_64.iso \ --dest-ignition new_controlplane.ign \ --network-nmstate new_controlplane_nmstate.yaml \ --dest-device /dev/disk/by-path/<device_path> \ -fCopy to Clipboard Copied! Toggle word wrap Toggle overflow &
lt;device_path>를 ISO가 생성될 대상 장치의 경로로 바꿉니다.- 사용자 지정 RHCOS 라이브 ISO를 사용하여 새 컨트롤 플레인 노드를 부팅합니다.
- 새 노드에 클러스터에 가입하도록 CSR(인증서 서명 요청)을 승인합니다.
6.6.6. 노드, 베어 메탈 호스트 및 머신을 함께 연결 링크 복사링크가 클립보드에 복사되었습니다!
머신을 생성한 다음 새 BareMetalHost 오브젝트 및 노드와 연결하여 새 컨트롤 플레인 노드를 계속 생성합니다.
프로세스
다음 명령을 실행하여 컨트롤 플레인 노드의
providerID를 가져옵니다.oc get -n openshift-machine-api baremetalhost -l installer.openshift.io/role=control-plane -ojson | jq -r '.items[] | "baremetalhost:///openshift-machine-api/" + .metadata.name + "/" + .metadata.uid'
$ oc get -n openshift-machine-api baremetalhost -l installer.openshift.io/role=control-plane -ojson | jq -r '.items[] | "baremetalhost:///openshift-machine-api/" + .metadata.name + "/" + .metadata.uid'Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
baremetalhost:///openshift-machine-api/master-00/6214c5cf-c798-4168-8c78-1ff1a3cd2cb4 baremetalhost:///openshift-machine-api/master-01/58fb60bd-b2a6-4ff3-a88d-208c33abf954 baremetalhost:///openshift-machine-api/master-02/dc5a94f3-625b-43f6-ab5a-7cc4fc79f105
baremetalhost:///openshift-machine-api/master-00/6214c5cf-c798-4168-8c78-1ff1a3cd2cb4 baremetalhost:///openshift-machine-api/master-01/58fb60bd-b2a6-4ff3-a88d-208c33abf954 baremetalhost:///openshift-machine-api/master-02/dc5a94f3-625b-43f6-ab5a-7cc4fc79f105Copy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 라벨에 대한 클러스터 정보를 가져옵니다.
oc get machine -n openshift-machine-api \ -l machine.openshift.io/cluster-api-machine-role=master \ -L machine.openshift.io/cluster-api-cluster$ oc get machine -n openshift-machine-api \ -l machine.openshift.io/cluster-api-machine-role=master \ -L machine.openshift.io/cluster-api-clusterCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예
NAME PHASE TYPE REGION ZONE AGE CLUSTER-API-CLUSTER ci-op-jcp3s7wx-ng5sd-master-0 Running 10h ci-op-jcp3s7wx-ng5sd ci-op-jcp3s7wx-ng5sd-master-1 Running 10h ci-op-jcp3s7wx-ng5sd ci-op-jcp3s7wx-ng5sd-master-2 Running 10h ci-op-jcp3s7wx-ng5sd
NAME PHASE TYPE REGION ZONE AGE CLUSTER-API-CLUSTER ci-op-jcp3s7wx-ng5sd-master-0 Running 10h ci-op-jcp3s7wx-ng5sd ci-op-jcp3s7wx-ng5sd-master-1 Running 10h ci-op-jcp3s7wx-ng5sd ci-op-jcp3s7wx-ng5sd-master-2 Running 10h ci-op-jcp3s7wx-ng5sdCopy to Clipboard Copied! Toggle word wrap Toggle overflow 다음과 유사한 yaml 파일을 생성하여 새 컨트롤 플레인 노드에 대한
Machine오브젝트를 생성합니다.Copy to Clipboard Copied! Toggle word wrap Toggle overflow 다음과 같습니다.
<new_control_plane_machine>- 이전에 삭제한 머신 이름과 같을 수 있는 새 머신의 이름을 지정합니다.
<cluster_api_cluster>-
이전 단계의 출력에 표시된 다른 컨트롤 플레인 시스템의
CLUSTER-API-CLUSTER값을 지정합니다. <provider_id>-
이전 단계의 출력에 표시된 새 베어 메탈 호스트의
providerID값을 지정합니다.
다음 경고가 예상됩니다.
Warning: metadata.finalizers: "machine.machine.openshift.io": prefer a domain-qualified finalizer name to avoid accidental conflicts with other finalizer writers
Warning: metadata.finalizers: "machine.machine.openshift.io": prefer a domain-qualified finalizer name to avoid accidental conflicts with other finalizer writersCopy to Clipboard Copied! Toggle word wrap Toggle overflow 단일 bash 쉘 세션에서 다음 단계를 수행하여 새 컨트롤 플레인 노드 및
Machine오브젝트를BareMetalHost오브젝트에 연결합니다.다음 명령을 실행하여
NEW_NODE_NAME변수를 정의합니다.NEW_NODE_NAME=<new_node_name>
$ NEW_NODE_NAME=<new_node_name>Copy to Clipboard Copied! Toggle word wrap Toggle overflow &
lt;new_node_name>을 새 컨트롤 플레인 노드의 이름으로 바꿉니다.다음 명령을 실행하여
NEW_MACHINE_NAME변수를 정의합니다.NEW_MACHINE_NAME=<new_machine_name>
$ NEW_MACHINE_NAME=<new_machine_name>Copy to Clipboard Copied! Toggle word wrap Toggle overflow &
lt;new_machine_name>을 새 머신의 이름으로 바꿉니다.새 노드의
BareMetalHost오브젝트에서 추출하도록 다음 명령을 실행하여BMH_UID를 정의합니다.BMH_UID=$(oc get -n openshift-machine-api bmh $NEW_NODE_NAME -ojson | jq -r .metadata.uid)
$ BMH_UID=$(oc get -n openshift-machine-api bmh $NEW_NODE_NAME -ojson | jq -r .metadata.uid)Copy to Clipboard Copied! Toggle word wrap Toggle overflow echo $BMH_UID
$ echo $BMH_UIDCopy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여
consumerRef오브젝트를 베어 메탈 호스트에 패치합니다.oc patch -n openshift-machine-api bmh $NEW_NODE_NAME --type merge --patch '{"spec":{"consumerRef":{"apiVersion":"machine.openshift.io/v1beta1","kind":"Machine","name":"'$NEW_MACHINE_NAME'","namespace":"openshift-machine-api"}}}'$ oc patch -n openshift-machine-api bmh $NEW_NODE_NAME --type merge --patch '{"spec":{"consumerRef":{"apiVersion":"machine.openshift.io/v1beta1","kind":"Machine","name":"'$NEW_MACHINE_NAME'","namespace":"openshift-machine-api"}}}'Copy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여
providerID값을 새 노드에 패치합니다.oc patch node $NEW_NODE_NAME --type merge --patch '{"spec":{"providerID":"baremetalhost:///openshift-machine-api/'$NEW_NODE_NAME'/'$BMH_UID'"}}'$ oc patch node $NEW_NODE_NAME --type merge --patch '{"spec":{"providerID":"baremetalhost:///openshift-machine-api/'$NEW_NODE_NAME'/'$BMH_UID'"}}'Copy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여
providerID값을 검토합니다.oc get node -l node-role.kubernetes.io/control-plane -ojson | jq -r '.items[] | .metadata.name + " " + .spec.providerID'
$ oc get node -l node-role.kubernetes.io/control-plane -ojson | jq -r '.items[] | .metadata.name + " " + .spec.providerID'Copy to Clipboard Copied! Toggle word wrap Toggle overflow
다음 명령을 실행하여
BareMetalHost오브젝트의 powerOn상태를true로 설정합니다.oc patch -n openshift-machine-api bmh $NEW_NODE_NAME --subresource status --type json -p '[{"op":"replace","path":"/status/poweredOn","value":true}]'$ oc patch -n openshift-machine-api bmh $NEW_NODE_NAME --subresource status --type json -p '[{"op":"replace","path":"/status/poweredOn","value":true}]'Copy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여
BareMetalHost오브젝트의 powerOn상태를 검토합니다.oc get bmh -n openshift-machine-api -ojson | jq -r '.items[] | .metadata.name + " PoweredOn:" + (.status.poweredOn | tostring)'
$ oc get bmh -n openshift-machine-api -ojson | jq -r '.items[] | .metadata.name + " PoweredOn:" + (.status.poweredOn | tostring)'Copy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여
BareMetalHost오브젝트의 프로비저닝 상태를 검토합니다.oc get bmh -n openshift-machine-api -ojson | jq -r '.items[] | .metadata.name + " ProvisioningState:" + .status.provisioning.state'
$ oc get bmh -n openshift-machine-api -ojson | jq -r '.items[] | .metadata.name + " ProvisioningState:" + .status.provisioning.state'Copy to Clipboard Copied! Toggle word wrap Toggle overflow 중요프로비저닝 상태가
관리되지않는 경우 다음 명령을 실행하여 프로비저닝 상태를 변경합니다.oc patch -n openshift-machine-api bmh $NEW_NODE_NAME --subresource status --type json -p '[{"op":"replace","path":"/status/provisioning/state","value":"unmanaged"}]'$ oc patch -n openshift-machine-api bmh $NEW_NODE_NAME --subresource status --type json -p '[{"op":"replace","path":"/status/provisioning/state","value":"unmanaged"}]'Copy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 머신의 상태를
Provisioned로 설정합니다.oc patch -n openshift-machine-api machines $NEW_MACHINE_NAME -n openshift-machine-api --subresource status --type json -p '[{"op":"replace","path":"/status/phase","value":"Provisioned"}]'$ oc patch -n openshift-machine-api machines $NEW_MACHINE_NAME -n openshift-machine-api --subresource status --type json -p '[{"op":"replace","path":"/status/phase","value":"Provisioned"}]'Copy to Clipboard Copied! Toggle word wrap Toggle overflow
6.6.7. 새 etcd 멤버 추가 링크 복사링크가 클립보드에 복사되었습니다!
클러스터에 새 etcd 멤버를 추가하여 새 컨트롤 플레인 노드 추가를 완료합니다.
프로세스
단일 bash 쉘 세션에서 다음 단계를 수행하여 새 etcd 멤버를 클러스터에 추가합니다.
다음 명령을 실행하여 새 컨트롤 플레인 노드의 IP를 찾습니다.
oc get nodes -owide -l node-role.kubernetes.io/control-plane
$ oc get nodes -owide -l node-role.kubernetes.io/control-planeCopy to Clipboard Copied! Toggle word wrap Toggle overflow 나중에 사용할 수 있도록 노드의 IP 주소를 기록합니다.
다음 명령을 실행하여 etcd pod를 나열합니다.
oc get -n openshift-etcd pods -l k8s-app=etcd -o wide
$ oc get -n openshift-etcd pods -l k8s-app=etcd -o wideCopy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 실행 중인 etcd pod 중 하나에 연결합니다. 새 노드의 etcd pod는
CrashLoopBackOff상태에 있어야 합니다.oc rsh -n openshift-etcd <running_pod>
$ oc rsh -n openshift-etcd <running_pod>Copy to Clipboard Copied! Toggle word wrap Toggle overflow &
lt;running_pod>를 이전 단계에 표시된 실행 중인 Pod의 이름으로 바꿉니다.다음 명령을 실행하여 etcd 멤버 목록을 확인합니다.
etcdctl member list -w table
sh-4.2# etcdctl member list -w tableCopy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 새 컨트롤 플레인 etcd 멤버를 추가합니다.
etcdctl member add <new_node> --peer-urls="https://<ip_address>:2380"
sh-4.2# etcdctl member add <new_node> --peer-urls="https://<ip_address>:2380"Copy to Clipboard Copied! Toggle word wrap Toggle overflow 다음과 같습니다.
<new_node>- 새 컨트롤 플레인 노드의 이름을 지정합니다.
<ip_address>- 새 노드의 IP 주소를 지정합니다.
다음 명령을 실행하여 rsh 쉘을 종료합니다.
exit
sh-4.2# exitCopy to Clipboard Copied! Toggle word wrap Toggle overflow
다음 명령을 실행하여 etcd를 강제로 재배포합니다.
oc patch etcd cluster -p='{"spec": {"forceRedeploymentReason": "single-master-recovery-'"$( date --rfc-3339=ns )"'"}}' --type=merge$ oc patch etcd cluster -p='{"spec": {"forceRedeploymentReason": "single-master-recovery-'"$( date --rfc-3339=ns )"'"}}' --type=mergeCopy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 etcd 쿼럼 가드를 다시 켭니다.
oc patch etcd/cluster --type=merge -p '{"spec": {"unsupportedConfigOverrides": null}}'$ oc patch etcd/cluster --type=merge -p '{"spec": {"unsupportedConfigOverrides": null}}'Copy to Clipboard Copied! Toggle word wrap Toggle overflow 다음 명령을 실행하여 클러스터 Operator 롤아웃을 모니터링합니다.
watch oc get co
$ watch oc get coCopy to Clipboard Copied! Toggle word wrap Toggle overflow