OpenShift Container Storage is now OpenShift Data Foundation starting with version 4.9.
2.3. IBM Power 인프라에서 스토리지 노드 교체
OpenShift Data Foundation의 경우 운영 노드에 대해 노드 교체를 사전에 수행하고 IBM Power 관련 배포에 실패한 노드에 대해 반응적으로 수행될 수 있습니다.
2.3.1. IBM Power에서 운영 또는 실패한 스토리지 노드 교체 링크 복사링크가 클립보드에 복사되었습니다!
사전 요구 사항
- Red Hat은 교체 중인 노드의 유사한 인프라와 리소스로 교체된 노드를 구성하는 것이 좋습니다.
- RHOCP(OpenShift Container Platform) 클러스터에 로그인해야 합니다.
절차
교체할 노드에서 노드와 get 레이블을 식별합니다.
oc get nodes --show-labels | grep <node_name>
$ oc get nodes --show-labels | grep <node_name>
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 교체할 노드에서 실행 중인
mon
(있는 경우) 및 개체 스토리지 장치(OSD) 포드를 식별합니다.oc get pods -n openshift-storage -o wide | grep -i <node_name>
$ oc get pods -n openshift-storage -o wide | grep -i <node_name>
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 이전 단계에서 식별된 포드의 배포를 축소합니다.
예를 들면 다음과 같습니다.
oc scale deployment rook-ceph-mon-a --replicas=0 -n openshift-storage oc scale deployment rook-ceph-osd-1 --replicas=0 -n openshift-storage oc scale deployment --selector=app=rook-ceph-crashcollector,node_name=<node_name> --replicas=0 -n openshift-storage
$ oc scale deployment rook-ceph-mon-a --replicas=0 -n openshift-storage $ oc scale deployment rook-ceph-osd-1 --replicas=0 -n openshift-storage $ oc scale deployment --selector=app=rook-ceph-crashcollector,node_name=<node_name> --replicas=0 -n openshift-storage
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 노드를 예약 불가능으로 표시합니다.
oc adm cordon <node_name>
$ oc adm cordon <node_name>
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 종료 상태인 Pod를 제거합니다.
oc get pods -A -o wide | grep -i <node_name> | awk '{if ($4 == "Terminating") system ("oc -n " $1 " delete pods " $2 " --grace-period=0 " " --force ")}'
$ oc get pods -A -o wide | grep -i <node_name> | awk '{if ($4 == "Terminating") system ("oc -n " $1 " delete pods " $2 " --grace-period=0 " " --force ")}'
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 노드를 드레이닝합니다.
oc adm drain <node_name> --force --delete-emptydir-data=true --ignore-daemonsets
$ oc adm drain <node_name> --force --delete-emptydir-data=true --ignore-daemonsets
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 노드를 삭제합니다.
oc delete node <node_name>
$ oc delete node <node_name>
Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 필수 인프라로 새로운 IBM Power 시스템 확보. IBM Power에 클러스터 설치를 참조하십시오.
- 새 IBM Power 머신을 사용하여 새 OpenShift Container Platform 노드를 생성합니다.
Pending 상태인
OpenShift Container Platform과 관련된 CSR(인증서 서명 요청)을 확인합니다.oc get csr
$ oc get csr
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 새 노드에 필요한 모든 OpenShift Container Platform CSR을 승인합니다.
oc adm certificate approve <Certificate_Name>
$ oc adm certificate approve <Certificate_Name>
Copy to Clipboard Copied! Toggle word wrap Toggle overflow -
OpenShift 웹 콘솔에서 Compute
Nodes (컴퓨팅 노드)를 클릭하고 새 노드가 Ready 상태인지 확인합니다. 다음 중 하나를 사용하여 OpenShift Data Foundation 레이블을 새 노드에 적용합니다.
- 출처: 사용자 인터페이스
-
새 노드의 경우 작업 메뉴 (PS)
레이블 편집을 클릭합니다. -
cluster.ocs.openshift.io/openshift-storage
를 추가하고 Save(저장 )를 클릭합니다.
-
새 노드의 경우 작업 메뉴 (PS)
- 명령줄 인터페이스의
- 다음 명령을 실행하여 OpenShift Data Foundation 레이블을 새 노드에 적용합니다.
oc label node <new_node_name> cluster.ocs.openshift.io/openshift-storage=''
$ oc label node <new_node_name> cluster.ocs.openshift.io/openshift-storage=''
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
OpenShift 로컬 스토리지 운영자가 설치된 네임스페이스를 식별하고
local_storage_project
변수에 할당합니다.local_storage_project=$(oc get csv --all-namespaces | awk '{print $1}' | grep local)
$ local_storage_project=$(oc get csv --all-namespaces | awk '{print $1}' | grep local)
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예를 들면 다음과 같습니다.
local_storage_project=$(oc get csv --all-namespaces | awk '{print $1}' | grep local)
$ local_storage_project=$(oc get csv --all-namespaces | awk '{print $1}' | grep local) echo $local_storage_project openshift-local-storage
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 새로 추가된 작업자 노드를 localVolume에 추가합니다.
편집할
localVolume
을 확인합니다.oc get -n $local_storage_project localvolume
# oc get -n $local_storage_project localvolume NAME AGE localblock 25h
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 새 노드를 포함하고 실패한 노드를 제거하도록
localVolume
정의를 업데이트합니다.Copy to Clipboard Copied! Toggle word wrap Toggle overflow 편집기를 종료하기 전에 저장해야 합니다.
위의 예에서
worker-0
이 제거되었으며worker-3
은 새 노드입니다.
새
localblock
PV를 사용할 수 있는지 확인합니다.Copy to Clipboard Copied! Toggle word wrap Toggle overflow openshift-storage
프로젝트로 변경합니다.oc project openshift-storage
$ oc project openshift-storage
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 클러스터에서 실패한 OSD를 제거합니다. 필요한 경우 여러 개의 실패한 OSD를 지정할 수 있습니다.
나중에 PVC를 식별하고 해당 특정 PVC와 연결된 PV를 삭제해야 합니다.
osd_id_to_remove=1 oc get -n openshift-storage -o yaml deployment rook-ceph-osd-${osd_id_to_remove} | grep ceph.rook.io/pvc
$ osd_id_to_remove=1 $ oc get -n openshift-storage -o yaml deployment rook-ceph-osd-${osd_id_to_remove} | grep ceph.rook.io/pvc
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 여기서
osd_id_to_remove
는rook-ceph-osd 접두사
바로 뒤에 있는 Pod 이름의 정수입니다. 이 예에서 배포 이름은rook-ceph-osd-1
입니다.출력 예:
ceph.rook.io/pvc: ocs-deviceset-localblock-0-data-0-g2mmc ceph.rook.io/pvc: ocs-deviceset-localblock-0-data-0-g2mmc
ceph.rook.io/pvc: ocs-deviceset-localblock-0-data-0-g2mmc ceph.rook.io/pvc: ocs-deviceset-localblock-0-data-0-g2mmc
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 이 예에서 PVC 이름은
ocs-deviceset-localblock-0-data-0-g2mmc
입니다.클러스터에서 실패한 OSD를 제거합니다. 필요한 경우 여러 개의 실패한 OSD를 지정할 수 있습니다.
oc process -n openshift-storage ocs-osd-removal \ -p FAILED_OSD_IDS=<failed_osd_id> -p FORCE_OSD_REMOVAL=true | oc create -n openshift-storage -f -
$ oc process -n openshift-storage ocs-osd-removal \ -p FAILED_OSD_IDS=<failed_osd_id> -p FORCE_OSD_REMOVAL=true | oc create -n openshift-storage -f -
Copy to Clipboard Copied! Toggle word wrap Toggle overflow <failed_osd_id>
rook-ceph-osd
접두사 바로 뒤에 있는 Pod 이름의 정수입니다. 명령에 쉼표로 구분된 OSD ID를 추가하여 OSD(예: FAILED_OSD_IDS=0,1,2)와 같이 두 개 이상의 OSD
를 제거할 수 있습니다.주의이 단계에서는 OSD가 클러스터에서 완전히 제거됩니다.
osd_id_to_remove
의 올바른 값이 제공되었는지 확인합니다.
ocs-osd-removal-job
포드 상태를 확인하여 OSD가 제거되었는지 확인합니다.상태가
Completed
인지 확인합니다. OSD 제거 작업이 성공했는지 확인합니다.oc get pod -l job-name=ocs-osd-removal-job -n openshift-storage
# oc get pod -l job-name=ocs-osd-removal-job -n openshift-storage
Copy to Clipboard Copied! Toggle word wrap Toggle overflow OSD 제거가 완료되었는지 확인합니다.
oc logs -l job-name=ocs-osd-removal-job -n openshift-storage --tail=-1 | egrep -i 'completed removal'
$ oc logs -l job-name=ocs-osd-removal-job -n openshift-storage --tail=-1 | egrep -i 'completed removal'
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예:
2022-05-10 06:50:04.501511 I | cephosd: completed removal of OSD 0
2022-05-10 06:50:04.501511 I | cephosd: completed removal of OSD 0
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 중요ocs-osd-removal-job
이 실패하고 Pod가 expectedCompleted
상태가 아닌 경우 Pod 로그에서 추가 디버깅을 확인합니다.예를 들면 다음과 같습니다.
oc logs -l job-name=ocs-osd-removal-job -n openshift-storage --tail=-1
# oc logs -l job-name=ocs-osd-removal-job -n openshift-storage --tail=-1
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 오류가 발생한 노드와 연결된 PV를 삭제합니다.
PVC와 연결된 PV를 식별합니다.
PVC 이름은 클러스터에서 실패한 OSD를 제거하는 동안 가져온 이름과 동일해야 합니다.
oc get pv -L kubernetes.io/hostname | grep localblock | grep Released
# oc get pv -L kubernetes.io/hostname | grep localblock | grep Released local-pv-5c9b8982 500Gi RWO Delete Released openshift-storage/ocs-deviceset-localblock-0-data-0-g2mmc localblock 24h worker-0
Copy to Clipboard Copied! Toggle word wrap Toggle overflow Released
상태의 PV가 있는 경우 삭제합니다.oc delete pv <persistent-volume>
# oc delete pv <persistent-volume>
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예를 들면 다음과 같습니다.
oc delete pv local-pv-5c9b8982
# oc delete pv local-pv-5c9b8982 persistentvolume "local-pv-5c9b8982" deleted
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
crashcollector
포드 배포를 식별합니다.oc get deployment --selector=app=rook-ceph-crashcollector,node_name=<failed_node_name> -n openshift-storage
$ oc get deployment --selector=app=rook-ceph-crashcollector,node_name=<failed_node_name> -n openshift-storage
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 기존
crashcollector
포드 배포가 있는 경우 삭제합니다.oc delete deployment --selector=app=rook-ceph-crashcollector,node_name=<failed_node_name> -n openshift-storage
$ oc delete deployment --selector=app=rook-ceph-crashcollector,node_name=<failed_node_name> -n openshift-storage
Copy to Clipboard Copied! Toggle word wrap Toggle overflow ocs-osd-removal-job
을 삭제합니다.oc delete -n openshift-storage job ocs-osd-removal-job
# oc delete -n openshift-storage job ocs-osd-removal-job
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예:
job.batch "ocs-osd-removal-job" deleted
job.batch "ocs-osd-removal-job" deleted
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
검증 단계
다음 명령을 실행하고 새 노드가 출력에 있는지 확인합니다.
oc get nodes --show-labels | grep cluster.ocs.openshift.io/openshift-storage= |cut -d' ' -f1
$ oc get nodes --show-labels | grep cluster.ocs.openshift.io/openshift-storage= |cut -d' ' -f1
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 워크로드
Pod 를 클릭하여 새 노드의 다음 Pod가 Running 상태인지 확인합니다. -
csi-cephfsplugin-*
-
csi-rbdplugin-*
-
기타 필요한 모든 OpenShift Data Foundation 포드가 Running 상태인지 확인합니다.
새 incremental
mon
이 생성되었으며 Running (실행 중) 상태인지 확인합니다.oc get pod -n openshift-storage | grep mon
$ oc get pod -n openshift-storage | grep mon
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예:
rook-ceph-mon-b-74f6dc9dd6-4llzq 1/1 Running 0 6h14m rook-ceph-mon-c-74948755c-h7wtx 1/1 Running 0 4h24m rook-ceph-mon-d-598f69869b-4bv49 1/1 Running 0 162m
rook-ceph-mon-b-74f6dc9dd6-4llzq 1/1 Running 0 6h14m rook-ceph-mon-c-74948755c-h7wtx 1/1 Running 0 4h24m rook-ceph-mon-d-598f69869b-4bv49 1/1 Running 0 162m
Copy to Clipboard Copied! Toggle word wrap Toggle overflow OSD 및 Mon은
Running
(실행 중) 상태가 되는 데 몇 분이 걸릴 수 있습니다.새 OSD 포드가 교체 노드에서 실행 중인지 확인합니다.
oc get pods -o wide -n openshift-storage| egrep -i new-node-name | egrep osd
$ oc get pods -o wide -n openshift-storage| egrep -i new-node-name | egrep osd
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 선택 사항: 클러스터에서 클러스터 전체 암호화가 활성화된 경우 새 OSD 장치가 암호화되었는지 확인합니다.
이전 단계에서 식별된 각 새 노드에 대해 다음을 수행합니다.
디버그 포드를 만들고 선택한 호스트에 대해 chroot 환경을 엽니다.
oc debug node/<node name> chroot /host
$ oc debug node/<node name> $ chroot /host
Copy to Clipboard Copied! Toggle word wrap Toggle overflow "lsblk"를 실행하고
ocs-deviceset
이름 옆의 "crypt" 키워드를 확인하십시오.lsblk
$ lsblk
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
- 확인 단계가 실패하는 경우 Red Hat 지원팀에 문의하십시오.