OpenShift Container Storage is now OpenShift Data Foundation starting with version 4.9.
2.3. IBM Power 인프라에서 스토리지 노드 교체
OpenShift Data Foundation의 경우 운영 노드에 대해 노드 교체를 사전에 수행하고 IBM Power와 관련된 배포를 위해 실패한 노드에 대해 적극적으로 노드 교체를 수행할 수 있습니다.
2.3.1. IBM Power에서 작동 또는 실패한 스토리지 노드 교체 링크 복사링크가 클립보드에 복사되었습니다!
사전 요구 사항
- 교체한 노드와 유사한 인프라 및 리소스로 교체된 교체 노드가 구성되었는지 확인합니다.
- OpenShift Container Platform 클러스터에 로그인해야 합니다.
절차
노드를 식별하고 교체해야 하는 노드의 라벨을 가져옵니다.
oc get nodes --show-labels | grep <node_name>
$ oc get nodes --show-labels | grep <node_name>Copy to Clipboard Copied! Toggle word wrap Toggle overflow <node_name>- 교체해야 하는 노드의 이름을 지정합니다.
(
있는경우) 및 교체해야 하는 노드에서 실행 중인 OSD(Object Storage Device) Pod를 식별합니다.oc get pods -n openshift-storage -o wide | grep -i <node_name>
$ oc get pods -n openshift-storage -o wide | grep -i <node_name>Copy to Clipboard Copied! Toggle word wrap Toggle overflow 이전 단계에서 확인한 Pod의 배포를 축소합니다.
예를 들어 다음과 같습니다.
oc scale deployment rook-ceph-mon-a --replicas=0 -n openshift-storage
$ oc scale deployment rook-ceph-mon-a --replicas=0 -n openshift-storageCopy to Clipboard Copied! Toggle word wrap Toggle overflow oc scale deployment rook-ceph-osd-1 --replicas=0 -n openshift-storage
$ oc scale deployment rook-ceph-osd-1 --replicas=0 -n openshift-storageCopy to Clipboard Copied! Toggle word wrap Toggle overflow oc scale deployment --selector=app=rook-ceph-crashcollector,node_name=<node_name> --replicas=0 -n openshift-storage
$ oc scale deployment --selector=app=rook-ceph-crashcollector,node_name=<node_name> --replicas=0 -n openshift-storageCopy to Clipboard Copied! Toggle word wrap Toggle overflow 노드를 예약 불가능으로 표시합니다.
oc adm cordon <node_name>
$ oc adm cordon <node_name>Copy to Clipboard Copied! Toggle word wrap Toggle overflow Terminating상태의 Pod를 제거합니다.oc get pods -A -o wide | grep -i <node_name> | awk '{if ($4 == "Terminating") system ("oc -n " $1 " delete pods " $2 " --grace-period=0 " " --force ")}'$ oc get pods -A -o wide | grep -i <node_name> | awk '{if ($4 == "Terminating") system ("oc -n " $1 " delete pods " $2 " --grace-period=0 " " --force ")}'Copy to Clipboard Copied! Toggle word wrap Toggle overflow 노드를 드레이닝합니다.
oc adm drain <node_name> --force --delete-emptydir-data=true --ignore-daemonsets
$ oc adm drain <node_name> --force --delete-emptydir-data=true --ignore-daemonsetsCopy to Clipboard Copied! Toggle word wrap Toggle overflow 노드를 제거합니다.
oc delete node <node_name>
$ oc delete node <node_name>Copy to Clipboard Copied! Toggle word wrap Toggle overflow - 필수 인프라가 있는 새로운 IBM Power 머신을 가져옵니다. IBM Power에 클러스터 설치를 참조하십시오.
- 새 IBM Power 머신을 사용하여 새 OpenShift Container Platform 노드를 생성합니다.
보류 중인OpenShift Container Platform과 관련된 CSR(인증서 서명 요청)을 확인합니다.oc get csr
$ oc get csrCopy to Clipboard Copied! Toggle word wrap Toggle overflow 새 노드에 필요한 모든 OpenShift Container Platform CSR을 승인합니다.
oc adm certificate approve <certificate_name>
$ oc adm certificate approve <certificate_name>Copy to Clipboard Copied! Toggle word wrap Toggle overflow <certificate_name>- CSR의 이름을 지정합니다.
-
OpenShift 웹 콘솔에서 컴퓨팅
노드를 클릭합니다. 새 노드가 Ready 상태인지 확인합니다. 다음 중 하나를 사용하여 새 노드에 OpenShift Data Foundation 레이블을 적용합니다.
- 사용자 인터페이스에서
- 새 노드의 Action Menu(작업 메뉴) → Edit Labels 를 클릭합니다.
-
cluster.ocs.openshift.io/openshift-storage를 추가하고 저장을 클릭합니다.
- 명령줄 인터페이스에서
- 새 노드에 OpenShift Data Foundation 레이블을 적용합니다.
oc label node <new_node_name> cluster.ocs.openshift.io/openshift-storage=''
$ oc label node <new_node_name> cluster.ocs.openshift.io/openshift-storage=''Copy to Clipboard Copied! Toggle word wrap Toggle overflow <new_node_name>- 새 노드의 이름을 지정합니다.
OpenShift 로컬 스토리지 Operator가 설치된 네임스페이스를 확인하고
local_storage_project변수에 할당합니다.local_storage_project=$(oc get csv --all-namespaces | awk '{print $1}' | grep local)$ local_storage_project=$(oc get csv --all-namespaces | awk '{print $1}' | grep local)Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예를 들어 다음과 같습니다.
local_storage_project=$(oc get csv --all-namespaces | awk '{print $1}' | grep local)$ local_storage_project=$(oc get csv --all-namespaces | awk '{print $1}' | grep local)Copy to Clipboard Copied! Toggle word wrap Toggle overflow echo $local_storage_project
echo $local_storage_projectCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예:
openshift-local-storage
openshift-local-storageCopy to Clipboard Copied! Toggle word wrap Toggle overflow 새로 추가된 작업자 노드를
localVolume에 추가합니다.편집해야 하는
localVolume을 확인합니다.oc get -n $local_storage_project localvolume
# oc get -n $local_storage_project localvolumeCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예:
NAME AGE localblock 25h
NAME AGE localblock 25hCopy to Clipboard Copied! Toggle word wrap Toggle overflow 새 노드를 포함하도록
localVolume정의를 업데이트하고 실패한 노드를 제거합니다.oc edit -n $local_storage_project localvolume localblock
# oc edit -n $local_storage_project localvolume localblockCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예:
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 편집기를 종료하기 전에 저장하셔야 합니다.
이 예에서는
worker-0이 제거되고worker-3이 새 노드입니다.
새
로컬 블록PV(영구 볼륨)를 사용할 수 있는지 확인합니다.oc get pv | grep localblock
$ oc get pv | grep localblockCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예:
NAME CAPACITY ACCESSMODES RECLAIMPOLICY STATUS CLAIM STORAGECLASS AGE local-pv-3e8964d3 500Gi RWO Delete Bound ocs-deviceset-localblock-2-data-0-mdbg9 localblock 25h local-pv-414755e0 500Gi RWO Delete Bound ocs-deviceset-localblock-1-data-0-4cslf localblock 25h local-pv-b481410 500Gi RWO Delete Available localblock 3m24s local-pv-5c9b8982 500Gi RWO Delete Bound ocs-deviceset-localblock-0-data-0-g2mmc localblock 25h
NAME CAPACITY ACCESSMODES RECLAIMPOLICY STATUS CLAIM STORAGECLASS AGE local-pv-3e8964d3 500Gi RWO Delete Bound ocs-deviceset-localblock-2-data-0-mdbg9 localblock 25h local-pv-414755e0 500Gi RWO Delete Bound ocs-deviceset-localblock-1-data-0-4cslf localblock 25h local-pv-b481410 500Gi RWO Delete Available localblock 3m24s local-pv-5c9b8982 500Gi RWO Delete Bound ocs-deviceset-localblock-0-data-0-g2mmc localblock 25hCopy to Clipboard Copied! Toggle word wrap Toggle overflow openshift-storage프로젝트로 이동합니다.oc project openshift-storage
$ oc project openshift-storageCopy to Clipboard Copied! Toggle word wrap Toggle overflow 클러스터에서 오류가 발생한 OSD를 제거합니다. 필요한 경우 실패한 OSD를 여러 개 지정할 수 있습니다.
PVC(영구 볼륨 클레임)를 식별합니다.
osd_id_to_remove=1
$ osd_id_to_remove=1Copy to Clipboard Copied! Toggle word wrap Toggle overflow oc get -n openshift-storage -o yaml deployment rook-ceph-osd-${<osd_id_to_remove>} | grep ceph.rook.io/pvc$ oc get -n openshift-storage -o yaml deployment rook-ceph-osd-${<osd_id_to_remove>} | grep ceph.rook.io/pvcCopy to Clipboard Copied! Toggle word wrap Toggle overflow 여기서 &
lt;osd_id_to_remove>는rook-ceph-osd접두사 직후 Pod 이름의 정수입니다.이 예에서 배포 이름은
rook-ceph-osd-1입니다.출력 예:
ceph.rook.io/pvc: ocs-deviceset-localblock-0-data-0-g2mmc ceph.rook.io/pvc: ocs-deviceset-localblock-0-data-0-g2mmcceph.rook.io/pvc: ocs-deviceset-localblock-0-data-0-g2mmc ceph.rook.io/pvc: ocs-deviceset-localblock-0-data-0-g2mmcCopy to Clipboard Copied! Toggle word wrap Toggle overflow 클러스터에서 오류가 발생한 OSD를 제거합니다. 필요한 경우 실패한 OSD를 여러 개 지정할 수 있습니다.
oc process -n openshift-storage ocs-osd-removal \ -p FAILED_OSD_IDS=<failed_osd_id> -p FORCE_OSD_REMOVAL=true | oc create -f -
$ oc process -n openshift-storage ocs-osd-removal \ -p FAILED_OSD_IDS=<failed_osd_id> -p FORCE_OSD_REMOVAL=true | oc create -f -Copy to Clipboard Copied! Toggle word wrap Toggle overflow <failed_osd_id>rook-ceph-osd접두사 직후 pod 이름의 정수입니다. 명령에 쉼표로 구분된 OSD ID를 추가하여 OSD(예:FAILED_OSD_IDS=0,1,2)와 같은 OSD를 두 개 이상 제거할 수 있습니다.OSD가 3개만 있는 클러스터에서
FORCE_OSD_REMOVAL값을true로 변경하거나 OSD를 제거한 후 데이터의 복제본 3개를 모두 복원할 공간이 충분하지 않은 클러스터에서 true로 변경해야 합니다.
이 단계에서는 OSD가 클러스터에서 완전히 제거됩니다. osd_id_to_remove 의 올바른 값이 제공되었는지 확인합니다.
ocs-osd-removal-jobPod의 상태를 확인하여 OSD가 성공적으로 제거되었는지 확인합니다.Completed상태는 OSD 제거 작업이 성공했는지 확인합니다.oc get pod -l job-name=ocs-osd-removal-job -n openshift-storage
# oc get pod -l job-name=ocs-osd-removal-job -n openshift-storageCopy to Clipboard Copied! Toggle word wrap Toggle overflow OSD 제거가 완료되었는지 확인합니다.
oc logs -l job-name=ocs-osd-removal-job -n openshift-storage --tail=-1 | egrep -i 'completed removal'
$ oc logs -l job-name=ocs-osd-removal-job -n openshift-storage --tail=-1 | egrep -i 'completed removal'Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예:
2022-05-10 06:50:04.501511 I | cephosd: completed removal of OSD 0
2022-05-10 06:50:04.501511 I | cephosd: completed removal of OSD 0Copy to Clipboard Copied! Toggle word wrap Toggle overflow 중요ocs-osd-removal-job이 실패하고 Pod가 예상Completed상태가 아닌 경우 Pod 로그에서 추가 디버깅을 확인합니다.예를 들어 다음과 같습니다.
oc logs -l job-name=ocs-osd-removal-job -n openshift-storage --tail=-1
# oc logs -l job-name=ocs-osd-removal-job -n openshift-storage --tail=-1Copy to Clipboard Copied! Toggle word wrap Toggle overflow 실패한 노드와 연결된 PV를 삭제합니다.
PVC와 연결된 PV를 확인합니다.
oc get pv -L kubernetes.io/hostname | grep localblock | grep Released
# oc get pv -L kubernetes.io/hostname | grep localblock | grep ReleasedCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예:
local-pv-5c9b8982 500Gi RWO Delete Released openshift-storage/ocs-deviceset-localblock-0-data-0-g2mmc localblock 24h worker-0
local-pv-5c9b8982 500Gi RWO Delete Released openshift-storage/ocs-deviceset-localblock-0-data-0-g2mmc localblock 24h worker-0Copy to Clipboard Copied! Toggle word wrap Toggle overflow PVC 이름은 클러스터에서 실패한 OSD를 제거하는 동안 얻은 이름과 동일해야 합니다.
Released상태가 PV인 경우 삭제합니다.oc delete pv <persistent_volume>
# oc delete pv <persistent_volume>Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예를 들어 다음과 같습니다.
oc delete pv local-pv-5c9b8982
# oc delete pv local-pv-5c9b8982Copy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예:
persistentvolume "local-pv-5c9b8982" deleted
persistentvolume "local-pv-5c9b8982" deletedCopy to Clipboard Copied! Toggle word wrap Toggle overflow
crashcollectorPod 배포를 확인합니다.oc get deployment --selector=app=rook-ceph-crashcollector,node_name=<failed_node_name> -n openshift-storage
$ oc get deployment --selector=app=rook-ceph-crashcollector,node_name=<failed_node_name> -n openshift-storageCopy to Clipboard Copied! Toggle word wrap Toggle overflow 기존
crashcollectorPod 배포가 있는 경우 삭제합니다.oc delete deployment --selector=app=rook-ceph-crashcollector,node_name=<failed_node_name> -n openshift-storage
$ oc delete deployment --selector=app=rook-ceph-crashcollector,node_name=<failed_node_name> -n openshift-storageCopy to Clipboard Copied! Toggle word wrap Toggle overflow ocs-osd-removal-job을 삭제합니다.oc delete -n openshift-storage job ocs-osd-removal-job
# oc delete -n openshift-storage job ocs-osd-removal-jobCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예:
job.batch "ocs-osd-removal-job" deleted
job.batch "ocs-osd-removal-job" deletedCopy to Clipboard Copied! Toggle word wrap Toggle overflow
검증 단계
새 노드가 출력에 있는지 확인합니다.
oc get nodes --show-labels | grep cluster.ocs.openshift.io/openshift-storage= |cut -d' ' -f1
$ oc get nodes --show-labels | grep cluster.ocs.openshift.io/openshift-storage= |cut -d' ' -f1Copy to Clipboard Copied! Toggle word wrap Toggle overflow 워크로드
포드 를 클릭합니다. 새 노드의 다음 Pod가 Running 상태인지 확인합니다. -
csi-cephfsplugin-* -
csi-rbdplugin-*
-
기타 모든 필수 OpenShift Data Foundation Pod가 Running 상태인지 확인합니다.
새로운 증분식
mon이 생성되고 Running 상태인지 확인합니다.oc get pod -n openshift-storage | grep mon
$ oc get pod -n openshift-storage | grep monCopy to Clipboard Copied! Toggle word wrap Toggle overflow 출력 예:
rook-ceph-mon-b-74f6dc9dd6-4llzq 1/1 Running 0 6h14m rook-ceph-mon-c-74948755c-h7wtx 1/1 Running 0 4h24m rook-ceph-mon-d-598f69869b-4bv49 1/1 Running 0 162m
rook-ceph-mon-b-74f6dc9dd6-4llzq 1/1 Running 0 6h14m rook-ceph-mon-c-74948755c-h7wtx 1/1 Running 0 4h24m rook-ceph-mon-d-598f69869b-4bv49 1/1 Running 0 162mCopy to Clipboard Copied! Toggle word wrap Toggle overflow OSD 및 모니터링 포드가
Running상태로 전환되는 데 몇 분이 걸릴 수 있습니다.새 OSD pod가 교체 노드에서 실행되고 있는지 확인합니다.
oc get pods -o wide -n openshift-storage| egrep -i <new_node_name> | egrep osd
$ oc get pods -o wide -n openshift-storage| egrep -i <new_node_name> | egrep osdCopy to Clipboard Copied! Toggle word wrap Toggle overflow 선택 사항: 클러스터에서 클러스터 전체 암호화가 활성화된 경우 새 OSD 장치가 암호화되었는지 확인합니다.
이전 단계에서 식별한 각 새 노드에 대해 다음을 수행합니다.
디버그 Pod를 생성하고 선택한 하나 이상의 호스트에 대한 chroot 환경을 엽니다.
oc debug node/<node_name>
$ oc debug node/<node_name>Copy to Clipboard Copied! Toggle word wrap Toggle overflow chroot /host
$ chroot /hostCopy to Clipboard Copied! Toggle word wrap Toggle overflow 사용 가능한 블록 장치 목록을 표시합니다.
lsblk
$ lsblkCopy to Clipboard Copied! Toggle word wrap Toggle overflow 하나 이상의
ocs-deviceset이름 옆에 있는crypt키워드를 확인합니다.
- 확인 단계에 실패하는 경우 Red Hat 지원에 문의하십시오.