2장. 로컬 스토리지 장치를 사용하여 배포된 OpenShift Data Foundation
2.1. 베어 메탈 인프라에서 스토리지 노드 교체 링크 복사링크가 클립보드에 복사되었습니다!
- 운영 노드를 교체하려면 다음을 참조하십시오. 2.1.1절. “베어 메탈 사용자 프로비저닝 인프라에서 운영 노드 교체”
- 오류가 발생한 노드를 교체하려면 다음을 참조하십시오. 2.1.2절. “베어 메탈 사용자 프로비저닝 인프라에서 실패한 노드 교체”
2.1.1. 베어 메탈 사용자 프로비저닝 인프라에서 운영 노드 교체 링크 복사링크가 클립보드에 복사되었습니다!
사전 요구 사항
- Red Hat은 대체 노드는 교체 중인 노드에 유사한 인프라, 리소스 및 디스크로 구성되는 것이 좋습니다.
- RHOCP(OpenShift Container Platform) 클러스터에 로그인해야 합니다.
절차
교체할 노드에서 NODE 및 get 레이블을 식별합니다.
$ oc get nodes --show-labels | grep <node_name>교체할 노드에서 실행 중인
mon(있는 경우) 및 OSD를 식별합니다.$ oc get pods -n openshift-storage -o wide | grep -i <node_name>이전 단계에서 식별된 포드의 배포를 축소합니다.
예를 들면 다음과 같습니다.
$ oc scale deployment rook-ceph-mon-c --replicas=0 -n openshift-storage $ oc scale deployment rook-ceph-osd-0 --replicas=0 -n openshift-storage $ oc scale deployment --selector=app=rook-ceph-crashcollector,node_name=<node_name> --replicas=0 -n openshift-storage노드를 예약 불가능으로 표시합니다.
$ oc adm cordon <node_name>노드를 드레이닝합니다.
$ oc adm drain <node_name> --force --delete-emptydir-data=true --ignore-daemonsets노드를 삭제합니다.
$ oc delete node <node_name>필수 인프라로 새로운 베어 메탈 시스템 확보. 베어 메탈에 클러스터 설치를 참조하십시오.
중요3노드 OpenShift 압축 베어 메탈 클러스터에 OpenShift Data Foundation을 설치할 때 마스터 노드를 교체하는 방법에 대한 자세한 내용은 OpenShift Container Platform 설명서의 백업 및 복원 가이드를 참조하십시오.
- 새 베어 메탈 머신을 사용하여 새 OpenShift Container Platform 노드를 생성합니다.
Pending 상태인 OpenShift Container Platform과 관련된 CSR(인증서 서명 요청)을 확인합니다.
$ oc get csr새 노드에 필요한 모든 OpenShift Container Platform CSR을 승인합니다.
$ oc adm certificate approve <Certificate_Name>-
OpenShift 웹 콘솔에서 Compute
Nodes (컴퓨팅 노드)를 클릭하고 새 노드가 Ready 상태인지 확인합니다. 다음 중 하나를 사용하여 OpenShift Data Foundation 레이블을 새 노드에 적용합니다.
- 출처: 사용자 인터페이스
-
새 노드의 경우 작업 메뉴 (PS)
레이블 편집을 클릭합니다. -
cluster.ocs.openshift.io/openshift-storage를 추가하고 Save(저장 )를 클릭합니다.
-
새 노드의 경우 작업 메뉴 (PS)
- 명령줄 인터페이스의
다음 명령을 실행하여 OpenShift Data Foundation 레이블을 새 노드에 적용합니다.
$ oc label node <new_node_name> cluster.ocs.openshift.io/openshift-storage=""
OpenShift 로컬 스토리지 운영자가 설치된 네임스페이스를 식별하고
local_storage_project변수에 할당합니다.$ local_storage_project=$(oc get csv --all-namespaces | awk '{print $1}' | grep local)예를 들면 다음과 같습니다.
$ local_storage_project=$(oc get csv --all-namespaces | awk '{print $1}' | grep local) echo $local_storage_project openshift-local-storagelocalVolumeDiscovery 및에 새 작업자 노드를 추가합니다.localVolumeSet새 노드를 포함하고 실패한 노드를 제거하도록
localVolumeDiscovery정의를 업데이트합니다.# oc edit -n $local_storage_project localvolumediscovery auto-discover-devices [...] nodeSelector: nodeSelectorTerms: - matchExpressions: - key: kubernetes.io/hostname operator: In values: - server1.example.com - server2.example.com #- server3.example.com - newnode.example.com [...]편집기를 종료하기 전에 저장해야 합니다.
위의 예에서
server3.example.com이 제거되었으며newnode.example.com이 새 노드입니다.편집할
localVolumeSet을 확인합니다.# oc get -n $local_storage_project localvolumeset NAME AGE localblock 25h새 노드를 포함하고 실패한 노드를 제거하도록
localVolumeSet정의를 업데이트합니다.# oc edit -n $local_storage_project localvolumeset localblock [...] nodeSelector: nodeSelectorTerms: - matchExpressions: - key: kubernetes.io/hostname operator: In values: - server1.example.com - server2.example.com #- server3.example.com - newnode.example.com [...]편집기를 종료하기 전에 저장해야 합니다.
위의 예에서
server3.example.com이 제거되었으며newnode.example.com이 새 노드입니다.
새
localblockPV를 사용할 수 있는지 확인합니다.$oc get pv | grep localblock | grep Available local-pv-551d950 512Gi RWO Delete Available localblock 26sopenshift-storage프로젝트로 변경합니다.$ oc project openshift-storage클러스터에서 실패한 OSD를 제거합니다. 필요한 경우 여러 개의 실패한 OSD를 지정할 수 있습니다.
$ oc process -n openshift-storage ocs-osd-removal \ -p FAILED_OSD_IDS=<failed_osd_id> -p FORCE_OSD_REMOVAL=true | oc create -n openshift-storage -f -<failed_osd_id>rook-ceph-osd접두사 바로 뒤에 있는 Pod 이름의 정수입니다.명령에 쉼표로 구분된 OSD ID를 추가하여 OSD(예: FAILED_OSD
_IDS=0,1,2)와 같이 두 개 이상의 OSD를 제거할 수 있습니다.
ocs-osd-removal-job포드 상태를 확인하여 OSD가 제거되었는지 확인합니다.상태가
Completed인지 확인합니다. OSD 제거 작업이 성공했는지 확인합니다.# oc get pod -l job-name=ocs-osd-removal-job -n openshift-storageOSD 제거가 완료되었는지 확인합니다.
$ oc logs -l job-name=ocs-osd-removal-job -n openshift-storage --tail=-1 | egrep -i 'completed removal'출력 예:
2022-05-10 06:50:04.501511 I | cephosd: completed removal of OSD 0중요ocs-osd-removal-job이 실패하고 Pod가 expectedCompleted상태가 아닌 경우 Pod 로그에서 추가 디버깅을 확인합니다.예를 들면 다음과 같습니다.
# oc logs -l job-name=ocs-osd-removal-job -n openshift-storage --tail=-1ocs-osd-removal-job을 삭제합니다.# oc delete -n openshift-storage job ocs-osd-removal-job출력 예:
job.batch "ocs-osd-removal-job" deleted
검증 단계
다음 명령을 실행하고 새 노드가 출력에 있는지 확인합니다.
$ oc get nodes --show-labels | grep cluster.ocs.openshift.io/openshift-storage= |cut -d' ' -f1워크로드
Pod 를 클릭하여 새 노드의 다음 Pod가 Running상태인지 확인합니다.-
csi-cephfsplugin-* -
csi-rbdplugin-*
-
기타 필요한 모든 OpenShift Data Foundation 포드가 Running 상태인지 확인합니다.
새 incremental
mon이 생성되었으며 Running(실행 중) 상태인지 확인합니다.$ oc get pod -n openshift-storage | grep mon출력 예:
rook-ceph-mon-a-cd575c89b-b6k66 2/2 Running 0 38m rook-ceph-mon-b-6776bc469b-tzzt8 2/2 Running 0 38m rook-ceph-mon-d-5ff5d488b5-7v8xh 2/2 Running 0 4m8sOSD 및 Mon은
Running(실행 중) 상태가 되는 데 몇 분이 걸릴 수 있습니다.새 OSD 포드가 교체 노드에서 실행 중인지 확인합니다.
$ oc get pods -o wide -n openshift-storage| egrep -i new-node-name | egrep osd선택 사항: 클러스터에서 클러스터 전체 암호화가 활성화된 경우 새 OSD 장치가 암호화되었는지 확인합니다.
이전 단계에서 식별된 각 새 노드에 대해 다음을 수행합니다.
디버그 포드를 만들고 선택한 호스트에 대해 chroot 환경을 엽니다.
$ oc debug node/<node name> $ chroot /host"lsblk"를 실행하고
ocs-deviceset이름 옆의 "crypt" 키워드를 확인하십시오.$ lsblk
- 확인 단계가 실패하는 경우 Red Hat 지원팀에 문의하십시오.
2.1.2. 베어 메탈 사용자 프로비저닝 인프라에서 실패한 노드 교체 링크 복사링크가 클립보드에 복사되었습니다!
사전 요구 사항
- Red Hat은 대체 노드는 교체 중인 노드에 유사한 인프라, 리소스 및 디스크로 구성되는 것이 좋습니다.
- RHOCP(OpenShift Container Platform) 클러스터에 로그인해야 합니다.
절차
교체할 노드에서 NODE 및 get 레이블을 식별합니다.
$ oc get nodes --show-labels | grep <node_name>교체할 노드에서 실행 중인
mon(있는 경우) 및 OSD를 식별합니다.$ oc get pods -n openshift-storage -o wide | grep -i <node_name>이전 단계에서 식별된 포드의 배포를 축소합니다.
예를 들면 다음과 같습니다.
$ oc scale deployment rook-ceph-mon-c --replicas=0 -n openshift-storage $ oc scale deployment rook-ceph-osd-0 --replicas=0 -n openshift-storage $ oc scale deployment --selector=app=rook-ceph-crashcollector,node_name=<node_name> --replicas=0 -n openshift-storage노드를 예약 불가능으로 표시합니다.
$ oc adm cordon <node_name>종료 상태인 Pod를 제거합니다.
$ oc get pods -A -o wide | grep -i <node_name> | awk '{if ($4 == "Terminating") system ("oc -n " $1 " delete pods " $2 " --grace-period=0 " " --force ")}'노드를 드레이닝합니다.
$ oc adm drain <node_name> --force --delete-emptydir-data=true --ignore-daemonsets노드를 삭제합니다.
$ oc delete node <node_name>필수 인프라로 새로운 베어 메탈 시스템 확보. 베어 메탈에 클러스터 설치를 참조하십시오.
중요3노드 OpenShift 압축 베어 메탈 클러스터에 OpenShift Data Foundation을 설치할 때 마스터 노드를 교체하는 방법에 대한 자세한 내용은 OpenShift Container Platform 설명서의 백업 및 복원 가이드를 참조하십시오.
- 새 베어 메탈 머신을 사용하여 새 OpenShift Container Platform 노드를 생성합니다.
Pending 상태인 OpenShift Container Platform과 관련된 CSR(인증서 서명 요청)을 확인합니다.
$ oc get csr새 노드에 필요한 모든 OpenShift Container Platform CSR을 승인합니다.
$ oc adm certificate approve <Certificate_Name>-
OpenShift 웹 콘솔에서 Compute
Nodes (컴퓨팅 노드)를 클릭하고 새 노드가 Ready 상태인지 확인합니다. 다음 중 하나를 사용하여 OpenShift Data Foundation 레이블을 새 노드에 적용합니다.
- 출처: 사용자 인터페이스
-
새 노드의 경우 작업 메뉴 (PS)
레이블 편집을 클릭합니다. -
cluster.ocs.openshift.io/openshift-storage를 추가하고 Save(저장 )를 클릭합니다.
-
새 노드의 경우 작업 메뉴 (PS)
- 명령줄 인터페이스의
다음 명령을 실행하여 OpenShift Data Foundation 레이블을 새 노드에 적용합니다.
$ oc label node <new_node_name> cluster.ocs.openshift.io/openshift-storage=""
OpenShift 로컬 스토리지 운영자가 설치된 네임스페이스를 식별하고
local_storage_project변수에 할당합니다.$ local_storage_project=$(oc get csv --all-namespaces | awk '{print $1}' | grep local)예를 들면 다음과 같습니다.
$ local_storage_project=$(oc get csv --all-namespaces | awk '{print $1}' | grep local) echo $local_storage_project openshift-local-storagelocalVolumeDiscovery 및에 새 작업자 노드를 추가합니다.localVolumeSet새 노드를 포함하고 실패한 노드를 제거하도록
localVolumeDiscovery정의를 업데이트합니다.# oc edit -n $local_storage_project localvolumediscovery auto-discover-devices [...] nodeSelector: nodeSelectorTerms: - matchExpressions: - key: kubernetes.io/hostname operator: In values: - server1.example.com - server2.example.com #- server3.example.com - newnode.example.com [...]편집기를 종료하기 전에 저장해야 합니다.
위의 예에서
server3.example.com이 제거되었으며newnode.example.com이 새 노드입니다.편집할
localVolumeSet을 확인합니다.# oc get -n $local_storage_project localvolumeset NAME AGE localblock 25h새 노드를 포함하고 실패한 노드를 제거하도록
localVolumeSet정의를 업데이트합니다.# oc edit -n $local_storage_project localvolumeset localblock [...] nodeSelector: nodeSelectorTerms: - matchExpressions: - key: kubernetes.io/hostname operator: In values: - server1.example.com - server2.example.com #- server3.example.com - newnode.example.com [...]편집기를 종료하기 전에 저장해야 합니다.
위의 예에서
server3.example.com이 제거되었으며newnode.example.com이 새 노드입니다.
새
localblockPV를 사용할 수 있는지 확인합니다.$oc get pv | grep localblock | grep Available local-pv-551d950 512Gi RWO Delete Available localblock 26sopenshift-storage프로젝트로 변경합니다.$ oc project openshift-storage클러스터에서 실패한 OSD를 제거합니다. 필요한 경우 여러 개의 실패한 OSD를 지정할 수 있습니다.
$ oc process -n openshift-storage ocs-osd-removal \ -p FAILED_OSD_IDS=<failed_osd_id> -p FORCE_OSD_REMOVAL=true | oc create -n openshift-storage -f -<failed_osd_id>rook-ceph-osd접두사 바로 뒤에 있는 Pod 이름의 정수입니다.명령에 쉼표로 구분된 OSD ID를 추가하여 OSD(예: FAILED_OSD
_IDS=0,1,2)와 같이 두 개 이상의 OSD를 제거할 수 있습니다.
ocs-osd-removal-job포드 상태를 확인하여 OSD가 제거되었는지 확인합니다.상태가
Completed인지 확인합니다. OSD 제거 작업이 성공했는지 확인합니다.# oc get pod -l job-name=ocs-osd-removal-job -n openshift-storageOSD 제거가 완료되었는지 확인합니다.
$ oc logs -l job-name=ocs-osd-removal-job -n openshift-storage --tail=-1 | egrep -i 'completed removal'출력 예:
2022-05-10 06:50:04.501511 I | cephosd: completed removal of OSD 0중요ocs-osd-removal-job이 실패하고 Pod가 expectedCompleted상태가 아닌 경우 Pod 로그에서 추가 디버깅을 확인합니다.예를 들면 다음과 같습니다.
# oc logs -l job-name=ocs-osd-removal-job -n openshift-storage --tail=-1ocs-osd-removal-job을 삭제합니다.# oc delete -n openshift-storage job ocs-osd-removal-job출력 예:
job.batch "ocs-osd-removal-job" deleted
검증 단계
다음 명령을 실행하고 새 노드가 출력에 있는지 확인합니다.
$ oc get nodes --show-labels | grep cluster.ocs.openshift.io/openshift-storage= |cut -d' ' -f1워크로드
Pod 를 클릭하여 새 노드의 다음 Pod가 Running상태인지 확인합니다.-
csi-cephfsplugin-* -
csi-rbdplugin-*
-
기타 필요한 모든 OpenShift Data Foundation 포드가 Running 상태인지 확인합니다.
새 incremental
mon이 생성되었으며 Running(실행 중) 상태인지 확인합니다.$ oc get pod -n openshift-storage | grep mon출력 예:
rook-ceph-mon-a-cd575c89b-b6k66 2/2 Running 0 38m rook-ceph-mon-b-6776bc469b-tzzt8 2/2 Running 0 38m rook-ceph-mon-d-5ff5d488b5-7v8xh 2/2 Running 0 4m8sOSD 및 Mon은
Running(실행 중) 상태가 되는 데 몇 분이 걸릴 수 있습니다.새 OSD 포드가 교체 노드에서 실행 중인지 확인합니다.
$ oc get pods -o wide -n openshift-storage| egrep -i new-node-name | egrep osd선택 사항: 클러스터에서 클러스터 전체 암호화가 활성화된 경우 새 OSD 장치가 암호화되었는지 확인합니다.
이전 단계에서 식별된 각 새 노드에 대해 다음을 수행합니다.
디버그 포드를 만들고 선택한 호스트에 대해 chroot 환경을 엽니다.
$ oc debug node/<node name> $ chroot /host"lsblk"를 실행하고
ocs-deviceset이름 옆의 "crypt" 키워드를 확인하십시오.$ lsblk
- 확인 단계가 실패하는 경우 Red Hat 지원팀에 문의하십시오.