7장. OpenShift Data Foundation 설치 제거
7.1. 내부 연결 장치 모드에서 OpenShift Data Foundation 설치 제거 링크 복사링크가 클립보드에 복사되었습니다!
이 섹션의 단계를 사용하여 OpenShift Data Foundation을 설치 제거합니다.
주석 제거
스토리지 클러스터의 주석은 제거 프로세스의 동작을 변경하는 데 사용됩니다. 설치 제거 동작을 정의하기 위해 스토리지 클러스터에 다음 두 주석이 도입되었습니다.
-
uninstall.ocs.openshift.io/cleanup-policy: delete -
uninstall.ocs.openshift.io/mode: graceful
다음 표에서는 이러한 주석에 사용할 수 있는 다양한 값에 대한 정보를 제공합니다.
| 주석 | 현재의 | 기본 | 동작 |
|---|---|---|---|
| cleanup-policy | 삭제 | 제공됨 |
Rook은 물리적 드라이브 및 |
| cleanup-policy | 유지 | 없음 |
Rook은 물리적 드라이브 및 |
| mode | 정상 | 제공됨 | Rook 및 NooBaa는 관리자/사용자가 PVC(영구 볼륨 클레임) 및 Object Bucket 클레임(OBC)을 제거할 때까지 제거 프로세스를 일시 중지 합니다. |
| mode | 강제 | 없음 | Rook 및 NooBaa는 Rook 및 NooBaa를 사용하여 프로비저닝된 PVC/OBCs가 각각 존재하는 경우에도 제거 작업을 수행합니다. |
주석 값을 편집하여 정리 정책 또는 제거 모드를 변경합니다.
$ oc -n openshift-storage annotate storagecluster ocs-storagecluster uninstall.ocs.openshift.io/cleanup-policy="retain" --overwrite
$ oc -n openshift-storage annotate storagecluster ocs-storagecluster uninstall.ocs.openshift.io/mode="forced" --overwrite
두 명령에 대한 예상 출력:
storagecluster.ocs.openshift.io/ocs-storagecluster annotated
사전 요구 사항
- OpenShift Data Foundation 클러스터가 정상 상태인지 확인합니다. 리소스 또는 노드가 부족하여 일부 Pod가 성공적으로 종료되지 않으면 설치 제거 프로세스가 실패할 수 있습니다. 클러스터가 비정상 상태인 경우 OpenShift Data Foundation을 제거하기 전에 Red Hat 고객 지원팀에 문의하십시오.
- OpenShift Data Foundation에서 제공하는 스토리지 클래스를 사용하여 애플리케이션이 PVC(영구 볼륨 클레임) 또는 오브젝트 버킷 클레임(OBC)을 사용하지 않는지 확인합니다.
- 관리자가 사용자 지정 리소스(예: 사용자 정의 스토리지 클래스, cephblockpools)를 생성한 경우 해당 리소스를 사용한 리소스를 제거한 후 관리자가 삭제해야 합니다.
프로세스
OpenShift Data Foundation을 사용하는 볼륨 스냅샷을 삭제합니다.
모든 네임스페이스의 볼륨 스냅샷을 나열합니다.
$ oc get volumesnapshot --all-namespaces이전 명령의 출력에서 OpenShift Data Foundation을 사용하는 볼륨 스냅샷을 식별하고 삭제합니다.
$ oc delete volumesnapshot <VOLUME-SNAPSHOT-NAME> -n <NAMESPACE><VOLUME-SNAPSHOT-NAME>- 볼륨 스냅샷의 이름입니다.
<NAMESPACE>- 프로젝트 네임스페이스입니다.
OpenShift Data Foundation을 사용하는 PVC 및 OBC를 삭제합니다.
기본 제거 모드(중괄호)에서 OpenShift Data Foundation을 사용하는 모든 PVC 및 OBC가 삭제될 때까지 제거자가 기다립니다.
PVC를 삭제하지 않고 스토리지 클러스터를 삭제하려면 제거 모드 주석을
강제로설정하고 이 단계를 건너뛸 수 있습니다. 이렇게 하면 시스템에서 고립된 PVC 및 OBC가 생성됩니다.OpenShift Data Foundation을 사용하여 OpenShift Container Platform 모니터링 스택 PVC를 삭제합니다.
OpenShift Data Foundation을 사용하여 OpenShift Container Platform Registry PVC를 삭제합니다.
OpenShift Data Foundation에서 OpenShift Container Platform 레지스트리 제거
OpenShift Data Foundation을 사용하여 OpenShift Container Platform 로깅 PVC를 삭제합니다.
OpenShift Data Foundation을 사용하여 프로비저닝된 다른 PVC 및 OBC를 삭제합니다.
다음은 OpenShift Data Foundation을 사용하여 프로비저닝된 PVC 및 OBC를 식별하는 샘플 스크립트입니다. 이 스크립트는 OpenShift Data Foundation에서 내부적으로 사용하는 PVC를 무시합니다.
#!/bin/bash RBD_PROVISIONER="openshift-storage.rbd.csi.ceph.com" CEPHFS_PROVISIONER="openshift-storage.cephfs.csi.ceph.com" NOOBAA_PROVISIONER="openshift-storage.noobaa.io/obc" RGW_PROVISIONER="openshift-storage.ceph.rook.io/bucket" NOOBAA_DB_PVC="noobaa-db" NOOBAA_BACKINGSTORE_PVC="noobaa-default-backing-store-noobaa-pvc" # Find all the OCS StorageClasses OCS_STORAGECLASSES=$(oc get storageclasses | grep -e "$RBD_PROVISIONER" -e "$CEPHFS_PROVISIONER" -e "$NOOBAA_PROVISIONER" -e "$RGW_PROVISIONER" | awk '{print $1}') # List PVCs in each of the StorageClasses for SC in $OCS_STORAGECLASSES do echo "======================================================================" echo "$SC StorageClass PVCs and OBCs" echo "======================================================================" oc get pvc --all-namespaces --no-headers 2>/dev/null | grep $SC | grep -v -e "$NOOBAA_DB_PVC" -e "$NOOBAA_BACKINGSTORE_PVC" oc get obc --all-namespaces --no-headers 2>/dev/null | grep $SC echo done참고클라우드 플랫폼의
RGW_PROVISIONER를 생략합니다.OBC를 삭제합니다.
$ oc delete obc <obc-name> -n <project-name><obc-name>- OBC의 이름입니다.
<project-name>- 프로젝트 이름입니다.
PVC를 삭제합니다.
$ oc delete pvc <pvc-name> -n <project-name><pvc-name>- PVC의 이름입니다.
<project-name>프로젝트 이름입니다.
참고클러스터에서 생성된 사용자 정의 백업 저장소, 버킷 클래스 등을 제거했는지 확인합니다.
Storage System 오브젝트를 삭제하고 관련 리소스가 제거될 때까지 기다립니다.
$ oc delete -n openshift-storage storagesystem --all --wait=trueuninstall.ocs.openshift.io/cleanup-policy가delete(기본값)로 설정된 경우 정리 Pod를 확인하고 상태가Completed인지 확인합니다.$ oc get pods -n openshift-storage | grep -i cleanup출력 예:
NAME READY STATUS RESTARTS AGE cluster-cleanup-job-<xx> 0/1 Completed 0 8m35s cluster-cleanup-job-<yy> 0/1 Completed 0 8m35s cluster-cleanup-job-<zz> 0/1 Completed 0 8m35s/var/lib/rook디렉터리가 이제 비어 있는지 확인합니다. 이 디렉터리는uninstall.ocs.openshift.io/cleanup-policy주석이delete(기본값)로 설정된 경우에만 비어 있습니다.$ for i in $(oc get node -l cluster.ocs.openshift.io/openshift-storage= -o jsonpath='{ .items[*].metadata.name }'); do oc debug node/${i} -- chroot /host ls -l /var/lib/rook; done설치 시 암호화를 활성화한 경우 모든 OpenShift Data Foundation 노드의 OSD에서
dm매핑을 제거합니다.-crypt관리 장치-매퍼스토리지 노드의 호스트에
디버그Pod 및chroot를 생성합니다.$ oc debug node/<node-name>$ chroot /host<node-name>- 노드의 이름입니다.
장치 이름을 가져오고 OpenShift Data Foundation 장치를 기록합니다.
$ dmsetup ls출력 예:
ocs-deviceset-0-data-0-57snx-block-dmcrypt (253:1)매핑된 장치를 제거합니다.
$ cryptsetup luksClose --debug --verbose ocs-deviceset-0-data-0-57snx-block-dmcrypt중요권한이 부족하여 위의 명령이 중단되면 다음 명령을 실행합니다.
-
Ctrl+Z를 눌러 위 명령을 종료합니다. 중단된 프로세스의 PID를 찾습니다.
$ ps -ef | grep cryptkill명령을 사용하여 프로세스를 종료합니다.$ kill -9 <PID><PID>- 프로세스 ID
장치 이름이 제거되었는지 확인합니다.
$ dmsetup ls
-
네임스페이스를 삭제하고 삭제가 완료될 때까지 기다립니다.
openshift-storage가 활성 프로젝트인 경우 다른 프로젝트로 전환해야 합니다.예를 들면 다음과 같습니다.
$ oc project default$ oc delete project openshift-storage --wait=true --timeout=5m다음 명령에서 NotFound 오류를 반환하면 프로젝트가 삭제됩니다.
$ oc get project openshift-storage참고OpenShift Data Foundation을 설치 제거하는 동안
네임스페이스가 완전히 삭제되지 않고Terminating상태로 남아 있는 경우 설치 제거 중에 나머지 리소스 문제 해결 단계를 수행하여 네임스페이스를 차단하는 개체를 식별할 수 있습니다.- 로컬 스토리지 장치를 사용하여 OpenShift Data Foundation을 배포한 경우 로컬 스토리지 Operator 구성을 삭제합니다. 로컬 스토리지 Operator 구성 제거를 참조하십시오.
스토리지 노드의 레이블을 해제합니다.
$ oc label nodes --all cluster.ocs.openshift.io/openshift-storage-$ oc label nodes --all topology.rook.io/rack-노드가 테인트된 경우 OpenShift Data Foundation 테인트를 제거합니다.
$ oc adm taint nodes --all node.ocs.openshift.io/storage-OpenShift Data Foundation을 사용하여 프로비저닝된 모든 PV(영구 볼륨)가 삭제되었는지 확인합니다.
Released상태에 PV가 남아 있으면 삭제합니다.$ oc get pv$ oc delete pv <pv-name><pv-name>- PV의 이름입니다.
CustomResourceDefinitions를 제거합니다.$ oc delete crd backingstores.noobaa.io bucketclasses.noobaa.io cephblockpools.ceph.rook.io cephclusters.ceph.rook.io cephfilesystems.ceph.rook.io cephnfses.ceph.rook.io cephobjectstores.ceph.rook.io cephobjectstoreusers.ceph.rook.io noobaas.noobaa.io ocsinitializations.ocs.openshift.io storageclusters.ocs.openshift.io cephclients.ceph.rook.io cephobjectrealms.ceph.rook.io cephobjectzonegroups.ceph.rook.io cephobjectzones.ceph.rook.io cephrbdmirrors.ceph.rook.io storagesystems.odf.openshift.io --wait=true --timeout=5mOpenShift Container Platform 웹 콘솔에서 OpenShift Data Foundation이 완전히 설치 제거되도록 하려면 다음을 수행합니다.
- 스토리지를 클릭합니다.
- OpenShift Data Foundation 이 더 이상 Storage에 표시되지 않는지 확인합니다.
7.1.1. 로컬 스토리지 Operator 구성 제거 링크 복사링크가 클립보드에 복사되었습니다!
로컬 스토리지 장치를 사용하여 OpenShift Data Foundation을 배포한 경우에만 이 섹션의 지침을 사용하십시오.
OpenShift Data Foundation 배포의 경우 localvolume 리소스를 사용하는 경우에만 8 단계로 이동합니다.
프로세스
OpenShift Data Foundation에서 사용하는
LocalVolumeSet및 해당StorageClassName을 식별합니다.$ oc get localvolumesets.local.storage.openshift.io -n openshift-local-storage로컬 볼륨 세트를 제공하는
StorageClass로 변수SC를 설정합니다.$ export SC="<StorageClassName>"나중에 정리할 장치를 나열하고 기록해 둡니다. 디스크의 장치 ID를 나열하려면 여기에 언급된 절차를 따르십시오. 사용 가능한 스토리지 장치 찾기를 참조하십시오.
출력 예:
/dev/disk/by-id/scsi-360050763808104bc28000000000000eb /dev/disk/by-id/scsi-360050763808104bc28000000000000ef /dev/disk/by-id/scsi-360050763808104bc28000000000000f3LocalVolumeSet을 삭제합니다.$ oc delete localvolumesets.local.storage.openshift.io <name-of-volumeset> -n openshift-local-storage지정된
StorageClassName의 로컬 스토리지 PV를 삭제합니다.$ oc get pv | grep $SC | awk '{print $1}'| xargs oc delete pvStorageClassName을 삭제합니다.$ oc delete sc $SCLocalVolumeSet에서 생성한 심볼릭 링크를 삭제합니다.[[ ! -z $SC ]] && for i in $(oc get node -l cluster.ocs.openshift.io/openshift-storage= -o jsonpath='{ .items[*].metadata.name }'); do oc debug node/${i} -- chroot /host rm -rfv /mnt/local-storage/${SC}/; doneLocalVolumeDiscovery를 삭제합니다.$ oc delete localvolumediscovery.local.storage.openshift.io/auto-discover-devices -n openshift-local-storageLocalVolume리소스 제거(있는 경우).다음 단계를 사용하여 현재 또는 이전 OpenShift Data Foundation 버전에서 PV를 프로비저닝하는 데 사용된
LocalVolume리소스를 제거합니다. 또한 클러스터의 다른 테넌트에서 이러한 리소스를 사용하지 않는지 확인합니다.각 로컬 볼륨에 대해 다음을 수행합니다.
OpenShift Data Foundation에서 사용하는
LocalVolume및 해당StorageClassName을 식별합니다.$ oc get localvolume.local.storage.openshift.io -n openshift-local-storage변수 LV를 LocalVolume 및 변수 SC의 이름으로 설정합니다. StorageClass의 이름으로 설정합니다.
예를 들면 다음과 같습니다.
$ LV=local-block $ SC=localblock나중에 정리할 장치를 나열하고 기록해 둡니다.
$ oc get localvolume -n openshift-local-storage $LV -o jsonpath='{ .spec.storageClassDevices[].devicePaths[] }{"\n"}'출력 예:
/dev/sdb /dev/sdc /dev/sdd /dev/sde로컬 볼륨 리소스를 삭제합니다.
$ oc delete localvolume -n openshift-local-storage --wait=true $LV나머지 PV 및 StorageClasses가 있는 경우 삭제합니다.
$ oc delete pv -l storage.openshift.com/local-volume-owner-name=${LV} --wait --timeout=5m $ oc delete storageclass $SC --wait --timeout=5m해당 리소스의 스토리지 노드에서 아티팩트를 정리합니다.
$ [[ ! -z $SC ]] && for i in $(oc get node -l cluster.ocs.openshift.io/openshift-storage= -o jsonpath='{ .items[*].metadata.name }'); do oc debug node/${i} -- chroot /host rm -rfv /mnt/local-storage/${SC}/; done출력 예:
Starting pod/node-xxx-debug ... To use host binaries, run `chroot /host` removed '/mnt/local-storage/localblock/nvme2n1' removed directory '/mnt/local-storage/localblock' Removing debug pod ... Starting pod/node-yyy-debug ... To use host binaries, run `chroot /host` removed '/mnt/local-storage/localblock/nvme2n1' removed directory '/mnt/local-storage/localblock' Removing debug pod ... Starting pod/node-zzz-debug ... To use host binaries, run `chroot /host` removed '/mnt/local-storage/localblock/nvme2n1' removed directory '/mnt/local-storage/localblock' Removing debug pod ...
각각 1단계와 8단계에 나열된 각 로컬 볼륨 세트 또는 로컬 볼륨에 대해 디스크를 지워 다시 사용할 수 있습니다.
스토리지 노드를 나열합니다.
oc get nodes -l cluster.ocs.openshift.io/openshift-storage=출력 예:
NAME STATUS ROLES AGE VERSION node-xxx Ready worker 4h45m v1.18.3+6c42de8 node-yyy Ready worker 4h46m v1.18.3+6c42de8 node-zzz Ready worker 4h45m v1.18.3+6c42de8프롬프트가 표시되면 노드 콘솔을 가져오고
chroot /host명령을 실행합니다.$ oc debug node/node-xxx Starting pod/node-xxx-debug … To use host binaries, run `chroot /host` Pod IP: w.x.y.z If you don't see a command prompt, try pressing enter. sh-4.2# chroot /host따옴표 내의 DISKS 변수에 디스크 경로를 저장합니다. 디스크 경로 목록은 각각 로컬 볼륨 세트 및 로컬 볼륨의 경우 3단계 및 8.c를 참조하십시오.
출력 예:
sh-4.4# DISKS="/dev/disk/by-id/scsi-360050763808104bc28000000000000eb /dev/disk/by-id/scsi-360050763808104bc28000000000000ef /dev/disk/by-id/scsi-360050763808104bc28000000000000f3 " or sh-4.2# DISKS="/dev/sdb /dev/sdc /dev/sdd /dev/sde ".모든 디스크에서
sgdisk --zap-all을 실행합니다.sh-4.4# for disk in $DISKS; do sgdisk --zap-all $disk;done출력 예:
Creating new GPT entries. GPT data structures destroyed! You may now partition the disk using fdisk or other utilities. Creating new GPT entries. GPT data structures destroyed! You may now partition the disk using fdisk or other utilities. Creating new GPT entries. GPT data structures destroyed! You may now partition the disk using fdisk or other utilities. Creating new GPT entries. GPT data structures destroyed! You may now partition the disk using fdisk or other utilities.쉘을 종료하고 다른 노드에 대해 반복합니다.
sh-4.4# exit exit sh-4.2# exit exit Removing debug pod ...
openshift-local-storage네임스페이스를 삭제하고 삭제가 완료될 때까지 기다립니다.openshift-local-storage네임스페이스가 활성 프로젝트인 경우 다른 프로젝트로 전환해야 합니다.예를 들면 다음과 같습니다.
$ oc project default $ oc delete project openshift-local-storage --wait=true --timeout=5m다음 명령에서 NotFound 오류를 반환하면 프로젝트가 삭제됩니다.
$ oc get project openshift-local-storage