1.3. Ceph OSD
Red Hat Ceph Storage 클러스터가 가동되어 실행되면 런타임 시 스토리지 클러스터에 OSD를 추가할 수 있습니다.
Ceph OSD는 일반적으로 스토리지 드라이브 1대와 노드 내에서 연결된 저널을 위한 하나의 ceph-osd
데몬으로 구성됩니다. 노드에 여러 스토리지 드라이브가 있는 경우 각 드라이브에 대해 하나의 ceph-osd
데몬을 매핑합니다.
스토리지 용량의 상위에 도달하고 있는지 확인하기 위해 클러스터의 용량을 정기적으로 확인하는 것이 좋습니다. 스토리지 클러스터가 전체 비율에
도달하므로 하나 이상의 OSD를 추가하여 스토리지 클러스터의 용량을 확장합니다.
Red Hat Ceph Storage 클러스터의 크기를 줄이거나 하드웨어를 교체하려는 경우 런타임 시 OSD를 제거할 수도 있습니다. 노드에 스토리지 드라이브가 여러 개 있는 경우 해당 드라이브의 ceph-osd
데몬 중 하나를 제거해야 할 수도 있습니다. 일반적으로 스토리지 클러스터의 용량을 확인하여 용량의 상단에 도달했는지 확인하는 것이 좋습니다. 스토리지 클러스터가 거의 전체
비율에 있지 않은 OSD를 제거해야 합니다.
OSD를 추가하기 전에 스토리지 클러스터가 전체
비율에 도달할 수 없도록 하십시오. 스토리지 클러스터가 거의 전체 비율에 도달한 후 발생하는 OSD 오류는 스토리지 클러스터가 전체
비율을 초과할 수 있습니다 .
Ceph는 스토리지 용량 문제를 해결할 때까지 데이터를 보호하기 위한 쓰기 액세스를 차단합니다. 먼저 전체
비율에 미치는 영향을 고려하지 않고 OSD를 제거하지 마십시오.
1.3.1. Ceph OSD 노드 구성 링크 복사링크가 클립보드에 복사되었습니다!
OSD를 사용할 풀의 스토리지 전략으로 Ceph OSD 및 지원 하드웨어를 유사하게 구성해야 합니다. Ceph에서는 일관된 성능 프로필을 위해 풀 간에 균일한 하드웨어를 선호합니다. 최상의 성능을 위해 동일한 유형 또는 크기의 드라이브가 있는 CRUSH 계층 구조를 고려하십시오. 자세한 내용은 스토리지 전략 가이드를 참조하십시오.
dissimilar 크기의 드라이브를 추가하는 경우 그에 따라 가중치를 조정해야 합니다. OSD를 CRUSH 맵에 추가할 때 새 OSD의 가중치를 고려합니다. 하드 드라이브 용량은 연간 약 40% 증가하므로 최신 OSD 노드는 스토리지 클러스터의 이전 노드보다 더 큰 하드 드라이브를 사용할 수 있습니다. 즉, 가중치가 더 클 수 있습니다.
새 설치를 수행하기 전에 Red Hat Enterprise Linux 또는 Ubuntu 용 설치 가이드의 Red Hat Ceph Storage 설치 요구 사항 장을 검토하십시오.
1.3.2. 컨테이너 OSD ID를 드라이브에 매핑 링크 복사링크가 클립보드에 복사되었습니다!
컨테이너화된 OSD가 사용 중인 드라이브를 식별해야 하는 경우가 있습니다. 예를 들어 OSD에 문제가 있는 경우 드라이브 상태를 확인하는 데 사용하는 드라이브를 알아야 할 수 있습니다. 또한 컨테이너화되지 않은 OSD의 경우 OSD ID를 참조하여 시작하고 중지하지만 컨테이너화된 OSD를 시작하고 중지하려면 사용하는 드라이브를 참조해야 합니다.
사전 요구 사항
- 컨테이너화된 환경에서 실행 중인 Red Hat Ceph Storage 클러스터.
-
컨테이너 호스트에 대한
루트
액세스 권한이 있어야 합니다.
절차
컨테이너 이름을 찾습니다. 예를 들어 osd.5와 연결된 드라이브를 식별하려면
osd.5
docker ps
를 실행하여 모든 컨테이너를 나열합니다.예제
Copy to Clipboard Copied! Toggle word wrap Toggle overflow docker exec
를 사용하여 이전 출력의 OSD 컨테이너 이름에ceph-volume lvm 목록을
실행합니다.예제
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 이 출력에서
osd.5
가/dev/sdb
와 연결되어 있음을 확인할 수 있습니다.
추가 리소스
- 자세한 내용은 실패한 OSD 디스크 배치를 참조하십시오.
1.3.3. 동일한 디스크 토폴로지가 있는 Ansible을 사용하여 Ceph OSD 추가 링크 복사링크가 클립보드에 복사되었습니다!
디스크 토폴로지가 동일한 Ceph OSD의 경우 Ansible은 /usr/share/ceph-ansible/group_vars/osds
파일의 devices:
섹션에 지정된 동일한 장치 경로를 사용하여 다른 OSD 노드와 동일한 개수의 OSD를 추가합니다.
새 Ceph OSD 노드는 나머지 OSD와 동일한 구성을 갖습니다.
사전 요구 사항
- 실행 중인 Red Hat Ceph Storage 클러스터.
- Red Hat Enterprise Linux 또는 Ubuntu 설치 가이드의 Red Hat Ceph Storage 설치 요구 사항을 검토하십시오.
-
새 노드에 대한
루트
액세스 권한 보유. - 스토리지 클러스터의 다른 OSD 노드와 동일한 OSD 데이터 드라이브 수입니다.
절차
Ceph OSD 노드를
[osds]
섹션 아래의/etc/ansible/hosts
파일에 추가합니다.예제
[osds] ... osd06 $NEW_OSD_NODE_NAME
[osds] ... osd06 $NEW_OSD_NODE_NAME
Copy to Clipboard Copied! Toggle word wrap Toggle overflow Ansible이 Ceph 노드에 연결할 수 있는지 확인합니다.
ansible all -m ping
[user@admin ~]$ ansible all -m ping
Copy to Clipboard Copied! Toggle word wrap Toggle overflow Ansible 구성 디렉터리로 이동합니다.
cd /usr/share/ceph-ansible
[user@admin ~]$ cd /usr/share/ceph-ansible
Copy to Clipboard Copied! Toggle word wrap Toggle overflow add-osd.yml
파일을/usr/share/ceph-ansible/
디렉터리에 복사합니다.sudo cp infrastructure-playbooks/add-osd.yml .
[user@admin ceph-ansible]$ sudo cp infrastructure-playbooks/add-osd.yml .
Copy to Clipboard Copied! Toggle word wrap Toggle overflow Ceph의 일반 또는 컨테이너화된 배포에 대해 Ansible 플레이북을 실행합니다.
ansible-playbook add-osd.yml
[user@admin ceph-ansible]$ ansible-playbook add-osd.yml
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 참고OSD를 추가할 때 Placement
s와 함께 플레이북이 active+clean으로 보고되지 않은
경우all.yml
파일에서 다음 변수를 구성하여 재시도 및 지연을 조정합니다.OSD handler checks
# OSD handler checks handler_health_osd_check_retries: 50 handler_health_osd_check_delay: 30
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
1.3.4. 다양한 디스크 토폴로지가 있는 Ansible을 사용하여 Ceph OSD 추가 링크 복사링크가 클립보드에 복사되었습니다!
디스크 토폴로지가 다른 Ceph OSD의 경우 새 OSD 노드를 기존 스토리지 클러스터에 추가하는 두 가지 방법이 있습니다.
사전 요구 사항
- 실행 중인 Red Hat Ceph Storage 클러스터.
- Red Hat Enterprise Linux 또는 Ubuntu 설치 가이드의 Red Hat Ceph Storage 설치 요구 사항을 검토하십시오.
-
새 노드에 대한
루트
액세스 권한 보유.
절차
첫 번째 접근 방식
[osds]
섹션의/etc/ansible/hosts
파일에 새 Ceph OSD 노드를 추가합니다.예제
[osds] ... osd06 $NEW_OSD_NODE_NAME
[osds] ... osd06 $NEW_OSD_NODE_NAME
Copy to Clipboard Copied! Toggle word wrap Toggle overflow /etc/ansible/host_vars/
디렉터리에 스토리지 클러스터에 추가된 각 새 Ceph OSD 노드의 새 파일을 만듭니다.구문
touch /etc/ansible/host_vars/$NEW_OSD_NODE_NAME
touch /etc/ansible/host_vars/$NEW_OSD_NODE_NAME
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예제
touch /etc/ansible/host_vars/osd07
[root@admin ~]# touch /etc/ansible/host_vars/osd07
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 새 파일을 편집하고
devices:
및dedicated_devices:
섹션을 파일에 추가합니다. 이러한 각 섹션 아래에-
, 공백을 추가한 다음 이 OSD 노드의 블록 장치 이름에 대한 전체 경로를 추가합니다.예제
Copy to Clipboard Copied! Toggle word wrap Toggle overflow Ansible이 모든 Ceph 노드에 연결할 수 있는지 확인합니다.
ansible all -m ping
[user@admin ~]$ ansible all -m ping
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 디렉터리를 Ansible 구성 디렉터리로 변경합니다.
cd /usr/share/ceph-ansible
[user@admin ~]$ cd /usr/share/ceph-ansible
Copy to Clipboard Copied! Toggle word wrap Toggle overflow add-osd.yml
파일을/usr/share/ceph-ansible/
디렉터리에 복사합니다.sudo cp infrastructure-playbooks/add-osd.yml .
[user@admin ceph-ansible]$ sudo cp infrastructure-playbooks/add-osd.yml .
Copy to Clipboard Copied! Toggle word wrap Toggle overflow Ansible Playbook을 실행합니다.
ansible-playbook add-osd.yml
[user@admin ceph-ansible]$ ansible-playbook add-osd.yml
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
두 번째 접근 방식
새 OSD 노드 이름을
/etc/ansible/hosts
파일에 추가하고, 다른 디스크 토폴로지를 지정하여devices
및dedicated_devices
옵션을 사용합니다.예제
[osds] ... osd07 devices="['/dev/sdc', '/dev/sdd', '/dev/sde', '/dev/sdf']" dedicated_devices="['/dev/sda', '/dev/sda', '/dev/sdb', '/dev/sdb']"
[osds] ... osd07 devices="['/dev/sdc', '/dev/sdd', '/dev/sde', '/dev/sdf']" dedicated_devices="['/dev/sda', '/dev/sda', '/dev/sdb', '/dev/sdb']"
Copy to Clipboard Copied! Toggle word wrap Toggle overflow Ansible이 모든 Ceph 노드에 연결할 수 있는지 확인합니다.
ansible all -m ping
[user@admin ~]$ ansible all -m ping
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 디렉터리를 Ansible 구성 디렉터리로 변경합니다.
cd /usr/share/ceph-ansible
[user@admin ~]$ cd /usr/share/ceph-ansible
Copy to Clipboard Copied! Toggle word wrap Toggle overflow add-osd.yml
파일을/usr/share/ceph-ansible/
디렉터리에 복사합니다.sudo cp infrastructure-playbooks/add-osd.yml .
[user@admin ceph-ansible]$ sudo cp infrastructure-playbooks/add-osd.yml .
Copy to Clipboard Copied! Toggle word wrap Toggle overflow Ansible Playbook을 실행합니다.
ansible-playbook add-osd.yml
[user@admin ceph-ansible]$ ansible-playbook add-osd.yml
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
1.3.5. 명령줄 인터페이스를 사용하여 Ceph OSD 추가 링크 복사링크가 클립보드에 복사되었습니다!
다음은 Red Hat Ceph Storage에 OSD를 수동으로 추가하기 위한 상위 수준 워크플로입니다.
-
ceph-osd
패키지를 설치하고 새 OSD 인스턴스 생성 - OSD 데이터 및 저널 드라이브 준비 및 마운트
- CRUSH 맵에 새 OSD 노드 추가
- 소유자 및 그룹 권한을 업데이트
-
ceph-osd
데몬 활성화 및 시작
ceph-disk
명령은 더 이상 사용되지 않습니다. 이제 명령줄 인터페이스에서 OSD를 배포하는 데 ceph-volume
명령이 선호됩니다. 현재 ceph-volume
명령은 lvm
플러그인만 지원합니다. Red Hat은 두 명령을 참조로 사용하여 이 가이드의 예제를 제공하므로 스토리지 관리자가 ceph-disk를 사용하는 모든 사용자 지정 스크립트를
으로 변환할 수 있습니다.
ceph-
volume
ceph-volume
명령 사용에 대한 자세한 내용은 Red Hat Ceph Storage 관리 가이드 를 참조하십시오.
사용자 지정 스토리지 클러스터 이름의 경우 ceph
및 ceph-osd
명령과 함께 --cluster $CLUSTER_NAME
옵션을 사용합니다.
사전 요구 사항
- 실행 중인 Red Hat Ceph Storage 클러스터.
- Red Hat Enterprise Linux 또는 Ubuntu 설치 가이드의 Red Hat Ceph Storage 설치 요구 사항을 검토하십시오.
-
새 노드에 대한
루트
액세스 권한 보유.
절차
Red Hat Ceph Storage 3 OSD 소프트웨어 리포지토리를 활성화합니다.
Red Hat Enterprise Linux
subscription-manager repos --enable=rhel-7-server-rhceph-3-osd-els-rpms
[root@osd ~]# subscription-manager repos --enable=rhel-7-server-rhceph-3-osd-els-rpms
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 우분투
sudo bash -c 'umask 0077; echo deb https://customername:customerpasswd@rhcs.download.redhat.com/3-updates/Tools $(lsb_release -sc) main | tee /etc/apt/sources.list.d/Tools.list' sudo bash -c 'wget -O - https://www.redhat.com/security/fd431d51.txt | apt-key add -'
[user@osd ~]$ sudo bash -c 'umask 0077; echo deb https://customername:customerpasswd@rhcs.download.redhat.com/3-updates/Tools $(lsb_release -sc) main | tee /etc/apt/sources.list.d/Tools.list' [user@osd ~]$ sudo bash -c 'wget -O - https://www.redhat.com/security/fd431d51.txt | apt-key add -'
Copy to Clipboard Copied! Toggle word wrap Toggle overflow /etc/ceph/
디렉토리를 만듭니다.mkdir /etc/ceph
# mkdir /etc/ceph
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 새 OSD 노드에서 Ceph Monitor 노드 중 하나에서 Ceph 관리 인증 키링 및 구성 파일을 복사합니다.
구문
scp $USER_NAME@$MONITOR_HOST_NAME:/etc/ceph/$CLUSTER_NAME.client.admin.keyring /etc/ceph scp $USER_NAME@$MONITOR_HOST_NAME:/etc/ceph/$CLUSTER_NAME.conf /etc/ceph
scp $USER_NAME@$MONITOR_HOST_NAME:/etc/ceph/$CLUSTER_NAME.client.admin.keyring /etc/ceph scp $USER_NAME@$MONITOR_HOST_NAME:/etc/ceph/$CLUSTER_NAME.conf /etc/ceph
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예제
scp root@node1:/etc/ceph/ceph.client.admin.keyring /etc/ceph/ scp root@node1:/etc/ceph/ceph.conf /etc/ceph/
[root@osd ~]# scp root@node1:/etc/ceph/ceph.client.admin.keyring /etc/ceph/ [root@osd ~]# scp root@node1:/etc/ceph/ceph.conf /etc/ceph/
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 새 Ceph OSD 노드에
ceph-osd
패키지를 설치합니다.Red Hat Enterprise Linux
yum install ceph-osd
[root@osd ~]# yum install ceph-osd
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 우분투
sudo apt-get install ceph-osd
[user@osd ~]$ sudo apt-get install ceph-osd
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 저널을 배치하거나 새 OSD에 전용 저널을 사용할지 여부를 결정합니다.
참고--filestore
옵션이 필요합니다.배치된 저널이 있는 OSD의 경우:
구문
ceph-disk --setuser ceph --setgroup ceph prepare --filestore /dev/$DEVICE_NAME
[root@osd ~]# ceph-disk --setuser ceph --setgroup ceph prepare --filestore /dev/$DEVICE_NAME
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예
ceph-disk --setuser ceph --setgroup ceph prepare --filestore /dev/sda
[root@osd ~]# ceph-disk --setuser ceph --setgroup ceph prepare --filestore /dev/sda
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 전용 저널이 있는 OSD의 경우:
구문
ceph-disk --setuser ceph --setgroup ceph prepare --filestore /dev/$DEVICE_NAME /dev/$JOURNAL_DEVICE_NAME
[root@osd ~]# ceph-disk --setuser ceph --setgroup ceph prepare --filestore /dev/$DEVICE_NAME /dev/$JOURNAL_DEVICE_NAME
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 또는
ceph-volume lvm prepare --filestore --data /dev/$DEVICE_NAME --journal /dev/$JOURNAL_DEVICE_NAME
[root@osd ~]# ceph-volume lvm prepare --filestore --data /dev/$DEVICE_NAME --journal /dev/$JOURNAL_DEVICE_NAME
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예
ceph-disk --setuser ceph --setgroup ceph prepare --filestore /dev/sda /dev/sdb
[root@osd ~]# ceph-disk --setuser ceph --setgroup ceph prepare --filestore /dev/sda /dev/sdb
Copy to Clipboard Copied! Toggle word wrap Toggle overflow ceph-volume lvm prepare --filestore --data /dev/vg00/lvol1 --journal /dev/sdb
[root@osd ~]# ceph-volume lvm prepare --filestore --data /dev/vg00/lvol1 --journal /dev/sdb
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
noup
옵션을 설정합니다.ceph osd set noup
[root@osd ~]# ceph osd set noup
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 새 OSD를 활성화합니다.
구문
ceph-disk activate /dev/$DEVICE_NAME
[root@osd ~]# ceph-disk activate /dev/$DEVICE_NAME
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 또는
ceph-volume lvm activate --filestore $OSD_ID $OSD_FSID
[root@osd ~]# ceph-volume lvm activate --filestore $OSD_ID $OSD_FSID
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예제
ceph-disk activate /dev/sda
[root@osd ~]# ceph-disk activate /dev/sda
Copy to Clipboard Copied! Toggle word wrap Toggle overflow ceph-volume lvm activate --filestore 0 6cc43680-4f6e-4feb-92ff-9c7ba204120e
[root@osd ~]# ceph-volume lvm activate --filestore 0 6cc43680-4f6e-4feb-92ff-9c7ba204120e
Copy to Clipboard Copied! Toggle word wrap Toggle overflow CRUSH 맵에 OSD를 추가합니다.
구문
ceph osd crush add $OSD_ID $WEIGHT [$BUCKET_TYPE=$BUCKET_NAME ...]
ceph osd crush add $OSD_ID $WEIGHT [$BUCKET_TYPE=$BUCKET_NAME ...]
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예제
ceph osd crush add 4 1 host=node4
[root@osd ~]# ceph osd crush add 4 1 host=node4
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 참고버킷을 두 개 이상 지정하는 경우 명령은 지정된 버킷에 OSD를 배치하고 지정한 다른 버킷 아래의 버킷을 이동합니다.
참고CRUSH 맵을 수동으로 편집할 수도 있습니다. Red Hat Ceph Storage 3용 스토리지 전략 가이드의 CRUSH 맵 편집 섹션을 참조하십시오.
중요루트 버킷만 지정하면 OSD가 root에 직접 연결되지만 CRUSH 규칙에는 호스트 버킷 내부에 OSD가 있어야 합니다.
noup
옵션을 설정 해제합니다.ceph osd unset noup
[root@osd ~]# ceph osd unset noup
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 새로 생성된 디렉터리에 대한 소유자 및 그룹 권한을 업데이트합니다.
구문
chown -R $OWNER:$GROUP $PATH_TO_DIRECTORY
chown -R $OWNER:$GROUP $PATH_TO_DIRECTORY
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예제
chown -R ceph:ceph /var/lib/ceph/osd chown -R ceph:ceph /var/log/ceph chown -R ceph:ceph /var/run/ceph chown -R ceph:ceph /etc/ceph
[root@osd ~]# chown -R ceph:ceph /var/lib/ceph/osd [root@osd ~]# chown -R ceph:ceph /var/log/ceph [root@osd ~]# chown -R ceph:ceph /var/run/ceph [root@osd ~]# chown -R ceph:ceph /etc/ceph
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 사용자 지정 이름으로 클러스터를 사용하는 경우 적절한 파일에 다음 행을 추가합니다.
Red Hat Enterprise Linux
echo "CLUSTER=$CLUSTER_NAME" >> /etc/sysconfig/ceph
[root@osd ~]# echo "CLUSTER=$CLUSTER_NAME" >> /etc/sysconfig/ceph
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 우분투
sudo echo "CLUSTER=$CLUSTER_NAME" >> /etc/default/ceph
[user@osd ~]$ sudo echo "CLUSTER=$CLUSTER_NAME" >> /etc/default/ceph
Copy to Clipboard Copied! Toggle word wrap Toggle overflow $CLUSTER_NAME
을 사용자 지정 클러스터 이름으로 교체합니다.새 OSD가
가동
되어 데이터를 수신할 준비가 되었는지 확인하려면 OSD 서비스를 활성화하고 시작합니다.구문
systemctl enable ceph-osd@$OSD_ID systemctl start ceph-osd@$OSD_ID
systemctl enable ceph-osd@$OSD_ID systemctl start ceph-osd@$OSD_ID
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예제
systemctl enable ceph-osd@4 systemctl start ceph-osd@4
[root@osd ~]# systemctl enable ceph-osd@4 [root@osd ~]# systemctl start ceph-osd@4
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
1.3.6. Ansible을 사용하여 Ceph OSD 제거 링크 복사링크가 클립보드에 복사되었습니다!
경우에 따라 Red Hat Ceph Storage 클러스터의 용량을 축소해야 할 수도 있습니다. Ansible을 사용하여 Red Hat Ceph Storage 클러스터에서 OSD를 제거하고 사용되는 OSD 시나리오에 따라 shrink-osd.yml
또는 shrink-osd-ceph-disk.yml
플레이북을 실행합니다. osd_scenario
가 collocated
또는 non-collocated
로 설정된 경우 shrink-osd-ceph-disk.yml
플레이북을 사용합니다. osd_scenario
가 lvm
으로 설정된 경우 shrink-osd.yml
플레이북을 사용합니다.
스토리지 클러스터에서 OSD를 제거하면 해당 OSD에 포함된 모든 데이터가 삭제됩니다.
사전 요구 사항
- Ansible에서 배포한 실행 중인 Red Hat Ceph Storage.
- 실행 중인 Ansible 관리 노드.
- Ansible 관리 노드에 대한 루트 수준 액세스입니다.
절차
/usr/share/ceph-ansible/
디렉토리로 변경합니다.cd /usr/share/ceph-ansible
[user@admin ~]$ cd /usr/share/ceph-ansible
Copy to Clipboard Copied! Toggle word wrap Toggle overflow -
Ceph Monitor 노드의
/etc/ceph/
에서 관리자 인증 키를 삭제하려는 OSD가 포함된 노드로 복사합니다. infrastructure-playbooks
디렉터리에서 현재 디렉터리에 적절한 플레이북을 복사합니다.cp infrastructure-playbooks/shrink-osd.yml .
[root@admin ceph-ansible]# cp infrastructure-playbooks/shrink-osd.yml .
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 또는
cp infrastructure-playbooks/shrink-osd-ceph-disk.yml .
[root@admin ceph-ansible]# cp infrastructure-playbooks/shrink-osd-ceph-disk.yml .
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 베어 메탈 또는 컨테이너 배포의 경우 적절한 Ansible 플레이북을 실행합니다.
구문
ansible-playbook shrink-osd.yml -e osd_to_kill=$ID -u $ANSIBLE_USER
ansible-playbook shrink-osd.yml -e osd_to_kill=$ID -u $ANSIBLE_USER
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 또는
ansible-playbook shrink-osd-ceph-disk.yml -e osd_to_kill=$ID -u $ANSIBLE_USER
ansible-playbook shrink-osd-ceph-disk.yml -e osd_to_kill=$ID -u $ANSIBLE_USER
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 교체:
-
OSD의 ID가 있는
$ID
입니다. 더 많은 OSD를 제거하려면 OSD ID를 쉼표로 구분합니다. -
$ANSIBLE_USER
및 Ansible 사용자 이름
예제
ansible-playbook shrink-osd.yml -e osd_to_kill=1 -u user
[user@admin ceph-ansible]$ ansible-playbook shrink-osd.yml -e osd_to_kill=1 -u user
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 또는
ansible-playbook shrink-osd-ceph-disk.yml -e osd_to_kill=1 -u user
[user@admin ceph-ansible]$ ansible-playbook shrink-osd-ceph-disk.yml -e osd_to_kill=1 -u user
Copy to Clipboard Copied! Toggle word wrap Toggle overflow -
OSD의 ID가 있는
OSD가 성공적으로 제거되었는지 확인합니다.
ceph osd tree
[root@mon ~]# ceph osd tree
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
추가 리소스
- 자세한 내용은 Red Hat Enterprise Linux 또는 Ubuntu 용 Red Hat Ceph Storage 설치 가이드 를 참조하십시오.
1.3.7. 명령줄 인터페이스를 사용하여 Ceph OSD 제거 링크 복사링크가 클립보드에 복사되었습니다!
스토리지 클러스터에서 OSD를 제거하려면 클러스터 맵을 업데이트하고, 인증 키를 제거하고, OSD 맵에서 OSD를 제거하고, ceph.conf
파일에서 OSD를 제거해야 합니다. 노드에 여러 개의 드라이브가 있는 경우 이 절차를 반복하여 각 드라이브에 대해 OSD를 제거해야 할 수 있습니다.
사전 요구 사항
- 실행 중인 Red Hat Ceph Storage 클러스터.
-
스토리지 클러스터가
거의 가득
차지 않도록 사용 가능한 OSD가 충분합니다. -
OSD 노드에
root
액세스 권한이 있어야 합니다.
절차
OSD 서비스를 비활성화하고 중지합니다.
구문
systemctl disable ceph-osd@$OSD_ID systemctl stop ceph-osd@$OSD_ID
systemctl disable ceph-osd@$OSD_ID systemctl stop ceph-osd@$OSD_ID
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예제
systemctl disable ceph-osd@4 systemctl stop ceph-osd@4
[root@osd ~]# systemctl disable ceph-osd@4 [root@osd ~]# systemctl stop ceph-osd@4
Copy to Clipboard Copied! Toggle word wrap Toggle overflow OSD가 중지되면
종료됩니다
.스토리지 클러스터에서 OSD를 제거합니다.
구문
ceph osd out $OSD_ID
ceph osd out $OSD_ID
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예제
ceph osd out 4
[root@osd ~]# ceph osd out 4
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 중요OSD가 부족하면 Ceph가 스토리지 클러스터의 다른 OSD에 데이터 재조정 및 복사를 시작합니다. 다음 단계를 진행하기 전에 스토리지 클러스터가
active+clean
이 될 때까지 기다리는 것이 좋습니다. 데이터 마이그레이션을 관찰하려면 다음 명령을 실행합니다.ceph -w
[root@monitor ~]# ceph -w
Copy to Clipboard Copied! Toggle word wrap Toggle overflow CRUSH 맵에서 OSD를 제거하여 더 이상 데이터를 받지 않도록 합니다.
구문
ceph osd crush remove $OSD_NAME
ceph osd crush remove $OSD_NAME
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예제
ceph osd crush remove osd.4
[root@osd ~]# ceph osd crush remove osd.4
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 참고CRUSH 맵을 컴파일하고, 장치 목록에서 OSD를 제거하고, 호스트 버킷의 항목으로 장치를 제거하거나 호스트 버킷을 제거할 수도 있습니다. CRUSH 맵에 있고 호스트를 제거하려는 경우 맵을 다시 컴파일하여 설정합니다. 자세한 내용은 스토리지 전략 가이드 를 참조하십시오.
OSD 인증 키를 제거합니다.
구문
ceph auth del osd.$OSD_ID
ceph auth del osd.$OSD_ID
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예제
ceph auth del osd.4
[root@osd ~]# ceph auth del osd.4
Copy to Clipboard Copied! Toggle word wrap Toggle overflow OSD를 제거합니다.
구문
ceph osd rm $OSD_ID
ceph osd rm $OSD_ID
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예제
ceph osd rm 4
[root@osd ~]# ceph osd rm 4
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 스토리지 클러스터의 구성 파일을 기본적으로
/etc/ceph/ceph.conf
로 편집하고 OSD 항목이 있는 경우 삭제합니다.예제
[osd.4] host = $HOST_NAME
[osd.4] host = $HOST_NAME
Copy to Clipboard Copied! Toggle word wrap Toggle overflow -
OSD를 수동으로 추가한 경우
/etc/fstab
파일에서 OSD에 대한 참조를 제거합니다. 업데이트된 구성 파일을 스토리지 클러스터에 있는 다른 모든 노드의
/etc/ceph/
디렉터리에 복사합니다.구문
scp /etc/ceph/$CLUSTER_NAME.conf $USER_NAME@$HOST_NAME:/etc/ceph/
scp /etc/ceph/$CLUSTER_NAME.conf $USER_NAME@$HOST_NAME:/etc/ceph/
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 예제
scp /etc/ceph/ceph.conf root@node4:/etc/ceph/
[root@osd ~]# scp /etc/ceph/ceph.conf root@node4:/etc/ceph/
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
1.3.8. 명령줄 인터페이스를 사용하여 저널 교체 링크 복사링크가 클립보드에 복사되었습니다!
저널 및 데이터 장치가 동일한 물리적 장치에 있을 때 저널을 교체하는 절차는 (예: osd_scenario: collocated
) 전체 OSD를 교체해야 합니다. 그러나 저널이 데이터 장치와 별도의 물리적 장치에 있는 OSD에서 (예: osd_scenario: non-collocated
)를 사용하면 저널 장치만 교체할 수 있습니다.
사전 요구 사항
- 실행 중인 Red Hat Ceph Storage 클러스터.
- 새 파티션 또는 스토리지 장치.
절차
백필을 방지하려면 클러스터를
noout
로 설정합니다.ceph osd set noout
[root@osd1 ~]# ceph osd set noout
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 저널이 변경되는 OSD를 중지합니다.
systemctl stop ceph-osd@$OSD_ID
[root@osd1 ~]# systemctl stop ceph-osd@$OSD_ID
Copy to Clipboard Copied! Toggle word wrap Toggle overflow OSD에서 저널을 플러시합니다.
ceph-osd -i $OSD_ID --flush-journal
[root@osd1 ~]# ceph-osd -i $OSD_ID --flush-journal
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 기존 저널 파티션을 제거하여 파티션 UUID가 새 파티션과 충돌하지 않도록 합니다.
sgdisk --delete=$OLD_PART_NUM -- $OLD_DEV_PATH
sgdisk --delete=$OLD_PART_NUM -- $OLD_DEV_PATH
Copy to Clipboard Copied! Toggle word wrap Toggle overflow - replace
-
$OLD_PART_NUM
- 기존 저널 장치의 파티션 번호입니다. -
$OLD_DEV_PATH
및 이전 저널 장치 경로가 사용됩니다.
-
예제
sgdisk --delete=1 -- /dev/sda
[root@osd1 ~]# sgdisk --delete=1 -- /dev/sda
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 새 장치에 새 저널 파티션을 생성합니다. 이
sgdisk
명령은 사용 가능한 다음 파티션 번호를 자동으로 사용합니다.sgdisk --new=0:0:$JOURNAL_SIZE -- $NEW_DEV_PATH
sgdisk --new=0:0:$JOURNAL_SIZE -- $NEW_DEV_PATH
Copy to Clipboard Copied! Toggle word wrap Toggle overflow - replace
-
환경에 적합한 저널 크기(예:
10240M
)가 있는$JOUECDHEL_SIZE
. -
새 저널에 사용할 장치 경로가 포함된
NEW_DEV_PATH
.
-
환경에 적합한 저널 크기(예:
참고저널의 최소 기본 크기는 5GB입니다. 일반적으로 10GB 이상의 값은 필요하지 않습니다. 자세한 내용은 Red Hat 지원에 문의하십시오.
예제
sgdisk --new=0:0:10240M -- /dev/sda
[root@osd1 ~]# sgdisk --new=0:0:10240M -- /dev/sda
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 새 파티션에 적절한 매개변수를 설정합니다.
sgdisk --change-name=0:"ceph journal" --partition-guid=0:$OLD_PART_UUID --typecode=0:45b0969e-9b03-4f30-b4c6-b4b80ceff106 --mbrtogpt -- $NEW_DEV_PATH
sgdisk --change-name=0:"ceph journal" --partition-guid=0:$OLD_PART_UUID --typecode=0:45b0969e-9b03-4f30-b4c6-b4b80ceff106 --mbrtogpt -- $NEW_DEV_PATH
Copy to Clipboard Copied! Toggle word wrap Toggle overflow - replace
-
$OLD_PART_UUID
및 관련 OSD의journal_uuid
파일에 UUID를 사용합니다. 예를 들어 OSD0
의 경우/var/lib/ceph/osd/ceph-0/journal_uuid
의 UUID를 사용합니다. -
새 저널에 사용할 장치 경로가 포함된
NEW_DEV_PATH
.
-
예제
sgdisk --change-name=0:"ceph journal" --partition-guid=0:a1279726-a32d-4101-880d-e8573bb11c16 --typecode=0:097c058d-0758-4199-a787-ce9bacb13f48 --mbrtogpt -- /dev/sda
[root@osd1 ~]# sgdisk --change-name=0:"ceph journal" --partition-guid=0:a1279726-a32d-4101-880d-e8573bb11c16 --typecode=0:097c058d-0758-4199-a787-ce9bacb13f48 --mbrtogpt -- /dev/sda
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 위의
sgdisk
명령을 실행하면 새 저널 파티션이 Ceph에 대해 준비되어 있고 저널을 생성할 수 있습니다.중요sgdisk
의 제한으로 인해 파티션을 올바르게 생성되지 않기 때문에 이 명령을 파티션 생성 명령과 결합할 수 없습니다.새 저널을 생성합니다.
ceph-osd -i $OSD_ID --mkjournal
[root@osd1 ~]# ceph-osd -i $OSD_ID --mkjournal
Copy to Clipboard Copied! Toggle word wrap Toggle overflow OSD를 시작합니다.
systemctl start ceph-osd@$OSD_ID
[root@osd1 ~]# systemctl start ceph-osd@$OSD_ID
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
OSD에서
noout
플래그를 제거합니다.ceph osd unset noout
[root@osd1 ~]# ceph osd unset noout
Copy to Clipboard Copied! Toggle word wrap Toggle overflow 저널이 올바른 장치와 연결되어 있는지 확인합니다.
ceph-disk list
[root@osd1 ~]# ceph-disk list
Copy to Clipboard Copied! Toggle word wrap Toggle overflow
1.3.9. 데이터 마이그레이션 관찰 링크 복사링크가 클립보드에 복사되었습니다!
OSD를 CRUSH 맵에 추가하거나 제거하면 Ceph에서 배치 그룹을 새 OSD 또는 기존 OSD로 마이그레이션하여 데이터 리밸런싱을 시작합니다.
사전 요구 사항
- 실행 중인 Red Hat Ceph Storage 클러스터.
- 최근에 OSD를 추가하거나 제거했습니다.
절차
데이터 마이그레이션을 관찰하려면 다음을 수행합니다.
ceph -w
[root@monitor ~]# ceph -w
Copy to Clipboard Copied! Toggle word wrap Toggle overflow -
마이그레이션이 완료되면 배치 그룹 상태가
active+clean
에서활성, 일부 저하된 개체
및 마지막으로활성+clean
으로 변경되는 것을 봅니다. -
유틸리티를 종료하려면
Ctrl + C
를 누릅니다.