Red Hat Summit Red Hat Summit지원콘솔개발자평가판 시작연락처

머신 관리

OpenShift Container Platform 4.19

클러스터 머신 추가 및 유지 보수

Red Hat OpenShift Documentation Team

초록

이 문서에서는 OpenShift Container Platform 클러스터를 구성하는 머신을 관리하는 방법을 설명합니다. 일부 작업은 OpenShift Container Platform 클러스터의 고급 자동 머신 관리 기능을 사용하며 일부 작업은 수동으로 완료해야 합니다. 이 문서에서 설명하는 모든 작업이 모든 설치 유형에서 사용 가능한 것은 아닙니다.

1장. 머신 관리 개요
링크 복사

Amazon Web Services(AWS), Microsoft Azure, Google Cloud Platform(GCP), Red Hat OpenStack Platform(RHOSP), VMware vSphere 등의 기본 인프라와 유연하게 연동하여 OpenShift Container Platform 클러스터를 관리할 수 있습니다. 클러스터를 제어하고 특정 작업 부하 정책에 따라 클러스터를 확장하거나 축소하는 등 자동 크기 조정을 수행할 수 있습니다.

변화하는 작업 부하에 적응할 수 있는 클러스터를 갖는 것이 중요합니다. OpenShift Container Platform 클러스터는 부하가 증가하거나 감소할 때 수평적으로 확장하거나 축소할 수 있습니다.

머신 관리가 사용자 정의 리소스 정의 (CRD)로 구현됩니다. CRD 오브젝트는 클러스터에서 새로운 고유한 오브젝트 Kind를 정의하고 Kubernetes API 서버에서 오브젝트의 전체 라이프사이클을 처리할 수 있습니다.

Machine API Operator는 다음 리소스를 제공합니다.

  • MachineSet
  • 머신
  • ClusterAutoscaler
  • MachineAutoscaler
  • MachineHealthCheck

1.1. Machine API 개요
링크 복사

Machine API는 업스트림 Cluster API 프로젝트 및 사용자 정의 OpenShift Container Platform 리소스를 기반으로 하는 주요 리소스의 조합입니다.

OpenShift Container Platform 4.19 클러스터의 경우, Machine API는 클러스터 설치가 완료된 후 모든 노드 호스트 프로비저닝 관리 작업을 수행합니다. 이 시스템 덕분에 OpenShift Container Platform 4.19는 퍼블릭 또는 프라이빗 클라우드 인프라를 기반으로 탄력적이고 동적인 프로비저닝 방법을 제공합니다.

두 가지 주요 리소스는 다음과 같습니다.

Machine
노드의 호스트를 설명하는 기본 단위입니다. 머신에는 providerSpec 사양이 있으며 이는 다른 클라우드 플랫폼에 제공되는 컴퓨팅 노드 유형을 설명합니다. 예를 들어 컴퓨팅 노드의 머신 유형은 특정 시스템 유형과 필수 메타데이터를 정의할 수 있습니다.
머신 세트

MachineSet 리소스는 컴퓨팅 머신 그룹입니다. 컴퓨팅 머신 세트는 컴퓨팅 머신에 연관되어 있고 복제본 세트는 pod에 연관되어 있습니다. 더 많은 컴퓨팅 머신이 필요하거나 확장해야 하는 경우 컴퓨팅 요구 사항에 맞게 MachineSet 리소스의 replicas 필드를 변경합니다.

주의

컨트롤 플레인 시스템은 컴퓨팅 머신 세트로 관리할 수 없습니다.

컨트롤 플레인 머신 세트는 컴퓨팅 머신에 제공하는 컴퓨팅 머신 세트와 유사한 지원되는 컨트롤 플레인 시스템에 대한 관리 기능을 제공합니다.

자세한 내용은 "컨트롤 플레인 머신 관리"를 참조하십시오.

다음 사용자 지정 리소스는 클러스터에 더 많은 기능을 추가할 수 있습니다.

머신 자동 스케일러

MachineAutoscaler 리소스는 클라우드에서 컴퓨팅 머신을 자동으로 확장합니다. 지정된 컴퓨팅 머신 세트에서 노드의 최소 및 최대 스케일링 경계를 설정할 수 있으며 머신 자동 스케일러는 해당 노드 범위를 유지합니다.

MachineAutoscaler 객체는 ClusterAutoscaler 객체를 설정한 후에 사용할 수 있습니다. ClusterAutoscaler 및 MachineAutoscaler리소스는 모두 ClusterAutoscalerOperator 오브젝트에서 사용 가능합니다.

Cluster autoscaler

이 리소스는 업스트림 클러스터 자동 스케일러 프로젝트를 기반으로 합니다. OpenShift Container Platform 구현에서는 컴퓨팅 머신 세트 API를 확장하여 Machine API와 통합됩니다. 클러스터 자동 스케일러를 사용하여 다음과 같은 방법으로 클러스터를 관리할 수 있습니다.

  • 코어, 노드, 메모리, GPU와 같은 리소스에 대한 클러스터 전체 스케일링 제한을 설정합니다.
  • 중요도가 낮은 Pod에 대해 클러스터가 Pod 및 새 노드가 온라인 상태가 되지 않도록 우선 순위를 설정합니다.
  • 노드를 확장할 수는 있지만 축소할 수 없도록 스케일링 정책을 설정합니다.
머신 상태 점검
MachineHealthCheck 리소스는 머신의 비정상적인 상태를 감지하여 삭제한 후 지원되는 플랫폼에서 새 머신을 생성합니다.

OpenShift Container Platform 버전 3.11에서는 클러스터가 머신 프로비저닝을 관리하지 않았기 때문에 다중 영역 아키텍처를 쉽게 롤아웃할 수 없었습니다. OpenShift Container Platform 버전 4.1부터 이러한 프로세스가 더 쉬워졌습니다. 각 컴퓨팅 머신 세트의 범위는 단일 영역으로 지정되므로 설치 프로그램은 사용자를 대신하여 가용성 영역 전체에 컴퓨팅 머신 세트를 보냅니다. 또한 계산이 동적이고 영역 장애가 발생하여 머신을 재조정해야하는 경우 처리할 수 있는 영역을 확보할 수 있습니다. 여러 가용성 영역이 없는 글로벌 Azure 리전에서는 가용성 세트를 사용하여 고가용성을 보장할 수 있습니다. Autoscaler는 클러스터의 수명 기간 동안 최적의 균형을 유지합니다.

1.2. 컴퓨터 머신 관리
링크 복사

클러스터 관리자는 다음 작업을 수행할 수 있습니다.

1.3. 제어 평면 머신 관리
링크 복사

클러스터 관리자는 다음 작업을 수행할 수 있습니다.

1.4. OpenShift Container Platform 클러스터에 자동 스케일링 적용
링크 복사

변화하는 워크로드에 대한 유연성을 보장하기 위해 OpenShift Container Platform 클러스터를 자동으로 확장할 수 있습니다. 클러스터를 자동으로 확장 하려면 먼저 클러스터 자동 확장기를 배포한 다음 각 컴퓨팅 머신 세트에 대한 머신 자동 확장기를 배포해야 합니다.

1.5. 사용자 제공 인프라에 컴퓨팅 머신 추가
링크 복사

사용자 프로비저닝 인프라는 OpenShift Container Platform을 호스팅하는 컴퓨팅, 네트워크, 스토리지 리소스와 같은 인프라를 배포할 수 있는 환경입니다. 설치 프로세스 중 또는 설치 프로세스 후 사용자 프로비저닝 인프라의 클러스터에 컴퓨팅 머신을 추가할 수 있습니다.

2장. Machine API를 사용하여 컴퓨팅 머신 관리
링크 복사

2.1. AWS에서 컴퓨팅 머신 세트 생성
링크 복사

Amazon Web Services(AWS)의 OpenShift Container Platform 클러스터에서 특정 목적에 맞는 다른 컴퓨팅 머신 세트를 만들 수 있습니다. 예를 들어, 지원되는 워크로드를 새 머신으로 이동할 수 있도록 인프라 머신 세트 및 관련 머신을 작성할 수 있습니다.

중요

머신 API가 작동하는 클러스터에서만 고급 머신 관리 및 스케일링 기능을 사용할 수 있습니다. 사용자 제공 인프라가 있는 클러스터는 Machine API를 사용하기 위해 추가적인 검증 및 구성이 필요합니다.

인프라 플랫폼 유형이 none인 클러스터는 Machine API를 사용할 수 없습니다. 이러한 제한은 클러스터에 연결된 컴퓨팅 머신이 해당 기능을 지원하는 플랫폼에 설치된 경우에도 적용됩니다. 설치 후에는 이 매개변수를 변경할 수 없습니다.

클러스터의 플랫폼 유형을 보려면 다음 명령을 실행하세요. 

$ oc get infrastructure cluster -o jsonpath='{.status.platform}'
Copy to Clipboard Toggle word wrap

2.1.1. AWS의 컴퓨팅 머신 세트 사용자 정의 리소스에 대한 샘플 YAML
링크 복사

샘플 YAML은 us-east-1a Amazon Web Services(AWS) 로컬 영역에서 실행되는 컴퓨팅 머신 세트를 정의하고 node-role.kubernetes.io/<role>: "" 로 레이블이 지정된 노드를 생성합니다.

이 샘플에서 <infrastructure_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 <role>은 추가할 노드 레이블입니다. 

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

  name: <infrastructure_id>-<role>-<zone>
2 

  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>-<zone>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
3 

        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>-<zone>
    spec:
      metadata:
        labels:
          node-role.kubernetes.io/<role>: ""
      providerSpec:
        value:
          ami:
            id: ami-046fe691f52a953f9
4 

          apiVersion: machine.openshift.io/v1beta1
          blockDevices:
            - ebs:
                iops: 0
                volumeSize: 120
                volumeType: gp2
          credentialsSecret:
            name: aws-cloud-credentials
          deviceIndex: 0
          iamInstanceProfile:
            id: <infrastructure_id>-worker-profile
          instanceType: m6i.large
          kind: AWSMachineProviderConfig
          placement:
            availabilityZone: <zone>
5 

            region: <region>
6 

          securityGroups:
            - filters:
                - name: tag:Name
                  values:
                    - <infrastructure_id>-node
            - filters:
                - name: tag:Name
                  values:
                    - <infrastructure_id>-lb
          subnet:
            filters:
              - name: tag:Name
                values:
                  - <infrastructure_id>-private-<zone>
7 

          tags:
            - name: kubernetes.io/cluster/<infrastructure_id>
              value: owned
            - name: <custom_tag_name>
8 

              value: <custom_tag_value>
          userDataSecret:
            name: worker-user-data
Copy to Clipboard Toggle word wrap
1
클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로하는 인프라 ID를 지정합니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap
2
인프라 ID, 역할 노드 레이블, 영역을 지정합니다.
3
추가할 역할 노드 레이블을 지정합니다.
4
OpenShift Container Platform 노드의 AWS 영역에 유효한 Red Hat Enterprise Linux CoreOS(RHCOS) Amazon Machine Image(AMI)를 지정하세요. AWS Marketplace 이미지를 사용하려면 AWS Marketplace 에서 OpenShift Container Platform 구독을 완료하여 해당 지역의 AMI ID를 얻어야 합니다. 
$ oc -n openshift-machine-api \
    -o jsonpath='{.spec.template.spec.providerSpec.value.ami.id}{"\n"}' \
    get machineset/<infrastructure_id>-<role>-<zone>
Copy to Clipboard Toggle word wrap
5
영역 이름을 지정합니다(예: us-east-1a) .
6
예를 들어 us-east-1과 같이 지역을 지정합니다.
7
인프라 ID와 영역을 지정합니다.
8
선택 사항: 클러스터에 대한 사용자 정의 태그 데이터를 지정합니다. 예를 들어 Email:admin-email@example.com의 name:value 쌍을 지정하여 관리자 연락처 이메일 주소를 추가할 수 있습니다.
참고

사용자 정의 태그는 install-config.yml 파일에서 설치하는 동안 지정할 수도 있습니다. install-config.yml 파일과 머신 세트에 동일한 name 데이터가 있는 태그가 포함된 경우 머신 세트의 태그 값이 install-config.yml 파일의 태그 값보다 우선합니다.

2.1.2. 컴퓨팅 머신 세트 생성
링크 복사

설치 프로그램에서 생성한 컴퓨팅 머신 세트 외에도 고유한 머신 세트를 생성하여 선택한 특정 워크로드의 머신 컴퓨팅 리소스를 동적으로 관리할 수 있습니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터를 배포합니다.
  • OpenShift CLI(oc)를 설치합니다.
  • cluster-admin 권한이 있는 사용자로 oc에 로그인합니다.

프로세스

  1. 컴퓨팅 머신 세트 CR(사용자 정의 리소스) 샘플이 포함된 새 YAML 파일을 만들고 <file_name>.yaml이라는 이름을 지정합니다.

    <clusterID> 및 <role> 매개 변수 값을 설정해야 합니다.

  2. 선택 사항: 특정 필드에 설정할 값이 확실하지 않은 경우 클러스터에서 기존 컴퓨팅 머신 세트를 확인할 수 있습니다.

    1. 클러스터의 컴퓨팅 머신 세트를 나열하려면 다음 명령을 실행합니다. 

      $ oc get machinesets -n openshift-machine-api
      Copy to Clipboard Toggle word wrap

      출력 예

      NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
      Copy to Clipboard Toggle word wrap

    2. 특정 컴퓨팅 머신 세트 CR(사용자 정의 리소스)의 값을 보려면 다음 명령을 실행합니다. 

      $ oc get machineset <machineset_name> \
  -n openshift-machine-api -o yaml
      Copy to Clipboard Toggle word wrap

      출력 예

      apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      1 
      
  name: <infrastructure_id>-<role>
      2 
      
  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
    spec:
      providerSpec:
      3 
      
        ...
      Copy to Clipboard Toggle word wrap

      1
      클러스터 인프라 ID입니다.
      2
      기본 노드 레이블입니다.
      참고

      사용자 프로비저닝 인프라가 있는 클러스터의 경우 컴퓨팅 머신 세트는 worker 및 infra 유형 머신만 생성할 수 있습니다.

      3
      컴퓨팅 머신 세트 CR의 <providerSpec> 섹션에 있는 값은 플랫폼에 따라 다릅니다. CR의 <providerSpec> 매개변수에 대한 자세한 내용은 공급자의 샘플 컴퓨팅 머신 세트 CR 구성을 참조하십시오.

  3. 다음 명령을 실행하여 MachineSet CR을 생성합니다. 

    $ oc create -f <file_name>.yaml
    Copy to Clipboard Toggle word wrap
  4. 다른 가용성 영역에 컴퓨팅 머신 세트가 필요한 경우 이 프로세스를 반복하여 더 많은 컴퓨팅 머신 세트를 만듭니다.

검증

  • 다음 명령을 실행하여 컴퓨팅 머신 세트 목록을 확인합니다. 

    $ oc get machineset -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-infra-us-east-1a    1         1         1       1           11m
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
    Copy to Clipboard Toggle word wrap

    새 컴퓨팅 머신 세트를 사용할 수 있으면 DESIRED 및 CURRENT 값이 일치합니다. 컴퓨팅 머신 세트를 사용할 수 없는 경우 몇 분 기다렸다가 명령을 다시 실행합니다.

2.1.3. 클러스터 자동 스케일러의 GPU 머신 세트 레이블 지정
링크 복사

클러스터 자동 확장기가 GPU 지원 노드를 배포하는 데 사용할 수 있는 머신을 나타내기 위해 머신 세트 레이블을 사용할 수 있습니다.

사전 요구 사항

  • 귀하의 클러스터는 클러스터 자동 확장기를 사용합니다.

프로세스

  • GPU 지원 노드를 배포하는 데 사용할 클러스터 자동 확장기에 대한 머신을 생성하려는 머신 세트에서 cluster-api/accelerator 레이블을 추가합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  name: machine-set-name
spec:
  template:
    spec:
      metadata:
        labels:
          cluster-api/accelerator: nvidia-t4
    1
    Copy to Clipboard Toggle word wrap
    1
    영숫자 문자( - , _ , 또는 .) 로 구성되고 영숫자 문자로 시작하고 끝나는 원하는 레이블을 지정하세요. 예를 들어, Nvidia T4 GPU를 나타내려면 nvidia-t4를 사용하고, A10G GPU를 나타내려면 nvidia-a10g를 사용할 수 있습니다.
    참고

    ClusterAutoscaler CR의 spec.resourceLimits.gpus.type 매개변수에 대해 이 레이블의 값을 지정해야 합니다. 자세한 내용은 "클러스터 자동 확장 리소스 정의"를 참조하세요.

기존 AWS 배치 그룹 내의 Elastic Fabric Adapter (EFA) 인스턴스에 머신을 배포하도록 머신 세트를 구성할 수 있습니다.

EFA 인스턴스에는 배치 그룹이 필요하지 않으며, EFA를 구성하는 것 외의 목적으로 배치 그룹을 사용할 수 있습니다. 이 예제에서는 두 가지를 모두 사용하여 지정된 배치 그룹 내의 머신에 대한 네트워크 성능을 개선할 수 있는 구성을 보여줍니다.

사전 요구 사항

  • AWS 콘솔에서 배치 그룹을 생성했습니다.

    참고

    생성한 배치 그룹 유형에 대한 규칙과 제한 사항이 의도한 사용 사례와 호환되는지 확인하세요.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 줄을 편집하세요. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
# ...
spec:
  template:
    spec:
      providerSpec:
        value:
          instanceType: <supported_instance_type>
    1 
    
          networkInterfaceType: EFA
    2 
    
          placement:
            availabilityZone: <zone>
    3 
    
            region: <region>
    4 
    
          placementGroupName: <placement_group>
    5 
    
          placementGroupPartition: <placement_group_partition_number>
    6 
    
# ...
    Copy to Clipboard Toggle word wrap
    1
    EFA를 지원하는 인스턴스 유형을 지정합니다.
    2
    EFA 네트워크 인터페이스 유형을 지정합니다.
    3
    예를 들어 us-east-1a 와 같이 영역을 지정합니다.
    4
    예를 들어 us-east-1과 같이 지역을 지정합니다.
    5
    머신을 배포할 기존 AWS 배치 그룹의 이름을 지정합니다.
    6
    선택 사항: 시스템을 배포할 기존 AWS 배치 그룹의 파티션 번호를 지정합니다.

검증

  • AWS 콘솔에서 머신 세트가 생성한 머신을 찾아 머신 속성에서 다음을 확인하세요.

    • 배치 그룹 필드에는 머신 세트의 placementGroupName 매개변수에 대해 지정한 값이 있습니다.
    • 파티션 번호 필드에는 머신 세트의 placementGroupPartition 매개변수에 대해 지정한 값이 있습니다.
    • 인터페이스 유형 필드는 EFA를 사용한다는 것을 나타냅니다.

2.1.5. Amazon EC2 인스턴스 메타데이터 서비스에 대한 머신 세트 옵션
링크 복사

머신 세트를 사용하면 Amazon EC2 인스턴스 메타데이터 서비스(IMDS)의 특정 버전을 사용하는 머신을 만들 수 있습니다. 머신 세트는 IMDSv1과 IMDSv2를 모두 사용할 수 있는 머신이나 IMDSv2를 사용해야 하는 머신을 만들 수 있습니다.

참고

OpenShift Container Platform 버전 4.6 이하로 생성된 AWS 클러스터에서 IMDSv2를 사용하려면 부트 이미지를 업데이트해야 합니다. 자세한 내용은 "업데이트된 부트 이미지"를 참조하세요.

원하는 IMDS 구성으로 새로운 컴퓨팅 머신을 배포하려면 적절한 값을 사용하여 컴퓨팅 머신 세트 YAML 파일을 만듭니다. 머신 세트가 확장되면 기존 머신 세트를 편집하여 원하는 IMDS 구성으로 새 머신을 만들 수도 있습니다.

중요

IMDSv2가 필요한 머신을 생성하기 위해 머신 세트를 구성하기 전에 AWS 메타데이터 서비스와 상호 작용하는 모든 워크로드가 IMDSv2를 지원하는지 확인하세요.

2.1.5.1. 머신 세트를 사용하여 IMDS 구성
링크 복사

머신의 머신 세트 YAML 파일에서 metadataServiceOptions.authentication 값을 추가하거나 편집하여 IMDSv2를 사용해야 하는지 여부를 지정할 수 있습니다.

사전 요구 사항

  • IMDSv2를 사용하려면 AWS 클러스터가 OpenShift Container Platform 버전 4.7 이상으로 생성되어야 합니다.

프로세스

  • providerSpec 필드 아래에 다음 줄을 추가하거나 편집하세요. 

    providerSpec:
  value:
    metadataServiceOptions:
      authentication: Required
    1
    Copy to Clipboard Toggle word wrap
    1
    IMDSv2를 요구하려면 매개변수 값을 필수 로 설정합니다. IMDSv1과 IMDSv2를 모두 사용하려면 매개변수 값을 Optional 로 설정합니다. 값을 지정하지 않으면 IMDSv1과 IMDSv2가 모두 허용됩니다.

2.1.6. 머신을 Dedicated 인스턴스로 배포하는 머신 세트
링크 복사

AWS에서 실행 중인 머신 세트를 생성하여 머신을 Dedicated 인스턴스로 배포할 수 있습니다. Dedicated 인스턴스는 단일 고객 전용 하드웨어의 VPC(가상 프라이빗 클라우드)에서 실행됩니다. 이러한 Amazon EC2 인스턴스는 호스트 하드웨어 수준에서 물리적으로 분리됩니다. Dedicated 인스턴스의 분리는 인스턴스가 하나의 유료 계정에 연결된 다른 AWS 계정에 속하는 경우에도 발생합니다. 하지만 전용이 아닌 다른 인스턴스는 동일한 AWS 계정에 속하는 경우 Dedicated 인스턴스와 하드웨어를 공유할 수 있습니다.

공용 또는 전용 테넌시가 있는 인스턴스는 Machine API에서 지원됩니다. 공용 테넌시가 있는 인스턴스는 공유 하드웨어에서 실행됩니다. 공용 테넌시는 기본 테넌시입니다. 전용 테넌트가 있는 인스턴스는 단일 테넌트 하드웨어에서 실행됩니다.

2.1.6.1. 머신 세트를 사용하여 Dedicated 인스턴스 생성
링크 복사

Machine API 통합을 사용하여 Dedicated 인스턴스에서 지원하는 머신을 실행할 수 있습니다. 머신 세트 YAML 파일의 tenancy 필드를 설정하여 AWS에서 전용 인스턴스를 시작합니다.

프로세스

  • providerSpec 필드에서 전용 테넌트를 지정합니다. 

    providerSpec:
  placement:
    tenancy: dedicated
    Copy to Clipboard Toggle word wrap

2.1.7. 머신을 Spot 인스턴스로 배포하는 머신 세트
링크 복사

AWS에서 실행되는 컴퓨팅 머신 세트를 생성하고 머신을 보장되지 않은 스팟 인스턴스로 배포하면 비용을 절감할 수 있습니다. Spot 인스턴스는 사용되지 않는 AWS EC2 용량을 사용하며 온 디맨드 인스턴스보다 저렴합니다. 일괄 처리 또는 상태 비저장, 수평적으로 확장 가능한 워크로드와 같이 인터럽트를 허용할 수 있는 워크로드에 Spot 인스턴스를 사용할 수 있습니다.

AWS EC2는 언제든지 Spot 인스턴스를 종료할 수 있습니다. AWS는 중단이 발생하면 사용자에게 2 분 동안 경고 메세지를 보냅니다. OpenShift Container Platform은 AWS가 종료에 대한 경고를 발행할 때 영향을 받는 인스턴스에서 워크로드를 제거하기 시작합니다.

다음과 같은 이유로 Spot 인스턴스를 사용할 때 중단될 수 있습니다.

  • 인스턴스 가격이 최대 가격을 초과합니다.
  • Spot 인스턴스에 대한 수요가 증가합니다.
  • Spot 인스턴스의 공급이 감소합니다.

AWS가 인스턴스를 종료하면 Spot 인스턴스 노드에서 실행중인 종료 프로세스가 머신 리소스를 삭제합니다. 컴퓨팅 머신 세트 복제본 수량을 충족하기 위해 컴퓨팅 머신 세트는 Spot 인스턴스를 요청하는 머신을 생성합니다.

2.1.7.1. 컴퓨팅 머신 세트를 사용하여 Spot 인스턴스 생성
링크 복사

AWS에서 Spot Instance를 시작하려면 컴퓨팅 머신 세트 YAML 파일에 spotMarketOptions를 추가하세요.

프로세스

  • providerSpec 필드 아래에 다음 행을 추가합니다. 

    providerSpec:
  value:
    spotMarketOptions: {}
    Copy to Clipboard Toggle word wrap

    선택 옵션으로 spotMarketOptions.maxPrice 필드를 설정하여 Spot 인스턴스의 비용을 제한할 수 있습니다. 예를 들어 maxPrice: '2.50'을 설정할 수 있습니다.

    maxPrice가 설정된 경우 이 값은 시간당 최대 Spot 가격으로 사용됩니다. 이 값이 설정되지 않은 경우 기본적으로 최대 가격은 온 디맨드 인스턴스 가격까지 청구됩니다.

    참고

    기본적인 온 디맨드 가격을 maxPrice 값으로 사용하여 Spot 인스턴스의 최대 가격을 설정하지 않는 것이 좋습니다.

2.1.8. 머신 세트를 사용하여 용량 예약 구성
링크 복사

OpenShift Container Platform 버전 4.19 이상에서는 ML을 위한 온디맨드 용량 예약 및 용량 블록을 포함하여 Amazon Web Services 클러스터의 용량 예약을 지원합니다.

사용자가 정의한 용량 요청의 매개변수와 일치하는 사용 가능한 리소스에 머신을 배포하도록 머신 세트를 구성할 수 있습니다. 이러한 매개변수는 예약하려는 인스턴스 유형, 지역 및 인스턴스 수를 지정합니다. 용량 예약이 용량 요청을 수용할 수 있는 경우 배포가 성공합니다.

이 AWS 제품에 대한 제한 사항 및 제안된 사용 사례를 포함한 자세한 내용은 AWS 설명서의 온디맨드 용량 예약 및 ML용 용량 블록을 참조하세요.

사전 요구 사항

  • cluster-admin 권한이 있는 클러스터에 액세스할 수 있습니다.
  • OpenShift CLI(oc)를 설치합니다.
  • ML에 대한 주문형 용량 예약 또는 용량 블록을 구매했습니다. 자세한 내용은 AWS 설명서의 온디맨드 용량 예약 및 ML에 대한 용량 블록을 참조하세요.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 섹션을 편집하세요.

    샘플 구성

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
# ...
spec:
  template:
    spec:
      providerSpec:
        value:
          capacityReservationId: <capacity_reservation>
    1 
    
          marketType: <market_type>
    2 
    
# ...
    Copy to Clipboard Toggle word wrap

    1
    머신이 머신을 배포할 ML 또는 주문형 용량 예약에 대한 용량 블록의 ID를 지정합니다.
    2
    사용할 시장 유형을 지정하세요. 유효한 값은 다음과 같습니다.
    CapacityBlock
    ML을 위한 용량 블록과 함께 이 시장 유형을 사용하세요.
    OnDemand
    이 마켓 유형을 주문형 용량 예약과 함께 사용하세요.
    점
    이 시장 유형을 스팟 인스턴스와 함께 사용하세요. 이 옵션은 용량 예약과 호환되지 않습니다.

검증

  • 시스템 배포를 확인하려면 다음 명령을 실행하여 머신 세트에서 생성한 머신을 나열합니다. 

    $ oc get machines.machine.openshift.io \
  -n openshift-machine-api \
  -l machine.openshift.io/cluster-api-machineset=<machine_set_name>
    Copy to Clipboard Toggle word wrap

    여기서 <machine_set_name>은 컴퓨팅 머신 세트의 이름입니다.

    출력에서 나열된 시스템의 특성이 용량 예약의 매개변수와 일치하는지 확인합니다.

2.1.9. 기존 OpenShift Container Platform 클러스터에 GPU 노드 추가
링크 복사

기본 컴퓨팅 머신 세트 구성을 복사하고 수정하여 AWS EC2 클라우드 공급자를 위한 GPU 지원 머신 세트와 머신을 생성할 수 있습니다.

지원되는 인스턴스 유형에 대한 자세한 내용은 다음 NVIDIA 설명서를 참조하세요.

프로세스

  1. 다음 명령을 실행하여 기존 노드, 머신, 머신 세트를 확인하세요. 각 노드는 특정 AWS 지역과 OpenShift Container Platform 역할을 갖춘 머신 정의의 인스턴스입니다. 

    $ oc get nodes
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                        STATUS   ROLES                  AGE     VERSION
ip-10-0-52-50.us-east-2.compute.internal    Ready    worker                 3d17h   v1.32.3
ip-10-0-58-24.us-east-2.compute.internal    Ready    control-plane,master   3d17h   v1.32.3
ip-10-0-68-148.us-east-2.compute.internal   Ready    worker                 3d17h   v1.32.3
ip-10-0-68-68.us-east-2.compute.internal    Ready    control-plane,master   3d17h   v1.32.3
ip-10-0-72-170.us-east-2.compute.internal   Ready    control-plane,master   3d17h   v1.32.3
ip-10-0-74-50.us-east-2.compute.internal    Ready    worker                 3d17h   v1.32.3
    Copy to Clipboard Toggle word wrap

  2. 다음 명령을 실행하여 openshift-machine-api 네임스페이스에 있는 머신과 머신 세트를 확인하세요. 각 컴퓨팅 머신 세트는 AWS 지역 내의 다른 가용성 영역과 연결됩니다. 설치 프로그램은 가용성 영역 전반에 걸쳐 컴퓨팅 머신의 부하를 자동으로 분산합니다. 

    $ oc get machinesets -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                        DESIRED   CURRENT   READY   AVAILABLE   AGE
preserve-dsoc12r4-ktjfc-worker-us-east-2a   1         1         1       1           3d11h
preserve-dsoc12r4-ktjfc-worker-us-east-2b   2         2         2       2           3d11h
    Copy to Clipboard Toggle word wrap

  3. 다음 명령을 실행하여 openshift-machine-api 네임스페이스에 있는 머신을 확인하세요. 현재 각 머신 세트에는 하나의 컴퓨팅 머신만 있지만, 특정 지역 및 영역에 노드를 추가하도록 컴퓨팅 머신 세트를 확장할 수 있습니다. 

    $ oc get machines -n openshift-machine-api | grep worker
    Copy to Clipboard Toggle word wrap

    출력 예

    preserve-dsoc12r4-ktjfc-worker-us-east-2a-dts8r      Running   m5.xlarge   us-east-2   us-east-2a   3d11h
preserve-dsoc12r4-ktjfc-worker-us-east-2b-dkv7w      Running   m5.xlarge   us-east-2   us-east-2b   3d11h
preserve-dsoc12r4-ktjfc-worker-us-east-2b-k58cw      Running   m5.xlarge   us-east-2   us-east-2b   3d11h
    Copy to Clipboard Toggle word wrap

  4. 다음 명령을 실행하여 기존 컴퓨트 MachineSet 정의 중 하나의 복사본을 만들고 결과를 JSON 파일에 출력합니다. 이는 GPU 지원 컴퓨팅 머신 세트 정의의 기초가 됩니다. 

    $ oc get machineset preserve-dsoc12r4-ktjfc-worker-us-east-2a -n openshift-machine-api -o json > <output_file.json>
    Copy to Clipboard Toggle word wrap

  5. JSON 파일을 편집하고 새 MachineSet 정의에 다음과 같은 변경 사항을 적용합니다.

    • Worker를 GPU 로 교체합니다. 이것이 새로운 기계 세트의 이름이 될 것입니다.

    • 새로운 MachineSet 정의의 인스턴스 유형을 NVIDIA Tesla T4 GPU를 포함하는 g4dn 으로 변경합니다. AWS g4dn 인스턴스 유형에 대한 자세한 내용은 가속 컴퓨팅을 참조하십시오. 

      $ jq .spec.template.spec.providerSpec.value.instanceType preserve-dsoc12r4-ktjfc-worker-gpu-us-east-2a.json

"g4dn.xlarge"
      Copy to Clipboard Toggle word wrap

      <output_file.json> 파일은 preserve-dsoc12r4-ktjfc-worker-gpu-us-east-2a.json 으로 저장됩니다.

  6. preserve-dsoc12r4-ktjfc-worker-gpu-us-east-2a.json 에서 다음 필드를 업데이트합니다.

    • .metadata.name을 gpu를 포함하는 이름으로 변경합니다.
    • 새로운 .metadata.name 과 일치하도록 .spec.selector.matchLabels["machine.openshift.io/cluster-api-machineset"]을 설정합니다 .
    • .spec.template.metadata.labels["machine.openshift.io/cluster-api-machineset"]을 새로운 .metadata.name 과 일치시킵니다.
    • .spec.template.spec.providerSpec.value.instanceType 을 g4dn.xlarge으로 설정합니다.

  7. 변경 사항을 확인하려면 다음 명령을 실행하여 원래 컴퓨팅 정의와 새 GPU 사용 노드 정의의 diff를 수행합니다. 

    $ oc -n openshift-machine-api get preserve-dsoc12r4-ktjfc-worker-us-east-2a -o json | diff preserve-dsoc12r4-ktjfc-worker-gpu-us-east-2a.json -
    Copy to Clipboard Toggle word wrap

    출력 예

    10c10

< "name": "preserve-dsoc12r4-ktjfc-worker-gpu-us-east-2a",
---
> "name": "preserve-dsoc12r4-ktjfc-worker-us-east-2a",

21c21

< "machine.openshift.io/cluster-api-machineset": "preserve-dsoc12r4-ktjfc-worker-gpu-us-east-2a"
---
> "machine.openshift.io/cluster-api-machineset": "preserve-dsoc12r4-ktjfc-worker-us-east-2a"

31c31

< "machine.openshift.io/cluster-api-machineset": "preserve-dsoc12r4-ktjfc-worker-gpu-us-east-2a"
---
> "machine.openshift.io/cluster-api-machineset": "preserve-dsoc12r4-ktjfc-worker-us-east-2a"

60c60

< "instanceType": "g4dn.xlarge",
---
> "instanceType": "m5.xlarge",
    Copy to Clipboard Toggle word wrap

  8. 다음 명령을 실행하여 정의에서 GPU 지원 컴퓨팅 머신 세트를 만듭니다. 

    $ oc create -f preserve-dsoc12r4-ktjfc-worker-gpu-us-east-2a.json
    Copy to Clipboard Toggle word wrap

    출력 예

    machineset.machine.openshift.io/preserve-dsoc12r4-ktjfc-worker-gpu-us-east-2a created
    Copy to Clipboard Toggle word wrap

검증

  1. 다음 명령을 실행하여 생성한 머신 세트를 확인하세요. 

    $ oc -n openshift-machine-api get machinesets | grep gpu
    Copy to Clipboard Toggle word wrap

    MachineSet 복제본 수가 1 로 설정되어 새로운 Machine 객체가 자동으로 생성됩니다.

    출력 예

    preserve-dsoc12r4-ktjfc-worker-gpu-us-east-2a   1         1         1       1           4m21s
    Copy to Clipboard Toggle word wrap

  2. 다음 명령을 실행하여 머신 세트가 생성한 머신 객체를 확인하세요. 

    $ oc -n openshift-machine-api get machines | grep gpu
    Copy to Clipboard Toggle word wrap

    출력 예

    preserve-dsoc12r4-ktjfc-worker-gpu-us-east-2a    running    g4dn.xlarge   us-east-2   us-east-2a  4m36s
    Copy to Clipboard Toggle word wrap

노드에 대한 네임스페이스를 지정할 필요는 없습니다. 노드 정의는 클러스터 범위입니다.

2.1.10. 노드 기능 검색 연산자 배포
링크 복사

GPU 지원 노드를 생성한 후에는 GPU 지원 노드를 검색하여 예약해야 합니다. 이렇게 하려면 NFD(Node Feature Discovery) Operator를 설치하세요. NFD 운영자는 노드의 하드웨어 장치 기능을 식별합니다. 이는 인프라 노드에서 하드웨어 리소스를 식별하고 카탈로그화하여 OpenShift Container Platform에서 사용할 수 있도록 하는 일반적인 문제를 해결합니다.

프로세스

  1. OpenShift Container Platform 콘솔에서 OperatorHub 의 Node Feature Discovery Operator를 설치합니다.
  2. OperatorHub 에 NFD Operator를 설치한 후, 설치된 Operator 목록에서 Node Feature Discovery를 선택하고 인스턴스 생성을 선택합니다. 이렇게 하면 각 컴퓨팅 노드에 대해 nfd-master 및 nfd-worker, 하나의 nfd-worker Pod가 openshift-nfd 네임스페이스에 설치됩니다.

  3. 다음 명령을 실행하여 Operator가 설치되고 실행 중인지 확인하세요. 

    $ oc get pods -n openshift-nfd
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                       READY    STATUS     RESTARTS   AGE

nfd-controller-manager-8646fcbb65-x5qgk    2/2      Running 7  (8h ago)   1d
    Copy to Clipboard Toggle word wrap

  4. 콘솔에서 설치된 Oerator를 찾아 '노드 기능 검색 만들기'를 선택합니다.
  5. 생성 을 선택하여 NFD 사용자 정의 리소스를 빌드합니다. 이렇게 하면 openshift-nfd 네임스페이스에 NFD 포드가 생성되어 OpenShift Container Platform 노드에서 하드웨어 리소스를 폴링하고 카탈로그화합니다.

검증

  1. 빌드가 성공적으로 완료되면 다음 명령을 실행하여 각 노드에서 NFD 포드가 실행 중인지 확인하세요. 

    $ oc get pods -n openshift-nfd
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                       READY   STATUS      RESTARTS        AGE
nfd-controller-manager-8646fcbb65-x5qgk    2/2     Running     7 (8h ago)      12d
nfd-master-769656c4cb-w9vrv                1/1     Running     0               12d
nfd-worker-qjxb2                           1/1     Running     3 (3d14h ago)   12d
nfd-worker-xtz9b                           1/1     Running     5 (3d14h ago)   12d
    Copy to Clipboard Toggle word wrap

    NFD 운영자는 공급업체 PCI ID를 사용하여 노드의 하드웨어를 식별합니다. NVIDIA는 PCI ID 10de를 사용합니다.

  2. 다음 명령을 실행하여 NFD 운영자가 발견한 NVIDIA GPU를 확인하세요. 

    $ oc describe node ip-10-0-132-138.us-east-2.compute.internal | egrep 'Roles|pci'
    Copy to Clipboard Toggle word wrap

    출력 예

    Roles: worker

feature.node.kubernetes.io/pci-1013.present=true

feature.node.kubernetes.io/pci-10de.present=true

feature.node.kubernetes.io/pci-1d0f.present=true
    Copy to Clipboard Toggle word wrap

    10de는 GPU 지원 노드의 노드 기능 목록에 나타납니다. 이는 NFD 운영자가 GPU 지원 MachineSet에서 노드를 올바르게 식별했음을 의미합니다.

2.2. Azure에서 컴퓨팅 머신 세트 만들기
링크 복사

Microsoft Azure의 OpenShift Container Platform 클러스터에서 특정 목적에 맞는 다른 컴퓨팅 머신 세트를 만들 수 있습니다. 예를 들어, 지원되는 워크로드를 새 머신으로 이동할 수 있도록 인프라 머신 세트 및 관련 머신을 작성할 수 있습니다.

중요

머신 API가 작동하는 클러스터에서만 고급 머신 관리 및 스케일링 기능을 사용할 수 있습니다. 사용자 제공 인프라가 있는 클러스터는 Machine API를 사용하기 위해 추가적인 검증 및 구성이 필요합니다.

인프라 플랫폼 유형이 none인 클러스터는 Machine API를 사용할 수 없습니다. 이러한 제한은 클러스터에 연결된 컴퓨팅 머신이 해당 기능을 지원하는 플랫폼에 설치된 경우에도 적용됩니다. 설치 후에는 이 매개변수를 변경할 수 없습니다.

클러스터의 플랫폼 유형을 보려면 다음 명령을 실행하세요. 

$ oc get infrastructure cluster -o jsonpath='{.status.platform}'
Copy to Clipboard Toggle word wrap

2.2.1. Azure의 컴퓨팅 머신 세트 사용자 지정 리소스에 대한 샘플 YAML
링크 복사

이 샘플 YAML은 지역의 1개 Microsoft Azure 영역에서 실행되는 컴퓨팅 머신 세트를 정의하고 node-role.kubernetes.io/<role>: "" 로 레이블이 지정된 노드를 생성합니다.

이 샘플에서 <infrastructure_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 <role>은 추가할 노드 레이블입니다. 

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

    machine.openshift.io/cluster-api-machine-role: <role>
2 

    machine.openshift.io/cluster-api-machine-type: <role>
  name: <infrastructure_id>-<role>-<region>
3 

  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>-<region>
  template:
    metadata:
      creationTimestamp: null
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>-<region>
    spec:
      metadata:
        creationTimestamp: null
        labels:
          machine.openshift.io/cluster-api-machineset: <machineset_name>
          node-role.kubernetes.io/<role>: ""
      providerSpec:
        value:
          apiVersion: machine.openshift.io/v1beta1
          credentialsSecret:
            name: azure-cloud-credentials
            namespace: openshift-machine-api
          image:
4 

            offer: ""
            publisher: ""
            resourceID: /resourceGroups/<infrastructure_id>-rg/providers/Microsoft.Compute/galleries/gallery_<infrastructure_id>/images/<infrastructure_id>-gen2/versions/latest
5 

            sku: ""
            version: ""
          internalLoadBalancer: ""
          kind: AzureMachineProviderSpec
          location: <region>
6 

          managedIdentity: <infrastructure_id>-identity
          metadata:
            creationTimestamp: null
          natRule: null
          networkResourceGroup: ""
          osDisk:
            diskSizeGB: 128
            managedDisk:
              storageAccountType: Premium_LRS
            osType: Linux
          publicIP: false
          publicLoadBalancer: ""
          resourceGroup: <infrastructure_id>-rg
          sshPrivateKey: ""
          sshPublicKey: ""
          tags:
            - name: <custom_tag_name>
7 

              value: <custom_tag_value>
          subnet: <infrastructure_id>-<role>-subnet
          userDataSecret:
            name: worker-user-data
          vmSize: Standard_D4s_v3
          vnet: <infrastructure_id>-vnet
          zone: "1"
8
Copy to Clipboard Toggle word wrap
1
클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로하는 인프라 ID를 지정합니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap

다음 명령을 실행하여 서브넷을 가져올 수 있습니다. 

$  oc -n openshift-machine-api \
    -o jsonpath='{.spec.template.spec.providerSpec.value.subnet}{"\n"}' \
    get machineset/<infrastructure_id>-worker-centralus1
Copy to Clipboard Toggle word wrap

다음 명령을 실행하여 vnet을 가져올 수 있습니다. 

$  oc -n openshift-machine-api \
    -o jsonpath='{.spec.template.spec.providerSpec.value.vnet}{"\n"}' \
    get machineset/<infrastructure_id>-worker-centralus1
Copy to Clipboard Toggle word wrap
2
추가할 노드 레이블을 지정합니다.
3
인프라 ID, 노드 레이블, 리전을 지정합니다.
4
컴퓨팅 머신 세트의 이미지 세부 정보를 지정합니다. Azure Marketplace 이미지를 사용하려면 "Azure Marketplace 제공 사용"을 참조하세요.
5
인스턴스 유형과 호환되는 이미지를 지정하세요. 설치 프로그램에서 생성된 Hyper-V 세대 V2 이미지에는 -gen2 접미사가 붙는 반면, V1 이미지는 접미사 없이 동일한 이름을 갖습니다.
6
기계를 배치할 지역을 지정하세요.
7
선택 사항: 머신 세트에서 사용자 정의 태그를 지정합니다. <custom_tag_name> 필드에 태그 이름을 입력하고, <custom_tag_value> 필드에 해당 태그 값을 입력합니다.
8
머신을 배치할 리전 내 영역을 지정합니다. 해당 지역이 지정한 구역을 지원하는지 확인하세요.
중요

해당 지역에서 가용성 영역을 지원하는 경우 가용성 영역을 지정해야 합니다. 영역을 지정하면 포드에 영구 볼륨 연결이 필요할 때 볼륨 노드 친화성 실패가 방지됩니다. 이를 위해 동일한 지역의 각 영역에 대한 컴퓨팅 머신 세트를 만들 수 있습니다.

2.2.2. 컴퓨팅 머신 세트 생성
링크 복사

설치 프로그램에서 생성한 컴퓨팅 머신 세트 외에도 고유한 머신 세트를 생성하여 선택한 특정 워크로드의 머신 컴퓨팅 리소스를 동적으로 관리할 수 있습니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터를 배포합니다.
  • OpenShift CLI(oc)를 설치합니다.
  • cluster-admin 권한이 있는 사용자로 oc에 로그인합니다.

프로세스

  1. 컴퓨팅 머신 세트 CR(사용자 정의 리소스) 샘플이 포함된 새 YAML 파일을 만들고 <file_name>.yaml이라는 이름을 지정합니다.

    <clusterID> 및 <role> 매개 변수 값을 설정해야 합니다.

  2. 선택 사항: 특정 필드에 설정할 값이 확실하지 않은 경우 클러스터에서 기존 컴퓨팅 머신 세트를 확인할 수 있습니다.

    1. 클러스터의 컴퓨팅 머신 세트를 나열하려면 다음 명령을 실행합니다. 

      $ oc get machinesets -n openshift-machine-api
      Copy to Clipboard Toggle word wrap

      출력 예

      NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
      Copy to Clipboard Toggle word wrap

    2. 특정 컴퓨팅 머신 세트 CR(사용자 정의 리소스)의 값을 보려면 다음 명령을 실행합니다. 

      $ oc get machineset <machineset_name> \
  -n openshift-machine-api -o yaml
      Copy to Clipboard Toggle word wrap

      출력 예

      apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      1 
      
  name: <infrastructure_id>-<role>
      2 
      
  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
    spec:
      providerSpec:
      3 
      
        ...
      Copy to Clipboard Toggle word wrap

      1
      클러스터 인프라 ID입니다.
      2
      기본 노드 레이블입니다.
      참고

      사용자 프로비저닝 인프라가 있는 클러스터의 경우 컴퓨팅 머신 세트는 worker 및 infra 유형 머신만 생성할 수 있습니다.

      3
      컴퓨팅 머신 세트 CR의 <providerSpec> 섹션에 있는 값은 플랫폼에 따라 다릅니다. CR의 <providerSpec> 매개변수에 대한 자세한 내용은 공급자의 샘플 컴퓨팅 머신 세트 CR 구성을 참조하십시오.

  3. 다음 명령을 실행하여 MachineSet CR을 생성합니다. 

    $ oc create -f <file_name>.yaml
    Copy to Clipboard Toggle word wrap

검증

  • 다음 명령을 실행하여 컴퓨팅 머신 세트 목록을 확인합니다. 

    $ oc get machineset -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-infra-us-east-1a    1         1         1       1           11m
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
    Copy to Clipboard Toggle word wrap

    새 컴퓨팅 머신 세트를 사용할 수 있으면 DESIRED 및 CURRENT 값이 일치합니다. 컴퓨팅 머신 세트를 사용할 수 없는 경우 몇 분 기다렸다가 명령을 다시 실행합니다.

2.2.3. 클러스터 자동 스케일러의 GPU 머신 세트 레이블 지정
링크 복사

클러스터 자동 확장기가 GPU 지원 노드를 배포하는 데 사용할 수 있는 머신을 나타내기 위해 머신 세트 레이블을 사용할 수 있습니다.

사전 요구 사항

  • 귀하의 클러스터는 클러스터 자동 확장기를 사용합니다.

프로세스

  • GPU 지원 노드를 배포하는 데 사용할 클러스터 자동 확장기에 대한 머신을 생성하려는 머신 세트에서 cluster-api/accelerator 레이블을 추가합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  name: machine-set-name
spec:
  template:
    spec:
      metadata:
        labels:
          cluster-api/accelerator: nvidia-t4
    1
    Copy to Clipboard Toggle word wrap
    1
    영숫자 문자( - , _ , 또는 .) 로 구성되고 영숫자 문자로 시작하고 끝나는 원하는 레이블을 지정하세요. 예를 들어, Nvidia T4 GPU를 나타내려면 nvidia-t4를 사용하고, A10G GPU를 나타내려면 nvidia-a10g를 사용할 수 있습니다.
    참고

    ClusterAutoscaler CR의 spec.resourceLimits.gpus.type 매개변수에 대해 이 레이블의 값을 지정해야 합니다. 자세한 내용은 "클러스터 자동 확장 리소스 정의"를 참조하세요.

2.2.4. Azure Marketplace 제공 서비스 사용
링크 복사

Azure Marketplace 제품을 사용하는 머신을 배포하는 Azure에서 실행되는 머신 세트를 만들 수 있습니다. 이 서비스를 사용하려면 먼저 Azure Marketplace 이미지를 얻어야 합니다. 이미지를 얻을 때 다음 사항을 고려하세요.

  • 이미지는 동일하지만 Azure Marketplace 게시자는 지역에 따라 다릅니다. 북미에 거주하는 경우 게시자로 Redhat을 지정하세요. EMEA에 거주하는 경우 게시자로 redhat-limited를 지정하세요.
  • 이 제안에는 rh-ocp-worker SKU와 rh-ocp-worker-gen1 SKU가 포함됩니다. rh-ocp-worker SKU는 Hyper-V 생성 버전 2 VM 이미지를 나타냅니다. OpenShift Container Platform에서 사용되는 기본 인스턴스 유형은 버전 2와 호환됩니다. 버전 1과만 호환되는 인스턴스 유형을 사용하려는 경우 rh-ocp-worker-gen1 SKU와 연결된 이미지를 사용하세요. rh-ocp-worker-gen1 SKU는 Hyper-V 버전 1 VM 이미지를 나타냅니다.
중요

64비트 ARM 인스턴스가 있는 클러스터에서는 Azure Marketplace를 사용하여 이미지를 설치하는 것이 지원되지 않습니다.

Azure Marketplace 이미지를 사용하려면 컴퓨팅 머신의 RHCOS 이미지만 수정해야 합니다. 제어 평면 머신과 인프라 노드에는 OpenShift Container Platform 구독이 필요하지 않으며 기본적으로 공개 RHCOS 기본 이미지를 사용하므로 Azure 청구서에 구독 비용이 발생하지 않습니다. 따라서 클러스터 기본 부트 이미지나 제어 플레인 부트 이미지를 수정해서는 안 됩니다. Azure Marketplace 이미지를 적용하면 회수할 수 없는 추가 라이선스 비용이 발생합니다.

사전 요구 사항

  • Azure CLI 클라이언트 (az) 를 설치했습니다.
  • 귀하의 Azure 계정은 해당 혜택을 받을 자격이 있으며 Azure CLI 클라이언트를 사용하여 이 계정에 로그인했습니다.

프로세스

  1. 다음 명령 중 하나를 실행하여 사용 가능한 모든 OpenShift Container Platform 이미지를 표시합니다.

    • 북아메리카: 

      $  az vm image list --all --offer rh-ocp-worker --publisher redhat -o table
      Copy to Clipboard Toggle word wrap

      출력 예

      Offer          Publisher       Sku                 Urn                                                             Version
-------------  --------------  ------------------  --------------------------------------------------------------  -----------------
rh-ocp-worker  RedHat          rh-ocp-worker       RedHat:rh-ocp-worker:rh-ocp-worker:4.17.2024100419              4.17.2024100419
rh-ocp-worker  RedHat          rh-ocp-worker-gen1  RedHat:rh-ocp-worker:rh-ocp-worker-gen1:4.17.2024100419         4.17.2024100419
      Copy to Clipboard Toggle word wrap

    • EMEA: 

      $  az vm image list --all --offer rh-ocp-worker --publisher redhat-limited -o table
      Copy to Clipboard Toggle word wrap

      출력 예

      Offer          Publisher       Sku                 Urn                                                                     Version
-------------  --------------  ------------------  --------------------------------------------------------------          -----------------
rh-ocp-worker  redhat-limited  rh-ocp-worker       redhat-limited:rh-ocp-worker:rh-ocp-worker:4.17.2024100419              4.17.2024100419
rh-ocp-worker  redhat-limited  rh-ocp-worker-gen1  redhat-limited:rh-ocp-worker:rh-ocp-worker-gen1:4.17.2024100419         4.17.2024100419
      Copy to Clipboard Toggle word wrap

    참고

    컴퓨팅 및 제어 평면 노드에 사용 가능한 최신 이미지를 사용합니다. 필요한 경우, 설치 과정의 일부로 VM이 자동으로 업그레이드됩니다.

  2. 다음 명령 중 하나를 실행하여 제안에 대한 이미지를 검사하세요.

    • 북아메리카: 

      $ az vm image show --urn redhat:rh-ocp-worker:rh-ocp-worker:<version>
      Copy to Clipboard Toggle word wrap

    • EMEA: 

      $ az vm image show --urn redhat-limited:rh-ocp-worker:rh-ocp-worker:<version>
      Copy to Clipboard Toggle word wrap

  3. 다음 명령 중 하나를 실행하여 제안 조건을 검토하세요.

    • 북아메리카: 

      $ az vm image terms show --urn redhat:rh-ocp-worker:rh-ocp-worker:<version>
      Copy to Clipboard Toggle word wrap

    • EMEA: 

      $ az vm image terms show --urn redhat-limited:rh-ocp-worker:rh-ocp-worker:<version>
      Copy to Clipboard Toggle word wrap

  4. 다음 명령 중 하나를 실행하여 제공 조건에 동의하세요.

    • 북아메리카: 

      $ az vm image terms accept --urn redhat:rh-ocp-worker:rh-ocp-worker:<version>
      Copy to Clipboard Toggle word wrap

    • EMEA: 

      $ az vm image terms accept --urn redhat-limited:rh-ocp-worker:rh-ocp-worker:<version>
      Copy to Clipboard Toggle word wrap
  5. 제안의 이미지 세부 정보, 특히 publisher, offer, sku, version 값을 기록합니다.

  6. 제안에 대한 이미지 세부 정보를 사용하여 머신 세트 YAML 파일의 providerSpec 섹션에 다음 매개변수를 추가합니다.

    Azure Marketplace 머신에 대한 샘플 providerSpec 이미지 값

    providerSpec:
  value:
    image:
      offer: rh-ocp-worker
      publisher: redhat
      resourceID: ""
      sku: rh-ocp-worker
      type: MarketplaceWithPlan
      version: 413.92.2023101700
    Copy to Clipboard Toggle word wrap

2.2.5. Azure 부팅 진단 활성화
링크 복사

머신 세트에서 생성한 Azure 머신에서 부팅 진단을 활성화할 수 있습니다.

사전 요구 사항

  • 기존 Microsoft Azure 클러스터가 있어야 합니다.

프로세스

  • 스토리지 유형에 적용할 수 있는 diagnostics 구성을 머신 세트 YAML 파일의 providerSpec 필드에 추가합니다.

    • Azure 관리형 저장소 계정의 경우: 

      providerSpec:
  diagnostics:
    boot:
      storageAccountType: AzureManaged
      1
      Copy to Clipboard Toggle word wrap
      1
      Azure 관리형 저장소 계정을 지정합니다.

    • Azure 관리되지 않는 저장소 계정의 경우: 

      providerSpec:
  diagnostics:
    boot:
      storageAccountType: CustomerManaged
      1 
      
      customerManaged:
        storageAccountURI: https://<storage-account>.blob.core.windows.net
      2
      Copy to Clipboard Toggle word wrap
      1
      Azure 관리되지 않는 저장소 계정을 지정합니다.
      2
      <storage-account>를 스토리지 계정 이름으로 바꿉니다.
      참고

      Azure Blob Storage 데이터 서비스만 지원됩니다.

검증

  • Microsoft Azure Portal에서 머신 세트에 의해 배포된 머신의 부팅 진단 페이지를 검토하고 머신의 직렬 로그를 볼 수 있는지 확인합니다.

2.2.6. 머신을 Spot 가상머신으로 배포하는 머신 세트
링크 복사

Azure에서 실행되는 컴퓨팅 머신 세트를 만들어 머신을 보장되지 않은 Spot VM으로 배포하면 비용을 절감할 수 있습니다. Spot 가상 머신은 사용되지 않은 Azure 용량을 사용하며 표준 가상 머신보다 비용이 저렴합니다. 일괄 처리 또는 상태 비저장, 수평적으로 확장 가능한 워크로드와 같이 인터럽트를 허용할 수 있는 워크로드에 Spot 가상 머신을 사용할 수 있습니다.

Azure는 언제든지 Spot 가상 머신을 종료 할 수 있습니다. Azure는 중단이 발생하면 사용자에게 30 초 동안 경고 메세지를 보냅니다. OpenShift Container Platform은 Azure가 종료 경고를 발행할 때 영향을 받는 인스턴스에서 워크로드를 제거하기 시작합니다.

다음과 같은 이유로 Spot 가상 머신을 사용할 때 중단될 수 있습니다.

  • 인스턴스 가격이 최대 가격을 초과합니다.
  • Spot 가상 머신의 공급이 감소합니다.
  • Azure는 용량을 복원해야합니다.

Azure가 인스턴스를 종료하면 Spot 가상 머신 노드에서 실행되는 종료 프로세스가 머신 리소스를 삭제합니다. 컴퓨팅 머신 세트 복제본 수량을 충족하기 위해 컴퓨팅 머신 세트는 Spot VM을 요청하는 머신을 생성합니다.

2.2.6.1. 컴퓨팅 머신 세트를 사용하여 Spot 가상 머신 생성
링크 복사

Azure에서 Spot VM을 시작하려면 컴퓨팅 머신 세트 YAML 파일에 spotVMOptions를 추가하세요.

프로세스

  • providerSpec 필드 아래에 다음 행을 추가합니다. 

    providerSpec:
  value:
    spotVMOptions: {}
    Copy to Clipboard Toggle word wrap

    선택적으로 spotVMOptions.maxPrice 필드를 설정하여 Spot VM의 비용을 제한할 수 있습니다. 예를 들어 maxPrice: '0.98765'를 설정할 수 있습니다. maxPrice가 설정된 경우 이 값은 시간당 최대 Spot 가격으로 사용됩니다. 설정되지 않은 경우 최대 가격은 기본적으로 -1로 설정된 표준 가상 머신 가격까지 청구됩니다.

    Azure에서는 Spot VM 가격을 표준 가격으로 제한합니다. 인스턴스가 기본 maxPrice로 설정된 경우 Azure는 가격 설정에 따라 인스턴스를 제거하지 않습니다. 그러나 용량 제한으로 인해 인스턴스를 제거할 수 있습니다.

참고

기본 표준 가상 머신 가격을 maxPrice 값으로 사용하고 Spot 가상 머신의 최대 가격을 설정하지 않는 것이 좋습니다.

2.2.7. Ephemeral OS 디스크에 머신을 배포하는 머신 세트
링크 복사

Azure에서 실행되는 컴퓨팅 머신 세트를 만들어 임시 OS 디스크에 머신을 배포할 수 있습니다. 임시 OS 디스크는 원격 Azure Storage가 아닌 로컬 VM 용량을 사용합니다. 따라서 이 구성은 추가 비용을 발생시키지 않으며 읽기, 쓰기, 리이미징에 대한 대기 시간을 낮춥니다.

2.2.7.1. 컴퓨팅 머신 세트를 사용하여 Ephemeral OS 디스크에 머신 생성
링크 복사

Azure에서 Ephemeral OS 디스크에 있는 머신을 시작하려면 컴퓨팅 머신 세트 YAML 파일을 편집하세요.

사전 요구 사항

  • 기존 Microsoft Azure 클러스터가 있어야 합니다.

프로세스

  1. 다음 명령을 실행하여 사용자 정의 리소스(CR)를 편집합니다. 

    $ oc edit machineset <machine-set-name>
    Copy to Clipboard Toggle word wrap

    여기서 <머신 세트 이름> 은 Ephemeral OS 디스크에 머신을 프로비저닝하려는 컴퓨팅 머신 세트입니다.

  2. providerSpec 필드에 다음을 추가합니다. 

    providerSpec:
  value:
    ...
    osDisk:
       ...
       diskSettings:
    1 
    
         ephemeralStorageLocation: Local
    2 
    
       cachingType: ReadOnly
    3 
    
       managedDisk:
         storageAccountType: Standard_LRS
    4 
    
       ...
    Copy to Clipboard Toggle word wrap
    1 2 3
    이러한 줄은 임시 OS 디스크를 사용할 수 있습니다.
    4
    임시 OS 디스크는 표준 LRS 스토리지 계정 유형을 사용하는 VM 또는 확장 집합 인스턴스에서만 지원됩니다.
    중요

    OpenShift Container Platform의 Ephemeral OS 디스크 지원 구현은 CacheDisk 배치 유형만 지원합니다. placement 구성 설정은 변경하지 마십시오.

  3. 업데이트된 구성을 사용하여 컴퓨팅 머신 세트를 생성합니다. 

    $ oc create -f <machine-set-config>.yaml
    Copy to Clipboard Toggle word wrap

검증

  • Microsoft Azure 포털에서 컴퓨팅 머신 세트에서 배포한 머신의 개요 페이지를 검토하고 Ephemeral OS disk 필드가 OS cache placement로 설정되어 있는지 확인합니다.

Ultra Disks가 있는 머신을 배포하는 Azure에서 실행되는 머신 세트를 만들 수 있습니다. Ultra 디스크는 가장 까다로운 데이터 워크로드에 사용하기 위한 고성능 스토리지입니다.

Azure Ultra Disks에서 지원하는 스토리지 클래스에 동적으로 바인딩하고 이를 Pod에 마운트하는 영구 볼륨 클레임(PVC)을 만들 수도 있습니다.

참고

데이터 디스크는 디스크 처리량이나 디스크 IOPS를 지정하는 기능을 지원하지 않습니다. PVC를 사용하여 이러한 속성을 구성할 수 있습니다.

2.2.8.1. 머신 세트를 사용하여 울트라 디스크가 있는 머신 생성
링크 복사

Azure에서 Ultra Disks가 있는 머신을 배포하려면 머신 세트 YAML 파일을 편집하세요.

사전 요구 사항

  • 기존 Microsoft Azure 클러스터가 있어야 합니다.

프로세스

  1. 다음 명령을 실행하여 worker 데이터 시크릿을 사용하여 openshift-machine-api 네임스페이스에 사용자 정의 시크릿을 생성합니다. 

    $ oc -n openshift-machine-api \
get secret <role>-user-data \
    1 
    
--template='{{index .data.userData | base64decode}}' | jq > userData.txt
    2
    Copy to Clipboard Toggle word wrap
    1
    <role>을 worker 로 바꿉니다.
    2
    새 사용자 지정 비밀번호의 이름으로 userData.txt를 지정합니다.

  2. 텍스트 편집기에서 userData.txt 파일을 열고 파일의 마지막 } 문자를 찾습니다.

    1. 바로 앞 줄에 , 를 추가합니다 .

    2. 뒤에 새 행을 생성하고 , 다음에 구성 세부 정보를 추가합니다. 

      "storage": {
  "disks": [
      1 
      
    {
      "device": "/dev/disk/azure/scsi1/lun0",
      2 
      
      "partitions": [
      3 
      
        {
          "label": "lun0p1",
      4 
      
          "sizeMiB": 1024,
      5 
      
          "startMiB": 0
        }
      ]
    }
  ],
  "filesystems": [
      6 
      
    {
      "device": "/dev/disk/by-partlabel/lun0p1",
      "format": "xfs",
      "path": "/var/lib/lun0p1"
    }
  ]
},
"systemd": {
  "units": [
      7 
      
    {
      "contents": "[Unit]\nBefore=local-fs.target\n[Mount]\nWhere=/var/lib/lun0p1\nWhat=/dev/disk/by-partlabel/lun0p1\nOptions=defaults,pquota\n[Install]\nWantedBy=local-fs.target\n",
      8 
      
      "enabled": true,
      "name": "var-lib-lun0p1.mount"
    }
  ]
}
      Copy to Clipboard Toggle word wrap
      1
      울트라 디스크로 노드에 연결하려는 디스크에 대한 구성 세부 정보입니다.
      2
      사용 중인 머신 세트의 dataDisks 스탠자에 정의된 lun 값을 지정합니다. 예를 들어, 머신 세트에 lun: 0이 포함되어 있으면 lun0을 지정합니다. 이 구성 파일에서 여러 "disks" 항목을 지정하여 여러 데이터 디스크를 초기화할 수 있습니다. 여러 개의 "디스크" 항목을 지정하는 경우 각 항목의 LUN 값이 머신 세트의 값과 일치하는지 확인하세요.
      3
      디스크의 새 파티션에 대한 구성 세부 정보입니다.
      4
      파티션에 대한 레이블을 지정합니다. lun0 의 첫 번째 파티션에 lun0 과 같은 계층적 이름을 사용하는 것이 유용할 수 있습니다.
      5
      파티션의 총 크기를 MiB 단위로 지정합니다.
      6
      파티션을 포맷할 때 사용할 파일 시스템을 지정합니다. 파티션 레이블을 사용하여 파티션을 지정합니다.
      7
      부팅 시 파티션을 마운트할 systemd 유닛을 지정합니다. 파티션 레이블을 사용하여 파티션을 지정합니다. 이 구성 파일에서 여러 개의 "partitions" 항목을 지정하여 여러 파티션을 만들 수 있습니다. 여러 개의 "partitions" 항목을 지정하는 경우 각각에 대해 systemd 장치를 지정해야 합니다.
      8
      Where는 storage.filesystems.path 의 값을 지정합니다. What에 대해 storage.filesystems.device 값을 지정합니다.

  3. 다음 명령을 실행하여 비활성화 템플릿 값을 disableTemplating.txt 라는 파일에 추출합니다. 

    $ oc -n openshift-machine-api get secret <role>-user-data \
    1 
    
--template='{{index .data.disableTemplating | base64decode}}' | jq > disableTemplating.txt
    Copy to Clipboard Toggle word wrap
    1
    <role>을 worker 로 바꿉니다.

  4. 다음 명령을 실행하여 userData.txt 파일과 disableTemplating.txt 파일을 결합하여 데이터 비밀 파일을 만듭니다. 

    $ oc -n openshift-machine-api create secret generic <role>-user-data-x5 \
    1 
    
--from-file=userData=userData.txt \
--from-file=disableTemplating=disableTemplating.txt
    Copy to Clipboard Toggle word wrap
    1
    <role>-user-data-x5 의 경우 시크릿 이름을 지정합니다. <role>을 worker 로 바꿉니다.

  5. 기존 Azure MachineSet 사용자 지정 리소스(CR)를 복사하고 다음 명령을 실행하여 편집합니다. 

    $ oc edit machineset <machine_set_name>
    Copy to Clipboard Toggle word wrap

    여기서 <machine_set_name> 은 Ultra Disks를 사용하여 머신을 프로비저닝하려는 머신 세트입니다.

  6. 다음 줄을 표시된 위치에 추가합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
spec:
  template:
    spec:
      metadata:
        labels:
          disk: ultrassd
    1 
    
      providerSpec:
        value:
          ultraSSDCapability: Enabled
    2 
    
          dataDisks:
    3 
    
          - nameSuffix: ultrassd
            lun: 0
            diskSizeGB: 4
            deletionPolicy: Delete
            cachingType: None
            managedDisk:
              storageAccountType: UltraSSD_LRS
          userDataSecret:
            name: <role>-user-data-x5
    4
    Copy to Clipboard Toggle word wrap
    1
    이 머신 세트에서 생성된 노드를 선택하는 데 사용할 레이블을 지정합니다. 이 절차에서는 이 값에 대해 disk.ultrassd를 사용합니다.
    2 3
    이 라인은 울트라 디스크를 사용할 수 있습니다. dataDisks 의 경우 전체 연을 포함합니다.
    4
    이전에 생성한 사용자 데이터 비밀번호를 지정합니다. <role>을 worker 로 바꿉니다.

  7. 다음 명령을 실행하여 업데이트된 구성을 사용하여 머신 세트를 만듭니다. 

    $ oc create -f <machine_set_name>.yaml
    Copy to Clipboard Toggle word wrap

검증

  1. 다음 명령을 실행하여 머신이 생성되었는지 확인하세요. 

    $ oc get machines
    Copy to Clipboard Toggle word wrap

    기계는 실행 상태여야 합니다.

  2. 실행 중이고 노드가 연결된 머신의 경우 다음 명령을 실행하여 파티션을 검증합니다. 

    $ oc debug node/<node_name> -- chroot /host lsblk
    Copy to Clipboard Toggle word wrap

    이 명령에서 oc debug node/<node_name>은 노드 <node_name> 에서 디버깅 셸을 시작하고 -- 로 명령을 전달합니다. 전달된 명령 chroot /host는 기본 호스트 OS 바이너리에 대한 액세스를 제공하고, lsblk는 호스트 OS 머신에 연결된 블록 장치를 보여줍니다.

다음 단계

  • 포드 내에서 Ultra Disk를 사용하려면 마운트 지점을 사용하는 워크로드를 생성하세요. 다음 예와 유사한 YAML 파일을 만듭니다. 

    apiVersion: v1
kind: Pod
metadata:
  name: ssd-benchmark1
spec:
  containers:
  - name: ssd-benchmark1
    image: nginx
    ports:
      - containerPort: 80
        name: "http-server"
    volumeMounts:
    - name: lun0p1
      mountPath: "/tmp"
  volumes:
    - name: lun0p1
      hostPath:
        path: /var/lib/lun0p1
        type: DirectoryOrCreate
  nodeSelector:
    disktype: ultrassd
    Copy to Clipboard Toggle word wrap
2.2.8.2. Ultra Disks를 활성화하는 머신 세트에 대한 문제 해결 리소스
링크 복사

이 섹션의 정보를 활용해 발생할 수 있는 문제를 파악하고 복구하세요.

2.2.8.2.1. 잘못된 Ultra Disk 구성
링크 복사

머신 세트에서 ultraSSDCapability 매개변수의 잘못된 구성이 지정된 경우 머신 프로비저닝이 실패합니다.

예를 들어, ultraSSDCapability 매개변수가 Disabled 로 설정되어 있지만 dataDisks 매개변수에 ultra disk가 지정된 경우 다음 오류 메시지가 나타납니다. 

StorageAccountType UltraSSD_LRS can be used only when additionalCapabilities.ultraSSDEnabled is set.
Copy to Clipboard Toggle word wrap
  • 이 문제를 해결하려면 컴퓨터 세트 구성이 올바른지 확인하세요.
2.2.8.2.2. 지원되지 않는 디스크 매개변수
링크 복사

Ultra Disks와 호환되지 않는 지역, 가용성 영역 또는 인스턴스 크기가 머신 세트에 지정된 경우 머신 프로비저닝이 실패합니다. 다음 오류 메시지를 로그에서 확인하세요. 

failed to create vm <machine_name>: failure sending request for machine <machine_name>: cannot create vm: compute.VirtualMachinesClient#CreateOrUpdate: Failure sending request: StatusCode=400 -- Original Error: Code="BadRequest" Message="Storage Account type 'UltraSSD_LRS' is not supported <more_information_about_why>."
Copy to Clipboard Toggle word wrap
  • 이 문제를 해결하려면 지원되는 환경에서 이 기능을 사용하고 있는지, 그리고 머신 세트 구성이 올바른지 확인하세요.
2.2.8.2.3. 디스크를 삭제할 수 없습니다
링크 복사

데이터 디스크로 Ultra Disk를 삭제하는 작업이 예상대로 작동하지 않으면 해당 머신이 삭제되고 데이터 디스크가 버려집니다. 필요한 경우 고립된 디스크를 수동으로 삭제해야 합니다.

2.2.9. 머신 세트의 고객 관리 암호화 키 활성화
링크 복사

Azure에 암호화 키를 제공하여 관리 대상 디스크의 데이터를 암호화할 수 있습니다. 시스템 API를 사용하여 고객 관리 키로 서버 측 암호화를 활성화할 수 있습니다.

고객 관리 키를 사용하려면 Azure Key Vault, 디스크 암호화 세트 및 암호화 키가 필요합니다. 디스크 암호화 세트는 CCO(Cloud Credential Operator)가 권한을 부여한 리소스 그룹에 있어야 합니다. 그렇지 않은 경우 디스크 암호화 세트에 추가 reader 역할을 부여해야 합니다.

사전 요구 사항

프로세스

  • 머신 세트 YAML 파일의 providerSpec 필드에 설정된 디스크 암호화를 구성합니다. 예를 들면 다음과 같습니다. 

    providerSpec:
  value:
    osDisk:
      diskSizeGB: 128
      managedDisk:
        diskEncryptionSet:
          id: /subscriptions/<subscription_id>/resourceGroups/<resource_group_name>/providers/Microsoft.Compute/diskEncryptionSets/<disk_encryption_set_name>
        storageAccountType: Premium_LRS
    Copy to Clipboard Toggle word wrap

OpenShift Container Platform 4.19는 Azure 가상 머신(VM)에 대한 신뢰할 수 있는 시작을 지원합니다. 머신 세트 YAML 파일을 편집하면 해당 머신 세트가 배포하는 머신에 대해 신뢰할 수 있는 시작 옵션을 구성할 수 있습니다. 예를 들어, 보안 부팅이나 전용 가상 신뢰할 수 있는 플랫폼 모듈(vTPM) 인스턴스와 같은 UEFI 보안 기능을 사용하도록 이러한 컴퓨터를 구성할 수 있습니다.

참고

일부 기능 조합으로 인해 잘못된 구성이 발생합니다.

Expand
표 2.1. UEFI 기능 조합 호환성
보안 부팅 [1]vTPM[2]유효한 구성

활성화됨

활성화됨

제공됨

활성화됨

비활성화됨

제공됨

활성화됨

생략됨

제공됨

비활성화됨

활성화됨

제공됨

생략됨

활성화됨

제공됨

비활성화됨

비활성화됨

없음

생략됨

비활성화됨

없음

생략됨

생략됨

없음

  1. secureBoot 필드 사용.
  2. virtualizedTrustedPlatformModule 필드를 사용합니다.

관련 기능에 대한 자세한 내용은 Azure 가상 머신에 대한 신뢰할 수 있는 시작 에 대한 Microsoft Azure 설명서를 참조하세요.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 섹션을 편집하여 유효한 구성을 제공합니다.

    UEFI 보안 부팅 및 vTPM이 활성화된 유효한 구성 샘플

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
# ...
spec:
  template:
    machines_v1beta1_machine_openshift_io:
      spec:
        providerSpec:
          value:
            securityProfile:
              settings:
                securityType: TrustedLaunch
    1 
    
                trustedLaunch:
                  uefiSettings:
    2 
    
                    secureBoot: Enabled
    3 
    
                    virtualizedTrustedPlatformModule: Enabled
    4 
    
# ...
    Copy to Clipboard Toggle word wrap

    1
    Azure 가상 머신에 대한 신뢰할 수 있는 시작을 사용할 수 있습니다. 이 값은 모든 유효한 구성에 필요합니다.
    2
    사용할 UEFI 보안 기능을 지정합니다. 이 섹션은 모든 유효한 구성에 필요합니다.
    3
    UEFI 보안 부팅을 활성화합니다.
    4
    vTPM을 사용할 수 있습니다.

검증

  • Azure Portal에서 머신 세트에 의해 배포된 머신의 세부 정보를 검토하고 신뢰할 수 있는 시작 옵션이 구성한 값과 일치하는지 확인합니다.

2.2.11. 머신 세트를 사용하여 Azure 기밀 가상 머신 구성
링크 복사

OpenShift Container Platform 4.19는 Azure 기밀 가상 머신(VM)을 지원합니다.

참고

현재 64비트 ARM 아키텍처에서는 기밀 VM이 지원되지 않습니다.

머신 세트 YAML 파일을 편집하면 머신 세트가 배포하는 머신에 대해 사용하는 기밀 VM 옵션을 구성할 수 있습니다. 예를 들어, 보안 부팅이나 전용 가상 신뢰할 수 있는 플랫폼 모듈(vTPM) 인스턴스와 같은 UEFI 보안 기능을 사용하도록 이러한 컴퓨터를 구성할 수 있습니다.

관련 기능에 대한 자세한 내용은 Confidential 가상 머신에 대한 Microsoft Azure 설명서를 참조하세요.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 섹션을 편집하세요.

    샘플 구성

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
# ...
spec:
  template:
    spec:
      providerSpec:
        value:
          osDisk:
            # ...
            managedDisk:
              securityProfile:
    1 
    
                securityEncryptionType: VMGuestStateOnly
    2 
    
            # ...
          securityProfile:
    3 
    
            settings:
                securityType: ConfidentialVM
    4 
    
                confidentialVM:
                  uefiSettings:
    5 
    
                    secureBoot: Disabled
    6 
    
                    virtualizedTrustedPlatformModule: Enabled
    7 
    
          vmSize: Standard_DC16ads_v5
    8 
    
# ...
    Copy to Clipboard Toggle word wrap

    1
    기밀 VM을 사용할 때 관리 디스크에 대한 보안 프로필 설정을 지정합니다.
    2
    Azure VM Guest State(VMGS) Blob의 암호화를 활성화합니다. 이 설정에는 vTPM을 사용해야 합니다.
    3
    기밀 VM에 대한 보안 프로필 설정을 지정합니다.
    4
    기밀 VM을 사용할 수 있습니다. 이 값은 모든 유효한 구성에 필요합니다.
    5
    사용할 UEFI 보안 기능을 지정합니다. 이 섹션은 모든 유효한 구성에 필요합니다.
    6
    UEFI 보안 부팅을 비활성화합니다.
    7
    vTPM을 사용할 수 있습니다.
    8
    기밀 VM을 지원하는 인스턴스 유형을 지정합니다.

검증

  • Azure Portal에서 머신 세트에 의해 배포된 머신의 세부 정보를 검토하고 기밀 VM 옵션이 구성한 값과 일치하는지 확인합니다.

2.2.12. Microsoft Azure VM을 위한 가속 네트워킹
링크 복사

가속 네트워킹은 단일 루트 I/O 가상화(SR-IOV)를 사용하여 Microsoft Azure VM에 스위치에 대한 보다 직접적인 경로를 제공합니다. 이렇게 하면 네트워크 성능이 향상됩니다. 이 기능은 설치 중 또는 설치 후 활성화할 수 있습니다.

2.2.12.1. 제한
링크 복사

가속 네트워킹을 사용할지 여부를 결정할 때 다음과 같은 제한 사항을 고려하세요.

  • 가속 네트워킹은 Machine API가 작동하는 클러스터에서만 지원됩니다.

  • Azure 작업자 노드의 최소 요구 사항은 vCPU 2개이지만 가속 네트워킹에는 vCPU가 4개 이상 포함된 Azure VM 크기가 필요합니다. 이 요구 사항을 충족하려면 머신 세트에서 vmSize 값을 변경할 수 있습니다. Azure VM 크기에 대한 자세한 내용은 Microsoft Azure 설명서를 참조하세요.

  • 기존 Azure 클러스터에서 이 기능을 활성화하면 새로 프로비저닝된 노드만 영향을 받습니다. 현재 실행 중인 노드가 조정되지 않았습니다. 모든 노드에서 해당 기능을 활성화하려면 기존 머신을 모두 교체해야 합니다. 이 작업은 각 시스템에 대해 개별적으로 수행하거나 복제본을 0으로 축소한 다음 원하는 복제본 수로 다시 확장하여 수행할 수 있습니다.

2.2.13. 머신 세트를 사용하여 용량 예약 구성
링크 복사

OpenShift Container Platform 버전 4.19 이상에서는 Microsoft Azure 클러스터의 용량 예약 그룹을 통한 주문형 용량 예약을 지원합니다.

사용자가 정의한 용량 요청의 매개변수와 일치하는 사용 가능한 리소스에 머신을 배포하도록 머신 세트를 구성할 수 있습니다. 이러한 매개변수는 VM 크기, 리전 및 예약할 인스턴스 수를 지정합니다. Azure 서브스크립션 할당량이 용량 요청을 수용할 수 있는 경우 배포에 성공합니다.

이 Azure 제품에 대한 제한 사항 및 제안된 사용 사례를 포함한 자세한 내용은 Microsoft Azure 설명서의 주문형 용량 예약을 참조하세요.

참고

머신 세트의 기존 용량 예약 구성은 변경할 수 없습니다. 다른 용량 예약 그룹을 사용하려면 머신 세트와 이전 머신 세트가 배포된 머신을 교체해야 합니다.

사전 요구 사항

  • cluster-admin 권한이 있는 클러스터에 액세스할 수 있습니다.
  • OpenShift CLI(oc)를 설치합니다.
  • 용량 예약 그룹을 생성했습니다. 자세한 내용은 Microsoft Azure 설명서에서 용량 예약 만들기를 참조하세요.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 섹션을 편집하세요.

    샘플 구성

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
# ...
spec:
  template:
    spec:
      providerSpec:
        value:
          capacityReservationGroupID: <capacity_reservation_group>
    1 
    
# ...
    Copy to Clipboard Toggle word wrap

    1
    시스템이 머신을 배포하도록 설정할 용량 예약 그룹의 ID를 지정합니다.

검증

  • 시스템 배포를 확인하려면 다음 명령을 실행하여 머신 세트에서 생성한 머신을 나열합니다. 

    $ oc get machines.machine.openshift.io \
  -n openshift-machine-api \
  -l machine.openshift.io/cluster-api-machineset=<machine_set_name>
    Copy to Clipboard Toggle word wrap

    여기서 <machine_set_name>은 컴퓨팅 머신 세트의 이름입니다.

    출력에서 나열된 시스템의 특성이 용량 예약의 매개변수와 일치하는지 확인합니다.

2.2.14. 기존 OpenShift Container Platform 클러스터에 GPU 노드 추가
링크 복사

기본 컴퓨팅 머신 세트 구성을 복사하고 수정하여 Azure 클라우드 공급자를 위한 GPU 지원 머신 세트와 머신을 만들 수 있습니다.

다음 표에는 검증된 인스턴스 유형이 나열되어 있습니다.

Expand
vmSize엔비디아 GPU 가속기최대 GPU 수아키텍처

Standard_NC24s_v3

V100

4

x86

Standard_NC4as_T4_v3

T4

1

x86

ND A100 v4

A100

8

x86

참고

기본적으로 Azure 구독에는 GPU가 있는 Azure 인스턴스 유형에 대한 할당량이 없습니다. 고객은 위에 나열된 Azure 인스턴스 제품군에 대한 할당량 증가를 요청해야 합니다.

프로세스

  1. 다음 명령을 실행하여 openshift-machine-api 네임스페이스에 있는 머신과 머신 세트를 확인하세요. 각 컴퓨팅 머신 세트는 Azure 지역 내의 다른 가용성 영역과 연결됩니다. 설치 프로그램은 가용성 영역 전반에 걸쳐 컴퓨팅 머신의 부하를 자동으로 분산합니다. 

    $ oc get machineset -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                              DESIRED   CURRENT   READY   AVAILABLE   AGE
myclustername-worker-centralus1   1         1         1       1           6h9m
myclustername-worker-centralus2   1         1         1       1           6h9m
myclustername-worker-centralus3   1         1         1       1           6h9m
    Copy to Clipboard Toggle word wrap

  2. 다음 명령을 실행하여 기존 컴퓨트 MachineSet 정의 중 하나의 복사본을 만들고 결과를 YAML 파일에 출력합니다. 이는 GPU 지원 컴퓨팅 머신 세트 정의의 기초가 됩니다. 

    $ oc get machineset -n openshift-machine-api myclustername-worker-centralus1 -o yaml > machineset-azure.yaml
    Copy to Clipboard Toggle word wrap

  3. 머신세트의 내용을 확인하세요: 

    $ cat machineset-azure.yaml
    Copy to Clipboard Toggle word wrap

    예제 machineset-azure.yaml 파일

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  annotations:
    machine.openshift.io/GPU: "0"
    machine.openshift.io/memoryMb: "16384"
    machine.openshift.io/vCPU: "4"
  creationTimestamp: "2023-02-06T14:08:19Z"
  generation: 1
  labels:
    machine.openshift.io/cluster-api-cluster: myclustername
    machine.openshift.io/cluster-api-machine-role: worker
    machine.openshift.io/cluster-api-machine-type: worker
  name: myclustername-worker-centralus1
  namespace: openshift-machine-api
  resourceVersion: "23601"
  uid: acd56e0c-7612-473a-ae37-8704f34b80de
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: myclustername
      machine.openshift.io/cluster-api-machineset: myclustername-worker-centralus1
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: myclustername
        machine.openshift.io/cluster-api-machine-role: worker
        machine.openshift.io/cluster-api-machine-type: worker
        machine.openshift.io/cluster-api-machineset: myclustername-worker-centralus1
    spec:
      lifecycleHooks: {}
      metadata: {}
      providerSpec:
        value:
          acceleratedNetworking: true
          apiVersion: machine.openshift.io/v1beta1
          credentialsSecret:
            name: azure-cloud-credentials
            namespace: openshift-machine-api
          diagnostics: {}
          image:
            offer: ""
            publisher: ""
            resourceID: /resourceGroups/myclustername-rg/providers/Microsoft.Compute/galleries/gallery_myclustername_n6n4r/images/myclustername-gen2/versions/latest
            sku: ""
            version: ""
          kind: AzureMachineProviderSpec
          location: centralus
          managedIdentity: myclustername-identity
          metadata:
            creationTimestamp: null
          networkResourceGroup: myclustername-rg
          osDisk:
            diskSettings: {}
            diskSizeGB: 128
            managedDisk:
              storageAccountType: Premium_LRS
            osType: Linux
          publicIP: false
          publicLoadBalancer: myclustername
          resourceGroup: myclustername-rg
          spotVMOptions: {}
          subnet: myclustername-worker-subnet
          userDataSecret:
            name: worker-user-data
          vmSize: Standard_D4s_v3
          vnet: myclustername-vnet
          zone: "1"
status:
  availableReplicas: 1
  fullyLabeledReplicas: 1
  observedGeneration: 1
  readyReplicas: 1
  replicas: 1
    Copy to Clipboard Toggle word wrap

  4. 다음 명령을 실행하여 machineset-azure.yaml 파일의 복사본을 만듭니다. 

    $ cp machineset-azure.yaml machineset-azure-gpu.yaml
    Copy to Clipboard Toggle word wrap

  5. machineset-azure-gpu.yaml 에서 다음 필드를 업데이트합니다.

    • .metadata.name을 gpu를 포함하는 이름으로 변경합니다.
    • .spec.selector.matchLabels["machine.openshift.io/cluster-api-machineset"]을 새로운 .metadata.name과 일치하도록 변경합니다.
    • .spec.template.metadata.labels["machine.openshift.io/cluster-api-machineset"]을 새로운 .metadata.name 과 일치하도록 변경합니다.

    • Change .spec.template.spec.providerSpec.value.vmSize to Standard_NC4as_T4_v3.

      예제 machineset-azure-gpu.yaml 파일

      apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  annotations:
    machine.openshift.io/GPU: "1"
    machine.openshift.io/memoryMb: "28672"
    machine.openshift.io/vCPU: "4"
  creationTimestamp: "2023-02-06T20:27:12Z"
  generation: 1
  labels:
    machine.openshift.io/cluster-api-cluster: myclustername
    machine.openshift.io/cluster-api-machine-role: worker
    machine.openshift.io/cluster-api-machine-type: worker
  name: myclustername-nc4ast4-gpu-worker-centralus1
  namespace: openshift-machine-api
  resourceVersion: "166285"
  uid: 4eedce7f-6a57-4abe-b529-031140f02ffa
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: myclustername
      machine.openshift.io/cluster-api-machineset: myclustername-nc4ast4-gpu-worker-centralus1
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: myclustername
        machine.openshift.io/cluster-api-machine-role: worker
        machine.openshift.io/cluster-api-machine-type: worker
        machine.openshift.io/cluster-api-machineset: myclustername-nc4ast4-gpu-worker-centralus1
    spec:
      lifecycleHooks: {}
      metadata: {}
      providerSpec:
        value:
          acceleratedNetworking: true
          apiVersion: machine.openshift.io/v1beta1
          credentialsSecret:
            name: azure-cloud-credentials
            namespace: openshift-machine-api
          diagnostics: {}
          image:
            offer: ""
            publisher: ""
            resourceID: /resourceGroups/myclustername-rg/providers/Microsoft.Compute/galleries/gallery_myclustername_n6n4r/images/myclustername-gen2/versions/latest
            sku: ""
            version: ""
          kind: AzureMachineProviderSpec
          location: centralus
          managedIdentity: myclustername-identity
          metadata:
            creationTimestamp: null
          networkResourceGroup: myclustername-rg
          osDisk:
            diskSettings: {}
            diskSizeGB: 128
            managedDisk:
              storageAccountType: Premium_LRS
            osType: Linux
          publicIP: false
          publicLoadBalancer: myclustername
          resourceGroup: myclustername-rg
          spotVMOptions: {}
          subnet: myclustername-worker-subnet
          userDataSecret:
            name: worker-user-data
          vmSize: Standard_NC4as_T4_v3
          vnet: myclustername-vnet
          zone: "1"
status:
  availableReplicas: 1
  fullyLabeledReplicas: 1
  observedGeneration: 1
  readyReplicas: 1
  replicas: 1
      Copy to Clipboard Toggle word wrap

  6. 변경 사항을 확인하려면 다음 명령을 실행하여 원래 컴퓨팅 정의와 새 GPU 사용 노드 정의의 diff를 수행합니다. 

    $ diff machineset-azure.yaml machineset-azure-gpu.yaml
    Copy to Clipboard Toggle word wrap

    출력 예

    14c14
<   name: myclustername-worker-centralus1
---
>   name: myclustername-nc4ast4-gpu-worker-centralus1
23c23
<       machine.openshift.io/cluster-api-machineset: myclustername-worker-centralus1
---
>       machine.openshift.io/cluster-api-machineset: myclustername-nc4ast4-gpu-worker-centralus1
30c30
<         machine.openshift.io/cluster-api-machineset: myclustername-worker-centralus1
---
>         machine.openshift.io/cluster-api-machineset: myclustername-nc4ast4-gpu-worker-centralus1
67c67
<           vmSize: Standard_D4s_v3
---
>           vmSize: Standard_NC4as_T4_v3
    Copy to Clipboard Toggle word wrap

  7. 다음 명령을 실행하여 정의 파일에서 GPU 지원 컴퓨팅 머신 세트를 만듭니다. 

    $ oc create -f machineset-azure-gpu.yaml
    Copy to Clipboard Toggle word wrap

    출력 예

    machineset.machine.openshift.io/myclustername-nc4ast4-gpu-worker-centralus1 created
    Copy to Clipboard Toggle word wrap

  8. 다음 명령을 실행하여 openshift-machine-api 네임스페이스에 있는 머신과 머신 세트를 확인하세요. 각 컴퓨팅 머신 세트는 Azure 지역 내의 다른 가용성 영역과 연결됩니다. 설치 프로그램은 가용성 영역 전반에 걸쳐 컴퓨팅 머신의 부하를 자동으로 분산합니다. 

    $ oc get machineset -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                               DESIRED   CURRENT   READY   AVAILABLE   AGE
clustername-n6n4r-nc4ast4-gpu-worker-centralus1    1         1         1       1           122m
clustername-n6n4r-worker-centralus1                1         1         1       1           8h
clustername-n6n4r-worker-centralus2                1         1         1       1           8h
clustername-n6n4r-worker-centralus3                1         1         1       1           8h
    Copy to Clipboard Toggle word wrap

  9. 다음 명령을 실행하여 openshift-machine-api 네임스페이스에 있는 머신을 확인하세요. 세트당 하나의 컴퓨팅 머신만 구성할 수 있지만, 특정 지역 및 영역에 노드를 추가하기 위해 컴퓨팅 머신 세트를 확장할 수 있습니다. 

    $ oc get machines -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                                PHASE     TYPE                   REGION      ZONE   AGE
myclustername-master-0                              Running   Standard_D8s_v3        centralus   2      6h40m
myclustername-master-1                              Running   Standard_D8s_v3        centralus   1      6h40m
myclustername-master-2                              Running   Standard_D8s_v3        centralus   3      6h40m
myclustername-nc4ast4-gpu-worker-centralus1-w9bqn   Running      centralus   1      21m
myclustername-worker-centralus1-rbh6b               Running   Standard_D4s_v3        centralus   1      6h38m
myclustername-worker-centralus2-dbz7w               Running   Standard_D4s_v3        centralus   2      6h38m
myclustername-worker-centralus3-p9b8c               Running   Standard_D4s_v3        centralus   3      6h38m
    Copy to Clipboard Toggle word wrap

  10. 다음 명령을 실행하여 기존 노드, 머신, 머신 세트를 확인하세요. 각 노드는 특정 Azure 지역과 OpenShift Container Platform 역할을 갖춘 머신 정의의 인스턴스입니다. 

    $ oc get nodes
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                                STATUS   ROLES                  AGE     VERSION
myclustername-master-0                              Ready    control-plane,master   6h39m   v1.32.3
myclustername-master-1                              Ready    control-plane,master   6h41m   v1.32.3
myclustername-master-2                              Ready    control-plane,master   6h39m   v1.32.3
myclustername-nc4ast4-gpu-worker-centralus1-w9bqn   Ready    worker                 14m     v1.32.3
myclustername-worker-centralus1-rbh6b               Ready    worker                 6h29m   v1.32.3
myclustername-worker-centralus2-dbz7w               Ready    worker                 6h29m   v1.32.3
myclustername-worker-centralus3-p9b8c               Ready    worker                 6h31m   v1.32.3
    Copy to Clipboard Toggle word wrap

  11. 컴퓨팅 머신 세트 목록을 확인하세요. 

    $ oc get machineset -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                   DESIRED   CURRENT   READY   AVAILABLE   AGE
myclustername-worker-centralus1        1         1         1       1           8h
myclustername-worker-centralus2        1         1         1       1           8h
myclustername-worker-centralus3        1         1         1       1           8h
    Copy to Clipboard Toggle word wrap

  12. 다음 명령을 실행하여 정의 파일에서 GPU 지원 컴퓨팅 머신 세트를 만듭니다. 

    $ oc create -f machineset-azure-gpu.yaml
    Copy to Clipboard Toggle word wrap

  13. 컴퓨팅 머신 세트 목록을 확인하세요. 

    oc get machineset -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                          DESIRED   CURRENT   READY   AVAILABLE   AGE
myclustername-nc4ast4-gpu-worker-centralus1   1         1         1       1           121m
myclustername-worker-centralus1               1         1         1       1           8h
myclustername-worker-centralus2               1         1         1       1           8h
myclustername-worker-centralus3               1         1         1       1           8h
    Copy to Clipboard Toggle word wrap

검증

  1. 다음 명령을 실행하여 생성한 머신 세트를 확인하세요. 

    $ oc get machineset -n openshift-machine-api | grep gpu
    Copy to Clipboard Toggle word wrap

    MachineSet 복제본 수가 1 로 설정되어 새로운 Machine 객체가 자동으로 생성됩니다.

    출력 예

    myclustername-nc4ast4-gpu-worker-centralus1   1         1         1       1           121m
    Copy to Clipboard Toggle word wrap

  2. 다음 명령을 실행하여 머신 세트가 생성한 머신 객체를 확인하세요. 

    $ oc -n openshift-machine-api get machines | grep gpu
    Copy to Clipboard Toggle word wrap

    출력 예

    myclustername-nc4ast4-gpu-worker-centralus1-w9bqn   Running   Standard_NC4as_T4_v3   centralus   1      21m
    Copy to Clipboard Toggle word wrap

참고

노드에 대한 네임스페이스를 지정할 필요가 없습니다. 노드 정의는 클러스터 범위입니다.

2.2.15. 노드 기능 검색 연산자 배포
링크 복사

GPU 지원 노드를 생성한 후에는 GPU 지원 노드를 검색하여 예약해야 합니다. 이렇게 하려면 NFD(Node Feature Discovery) Operator를 설치하세요. NFD 운영자는 노드의 하드웨어 장치 기능을 식별합니다. 이는 인프라 노드에서 하드웨어 리소스를 식별하고 카탈로그화하여 OpenShift Container Platform에서 사용할 수 있도록 하는 일반적인 문제를 해결합니다.

프로세스

  1. OpenShift Container Platform 콘솔에서 OperatorHub 의 Node Feature Discovery Operator를 설치합니다.
  2. OperatorHub 에 NFD Operator를 설치한 후, 설치된 Operator 목록에서 Node Feature Discovery를 선택하고 인스턴스 생성을 선택합니다. 이렇게 하면 각 컴퓨팅 노드에 대해 nfd-master 및 nfd-worker, 하나의 nfd-worker Pod가 openshift-nfd 네임스페이스에 설치됩니다.

  3. 다음 명령을 실행하여 Operator가 설치되고 실행 중인지 확인하세요. 

    $ oc get pods -n openshift-nfd
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                       READY    STATUS     RESTARTS   AGE

nfd-controller-manager-8646fcbb65-x5qgk    2/2      Running 7  (8h ago)   1d
    Copy to Clipboard Toggle word wrap

  4. 콘솔에서 설치된 Oerator를 찾아 '노드 기능 검색 만들기'를 선택합니다.
  5. 생성 을 선택하여 NFD 사용자 정의 리소스를 빌드합니다. 이렇게 하면 openshift-nfd 네임스페이스에 NFD 포드가 생성되어 OpenShift Container Platform 노드에서 하드웨어 리소스를 폴링하고 카탈로그화합니다.

검증

  1. 빌드가 성공적으로 완료되면 다음 명령을 실행하여 각 노드에서 NFD 포드가 실행 중인지 확인하세요. 

    $ oc get pods -n openshift-nfd
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                       READY   STATUS      RESTARTS        AGE
nfd-controller-manager-8646fcbb65-x5qgk    2/2     Running     7 (8h ago)      12d
nfd-master-769656c4cb-w9vrv                1/1     Running     0               12d
nfd-worker-qjxb2                           1/1     Running     3 (3d14h ago)   12d
nfd-worker-xtz9b                           1/1     Running     5 (3d14h ago)   12d
    Copy to Clipboard Toggle word wrap

    NFD 운영자는 공급업체 PCI ID를 사용하여 노드의 하드웨어를 식별합니다. NVIDIA는 PCI ID 10de를 사용합니다.

  2. 다음 명령을 실행하여 NFD 운영자가 발견한 NVIDIA GPU를 확인하세요. 

    $ oc describe node ip-10-0-132-138.us-east-2.compute.internal | egrep 'Roles|pci'
    Copy to Clipboard Toggle word wrap

    출력 예

    Roles: worker

feature.node.kubernetes.io/pci-1013.present=true

feature.node.kubernetes.io/pci-10de.present=true

feature.node.kubernetes.io/pci-1d0f.present=true
    Copy to Clipboard Toggle word wrap

    10de는 GPU 지원 노드의 노드 기능 목록에 나타납니다. 이는 NFD 운영자가 GPU 지원 MachineSet에서 노드를 올바르게 식별했음을 의미합니다.

2.2.15.1. 기존 Microsoft Azure 클러스터에서 가속 네트워킹 활성화
링크 복사

Azure에서 가속 네트워킹을 활성화하려면 머신 세트 YAML 파일에 acceleratedNetworking을 추가하세요.

사전 요구 사항

  • Machine API가 작동하는 기존 Microsoft Azure 클러스터가 있어야 합니다.

프로세스

  • providerSpec 필드에 다음을 추가합니다. 

    providerSpec:
  value:
    acceleratedNetworking: true
    1 
    
    vmSize: <azure-vm-size>
    2
    Copy to Clipboard Toggle word wrap
    1
    이 라인은 가속 네트워킹을 활성화합니다.
    2
    vCPU가 4개 이상인 Azure VM 크기를 지정합니다. VM 크기에 대한 자세한 내용은 Microsoft Azure 설명서를 참조하십시오.

다음 단계

  • 현재 실행 중인 노드에서 해당 기능을 활성화하려면 기존 머신을 모두 교체해야 합니다. 이 작업은 각 시스템에 대해 개별적으로 수행하거나 복제본을 0으로 축소한 다음 원하는 복제본 수로 다시 확장하여 수행할 수 있습니다.

검증

  • Microsoft Azure 포털에서 머신 세트에 의해 프로비저닝된 머신의 네트워킹 설정 페이지를 검토하고 Accelerated networking 필드가 Enabled 로 설정되어 있는지 확인합니다.

2.3. Azure Stack Hub에 컴퓨팅 머신 세트 만들기
링크 복사

Microsoft Azure Stack Hub의 OpenShift Container Platform 클러스터에서 특정 목적에 맞는 다른 컴퓨팅 머신 세트를 만들 수 있습니다. 예를 들어, 지원되는 워크로드를 새 머신으로 이동할 수 있도록 인프라 머신 세트 및 관련 머신을 작성할 수 있습니다.

중요

머신 API가 작동하는 클러스터에서만 고급 머신 관리 및 스케일링 기능을 사용할 수 있습니다. 사용자 제공 인프라가 있는 클러스터는 Machine API를 사용하기 위해 추가적인 검증 및 구성이 필요합니다.

인프라 플랫폼 유형이 none인 클러스터는 Machine API를 사용할 수 없습니다. 이러한 제한은 클러스터에 연결된 컴퓨팅 머신이 해당 기능을 지원하는 플랫폼에 설치된 경우에도 적용됩니다. 설치 후에는 이 매개변수를 변경할 수 없습니다.

클러스터의 플랫폼 유형을 보려면 다음 명령을 실행하세요. 

$ oc get infrastructure cluster -o jsonpath='{.status.platform}'
Copy to Clipboard Toggle word wrap

이 샘플 YAML은 지역의 1개 Microsoft Azure 영역에서 실행되는 컴퓨팅 머신 세트를 정의하고 node-role.kubernetes.io/<role>: "" 로 레이블이 지정된 노드를 생성합니다.

이 샘플에서 <infrastructure_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 <role>은 추가할 노드 레이블입니다. 

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

    machine.openshift.io/cluster-api-machine-role: <role>
2 

    machine.openshift.io/cluster-api-machine-type: <role>
3 

  name: <infrastructure_id>-<role>-<region>
4 

  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
5 

      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>-<region>
6 

  template:
    metadata:
      creationTimestamp: null
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
7 

        machine.openshift.io/cluster-api-machine-role: <role>
8 

        machine.openshift.io/cluster-api-machine-type: <role>
9 

        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>-<region>
10 

    spec:
      metadata:
        creationTimestamp: null
        labels:
          node-role.kubernetes.io/<role>: ""
11 

      providerSpec:
        value:
          apiVersion: machine.openshift.io/v1beta1
          availabilitySet: <availability_set>
12 

          credentialsSecret:
            name: azure-cloud-credentials
            namespace: openshift-machine-api
          image:
            offer: ""
            publisher: ""
            resourceID: /resourceGroups/<infrastructure_id>-rg/providers/Microsoft.Compute/images/<infrastructure_id>
13 

            sku: ""
            version: ""
          internalLoadBalancer: ""
          kind: AzureMachineProviderSpec
          location: <region>
14 

          managedIdentity: <infrastructure_id>-identity
15 

          metadata:
            creationTimestamp: null
          natRule: null
          networkResourceGroup: ""
          osDisk:
            diskSizeGB: 128
            managedDisk:
              storageAccountType: Premium_LRS
            osType: Linux
          publicIP: false
          publicLoadBalancer: ""
          resourceGroup: <infrastructure_id>-rg
16 

          sshPrivateKey: ""
          sshPublicKey: ""
          subnet: <infrastructure_id>-<role>-subnet
17
18 

          userDataSecret:
            name: worker-user-data
19 

          vmSize: Standard_DS4_v2
          vnet: <infrastructure_id>-vnet
20 

          zone: "1"
21
Copy to Clipboard Toggle word wrap
1 5 7 13 15 16 17 20
클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로하는 인프라 ID를 지정합니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap

다음 명령을 실행하여 서브넷을 가져올 수 있습니다. 

$  oc -n openshift-machine-api \
    -o jsonpath='{.spec.template.spec.providerSpec.value.subnet}{"\n"}' \
    get machineset/<infrastructure_id>-worker-centralus1
Copy to Clipboard Toggle word wrap

다음 명령을 실행하여 vnet을 가져올 수 있습니다. 

$  oc -n openshift-machine-api \
    -o jsonpath='{.spec.template.spec.providerSpec.value.vnet}{"\n"}' \
    get machineset/<infrastructure_id>-worker-centralus1
Copy to Clipboard Toggle word wrap
2 3 8 9 11 18 19
추가할 노드 레이블을 지정합니다.
4 6 10
인프라 ID, 노드 레이블, 리전을 지정합니다.
14
기계를 배치할 지역을 지정하세요.
21
머신을 배치할 리전 내 영역을 지정합니다. 해당 리전이 지정한 영역을 지원하는지 확인합니다.
12
클러스터에 대한 가용성 집합을 지정합니다.

2.3.2. 컴퓨팅 머신 세트 생성
링크 복사

설치 프로그램에서 생성한 컴퓨팅 머신 세트 외에도 고유한 머신 세트를 생성하여 선택한 특정 워크로드의 머신 컴퓨팅 리소스를 동적으로 관리할 수 있습니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터를 배포합니다.
  • OpenShift CLI(oc)를 설치합니다.
  • cluster-admin 권한이 있는 사용자로 oc에 로그인합니다.
  • Azure Stack Hub 컴퓨팅 머신을 배포할 가용성 집합을 만듭니다.

프로세스

  1. 컴퓨팅 머신 세트 CR(사용자 정의 리소스) 샘플이 포함된 새 YAML 파일을 만들고 <file_name>.yaml이라는 이름을 지정합니다.

    <availabilitySet> , <clusterID> 및 <role> 매개변수 값을 설정했는지 확인하세요.

  2. 선택 사항: 특정 필드에 설정할 값이 확실하지 않은 경우 클러스터에서 기존 컴퓨팅 머신 세트를 확인할 수 있습니다.

    1. 클러스터의 컴퓨팅 머신 세트를 나열하려면 다음 명령을 실행합니다. 

      $ oc get machinesets -n openshift-machine-api
      Copy to Clipboard Toggle word wrap

      출력 예

      NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
      Copy to Clipboard Toggle word wrap

    2. 특정 컴퓨팅 머신 세트 CR(사용자 정의 리소스)의 값을 보려면 다음 명령을 실행합니다. 

      $ oc get machineset <machineset_name> \
  -n openshift-machine-api -o yaml
      Copy to Clipboard Toggle word wrap

      출력 예

      apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      1 
      
  name: <infrastructure_id>-<role>
      2 
      
  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
    spec:
      providerSpec:
      3 
      
        ...
      Copy to Clipboard Toggle word wrap

      1
      클러스터 인프라 ID입니다.
      2
      기본 노드 레이블입니다.
      참고

      사용자 프로비저닝 인프라가 있는 클러스터의 경우 컴퓨팅 머신 세트는 worker 및 infra 유형 머신만 생성할 수 있습니다.

      3
      컴퓨팅 머신 세트 CR의 <providerSpec> 섹션에 있는 값은 플랫폼에 따라 다릅니다. CR의 <providerSpec> 매개변수에 대한 자세한 내용은 공급자의 샘플 컴퓨팅 머신 세트 CR 구성을 참조하십시오.

  3. 다음 명령을 실행하여 MachineSet CR을 생성합니다. 

    $ oc create -f <file_name>.yaml
    Copy to Clipboard Toggle word wrap

검증

  • 다음 명령을 실행하여 컴퓨팅 머신 세트 목록을 확인합니다. 

    $ oc get machineset -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-infra-us-east-1a    1         1         1       1           11m
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
    Copy to Clipboard Toggle word wrap

    새 컴퓨팅 머신 세트를 사용할 수 있으면 DESIRED 및 CURRENT 값이 일치합니다. 컴퓨팅 머신 세트를 사용할 수 없는 경우 몇 분 기다렸다가 명령을 다시 실행합니다.

2.3.3. 클러스터 자동 스케일러의 GPU 머신 세트 레이블 지정
링크 복사

클러스터 자동 확장기가 GPU 지원 노드를 배포하는 데 사용할 수 있는 머신을 나타내기 위해 머신 세트 레이블을 사용할 수 있습니다.

사전 요구 사항

  • 귀하의 클러스터는 클러스터 자동 확장기를 사용합니다.

프로세스

  • GPU 지원 노드를 배포하는 데 사용할 클러스터 자동 확장기에 대한 머신을 생성하려는 머신 세트에서 cluster-api/accelerator 레이블을 추가합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  name: machine-set-name
spec:
  template:
    spec:
      metadata:
        labels:
          cluster-api/accelerator: nvidia-t4
    1
    Copy to Clipboard Toggle word wrap
    1
    영숫자 문자( - , _ , 또는 .) 로 구성되고 영숫자 문자로 시작하고 끝나는 원하는 레이블을 지정하세요. 예를 들어, Nvidia T4 GPU를 나타내려면 nvidia-t4를 사용하고, A10G GPU를 나타내려면 nvidia-a10g를 사용할 수 있습니다.
    참고

    ClusterAutoscaler CR의 spec.resourceLimits.gpus.type 매개변수에 대해 이 레이블의 값을 지정해야 합니다. 자세한 내용은 "클러스터 자동 확장 리소스 정의"를 참조하세요.

2.3.4. Azure 부팅 진단 활성화
링크 복사

머신 세트에서 생성한 Azure 머신에서 부팅 진단을 활성화할 수 있습니다.

사전 요구 사항

  • 기존 Microsoft Azure Stack Hub 클러스터가 있습니다.

프로세스

  • 스토리지 유형에 적용할 수 있는 diagnostics 구성을 머신 세트 YAML 파일의 providerSpec 필드에 추가합니다.

    • Azure 관리형 저장소 계정의 경우: 

      providerSpec:
  diagnostics:
    boot:
      storageAccountType: AzureManaged
      1
      Copy to Clipboard Toggle word wrap
      1
      Azure 관리형 저장소 계정을 지정합니다.

    • Azure 관리되지 않는 저장소 계정의 경우: 

      providerSpec:
  diagnostics:
    boot:
      storageAccountType: CustomerManaged
      1 
      
      customerManaged:
        storageAccountURI: https://<storage-account>.blob.core.windows.net
      2
      Copy to Clipboard Toggle word wrap
      1
      Azure 관리되지 않는 저장소 계정을 지정합니다.
      2
      <storage-account>를 스토리지 계정 이름으로 바꿉니다.
      참고

      Azure Blob Storage 데이터 서비스만 지원됩니다.

검증

  • Microsoft Azure Portal에서 머신 세트에 의해 배포된 머신의 부팅 진단 페이지를 검토하고 머신의 직렬 로그를 볼 수 있는지 확인합니다.

2.3.5. 머신 세트의 고객 관리 암호화 키 활성화
링크 복사

Azure에 암호화 키를 제공하여 관리 대상 디스크의 데이터를 암호화할 수 있습니다. 시스템 API를 사용하여 고객 관리 키로 서버 측 암호화를 활성화할 수 있습니다.

고객 관리 키를 사용하려면 Azure Key Vault, 디스크 암호화 세트 및 암호화 키가 필요합니다. 디스크 암호화 세트는 CCO(Cloud Credential Operator)가 권한을 부여한 리소스 그룹에 있어야 합니다. 그렇지 않은 경우 디스크 암호화 세트에 추가 reader 역할을 부여해야 합니다.

사전 요구 사항

프로세스

  • 머신 세트 YAML 파일의 providerSpec 필드에 설정된 디스크 암호화를 구성합니다. 예를 들면 다음과 같습니다. 

    providerSpec:
  value:
    osDisk:
      diskSizeGB: 128
      managedDisk:
        diskEncryptionSet:
          id: /subscriptions/<subscription_id>/resourceGroups/<resource_group_name>/providers/Microsoft.Compute/diskEncryptionSets/<disk_encryption_set_name>
        storageAccountType: Premium_LRS
    Copy to Clipboard Toggle word wrap

2.4. GCP에서 컴퓨팅 머신 세트 생성
링크 복사

Google Cloud Platform(GCP)의 OpenShift Container Platform 클러스터에서 특정 목적에 맞는 다른 컴퓨팅 머신 세트를 만들 수 있습니다. 예를 들어, 지원되는 워크로드를 새 머신으로 이동할 수 있도록 인프라 머신 세트 및 관련 머신을 작성할 수 있습니다.

중요

머신 API가 작동하는 클러스터에서만 고급 머신 관리 및 스케일링 기능을 사용할 수 있습니다. 사용자 제공 인프라가 있는 클러스터는 Machine API를 사용하기 위해 추가적인 검증 및 구성이 필요합니다.

인프라 플랫폼 유형이 none인 클러스터는 Machine API를 사용할 수 없습니다. 이러한 제한은 클러스터에 연결된 컴퓨팅 머신이 해당 기능을 지원하는 플랫폼에 설치된 경우에도 적용됩니다. 설치 후에는 이 매개변수를 변경할 수 없습니다.

클러스터의 플랫폼 유형을 보려면 다음 명령을 실행하세요. 

$ oc get infrastructure cluster -o jsonpath='{.status.platform}'
Copy to Clipboard Toggle word wrap

2.4.1. GCP의 컴퓨팅 머신 세트 사용자 정의 리소스에 대한 샘플 YAML
링크 복사

이 샘플 YAML은 GCP(Google Cloud Platform)에서 실행되는 컴퓨팅 머신 세트를 정의하고 node-role.kubernetes.io/<role>: ""로 레이블이 지정된 노드를 생성합니다. 여기서 <role> 은 추가할 노드 레이블입니다.

2.4.1.1. OpenShift CLI를 사용하여 얻은 값
링크 복사

다음 예에서는 OpenShift CLI를 사용하여 클러스터의 일부 값을 얻을 수 있습니다.

인프라 ID

<infrastructure_id>문자열은 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID입니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 

$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap
이미지 경로

<path_to_image> 문자열은 디스크를 생성하는 데 사용된 이미지의 경로입니다. OpenShift CLI가 설치되어 있으면 다음 명령을 실행하여 이미지에 대한 경로를 얻을 수 있습니다. 

$ oc -n openshift-machine-api \
  -o jsonpath='{.spec.template.spec.providerSpec.value.disks[0].image}{"\n"}' \
  get machineset/<infrastructure_id>-worker-a
Copy to Clipboard Toggle word wrap

샘플 GCP MachineSet 값

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

  name: <infrastructure_id>-w-a
  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-w-a
  template:
    metadata:
      creationTimestamp: null
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
2 

        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-w-a
    spec:
      metadata:
        labels:
          node-role.kubernetes.io/<role>: ""
      providerSpec:
        value:
          apiVersion: machine.openshift.io/v1beta1
          canIPForward: false
          credentialsSecret:
            name: gcp-cloud-credentials
          deletionProtection: false
          disks:
          - autoDelete: true
            boot: true
            image: <path_to_image>
3 

            labels: null
            sizeGb: 128
            type: pd-ssd
          gcpMetadata:
4 

          - key: <custom_metadata_key>
            value: <custom_metadata_value>
          kind: GCPMachineProviderSpec
          machineType: n1-standard-4
          metadata:
            creationTimestamp: null
          networkInterfaces:
          - network: <infrastructure_id>-network
            subnetwork: <infrastructure_id>-worker-subnet
          projectID: <project_name>
5 

          region: us-central1
          serviceAccounts:
6 

          - email: <infrastructure_id>-w@<project_name>.iam.gserviceaccount.com
            scopes:
            - https://www.googleapis.com/auth/cloud-platform
          tags:
            - <infrastructure_id>-worker
          userDataSecret:
            name: worker-user-data
          zone: us-central1-a
Copy to Clipboard Toggle word wrap

1
<infrastructure_id>의 경우 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID를 지정합니다.
2
<node>에 대해 추가할 노드 레이블을 지정합니다.
3
현재 컴퓨팅 머신 세트에서 사용되는 이미지의 경로를 지정합니다.

GCP Marketplace 이미지를 사용하려면 사용할 제안을 지정하세요.

  • OpenShift 컨테이너 플랫폼: https://www.googleapis.com/compute/v1/projects/redhat-marketplace-public/global/images/redhat-coreos-ocp-413-x86-64-202305021736
  • OpenShift 플랫폼 플러스: https://www.googleapis.com/compute/v1/projects/redhat-marketplace-public/global/images/redhat-coreos-opp-413-x86-64-202305021736
  • 오픈시프트 쿠버네티스 엔진: https://www.googleapis.com/compute/v1/projects/redhat-marketplace-public/global/images/redhat-coreos-oke-413-x86-64-202305021736
4
선택 사항: key:value 쌍 형식으로 사용자 지정 메타데이터를 지정합니다. 예를 들어 사용자 정의 메타데이터를 설정하는 방법에 대한 사용 사례는 GCP 문서를 참조하세요.
5
<project_name>의 경우 클러스터에 사용하는 GCP 프로젝트의 이름을 지정합니다.
6
단일 서비스 계정을 지정합니다. 여러 서비스 계정은 지원되지 않습니다.

2.4.2. 컴퓨팅 머신 세트 생성
링크 복사

설치 프로그램에서 생성한 컴퓨팅 머신 세트 외에도 고유한 머신 세트를 생성하여 선택한 특정 워크로드의 머신 컴퓨팅 리소스를 동적으로 관리할 수 있습니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터를 배포합니다.
  • OpenShift CLI(oc)를 설치합니다.
  • cluster-admin 권한이 있는 사용자로 oc에 로그인합니다.

프로세스

  1. 컴퓨팅 머신 세트 CR(사용자 정의 리소스) 샘플이 포함된 새 YAML 파일을 만들고 <file_name>.yaml이라는 이름을 지정합니다.

    <clusterID> 및 <role> 매개 변수 값을 설정해야 합니다.

  2. 선택 사항: 특정 필드에 설정할 값이 확실하지 않은 경우 클러스터에서 기존 컴퓨팅 머신 세트를 확인할 수 있습니다.

    1. 클러스터의 컴퓨팅 머신 세트를 나열하려면 다음 명령을 실행합니다. 

      $ oc get machinesets -n openshift-machine-api
      Copy to Clipboard Toggle word wrap

      출력 예

      NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
      Copy to Clipboard Toggle word wrap

    2. 특정 컴퓨팅 머신 세트 CR(사용자 정의 리소스)의 값을 보려면 다음 명령을 실행합니다. 

      $ oc get machineset <machineset_name> \
  -n openshift-machine-api -o yaml
      Copy to Clipboard Toggle word wrap

      출력 예

      apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      1 
      
  name: <infrastructure_id>-<role>
      2 
      
  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
    spec:
      providerSpec:
      3 
      
        ...
      Copy to Clipboard Toggle word wrap

      1
      클러스터 인프라 ID입니다.
      2
      기본 노드 레이블입니다.
      참고

      사용자 프로비저닝 인프라가 있는 클러스터의 경우 컴퓨팅 머신 세트는 worker 및 infra 유형 머신만 생성할 수 있습니다.

      3
      컴퓨팅 머신 세트 CR의 <providerSpec> 섹션에 있는 값은 플랫폼에 따라 다릅니다. CR의 <providerSpec> 매개변수에 대한 자세한 내용은 공급자의 샘플 컴퓨팅 머신 세트 CR 구성을 참조하십시오.

  3. 다음 명령을 실행하여 MachineSet CR을 생성합니다. 

    $ oc create -f <file_name>.yaml
    Copy to Clipboard Toggle word wrap

검증

  • 다음 명령을 실행하여 컴퓨팅 머신 세트 목록을 확인합니다. 

    $ oc get machineset -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-infra-us-east-1a    1         1         1       1           11m
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
    Copy to Clipboard Toggle word wrap

    새 컴퓨팅 머신 세트를 사용할 수 있으면 DESIRED 및 CURRENT 값이 일치합니다. 컴퓨팅 머신 세트를 사용할 수 없는 경우 몇 분 기다렸다가 명령을 다시 실행합니다.

2.4.3. 클러스터 자동 스케일러의 GPU 머신 세트 레이블 지정
링크 복사

클러스터 자동 확장기가 GPU 지원 노드를 배포하는 데 사용할 수 있는 머신을 나타내기 위해 머신 세트 레이블을 사용할 수 있습니다.

사전 요구 사항

  • 귀하의 클러스터는 클러스터 자동 확장기를 사용합니다.

프로세스

  • GPU 지원 노드를 배포하는 데 사용할 클러스터 자동 확장기에 대한 머신을 생성하려는 머신 세트에서 cluster-api/accelerator 레이블을 추가합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  name: machine-set-name
spec:
  template:
    spec:
      metadata:
        labels:
          cluster-api/accelerator: nvidia-t4
    1
    Copy to Clipboard Toggle word wrap
    1
    영숫자 문자( - , _ , 또는 .) 로 구성되고 영숫자 문자로 시작하고 끝나는 원하는 레이블을 지정하세요. 예를 들어, Nvidia T4 GPU를 나타내려면 nvidia-t4를 사용하고, A10G GPU를 나타내려면 nvidia-a10g를 사용할 수 있습니다.
    참고

    ClusterAutoscaler CR의 spec.resourceLimits.gpus.type 매개변수에 대해 이 레이블의 값을 지정해야 합니다. 자세한 내용은 "클러스터 자동 확장 리소스 정의"를 참조하세요.

2.4.4. 머신 세트를 사용하여 영구 디스크 유형 구성
링크 복사

머신 세트 YAML 파일을 편집하여 머신 세트가 머신을 배포하는 영구 디스크 유형을 구성할 수 있습니다.

영구 디스크 유형, 호환성, 지역별 가용성 및 제한 사항에 대한 자세한 내용은 GCP Compute Engine 문서에서 영구 디스크 에 대한 내용을 참조하세요.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 줄을 편집하세요. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
...
spec:
  template:
    spec:
      providerSpec:
        value:
          disks:
            type: <pd-disk-type>
    1
    Copy to Clipboard Toggle word wrap
    1
    영구 디스크 유형을 지정합니다. 유효한 값은 pd-ssd , pd-standard 및 pd-balanced 입니다. 기본값은 pd-standard 입니다.

검증

  • Google Cloud 콘솔을 사용하여 머신 세트에서 배포한 머신의 세부 정보를 검토하고 유형 필드가 구성된 디스크 유형과 일치하는지 확인합니다.

2.4.5. 머신 세트를 사용하여 기밀 VM 구성
링크 복사

머신 세트 YAML 파일을 편집하면 머신 세트가 배포하는 머신에 대해 사용하는 기밀 VM 옵션을 구성할 수 있습니다.

Confidential VM 기능, 함수 및 호환성에 대한 자세한 내용은 Confidential VM 에 대한 GCP Compute Engine 문서를 참조하세요.

참고

현재 64비트 ARM 아키텍처에서는 기밀 VM이 지원되지 않습니다. Confidential VM을 사용하는 경우 지원되는 지역을 선택해야 합니다. 지원되는 지역 및 구성에 대한 자세한 내용은 GCP Compute Engine 설명서에서 지원되는 영역 에 대한 내용을 참조하세요.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 섹션을 편집하세요. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
# ...
spec:
  template:
    spec:
      providerSpec:
        value:
          confidentialCompute: Enabled
    1 
    
          onHostMaintenance: Terminate
    2 
    
          machineType: n2d-standard-8
    3 
    
# ...
    Copy to Clipboard Toggle word wrap
    1
    기밀 VM이 활성화되어 있는지 여부를 지정합니다. 유효한 값은 다음과 같습니다.
    활성화됨
    Confidential VM 기술의 기본 선택을 통해 Confidential VM을 활성화합니다. 기본 선택은 AMD Secure Encrypted Virtualization(AMD SEV)입니다.
    비활성화됨
    기밀 VM을 비활성화합니다.
    AMDEncryptedVirtualization
    AMD SEV를 사용하여 Confidential VM을 활성화합니다. AMD SEV는 c2d, n2d, c3d 머신을 지원합니다.
    AMDEncryptedVirtualizationNestedPaging
    AMD 보안 암호화 가상화 보안 중첩 페이징(AMD SEV-SNP)을 사용하여 기밀 VM을 활성화합니다. AMD SEV-SNP는 n2d 머신을 지원합니다.
    IntelTrustedDomainExtensions
    Intel Trusted Domain Extensions(Intel TDX)를 사용하여 Confidential VM을 활성화합니다. Intel TDX는 n2d 머신을 지원합니다.
    2
    하드웨어 또는 소프트웨어 업데이트와 같은 호스트 유지 관리 이벤트 중에 VM의 동작을 지정합니다. Confidential VM을 사용하는 머신의 경우 이 값을 Terminate 로 설정해야 VM이 중지됩니다. Confidential VM은 라이브 VM 마이그레이션을 지원하지 않습니다.
    3
    confidentialCompute 필드에 지정한 Confidential VM 옵션을 지원하는 머신 유형을 지정합니다.

검증

  • Google Cloud 콘솔에서 머신 세트에 의해 배포된 머신의 세부 정보를 검토하고 Confidential VM 옵션이 구성한 값과 일치하는지 확인합니다.

GCP에서 실행되는 컴퓨팅 머신 세트를 만들어 머신을 보장되지 않은 선점형 VM 인스턴스로 배포하면 비용을 절감할 수 있습니다. 선점 가능한 가상 머신 인스턴스는 과도한 Compute Engine 용량을 사용하며 일반 인스턴스보다 비용이 저렴합니다. 일괄 처리 또는 상태 비저장, 수평적으로 확장 가능한 워크로드와 같이 인터럽트를 허용할 수있는 워크로드에 선점 가능한 가상 머신 인스턴스를 사용할 수 있습니다.

GCP Compute Engine은 언제든지 선점 가능한 가상 머신 인스턴스를 종료할 수 있습니다. Compute Engine은 인터럽션이 30 초 후에 발생하는 것을 알리는 선점 알림을 사용자에게 보냅니다. OpenShift Container Platform은 Compute Engine이 선점 알림을 발행할 때 영향을 받는 인스턴스에서 워크로드를 제거하기 시작합니다. 인스턴스가 중지되지 않은 경우 ACPI G3 Mechanical Off 신호는 30 초 후에 운영 체제로 전송됩니다. 다음으로 선점 가능한 가상 머신 인스턴스가 Compute Engine에 의해 TERMINATED 상태로 전환됩니다.

다음과 같은 이유로 선점 가능한 가상 머신 인스턴스를 사용할 때 중단될 수 있습니다.

  • 시스템 또는 유지 관리 이벤트가 있는 경우
  • 선점 가능한 가상 머신 인스턴스의 공급이 감소하는 경우
  • 인스턴스가 선점 가능한 가상 머신 인스턴스에 할당된 24 시간 후에 종료되는 경우

GCP가 인스턴스를 종료하면 선점 가능한 가상 머신 인스턴스 노드에서 실행되는 종료 프로세스가 머신 리소스를 삭제합니다. 컴퓨팅 머신 세트 복제본 수량을 충족하기 위해 컴퓨팅 머신 세트는 선점형 VM 인스턴스를 요청하는 머신을 생성합니다.

컴퓨팅 머신 세트 YAML 파일에 preemptible을 추가하여 GCP에서 preemptible 가상 머신 인스턴스를 시작할 수 있습니다.

프로세스

  • providerSpec 필드 아래에 다음 행을 추가합니다. 

    providerSpec:
  value:
    preemptible: true
    Copy to Clipboard Toggle word wrap

    preemptible 이 true 로 설정된 경우 인스턴스가 시작된 후 해당 머신은 중단 가능 인스턴스 로 표시됩니다.

2.4.7. 머신 세트를 사용하여 Shielded VM 옵션 구성
링크 복사

머신 세트 YAML 파일을 편집하면 머신 세트가 배포하는 머신에 대해 사용하는 보호된 VM 옵션을 구성할 수 있습니다.

Shielded VM 기능에 대한 자세한 내용은 Shielded VM 에 대한 GCP Compute Engine 문서를 참조하세요.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 섹션을 편집하세요. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
# ...
spec:
  template:
    spec:
      providerSpec:
        value:
          shieldedInstanceConfig:
    1 
    
            integrityMonitoring: Enabled
    2 
    
            secureBoot: Disabled
    3 
    
            virtualizedTrustedPlatformModule: Enabled
    4 
    
# ...
    Copy to Clipboard Toggle word wrap
    1
    이 섹션에서는 원하는 보호된 VM 옵션을 지정합니다.
    2
    무결성 모니터링이 활성화되어 있는지 여부를 지정합니다. 유효한 값은 Disabled 또는 Enabled 입니다.
    참고

    무결성 모니터링이 활성화된 경우 가상 신뢰 플랫폼 모듈(vTPM)을 비활성화해서는 안 됩니다.

    3
    UEFI 보안 부팅이 활성화되어 있는지 여부를 지정합니다. 유효한 값은 Disabled 또는 Enabled 입니다.
    4
    vTPM이 활성화되어 있는지 여부를 지정합니다. 유효한 값은 Disabled 또는 Enabled 입니다.

검증

  • Google Cloud 콘솔을 사용하여 머신 세트에서 배포한 머신의 세부 정보를 검토하고 보호된 VM 옵션이 구성한 값과 일치하는지 확인합니다.

2.4.8. 머신 세트의 고객 관리 암호화 키 활성화
링크 복사

GCP(Google Cloud Platform) Compute Engine을 사용하면 사용자가 암호화 키를 제공하여 디스크의 데이터를 암호화 할 수 있습니다. 키는 고객의 데이터를 암호화하는 것이 아니라 데이터 암호화 키를 암호화하는 데 사용됩니다. 기본적으로 Compute Engine은 Compute Engine 키를 사용하여 이 데이터를 암호화합니다.

Machine API를 사용하는 클러스터에서 고객 관리 키로 암호화를 활성화할 수 있습니다. 먼저 KMS 키를 생성하고 서비스 계정에 올바른 권한을 할당해야 합니다. 서비스 계정에서 키를 사용하려면 KMS 키 이름, 키 링 이름 및 위치가 필요합니다.

참고

KMS 암호화에 전용 서비스 계정을 사용하지 않는 경우 Compute Engine 기본 서비스 계정이 대신 사용됩니다. 전용 서비스 계정을 사용하지 않는 경우 키에 액세스할 수 있는 기본 서비스 계정 권한을 부여해야 합니다. Compute Engine 기본 서비스 계정 이름은 service-<project_number>@compute-system.iam.gserviceaccount.com 패턴을 기반으로 합니다.

프로세스

  1. 특정 서비스 계정이 KMS 키를 사용하고 서비스 계정에 올바른 IAM 역할을 부여하도록 하려면 KMS 키 이름, 키 링 이름 및 위치를 사용하여 다음 명령을 실행하세요. 

    $ gcloud kms keys add-iam-policy-binding <key_name> \
  --keyring <key_ring_name> \
  --location <key_ring_location> \
  --member "serviceAccount:service-<project_number>@compute-system.iam.gserviceaccount.com” \
  --role roles/cloudkms.cryptoKeyEncrypterDecrypter
    Copy to Clipboard Toggle word wrap

  2. 사용자가 머신 세트 YAML 파일의 providerSpec 필드에 암호화 키를 구성할 수 있습니다. 예를 들면 다음과 같습니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
...
spec:
  template:
    spec:
      providerSpec:
        value:
          disks:
          - type:
            encryptionKey:
              kmsKey:
                name: machine-encryption-key
    1 
    
                keyRing: openshift-encrpytion-ring
    2 
    
                location: global
    3 
    
                projectID: openshift-gcp-project
    4 
    
              kmsKeyServiceAccount: openshift-service-account@openshift-gcp-project.iam.gserviceaccount.com
    5
    Copy to Clipboard Toggle word wrap
    1
    디스크 암호화에 사용되는 고객 관리 암호화 키의 이름입니다.
    2
    KMS 키가 속한 KMS 키 링의 이름입니다.
    3
    KMS 키 링이 있는 GCP 위치입니다.
    4
    선택 사항: KMS 키 링이 존재하는 프로젝트의 ID입니다. 프로젝트 ID가 설정되지 않은 경우 머신 세트가 사용된 머신 세트의 projectID를 설정합니다.
    5
    선택 사항: 지정된 KMS 키의 암호화 요청에 사용되는 서비스 계정입니다. 서비스 계정이 설정되지 않은 경우 Compute Engine 기본 서비스 계정이 사용됩니다.

    업데이트된 providerSpec 개체 구성을 사용하여 새 컴퓨터를 생성하면 디스크 암호화 키는 KMS 키로 암호화됩니다.

2.4.9. 컴퓨팅 머신 세트에 대한 GPU 지원 활성화
링크 복사

GCP(Google Cloud Platform) Compute Engine을 사용하면 사용자가 VM 인스턴스에 GPU를 추가할 수 있습니다. GPU 리소스에 액세스할 수 있는 워크로드는 이 기능이 활성화된 컴퓨팅 머신에서 더 효과적으로 수행할 수 있습니다. GCP의 OpenShift Container Platform은 A2 및 N1 머신 시리즈에서 NVIDIA GPU 모델을 지원합니다.

Expand
표 2.2. 지원되는 GPU 구성
모델명GPU 유형기계 유형 [1]

NVIDIA A100

nvidia-tesla-a100

  • a2-highgpu-1g
  • a2-highgpu-2g
  • a2-highgpu-4g
  • a2-highgpu-8g
  • a2-megagpu-16g

NVIDIA K80

nvidia-tesla-k80

  • n1-standard-1
  • n1-standard-2
  • n1-standard-4
  • n1-standard-8
  • n1-standard-16
  • n1-standard-32
  • n1-standard-64
  • n1-standard-96
  • n1-highmem-2
  • n1-highmem-4
  • n1-highmem-8
  • n1-highmem-16
  • n1-highmem-32
  • n1-highmem-64
  • n1-highmem-96
  • n1-highcpu-2
  • n1-highcpu-4
  • n1-highcpu-8
  • n1-highcpu-16
  • n1-highcpu-32
  • n1-highcpu-64
  • n1-highcpu-96

NVIDIA P100

nvidia-tesla-p100

NVIDIA P4

nvidia-tesla-p4

NVIDIA T4

nvidia-tesla-t4

NVIDIA V100

nvidia-tesla-v100

  1. 사양, 호환성, 지역 가용성 및 제한을 포함한 머신 유형에 대한 자세한 내용은 N1 머신 시리즈 ,A2 머신 시리즈 및 GPU 리전 및 영역 가용성에 대한 GCP Compute Engine 설명서를 참조하십시오.

Machine API를 사용하여 인스턴스에 사용할 지원 GPU를 정의할 수 있습니다.

지원되는 GPU 유형 중 하나를 사용하여 N1 머신 시리즈의 머신을 배포하도록 구성할 수 있습니다. A2 머신 시리즈의 시스템에는 연결된 GPU가 제공되며 게스트 가속기를 사용할 수 없습니다.

참고

그래픽 워크로드를 위한 GPU는 지원되지 않습니다.

프로세스

  1. 텍스트 편집기에서 기존 컴퓨팅 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. 컴퓨팅 머신 세트 YAML 파일의 providerSpec 필드에서 GPU 구성을 지정합니다. 다음은 유효한 구성의 예입니다.

    A2 머신 시리즈에 대한 구성 예

      providerSpec:
    value:
      machineType: a2-highgpu-1g
    1 
    
      onHostMaintenance: Terminate
    2 
    
      restartPolicy: Always
    3
    Copy to Clipboard Toggle word wrap

    1
    기계 유형을 지정하세요. 해당 기계 유형이 A2 기계 시리즈에 포함되어 있는지 확인하세요.
    2
    GPU 지원을 사용하는 경우 onHostMaintenance를 Terminate 로 설정해야 합니다.
    3
    컴퓨팅 머신 세트에 의해 배포된 머신에 대한 재시작 정책을 지정합니다. 허용되는 값은 Always 또는 Never 입니다.

    N1 머신 시리즈에 대한 구성 예

    providerSpec:
  value:
    gpus:
    - count: 1
    1 
    
      type: nvidia-tesla-p100
    2 
    
    machineType: n1-standard-1
    3 
    
    onHostMaintenance: Terminate
    4 
    
    restartPolicy: Always
    5
    Copy to Clipboard Toggle word wrap

    1
    머신에 연결할 GPU 수를 지정합니다.
    2
    머신에 연결할 GPU 유형을 지정합니다. 머신 유형과 GPU 유형이 호환되는지 확인하세요.
    3
    기계 유형을 지정하세요. 머신 유형과 GPU 유형이 호환되는지 확인하세요.
    4
    GPU 지원을 사용하는 경우 onHostMaintenance를 Terminate 로 설정해야 합니다.
    5
    컴퓨팅 머신 세트에 의해 배포된 머신에 대한 재시작 정책을 지정합니다. 허용되는 값은 Always 또는 Never 입니다.

2.4.10. 기존 OpenShift Container Platform 클러스터에 GPU 노드 추가
링크 복사

기본 컴퓨팅 머신 세트 구성을 복사하고 수정하여 GCP 클라우드 공급자를 위한 GPU 지원 머신 세트와 머신을 생성할 수 있습니다.

다음 표에는 검증된 인스턴스 유형이 나열되어 있습니다.

Expand
인스턴스 유형엔비디아 GPU 가속기최대 GPU 수아키텍처

a2-highgpu-1g

A100

1

x86

n1-standard-4

T4

1

x86

프로세스

  1. 기존 MachineSet 의 복사본을 만듭니다.
  2. 새 사본에서 metadata. name 및 machine.openshift.io/cluster-api-machineset 의 두 인스턴스에서 머신 세트 이름을 변경합니다.

  3. 인스턴스 유형을 변경하여 새로 복사한 MachineSet 에 다음 두 줄을 추가합니다. 

    machineType: a2-highgpu-1g
onHostMaintenance: Terminate
    Copy to Clipboard Toggle word wrap

    a2-highgpu-1g.json 파일 예시

    {
    "apiVersion": "machine.openshift.io/v1beta1",
    "kind": "MachineSet",
    "metadata": {
        "annotations": {
            "machine.openshift.io/GPU": "0",
            "machine.openshift.io/memoryMb": "16384",
            "machine.openshift.io/vCPU": "4"
        },
        "creationTimestamp": "2023-01-13T17:11:02Z",
        "generation": 1,
        "labels": {
            "machine.openshift.io/cluster-api-cluster": "myclustername-2pt9p"
        },
        "name": "myclustername-2pt9p-worker-gpu-a",
        "namespace": "openshift-machine-api",
        "resourceVersion": "20185",
        "uid": "2daf4712-733e-4399-b4b4-d43cb1ed32bd"
    },
    "spec": {
        "replicas": 1,
        "selector": {
            "matchLabels": {
                "machine.openshift.io/cluster-api-cluster": "myclustername-2pt9p",
                "machine.openshift.io/cluster-api-machineset": "myclustername-2pt9p-worker-gpu-a"
            }
        },
        "template": {
            "metadata": {
                "labels": {
                    "machine.openshift.io/cluster-api-cluster": "myclustername-2pt9p",
                    "machine.openshift.io/cluster-api-machine-role": "worker",
                    "machine.openshift.io/cluster-api-machine-type": "worker",
                    "machine.openshift.io/cluster-api-machineset": "myclustername-2pt9p-worker-gpu-a"
                }
            },
            "spec": {
                "lifecycleHooks": {},
                "metadata": {},
                "providerSpec": {
                    "value": {
                        "apiVersion": "machine.openshift.io/v1beta1",
                        "canIPForward": false,
                        "credentialsSecret": {
                            "name": "gcp-cloud-credentials"
                        },
                        "deletionProtection": false,
                        "disks": [
                            {
                                "autoDelete": true,
                                "boot": true,
                                "image": "projects/rhcos-cloud/global/images/rhcos-412-86-202212081411-0-gcp-x86-64",
                                "labels": null,
                                "sizeGb": 128,
                                "type": "pd-ssd"
                            }
                        ],
                        "kind": "GCPMachineProviderSpec",
                        "machineType": "a2-highgpu-1g",
                        "onHostMaintenance": "Terminate",
                        "metadata": {
                            "creationTimestamp": null
                        },
                        "networkInterfaces": [
                            {
                                "network": "myclustername-2pt9p-network",
                                "subnetwork": "myclustername-2pt9p-worker-subnet"
                            }
                        ],
                        "preemptible": true,
                        "projectID": "myteam",
                        "region": "us-central1",
                        "serviceAccounts": [
                            {
                                "email": "myclustername-2pt9p-w@myteam.iam.gserviceaccount.com",
                                "scopes": [
                                    "https://www.googleapis.com/auth/cloud-platform"
                                ]
                            }
                        ],
                        "tags": [
                            "myclustername-2pt9p-worker"
                        ],
                        "userDataSecret": {
                            "name": "worker-user-data"
                        },
                        "zone": "us-central1-a"
                    }
                }
            }
        }
    },
    "status": {
        "availableReplicas": 1,
        "fullyLabeledReplicas": 1,
        "observedGeneration": 1,
        "readyReplicas": 1,
        "replicas": 1
    }
}
    Copy to Clipboard Toggle word wrap

  4. 다음 명령을 실행하여 기존 노드, 머신, 머신 세트를 확인하세요. 각 노드는 특정 GCP 지역과 OpenShift Container Platform 역할을 갖춘 머신 정의의 인스턴스입니다. 

    $ oc get nodes
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                                             STATUS     ROLES                  AGE     VERSION
myclustername-2pt9p-master-0.c.openshift-qe.internal             Ready      control-plane,master   8h      v1.32.3
myclustername-2pt9p-master-1.c.openshift-qe.internal             Ready      control-plane,master   8h      v1.32.3
myclustername-2pt9p-master-2.c.openshift-qe.internal             Ready      control-plane,master   8h      v1.32.3
myclustername-2pt9p-worker-a-mxtnz.c.openshift-qe.internal       Ready      worker                 8h      v1.32.3
myclustername-2pt9p-worker-b-9pzzn.c.openshift-qe.internal       Ready      worker                 8h      v1.32.3
myclustername-2pt9p-worker-c-6pbg6.c.openshift-qe.internal       Ready      worker                 8h      v1.32.3
myclustername-2pt9p-worker-gpu-a-wxcr6.c.openshift-qe.internal   Ready      worker                 4h35m   v1.32.3
    Copy to Clipboard Toggle word wrap

  5. 다음 명령을 실행하여 openshift-machine-api 네임스페이스에 있는 머신과 머신 세트를 확인하세요. 각 컴퓨팅 머신 세트는 GCP 지역 내의 다른 가용성 영역과 연결됩니다. 설치 프로그램은 가용성 영역 전반에 걸쳐 컴퓨팅 머신의 부하를 자동으로 분산합니다. 

    $ oc get machinesets -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                               DESIRED   CURRENT   READY   AVAILABLE   AGE
myclustername-2pt9p-worker-a       1         1         1       1           8h
myclustername-2pt9p-worker-b       1         1         1       1           8h
myclustername-2pt9p-worker-c       1         1                             8h
myclustername-2pt9p-worker-f       0         0                             8h
    Copy to Clipboard Toggle word wrap

  6. 다음 명령을 실행하여 openshift-machine-api 네임스페이스에 있는 머신을 확인하세요. 세트당 하나의 컴퓨팅 머신만 구성할 수 있지만, 특정 지역 및 영역에 노드를 추가하기 위해 컴퓨팅 머신 세트를 확장할 수 있습니다. 

    $ oc get machines -n openshift-machine-api | grep worker
    Copy to Clipboard Toggle word wrap

    출력 예

    myclustername-2pt9p-worker-a-mxtnz       Running   n2-standard-4   us-central1   us-central1-a   8h
myclustername-2pt9p-worker-b-9pzzn       Running   n2-standard-4   us-central1   us-central1-b   8h
myclustername-2pt9p-worker-c-6pbg6       Running   n2-standard-4   us-central1   us-central1-c   8h
    Copy to Clipboard Toggle word wrap

  7. 다음 명령을 실행하여 기존 컴퓨트 MachineSet 정의 중 하나의 복사본을 만들고 결과를 JSON 파일에 출력합니다. 이는 GPU 지원 컴퓨팅 머신 세트 정의의 기초가 됩니다. 

    $ oc get machineset myclustername-2pt9p-worker-a -n openshift-machine-api -o json  > <output_file.json>
    Copy to Clipboard Toggle word wrap

  8. JSON 파일을 편집하여 새 MachineSet 정의에 다음과 같은 변경 사항을 적용합니다.

    • metadata.name 에 하위 문자열 gpu 를 삽입하고 machine.openshift.io/cluster-api-machineset 의 두 인스턴스에 하위 문자열 gpu를 삽입하여 머신 세트 name의 이름을 바꿉니다.

    • 새로운 MachineSet 정의의 machineType을 NVIDIA A100 GPU를 포함하는 a2-highgpu-1g 로 변경합니다. 

      jq .spec.template.spec.providerSpec.value.machineType ocp_4.19_machineset-a2-highgpu-1g.json

"a2-highgpu-1g"
      Copy to Clipboard Toggle word wrap

      <output_file.json> 파일은 ocp_4.19_machineset-a2-highgpu-1g.json 으로 저장됩니다.

  9. ocp_4.19_machineset-a2-highgpu-1g.json 에서 다음 필드를 업데이트합니다.

    • .metadata.name을 gpu를 포함하는 이름으로 변경합니다.
    • .spec.selector.matchLabels["machine.openshift.io/cluster-api-machineset"]을 새로운 .metadata.name 과 일치하도록 변경합니다.
    • .spec.template.metadata.labels["machine.openshift.io/cluster-api-machineset"]을 새로운 .metadata.name 과 일치하도록 변경합니다.
    • .spec.template.spec.providerSpec.value.MachineType을 a2-highgpu-1g 로 변경합니다.

    • machineType 아래에 다음 줄을 추가합니다: `"onHostMaintenance": "Terminate". 예를 들면 다음과 같습니다. 

      "machineType": "a2-highgpu-1g",
"onHostMaintenance": "Terminate",
      Copy to Clipboard Toggle word wrap

  10. 변경 사항을 확인하려면 다음 명령을 실행하여 원래 컴퓨팅 정의와 새 GPU 사용 노드 정의의 diff를 수행합니다. 

    $ oc get machineset/myclustername-2pt9p-worker-a -n openshift-machine-api -o json | diff ocp_4.19_machineset-a2-highgpu-1g.json -
    Copy to Clipboard Toggle word wrap

    출력 예

    15c15
<         "name": "myclustername-2pt9p-worker-gpu-a",
---
>         "name": "myclustername-2pt9p-worker-a",
25c25
<                 "machine.openshift.io/cluster-api-machineset": "myclustername-2pt9p-worker-gpu-a"
---
>                 "machine.openshift.io/cluster-api-machineset": "myclustername-2pt9p-worker-a"
34c34
<                     "machine.openshift.io/cluster-api-machineset": "myclustername-2pt9p-worker-gpu-a"
---
>                     "machine.openshift.io/cluster-api-machineset": "myclustername-2pt9p-worker-a"
59,60c59
<                         "machineType": "a2-highgpu-1g",
<                         "onHostMaintenance": "Terminate",
---
>                         "machineType": "n2-standard-4",
    Copy to Clipboard Toggle word wrap

  11. 다음 명령을 실행하여 정의 파일에서 GPU 지원 컴퓨팅 머신 세트를 만듭니다. 

    $ oc create -f ocp_4.19_machineset-a2-highgpu-1g.json
    Copy to Clipboard Toggle word wrap

    출력 예

    machineset.machine.openshift.io/myclustername-2pt9p-worker-gpu-a created
    Copy to Clipboard Toggle word wrap

검증

  1. 다음 명령을 실행하여 생성한 머신 세트를 확인하세요. 

    $ oc -n openshift-machine-api get machinesets | grep gpu
    Copy to Clipboard Toggle word wrap

    MachineSet 복제본 수가 1 로 설정되어 새로운 Machine 객체가 자동으로 생성됩니다.

    출력 예

    myclustername-2pt9p-worker-gpu-a   1         1         1       1           5h24m
    Copy to Clipboard Toggle word wrap

  2. 다음 명령을 실행하여 머신 세트가 생성한 머신 객체를 확인하세요. 

    $ oc -n openshift-machine-api get machines | grep gpu
    Copy to Clipboard Toggle word wrap

    출력 예

    myclustername-2pt9p-worker-gpu-a-wxcr6   Running   a2-highgpu-1g   us-central1   us-central1-a   5h25m
    Copy to Clipboard Toggle word wrap

참고

노드에 대한 네임스페이스를 지정할 필요는 없습니다. 노드 정의는 클러스터 범위입니다.

2.4.11. 노드 기능 검색 연산자 배포
링크 복사

GPU 지원 노드를 생성한 후에는 GPU 지원 노드를 검색하여 예약해야 합니다. 이렇게 하려면 NFD(Node Feature Discovery) Operator를 설치하세요. NFD 운영자는 노드의 하드웨어 장치 기능을 식별합니다. 이는 인프라 노드에서 하드웨어 리소스를 식별하고 카탈로그화하여 OpenShift Container Platform에서 사용할 수 있도록 하는 일반적인 문제를 해결합니다.

프로세스

  1. OpenShift Container Platform 콘솔에서 OperatorHub 의 Node Feature Discovery Operator를 설치합니다.
  2. OperatorHub 에 NFD Operator를 설치한 후, 설치된 Operator 목록에서 Node Feature Discovery를 선택하고 인스턴스 생성을 선택합니다. 이렇게 하면 각 컴퓨팅 노드에 대해 nfd-master 및 nfd-worker, 하나의 nfd-worker Pod가 openshift-nfd 네임스페이스에 설치됩니다.

  3. 다음 명령을 실행하여 Operator가 설치되고 실행 중인지 확인하세요. 

    $ oc get pods -n openshift-nfd
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                       READY    STATUS     RESTARTS   AGE

nfd-controller-manager-8646fcbb65-x5qgk    2/2      Running 7  (8h ago)   1d
    Copy to Clipboard Toggle word wrap

  4. 콘솔에서 설치된 Oerator를 찾아 '노드 기능 검색 만들기'를 선택합니다.
  5. 생성 을 선택하여 NFD 사용자 정의 리소스를 빌드합니다. 이렇게 하면 openshift-nfd 네임스페이스에 NFD 포드가 생성되어 OpenShift Container Platform 노드에서 하드웨어 리소스를 폴링하고 카탈로그화합니다.

검증

  1. 빌드가 성공적으로 완료되면 다음 명령을 실행하여 각 노드에서 NFD 포드가 실행 중인지 확인하세요. 

    $ oc get pods -n openshift-nfd
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                       READY   STATUS      RESTARTS        AGE
nfd-controller-manager-8646fcbb65-x5qgk    2/2     Running     7 (8h ago)      12d
nfd-master-769656c4cb-w9vrv                1/1     Running     0               12d
nfd-worker-qjxb2                           1/1     Running     3 (3d14h ago)   12d
nfd-worker-xtz9b                           1/1     Running     5 (3d14h ago)   12d
    Copy to Clipboard Toggle word wrap

    NFD 운영자는 공급업체 PCI ID를 사용하여 노드의 하드웨어를 식별합니다. NVIDIA는 PCI ID 10de를 사용합니다.

  2. 다음 명령을 실행하여 NFD 운영자가 발견한 NVIDIA GPU를 확인하세요. 

    $ oc describe node ip-10-0-132-138.us-east-2.compute.internal | egrep 'Roles|pci'
    Copy to Clipboard Toggle word wrap

    출력 예

    Roles: worker

feature.node.kubernetes.io/pci-1013.present=true

feature.node.kubernetes.io/pci-10de.present=true

feature.node.kubernetes.io/pci-1d0f.present=true
    Copy to Clipboard Toggle word wrap

    10de는 GPU 지원 노드의 노드 기능 목록에 나타납니다. 이는 NFD 운영자가 GPU 지원 MachineSet에서 노드를 올바르게 식별했음을 의미합니다.

2.5. IBM Cloud에서 컴퓨팅 머신 세트 생성
링크 복사

IBM Cloud®의 OpenShift Container Platform 클러스터에서 특정 목적에 맞게 다른 컴퓨팅 머신 세트를 만들 수 있습니다. 예를 들어, 지원되는 워크로드를 새 머신으로 이동할 수 있도록 인프라 머신 세트 및 관련 머신을 작성할 수 있습니다.

중요

머신 API가 작동하는 클러스터에서만 고급 머신 관리 및 스케일링 기능을 사용할 수 있습니다. 사용자 제공 인프라가 있는 클러스터는 Machine API를 사용하기 위해 추가적인 검증 및 구성이 필요합니다.

인프라 플랫폼 유형이 none인 클러스터는 Machine API를 사용할 수 없습니다. 이러한 제한은 클러스터에 연결된 컴퓨팅 머신이 해당 기능을 지원하는 플랫폼에 설치된 경우에도 적용됩니다. 설치 후에는 이 매개변수를 변경할 수 없습니다.

클러스터의 플랫폼 유형을 보려면 다음 명령을 실행하세요. 

$ oc get infrastructure cluster -o jsonpath='{.status.platform}'
Copy to Clipboard Toggle word wrap

이 샘플 YAML은 지역의 지정된 IBM Cloud® 영역에서 실행되는 컴퓨팅 머신 세트를 정의하고 node-role.kubernetes.io/<role>: "" 로 레이블이 지정된 노드를 생성합니다.

이 샘플에서 <infrastructure_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 <role>은 추가할 노드 레이블입니다. 

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

    machine.openshift.io/cluster-api-machine-role: <role>
2 

    machine.openshift.io/cluster-api-machine-type: <role>
3 

  name: <infrastructure_id>-<role>-<region>
4 

  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
5 

      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>-<region>
6 

  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
7 

        machine.openshift.io/cluster-api-machine-role: <role>
8 

        machine.openshift.io/cluster-api-machine-type: <role>
9 

        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>-<region>
10 

    spec:
      metadata:
        labels:
          node-role.kubernetes.io/<role>: ""
      providerSpec:
        value:
          apiVersion: ibmcloudproviderconfig.openshift.io/v1beta1
          credentialsSecret:
            name: ibmcloud-credentials
          image: <infrastructure_id>-rhcos
11 

          kind: IBMCloudMachineProviderSpec
          primaryNetworkInterface:
              securityGroups:
              - <infrastructure_id>-sg-cluster-wide
              - <infrastructure_id>-sg-openshift-net
              subnet: <infrastructure_id>-subnet-compute-<zone>
12 

          profile: <instance_profile>
13 

          region: <region>
14 

          resourceGroup: <resource_group>
15 

          userDataSecret:
              name: <role>-user-data
16 

          vpc: <vpc_name>
17 

          zone: <zone>
18
Copy to Clipboard Toggle word wrap
1 5 7
클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID입니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap
2 3 8 9 16
추가할 노드 레이블입니다.
4 6 10
인프라 ID, 노드 레이블 및 지역.
11
클러스터 설치에 사용된 사용자 지정 Red Hat Enterprise Linux CoreOS(RHCOS) 이미지입니다.
12
머신을 배치할 지역 내의 인프라 ID 및 영역입니다. 해당 리전이 지정한 영역을 지원하는지 확인합니다.
13
IBM Cloud® 인스턴스 프로파일을 지정합니다.
14
기계를 배치할 지역을 지정하세요.
15
머신 리소스가 배치되는 리소스 그룹입니다. 이는 설치 시 지정된 기존 리소스 그룹이거나 인프라 ID를 기반으로 명명된 설치 관리자가 만든 리소스 그룹입니다.
17
VPC 이름.
18
머신을 배치할 리전 내 영역을 지정합니다. 해당 리전이 지정한 영역을 지원하는지 확인합니다.

2.5.2. 컴퓨팅 머신 세트 생성
링크 복사

설치 프로그램에서 생성한 컴퓨팅 머신 세트 외에도 고유한 머신 세트를 생성하여 선택한 특정 워크로드의 머신 컴퓨팅 리소스를 동적으로 관리할 수 있습니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터를 배포합니다.
  • OpenShift CLI(oc)를 설치합니다.
  • cluster-admin 권한이 있는 사용자로 oc에 로그인합니다.

프로세스

  1. 컴퓨팅 머신 세트 CR(사용자 정의 리소스) 샘플이 포함된 새 YAML 파일을 만들고 <file_name>.yaml이라는 이름을 지정합니다.

    <clusterID> 및 <role> 매개 변수 값을 설정해야 합니다.

  2. 선택 사항: 특정 필드에 설정할 값이 확실하지 않은 경우 클러스터에서 기존 컴퓨팅 머신 세트를 확인할 수 있습니다.

    1. 클러스터의 컴퓨팅 머신 세트를 나열하려면 다음 명령을 실행합니다. 

      $ oc get machinesets -n openshift-machine-api
      Copy to Clipboard Toggle word wrap

      출력 예

      NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
      Copy to Clipboard Toggle word wrap

    2. 특정 컴퓨팅 머신 세트 CR(사용자 정의 리소스)의 값을 보려면 다음 명령을 실행합니다. 

      $ oc get machineset <machineset_name> \
  -n openshift-machine-api -o yaml
      Copy to Clipboard Toggle word wrap

      출력 예

      apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      1 
      
  name: <infrastructure_id>-<role>
      2 
      
  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
    spec:
      providerSpec:
      3 
      
        ...
      Copy to Clipboard Toggle word wrap

      1
      클러스터 인프라 ID입니다.
      2
      기본 노드 레이블입니다.
      참고

      사용자 프로비저닝 인프라가 있는 클러스터의 경우 컴퓨팅 머신 세트는 worker 및 infra 유형 머신만 생성할 수 있습니다.

      3
      컴퓨팅 머신 세트 CR의 <providerSpec> 섹션에 있는 값은 플랫폼에 따라 다릅니다. CR의 <providerSpec> 매개변수에 대한 자세한 내용은 공급자의 샘플 컴퓨팅 머신 세트 CR 구성을 참조하십시오.

  3. 다음 명령을 실행하여 MachineSet CR을 생성합니다. 

    $ oc create -f <file_name>.yaml
    Copy to Clipboard Toggle word wrap

검증

  • 다음 명령을 실행하여 컴퓨팅 머신 세트 목록을 확인합니다. 

    $ oc get machineset -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-infra-us-east-1a    1         1         1       1           11m
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
    Copy to Clipboard Toggle word wrap

    새 컴퓨팅 머신 세트를 사용할 수 있으면 DESIRED 및 CURRENT 값이 일치합니다. 컴퓨팅 머신 세트를 사용할 수 없는 경우 몇 분 기다렸다가 명령을 다시 실행합니다.

2.5.3. 클러스터 자동 스케일러의 GPU 머신 세트 레이블 지정
링크 복사

클러스터 자동 확장기가 GPU 지원 노드를 배포하는 데 사용할 수 있는 머신을 나타내기 위해 머신 세트 레이블을 사용할 수 있습니다.

사전 요구 사항

  • 귀하의 클러스터는 클러스터 자동 확장기를 사용합니다.

프로세스

  • GPU 지원 노드를 배포하는 데 사용할 클러스터 자동 확장기에 대한 머신을 생성하려는 머신 세트에서 cluster-api/accelerator 레이블을 추가합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  name: machine-set-name
spec:
  template:
    spec:
      metadata:
        labels:
          cluster-api/accelerator: nvidia-t4
    1
    Copy to Clipboard Toggle word wrap
    1
    영숫자 문자( - , _ , 또는 .) 로 구성되고 영숫자 문자로 시작하고 끝나는 원하는 레이블을 지정하세요. 예를 들어, Nvidia T4 GPU를 나타내려면 nvidia-t4를 사용하고, A10G GPU를 나타내려면 nvidia-a10g를 사용할 수 있습니다.
    참고

    ClusterAutoscaler CR의 spec.resourceLimits.gpus.type 매개변수에 대해 이 레이블의 값을 지정해야 합니다. 자세한 내용은 "클러스터 자동 확장 리소스 정의"를 참조하세요.

2.6. IBM Power Virtual Server에 컴퓨팅 머신 세트 생성
링크 복사

IBM Power® Virtual Server의 OpenShift Container Platform 클러스터에서 특정 목적에 맞는 다른 컴퓨팅 머신 세트를 만들 수 있습니다. 예를 들어, 지원되는 워크로드를 새 머신으로 이동할 수 있도록 인프라 머신 세트 및 관련 머신을 작성할 수 있습니다.

중요

머신 API가 작동하는 클러스터에서만 고급 머신 관리 및 스케일링 기능을 사용할 수 있습니다. 사용자 제공 인프라가 있는 클러스터는 Machine API를 사용하기 위해 추가적인 검증 및 구성이 필요합니다.

인프라 플랫폼 유형이 none인 클러스터는 Machine API를 사용할 수 없습니다. 이러한 제한은 클러스터에 연결된 컴퓨팅 머신이 해당 기능을 지원하는 플랫폼에 설치된 경우에도 적용됩니다. 설치 후에는 이 매개변수를 변경할 수 없습니다.

클러스터의 플랫폼 유형을 보려면 다음 명령을 실행하세요. 

$ oc get infrastructure cluster -o jsonpath='{.status.platform}'
Copy to Clipboard Toggle word wrap

이 샘플 YAML 파일은 지역의 지정된 IBM Power® Virtual Server 영역에서 실행되는 컴퓨팅 머신 세트를 정의하고 node-role.kubernetes.io/<role>: "" 로 레이블이 지정된 노드를 생성합니다.

이 샘플에서 <infrastructure_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 <role>은 추가할 노드 레이블입니다. 

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

    machine.openshift.io/cluster-api-machine-role: <role>
2 

    machine.openshift.io/cluster-api-machine-type: <role>
3 

  name: <infrastructure_id>-<role>-<region>
4 

  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
5 

      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>-<region>
6 

  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
7 

        machine.openshift.io/cluster-api-machine-role: <role>
8 

        machine.openshift.io/cluster-api-machine-type: <role>
9 

        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>-<region>
10 

    spec:
      metadata:
        labels:
          node-role.kubernetes.io/<role>: ""
      providerSpec:
        value:
          apiVersion: machine.openshift.io/v1
          credentialsSecret:
            name: powervs-credentials
          image:
            name: rhcos-<infrastructure_id>
11 

            type: Name
          keyPairName: <infrastructure_id>-key
          kind: PowerVSMachineProviderConfig
          memoryGiB: 32
          network:
            regex: ^DHCPSERVER[0-9a-z]{32}_Private$
            type: RegEx
          processorType: Shared
          processors: "0.5"
          serviceInstance:
            id: <ibm_power_vs_service_instance_id>
            type: ID
12 

          systemType: s922
          userDataSecret:
            name: <role>-user-data
Copy to Clipboard Toggle word wrap
1 5 7
클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID입니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap
2 3 8 9
추가할 노드 레이블입니다.
4 6 10
인프라 ID, 노드 레이블 및 지역.
11
클러스터 설치에 사용된 사용자 지정 Red Hat Enterprise Linux CoreOS(RHCOS) 이미지입니다.
12
머신을 배치할 해당 지역 내의 인프라 ID입니다.

2.6.2. 컴퓨팅 머신 세트 생성
링크 복사

설치 프로그램에서 생성한 컴퓨팅 머신 세트 외에도 고유한 머신 세트를 생성하여 선택한 특정 워크로드의 머신 컴퓨팅 리소스를 동적으로 관리할 수 있습니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터를 배포합니다.
  • OpenShift CLI(oc)를 설치합니다.
  • cluster-admin 권한이 있는 사용자로 oc에 로그인합니다.

프로세스

  1. 컴퓨팅 머신 세트 CR(사용자 정의 리소스) 샘플이 포함된 새 YAML 파일을 만들고 <file_name>.yaml이라는 이름을 지정합니다.

    <clusterID> 및 <role> 매개 변수 값을 설정해야 합니다.

  2. 선택 사항: 특정 필드에 설정할 값이 확실하지 않은 경우 클러스터에서 기존 컴퓨팅 머신 세트를 확인할 수 있습니다.

    1. 클러스터의 컴퓨팅 머신 세트를 나열하려면 다음 명령을 실행합니다. 

      $ oc get machinesets -n openshift-machine-api
      Copy to Clipboard Toggle word wrap

      출력 예

      NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
      Copy to Clipboard Toggle word wrap

    2. 특정 컴퓨팅 머신 세트 CR(사용자 정의 리소스)의 값을 보려면 다음 명령을 실행합니다. 

      $ oc get machineset <machineset_name> \
  -n openshift-machine-api -o yaml
      Copy to Clipboard Toggle word wrap

      출력 예

      apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      1 
      
  name: <infrastructure_id>-<role>
      2 
      
  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
    spec:
      providerSpec:
      3 
      
        ...
      Copy to Clipboard Toggle word wrap

      1
      클러스터 인프라 ID입니다.
      2
      기본 노드 레이블입니다.
      참고

      사용자 프로비저닝 인프라가 있는 클러스터의 경우 컴퓨팅 머신 세트는 worker 및 infra 유형 머신만 생성할 수 있습니다.

      3
      컴퓨팅 머신 세트 CR의 <providerSpec> 섹션에 있는 값은 플랫폼에 따라 다릅니다. CR의 <providerSpec> 매개변수에 대한 자세한 내용은 공급자의 샘플 컴퓨팅 머신 세트 CR 구성을 참조하십시오.

  3. 다음 명령을 실행하여 MachineSet CR을 생성합니다. 

    $ oc create -f <file_name>.yaml
    Copy to Clipboard Toggle word wrap

검증

  • 다음 명령을 실행하여 컴퓨팅 머신 세트 목록을 확인합니다. 

    $ oc get machineset -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-infra-us-east-1a    1         1         1       1           11m
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
    Copy to Clipboard Toggle word wrap

    새 컴퓨팅 머신 세트를 사용할 수 있으면 DESIRED 및 CURRENT 값이 일치합니다. 컴퓨팅 머신 세트를 사용할 수 없는 경우 몇 분 기다렸다가 명령을 다시 실행합니다.

2.6.3. 클러스터 자동 스케일러의 GPU 머신 세트 레이블 지정
링크 복사

클러스터 자동 확장기가 GPU 지원 노드를 배포하는 데 사용할 수 있는 머신을 나타내기 위해 머신 세트 레이블을 사용할 수 있습니다.

사전 요구 사항

  • 귀하의 클러스터는 클러스터 자동 확장기를 사용합니다.

프로세스

  • GPU 지원 노드를 배포하는 데 사용할 클러스터 자동 확장기에 대한 머신을 생성하려는 머신 세트에서 cluster-api/accelerator 레이블을 추가합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  name: machine-set-name
spec:
  template:
    spec:
      metadata:
        labels:
          cluster-api/accelerator: nvidia-t4
    1
    Copy to Clipboard Toggle word wrap
    1
    영숫자 문자( - , _ , 또는 .) 로 구성되고 영숫자 문자로 시작하고 끝나는 원하는 레이블을 지정하세요. 예를 들어, Nvidia T4 GPU를 나타내려면 nvidia-t4를 사용하고, A10G GPU를 나타내려면 nvidia-a10g를 사용할 수 있습니다.
    참고

    ClusterAutoscaler CR의 spec.resourceLimits.gpus.type 매개변수에 대해 이 레이블의 값을 지정해야 합니다. 자세한 내용은 "클러스터 자동 확장 리소스 정의"를 참조하세요.

2.7. Nutanix에서 컴퓨팅 머신 세트 생성
링크 복사

Nutanix의 OpenShift Container Platform 클러스터에서 특정 목적에 맞는 다른 컴퓨팅 머신 세트를 만들 수 있습니다. 예를 들어, 지원되는 워크로드를 새 머신으로 이동할 수 있도록 인프라 머신 세트 및 관련 머신을 작성할 수 있습니다.

중요

머신 API가 작동하는 클러스터에서만 고급 머신 관리 및 스케일링 기능을 사용할 수 있습니다. 사용자 제공 인프라가 있는 클러스터는 Machine API를 사용하기 위해 추가적인 검증 및 구성이 필요합니다.

인프라 플랫폼 유형이 none인 클러스터는 Machine API를 사용할 수 없습니다. 이러한 제한은 클러스터에 연결된 컴퓨팅 머신이 해당 기능을 지원하는 플랫폼에 설치된 경우에도 적용됩니다. 설치 후에는 이 매개변수를 변경할 수 없습니다.

클러스터의 플랫폼 유형을 보려면 다음 명령을 실행하세요. 

$ oc get infrastructure cluster -o jsonpath='{.status.platform}'
Copy to Clipboard Toggle word wrap

2.7.1. Nutanix의 컴퓨팅 머신 세트 사용자 정의 리소스에 대한 샘플 YAML
링크 복사

이 샘플 YAML은 node-role.kubernetes.io/<role>: "" 로 레이블이 지정된 노드를 생성하는 Nutanix 컴퓨팅 머신 세트를 정의합니다.

이 샘플에서 <infrastructure_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 <role>은 추가할 노드 레이블입니다.

2.7.1.1. OpenShift CLI를 사용하여 얻은 값
링크 복사

다음 예에서는 OpenShift CLI( oc )를 사용하여 클러스터의 일부 값을 얻을 수 있습니다.

인프라 ID

<infrastructure_id>문자열은 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID입니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 

$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap 
apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

    machine.openshift.io/cluster-api-machine-role: <role>
2 

    machine.openshift.io/cluster-api-machine-type: <role>
  name: <infrastructure_id>-<role>-<zone>
3 

  namespace: openshift-machine-api
  annotations:
4 

    machine.openshift.io/memoryMb: "16384"
    machine.openshift.io/vCPU: "4"
spec:
  replicas: 3
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>-<zone>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>-<zone>
    spec:
      metadata:
        labels:
          node-role.kubernetes.io/<role>: ""
      providerSpec:
        value:
          apiVersion: machine.openshift.io/v1
          bootType: ""
5 

          categories:
6 

          - key: <category_name>
            value: <category_value>
          cluster:
7 

            type: uuid
            uuid: <cluster_uuid>
          credentialsSecret:
            name: nutanix-credentials
          image:
            name: <infrastructure_id>-rhcos
8 

            type: name
          kind: NutanixMachineProviderConfig
          memorySize: 16Gi
9 

          project:
10 

            type: name
            name: <project_name>
          subnets:
11 

          - type: uuid
            uuid: <subnet_uuid>
          systemDiskSize: 120Gi
12 

          userDataSecret:
            name: <user_data_secret>
13 

          vcpuSockets: 4
14 

          vcpusPerSocket: 1
15
Copy to Clipboard Toggle word wrap
1
<infrastructure_id>의 경우 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID를 지정합니다.
2
추가할 노드 레이블을 지정합니다.
3
인프라 ID, 노드 레이블 및 영역을 지정합니다.
4
클러스터 자동 확장기에 대한 주석입니다.
5
컴퓨팅 시스템에서 사용하는 부팅 유형을 지정합니다. 부팅 유형에 대한 자세한 내용은 가상화 된 환경에서 UEFI, Secure Boot 및 TPM 이해를 참조하십시오. 유효한 값은 Legacy,SecureBoot 또는 UEFI 입니다. 기본값은 Legacy 입니다.
참고

OpenShift Container Platform 4.19에서는 레거시 부팅 유형을 사용해야 합니다.

6
컴퓨팅 머신에 적용할 Nutanix Prism 범주를 하나 이상 지정합니다. 이 스탠자에는 Prism Central에 존재하는 카테고리 키-값 쌍에 대한 key 및 value 매개변수가 필요합니다. 카테고리에 대한 자세한 내용은 카테고리 관리를 참조하세요.
7
Nutanix Prism Element 클러스터 구성을 지정합니다. 이 예에서 클러스터 유형은 uuid 이므로 uuid 스탠자가 있습니다.
8
사용할 이미지를 지정하세요. 클러스터의 기존 기본 컴퓨팅 머신 세트의 이미지를 사용합니다.
9
Gi의 클러스터에 대한 메모리 양을 지정합니다.
10
클러스터에 사용하는 Nutanix 프로젝트를 지정합니다. 이 예에서 프로젝트 유형은 name 이므로 name이라는 스탠자가 있습니다.
11
Prism Element 서브넷 개체에 대해 하나 이상의 UUID를 지정합니다. 지정된 서브넷 중 하나에 대한 CIDR IP 주소 접두사에는 OpenShift Container Platform 클러스터가 사용하는 가상 IP 주소가 포함되어야 합니다. 클러스터의 각 Prism Element 장애 도메인에 대해 최대 32개의 서브넷이 지원됩니다. 모든 서브넷 UUID 값은 고유해야 합니다.
12
시스템 디스크의 크기를 Gi 단위로 지정합니다.
13
openshift-machine-api 네임스페이스에 있는 사용자 데이터 YAML 파일에 비밀 이름을 지정합니다. 설치 프로그램이 기본 컴퓨팅 시스템 세트에 채우는 값을 사용합니다.
14
vCPU 소켓의 수를 지정합니다.
15
소켓당 vCPU 수를 지정합니다.

2.7.2. 컴퓨팅 머신 세트 생성
링크 복사

설치 프로그램에서 생성한 컴퓨팅 머신 세트 외에도 고유한 머신 세트를 생성하여 선택한 특정 워크로드의 머신 컴퓨팅 리소스를 동적으로 관리할 수 있습니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터를 배포합니다.
  • OpenShift CLI(oc)를 설치합니다.
  • cluster-admin 권한이 있는 사용자로 oc에 로그인합니다.

프로세스

  1. 컴퓨팅 머신 세트 CR(사용자 정의 리소스) 샘플이 포함된 새 YAML 파일을 만들고 <file_name>.yaml이라는 이름을 지정합니다.

    <clusterID> 및 <role> 매개 변수 값을 설정해야 합니다.

  2. 선택 사항: 특정 필드에 설정할 값이 확실하지 않은 경우 클러스터에서 기존 컴퓨팅 머신 세트를 확인할 수 있습니다.

    1. 클러스터의 컴퓨팅 머신 세트를 나열하려면 다음 명령을 실행합니다. 

      $ oc get machinesets -n openshift-machine-api
      Copy to Clipboard Toggle word wrap

      출력 예

      NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
      Copy to Clipboard Toggle word wrap

    2. 특정 컴퓨팅 머신 세트 CR(사용자 정의 리소스)의 값을 보려면 다음 명령을 실행합니다. 

      $ oc get machineset <machineset_name> \
  -n openshift-machine-api -o yaml
      Copy to Clipboard Toggle word wrap

      출력 예

      apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      1 
      
  name: <infrastructure_id>-<role>
      2 
      
  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
    spec:
      providerSpec:
      3 
      
        ...
      Copy to Clipboard Toggle word wrap

      1
      클러스터 인프라 ID입니다.
      2
      기본 노드 레이블입니다.
      참고

      사용자 프로비저닝 인프라가 있는 클러스터의 경우 컴퓨팅 머신 세트는 worker 및 infra 유형 머신만 생성할 수 있습니다.

      3
      컴퓨팅 머신 세트 CR의 <providerSpec> 섹션에 있는 값은 플랫폼에 따라 다릅니다. CR의 <providerSpec> 매개변수에 대한 자세한 내용은 공급자의 샘플 컴퓨팅 머신 세트 CR 구성을 참조하십시오.

  3. 다음 명령을 실행하여 MachineSet CR을 생성합니다. 

    $ oc create -f <file_name>.yaml
    Copy to Clipboard Toggle word wrap

검증

  • 다음 명령을 실행하여 컴퓨팅 머신 세트 목록을 확인합니다. 

    $ oc get machineset -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-infra-us-east-1a    1         1         1       1           11m
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
    Copy to Clipboard Toggle word wrap

    새 컴퓨팅 머신 세트를 사용할 수 있으면 DESIRED 및 CURRENT 값이 일치합니다. 컴퓨팅 머신 세트를 사용할 수 없는 경우 몇 분 기다렸다가 명령을 다시 실행합니다.

2.7.3. 클러스터 자동 스케일러의 GPU 머신 세트 레이블 지정
링크 복사

클러스터 자동 확장기가 GPU 지원 노드를 배포하는 데 사용할 수 있는 머신을 나타내기 위해 머신 세트 레이블을 사용할 수 있습니다.

사전 요구 사항

  • 귀하의 클러스터는 클러스터 자동 확장기를 사용합니다.

프로세스

  • GPU 지원 노드를 배포하는 데 사용할 클러스터 자동 확장기에 대한 머신을 생성하려는 머신 세트에서 cluster-api/accelerator 레이블을 추가합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  name: machine-set-name
spec:
  template:
    spec:
      metadata:
        labels:
          cluster-api/accelerator: nvidia-t4
    1
    Copy to Clipboard Toggle word wrap
    1
    영숫자 문자( - , _ , 또는 .) 로 구성되고 영숫자 문자로 시작하고 끝나는 원하는 레이블을 지정하세요. 예를 들어, Nvidia T4 GPU를 나타내려면 nvidia-t4를 사용하고, A10G GPU를 나타내려면 nvidia-a10g를 사용할 수 있습니다.
    참고

    ClusterAutoscaler CR의 spec.resourceLimits.gpus.type 매개변수에 대해 이 레이블의 값을 지정해야 합니다. 자세한 내용은 "클러스터 자동 확장 리소스 정의"를 참조하세요.

2.7.4. Nutanix 클러스터의 실패 도메인
링크 복사

Nutanix 클러스터에서 장애 도메인 구성을 추가하거나 업데이트하려면 여러 리소스에 대해 조정된 변경을 수행해야 합니다. 다음 작업이 필요합니다.

  1. 클러스터 인프라 사용자 정의 리소스(CR)를 수정합니다.
  2. 클러스터 컨트롤 플레인 머신 세트 CR을 수정합니다.
  3. 컴퓨팅 머신 세트 CR을 수정하거나 교체합니다.

자세한 내용은 설치 후 구성 콘텐츠의 "기존 Nutanix 클러스터에 장애 도메인 추가"를 참조하세요.

2.8. OpenStack에서 컴퓨팅 머신 세트 생성
링크 복사

Red Hat OpenStack Platform(RHOSP)의 OpenShift Container Platform 클러스터에서 특정 목적에 맞는 다른 컴퓨팅 머신 세트를 만들 수 있습니다. 예를 들어, 지원되는 워크로드를 새 머신으로 이동할 수 있도록 인프라 머신 세트 및 관련 머신을 작성할 수 있습니다.

중요

머신 API가 작동하는 클러스터에서만 고급 머신 관리 및 스케일링 기능을 사용할 수 있습니다. 사용자 제공 인프라가 있는 클러스터는 Machine API를 사용하기 위해 추가적인 검증 및 구성이 필요합니다.

인프라 플랫폼 유형이 none인 클러스터는 Machine API를 사용할 수 없습니다. 이러한 제한은 클러스터에 연결된 컴퓨팅 머신이 해당 기능을 지원하는 플랫폼에 설치된 경우에도 적용됩니다. 설치 후에는 이 매개변수를 변경할 수 없습니다.

클러스터의 플랫폼 유형을 보려면 다음 명령을 실행하세요. 

$ oc get infrastructure cluster -o jsonpath='{.status.platform}'
Copy to Clipboard Toggle word wrap

2.8.1. RHOSP의 컴퓨팅 머신 세트 사용자 정의 리소스에 대한 샘플 YAML
링크 복사

이 샘플 YAML은 Red Hat OpenStack Platform(RHOSP)에서 실행되는 컴퓨팅 머신 세트를 정의하고 node-role.kubernetes.io/<role>: "" 로 레이블이 지정된 노드를 생성합니다.

이 샘플에서 <infrastructure_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 <role>은 추가할 노드 레이블입니다. 

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

    machine.openshift.io/cluster-api-machine-role: <role>
2 

    machine.openshift.io/cluster-api-machine-type: <role>
3 

  name: <infrastructure_id>-<role>
4 

  namespace: openshift-machine-api
spec:
  replicas: <number_of_replicas>
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
5 

      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
6 

  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
7 

        machine.openshift.io/cluster-api-machine-role: <role>
8 

        machine.openshift.io/cluster-api-machine-type: <role>
9 

        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
10 

    spec:
      providerSpec:
        value:
          apiVersion: machine.openshift.io/v1alpha1
          cloudName: openstack
          cloudsSecret:
            name: openstack-cloud-credentials
            namespace: openshift-machine-api
          flavor: <nova_flavor>
          image: <glance_image_name_or_location>
          serverGroupID: <optional_UUID_of_server_group>
11 

          kind: OpenstackProviderSpec
          networks:
12 

          - filter: {}
            subnets:
            - filter:
                name: <subnet_name>
                tags: openshiftClusterID=<infrastructure_id>
13 

          primarySubnet: <rhosp_subnet_UUID>
14 

          securityGroups:
          - filter: {}
            name: <infrastructure_id>-worker
15 

          serverMetadata:
            Name: <infrastructure_id>-worker
16 

            openshiftClusterID: <infrastructure_id>
17 

          tags:
          - openshiftClusterID=<infrastructure_id>
18 

          trunk: true
          userDataSecret:
            name: worker-user-data
19 

          availabilityZone: <optional_openstack_availability_zone>
Copy to Clipboard Toggle word wrap
1 5 7 13 15 16 17 18
클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로하는 인프라 ID를 지정합니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap
2 3 8 9 19
추가할 노드 레이블을 지정합니다.
4 6 10
인프라 ID 및 노드 레이블을 지정합니다.
11
MachineSet의 서버 그룹 정책을 설정하려면, 서버 그룹 생성에서 반환된 값을 입력합니다. 대부분의 배포에는 anti-affinity 또는 soft-anti-affinity 정책이 권장됩니다.
12
여러 네트워크에 배포해야 합니다. 여러 네트워크를 지정하려면 네트워크 배열에 다른 항목을 추가합니다. 또한 primarySubnet 값으로 사용되는 네트워크를 포함해야 합니다.
14
노드 엔드포인트를 게시할 RHOSP 서브넷을 지정합니다. 일반적으로 이 서브넷은 install-config.yaml 파일에서 machineSubnet 값으로 사용되는 서브넷과 동일합니다.

클러스터를 단일 루트 I/O 가상화(SR-IOV)로 구성한 경우 해당 기술을 사용하는 컴퓨팅 머신 세트를 만들 수 있습니다.

이 샘플 YAML은 SR-IOV 네트워크를 사용하는 컴퓨팅 머신 세트를 정의합니다. 생성된 노드에는 node-role.openshift.io/<node_role>: ""로 레이블이 지정됩니다.

이 샘플에서 infrastructure_id는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 node_role은 추가할 노드 레이블입니다.

이 샘플은 "radio" 및 "uplink"라는 두 개의 SR-IOV 네트워크를 가정합니다. 네트워크는 spec.template.spec.providerSpec.value.ports 목록의 포트 정의에 사용됩니다.

참고

SR-IOV 배포와 관련된 매개변수만 이 샘플에 설명되어 있습니다. 보다 일반적인 샘플을 검토하려면 "RHOSP의 컴퓨팅 머신 세트 사용자 정의 리소스에 대한 샘플 YAML"을 참조하세요.

SR-IOV 네트워크를 사용하는 컴퓨팅 머신 세트의 예

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
    machine.openshift.io/cluster-api-machine-role: <node_role>
    machine.openshift.io/cluster-api-machine-type: <node_role>
  name: <infrastructure_id>-<node_role>
  namespace: openshift-machine-api
spec:
  replicas: <number_of_replicas>
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<node_role>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <node_role>
        machine.openshift.io/cluster-api-machine-type: <node_role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<node_role>
    spec:
      metadata:
      providerSpec:
        value:
          apiVersion: machine.openshift.io/v1alpha1
          cloudName: openstack
          cloudsSecret:
            name: openstack-cloud-credentials
            namespace: openshift-machine-api
          flavor: <nova_flavor>
          image: <glance_image_name_or_location>
          serverGroupID: <optional_UUID_of_server_group>
          kind: OpenstackProviderSpec
          networks:
            - subnets:
              - UUID: <machines_subnet_UUID>
          ports:
            - networkID: <radio_network_UUID>
1 

              nameSuffix: radio
              fixedIPs:
                - subnetID: <radio_subnet_UUID>
2 

              tags:
                - sriov
                - radio
              vnicType: direct
3 

              portSecurity: false
4 

            - networkID: <uplink_network_UUID>
5 

              nameSuffix: uplink
              fixedIPs:
                - subnetID: <uplink_subnet_UUID>
6 

              tags:
                - sriov
                - uplink
              vnicType: direct
7 

              portSecurity: false
8 

          primarySubnet: <machines_subnet_UUID>
          securityGroups:
          - filter: {}
            name: <infrastructure_id>-<node_role>
          serverMetadata:
            Name: <infrastructure_id>-<node_role>
            openshiftClusterID: <infrastructure_id>
          tags:
          - openshiftClusterID=<infrastructure_id>
          trunk: true
          userDataSecret:
            name: <node_role>-user-data
          availabilityZone: <optional_openstack_availability_zone>
          configDrive: true
9
Copy to Clipboard Toggle word wrap

1 5
각 포트의 네트워크 UUID를 입력합니다.
2 6
각 포트의 서브넷 UUID를 입력합니다.
3 7
vnicType 매개 변수의 값은 각 포트에 대해 direct이어야 합니다.
4 8
portSecurity 매개변수 값은 각 포트에 대해 false 여야 합니다.

포트 보안이 비활성화되면 포트에 대해 보안 그룹 및 허용되는 주소 쌍을 설정할 수 없습니다. 인스턴스에서 보안 그룹을 설정하면 그룹이 연결된 모든 포트에 적용됩니다.

9
configDrive 매개변수 값은 true 여야 합니다.
중요

SR-IOV가 가능한 컴퓨팅 머신을 배포한 후에는 해당 머신에 대한 레이블을 지정해야 합니다. 예를 들어, 명령줄에서 다음을 입력합니다. 

$ oc label node <NODE_NAME> feature.node.kubernetes.io/network-sriov.capable="true"
Copy to Clipboard Toggle word wrap
참고

네트워크 및 서브넷 목록의 항목을 통해 생성된 포트에 대해 트렁킹이 활성화됩니다. 이러한 목록에서 생성된 포트의 이름은 <machine_name>-<nameSuffix> 패턴을 따릅니다. nameSuffix 필드는 포트 정의에 필요합니다.

각 포트에 대해 트렁킹을 활성화할 수 있습니다.

선택적으로 태그 목록의 일부로 포트에 tags를 추가할 수 있습니다.

2.8.3. 포트 보안이 비활성화된 SR-IOV 배포를 위한 샘플 YAML
링크 복사

포트 보안이 비활성화된 네트워크에서 단일 루트 I/O 가상화(SR-IOV) 포트를 생성하려면 spec.template.spec.providerSpec.value.ports 목록의 항목으로 포트를 포함하는 컴퓨팅 머신 세트를 정의합니다. 표준 SR-IOV 컴퓨팅 머신 세트와의 이러한 차이점은 네트워크 및 서브넷 인터페이스를 사용하여 생성된 포트에 대해 발생하는 자동 보안 그룹 및 허용 주소 쌍 구성으로 인해 발생합니다.

머신 서브넷에 대해 정의한 포트에는 다음이 필요합니다.

  • API 및 ingress 가상 IP 포트에 허용되는 주소 쌍
  • 컴퓨팅 보안 그룹
  • 머신 네트워크 및 서브넷에 연결
참고

포트 보안이 비활성화된 SR-IOV 배포와 관련된 매개변수만 이 샘플에 설명되어 있습니다. 보다 일반적인 샘플을 검토하려면 RHOSP에서 SR-IOV를 사용하는 컴퓨팅 머신 세트 사용자 지정 리소스에 대한 샘플 YAML을 참조하세요.

SR-IOV 네트워크를 사용하고 포트 보안이 비활성화된 예제 컴퓨팅 머신 세트

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
    machine.openshift.io/cluster-api-machine-role: <node_role>
    machine.openshift.io/cluster-api-machine-type: <node_role>
  name: <infrastructure_id>-<node_role>
  namespace: openshift-machine-api
spec:
  replicas: <number_of_replicas>
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<node_role>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <node_role>
        machine.openshift.io/cluster-api-machine-type: <node_role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<node_role>
    spec:
      metadata: {}
      providerSpec:
        value:
          apiVersion: machine.openshift.io/v1alpha1
          cloudName: openstack
          cloudsSecret:
            name: openstack-cloud-credentials
            namespace: openshift-machine-api
          flavor: <nova_flavor>
          image: <glance_image_name_or_location>
          kind: OpenstackProviderSpec
          ports:
            - allowedAddressPairs:
1 

              - ipAddress: <API_VIP_port_IP>
              - ipAddress: <ingress_VIP_port_IP>
              fixedIPs:
                - subnetID: <machines_subnet_UUID>
2 

              nameSuffix: nodes
              networkID: <machines_network_UUID>
3 

              securityGroups:
                  - <compute_security_group_UUID>
4 

            - networkID: <SRIOV_network_UUID>
              nameSuffix: sriov
              fixedIPs:
                - subnetID: <SRIOV_subnet_UUID>
              tags:
                - sriov
              vnicType: direct
              portSecurity: False
          primarySubnet: <machines_subnet_UUID>
          serverMetadata:
            Name: <infrastructure_ID>-<node_role>
            openshiftClusterID: <infrastructure_id>
          tags:
          - openshiftClusterID=<infrastructure_id>
          trunk: false
          userDataSecret:
            name: worker-user-data
          configDrive: true
5
Copy to Clipboard Toggle word wrap

1
API 및 수신 포트에 허용되는 주소 쌍을 지정합니다.
2 3
시스템 네트워크 및 서브넷을 지정합니다.
4
컴퓨팅 시스템 보안 그룹을 지정합니다.
5
configDrive 매개변수 값은 true 여야 합니다.
참고

네트워크 및 서브넷 목록의 항목을 통해 생성된 포트에 대해 트렁킹이 활성화됩니다. 이러한 목록에서 생성된 포트의 이름은 <machine_name>-<nameSuffix> 패턴을 따릅니다. nameSuffix 필드는 포트 정의에 필요합니다.

각 포트에 대해 트렁킹을 활성화할 수 있습니다.

선택적으로 태그 목록의 일부로 포트에 tags를 추가할 수 있습니다.

2.8.4. 컴퓨팅 머신 세트 생성
링크 복사

설치 프로그램에서 생성한 컴퓨팅 머신 세트 외에도 고유한 머신 세트를 생성하여 선택한 특정 워크로드의 머신 컴퓨팅 리소스를 동적으로 관리할 수 있습니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터를 배포합니다.
  • OpenShift CLI(oc)를 설치합니다.
  • cluster-admin 권한이 있는 사용자로 oc에 로그인합니다.

프로세스

  1. 컴퓨팅 머신 세트 CR(사용자 정의 리소스) 샘플이 포함된 새 YAML 파일을 만들고 <file_name>.yaml이라는 이름을 지정합니다.

    <clusterID> 및 <role> 매개 변수 값을 설정해야 합니다.

  2. 선택 사항: 특정 필드에 설정할 값이 확실하지 않은 경우 클러스터에서 기존 컴퓨팅 머신 세트를 확인할 수 있습니다.

    1. 클러스터의 컴퓨팅 머신 세트를 나열하려면 다음 명령을 실행합니다. 

      $ oc get machinesets -n openshift-machine-api
      Copy to Clipboard Toggle word wrap

      출력 예

      NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
      Copy to Clipboard Toggle word wrap

    2. 특정 컴퓨팅 머신 세트 CR(사용자 정의 리소스)의 값을 보려면 다음 명령을 실행합니다. 

      $ oc get machineset <machineset_name> \
  -n openshift-machine-api -o yaml
      Copy to Clipboard Toggle word wrap

      출력 예

      apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      1 
      
  name: <infrastructure_id>-<role>
      2 
      
  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
    spec:
      providerSpec:
      3 
      
        ...
      Copy to Clipboard Toggle word wrap

      1
      클러스터 인프라 ID입니다.
      2
      기본 노드 레이블입니다.
      참고

      사용자 프로비저닝 인프라가 있는 클러스터의 경우 컴퓨팅 머신 세트는 worker 및 infra 유형 머신만 생성할 수 있습니다.

      3
      컴퓨팅 머신 세트 CR의 <providerSpec> 섹션에 있는 값은 플랫폼에 따라 다릅니다. CR의 <providerSpec> 매개변수에 대한 자세한 내용은 공급자의 샘플 컴퓨팅 머신 세트 CR 구성을 참조하십시오.

  3. 다음 명령을 실행하여 MachineSet CR을 생성합니다. 

    $ oc create -f <file_name>.yaml
    Copy to Clipboard Toggle word wrap

검증

  • 다음 명령을 실행하여 컴퓨팅 머신 세트 목록을 확인합니다. 

    $ oc get machineset -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-infra-us-east-1a    1         1         1       1           11m
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
    Copy to Clipboard Toggle word wrap

    새 컴퓨팅 머신 세트를 사용할 수 있으면 DESIRED 및 CURRENT 값이 일치합니다. 컴퓨팅 머신 세트를 사용할 수 없는 경우 몇 분 기다렸다가 명령을 다시 실행합니다.

2.8.5. 클러스터 자동 스케일러의 GPU 머신 세트 레이블 지정
링크 복사

클러스터 자동 확장기가 GPU 지원 노드를 배포하는 데 사용할 수 있는 머신을 나타내기 위해 머신 세트 레이블을 사용할 수 있습니다.

사전 요구 사항

  • 귀하의 클러스터는 클러스터 자동 확장기를 사용합니다.

프로세스

  • GPU 지원 노드를 배포하는 데 사용할 클러스터 자동 확장기에 대한 머신을 생성하려는 머신 세트에서 cluster-api/accelerator 레이블을 추가합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  name: machine-set-name
spec:
  template:
    spec:
      metadata:
        labels:
          cluster-api/accelerator: nvidia-t4
    1
    Copy to Clipboard Toggle word wrap
    1
    영숫자 문자( - , _ , 또는 .) 로 구성되고 영숫자 문자로 시작하고 끝나는 원하는 레이블을 지정하세요. 예를 들어, Nvidia T4 GPU를 나타내려면 nvidia-t4를 사용하고, A10G GPU를 나타내려면 nvidia-a10g를 사용할 수 있습니다.
    참고

    ClusterAutoscaler CR의 spec.resourceLimits.gpus.type 매개변수에 대해 이 레이블의 값을 지정해야 합니다. 자세한 내용은 "클러스터 자동 확장 리소스 정의"를 참조하세요.

2.9. vSphere에서 컴퓨팅 머신 세트 생성
링크 복사

VMware vSphere의 OpenShift Container Platform 클러스터에서 특정 목적에 맞는 다른 컴퓨팅 머신 세트를 만들 수 있습니다. 예를 들어, 지원되는 워크로드를 새 머신으로 이동할 수 있도록 인프라 머신 세트 및 관련 머신을 작성할 수 있습니다.

중요

머신 API가 작동하는 클러스터에서만 고급 머신 관리 및 스케일링 기능을 사용할 수 있습니다. 사용자 제공 인프라가 있는 클러스터는 Machine API를 사용하기 위해 추가적인 검증 및 구성이 필요합니다.

인프라 플랫폼 유형이 none인 클러스터는 Machine API를 사용할 수 없습니다. 이러한 제한은 클러스터에 연결된 컴퓨팅 머신이 해당 기능을 지원하는 플랫폼에 설치된 경우에도 적용됩니다. 설치 후에는 이 매개변수를 변경할 수 없습니다.

클러스터의 플랫폼 유형을 보려면 다음 명령을 실행하세요. 

$ oc get infrastructure cluster -o jsonpath='{.status.platform}'
Copy to Clipboard Toggle word wrap

2.9.1. vSphere의 컴퓨팅 머신 세트 사용자 정의 리소스에 대한 샘플 YAML
링크 복사

이 샘플 YAML은 VMware vSphere에서 실행되는 컴퓨팅 머신 세트를 정의하고 node-role.kubernetes.io/<role>: "" 로 레이블이 지정된 노드를 생성합니다.

이 샘플에서 <infrastructure_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 <role>은 추가할 노드 레이블입니다. 

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  creationTimestamp: null
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

  name: <infrastructure_id>-<role>
2 

  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
  template:
    metadata:
      creationTimestamp: null
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
3 

        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
    spec:
      metadata:
        creationTimestamp: null
        labels:
          node-role.kubernetes.io/<role>: ""
      providerSpec:
        value:
          apiVersion: machine.openshift.io/v1beta1
          credentialsSecret:
            name: vsphere-cloud-credentials
          dataDisks:
4 

          - name: "<disk_name>"
            provisioningMode: "<mode>"
            sizeGiB: 20
          diskGiB: 120
          kind: VSphereMachineProviderSpec
          memoryMiB: 8192
          metadata:
            creationTimestamp: null
          network:
            devices:
            - networkName: "<vm_network_name>"
5 

          numCPUs: 4
          numCoresPerSocket: 1
          snapshot: ""
          template: <vm_template_name>
6 

          userDataSecret:
            name: worker-user-data
          workspace:
            datacenter: <vcenter_data_center_name>
7 

            datastore: <vcenter_datastore_name>
8 

            folder: <vcenter_vm_folder_path>
9 

            resourcepool: <vsphere_resource_pool>
10 

            server: <vcenter_server_ip>
11
Copy to Clipboard Toggle word wrap
1
클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로하는 인프라 ID를 지정합니다. OpenShift CLI (oc) 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap
2
인프라 ID 및 노드 레이블을 지정합니다.
3
추가할 노드 레이블을 지정합니다.
4
하나 이상의 데이터 디스크 정의를 지정합니다. 자세한 내용은 "머신 세트를 사용하여 데이터 디스크 구성"을 참조하십시오.
5
컴퓨팅 머신 세트를 배포할 vSphere VM 네트워크를 지정합니다. 이 VM 네트워크는 클러스터에 다른 Linux 컴퓨팅 시스템이 상주하는 위치여야 합니다.
6
사용할 vSphere VM 템플릿 (예: user-5ddjd-rhcos)을 지정합니다.
7
컴퓨팅 머신 세트를 배포할 vCenter Datacenter를 지정합니다.
8
컴퓨팅 머신 세트를 배포할 vCenter 데이터 저장소를 지정합니다.
9
vCenter의 vSphere VM 폴더에 경로(예: /dc1/vm/user-inst-5ddjd)를 지정합니다.
10
VM의 vSphere 리소스 풀을 지정합니다.
11
vCenter 서버 IP 또는 정규화된 도메인 이름을 지정합니다.

2.9.2. 컴퓨팅 머신 세트 관리에 필요한 최소 vCenter 권한
링크 복사

vCenter의 OpenShift Container Platform 클러스터에서 컴퓨팅 머신 세트를 관리하려면 필요한 리소스를 읽고, 생성하고, 삭제하려면 권한이 있는 계정을 사용해야 합니다. 필요한 모든 권한에 액세스할 수 있는 가장 간단한 방법은 글로벌 관리 권한이 있는 계정을 사용하는 것입니다.

글로벌 관리 권한이 있는 계정을 사용할 수 없는 경우 필요한 최소 권한을 부여하려면 역할을 생성해야 합니다. 다음 표에는 컴퓨팅 머신 세트를 생성, 확장 및 삭제하고 OpenShift Container Platform 클러스터에서 머신을 삭제하는 데 필요한 최소 vCenter 역할 및 권한이 나열되어 있습니다.

예 2.1. 컴퓨팅 머신 세트 관리에 필요한 최소 vCenter 역할 및 권한

Expand
역할의 vSphere 개체필요한 경우필요한 권한

vSphere vCenter

Always

InventoryService.Tagging.AttachTag
InventoryService.Tagging.CreateCategory
InventoryService.Tagging.CreateTag
InventoryService.Tagging.DeleteCategory
InventoryService.Tagging.DeleteTag
InventoryService.Tagging.EditCategory
InventoryService.Tagging.EditTag
InventoryService.Tagging.EditTag
Sessions.ValidateSession
StorageProfile.Update1

vSphere vCenter Cluster

Always

Resource.AssignVMToPool

vSphere 데이터 저장소

Always

Datastore.AllocateSpace
Datastore.Browse

vSphere Port Group

Always

Network.Assign

가상 머신 폴더

Always

VirtualMachine.Config.AddRemoveDevice
VirtualMachine.Config.AdvancedConfig
VirtualMachine.Config.CPUCount
VirtualMachine.Config.DiskExtend
VirtualMachine.Config.Memory
VirtualMachine.Config.Memory
VirtualMachine.Config.Settings
VirtualMachine.PowerOff
VirtualMachine.PowerOff
VirtualMachine.PowerOn Cryostat.CreateFromExisting Cryostat VirtualMachine.Cryostat VirtualMachine.ECDHE VirtualMachine.Provision VirtualMachine.Config.DiskExtend
VirtualMachine.Config.MemoryExtend
VirtualMachine.Cryostat

vSphere vCenter 데이터 센터

설치 프로그램이 가상 머신 폴더를 생성하는 경우.

Resource.AssignVMToPool
VirtualMachine.Provisioning.DeployTemplate

1 StorageProfile.Update 및 StorageProfile.View 권한은 CSI(Container Storage Interface)를 사용하는 스토리지 백엔드에만 필요합니다.

다음 표에서는 컴퓨팅 머신 세트 관리에 필요한 권한과 전파 설정을 자세히 설명합니다.

예 2.2. 필수 권한 및 권한 부여 설정

Expand
vSphere 오브젝트폴더 유형하위 항목으로 권한 부여권한 필요

vSphere vCenter

Always

필요하지 않음

나열된 필수 권한

vSphere vCenter 데이터 센터

기존 폴더

필요하지 않음

ReadOnly 권한

설치 프로그램은 폴더를 생성

필수 항목

나열된 필수 권한

vSphere vCenter Cluster

Always

필수 항목

나열된 필수 권한

vSphere vCenter 데이터 저장소

Always

필요하지 않음

나열된 필수 권한

vSphere Switch

Always

필요하지 않음

ReadOnly 권한

vSphere Port Group

Always

필요하지 않음

나열된 필수 권한

vSphere vCenter Virtual Machine Folder

기존 폴더

필수 항목

나열된 필수 권한

필요한 권한만으로 계정을 생성하는 방법에 대한 자세한 내용은 vSphere 문서에서 vSphere 권한 및 사용자 관리 작업을 참조하십시오.

사용자 제공 인프라가 있는 클러스터에서 컴퓨팅 머신 세트를 사용하려면 클러스터 구성에서 Machine API를 지원하는지 확인해야 합니다.

2.9.3.1. 인프라 ID 얻기
링크 복사

컴퓨팅 머신 세트를 생성하려면 클러스터의 인프라 ID를 제공할 수 있어야 합니다.

프로세스

  • 클러스터의 인프라 ID를 얻으려면 다음 명령을 실행하세요. 

    $ oc get infrastructure cluster -o jsonpath='{.status.infrastructureName}'
    Copy to Clipboard Toggle word wrap
2.9.3.2. vSphere 자격 증명 요구 사항 충족
링크 복사

컴퓨팅 머신 세트를 사용하려면 Machine API가 vCenter와 상호 작용할 수 있어야 합니다. vCenter와 상호 작용하도록 Machine API 구성 요소를 승인하는 자격 증명은 openshift-machine-api 네임스페이스의 비밀에 있어야 합니다.

프로세스

  1. 필요한 자격 증명이 있는지 확인하려면 다음 명령을 실행하세요. 

    $ oc get secret \
  -n openshift-machine-api vsphere-cloud-credentials \
  -o go-template='{{range $k,$v := .data}}{{printf "%s: " $k}}{{if not $v}}{{$v}}{{else}}{{$v | base64decode}}{{end}}{{"\n"}}{{end}}'
    Copy to Clipboard Toggle word wrap

    샘플 출력

    <vcenter-server>.password=<openshift-user-password>
<vcenter-server>.username=<openshift-user>
    Copy to Clipboard Toggle word wrap

    여기서 <vcenter-server> 는 vCenter Server의 IP 주소 또는 정규화된 도메인 이름(FQDN)이고 <openshift-user> 와 <openshift-user-password> 는 사용할 OpenShift Container Platform 관리자 자격 증명입니다.

  2. 비밀이 존재하지 않으면 다음 명령을 실행하여 비밀을 만듭니다. 

    $ oc create secret generic vsphere-cloud-credentials \
  -n openshift-machine-api \
  --from-literal=<vcenter-server>.username=<openshift-user> --from-literal=<vcenter-server>.password=<openshift-user-password>
    Copy to Clipboard Toggle word wrap
2.9.3.3. Ignition 구성 요구 사항 충족
링크 복사

가상 머신(VM)을 프로비저닝하려면 유효한 Ignition 구성이 필요합니다. Ignition 구성에는 machine-config-server 주소와 Machine Config Operator로부터 추가 Ignition 구성을 얻기 위한 시스템 신뢰 번들이 포함되어 있습니다.

기본적으로 이 구성은 machine-api-operator 네임스페이스의 worker-user-data 비밀에 저장됩니다. 컴퓨팅 머신 세트는 머신 생성 프로세스 중에 비밀을 참조합니다.

프로세스

  1. 필요한 비밀번호가 있는지 확인하려면 다음 명령을 실행하세요. 

    $ oc get secret \
  -n openshift-machine-api worker-user-data \
  -o go-template='{{range $k,$v := .data}}{{printf "%s: " $k}}{{if not $v}}{{$v}}{{else}}{{$v | base64decode}}{{end}}{{"\n"}}{{end}}'
    Copy to Clipboard Toggle word wrap

    샘플 출력

    disableTemplating: false
userData:
    1 
    
  {
    "ignition": {
      ...
      },
    ...
  }
    Copy to Clipboard Toggle word wrap

    1
    여기서는 전체 출력을 생략했지만, 다음 형식을 따라야 합니다.

  2. 비밀이 존재하지 않으면 다음 명령을 실행하여 비밀을 만듭니다. 

    $ oc create secret generic worker-user-data \
  -n openshift-machine-api \
  --from-file=<installation_directory>/worker.ign
    Copy to Clipboard Toggle word wrap

    여기서 <installation_directory> 는 클러스터 설치 중에 설치 자산을 저장하는 데 사용된 디렉토리입니다.

2.9.4. 컴퓨팅 머신 세트 생성
링크 복사

설치 프로그램에서 생성한 컴퓨팅 머신 세트 외에도 고유한 머신 세트를 생성하여 선택한 특정 워크로드의 머신 컴퓨팅 리소스를 동적으로 관리할 수 있습니다.

참고

사용자가 제공한 인프라를 사용하여 설치된 클러스터는 설치 프로그램에서 제공한 인프라를 사용하는 클러스터와 네트워킹 스택이 다릅니다. 이러한 차이로 인해 사용자 제공 인프라가 있는 클러스터에서는 자동 로드 밸런서 관리가 지원되지 않습니다. 이러한 클러스터의 경우, 컴퓨팅 머신 세트는 작업자 및 인프라 유형 머신만 생성할 수 있습니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터를 배포합니다.
  • OpenShift CLI(oc)를 설치합니다.
  • cluster-admin 권한이 있는 사용자로 oc에 로그인합니다.
  • vCenter 인스턴스에 가상 머신을 배포하는데 필요한 권한이 있고 지정된 데이터 저장소에 필요한 액세스 권한이 있습니다.
  • 클러스터가 사용자 제공 인프라를 사용하는 경우 해당 구성에 대한 특정 Machine API 요구 사항을 충족한 것입니다.

프로세스

  1. 컴퓨팅 머신 세트 CR(사용자 정의 리소스) 샘플이 포함된 새 YAML 파일을 만들고 <file_name>.yaml이라는 이름을 지정합니다.

    <clusterID> 및 <role> 매개 변수 값을 설정해야 합니다.

  2. 선택 사항: 특정 필드에 설정할 값이 확실하지 않은 경우 클러스터에서 기존 컴퓨팅 머신 세트를 확인할 수 있습니다.

    1. 클러스터의 컴퓨팅 머신 세트를 나열하려면 다음 명령을 실행합니다. 

      $ oc get machinesets -n openshift-machine-api
      Copy to Clipboard Toggle word wrap

      출력 예

      NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
      Copy to Clipboard Toggle word wrap

    2. 특정 컴퓨팅 머신 세트 CR(사용자 정의 리소스)의 값을 보려면 다음 명령을 실행합니다. 

      $ oc get machineset <machineset_name> \
  -n openshift-machine-api -o yaml
      Copy to Clipboard Toggle word wrap

      출력 예

      apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      1 
      
  name: <infrastructure_id>-<role>
      2 
      
  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
    spec:
      providerSpec:
      3 
      
        ...
      Copy to Clipboard Toggle word wrap

      1
      클러스터 인프라 ID입니다.
      2
      기본 노드 레이블입니다.
      참고

      사용자 프로비저닝 인프라가 있는 클러스터의 경우 컴퓨팅 머신 세트는 worker 및 infra 유형 머신만 생성할 수 있습니다.

      3
      컴퓨팅 머신 세트 CR의 <providerSpec> 섹션에 있는 값은 플랫폼에 따라 다릅니다. CR의 <providerSpec> 매개변수에 대한 자세한 내용은 공급자의 샘플 컴퓨팅 머신 세트 CR 구성을 참조하십시오.

    3. 사용자 프로비저닝 인프라가 있는 클러스터에 대한 컴퓨팅 머신 세트를 생성하는 경우 다음과 같은 중요한 값에 유의하세요.

      vSphere providerSpec 값 예시

      apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
...
template:
  ...
  spec:
    providerSpec:
      value:
        apiVersion: machine.openshift.io/v1beta1
        credentialsSecret:
          name: vsphere-cloud-credentials
      1 
      
        dataDisks:
      2 
      
        - name: <disk_name>
          provisioningMode: <mode>
          sizeGiB: 10
        diskGiB: 120
        kind: VSphereMachineProviderSpec
        memoryMiB: 16384
        network:
          devices:
            - networkName: "<vm_network_name>"
        numCPUs: 4
        numCoresPerSocket: 4
        snapshot: ""
        template: <vm_template_name>
      3 
      
        userDataSecret:
          name: worker-user-data
      4 
      
        workspace:
          datacenter: <vcenter_data_center_name>
          datastore: <vcenter_datastore_name>
          folder: <vcenter_vm_folder_path>
          resourcepool: <vsphere_resource_pool>
          server: <vcenter_server_address>
      5
      Copy to Clipboard Toggle word wrap

      1
      필수 vCenter 자격 증명이 포함된 openshift-machine-api 네임스페이스의 비밀 이름입니다.
      2
      데이터 디스크 정의의 컬렉션입니다. 자세한 내용은 "머신 세트를 사용하여 데이터 디스크 구성"을 참조하세요.
      3
      설치 중에 생성된 클러스터의 RHCOS VM 템플릿 이름입니다.
      4
      필수 Ignition 구성 자격 증명이 포함된 openshift-machine-api 네임스페이스의 비밀 이름입니다.
      5
      vCenter 서버의 IP 주소 또는 정규화된 도메인 이름(FQDN)입니다.

  3. 다음 명령을 실행하여 MachineSet CR을 생성합니다. 

    $ oc create -f <file_name>.yaml
    Copy to Clipboard Toggle word wrap

검증

  • 다음 명령을 실행하여 컴퓨팅 머신 세트 목록을 확인합니다. 

    $ oc get machineset -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-infra-us-east-1a    1         1         1       1           11m
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
    Copy to Clipboard Toggle word wrap

    새 컴퓨팅 머신 세트를 사용할 수 있으면 DESIRED 및 CURRENT 값이 일치합니다. 컴퓨팅 머신 세트를 사용할 수 없는 경우 몇 분 기다렸다가 명령을 다시 실행합니다.

2.9.5. 클러스터 자동 스케일러의 GPU 머신 세트 레이블 지정
링크 복사

클러스터 자동 확장기가 GPU 지원 노드를 배포하는 데 사용할 수 있는 머신을 나타내기 위해 머신 세트 레이블을 사용할 수 있습니다.

사전 요구 사항

  • 귀하의 클러스터는 클러스터 자동 확장기를 사용합니다.

프로세스

  • GPU 지원 노드를 배포하는 데 사용할 클러스터 자동 확장기에 대한 머신을 생성하려는 머신 세트에서 cluster-api/accelerator 레이블을 추가합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  name: machine-set-name
spec:
  template:
    spec:
      metadata:
        labels:
          cluster-api/accelerator: nvidia-t4
    1
    Copy to Clipboard Toggle word wrap
    1
    영숫자 문자( - , _ , 또는 .) 로 구성되고 영숫자 문자로 시작하고 끝나는 원하는 레이블을 지정하세요. 예를 들어, Nvidia T4 GPU를 나타내려면 nvidia-t4를 사용하고, A10G GPU를 나타내려면 nvidia-a10g를 사용할 수 있습니다.
    참고

    ClusterAutoscaler CR의 spec.resourceLimits.gpus.type 매개변수에 대해 이 레이블의 값을 지정해야 합니다. 자세한 내용은 "클러스터 자동 확장 리소스 정의"를 참조하세요.

2.9.6. 머신 세트를 사용하여 머신에 태그 추가
링크 복사

OpenShift Container Platform은 생성하는 각 가상 머신(VM)에 클러스터별 태그를 추가합니다. 설치 프로그램은 이러한 태그를 사용하여 클러스터를 제거할 때 삭제할 VM을 선택합니다.

VM에 할당된 클러스터별 태그 외에도, 프로비저닝하는 VM에 최대 10개의 추가 vSphere 태그를 추가하도록 머신 세트를 구성할 수 있습니다.

사전 요구 사항

  • 클러스터 관리자 권한이 있는 계정을 사용하여 vSphere에 설치된 OpenShift Container Platform 클러스터에 액세스할 수 있습니다.
  • 클러스터와 연결된 VMware vCenter 콘솔에 액세스할 수 있습니다.
  • vCenter 콘솔에서 태그를 생성했습니다.
  • OpenShift CLI(oc)가 설치되어 있습니다.

프로세스

  1. vCenter 콘솔을 사용하여 머신에 추가하려는 태그의 태그 ID를 찾으세요.

    1. vCenter 콘솔에 로그인합니다.
    2. 홈 메뉴에서 태그 및 사용자 지정 속성을 클릭합니다.
    3. 기계에 추가할 태그를 선택하세요.

    4. 선택한 태그의 브라우저 URL을 사용하여 태그 ID를 식별합니다.

      태그 URL 예시

      https://vcenter.example.com/ui/app/tags/tag/urn:vmomi:InventoryServiceTag:208e713c-cae3-4b7f-918e-4051ca7d1f97:GLOBAL/permissions
      Copy to Clipboard Toggle word wrap

      태그 ID 예시

      urn:vmomi:InventoryServiceTag:208e713c-cae3-4b7f-918e-4051ca7d1f97:GLOBAL
      Copy to Clipboard Toggle word wrap

  2. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  3. providerSpec 필드 아래의 다음 줄을 편집하세요. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
# ...
spec:
  template:
    spec:
      providerSpec:
        value:
          tagIDs:
    1 
    
          - <tag_id_value>
    2 
    
# ...
    Copy to Clipboard Toggle word wrap
    1
    이 머신 세트가 제공하는 머신에 추가할 태그 목록을 최대 10개까지 지정합니다.
    2
    귀하의 기계에 추가하려는 태그의 값을 지정하세요. 예를 들어, urn:vmomi:InventoryServiceTag:208e713c-cae3-4b7f-918e-4051ca7d1f97:GLOBAL .

VMware vSphere의 OpenShift Container Platform 클러스터는 최대 10개의 네트워크 인터페이스 컨트롤러(NIC)를 노드에 연결하는 것을 지원합니다. 여러 개의 NIC를 구성하면 저장소나 데이터베이스 등의 용도로 노드 가상 머신(VM)에 전용 네트워크 링크를 제공할 수 있습니다.

머신 세트를 사용하여 이 구성을 관리할 수 있습니다.

  • 설치 중에 구성되지 않은 vSphere 클러스터에서 여러 NIC를 사용하려는 경우 머신 세트를 사용하여 이 구성을 구현할 수 있습니다.
  • 설치 중에 여러 NIC를 사용하도록 클러스터를 설정한 경우, 사용자가 만든 머신 세트는 기존 장애 도메인 구성을 사용할 수 있습니다.
  • 장애 도메인 구성이 변경되면 머신 세트를 사용하여 해당 변경 사항을 반영하는 업데이트를 만들 수 있습니다.
중요

여러 개의 NIC를 구성하는 것은 Technology Preview 기능에만 해당됩니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

사전 요구 사항

  • vSphere의 OpenShift Container Platform 클러스터에 대한 OpenShift CLI( oc )에 대한 관리자 액세스 권한이 있습니다.

프로세스

  1. 이미 여러 NIC를 사용하는 클러스터의 경우 다음 명령을 실행하여 인프라 리소스에서 다음 값을 가져옵니다. 

    $ oc get infrastructure cluster -o=jsonpath={.spec.platformSpec.vsphere.failureDomains}
    Copy to Clipboard Toggle word wrap
    Expand
    표 2.3. 필수 네트워크 인터페이스 컨트롤러 값
    Infrastructure 리소스 값샘플 머신 세트에 대한 플레이스홀더 값설명

    failureDomain.topology.networks[0]

    <vm_network_name_1>

    사용할 첫 번째 NIC의 이름입니다.

    failureDomain.topology.networks[1]

    <vm_network_name_2>

    사용할 두 번째 NIC의 이름입니다.

    failureDomain.topology.networks[<n-1>]

    <vm_network_name_n>

    사용할 n 번째 NIC의 이름입니다. Infrastructure 리소스에서 각 NIC의 이름을 수집합니다.

    failureDomain.topology.template

    <vm_template_name>

    사용할 vSphere VM 템플릿입니다.

    failureDomain.topology.datacenter

    <vcenter_data_center_name>

    머신 세트를 배포할 vCenter 데이터 센터입니다.

    failureDomain.topology.datastore

    <vcenter_datastore_name>

    머신 세트를 배포할 vCenter 데이터 저장소입니다.

    failureDomain.topology.folder

    <vcenter_vm_folder_path>

    vCenter의 vSphere VM 폴더 경로(예: /dc1/vm/user-inst-5ddjd ) .

    failureDomain.topology.computeCluster + /Resources

    <vsphere_resource_pool>

    VM의 vSphere 리소스 풀입니다.

    failureDomain.server

    <vcenter_server_ip>

    vCenter 서버 IP 또는 정규화된 도메인 이름(FQDN).

  2. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  3. 다음 예와 같은 형식의 머신 세트 구성을 사용하세요.

    • 현재 여러 NIC를 사용하는 클러스터의 경우 Infrastructure 리소스의 값을 사용하여 머신 세트 사용자 정의 리소스의 값을 채웁니다.
    • 여러 NIC를 사용하지 않는 클러스터의 경우, 머신 세트 사용자 정의 리소스에 사용할 값을 채웁니다.

    샘플 머신 세트

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
# ...
spec:
  template:
    spec:
      providerSpec:
        value:
          network:
            devices:
    1 
    
            - networkName: "<vm_network_name_1>"
            - networkName: "<vm_network_name_2>"
          template: <vm_template_name>
    2 
    
          workspace:
            datacenter: <vcenter_data_center_name>
    3 
    
            datastore: <vcenter_datastore_name>
    4 
    
            folder: <vcenter_vm_folder_path>
    5 
    
            resourcepool: <vsphere_resource_pool>
    6 
    
            server: <vcenter_server_ip>
    7 
    
# ...
    Copy to Clipboard Toggle word wrap

    1
    최대 10개의 NIC를 사용할 목록을 지정합니다.
    2
    사용할 vSphere VM 템플릿 (예: user-5ddjd-rhcos)을 지정합니다.
    3
    머신 세트를 배포할 vCenter 데이터 센터를 지정합니다.
    4
    배포할 머신 세트의 vCenter 데이터 저장소를 지정합니다.
    5
    vCenter의 vSphere VM 폴더에 경로(예: /dc1/vm/user-inst-5ddjd)를 지정합니다.
    6
    VM의 vSphere 리소스 풀을 지정합니다.
    7
    vCenter 서버 IP 또는 정규화된 도메인 이름(FQDN)을 지정합니다.

2.9.8. 머신 세트를 사용하여 데이터 디스크 구성
링크 복사

VMware vSphere의 OpenShift Container Platform 클러스터는 가상 머신(VM) 컨트롤러에 최대 29개의 디스크를 추가하는 것을 지원합니다.

중요

vSphere 데이터 디스크 구성은 기술 미리 보기 기능에만 해당됩니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

데이터 디스크를 구성하면 디스크를 VM에 연결하고 이를 사용하여 etcd, 컨테이너 이미지 및 기타 용도로 데이터를 저장할 수 있습니다. 데이터를 분리하면 기본 디스크가 가득 차는 것을 방지하여 업그레이드와 같은 중요한 활동에 필요한 리소스를 확보할 수 있습니다.

참고

데이터 디스크를 추가하면 해당 디스크가 VM에 연결되고 RHCOS가 지정한 위치에 마운트됩니다.

사전 요구 사항

  • vSphere의 OpenShift Container Platform 클러스터에 대한 OpenShift CLI( oc )에 대한 관리자 액세스 권한이 있습니다.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 줄을 편집하세요. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
# ...
spec:
  template:
    spec:
      providerSpec:
        value:
          dataDisks:
    1 
    
          - name: "<disk_name>"
    2 
    
            provisioningMode: "<mode>"
    3 
    
            sizeGiB: 20
    4 
    
          - name: "<disk_name>"
            provisioningMode: "<mode>"
            sizeGiB: 20
# ...
    Copy to Clipboard Toggle word wrap
    1
    1~29개의 데이터 디스크 정의 컬렉션을 지정합니다. 이 샘플 구성은 두 개의 데이터 디스크 정의를 포함하는 포맷을 보여줍니다.
    2
    데이터 디스크의 이름을 지정합니다. 이름은 다음 요구 사항을 충족해야 합니다.
    • 영숫자로 시작하고 끝납니다
    • 영숫자, 하이픈( - ), 밑줄( _ )로만 구성됩니다.
    • 최대 80자까지 입력 가능합니다.
    3
    데이터 디스크 프로비저닝 방법을 지정합니다. 이 값은 설정되지 않은 경우 기본적으로 vSphere 기본 스토리지 정책으로 설정됩니다. 유효한 값은 Thin , Thick , EagerlyZeroed 입니다.
    4
    데이터 디스크의 크기를 GiB 단위로 지정합니다. 최대 크기는 16384GiB입니다.

2.10. 베어 메탈에 설정된 컴퓨팅 머신 생성
링크 복사

베어 메탈의 OpenShift Container Platform 클러스터에서 특정 목적에 맞는 다른 컴퓨팅 머신 세트를 만들 수 있습니다. 예를 들어, 지원되는 워크로드를 새 머신으로 이동할 수 있도록 인프라 머신 세트 및 관련 머신을 작성할 수 있습니다.

중요

머신 API가 작동하는 클러스터에서만 고급 머신 관리 및 스케일링 기능을 사용할 수 있습니다. 사용자 제공 인프라가 있는 클러스터는 Machine API를 사용하기 위해 추가적인 검증 및 구성이 필요합니다.

인프라 플랫폼 유형이 none인 클러스터는 Machine API를 사용할 수 없습니다. 이러한 제한은 클러스터에 연결된 컴퓨팅 머신이 해당 기능을 지원하는 플랫폼에 설치된 경우에도 적용됩니다. 설치 후에는 이 매개변수를 변경할 수 없습니다.

클러스터의 플랫폼 유형을 보려면 다음 명령을 실행하세요. 

$ oc get infrastructure cluster -o jsonpath='{.status.platform}'
Copy to Clipboard Toggle word wrap

이 샘플 YAML은 베어 메탈에서 실행되는 컴퓨팅 머신 세트를 정의하고 node-role.kubernetes.io/<role>: "" 로 레이블이 지정된 노드를 생성합니다.

이 샘플에서 <infrastructure_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 <role>은 추가할 노드 레이블입니다. 

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  creationTimestamp: null
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

  name: <infrastructure_id>-<role>
2 

  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
3 

      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
4 

  template:
    metadata:
      creationTimestamp: null
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
5 

        machine.openshift.io/cluster-api-machine-role: <role>
6 

        machine.openshift.io/cluster-api-machine-type: <role>
7 

        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
8 

    spec:
      metadata:
        creationTimestamp: null
        labels:
          node-role.kubernetes.io/<role>: ""
9 

      providerSpec:
        value:
          apiVersion: baremetal.cluster.k8s.io/v1alpha1
          hostSelector: {}
          image:
            checksum: http:/172.22.0.3:6181/images/rhcos-<version>.<architecture>.qcow2.<md5sum>
10 

            url: http://172.22.0.3:6181/images/rhcos-<version>.<architecture>.qcow2
11 

          kind: BareMetalMachineProviderSpec
          metadata:
            creationTimestamp: null
          userData:
            name: worker-user-data-managed
Copy to Clipboard Toggle word wrap
1 3 5
클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로하는 인프라 ID를 지정합니다. OpenShift CLI (oc) 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap
2 4 8
인프라 ID 및 노드 레이블을 지정합니다.
6 7 9
추가할 노드 레이블을 지정합니다.
10
API VIP 주소를 사용하도록 checksum URL을 편집합니다.
11
API VIP 주소를 사용하도록 url URL을 편집합니다.

2.10.2. 컴퓨팅 머신 세트 생성
링크 복사

설치 프로그램에서 생성한 컴퓨팅 머신 세트 외에도 고유한 머신 세트를 생성하여 선택한 특정 워크로드의 머신 컴퓨팅 리소스를 동적으로 관리할 수 있습니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터를 배포합니다.
  • OpenShift CLI(oc)를 설치합니다.
  • cluster-admin 권한이 있는 사용자로 oc에 로그인합니다.

프로세스

  1. 컴퓨팅 머신 세트 CR(사용자 정의 리소스) 샘플이 포함된 새 YAML 파일을 만들고 <file_name>.yaml이라는 이름을 지정합니다.

    <clusterID> 및 <role> 매개 변수 값을 설정해야 합니다.

  2. 선택 사항: 특정 필드에 설정할 값이 확실하지 않은 경우 클러스터에서 기존 컴퓨팅 머신 세트를 확인할 수 있습니다.

    1. 클러스터의 컴퓨팅 머신 세트를 나열하려면 다음 명령을 실행합니다. 

      $ oc get machinesets -n openshift-machine-api
      Copy to Clipboard Toggle word wrap

      출력 예

      NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
      Copy to Clipboard Toggle word wrap

    2. 특정 컴퓨팅 머신 세트 CR(사용자 정의 리소스)의 값을 보려면 다음 명령을 실행합니다. 

      $ oc get machineset <machineset_name> \
  -n openshift-machine-api -o yaml
      Copy to Clipboard Toggle word wrap

      출력 예

      apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      1 
      
  name: <infrastructure_id>-<role>
      2 
      
  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
    spec:
      providerSpec:
      3 
      
        ...
      Copy to Clipboard Toggle word wrap

      1
      클러스터 인프라 ID입니다.
      2
      기본 노드 레이블입니다.
      참고

      사용자 프로비저닝 인프라가 있는 클러스터의 경우 컴퓨팅 머신 세트는 worker 및 infra 유형 머신만 생성할 수 있습니다.

      3
      컴퓨팅 머신 세트 CR의 <providerSpec> 섹션에 있는 값은 플랫폼에 따라 다릅니다. CR의 <providerSpec> 매개변수에 대한 자세한 내용은 공급자의 샘플 컴퓨팅 머신 세트 CR 구성을 참조하십시오.

  3. 다음 명령을 실행하여 MachineSet CR을 생성합니다. 

    $ oc create -f <file_name>.yaml
    Copy to Clipboard Toggle word wrap

검증

  • 다음 명령을 실행하여 컴퓨팅 머신 세트 목록을 확인합니다. 

    $ oc get machineset -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-infra-us-east-1a    1         1         1       1           11m
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
    Copy to Clipboard Toggle word wrap

    새 컴퓨팅 머신 세트를 사용할 수 있으면 DESIRED 및 CURRENT 값이 일치합니다. 컴퓨팅 머신 세트를 사용할 수 없는 경우 몇 분 기다렸다가 명령을 다시 실행합니다.

2.10.3. 클러스터 자동 스케일러의 GPU 머신 세트 레이블 지정
링크 복사

클러스터 자동 확장기가 GPU 지원 노드를 배포하는 데 사용할 수 있는 머신을 나타내기 위해 머신 세트 레이블을 사용할 수 있습니다.

사전 요구 사항

  • 귀하의 클러스터는 클러스터 자동 확장기를 사용합니다.

프로세스

  • GPU 지원 노드를 배포하는 데 사용할 클러스터 자동 확장기에 대한 머신을 생성하려는 머신 세트에서 cluster-api/accelerator 레이블을 추가합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  name: machine-set-name
spec:
  template:
    spec:
      metadata:
        labels:
          cluster-api/accelerator: nvidia-t4
    1
    Copy to Clipboard Toggle word wrap
    1
    영숫자 문자( - , _ , 또는 .) 로 구성되고 영숫자 문자로 시작하고 끝나는 원하는 레이블을 지정하세요. 예를 들어, Nvidia T4 GPU를 나타내려면 nvidia-t4를 사용하고, A10G GPU를 나타내려면 nvidia-a10g를 사용할 수 있습니다.
    참고

    ClusterAutoscaler CR의 spec.resourceLimits.gpus.type 매개변수에 대해 이 레이블의 값을 지정해야 합니다. 자세한 내용은 "클러스터 자동 확장 리소스 정의"를 참조하세요.

3장. 컴퓨팅 머신 세트 수동 확장
링크 복사

컴퓨팅 머신 세트에서 머신 인스턴스를 추가하거나 제거할 수 있습니다.

참고

확장 외에 컴퓨팅 머신 세트의 측면을 수정해야 하는 경우 컴퓨팅 머신 세트 수정을 참조하세요.

3.1. 사전 요구 사항
링크 복사

중요

머신 API가 작동하는 클러스터에서만 고급 머신 관리 및 스케일링 기능을 사용할 수 있습니다. 사용자 제공 인프라가 있는 클러스터는 Machine API를 사용하기 위해 추가적인 검증 및 구성이 필요합니다.

인프라 플랫폼 유형이 none인 클러스터는 Machine API를 사용할 수 없습니다. 이러한 제한은 클러스터에 연결된 컴퓨팅 머신이 해당 기능을 지원하는 플랫폼에 설치된 경우에도 적용됩니다. 설치 후에는 이 매개변수를 변경할 수 없습니다.

클러스터의 플랫폼 유형을 보려면 다음 명령을 실행하세요. 

$ oc get infrastructure cluster -o jsonpath='{.status.platform}'
Copy to Clipboard Toggle word wrap

3.2. 컴퓨팅 머신 세트 수동 스케일링
링크 복사

컴퓨팅 머신 세트에서 머신 인스턴스를 추가하거나 제거하려면 컴퓨팅 머신 세트를 수동으로 스케일링할 수 있습니다.

이는 완전히 자동화된 설치 프로그램에 의해 프로비저닝된 인프라 설치와 관련이 있습니다. 사용자 지정 사용자 프로비저닝 인프라 설치에는 컴퓨팅 머신 세트가 없습니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터 및 oc 명령행을 설치합니다.
  • cluster-admin 권한이 있는 사용자로 oc에 로그인합니다.

프로세스

  1. 다음 명령을 실행하여 클러스터에 있는 컴퓨팅 머신 세트를 확인합니다. 

    $ oc get machinesets.machine.openshift.io -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    컴퓨팅 머신 세트는 <clusterid>-worker-<aws-region-az> 형식으로 나열됩니다.

  2. 다음 명령을 실행하여 클러스터에 있는 컴퓨팅 시스템을 확인합니다. 

    $ oc get machines.machine.openshift.io -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

  3. 다음 명령을 실행하여 삭제할 컴퓨팅 머신에 주석을 설정합니다. 

    $ oc annotate machines.machine.openshift.io/<machine_name> -n openshift-machine-api machine.openshift.io/delete-machine="true"
    Copy to Clipboard Toggle word wrap

  4. 다음 명령 중 하나를 실행하여 컴퓨팅 머신 세트를 확장합니다. 

    $ oc scale --replicas=2 machinesets.machine.openshift.io <machineset> -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    또는 다음을 수행합니다. 

    $ oc edit machinesets.machine.openshift.io <machineset> -n openshift-machine-api
    Copy to Clipboard Toggle word wrap
    작은 정보

    다음 YAML을 적용하여 컴퓨팅 머신 세트를 확장할 수 있습니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  name: <machineset>
  namespace: openshift-machine-api
spec:
  replicas: 2
    Copy to Clipboard Toggle word wrap

    컴퓨팅 머신 세트를 확장 또는 축소할 수 있습니다. 새 머신을 사용할 수 있을 때 까지 몇 분 정도 소요됩니다.

    중요

    기본적으로 머신 컨트롤러는 성공할 때까지 머신이 지원하는 노드를 드레이닝하려고 합니다. Pod 중단 예산을 잘못 구성하는 등 일부 상황에서는 드레이닝 작업이 성공하지 못할 수 있습니다. 드레이닝 작업이 실패하면 머신 컨트롤러에서 머신 제거를 진행할 수 없습니다.

    특정 머신에서 machine.openshift.io/exclude-node-draining 에 주석을 달아 노드 드레이닝을 건너뛸 수 있습니다.

검증

  • 다음 명령을 실행하여 의도한 시스템의 삭제를 확인합니다. 

    $ oc get machines.machine.openshift.io
    Copy to Clipboard Toggle word wrap

3.3. 컴퓨팅 머신 세트 삭제 정책
링크 복사

Random, Newest 및 Oldest의 세 가지 삭제 옵션이 지원됩니다. 기본값은 Random 입니다. 즉, 컴퓨팅 머신 세트를 축소할 때 임의의 머신이 선택되어 삭제됩니다. 삭제 정책은 특정 컴퓨팅 머신 세트를 수정하여 사용 사례에 맞게 설정할 수 있습니다. 

spec:
  deletePolicy: <delete_policy>
  replicas: <desired_replica_count>
Copy to Clipboard Toggle word wrap

삭제 정책에 관계 없이 해당 머신에 machine.openshift.io/delete-machine=true 주석을 추가하면 해당 머신을 우선적으로 삭제할 수 있습니다.

중요

기본적으로 OpenShift Container Platform 라우터 Pod는 작업자에게 배포됩니다. 라우터는 웹 콘솔을 포함한 일부 클러스터 리소스에 액세스해야 하므로 라우터 포드를 먼저 재배치하지 않는 한 워커 컴퓨트 머신 세트를 0 으로 확장하지 마세요.

참고

사용자 정의 컴퓨팅 머신 세트는 서비스가 특정 노드에서 실행되어야 하고 작업자 컴퓨팅 머신 세트가 축소될 때 컨트롤러에서 해당 서비스를 무시해야 하는 사용 사례에 사용할 수 있습니다. 이로 인해 서비스 중단을 피할 수 있습니다.

4장. 컴퓨팅 머신 세트 수정
링크 복사

레이블 추가, 인스턴스 유형 변경, 블록 스토리지 변경 등 컴퓨팅 머신 세트를 수정할 수 있습니다.

참고

다른 변경 없이 컴퓨팅 머신 세트를 확장해야 하는 경우 컴퓨팅 머신 세트 수동 확장을 참조하세요.

4.1. CLI를 사용하여 컴퓨팅 머신 세트 수정
링크 복사

CLI를 사용하여 컴퓨팅 머신 세트의 구성을 수정한 다음 클러스터의 머신에 변경 사항을 전파할 수 있습니다.

컴퓨팅 머신 세트 구성을 업데이트하면 해당 세트에서 생성된 머신의 기능을 활성화하거나 속성을 변경할 수 있습니다. 컴퓨팅 머신 세트를 수정하는 경우, 변경 사항은 업데이트된 MachineSet 사용자 정의 리소스(CR)를 저장한 후에 생성된 컴퓨팅 머신에만 적용됩니다. 이러한 변경 사항은 기존 장비에는 영향을 미치지 않습니다.

참고

기본 클라우드 공급자에서 변경한 내용은 Machine 또는 MachineSet CR에 반영되지 않습니다. 클러스터 관리 인프라에서 인스턴스 구성을 조정하려면 클러스터 측 리소스를 사용합니다.

업데이트된 구성을 반영하는 새 머신으로 기존 머신을 교체하려면 컴퓨팅 머신 세트를 확장하여 복제본 수를 두 배로 늘린 다음 복제본 수를 원래 수로 줄입니다.

다른 변경 없이 컴퓨팅 머신 세트를 확장해야 하는 경우 머신을 삭제할 필요가 없습니다.

참고

기본적으로 OpenShift Container Platform 라우터 포드는 컴퓨팅 머신에 배포됩니다. 라우터는 웹 콘솔을 포함한 일부 클러스터 리소스에 액세스해야 하므로 라우터 포드를 먼저 재배치하지 않는 한 컴퓨팅 머신 세트를 0 으로 확장하지 마세요.

이 절차의 출력 예에서는 AWS 클러스터의 값을 사용합니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터는 Machine API를 사용합니다.
  • OpenShift CLI( oc )를 사용하여 관리자로 클러스터에 로그인했습니다.

프로세스

  1. 다음 명령을 실행하여 클러스터에 있는 컴퓨팅 머신 세트를 나열하세요. 

    $ oc get machinesets.machine.openshift.io -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                           DESIRED   CURRENT   READY   AVAILABLE   AGE
<compute_machine_set_name_1>   1         1         1       1           55m
<compute_machine_set_name_2>   1         1         1       1           55m
    Copy to Clipboard Toggle word wrap

  2. 다음 명령을 실행하여 컴퓨팅 머신 세트를 편집합니다. 

    $ oc edit machinesets.machine.openshift.io <machine_set_name> \
  -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

  3. 변경 사항을 적용하기 위해 머신 세트를 확장할 때 필요하므로 spec.replicas 필드의 값을 기록해 두세요. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  name: <machine_set_name>
  namespace: openshift-machine-api
spec:
  replicas: 2
    1 
    
# ...
    Copy to Clipboard Toggle word wrap
    1
    이 절차의 예에서는 복제본 값이 2 인 컴퓨팅 머신 세트를 보여줍니다.
  4. 원하는 구성 옵션으로 컴퓨팅 머신 세트 CR을 업데이트하고 변경 사항을 저장합니다.

  5. 다음 명령을 실행하여 업데이트된 컴퓨팅 머신 세트에서 관리하는 머신을 나열합니다. 

    $ oc get machines.machine.openshift.io \
  -n openshift-machine-api \
  -l machine.openshift.io/cluster-api-machineset=<machine_set_name>
    Copy to Clipboard Toggle word wrap

    AWS 클러스터에 대한 출력 예

    NAME                        PHASE     TYPE         REGION      ZONE         AGE
<machine_name_original_1>   Running   m6i.xlarge   us-west-1   us-west-1a   4h
<machine_name_original_2>   Running   m6i.xlarge   us-west-1   us-west-1a   4h
    Copy to Clipboard Toggle word wrap

  6. 업데이트된 컴퓨팅 머신 세트에서 관리하는 각 머신에 대해 다음 명령을 실행하여 삭제 주석을 설정합니다. 

    $ oc annotate machine.machine.openshift.io/<machine_name_original_1> \
  -n openshift-machine-api \
  machine.openshift.io/delete-machine="true"
    Copy to Clipboard Toggle word wrap

  7. 새로운 구성으로 대체 머신을 생성하려면 다음 명령을 실행하여 컴퓨팅 머신 세트를 복제본 수의 두 배로 확장합니다. 

    $ oc scale --replicas=4 \
    1 
    
  machineset.machine.openshift.io <machine_set_name> \
  -n openshift-machine-api
    Copy to Clipboard Toggle word wrap
    1
    원래 예제 값 2 는 4 로 두 배가 됩니다.

  8. 다음 명령을 실행하여 업데이트된 컴퓨팅 머신 세트에서 관리하는 머신을 나열합니다. 

    $ oc get machines.machine.openshift.io \
  -n openshift-machine-api \
  -l machine.openshift.io/cluster-api-machineset=<machine_set_name>
    Copy to Clipboard Toggle word wrap

    AWS 클러스터에 대한 출력 예

    NAME                        PHASE          TYPE         REGION      ZONE         AGE
<machine_name_original_1>   Running        m6i.xlarge   us-west-1   us-west-1a   4h
<machine_name_original_2>   Running        m6i.xlarge   us-west-1   us-west-1a   4h
<machine_name_updated_1>    Provisioned    m6i.xlarge   us-west-1   us-west-1a   55s
<machine_name_updated_2>    Provisioning   m6i.xlarge   us-west-1   us-west-1a   55s
    Copy to Clipboard Toggle word wrap

    새로운 머신이 실행 단계에 있을 때, 컴퓨팅 머신 세트를 원래 복제본 수로 확장할 수 있습니다.

  9. 이전 구성으로 생성된 머신을 제거하려면 다음 명령을 실행하여 컴퓨팅 머신 세트를 원래 복제본 수로 확장합니다. 

    $ oc scale --replicas=2 \
    1 
    
  machineset.machine.openshift.io <machine_set_name> \
  -n openshift-machine-api
    Copy to Clipboard Toggle word wrap
    1
    원래 예제 값은 2 입니다.

검증

  • 업데이트된 머신 세트로 생성된 머신이 올바른 구성을 가지고 있는지 확인하려면 다음 명령을 실행하여 새 머신 중 하나에 대한 CR의 관련 필드를 조사하세요. 

    $ oc describe machine.machine.openshift.io <machine_name_updated_1> \
  -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

  • 업데이트된 구성이 없는 컴퓨팅 머신이 삭제되었는지 확인하려면 다음 명령을 실행하여 업데이트된 컴퓨팅 머신 세트에서 관리되는 머신을 나열합니다. 

    $ oc get machines.machine.openshift.io \
  -n openshift-machine-api \
  -l machine.openshift.io/cluster-api-machineset=<machine_set_name>
    Copy to Clipboard Toggle word wrap

    AWS 클러스터에 대한 삭제가 진행되는 동안의 예시 출력

    NAME                        PHASE           TYPE         REGION      ZONE         AGE
<machine_name_original_1>   Deleting        m6i.xlarge   us-west-1   us-west-1a   4h
<machine_name_original_2>   Deleting        m6i.xlarge   us-west-1   us-west-1a   4h
<machine_name_updated_1>    Running         m6i.xlarge   us-west-1   us-west-1a   5m41s
<machine_name_updated_2>    Running         m6i.xlarge   us-west-1   us-west-1a   5m41s
    Copy to Clipboard Toggle word wrap

    AWS 클러스터에 대한 삭제가 완료되었을 때의 출력 예

    NAME                        PHASE           TYPE         REGION      ZONE         AGE
<machine_name_updated_1>    Running         m6i.xlarge   us-west-1   us-west-1a   6m30s
<machine_name_updated_2>    Running         m6i.xlarge   us-west-1   us-west-1a   6m30s
    Copy to Clipboard Toggle word wrap

5장. 머신 단계 및 라이프사이클
링크 복사

머신은 정의된 여러 단계가 있는 라이프사이클을 통해 이동합니다. 기계 수명 주기와 각 단계를 이해하면 절차가 완료되었는지 확인하거나 바람직하지 않은 동작을 해결하는 데 도움이 됩니다. OpenShift Container Platform에서 머신 수명 주기는 지원되는 모든 클라우드 공급자에서 일관되게 적용됩니다.

5.1. 기계 단계
링크 복사

기계는 수명주기를 거치면서 여러 단계를 거칩니다. 각 단계는 기계 상태를 기본적으로 표현한 것입니다.

프로비저닝
새로운 머신을 프로비저닝하라는 요청이 있습니다. 해당 머신은 아직 존재하지 않으며 인스턴스, 공급자 ID 또는 주소가 없습니다.
제공됨
해당 기기가 존재하며 공급자 ID 또는 주소가 있습니다. 클라우드 제공자가 해당 머신의 인스턴스를 생성했습니다. 머신이 아직 노드가 되지 않았고 머신 객체의 status.nodeRef 섹션이 아직 채워지지 않았습니다.
Running
해당 기기가 존재하며 공급자 ID 또는 주소가 있습니다. Ignition이 성공적으로 실행되었고 클러스터 머신 승인자가 인증서 서명 요청(CSR)을 승인했습니다. 머신이 노드가 되어 머신 오브젝트의 status.nodeRef 섹션에 노드 세부 정보가 포함되어 있습니다.
삭제 중
기계를 삭제해 달라는 요청이 있습니다. 머신 객체에는 삭제 요청 시간을 나타내는 DeletionTimestamp 필드가 있습니다.
Failed
기계에 복구할 수 없는 문제가 있습니다. 예를 들어, 클라우드 공급자가 해당 머신의 인스턴스를 삭제하는 경우 이런 일이 발생할 수 있습니다.

5.2. 기계 수명주기
링크 복사

수명 주기는 머신 프로비저닝 요청으로 시작하여 머신이 더 이상 존재하지 않을 때까지 계속됩니다.

머신의 수명주기는 다음 순서로 진행됩니다. 오류나 라이프사이클 후크로 인한 중단은 이 개요에 포함되지 않습니다.

  1. 다음 중 하나의 이유로 새로운 머신을 프로비저닝해 달라는 요청이 있습니다.

    • 클러스터 관리자는 추가 머신이 필요하도록 머신 세트를 확장합니다.
    • 자동 확장 정책은 추가 머신이 필요하도록 머신 세트를 확장합니다.
    • 머신 세트에 의해 관리되는 머신이 고장나거나 삭제되면, 머신 세트는 필요한 수의 머신을 유지하기 위해 대체 머신을 생성합니다.
  2. 기계가 프로비저닝 단계에 들어갑니다.
  3. 인프라 제공자는 머신의 인스턴스를 생성합니다.
  4. 해당 기기에는 공급자 ID 또는 주소가 있으며 프로비저닝 단계에 들어갑니다.
  5. Ignition 구성 파일이 처리되었습니다.
  6. kubelet은 인증서 서명 요청(CSR)을 발행합니다.
  7. 클러스터 머신 승인자가 CSR을 승인합니다.
  8. 기계는 노드가 되고 실행 단계에 들어갑니다.

  9. 기존 머신은 다음 이유 중 하나로 삭제될 예정입니다.

    • 클러스터 관리자 권한이 있는 사용자는 oc delete machine 명령을 사용합니다.
    • 해당 머신에는 machine.openshift.io/delete-machine 주석이 추가됩니다.
    • 해당 머신을 관리하는 머신 세트는 조정의 일환으로 복제본 수를 줄이기 위해 삭제를 표시합니다.
    • 클러스터 자동 확장기는 클러스터의 배포 요구 사항을 충족하는 데 불필요한 노드를 식별합니다.
    • 머신 상태 검사는 상태가 좋지 않은 머신을 교체하도록 구성됩니다.
  10. 머신은 Deleting으로 표시되었지만 여전히 API에 존재하는 삭제 단계에 들어갑니다.
  11. 머신 컨트롤러는 인프라 공급자로부터 인스턴스를 제거합니다.
  12. 머신 컨트롤러가 노드 객체를 삭제합니다.

5.3. 기계의 위상 결정
링크 복사

OpenShift CLI( oc )를 사용하거나 웹 콘솔을 사용하여 머신의 단계를 찾을 수 있습니다. 이 정보를 사용하여 절차가 완료되었는지 확인하거나 바람직하지 않은 동작을 해결할 수 있습니다.

5.3.1. CLI를 사용하여 머신의 단계 결정
링크 복사

OpenShift CLI( oc )를 사용하면 머신의 단계를 찾을 수 있습니다.

사전 요구 사항

  • cluster-admin 권한이 있는 계정을 사용하여 OpenShift Container Platform 클러스터에 액세스할 수 있습니다.
  • oc CLI를 설치했습니다.

프로세스

  • 다음 명령을 실행하여 클러스터의 머신을 나열합니다. 

    $ oc get machine -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                      PHASE     TYPE         REGION      ZONE         AGE
mycluster-5kbsp-master-0                  Running   m6i.xlarge   us-west-1   us-west-1a   4h55m
mycluster-5kbsp-master-1                  Running   m6i.xlarge   us-west-1   us-west-1b   4h55m
mycluster-5kbsp-master-2                  Running   m6i.xlarge   us-west-1   us-west-1a   4h55m
mycluster-5kbsp-worker-us-west-1a-fmx8t   Running   m6i.xlarge   us-west-1   us-west-1a   4h51m
mycluster-5kbsp-worker-us-west-1a-m889l   Running   m6i.xlarge   us-west-1   us-west-1a   4h51m
mycluster-5kbsp-worker-us-west-1b-c8qzm   Running   m6i.xlarge   us-west-1   us-west-1b   4h51m
    Copy to Clipboard Toggle word wrap

    출력의 PHASE 열에는 각 시스템의 단계가 포함됩니다.

5.3.2. 웹 콘솔을 사용하여 머신의 단계 확인
링크 복사

OpenShift Container Platform 웹 콘솔을 사용하여 머신의 단계를 찾을 수 있습니다.

사전 요구 사항

  • cluster-admin 권한이 있는 계정을 사용하여 OpenShift Container Platform 클러스터에 액세스할 수 있습니다.

프로세스

  1. cluster-admin 역할의 사용자로 웹 콘솔에 로그인합니다.
  2. 컴퓨팅 → 머신으로 이동합니다.
  3. 머신 페이지에서 단계를 찾을 머신의 이름을 선택합니다.
  4. 머신 세부 정보 페이지에서 YAML 탭을 선택합니다.

  5. YAML 블록에서 status.phase 필드의 값을 찾습니다.

    YAML 스니펫의 예

    apiVersion: machine.openshift.io/v1beta1
kind: Machine
metadata:
  name: mycluster-5kbsp-worker-us-west-1a-fmx8t
# ...
status:
  phase: Running
    1
    Copy to Clipboard Toggle word wrap

    1
    이 예제에서 단계는 실행 중입니다.

6장. 머신 삭제
링크 복사

특정 머신을 삭제할 수 있습니다.

6.1. 특정 머신 삭제
링크 복사

특정 머신을 삭제할 수 있습니다.

중요

클러스터가 컨트롤 플레인 시스템 세트를 사용하지 않는 경우 컨트롤 플레인 시스템을 삭제하지 마십시오.

사전 요구 사항

  • OpenShift Container Platform 클러스터를 설치합니다.
  • OpenShift CLI(oc)를 설치합니다.
  • cluster-admin 권한이 있는 사용자로 oc에 로그인합니다.

프로세스

  1. 다음 명령을 실행하여 클러스터에 있는 머신을 확인합니다. 

    $ oc get machine -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    명령 출력에는 <clusterid>-<role>-<cloud_region> 형식의 머신 목록이 포함되어 있습니다.

  2. 삭제할 머신을 확인합니다.

  3. 다음 명령을 실행하여 시스템을 삭제합니다. 

    $ oc delete machine <machine> -n openshift-machine-api
    Copy to Clipboard Toggle word wrap
    중요

    기본적으로 머신 컨트롤러는 성공할 때까지 머신이 지원하는 노드를 드레이닝하려고 합니다. Pod 중단 예산을 잘못 구성하는 등 일부 상황에서는 드레이닝 작업이 성공하지 못할 수 있습니다. 드레이닝 작업이 실패하면 머신 컨트롤러에서 머신 제거를 진행할 수 없습니다.

    특정 머신에서 machine.openshift.io/exclude-node-draining 에 주석을 달아 노드 드레이닝을 건너뛸 수 있습니다.

    삭제한 머신이 머신 세트에 속하는 경우 지정된 복제본 수를 충족하기 위해 새 머신이 즉시 생성됩니다.

6.2. 머신 삭제 단계에 대한 라이프사이클 후크
링크 복사

머신 라이프사이클 후크는 일반 라이프사이클 프로세스가 중단될 수 있는 머신의 조정 라이프사이클에 있는 지점입니다. 머신 Deleting 단계에서 이러한 중단은 구성 요소가 머신 삭제 프로세스를 수정할 수 있는 기회를 제공합니다.

6.2.1. 용어 및 정의
링크 복사

머신 삭제 단계에 대한 라이프사이클 후크 동작을 이해하려면 다음 개념을 이해해야 합니다.

조정
조정은 컨트롤러가 클러스터의 실제 상태 및 오브젝트 사양의 요구 사항과 일치하는 오브젝트를 시도하는 프로세스입니다.
머신 컨트롤러

머신 컨트롤러는 머신의 조정 라이프사이클을 관리합니다. 클라우드 플랫폼의 머신의 경우 머신 컨트롤러는 클라우드 공급자의 OpenShift Container Platform 컨트롤러와 플랫폼별 액추에이터의 조합입니다.

머신 삭제 컨텍스트에서 머신 컨트롤러는 다음 작업을 수행합니다.

  • 머신에서 지원하는 노드를 드레이닝합니다.
  • 클라우드 공급자에서 머신 인스턴스를 삭제합니다.
  • Node 오브젝트를 삭제합니다.
라이프사이클 후크

라이프사이클 후크는 일반 라이프사이클 프로세스가 중단될 수 있는 오브젝트의 조정 라이프사이클에 정의된 지점입니다. 구성 요소는 라이프사이클 후크를 사용하여 프로세스에 변경 사항을 삽입하여 원하는 결과를 수행할 수 있습니다.

머신 Deleting 단계에는 두 가지 라이프사이클 후크가 있습니다.

  • 머신에서 지원하는 노드를 드레이닝하기 전에 preDrain 라이프사이클 후크를 확인해야 합니다.
  • 인프라 공급자에서 인스턴스를 제거하려면 먼저 preTerminate 라이프사이클 후크를 확인해야 합니다.
후크 구현 컨트롤러

후크 구현 컨트롤러는 시스템 컨트롤러가 아닌 컨트롤러이며 라이프사이클 후크와 상호 작용할 수 있습니다. 후크 구현 컨트롤러는 다음 작업 중 하나 이상을 수행할 수 있습니다.

  • 라이프사이클 후크를 추가합니다.
  • 라이프사이클 후크에 응답합니다.
  • 라이프사이클 후크를 제거합니다.

각 라이프사이클 후크에는 단일 후크 구현 컨트롤러가 있지만 후크 구현 컨트롤러는 하나 이상의 후크를 관리할 수 있습니다.

6.2.2. 머신 삭제 처리 순서
링크 복사

OpenShift Container Platform 4.19에는 머신 삭제 단계에 대한 두 개의 라이프사이클 후크, preDrain 및 preTerminate 가 있습니다. 지정된 라이프사이클 지점의 모든 후크가 제거되면 조정이 정상적으로 계속됩니다.

그림 6.1. 머신 삭제 흐름

시스템 'Deleting' 단계의 이벤트 시퀀스입니다.
View larger image
시스템 'Deleting' 단계의 이벤트 시퀀스입니다.

머신 Deleting 단계는 다음 순서로 진행됩니다.

  1. 다음 이유 중 하나로 기존 머신이 삭제될 예정입니다.

    • cluster-admin 권한이 있는 사용자는 oc delete machine 명령을 사용합니다.
    • 머신에 machine.openshift.io/delete-machine 주석이 표시됩니다.
    • 머신을 관리하는 머신 세트는 삭제를 위해 이를 표시하여 복제본 수를 조정의 일부로 줄입니다.
    • 클러스터 자동 스케일러는 클러스터의 배포 요구를 충족하기 위해 필요하지 않은 노드를 식별합니다.
    • 비정상 머신을 대체하도록 머신 상태 점검이 구성되어 있습니다.
  2. 머신은 Deleting으로 표시되었지만 여전히 API에 존재하는 삭제 단계에 들어갑니다.

  3. preTerminate 라이프사이클 후크가 있는 경우 이를 관리하는 후크 구현 컨트롤러에서 지정된 작업을 수행합니다.

    모든 preDrain 라이프사이클 후크가 충족될 때까지 머신 상태 조건 Drainable 은 False 로 설정됩니다.

  4. 해결되지 않은 preDrain 라이프사이클 후크가 없으며 시스템 상태 조건 Drainable 은 True 로 설정됩니다.

  5. 머신 컨트롤러는 머신에서 지원하는 노드를 드레이닝하려고 합니다.

    • 드레이닝에 실패하면 Drained가 False 로 설정되고 머신 컨트롤러에서 노드를 다시 드레이닝하려고 합니다.
    • 드레이닝이 성공하면 Drained가 True 로 설정됩니다.
  6. 시스템 상태 조건 Drained 가 True 로 설정됩니다.

  7. preTerminate 라이프사이클 후크가 있는 경우 이를 관리하는 후크 구현 컨트롤러에서 지정된 작업을 수행합니다.

    모든 preTerminate 라이프사이클 후크가 충족될 때까지 머신 상태 Terminable은 False 로 설정됩니다.

  8. 해결되지 않은 preTerminate 라이프사이클 후크가 없으며 시스템 상태 조건 Terminable 은 True 로 설정됩니다.
  9. 머신 컨트롤러는 인프라 공급자에서 인스턴스를 제거합니다.
  10. 머신 컨트롤러에서 Node 오브젝트를 삭제합니다.

6.2.3. 라이프사이클 후크 구성 삭제
링크 복사

다음 YAML 스니펫에서는 머신 세트 내에서 라이프사이클 후크 구성의 형식 및 배치를 보여줍니다.

preDrain 라이프사이클 후크를 보여주는 YAML 스니펫

apiVersion: machine.openshift.io/v1beta1
kind: Machine
metadata:
  ...
spec:
  lifecycleHooks:
    preDrain:
    - name: <hook_name>
1 

      owner: <hook_owner>
2 

  ...
Copy to Clipboard Toggle word wrap

1
preDrain 라이프사이클 후크의 이름입니다.
2
preDrain 라이프사이클 후크를 관리하는 후크 구현 컨트롤러입니다.

preTerminate 라이프사이클 후크를 보여주는 YAML 스니펫

apiVersion: machine.openshift.io/v1beta1
kind: Machine
metadata:
  ...
spec:
  lifecycleHooks:
    preTerminate:
    - name: <hook_name>
1 

      owner: <hook_owner>
2 

  ...
Copy to Clipboard Toggle word wrap

1
preTerminate 라이프사이클 후크의 이름입니다.
2
preTerminate 사전 라이프사이클 후크를 관리하는 후크 구현 컨트롤러입니다.
6.2.3.1. 라이프사이클 후크 구성의 예
링크 복사

다음 예제에서는 머신 삭제 프로세스를 중단하는 여러 가상 라이프사이클 후크를 구현하는 방법을 보여줍니다.

라이프사이클 후크 구성 예

apiVersion: machine.openshift.io/v1beta1
kind: Machine
metadata:
  ...
spec:
  lifecycleHooks:
    preDrain:
1 

    - name: MigrateImportantApp
      owner: my-app-migration-controller
    preTerminate:
2 

    - name: BackupFileSystem
      owner: my-backup-controller
    - name: CloudProviderSpecialCase
      owner: my-custom-storage-detach-controller
3 

    - name: WaitForStorageDetach
      owner: my-custom-storage-detach-controller
  ...
Copy to Clipboard Toggle word wrap

1
단일 라이프사이클 후크가 포함된 preDrain 라이프사이클 후크입니다.
2
3개의 라이프사이클 후크가 포함된 preTerminate 라이프사이클 후크 스탠자입니다.
3
두 개의 preTerminate 라이프사이클 후크를 관리하는 후크 구현 컨트롤러: CloudProviderSpecialCase 및 WaitForStorageDetach.

6.2.4. Operator 개발자의 머신 삭제 라이프사이클 후크 예
링크 복사

Operator는 머신 삭제 단계에 라이프사이클 후크를 사용하여 머신 삭제 프로세스를 수정할 수 있습니다. 다음 예제에서는 Operator에서 이 기능을 사용할 수 있는 방법을 보여줍니다.

6.2.4.1. preDrain 라이프사이클 후크 사용 사례 예
링크 복사
사전 교체
Operator는 preDrain 라이프사이클 후크를 사용하여 삭제된 머신 인스턴스를 제거하기 전에 교체 머신이 성공적으로 생성되고 클러스터에 가입되었는지 확인할 수 있습니다. 이렇게 하면 머신 교체 중 또는 즉시 초기화되지 않는 대체 인스턴스 중에 중단의 영향을 완화할 수 있습니다.
사용자 정의 드레이닝 논리 구현

Operator는 preDrain 라이프사이클 후크를 사용하여 머신 컨트롤러 드레이닝 논리를 다른 드레이닝 컨트롤러로 교체할 수 있습니다. Operator는 드레이닝 논리를 교체하면 각 노드의 워크로드 수명 주기에 대한 유연성 및 제어가 향상됩니다.

예를 들어 머신 컨트롤러 드레이닝 라이브러리는 순서가 지원되지 않지만 사용자 정의 드레이닝 공급자가 이 기능을 제공할 수 있습니다. Operator는 사용자 정의 드레이닝 공급자를 사용하여 노드 드레이닝 전에 미션 크리티컬 애플리케이션 이동 우선 순위를 지정하여 클러스터 용량이 제한된 경우 서비스 중단을 최소화할 수 있습니다.

6.2.4.2. preTerminate 라이프사이클 후크의 사용 사례 예
링크 복사
스토리지 분리 확인
Operator는 preTerminate 라이프사이클 후크를 사용하여 인프라 공급자에서 머신을 제거하기 전에 머신에 연결된 스토리지를 확인할 수 있습니다.
로그 안정성 개선

노드를 드레이닝한 후 로그 내보내기 데몬은 로그를 중앙 집중식 로깅 시스템에 동기화하는 데 약간의 시간이 필요합니다.

로깅 Operator는 preTerminate 라이프사이클 후크를 사용하여 노드를 드레이닝하는 시점과 인프라 공급자에서 머신이 제거될 때의 지연을 추가할 수 있습니다. 이 지연을 통해 Operator에서 기본 워크로드가 제거되고 더 이상 로그 백로그에 추가되지 않도록 하는 시간을 제공합니다. 로그 백로그에 새 데이터가 추가되지 않으면 로그 내보내기가 동기화 프로세스를 따라 이동하여 모든 애플리케이션 로그를 캡처할 수 있습니다.

6.2.5. 머신 라이프사이클 후크를 통한 쿼럼 보호
링크 복사

Machine API Operator를 사용하는 OpenShift Container Platform 클러스터의 경우 etcd Operator는 머신 삭제 단계에 라이프사이클 후크를 사용하여 쿼럼 보호 메커니즘을 구현합니다.

etcd Operator는 preDrain 라이프사이클 후크를 사용하여 컨트롤 플레인 머신의 Pod를 드레이닝하고 제거하는 시기를 제어할 수 있습니다. etcd 쿼럼을 보호하기 위해 etcd Operator는 클러스터 내의 새 노드로 해당 멤버를 마이그레이션할 때까지 etcd 멤버를 제거하지 않습니다.

이 메커니즘을 사용하면 etcd Operator가 etcd 쿼럼의 멤버를 정확하게 제어할 수 있으며 Machine API Operator가 etcd 클러스터에 대한 특정 운영 지식없이 컨트롤 플레인 머신을 안전하게 생성하고 제거할 수 있습니다.

6.2.5.1. 쿼럼 보호 처리 순서를 사용하여 컨트롤 플레인 삭제
링크 복사

컨트롤 플레인 시스템 세트를 사용하는 클러스터에서 컨트롤 플레인 시스템을 교체하면 클러스터에 일시적으로 4개의 컨트롤 플레인 시스템이 있습니다. 네 번째 컨트롤 플레인 노드가 클러스터에 결합되면 etcd Operator가 교체 노드에서 새 etcd 멤버를 시작합니다. etcd Operator에서 이전 컨트롤 플레인 머신이 삭제로 표시된 것을 관찰하면 이전 노드에서 etcd 멤버를 중지하고 교체 etcd 멤버가 클러스터의 쿼럼에 참여하도록 승격합니다.

컨트롤 플레인 머신 Deleting 단계는 다음 순서로 진행됩니다.

  1. 삭제를 위해 컨트롤 플레인 시스템이 지정되었습니다.
  2. 컨트롤 플레인 시스템은 Deleting 단계에 들어갑니다.

  3. preDrain 라이프사이클 후크를 충족하기 위해 etcd Operator는 다음 작업을 수행합니다.

    1. etcd Operator는 네 번째 컨트롤 플레인 머신이 클러스터에 etcd 멤버로 추가될 때까지 기다립니다. 이 새 etcd 멤버의 상태는 Running 이지만 etcd 리더에서 전체 데이터베이스 업데이트가 수신될 때까지 ready되지 않았습니다.
    2. 새 etcd 멤버가 전체 데이터베이스 업데이트를 수신하면 etcd Operator는 새 etcd 멤버를 투표 멤버로 승격하고 클러스터에서 이전 etcd 멤버를 제거합니다.

    이 전환이 완료되면 이전 etcd pod 및 해당 데이터를 제거하는 것이 안전하므로 preDrain 라이프사이클 후크가 제거됩니다.

  4. 컨트롤 플레인 시스템 상태 Drainable 은 True 로 설정됩니다.

  5. 머신 컨트롤러는 컨트롤 플레인 시스템에서 지원하는 노드를 드레이닝하려고 합니다.

    • 드레이닝에 실패하면 Drained가 False 로 설정되고 머신 컨트롤러에서 노드를 다시 드레이닝하려고 합니다.
    • 드레이닝이 성공하면 Drained가 True 로 설정됩니다.
  6. 컨트롤 플레인 시스템 상태 Drained 가 True 로 설정됩니다.
  7. 다른 Operator에서 preTerminate 라이프사이클 후크를 추가하지 않은 경우 컨트롤 플레인 머신 상태 조건 Terminable 이 True 로 설정됩니다.
  8. 머신 컨트롤러는 인프라 공급자에서 인스턴스를 제거합니다.
  9. 머신 컨트롤러에서 Node 오브젝트를 삭제합니다.

etcd 쿼럼 보호 preDrain 라이프사이클 후크를 보여주는 YAML 스니펫

apiVersion: machine.openshift.io/v1beta1
kind: Machine
metadata:
  ...
spec:
  lifecycleHooks:
    preDrain:
    - name: EtcdQuorumOperator
1 

      owner: clusteroperator/etcd
2 

  ...
Copy to Clipboard Toggle word wrap

1
preDrain 라이프사이클 후크의 이름입니다.
2
preDrain 라이프사이클 후크를 관리하는 후크 구현 컨트롤러입니다.

7장. OpenShift Container Platform 클러스터에 자동 스케일링 적용
링크 복사

OpenShift Container Platform 클러스터에 자동 스케일링을 적용하려면클러스터 자동 스케일러를 배포한 다음 클러스터의 각 머신 유형에 대해 머신 자동 스케일러를 배포해야 합니다.

중요

머신 API가 작동하는 클러스터에서만 클러스터 자동 스케일러를 구성할 수 있습니다.

7.1. 클러스터 자동 스케일러 정보
링크 복사

클러스터 자동 스케일러는 현재 배포 요구 사항에 따라 OpenShift Container Platform 클러스터의 크기를 조정합니다. 이는 Kubernetes 형식의 선언적 인수를 사용하여 특정 클라우드 공급자의 개체에 의존하지 않는 인프라 관리를 제공합니다. 클러스터 자동 스케일러에는 클러스터 범위가 있으며 특정 네임 스페이스와 연결되어 있지 않습니다.

리소스가 부족하여 현재 노드에서 pod를 예약할 수 없거나 배포 요구를 충족시키기 위해 다른 노드가 필요한 경우 클러스터 자동 스케일러는 클러스터 크기를 늘립니다. 클러스터 자동 스케일러는 사용자가 지정한 제한을 초과하여 클러스터 리소스를 늘리지 않습니다.

클러스터 자동 스케일러는 컨트롤 플레인 노드를 관리하지 않더라도 클러스터의 모든 노드에서 총 메모리, CPU 및 GPU를 계산합니다. 이러한 값은 단일 시스템 지향이 아닙니다. 이는 전체 클러스터에 있는 모든 리소스를 집계한 것입니다. 예를 들어 최대 메모리 리소스 제한을 설정하면 현재 메모리 사용량을 계산할 때 클러스터 자동 스케일러에 클러스터의 모든 노드가 포함됩니다. 그런 다음 이 계산은 클러스터 자동 스케일러에 더 많은 작업자 리소스를 추가할 수 있는 용량이 있는지 확인하는 데 사용됩니다.

중요

작성한 ClusterAutoscaler 리솟스 정의의 maxNodesTotal 값이 클러스터에서 예상되는 총 머신 수를 대응하기에 충분한 크기의 값인지 확인합니다. 이 값에는 컨트롤 플레인 머신 수 및 확장 가능한 컴퓨팅 머신 수가 포함되어야 합니다.

7.1.1. 자동 노드 제거
링크 복사

10초마다 클러스터 자동 스케일러는 클러스터에서 불필요한 노드를 확인하고 제거합니다. 다음 조건이 적용되는 경우 클러스터 자동 스케일러는 노드가 제거되도록 간주합니다.

  • 노드 사용률이 클러스터의 노드 사용률 수준 임계값보다 낮습니다. 노드 활용 수준은 요청된 리소스의 합계를 노드에 할당된 리소스로 나눈 값입니다. ClusterAutoscaler 사용자 지정 리소스에 값을 지정하지 않으면 클러스터 자동 확장기는 50% 사용률에 해당하는 기본값 0.5를 사용합니다.
  • 클러스터 자동 확장기는 노드에서 실행 중인 모든 Pod를 다른 노드로 옮길 수 있습니다. 쿠버네티스 스케줄러는 노드에서 포드 스케줄링을 담당합니다.
  • 클러스터 자동 확장기에는 축소 비활성화 주석이 없습니다.

노드에 다음 유형의 pod가 있는 경우 클러스터 자동 스케일러는 해당 노드를 제거하지 않습니다.

  • 제한적인 PDB (Pod Disruption Budgets)가 있는 pod
  • 기본적으로 노드에서 실행되지 않는 Kube 시스템 pod
  • PDB가 없거나 제한적인 PDB가있는 Kube 시스템 pod
  • deployment, replica set 또는 stateful set와 같은 컨트롤러 객체가 지원하지 않는 pod
  • 로컬 스토리지가 있는 pod
  • 리소스 부족, 호환되지 않는 노드 선택기 또는 어피니티(affinity), 안티-어피니티(anti-affinity) 일치 등으로 인해 다른 위치로 이동할 수 없는 pod
  • "cluster-autoscaler.kubernetes.io/safe-to-evict": "true" 주석이없는 경우"cluster-autoscaler.kubernetes.io/safe-to-evict": "false" 주석이 있는 pod

예를 들어, 최대 CPU 한도를 64개 코어로 설정하고 클러스터 자동 확장기가 각각 8개의 코어가 있는 머신만 생성하도록 구성합니다. 클러스터가 30개의 코어로 시작하면 클러스터 자동 확장기는 32개의 코어가 있는 노드를 최대 4개 더 추가하여 총 62개가 될 수 있습니다.

7.1.2. 제한
링크 복사

클러스터 자동 스케일러를 구성하면 추가 사용 제한이 적용됩니다.

  • 자동 스케일링된 노드 그룹에 있는 노드를 직접 변경하지 마십시오. 동일한 노드 그룹 내의 모든 노드는 동일한 용량 및 레이블을 가지며 동일한 시스템 pod를 실행합니다.
  • pod 요청을 지정합니다.
  • pod가 너무 빨리 삭제되지 않도록 해야 하는 경우 적절한 PDB를 구성합니다.
  • 클라우드 제공자 할당량이 구성하는 최대 노드 풀을 지원할 수 있는 충분한 크기인지를 확인합니다.
  • 추가 노드 그룹 Autoscaler, 특히 클라우드 제공자가 제공하는 Autoscaler를 실행하지 마십시오.
참고

클러스터 자동 확장기는 예약 가능한 Pod가 생성되는 경우에만 자동 확장된 노드 그룹에 노드를 추가합니다. 사용 가능한 노드 유형이 Pod 요청에 대한 요구 사항을 충족할 수 없거나, 이러한 요구 사항을 충족할 수 있는 노드 그룹이 최대 크기에 도달한 경우, 클러스터 자동 확장기는 확장할 수 없습니다.

7.1.3. 다른 일정 기능과의 상호 작용
링크 복사

HPA (Horizond Pod Autoscaler) 및 클러스터 자동 스케일러는 다른 방식으로 클러스터 리소스를 변경합니다. HPA는 현재 CPU 로드를 기준으로 배포 또는 복제 세트의 복제 수를 변경합니다. 로드가 증가하면 HPA는 클러스터에 사용 가능한 리소스 양에 관계없이 새 복제본을 만듭니다. 리소스가 충분하지 않은 경우 클러스터 자동 스케일러는 리소스를 추가하고 HPA가 생성한 pod를 실행할 수 있도록 합니다. 로드가 감소하면 HPA는 일부 복제를 중지합니다. 이 동작으로 일부 노드가 충분히 활용되지 않거나 완전히 비어 있을 경우 클러스터 자동 스케일러가 불필요한 노드를 삭제합니다.

클러스터 자동 스케일러는 pod 우선 순위를 고려합니다. Pod 우선 순위 및 선점 기능을 사용하면 클러스터에 충분한 리소스가 없는 경우 우선 순위에 따라 pod를 예약할 수 있지만 클러스터 자동 스케일러는 클러스터에 모든 pod를 실행하는 데 필요한 리소스가 있는지 확인합니다. 두 기능을 충족하기 위해 클러스터 자동 스케일러에는 우선 순위 컷오프 기능이 포함되어 있습니다. 이 컷오프 기능을 사용하여 "best-effort" pod를 예약하면 클러스터 자동 스케일러가 리소스를 늘리지 않고 사용 가능한 예비 리소스가 있을 때만 실행됩니다.

컷오프 값보다 우선 순위가 낮은 pod는 클러스터가 확장되지 않거나 클러스터가 축소되지 않도록합니다. pod를 실행하기 위해 추가된 새 노드가 없으며 이러한 pod를 실행하는 노드는 리소스를 확보하기 위해 삭제될 수 있습니다.

7.1.4. 클러스터 자동 스케일러 구성
링크 복사

먼저 클러스터 자동 스케일러를 배포하여 OpenShift Container Platform 클러스터에서 리소스의 자동 스케일링을 관리합니다.

참고

클러스터 자동 스케일러의 범위는 전체 클러스터에 설정되므로 클러스터에 대해 하나의 클러스터 자동 스케일러만 만들 수 있습니다.

7.1.4.1. 클러스터 자동 확장 리소스 정의
링크 복사

이 ClusterAutoscaler 리소스 정의는 클러스터 자동 스케일러의 매개 변수 및 샘플 값을 표시합니다.

참고

기존 클러스터 자동 확장기의 구성을 변경하면 다시 시작됩니다. 

apiVersion: "autoscaling.openshift.io/v1"
kind: "ClusterAutoscaler"
metadata:
  name: "default"
spec:
  podPriorityThreshold: -10
1 

  resourceLimits:
    maxNodesTotal: 24
2 

    cores:
      min: 8
3 

      max: 128
4 

    memory:
      min: 4
5 

      max: 256
6 

    gpus:
    - type: <gpu_type>
7 

      min: 0
8 

      max: 16
9 

  logVerbosity: 4
10 

  scaleDown:
11 

    enabled: true
12 

    delayAfterAdd: 10m
13 

    delayAfterDelete: 5m
14 

    delayAfterFailure: 30s
15 

    unneededTime: 5m
16 

    utilizationThreshold: "0.4"
17 

  expanders: ["Random"]
18
Copy to Clipboard Toggle word wrap
1
클러스터 자동 스케일러가 추가 노드를 배포하도록 하려면 pod가 초과해야하는 우선 순위를 지정합니다. 32 비트 정수 값을 입력합니다. podPriorityThreshold 값은 각 pod에 할당한 PriorityClass의 값과 비교됩니다.
2
배포할 최대 노드 수를 지정합니다. 이 값은 Autoscaler가 제어하는 머신뿐 만 아니라 클러스터에 배치 된 총 머신 수입니다. 이 값이 모든 컨트롤 플레인 및 컴퓨팅 머신과 MachineAutoscaler 리소스에 지정한 총 복제본 수에 대응할 수 있을 만큼 충분한 크기의 값인지 확인합니다.
3
클러스터에 배포할 최소 코어 수를 지정합니다.
4
클러스터에 배포할 최대 코어 수를 지정합니다.
5
클러스터에서 최소 메모리 크기를 GiB 단위로 지정합니다.
6
클러스터에서 최대 메모리 크기를 GiB단위로 지정합니다.
7
선택 사항: GPU 지원 노드를 배포하도록 클러스터 자동 확장기를 구성하려면 유형 값을 지정합니다. 이 값은 해당 유형의 GPU 지원 노드를 관리하는 머신 세트의 spec.template.spec.metadata.labels[cluster-api/accelerator] 레이블 값과 일치해야 합니다. 예를 들어, 이 값은 Nvidia T4 GPU를 나타내는 nvidia-t4 이거나 A10G GPU를 나타내는 nvidia-a10g 일 수 있습니다. 자세한 내용은 "클러스터 자동 확장기에 대한 GPU 머신 세트 레이블 지정"을 참조하세요.
8
클러스터에 배포할 지정된 유형의 GPU 최소 개수를 지정합니다.
9
클러스터에 배포할 지정된 유형의 GPU의 최대 수를 지정합니다.
10
로깅 세부 정보 수준을 0 ~ 10 사이로 지정합니다. 지침에는 다음 로그 수준 임계값이 제공됩니다.
  • 1 : (기본값) 변경 사항에 대한 기본 정보입니다.
  • 4 : 일반적인 문제를 해결하기 위한 디버그 수준의 자세한 설명.
  • 9 : 광범위한 프로토콜 수준 디버깅 정보.

값을 지정하지 않으면 기본값 1이 사용됩니다.

11
이 섹션에서는 ns, us, ms, s, m 및 h를 포함하여 유효한 ParseDuration 간격을 사용하여 각 작업에 대해 대기하는 기간을 지정할 수 있습니다.
12
클러스터 자동 스케일러가 불필요한 노드를 제거할 수 있는지 여부를 지정합니다.
13
선택 사항: 노드가 최근에 추가 된 후 노드를 삭제하기 전까지 기다리는 기간을 지정합니다. 값을 지정하지 않으면 기본값으로 10m이 사용됩니다.
14
선택 사항: 노드가 최근에 삭제 된 후 노드를 삭제하기 전까지 기다리는 기간을 지정합니다. 값을 지정하지 않으면 기본값인 0이 사용됩니다.
15
선택 사항: 축소 실패 후 노드를 삭제하기 전에 대기할 기간을 지정합니다. 값을 지정하지 않으면 기본값으로 3m가 사용됩니다.
16
선택 사항: 불필요한 노드를 삭제할 수 있기 전까지의 기간을 지정합니다. 값을 지정하지 않으면 기본값으로 10m이 사용됩니다.
17
선택 사항: 노드 활용 수준을 지정합니다. 이 사용률 수준의 노드는 삭제할 수 있습니다.

노드 활용 수준은 요청된 리소스의 합계를 노드에 할당된 리소스로 나눈 값이며, "0" 보다 크고 "1" 보다 작은 값이어야 합니다. 값을 지정하지 않으면 클러스터 자동 확장기는 50% 사용률에 해당하는 기본값 "0.5" 를 사용합니다. 이 값을 문자열로 표현해야 합니다.

18
선택 사항: 클러스터 자동 확장기가 사용할 확장기를 지정합니다. 유효한 값은 다음과 같습니다.
  • LeastWaste: 확장 후 유휴 CPU를 최소화하는 머신 세트를 선택합니다. 여러 머신 세트가 동일한 양의 유휴 CPU를 생성하는 경우 이 선택을 통해 사용되지 않는 메모리가 최소화됩니다.
  • 우선순위 : 사용자가 지정한 우선순위가 가장 높은 머신 세트를 선택합니다. 이 확장기를 사용하려면 머신 세트의 우선 순위를 정의하는 구성 맵을 만들어야 합니다. 자세한 내용은 "클러스터 자동 확장기에 대한 우선 순위 확장기 구성"을 참조하세요.
  • 무작위 : (기본값) 기계 세트를 무작위로 선택합니다.

값을 지정하지 않으면 기본값인 Random이 사용됩니다.

[최소 낭비, 우선 순위] 형식을 사용하여 여러 개의 확장기를 지정할 수 있습니다. 클러스터 자동 확장기는 지정된 순서에 따라 각 확장기를 적용합니다.

[LeastWaste, Priority] 예에서 클러스터 자동 확장기는 먼저 LeastWaste 기준에 따라 평가합니다. 두 개 이상의 머신 세트가 LeastWaste 기준을 동등하게 충족하는 경우, 클러스터 자동 확장기는 우선순위 기준에 따라 평가합니다. 두 개 이상의 머신 세트가 지정된 모든 확장기를 동등하게 만족하는 경우, 클러스터 자동 확장기는 무작위로 하나를 선택하여 사용합니다.

참고

스케일링 작업을 수행할 때 클러스터 자동 스케일러는 클러스터에서 배포할 최소 및 최대 코어 수 또는 메모리 양과 같은 ClusterAutoscaler 리소스 정의에 설정된 범위 내에 유지됩니다. 그러나 클러스터 자동 스케일러는 해당 범위 내에 있는 클러스터의 현재 값을 수정하지 않습니다.

최소 및 최대 CPU, 메모리, GPU 값은 클러스터 자동 확장기가 노드를 관리하지 않더라도 클러스터의 모든 노드에서 해당 리소스를 계산하여 결정됩니다. 예를 들어, 클러스터 자동 확장기가 제어 평면 노드를 관리하지 않더라도 제어 평면 노드는 클러스터의 총 메모리에 고려됩니다.

7.1.4.2. 클러스터 자동 확장기를 위한 우선 순위 확장기 구성
링크 복사

클러스터 자동 확장기가 우선순위 확장기를 사용하는 경우, 사용자가 지정한 우선순위가 가장 높은 머신 세트를 사용하여 확장합니다. 이 확장기를 사용하려면 머신 세트의 우선 순위를 정의하는 구성 맵을 만들어야 합니다.

지정된 각 우선순위 수준에 대해 선택을 위한 머신 세트의 우선순위를 지정할 때 사용할 머신 세트를 식별하기 위한 정규 표현식을 만들어야 합니다. 정규 표현식은 클러스터 자동 확장기가 선택을 위해 고려할 모든 컴퓨팅 머신 세트의 이름과 일치해야 합니다.

사전 요구 사항

  • Machine API를 사용하는 OpenShift Container Platform 클러스터를 배포했습니다.
  • 클러스터 관리자 권한이 있는 계정을 사용하여 클러스터에 액세스할 수 있습니다.
  • OpenShift CLI(oc)가 설치되어 있습니다.

프로세스

  1. 다음 명령을 실행하여 클러스터의 컴퓨팅 머신 세트를 나열하세요. 

    $ oc get machinesets.machine.openshift.io
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                        DESIRED   CURRENT   READY   AVAILABLE   AGE
archive-agl030519-vplxk-worker-us-east-1c   1         1         1       1           25m
fast-01-agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
fast-02-agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
fast-03-agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
fast-04-agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
prod-01-agl030519-vplxk-worker-us-east-1a   1         1         1       1           33m
prod-02-agl030519-vplxk-worker-us-east-1c   1         1         1       1           33m
    Copy to Clipboard Toggle word wrap

  2. 정규 표현식을 사용하여 우선 순위 수준을 설정하려는 모든 컴퓨팅 머신 세트의 이름과 일치하는 하나 이상의 패턴을 구성합니다.

    예를 들어, 정규 표현식 패턴 *fast* 를 사용하면 이름에 fast라는 문자열이 포함된 모든 컴퓨팅 머신 세트와 일치합니다.

  3. 다음과 유사한 구성 맵을 정의하는 cluster-autoscaler-priority-expander.yml YAML 파일을 만듭니다.

    예제 우선 순위 확장기 구성 맵

    apiVersion: v1
kind: ConfigMap
metadata:
  name: cluster-autoscaler-priority-expander
    1 
    
  namespace: openshift-machine-api
    2 
    
data:
  priorities: |-
    3 
    
    10:
      - .*fast.*
      - .*archive.*
    40:
      - .*prod.*
    Copy to Clipboard Toggle word wrap

    1
    config map cluster-autoscaler-priority-expander 의 이름을 지정해야 합니다.
    2
    클러스터 자동 확장기 포드와 동일한 네임스페이스, 즉 openshift-machine-api 네임스페이스에 구성 맵을 만들어야 합니다.
    3
    머신 세트의 우선순위를 정의합니다.

    우선순위 값은 양의 정수여야 합니다. 클러스터 자동 확장기는 낮은 값의 우선순위보다 높은 값의 우선순위를 먼저 사용합니다.

    각 우선순위 수준에 대해 사용하려는 머신 세트에 해당하는 정규 표현식을 지정합니다.

  4. 다음 명령을 실행하여 구성 맵을 만듭니다. 

    $ oc create configmap cluster-autoscaler-priority-expander \
  --from-file=<location_of_config_map_file>/cluster-autoscaler-priority-expander.yml
    Copy to Clipboard Toggle word wrap

검증

  • 다음 명령을 실행하여 구성 맵을 검토하세요. 

    $ oc get configmaps cluster-autoscaler-priority-expander -o yaml
    Copy to Clipboard Toggle word wrap

다음 단계

  • 우선순위 확장기를 사용하려면 ClusterAutoscaler 리소스 정의가 expanders: ["Priority"] 매개변수를 사용하도록 구성되어 있는지 확인하세요.
7.1.4.3. 클러스터 자동 스케일러의 GPU 머신 세트 레이블 지정
링크 복사

클러스터 자동 확장기가 GPU 지원 노드를 배포하는 데 사용할 수 있는 머신을 나타내기 위해 머신 세트 레이블을 사용할 수 있습니다.

사전 요구 사항

  • 귀하의 클러스터는 클러스터 자동 확장기를 사용합니다.

프로세스

  • GPU 지원 노드를 배포하는 데 사용할 클러스터 자동 확장기에 대한 머신을 생성하려는 머신 세트에서 cluster-api/accelerator 레이블을 추가합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  name: machine-set-name
spec:
  template:
    spec:
      metadata:
        labels:
          cluster-api/accelerator: nvidia-t4
    1
    Copy to Clipboard Toggle word wrap
    1
    영숫자 문자( - , _ , 또는 .) 로 구성되고 영숫자 문자로 시작하고 끝나는 원하는 레이블을 지정하세요. 예를 들어, Nvidia T4 GPU를 나타내려면 nvidia-t4를 사용하고, A10G GPU를 나타내려면 nvidia-a10g를 사용할 수 있습니다.
    참고

    ClusterAutoscaler CR의 spec.resourceLimits.gpus.type 매개변수에 대해 이 레이블의 값을 지정해야 합니다. 자세한 내용은 "클러스터 자동 확장 리소스 정의"를 참조하세요.

7.1.5. 클러스터 자동 스케일러 배포
링크 복사

클러스터 자동 확장기를 배포하려면 ClusterAutoscaler 리소스의 인스턴스를 만듭니다.

프로세스

  1. 사용자 정의 리소스 정의가 포함된 ClusterAutoscaler 리소스에 대한 YAML 파일을 만듭니다.

  2. 다음 명령을 실행하여 클러스터에 사용자 지정 리소스를 만듭니다. 

    $ oc create -f <filename>.yaml
    1
    Copy to Clipboard Toggle word wrap
    1
    <파일 이름> 은 사용자 정의 리소스 파일의 이름입니다.

다음 단계

7.2. 머신 자동 스케일러 정보
링크 복사

머신 자동 확장기는 OpenShift Container Platform 클러스터에 배포하는 컴퓨팅 머신 세트의 머신 수를 조정합니다. 기본 worker 컴퓨팅 머신 세트와 사용자가 생성한 다른 컴퓨팅 머신 세트를 모두 확장할 수 있습니다. 머신 자동 스케일러는 클러스터에 더 많은 배포를 지원하기에 충분한 리소스가 없으면 Machine을 추가합니다. MachineAutoscaler 리소스의 값에 대한 변경 사항(예: 최소 또는 최대 인스턴스 수)은 대상으로 하는 컴퓨팅 머신 세트에 즉시 적용됩니다.

중요

머신을 확장하려면 클러스터 자동 스케일러의 머신 자동 스케일러를 배포해야합니다. 클러스터 자동 확장기는 머신 자동 확장기가 설정한 컴퓨팅 머신 세트의 주석을 사용하여 확장 가능한 리소스를 결정합니다. 머신 자동 스케일러도 정의하지 않고 클러스터 자동 스케일러를 정의하면 클러스터 자동 스케일러는 클러스터를 확장하지 않습니다.

7.2.1. 머신 자동 확장기 구성
링크 복사

클러스터 자동 확장기를 배포한 후 클러스터를 확장하는 데 사용되는 컴퓨팅 머신 세트를 참조하는 MachineAutoscaler 리소스를 배포합니다.

중요

ClusterAutoscaler 리소스를 배포 한 후 하나 이상의 MachineAutoscaler 리소스를 배포해야합니다.

참고

각 컴퓨팅 머신 세트에 대해 별도의 리소스를 구성해야 합니다. 각 지역마다 컴퓨팅 머신 세트가 다르므로 여러 지역에서 머신 확장을 활성화할지 여부를 고려하세요. 확장하는 컴퓨팅 머신 세트에는 최소한 하나의 머신이 있어야 합니다.

7.2.1.1. 머신 자동 확장 리소스 정의
링크 복사

이 MachineAutoscaler 리소스 정의는 머신 자동 스케일러의 매개 변수 및 샘플 값을 표시합니다. 

apiVersion: "autoscaling.openshift.io/v1beta1"
kind: "MachineAutoscaler"
metadata:
  name: "worker-us-east-1a"
1 

  namespace: "openshift-machine-api"
spec:
  minReplicas: 1
2 

  maxReplicas: 12
3 

  scaleTargetRef:
4 

    apiVersion: machine.openshift.io/v1beta1
    kind: MachineSet
5 

    name: worker-us-east-1a
6
Copy to Clipboard Toggle word wrap
1
머신 자동 스케일러 이름을 지정합니다. 이 머신 자동 확장기가 확장하는 컴퓨팅 머신 세트를 더 쉽게 식별할 수 있도록 확장할 컴퓨팅 머신 세트의 이름을 지정하거나 포함하세요. 컴퓨팅 머신 세트 이름의 형식은 <clusterid>-<machineset>-<region>입니다.
2
클러스터 자동 스케일러가 클러스터 스케일링을 시작한 후 지정된 영역에 남아 있어야하는 지정된 유형의 최소 머신 수를 지정하십시오. AWS, GCP, Azure, RHOSP, vSphere에서 실행중인 경우 이 값을 0으로 설정할 수 있습니다. 다른 공급 업체의 경우 이 값을 0으로 설정하지 마십시오.

값비싸거나 사용이 제한된 하드웨어를 특수 워크로드에 사용하거나, 초대형 머신으로 컴퓨팅 머신 세트를 확장하는 경우 이 값을 0 으로 설정하면 비용을 절감할 수 있습니다. 시스템을 사용하지 않는 경우 클러스터 자동 스케일러는 컴퓨팅 머신 세트를 0으로 축소합니다.

중요

설치 프로그램 프로비저닝 인프라에 대한 OpenShift Container Platform 설치 프로세스 중에 생성되는 세 개의 컴퓨팅 머신 세트에 대해 spec.minReplicas 값을 0 으로 설정하지 마세요.

3
클러스터 자동 확장기가 클러스터 확장을 시작한 후 지정된 영역에 배포할 수 있는 지정된 유형의 최대 머신 수를 지정합니다. ClusterAutoscaler 리소스 정의에서 maxNodesTotal 값이 머신 자동 스케일러가 머신 수를 배포할 수 있는 충분한 크기의 값임을 확인합니다.
4
이 섹션에서는 확장할 기존 컴퓨팅 머신 세트를 설명하는 값을 제공합니다.
5
kind 매개 변수 값은 항상 MachineSet입니다.
6
metadata.name 매개변수 값에 표시된 대로 name 값은 기존 컴퓨팅 머신 세트의 이름과 일치해야 합니다.

7.2.2. 머신 자동 스케일러 배포
링크 복사

머신 자동 확장기를 배포하려면 MachineAutoscaler 리소스의 인스턴스를 만듭니다.

프로세스

  1. 사용자 정의 리소스 정의가 포함된 MachineAutoscaler 리소스에 대한 YAML 파일을 만듭니다.

  2. 다음 명령을 실행하여 클러스터에 사용자 지정 리소스를 만듭니다. 

    $ oc create -f <filename>.yaml
    1
    Copy to Clipboard Toggle word wrap
    1
    <파일 이름> 은 사용자 정의 리소스 파일의 이름입니다.

7.3. 자동 크기 조정 비활성화
링크 복사

클러스터에서 개별 머신 자동 확장기를 비활성화하거나 클러스터 전체에서 자동 확장을 비활성화할 수 있습니다.

7.3.1. 머신 자동 확장기 비활성화
링크 복사

머신 자동 확장기를 비활성화하려면 해당 MachineAutoscaler 사용자 정의 리소스(CR)를 삭제합니다.

참고

머신 자동 확장기를 비활성화해도 클러스터 자동 확장기는 비활성화되지 않습니다. 클러스터 자동 확장기를 비활성화하려면 "클러스터 자동 확장기 비활성화"의 지침을 따르세요.

프로세스

  1. 다음 명령을 실행하여 클러스터의 MachineAutoscaler CR을 나열합니다. 

    $ oc get MachineAutoscaler -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                 REF KIND     REF NAME             MIN   MAX   AGE
compute-us-east-1a   MachineSet   compute-us-east-1a   1     12    39m
compute-us-west-1a   MachineSet   compute-us-west-1a   2     4     37m
    Copy to Clipboard Toggle word wrap

  2. 선택 사항: 다음 명령을 실행하여 MachineAutoscaler CR의 YAML 파일 백업을 만듭니다. 

    $ oc get MachineAutoscaler/<machine_autoscaler_name> \
    1 
    
  -n openshift-machine-api \
  -o yaml> <machine_autoscaler_name_backup>.yaml
    2
    Copy to Clipboard Toggle word wrap
    1
    <machine_autoscaler_name> 은 삭제하려는 CR의 이름입니다.
    2
    <machine_autoscaler_name_backup> 은 CR 백업의 이름입니다.

  3. 다음 명령을 실행하여 MachineAutoscaler CR을 삭제합니다. 

    $ oc delete MachineAutoscaler/<machine_autoscaler_name> -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    machineautoscaler.autoscaling.openshift.io "compute-us-east-1a" deleted
    Copy to Clipboard Toggle word wrap

검증

  • 머신 자동 확장 기능이 비활성화되었는지 확인하려면 다음 명령을 실행하세요. 

    $ oc get MachineAutoscaler -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    비활성화된 머신 자동 확장기는 머신 자동 확장기 목록에 나타나지 않습니다.

다음 단계

  • 머신 자동 확장기를 다시 활성화해야 하는 경우 <machine_autoscaler_name_backup>.yaml 백업 파일을 사용하고 "머신 자동 확장기 배포"의 지침을 따르세요.

7.3.2. 클러스터 자동 스케일러 비활성화
링크 복사

클러스터 자동 확장기를 비활성화하려면 해당 ClusterAutoscaler 리소스를 삭제합니다.

참고

클러스터 자동 확장기를 비활성화하면 클러스터에 기존 머신 자동 확장기가 있는 경우에도 클러스터에서 자동 확장이 비활성화됩니다.

프로세스

  1. 다음 명령을 실행하여 클러스터의 ClusterAutoscaler 리소스를 나열합니다. 

    $ oc get ClusterAutoscaler
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME      AGE
default   42m
    Copy to Clipboard Toggle word wrap

  2. 선택 사항: 다음 명령을 실행하여 ClusterAutoscaler CR의 YAML 파일 백업을 만듭니다. 

    $ oc get ClusterAutoscaler/default \
    1 
    
  -o yaml> <cluster_autoscaler_backup_name>.yaml
    2
    Copy to Clipboard Toggle word wrap
    1
    default는 ClusterAutoscaler CR의 이름입니다.
    2
    <cluster_autoscaler_backup_name> 은 CR 백업의 이름입니다.

  3. 다음 명령을 실행하여 ClusterAutoscaler CR을 삭제합니다. 

    $ oc delete ClusterAutoscaler/default
    Copy to Clipboard Toggle word wrap

    출력 예

    clusterautoscaler.autoscaling.openshift.io "default" deleted
    Copy to Clipboard Toggle word wrap

검증

  • 클러스터 자동 확장기가 비활성화되었는지 확인하려면 다음 명령을 실행하세요. 

    $ oc get ClusterAutoscaler
    Copy to Clipboard Toggle word wrap

    예상 출력

    No resources found
    Copy to Clipboard Toggle word wrap

다음 단계

  • ClusterAutoscaler CR을 삭제하여 클러스터 자동 확장기를 비활성화하면 클러스터가 자동 확장되지 않지만 클러스터에 있는 기존 머신 자동 확장기는 삭제되지 않습니다. 불필요한 머신 자동 확장기를 정리하려면 "머신 자동 확장기 비활성화"를 참조하세요.
  • 클러스터 자동 확장기를 다시 활성화해야 하는 경우 <cluster_autoscaler_name_backup>.yaml 백업 파일을 사용하고 "클러스터 자동 확장기 배포"의 지침을 따르세요.

8장. 인프라 머신 세트 생성
링크 복사

중요

머신 API가 작동하는 클러스터에서만 고급 머신 관리 및 스케일링 기능을 사용할 수 있습니다. 사용자 제공 인프라가 있는 클러스터는 Machine API를 사용하기 위해 추가적인 검증 및 구성이 필요합니다.

인프라 플랫폼 유형이 none인 클러스터는 Machine API를 사용할 수 없습니다. 이러한 제한은 클러스터에 연결된 컴퓨팅 머신이 해당 기능을 지원하는 플랫폼에 설치된 경우에도 적용됩니다. 설치 후에는 이 매개변수를 변경할 수 없습니다.

클러스터의 플랫폼 유형을 보려면 다음 명령을 실행하세요. 

$ oc get infrastructure cluster -o jsonpath='{.status.platform}'
Copy to Clipboard Toggle word wrap

인프라 머신 세트를 사용하면 기본 라우터, 통합 컨테이너 이미지 레지스트리, 클러스터 메트릭 및 모니터링을 위한 구성 요소와 같은 인프라 구성 요소만 호스팅하는 머신을 생성할 수 있습니다. 이러한 인프라 머신은 환경을 실행하는 데 필요한 총 구독 수에 포함되지 않습니다.

프로덕션 배포에서는 인프라 구성 요소를 유지하기 위해 3개 이상의 머신 세트를 배포하는 것이 좋습니다. Red Hat OpenShift Service Mesh는 Elasticsearch를 배포하는데, 이를 위해서는 서로 다른 노드에 세 개의 인스턴스를 설치해야 합니다. 각 노드는 높은 가용성을 위해 서로 다른 가용성 영역에 배포될 수 있습니다. 이 구성에는 각 가용성 영역마다 하나씩, 총 3개의 서로 다른 머신 세트가 필요합니다. 여러 가용성 영역이 없는 글로벌 Azure 리전에서는 가용성 세트를 사용하여 고가용성을 보장할 수 있습니다.

8.1. OpenShift Container Platform 인프라 구성 요소
링크 복사

각 자체 관리형 Red Hat OpenShift 구독에는 OpenShift Container Platform 및 기타 OpenShift 관련 구성 요소에 대한 권한이 포함되어 있습니다. 이러한 권한은 OpenShift Container Platform 제어 평면 및 인프라 워크로드를 실행하는 데 포함되며 크기 조정 중에 고려할 필요가 없습니다.

인프라 노드로 적격을 갖추고 포함된 권한을 사용하려면 최종 사용자 애플리케이션의 일부가 아닌 클러스터를 지원하는 구성 요소만 해당 인스턴스에서 실행할 수 있습니다. 다음은 이러한 구성 요소의 예입니다.

  • Kubernetes 및 OpenShift 컨테이너 플랫폼 제어 평면 서비스
  • 기본 라우터
  • 통합된 컨테이너 이미지 레지스트리
  • HAProxy 기반 Ingress 컨트롤러
  • 사용자 정의 프로젝트를 모니터링하기위한 구성 요소를 포함한 클러스터 메트릭 수집 또는 모니터링 서비스
  • 클러스터 집계 로깅
  • 레드햇 키
  • Red Hat OpenShift Data Foundation
  • Red Hat Advanced Cluster Security for Kubernetes
  • Red Hat Advanced Cluster Security for Kubernetes
  • Red Hat OpenShift GitOps
  • Red Hat OpenShift Pipelines
  • Red Hat OpenShift 서비스 메시

다른 컨테이너, Pod 또는 구성 요소를 실행하는 모든 노드는 서브스크립션을 적용해야 하는 작업자 노드입니다.

인프라 노드에 대한 정보와 인프라 노드에서 실행할 수 있는 구성 요소에 대한 자세한 내용은 Enterprise Kubernetes 문서에 있는 OpenShift 크기 조정 및 구독 가이드 의 "Red Hat OpenShift 제어 평면 및 인프라 노드" 섹션을 참조하세요.

인프라 노드를 생성하려면 머신 세트를 사용하거나노드에 레이블을 지정하거나 머신 구성 풀을 사용할 수 있습니다.

8.2. 프로덕션 환경의 인프라 머신 세트 생성
링크 복사

프로덕션 배포에서는 인프라 구성 요소를 유지하기 위해 컴퓨팅 머신 세트를 3개 이상 배포하는 것이 좋습니다. Red Hat OpenShift Service Mesh는 Elasticsearch를 배포하는데, 이를 위해서는 서로 다른 노드에 세 개의 인스턴스를 설치해야 합니다. 각 노드는 높은 가용성을 위해 서로 다른 가용성 영역에 배포될 수 있습니다. 이와 같은 구성에는 가용성 영역마다 하나씩 3개의 서로 다른 컴퓨팅 시스템 세트가 필요합니다. 여러 가용성 영역이 없는 글로벌 Azure 리전에서는 가용성 세트를 사용하여 고가용성을 보장할 수 있습니다.

8.2.1. 다양한 클라우드를 위한 인프라 머신 세트 생성
링크 복사

클라우드에 샘플 컴퓨팅 머신 세트를 사용합니다.

8.2.1.1. AWS의 컴퓨팅 머신 세트 사용자 정의 리소스에 대한 샘플 YAML
링크 복사

샘플 YAML은 us-east-1a Amazon Web Services(AWS) 로컬 영역에서 실행되는 컴퓨팅 머신 세트를 정의하고 node-role.kubernetes.io/infra: "" 로 레이블이 지정된 노드를 생성합니다.

이 샘플에서 <infrastructure_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 <infra>는 추가할 노드 레이블입니다. 

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

  name: <infrastructure_id>-infra-<zone>
2 

  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-infra-<zone>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: infra
3 

        machine.openshift.io/cluster-api-machine-type: infra
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-infra-<zone>
    spec:
      metadata:
        labels:
          node-role.kubernetes.io/infra: ""
      providerSpec:
        value:
          ami:
            id: ami-046fe691f52a953f9
4 

          apiVersion: machine.openshift.io/v1beta1
          blockDevices:
            - ebs:
                iops: 0
                volumeSize: 120
                volumeType: gp2
          credentialsSecret:
            name: aws-cloud-credentials
          deviceIndex: 0
          iamInstanceProfile:
            id: <infrastructure_id>-worker-profile
          instanceType: m6i.large
          kind: AWSMachineProviderConfig
          placement:
            availabilityZone: <zone>
5 

            region: <region>
6 

          securityGroups:
            - filters:
                - name: tag:Name
                  values:
                    - <infrastructure_id>-node
            - filters:
                - name: tag:Name
                  values:
                    - <infrastructure_id>-lb
          subnet:
            filters:
              - name: tag:Name
                values:
                  - <infrastructure_id>-private-<zone>
7 

          tags:
            - name: kubernetes.io/cluster/<infrastructure_id>
              value: owned
            - name: <custom_tag_name>
8 

              value: <custom_tag_value>
          userDataSecret:
            name: worker-user-data
      taints:
9 

        - key: node-role.kubernetes.io/infra
          effect: NoSchedule
Copy to Clipboard Toggle word wrap
1
클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID를 지정합니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap
2
인프라 ID, 인프라 역할 노드 레이블 및 영역을 지정합니다.
3
인프라 역할 노드 레이블을 지정합니다.
4
OpenShift Container Platform 노드의 AWS 영역에 유효한 Red Hat Enterprise Linux CoreOS(RHCOS) Amazon Machine Image(AMI)를 지정하세요. AWS Marketplace 이미지를 사용하려면 AWS Marketplace 에서 OpenShift Container Platform 구독을 완료하여 해당 지역의 AMI ID를 얻어야 합니다. 
$ oc -n openshift-machine-api \
    -o jsonpath='{.spec.template.spec.providerSpec.value.ami.id}{"\n"}' \
    get machineset/<infrastructure_id>-<role>-<zone>
Copy to Clipboard Toggle word wrap
5
영역 이름을 지정합니다(예: us-east-1a) .
6
예를 들어 us-east-1과 같이 지역을 지정합니다.
7
인프라 ID와 영역을 지정합니다.
8
선택 사항: 클러스터에 대한 사용자 정의 태그 데이터를 지정합니다. 예를 들어 Email:admin-email@example.com의 name:value 쌍을 지정하여 관리자 연락처 이메일 주소를 추가할 수 있습니다.
참고

사용자 정의 태그는 install-config.yml 파일에서 설치하는 동안 지정할 수도 있습니다. install-config.yml 파일과 머신 세트에 동일한 name 데이터가 있는 태그가 포함된 경우 머신 세트의 태그 값이 install-config.yml 파일의 태그 값보다 우선합니다.

9
사용자 워크로드가 infra 노드에서 예약되지 않도록 테인트를 지정합니다.
참고

인프라 노드에 NoSchedule 테인트를 추가하면 해당 노드에서 실행 중인 기존 DNS Pod가 misscheduled로 표시됩니다. misscheduled DNS Pod에서 허용 오차를 삭제하거나 추가해야 합니다.

AWS에서 실행되는 머신 세트는 보장되지 않는 Spot 인스턴스를 지원합니다. AWS의 온 디맨드 인스턴스에 비해 저렴한 가격으로 Spot 인스턴스를 사용하여 비용을 절약할 수 있습니다. MachineSet YAML 파일에 spotMarketOptions를 추가하여 Spot 인스턴스를 구성합니다 .

8.2.1.2. Azure의 컴퓨팅 머신 세트 사용자 지정 리소스에 대한 샘플 YAML
링크 복사

이 샘플 YAML은 지역의 1개 Microsoft Azure 영역에서 실행되는 컴퓨팅 머신 세트를 정의하고 node-role.kubernetes.io/infra: "" 로 레이블이 지정된 노드를 생성합니다.

이 샘플에서 <infrastructure_id> 는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이고, infra는 추가할 노드 레이블입니다. 

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

    machine.openshift.io/cluster-api-machine-role: infra
2 

    machine.openshift.io/cluster-api-machine-type: infra
  name: <infrastructure_id>-infra-<region>
3 

  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-infra-<region>
  template:
    metadata:
      creationTimestamp: null
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: infra
        machine.openshift.io/cluster-api-machine-type: infra
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-infra-<region>
    spec:
      metadata:
        creationTimestamp: null
        labels:
          machine.openshift.io/cluster-api-machineset: <machineset_name>
          node-role.kubernetes.io/infra: ""
      providerSpec:
        value:
          apiVersion: machine.openshift.io/v1beta1
          credentialsSecret:
            name: azure-cloud-credentials
            namespace: openshift-machine-api
          image:
4 

            offer: ""
            publisher: ""
            resourceID: /resourceGroups/<infrastructure_id>-rg/providers/Microsoft.Compute/galleries/gallery_<infrastructure_id>/images/<infrastructure_id>-gen2/versions/latest
5 

            sku: ""
            version: ""
          internalLoadBalancer: ""
          kind: AzureMachineProviderSpec
          location: <region>
6 

          managedIdentity: <infrastructure_id>-identity
          metadata:
            creationTimestamp: null
          natRule: null
          networkResourceGroup: ""
          osDisk:
            diskSizeGB: 128
            managedDisk:
              storageAccountType: Premium_LRS
            osType: Linux
          publicIP: false
          publicLoadBalancer: ""
          resourceGroup: <infrastructure_id>-rg
          sshPrivateKey: ""
          sshPublicKey: ""
          tags:
            - name: <custom_tag_name>
7 

              value: <custom_tag_value>
          subnet: <infrastructure_id>-<role>-subnet
          userDataSecret:
            name: worker-user-data
          vmSize: Standard_D4s_v3
          vnet: <infrastructure_id>-vnet
          zone: "1"
8 

      taints:
9 

      - key: node-role.kubernetes.io/infra
        effect: NoSchedule
Copy to Clipboard Toggle word wrap
1
클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID를 지정합니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap

다음 명령을 실행하여 서브넷을 가져올 수 있습니다. 

$  oc -n openshift-machine-api \
    -o jsonpath='{.spec.template.spec.providerSpec.value.subnet}{"\n"}' \
    get machineset/<infrastructure_id>-worker-centralus1
Copy to Clipboard Toggle word wrap

다음 명령을 실행하여 vnet을 가져올 수 있습니다. 

$  oc -n openshift-machine-api \
    -o jsonpath='{.spec.template.spec.providerSpec.value.vnet}{"\n"}' \
    get machineset/<infrastructure_id>-worker-centralus1
Copy to Clipboard Toggle word wrap
2
인프라 노드 레이블을 지정합니다.
3
인프라 ID, 인프라 노드 레이블, 지역을 지정합니다.
4
컴퓨팅 머신 세트의 이미지 세부 정보를 지정합니다. Azure Marketplace 이미지를 사용하려면 "Azure Marketplace 제공 사용"을 참조하세요.
5
인스턴스 유형과 호환되는 이미지를 지정하세요. 설치 프로그램에서 생성된 Hyper-V 세대 V2 이미지에는 -gen2 접미사가 붙는 반면, V1 이미지는 접미사 없이 동일한 이름을 갖습니다.
6
기계를 배치할 지역을 지정하세요.
7
선택 사항: 머신 세트에서 사용자 정의 태그를 지정합니다. <custom_tag_name> 필드에 태그 이름을 입력하고, <custom_tag_value> 필드에 해당 태그 값을 입력합니다.
8
머신을 배치할 리전 내 영역을 지정합니다. 해당 지역이 지정한 구역을 지원하는지 확인하세요.
중요

해당 지역에서 가용성 영역을 지원하는 경우 가용성 영역을 지정해야 합니다. 영역을 지정하면 포드에 영구 볼륨 연결이 필요할 때 볼륨 노드 친화성 실패가 방지됩니다. 이를 위해 동일한 지역의 각 영역에 대한 컴퓨팅 머신 세트를 만들 수 있습니다.

9
사용자 워크로드가 인프라 노드에서 예약되지 않도록 테인트를 지정합니다.
참고

인프라 노드에 NoSchedule 테인트를 추가하면 해당 노드에서 실행 중인 기존 DNS Pod가 misscheduled로 표시됩니다. misscheduled DNS Pod에서 허용 오차를 삭제하거나 추가해야 합니다.

Azure에서 실행되는 머신 세트는 보장되지 않는 Spot VM을 지원합니다. Azure의 표준 가상 머신에 비해 더 낮은 가격으로 Spot 가상 머신을 사용하여 비용을 절감할 수 있습니다. MachineSet YAML 파일에 spotVMOptions를 추가하여 Spot VM을 구성 할 수 있습니다.

이 샘플 YAML은 지역의 1개 Microsoft Azure 영역에서 실행되는 컴퓨팅 머신 세트를 정의하고 node-role.kubernetes.io/infra: "" 로 레이블이 지정된 노드를 생성합니다.

이 샘플에서 <infrastructure_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 <infra>는 추가할 노드 레이블입니다. 

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

    machine.openshift.io/cluster-api-machine-role: <infra>
2 

    machine.openshift.io/cluster-api-machine-type: <infra>
3 

  name: <infrastructure_id>-infra-<region>
4 

  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
5 

      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-infra-<region>
6 

  template:
    metadata:
      creationTimestamp: null
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
7 

        machine.openshift.io/cluster-api-machine-role: <infra>
8 

        machine.openshift.io/cluster-api-machine-type: <infra>
9 

        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-infra-<region>
10 

    spec:
      metadata:
        creationTimestamp: null
        labels:
          node-role.kubernetes.io/infra: ""
11 

      taints:
12 

      - key: node-role.kubernetes.io/infra
        effect: NoSchedule
      providerSpec:
        value:
          apiVersion: machine.openshift.io/v1beta1
          availabilitySet: <availability_set>
13 

          credentialsSecret:
            name: azure-cloud-credentials
            namespace: openshift-machine-api
          image:
            offer: ""
            publisher: ""
            resourceID: /resourceGroups/<infrastructure_id>-rg/providers/Microsoft.Compute/images/<infrastructure_id>
14 

            sku: ""
            version: ""
          internalLoadBalancer: ""
          kind: AzureMachineProviderSpec
          location: <region>
15 

          managedIdentity: <infrastructure_id>-identity
16 

          metadata:
            creationTimestamp: null
          natRule: null
          networkResourceGroup: ""
          osDisk:
            diskSizeGB: 128
            managedDisk:
              storageAccountType: Premium_LRS
            osType: Linux
          publicIP: false
          publicLoadBalancer: ""
          resourceGroup: <infrastructure_id>-rg
17 

          sshPrivateKey: ""
          sshPublicKey: ""
          subnet: <infrastructure_id>-<role>-subnet
18
19 

          userDataSecret:
            name: worker-user-data
20 

          vmSize: Standard_DS4_v2
          vnet: <infrastructure_id>-vnet
21 

          zone: "1"
22
Copy to Clipboard Toggle word wrap
1 5 7 14 16 17 18 21
클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID를 지정합니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap

다음 명령을 실행하여 서브넷을 가져올 수 있습니다. 

$  oc -n openshift-machine-api \
    -o jsonpath='{.spec.template.spec.providerSpec.value.subnet}{"\n"}' \
    get machineset/<infrastructure_id>-worker-centralus1
Copy to Clipboard Toggle word wrap

다음 명령을 실행하여 vnet을 가져올 수 있습니다. 

$  oc -n openshift-machine-api \
    -o jsonpath='{.spec.template.spec.providerSpec.value.vnet}{"\n"}' \
    get machineset/<infrastructure_id>-worker-centralus1
Copy to Clipboard Toggle word wrap
2 3 8 9 11 19 20
<infra> 노드 레이블을 지정합니다.
4 6 10
인프라 ID, <infra> 노드 레이블 및 리전을 지정합니다.
12
사용자 워크로드가 인프라 노드에서 예약되지 않도록 테인트를 지정합니다.
참고

인프라 노드에 NoSchedule 테인트를 추가하면 해당 노드에서 실행 중인 기존 DNS Pod가 misscheduled로 표시됩니다. misscheduled DNS Pod에서 허용 오차를 삭제하거나 추가해야 합니다.

15
머신을 배치할 리전을 지정합니다.
13
클러스터의 가용성 세트를 지정합니다.
22
머신을 배치할 리전 내 영역을 지정합니다. 해당 리전이 지정한 영역을 지원하는지 확인합니다.
참고

Azure Stack Hub에서 실행되는 머신 세트는 보장되지 않는 Spot 가상 머신을 지원하지 않습니다.

8.2.1.4. IBM Cloud에서 컴퓨팅 머신 세트 사용자 정의 리소스의 샘플 YAML
링크 복사

이 샘플 YAML은 리전의 지정된 IBM Cloud® 영역에서 실행되는 컴퓨팅 머신 세트를 정의하고 node-role.kubernetes.io/infra: "" 로 레이블이 지정된 노드를 생성합니다.

이 샘플에서 <infrastructure_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 <infra>는 추가할 노드 레이블입니다. 

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

    machine.openshift.io/cluster-api-machine-role: <infra>
2 

    machine.openshift.io/cluster-api-machine-type: <infra>
3 

  name: <infrastructure_id>-<infra>-<region>
4 

  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
5 

      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<infra>-<region>
6 

  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
7 

        machine.openshift.io/cluster-api-machine-role: <infra>
8 

        machine.openshift.io/cluster-api-machine-type: <infra>
9 

        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<infra>-<region>
10 

    spec:
      metadata:
        labels:
          node-role.kubernetes.io/infra: ""
      providerSpec:
        value:
          apiVersion: ibmcloudproviderconfig.openshift.io/v1beta1
          credentialsSecret:
            name: ibmcloud-credentials
          image: <infrastructure_id>-rhcos
11 

          kind: IBMCloudMachineProviderSpec
          primaryNetworkInterface:
              securityGroups:
              - <infrastructure_id>-sg-cluster-wide
              - <infrastructure_id>-sg-openshift-net
              subnet: <infrastructure_id>-subnet-compute-<zone>
12 

          profile: <instance_profile>
13 

          region: <region>
14 

          resourceGroup: <resource_group>
15 

          userDataSecret:
              name: <role>-user-data
16 

          vpc: <vpc_name>
17 

          zone: <zone>
18 

        taints:
19 

        - key: node-role.kubernetes.io/infra
          effect: NoSchedule
Copy to Clipboard Toggle word wrap
1 5 7
클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID를 지정합니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap
2 3 8 9 16
<infra> 노드 레이블입니다.
4 6 10
인프라 ID, <infra> 노드 레이블 및 리전입니다.
11
클러스터 설치에 사용된 사용자 지정 RHCOS(Red Hat Enterprise Linux CoreOS) 이미지입니다.
12
머신을 배치할 리전 내의 인프라 ID 및 영역입니다. 해당 리전이 지정한 영역을 지원하는지 확인합니다.
13
IBM Cloud® 인스턴스 프로필을 지정합니다.
14
머신을 배치할 리전을 지정합니다.
15
시스템 리소스가 배치되는 리소스 그룹입니다. 이는 설치 시 지정된 기존 리소스 그룹 또는 인프라 ID를 기반으로 이름이 지정된 설치 관리자 생성 리소스 그룹입니다.
17
VPC 이름입니다.
18
머신을 배치할 리전 내 영역을 지정합니다. 해당 리전이 지정한 영역을 지원하는지 확인합니다.
19
사용자 워크로드가 인프라 노드에서 예약되지 않도록 테인트를 지정합니다.
참고

인프라 노드에 NoSchedule 테인트를 추가하면 해당 노드에서 실행 중인 기존 DNS Pod가 misscheduled로 표시됩니다. misscheduled DNS Pod에서 허용 오차를 삭제하거나 추가해야 합니다.

8.2.1.5. GCP에서 컴퓨팅 머신 세트 사용자 정의 리소스의 샘플 YAML
링크 복사

이 샘플 YAML은 GCP(Google Cloud Platform)에서 실행되는 컴퓨팅 머신 세트를 정의하고 node-role.kubernetes.io/<role>: ""로 레이블이 지정된 노드를 생성합니다. 여기서 <role> 은 추가할 노드 레이블입니다.

8.2.1.5.1. OpenShift CLI를 사용하여 얻은 값
링크 복사

다음 예제에서는 OpenShift CLI를 사용하여 클러스터의 일부 값을 가져올 수 있습니다.

인프라 ID

<infrastructure_id>문자열은 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID입니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 

$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap
이미지 경로

<path_to_image> 문자열은 디스크를 생성하는 데 사용된 이미지의 경로입니다. OpenShift CLI가 설치되어 있으면 다음 명령을 실행하여 이미지에 대한 경로를 얻을 수 있습니다. 

$ oc -n openshift-machine-api \
  -o jsonpath='{.spec.template.spec.providerSpec.value.disks[0].image}{"\n"}' \
  get machineset/<infrastructure_id>-worker-a
Copy to Clipboard Toggle word wrap

샘플 GCP MachineSet 값

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

  name: <infrastructure_id>-w-a
  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-w-a
  template:
    metadata:
      creationTimestamp: null
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <infra>
2 

        machine.openshift.io/cluster-api-machine-type: <infra>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-w-a
    spec:
      metadata:
        labels:
          node-role.kubernetes.io/infra: ""
      providerSpec:
        value:
          apiVersion: machine.openshift.io/v1beta1
          canIPForward: false
          credentialsSecret:
            name: gcp-cloud-credentials
          deletionProtection: false
          disks:
          - autoDelete: true
            boot: true
            image: <path_to_image>
3 

            labels: null
            sizeGb: 128
            type: pd-ssd
          gcpMetadata:
4 

          - key: <custom_metadata_key>
            value: <custom_metadata_value>
          kind: GCPMachineProviderSpec
          machineType: n1-standard-4
          metadata:
            creationTimestamp: null
          networkInterfaces:
          - network: <infrastructure_id>-network
            subnetwork: <infrastructure_id>-worker-subnet
          projectID: <project_name>
5 

          region: us-central1
          serviceAccounts:
6 

          - email: <infrastructure_id>-w@<project_name>.iam.gserviceaccount.com
            scopes:
            - https://www.googleapis.com/auth/cloud-platform
          tags:
            - <infrastructure_id>-worker
          userDataSecret:
            name: worker-user-data
          zone: us-central1-a
      taints:
7 

      - key: node-role.kubernetes.io/infra
        effect: NoSchedule
Copy to Clipboard Toggle word wrap

1
<infrastructure_id>의 경우 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID를 지정합니다.
2
<infra>의 경우 <infra> 노드 레이블을 지정합니다.
3
현재 컴퓨팅 머신 세트에 사용되는 이미지의 경로를 지정합니다.

GCP Marketplace 이미지를 사용하려면 사용할 제안을 지정합니다.

  • OpenShift Container Platform: https://www.googleapis.com/compute/v1/projects/redhat-marketplace-public/global/images/redhat-coreos-ocp-413-x86-64-202305021736
  • OpenShift Platform Plus: https://www.googleapis.com/compute/v1/projects/redhat-marketplace-public/global/images/redhat-coreos-opp-413-x86-64-202305021736
  • OpenShift Kubernetes Engine: https://www.googleapis.com/compute/v1/projects/redhat-marketplace-public/global/images/redhat-coreos-oke-413-x86-64-202305021736
4
선택 사항: key:value 쌍 형식으로 사용자 지정 메타데이터를 지정합니다. 사용 사례의 예는 사용자 정의 메타데이터 설정에 대한 GCP 설명서를 참조하십시오.
5
<project_name>의 경우 클러스터에 사용하는 GCP 프로젝트의 이름을 지정합니다.
6
단일 서비스 계정을 지정합니다. 여러 서비스 계정이 지원되지 않습니다.
7
사용자 워크로드가 인프라 노드에서 예약되지 않도록 테인트를 지정합니다.
참고

인프라 노드에 NoSchedule 테인트를 추가하면 해당 노드에서 실행 중인 기존 DNS Pod가 misscheduled로 표시됩니다. misscheduled DNS Pod에서 허용 오차를 삭제하거나 추가해야 합니다.

GCP에서 실행되는 머신 세트는 보장되지 않은 선점 가능한 가상 머신 인스턴스를 지원합니다. GCP의 일반 인스턴스에 비해 더 낮은 가격으로 선점 가능한 가상 머신 인스턴스를 사용하여 비용을 절감할 수 있습니다. preemptible 을 MachineSet YAML 파일에 preemptible 추가하여 선점 가능한 가상 머신 인스턴스를 구성할 수 있습니다.

8.2.1.6. Nutanix에서 컴퓨팅 머신 세트 사용자 정의 리소스의 샘플 YAML
링크 복사

이 샘플 YAML은 node-role.kubernetes.io/infra: "" 로 레이블이 지정된 노드를 생성하는 Nutanix 컴퓨팅 머신 세트를 정의합니다.

이 샘플에서 <infrastructure_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 <infra>는 추가할 노드 레이블입니다.

8.2.1.6.1. OpenShift CLI를 사용하여 얻은 값
링크 복사

다음 예제에서는 OpenShift CLI(oc)를 사용하여 클러스터의 일부 값을 가져올 수 있습니다.

인프라 ID

<infrastructure_id>문자열은 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID입니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 

$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap 
apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

    machine.openshift.io/cluster-api-machine-role: <infra>
2 

    machine.openshift.io/cluster-api-machine-type: <infra>
  name: <infrastructure_id>-<infra>-<zone>
3 

  namespace: openshift-machine-api
  annotations:
4 

    machine.openshift.io/memoryMb: "16384"
    machine.openshift.io/vCPU: "4"
spec:
  replicas: 3
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<infra>-<zone>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <infra>
        machine.openshift.io/cluster-api-machine-type: <infra>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<infra>-<zone>
    spec:
      metadata:
        labels:
          node-role.kubernetes.io/infra: ""
      providerSpec:
        value:
          apiVersion: machine.openshift.io/v1
          bootType: ""
5 

          categories:
6 

          - key: <category_name>
            value: <category_value>
          cluster:
7 

            type: uuid
            uuid: <cluster_uuid>
          credentialsSecret:
            name: nutanix-credentials
          image:
            name: <infrastructure_id>-rhcos
8 

            type: name
          kind: NutanixMachineProviderConfig
          memorySize: 16Gi
9 

          project:
10 

            type: name
            name: <project_name>
          subnets:
11 

          - type: uuid
            uuid: <subnet_uuid>
          systemDiskSize: 120Gi
12 

          userDataSecret:
            name: <user_data_secret>
13 

          vcpuSockets: 4
14 

          vcpusPerSocket: 1
15 

      taints:
16 

      - key: node-role.kubernetes.io/infra
        effect: NoSchedule
Copy to Clipboard Toggle word wrap
1
<infrastructure_id>의 경우 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID를 지정합니다.
2
<infra> 노드 레이블을 지정합니다.
3
인프라 ID, <infra> 노드 레이블 및 영역을 지정합니다.
4
클러스터 자동 스케일러에 대한 주석입니다.
5
컴퓨팅 시스템에서 사용하는 부팅 유형을 지정합니다. 부팅 유형에 대한 자세한 내용은 가상화 된 환경에서 UEFI, Secure Boot 및 TPM 이해를 참조하십시오. 유효한 값은 Legacy,SecureBoot 또는 UEFI 입니다. 기본값은 Legacy 입니다.
참고

OpenShift Container Platform 4.15에서 레거시 부팅 유형을 사용해야 합니다.

6
컴퓨팅 머신에 적용할 하나 이상의 Nutanix Prism 카테고리를 지정합니다. 이 스탠자에는 Prism Central에 존재하는 카테고리 키-값 쌍에 대한 key 및 value 매개변수가 필요합니다. 카테고리에 대한 자세한 내용은 카테고리 관리를 참조하십시오.
7
Nutanix Prism Element 클러스터 구성을 지정합니다. 이 예에서 클러스터 유형은 uuid 이므로 uuid 스탠자가 있습니다.
8
사용할 이미지를 지정합니다. 클러스터의 기존 기본 컴퓨팅 머신 세트의 이미지를 사용합니다.
9
Gi에 클러스터의 메모리 양을 지정합니다.
10
클러스터에 사용하는 Nutanix 프로젝트를 지정합니다. 이 예에서 프로젝트 유형은 name 이므로 name 스탠자가 있습니다.
11
Prism Element 서브넷 오브젝트에 대해 하나 이상의 UUID를 지정합니다. 지정된 서브넷 중 하나에 대한 CIDR IP 주소 접두사에는 OpenShift Container Platform 클러스터가 사용하는 가상 IP 주소가 포함되어야 합니다. 클러스터의 각 Prism Element 장애 도메인에 대해 최대 32 서브넷이 지원됩니다. 모든 서브넷 UUID 값은 고유해야 합니다.
12
Gi에서 시스템 디스크 크기를 지정합니다.
13
사용자 데이터 YAML 파일의 시크릿 이름을 openshift-machine-api 네임스페이스에 지정합니다. 설치 프로그램이 기본 컴퓨팅 시스템 세트에 채우는 값을 사용합니다.
14
vCPU 소켓 수를 지정합니다.
15
소켓당 vCPU 수를 지정합니다.
16
사용자 워크로드가 인프라 노드에서 예약되지 않도록 테인트를 지정합니다.
참고

인프라 노드에 NoSchedule 테인트를 추가하면 해당 노드에서 실행 중인 기존 DNS Pod가 misscheduled로 표시됩니다. misscheduled DNS Pod에서 허용 오차를 삭제하거나 추가해야 합니다.

8.2.1.7. RHOSP에서 컴퓨팅 머신 세트 사용자 정의 리소스의 샘플 YAML
링크 복사

이 샘플 YAML은 RHOSP(Red Hat OpenStack Platform)에서 실행되는 머신 세트를 정의하고 node-role.kubernetes.io/infra: "" 로 레이블이 지정된 노드를 생성합니다.

이 샘플에서 <infrastructure_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 <infra>는 추가할 노드 레이블입니다. 

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

    machine.openshift.io/cluster-api-machine-role: <infra>
2 

    machine.openshift.io/cluster-api-machine-type: <infra>
3 

  name: <infrastructure_id>-infra
4 

  namespace: openshift-machine-api
spec:
  replicas: <number_of_replicas>
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
5 

      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-infra
6 

  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
7 

        machine.openshift.io/cluster-api-machine-role: <infra>
8 

        machine.openshift.io/cluster-api-machine-type: <infra>
9 

        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-infra
10 

    spec:
      metadata:
        creationTimestamp: null
        labels:
          node-role.kubernetes.io/infra: ""
      taints:
11 

      - key: node-role.kubernetes.io/infra
        effect: NoSchedule
      providerSpec:
        value:
          apiVersion: machine.openshift.io/v1alpha1
          cloudName: openstack
          cloudsSecret:
            name: openstack-cloud-credentials
            namespace: openshift-machine-api
          flavor: <nova_flavor>
          image: <glance_image_name_or_location>
          serverGroupID: <optional_UUID_of_server_group>
12 

          kind: OpenstackProviderSpec
          networks:
13 

          - filter: {}
            subnets:
            - filter:
                name: <subnet_name>
                tags: openshiftClusterID=<infrastructure_id>
14 

          primarySubnet: <rhosp_subnet_UUID>
15 

          securityGroups:
          - filter: {}
            name: <infrastructure_id>-worker
16 

          serverMetadata:
            Name: <infrastructure_id>-worker
17 

            openshiftClusterID: <infrastructure_id>
18 

          tags:
          - openshiftClusterID=<infrastructure_id>
19 

          trunk: true
          userDataSecret:
            name: worker-user-data
20 

          availabilityZone: <optional_openstack_availability_zone>
Copy to Clipboard Toggle word wrap
1 5 7 14 16 17 18 19
클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID를 지정합니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap
2 3 8 9 20
<infra> 노드 레이블을 지정합니다.
4 6 10
인프라 ID 및 <infra> 노드 레이블을 지정합니다.
11
사용자 워크로드가 인프라 노드에서 예약되지 않도록 테인트를 지정합니다.
참고

인프라 노드에 NoSchedule 테인트를 추가하면 해당 노드에서 실행 중인 기존 DNS Pod가 misscheduled로 표시됩니다. misscheduled DNS Pod에서 허용 오차를 삭제하거나 추가해야 합니다.

12
MachineSet의 서버 그룹 정책을 설정하려면, 서버 그룹 생성에서 반환된 값을 입력합니다. 대부분의 배포에는 anti-affinity 또는 soft-anti-affinity 정책이 권장됩니다.
13
여러 네트워크에 배포해야 합니다. 여러 네트워크에 배포하는 경우 이 목록에는 primarySubnet 값으로 사용되는 네트워크를 포함해야 합니다.
15
노드 엔드포인트를 게시할 RHOSP 서브넷을 지정합니다. 일반적으로 이 서브넷은 install-config.yaml 파일에서 machineSubnet 값으로 사용되는 서브넷과 동일합니다.
8.2.1.8. vSphere에서 컴퓨팅 머신 세트 사용자 정의 리소스의 샘플 YAML
링크 복사

이 샘플 YAML은 VMware vSphere에서 실행되는 컴퓨팅 머신 세트를 정의하고 node-role.kubernetes.io/infra: "" 로 레이블이 지정된 노드를 생성합니다.

이 샘플에서 <infrastructure_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID 레이블이며 <infra>는 추가할 노드 레이블입니다. 

apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  creationTimestamp: null
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
1 

  name: <infrastructure_id>-infra
2 

  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-infra
  template:
    metadata:
      creationTimestamp: null
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: infra
3 

        machine.openshift.io/cluster-api-machine-type: infra
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-infra
    spec:
      metadata:
        creationTimestamp: null
        labels:
          node-role.kubernetes.io/infra: ""
      providerSpec:
        value:
          apiVersion: machine.openshift.io/v1beta1
          credentialsSecret:
            name: vsphere-cloud-credentials
          dataDisks:
4 

          - name: "<disk_name>"
            provisioningMode: "<mode>"
            sizeGiB: 20
          diskGiB: 120
          kind: VSphereMachineProviderSpec
          memoryMiB: 8192
          metadata:
            creationTimestamp: null
          network:
            devices:
            - networkName: "<vm_network_name>"
5 

          numCPUs: 4
          numCoresPerSocket: 1
          snapshot: ""
          template: <vm_template_name>
6 

          userDataSecret:
            name: worker-user-data
          workspace:
            datacenter: <vcenter_data_center_name>
7 

            datastore: <vcenter_datastore_name>
8 

            folder: <vcenter_vm_folder_path>
9 

            resourcepool: <vsphere_resource_pool>
10 

            server: <vcenter_server_ip>
11 

      taints:
12 

      - key: node-role.kubernetes.io/infra
        effect: NoSchedule
Copy to Clipboard Toggle word wrap
1
클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID를 지정합니다. OpenShift CLI (oc) 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap
2
인프라 ID 및 <infra> 노드 레이블을 지정합니다.
3
<infra> 노드 레이블을 지정합니다.
4
하나 이상의 데이터 디스크 정의를 지정합니다. 자세한 내용은 "머신 세트를 사용하여 데이터 디스크 구성"을 참조하십시오.
5
컴퓨팅 머신 세트를 배포할 vSphere VM 네트워크를 지정합니다. 이 VM 네트워크는 클러스터에 다른 Linux 컴퓨팅 시스템이 상주하는 위치여야 합니다.
6
사용할 vSphere VM 템플릿 (예: user-5ddjd-rhcos)을 지정합니다.
7
컴퓨팅 머신 세트를 배포할 vCenter Datacenter를 지정합니다.
8
컴퓨팅 머신 세트를 배포할 vCenter 데이터 저장소를 지정합니다.
9
vCenter의 vSphere VM 폴더에 경로(예: /dc1/vm/user-inst-5ddjd)를 지정합니다.
10
VM의 vSphere 리소스 풀을 지정합니다.
11
vCenter 서버 IP 또는 정규화된 도메인 이름을 지정합니다.
12
사용자 워크로드가 인프라 노드에서 예약되지 않도록 테인트를 지정합니다.
참고

인프라 노드에 NoSchedule 테인트를 추가하면 해당 노드에서 실행 중인 기존 DNS Pod가 misscheduled로 표시됩니다. misscheduled DNS Pod에서 허용 오차를 삭제하거나 추가해야 합니다.

8.2.2. 컴퓨팅 머신 세트 생성
링크 복사

설치 프로그램에서 생성한 컴퓨팅 머신 세트 외에도 고유한 머신 세트를 생성하여 선택한 특정 워크로드의 머신 컴퓨팅 리소스를 동적으로 관리할 수 있습니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터를 배포합니다.
  • OpenShift CLI(oc)를 설치합니다.
  • cluster-admin 권한이 있는 사용자로 oc에 로그인합니다.

프로세스

  1. 컴퓨팅 머신 세트 CR(사용자 정의 리소스) 샘플이 포함된 새 YAML 파일을 만들고 <file_name>.yaml이라는 이름을 지정합니다.

    <clusterID> 및 <role> 매개 변수 값을 설정해야 합니다.

  2. 선택 사항: 특정 필드에 설정할 값이 확실하지 않은 경우 클러스터에서 기존 컴퓨팅 머신 세트를 확인할 수 있습니다.

    1. 클러스터의 컴퓨팅 머신 세트를 나열하려면 다음 명령을 실행합니다. 

      $ oc get machinesets -n openshift-machine-api
      Copy to Clipboard Toggle word wrap

      출력 예

      NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
      Copy to Clipboard Toggle word wrap

    2. 특정 컴퓨팅 머신 세트 CR(사용자 정의 리소스)의 값을 보려면 다음 명령을 실행합니다. 

      $ oc get machineset <machineset_name> \
  -n openshift-machine-api -o yaml
      Copy to Clipboard Toggle word wrap

      출력 예

      apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  labels:
    machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      1 
      
  name: <infrastructure_id>-<role>
      2 
      
  namespace: openshift-machine-api
spec:
  replicas: 1
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <infrastructure_id>
      machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
  template:
    metadata:
      labels:
        machine.openshift.io/cluster-api-cluster: <infrastructure_id>
        machine.openshift.io/cluster-api-machine-role: <role>
        machine.openshift.io/cluster-api-machine-type: <role>
        machine.openshift.io/cluster-api-machineset: <infrastructure_id>-<role>
    spec:
      providerSpec:
      3 
      
        ...
      Copy to Clipboard Toggle word wrap

      1
      클러스터 인프라 ID입니다.
      2
      기본 노드 레이블입니다.
      참고

      사용자 프로비저닝 인프라가 있는 클러스터의 경우 컴퓨팅 머신 세트는 worker 및 infra 유형 머신만 생성할 수 있습니다.

      3
      컴퓨팅 머신 세트 CR의 <providerSpec> 섹션에 있는 값은 플랫폼에 따라 다릅니다. CR의 <providerSpec> 매개변수에 대한 자세한 내용은 공급자의 샘플 컴퓨팅 머신 세트 CR 구성을 참조하십시오.

  3. 다음 명령을 실행하여 MachineSet CR을 생성합니다. 

    $ oc create -f <file_name>.yaml
    Copy to Clipboard Toggle word wrap

검증

  • 다음 명령을 실행하여 컴퓨팅 머신 세트 목록을 확인합니다. 

    $ oc get machineset -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                DESIRED   CURRENT   READY   AVAILABLE   AGE
agl030519-vplxk-infra-us-east-1a    1         1         1       1           11m
agl030519-vplxk-worker-us-east-1a   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1b   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1c   1         1         1       1           55m
agl030519-vplxk-worker-us-east-1d   0         0                             55m
agl030519-vplxk-worker-us-east-1e   0         0                             55m
agl030519-vplxk-worker-us-east-1f   0         0                             55m
    Copy to Clipboard Toggle word wrap

    새 컴퓨팅 머신 세트를 사용할 수 있으면 DESIRED 및 CURRENT 값이 일치합니다. 컴퓨팅 머신 세트를 사용할 수 없는 경우 몇 분 기다렸다가 명령을 다시 실행합니다.

8.2.3. 인프라 노드 생성
링크 복사

중요

설치 관리자 프로비저닝 인프라 환경 또는 머신 API에서 컨트롤 플레인 노드를 관리하는 클러스터의 인프라 머신 세트 생성을 참조하십시오.

클러스터의 요구 사항은 인프라(infra) 노드를 프로비저닝하도록 지정합니다. 설치 프로그램은 제어 평면과 작업자 노드만 제공합니다. 작업자 노드는 라벨링을 통해 인프라 노드로 지정될 수 있습니다. 그런 다음 오염과 허용을 사용하여 적절한 작업 부하를 인프라 노드로 이동할 수 있습니다. 자세한 내용은 "인프라 머신 세트로 리소스 이동"을 참조하세요.

선택적으로 기본 클러스터 전체 노드 선택기를 만들 수 있습니다. 기본 노드 선택기는 모든 네임스페이스에서 생성된 포드에 적용되며 포드의 기존 노드 선택기와 교차점을 생성하여 포드 선택기를 추가로 제한합니다.

중요

기본 노드 선택기 키가 Pod 라벨 키와 충돌하는 경우 기본 노드 선택기가 적용되지 않습니다.

그러나 Pod를 예약할 수 없게 만들 수 있는 기본 노드 선택기를 설정하지 마십시오. 예를 들어 Pod의 라벨이 node-role.kubernetes.io/master=""와 같은 다른 노드 역할로 설정된 경우 기본 노드 선택기를 node-role.kubernetes.io/infra=""와 같은 특정 노드 역할로 설정하면 Pod를 예약할 수 없게 될 수 있습니다. 따라서 기본 노드 선택기를 특정 노드 역할로 설정할 때 주의해야 합니다.

또는 프로젝트 노드 선택기를 사용하여 클러스터 수준 노드 선택기 키 충돌을 방지할 수 있습니다.

프로세스

  1. 인프라 노드 역할을 수행할 작업자 노드에 레이블을 추가합니다. 

    $ oc label node <node-name> node-role.kubernetes.io/infra=""
    Copy to Clipboard Toggle word wrap

  2. 해당 노드에 infra 역할이 있는지 확인합니다. 

    $ oc get nodes
    Copy to Clipboard Toggle word wrap

  3. 선택 사항: 기본 클러스터 전체 노드 선택기를 만듭니다.

    1. Scheduler 오브젝트를 편집합니다. 

      $ oc edit scheduler cluster
      Copy to Clipboard Toggle word wrap

    2. 적절한 노드 선택기를 사용하여 defaultNodeSelector 필드를 추가합니다. 

      apiVersion: config.openshift.io/v1
kind: Scheduler
metadata:
  name: cluster
spec:
  defaultNodeSelector: node-role.kubernetes.io/infra=""
      1 
      
# ...
      Copy to Clipboard Toggle word wrap
      1
      이 예제 노드 선택기는 기본적으로 인프라 노드에 포드를 배포합니다.
    3. 파일을 저장하여 변경 사항을 적용합니다.

이제 인프라 리소스를 새로운 인프라 노드로 옮길 수 있습니다. 또한, 새로운 인프라 노드에 필요하지 않거나 해당 노드에 속하지 않는 워크로드를 제거하세요. "OpenShift Container Platform 인프라 구성 요소"에서 인프라 노드에서 지원되는 워크로드 목록을 확인하세요.

8.2.4. 인프라 머신의 머신 구성 풀 생성
링크 복사

전용 구성을 위한 인프라 머신이 필요한 경우 인프라 풀을 생성해야 합니다.

중요

사용자 정의 머신 구성 풀을 생성하면 동일한 파일이나 단위를 참조하는 경우 기본 작업자 풀 구성이 재정의됩니다.

프로세스

  1. 특정 레이블이 있는 인프라 노드로 할당하려는 노드에 레이블을 추가합니다. 

    $ oc label node <node_name> <label>
    Copy to Clipboard Toggle word wrap 
    $ oc label node ci-ln-n8mqwr2-f76d1-xscn2-worker-c-6fmtx node-role.kubernetes.io/infra=
    Copy to Clipboard Toggle word wrap

  2. 작업자 역할과 사용자 지정 역할을 모두 포함하는 머신 구성 풀을 머신 구성 선택기로 생성합니다. 

    $ cat infra.mcp.yaml
    Copy to Clipboard Toggle word wrap

    출력 예

    apiVersion: machineconfiguration.openshift.io/v1
kind: MachineConfigPool
metadata:
  name: infra
spec:
  machineConfigSelector:
    matchExpressions:
      - {key: machineconfiguration.openshift.io/role, operator: In, values: [worker,infra]}
    1 
    
  nodeSelector:
    matchLabels:
      node-role.kubernetes.io/infra: ""
    2
    Copy to Clipboard Toggle word wrap

    1
    작업자 역할 및 사용자 지정 역할을 추가합니다.
    2
    노드에 추가한 레이블을 nodeSelector로 추가합니다.
    참고

    사용자 지정 머신 구성 풀은 작업자 풀의 머신 구성을 상속합니다. 사용자 지정 풀은 작업자 풀을 대상으로 하는 머신 구성을 사용하지만 사용자 지정 풀을 대상으로 하는 변경 사항만 배포할 수 있는 기능을 추가합니다. 사용자 지정 풀은 작업자 풀에서 리소스를 상속하므로 작업자 풀을 변경하면 사용자 지정 풀에도 영향을 줍니다.

  3. YAML 파일이 있으면 머신 구성 풀을 생성할 수 있습니다. 

    $ oc create -f infra.mcp.yaml
    Copy to Clipboard Toggle word wrap

  4. 머신 구성을 확인하고 인프라 구성이 성공적으로 렌더링되었는지 확인합니다. 

    $ oc get machineconfig
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                                                        GENERATEDBYCONTROLLER                      IGNITIONVERSION   CREATED
00-master                                                   365c1cfd14de5b0e3b85e0fc815b0060f36ab955   3.5.0             31d
00-worker                                                   365c1cfd14de5b0e3b85e0fc815b0060f36ab955   3.5.0             31d
01-master-container-runtime                                 365c1cfd14de5b0e3b85e0fc815b0060f36ab955   3.5.0             31d
01-master-kubelet                                           365c1cfd14de5b0e3b85e0fc815b0060f36ab955   3.5.0             31d
01-worker-container-runtime                                 365c1cfd14de5b0e3b85e0fc815b0060f36ab955   3.5.0             31d
01-worker-kubelet                                           365c1cfd14de5b0e3b85e0fc815b0060f36ab955   3.5.0             31d
99-master-1ae2a1e0-a115-11e9-8f14-005056899d54-registries   365c1cfd14de5b0e3b85e0fc815b0060f36ab955   3.5.0             31d
99-master-ssh                                                                                          3.2.0             31d
99-worker-1ae64748-a115-11e9-8f14-005056899d54-registries   365c1cfd14de5b0e3b85e0fc815b0060f36ab955   3.5.0             31d
99-worker-ssh                                                                                          3.2.0             31d
rendered-infra-4e48906dca84ee702959c71a53ee80e7             365c1cfd14de5b0e3b85e0fc815b0060f36ab955   3.5.0             23m
rendered-master-072d4b2da7f88162636902b074e9e28e            5b6fb8349a29735e48446d435962dec4547d3090   3.5.0             31d
rendered-master-3e88ec72aed3886dec061df60d16d1af            02c07496ba0417b3e12b78fb32baf6293d314f79   3.5.0             31d
rendered-master-419bee7de96134963a15fdf9dd473b25            365c1cfd14de5b0e3b85e0fc815b0060f36ab955   3.5.0             17d
rendered-master-53f5c91c7661708adce18739cc0f40fb            365c1cfd14de5b0e3b85e0fc815b0060f36ab955   3.5.0             13d
rendered-master-a6a357ec18e5bce7f5ac426fc7c5ffcd            365c1cfd14de5b0e3b85e0fc815b0060f36ab955   3.5.0             7d3h
rendered-master-dc7f874ec77fc4b969674204332da037            5b6fb8349a29735e48446d435962dec4547d3090   3.5.0             31d
rendered-worker-1a75960c52ad18ff5dfa6674eb7e533d            5b6fb8349a29735e48446d435962dec4547d3090   3.5.0             31d
rendered-worker-2640531be11ba43c61d72e82dc634ce6            5b6fb8349a29735e48446d435962dec4547d3090   3.5.0             31d
rendered-worker-4e48906dca84ee702959c71a53ee80e7            365c1cfd14de5b0e3b85e0fc815b0060f36ab955   3.5.0             7d3h
rendered-worker-4f110718fe88e5f349987854a1147755            365c1cfd14de5b0e3b85e0fc815b0060f36ab955   3.5.0             17d
rendered-worker-afc758e194d6188677eb837842d3b379            02c07496ba0417b3e12b78fb32baf6293d314f79   3.5.0             31d
rendered-worker-daa08cc1e8f5fcdeba24de60cd955cc3            365c1cfd14de5b0e3b85e0fc815b0060f36ab955   3.5.0             13d
    Copy to Clipboard Toggle word wrap

    rendered-infra-* 접두사가 있는 새 머신 구성이 표시되어야 합니다.

  5. 선택 사항: 사용자 지정 풀에 변경 사항을 배포하려면 infra와 같은 사용자 지정 풀 이름을 레이블로 사용하는 머신 구성을 생성합니다. 필수 사항은 아니며 지침 용도로만 표시됩니다. 이렇게 하면 인프라 노드에 고유한 사용자 지정 구성을 적용할 수 있습니다.

    참고

    새 머신 구성 풀을 생성한 후 MCO는 해당 풀에 대해 새로 렌더링된 구성과 해당 풀의 관련 노드를 다시 부팅하여 새 구성을 적용합니다.

    1. 머신 구성을 생성합니다. 

      $ cat infra.mc.yaml
      Copy to Clipboard Toggle word wrap

      출력 예

      apiVersion: machineconfiguration.openshift.io/v1
kind: MachineConfig
metadata:
  name: 51-infra
  labels:
    machineconfiguration.openshift.io/role: infra
      1 
      
spec:
  config:
    ignition:
      version: 3.5.0
    storage:
      files:
      - path: /etc/infratest
        mode: 0644
        contents:
          source: data:,infra
      Copy to Clipboard Toggle word wrap

      1
      노드에 추가한 레이블을 nodeSelector로 추가합니다.

    2. 머신 구성을 인프라 레이블 노드에 적용합니다. 

      $ oc create -f infra.mc.yaml
      Copy to Clipboard Toggle word wrap

  6. 새 머신 구성 풀을 사용할 수 있는지 확인합니다. 

    $ oc get mcp
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME     CONFIG                                             UPDATED   UPDATING   DEGRADED   MACHINECOUNT   READYMACHINECOUNT   UPDATEDMACHINECOUNT   DEGRADEDMACHINECOUNT   AGE
infra    rendered-infra-60e35c2e99f42d976e084fa94da4d0fc    True      False      False      1              1                   1                     0                      4m20s
master   rendered-master-9360fdb895d4c131c7c4bebbae099c90   True      False      False      3              3                   3                     0                      91m
worker   rendered-worker-60e35c2e99f42d976e084fa94da4d0fc   True      False      False      2              2                   2                     0                      91m
    Copy to Clipboard Toggle word wrap

    이 예에서는 작업자 노드가 인프라 노드로 변경되었습니다.

8.3. 인프라 노드에 머신 세트 리소스 할당
링크 복사

인프라 머신 세트를 생성 한 후 worker 및 infra 역할이 새 인프라 노드에 적용됩니다. infra 역할이 적용된 노드는 worker 역할이 적용된 경우에도 환경을 실행하는 데 필요한 총 서브스크립션 수에 포함되지 않습니다.

그러나 인프라 노드가 작업자로 할당되면 사용자 워크로드가 실수로 인프라 노드에 할당될 수 있습니다. 이를 방지하려면 제어하려는 pod에 대한 허용 오차를 적용하고 인프라 노드에 테인트를 적용할 수 있습니다.

8.3.1. 테인트 및 허용 오차를 사용하여 인프라 노드 워크로드 바인딩
링크 복사

인프라 및 작업자 역할이 할당된 인프라 노드가 있는 경우 해당 노드에 사용자 워크로드가 할당되지 않도록 구성해야 합니다.

중요

인프라 노드에 대해 생성된 이중 인프라 작업자 레이블을 유지하고, 테인트와 톨러레이션을 사용하여 사용자 작업이 예약된 노드를 관리하는 것이 좋습니다. 노드에서 worker 레이블을 제거하는 경우 이를 관리할 사용자 지정 풀을 생성해야 합니다. master 또는 worker 이외의 레이블이 있는 노드는 사용자 지정 풀없이 MCO에서 인식되지 않습니다. worker 레이블을 유지 관리하면 사용자 정의 레이블을 선택하는 사용자 정의 풀이 없는 경우 기본 작업자 머신 구성 풀에서 노드를 관리할 수 있습니다. infra 레이블은 총 서브스크립션 수에 포함되지 않는 클러스터와 통신합니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터에서 추가 MachineSet 개체를 구성합니다.

프로세스

  1. 인프라 노드에 오염을 추가하여 해당 노드에서 사용자 작업 부하를 예약하지 못하도록 합니다.

    1. 노드에 테인트가 있는지 확인합니다. 

      $ oc describe nodes <node_name>
      Copy to Clipboard Toggle word wrap

      샘플 출력

      oc describe node ci-ln-iyhx092-f76d1-nvdfm-worker-b-wln2l
Name:               ci-ln-iyhx092-f76d1-nvdfm-worker-b-wln2l
Roles:              worker
 ...
Taints:             node-role.kubernetes.io/infra=reserved:NoSchedule
 ...
      Copy to Clipboard Toggle word wrap

      이 예에서는 노드에 테인트가 있음을 보여줍니다. 다음 단계에서 Pod에 허용 오차를 추가할 수 있습니다.

    2. 사용자 워크로드를 예약하지 않도록 테인트를 구성하지 않은 경우 다음을 수행합니다. 

      $ oc adm taint nodes <node_name> <key>=<value>:<effect>
      Copy to Clipboard Toggle word wrap

      예를 들면 다음과 같습니다. 

      $ oc adm taint nodes node1 node-role.kubernetes.io/infra=reserved:NoSchedule
      Copy to Clipboard Toggle word wrap
      작은 정보

      또는 포드 사양을 편집하여 오염을 추가할 수 있습니다. 

      apiVersion: v1
kind: Node
metadata:
  name: node1
# ...
spec:
  taints:
    - key: node-role.kubernetes.io/infra
      value: reserved
      effect: NoSchedule
# ...
      Copy to Clipboard Toggle word wrap

      이러한 예제에서는 node-role.kubernetes.io/infra 키와 NoSchedule 테인트 효과가 있는 node1 에 테인트를 배치합니다. NoSchedule 효과가 있는 노드는 taint를 허용하는 pod만 예약하지만 기존 pod는 노드에서 예약된 상태를 유지할 수 있습니다.

      인프라 노드에 NoSchedule 오염을 추가한 경우 해당 노드에서 설정된 데몬이 제어하는 모든 포드는 misscheduled 로 표시됩니다. Red Hat Knowledgebase 솔루션 add toleration on missscheduled DNS pods 에 표시된 대로 포드를 삭제하거나 포드에 대한 내성을 추가해야 합니다. 운영자가 관리하는 데몬 세트 객체에 허용 기능을 추가할 수 없습니다.

      참고

      descheduler를 사용하면 노드 taint를 위반하는 pod가 클러스터에서 제거될 수 있습니다.

  2. 라우터, 레지스트리, 모니터링 워크로드 등 인프라 노드에서 예약하려는 포드에 내성을 추가합니다. 이전 예제를 참조하여 Pod 객체 사양에 다음 허용 사항을 추가합니다. 

    apiVersion: v1
kind: Pod
metadata:
  annotations:

# ...
spec:
# ...
  tolerations:
    - key: node-role.kubernetes.io/infra
    1 
    
      value: reserved
    2 
    
      effect: NoSchedule
    3 
    
      operator: Equal
    4
    Copy to Clipboard Toggle word wrap
    1
    노드에 추가한 키를 지정합니다.
    2
    노드에 추가한 키-값 쌍의 오염 값을 지정합니다.
    3
    노드에 추가한 효과를 지정합니다.
    4
    키 node-role.kubernetes.io/infra가 있는 taint가 노드에 존재하도록 하려면 Equal 연산자를 지정합니다.

    이 허용 오차는 oc adm taint 명령으로 생성된 taint와 일치합니다. 이러한 허용 범위가 있는 포드는 인프라 노드에 예약될 수 있습니다.

    참고

    OLM을 통해 설치된 운영자의 포드를 인프라 노드로 이동하는 것은 항상 가능한 것은 아닙니다. Operator pod를 이동하는 기능은 각 Operator의 구성에 따라 다릅니다.

  3. 스케줄러를 사용하여 포드를 인프라 노드에 예약합니다. 자세한 내용은 "스케줄러를 사용하여 Pod 배치 제어" 문서를 참조하세요.
  4. 새 인프라 노드에 필요하지 않거나 속하지 않는 워크로드를 제거합니다. "OpenShift Container Platform 인프라 구성 요소"에서 인프라 노드에서 지원되는 워크로드 목록을 확인하세요.

8.4. 인프라 머신 세트로 리소스 이동
링크 복사

일부 인프라 리소스는 기본적으로 클러스터에 배포됩니다. 다음과 같이 인프라 노드 선택기를 추가하여 생성한 인프라 머신 세트로 이동할 수 있습니다. 

apiVersion: imageregistry.operator.openshift.io/v1
kind: Config
metadata:
  name: cluster
# ...
spec:
  nodePlacement:
1 

    nodeSelector:
      matchLabels:
        node-role.kubernetes.io/infra: ""
    tolerations:
    - effect: NoSchedule
      key: node-role.kubernetes.io/infra
      value: reserved
    - effect: NoExecute
      key: node-role.kubernetes.io/infra
      value: reserved
Copy to Clipboard Toggle word wrap
1
적절한 값이 설정된 nodeSelector 매개변수를 이동하려는 구성 요소에 추가합니다. 표시된 형식으로 nodeSelector를 사용하거나 노드에 지정된 값에 따라 <key>: <value> 쌍을 사용할 수 있습니다. 인프라 노드에 오염을 추가한 경우 일치하는 허용 범위도 추가합니다.

모든 인프라 구성 요소에 특정 노드 선택기를 적용하면 OpenShift Container Platform에서 해당 레이블이 있는 노드에서 해당 워크로드를 예약합니다 .

8.4.1. 라우터 이동
링크 복사

라우터 포드를 다른 컴퓨팅 머신 세트에 배포할 수 있습니다. 기본적으로 Pod는 작업자 노드에 배포됩니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터에서 추가 컴퓨팅 머신 세트를 구성합니다.

프로세스

  1. 라우터 Operator의 IngressController 사용자 정의 리소스를 표시합니다. 

    $ oc get ingresscontroller default -n openshift-ingress-operator -o yaml
    Copy to Clipboard Toggle word wrap

    명령 출력은 다음 예제와 유사합니다. 

    apiVersion: operator.openshift.io/v1
kind: IngressController
metadata:
  creationTimestamp: 2019-04-18T12:35:39Z
  finalizers:
  - ingresscontroller.operator.openshift.io/finalizer-ingresscontroller
  generation: 1
  name: default
  namespace: openshift-ingress-operator
  resourceVersion: "11341"
  selfLink: /apis/operator.openshift.io/v1/namespaces/openshift-ingress-operator/ingresscontrollers/default
  uid: 79509e05-61d6-11e9-bc55-02ce4781844a
spec: {}
status:
  availableReplicas: 2
  conditions:
  - lastTransitionTime: 2019-04-18T12:36:15Z
    status: "True"
    type: Available
  domain: apps.<cluster>.example.com
  endpointPublishingStrategy:
    type: LoadBalancerService
  selector: ingresscontroller.operator.openshift.io/deployment-ingresscontroller=default
    Copy to Clipboard Toggle word wrap

  2. ingresscontroller 리소스를 편집하고 infra 레이블을 사용하도록 nodeSelector를 변경합니다. 

    $ oc edit ingresscontroller default -n openshift-ingress-operator
    Copy to Clipboard Toggle word wrap 
    apiVersion: operator.openshift.io/v1
kind: IngressController
metadata:
  creationTimestamp: "2025-03-26T21:15:43Z"
  finalizers:
  - ingresscontroller.operator.openshift.io/finalizer-ingresscontroller
  generation: 1
  name: default
# ...
spec:
  nodePlacement:
    nodeSelector:
    1 
    
      matchLabels:
        node-role.kubernetes.io/infra: ""
    tolerations:
    - effect: NoSchedule
      key: node-role.kubernetes.io/infra
      value: reserved
# ...
    Copy to Clipboard Toggle word wrap
    1
    적절한 값이 설정된 nodeSelector 매개변수를 이동하려는 구성 요소에 추가합니다. 표시된 형식으로 nodeSelector 매개변수를 사용하거나 노드에 지정된 값에 따라 <key>: <value> 쌍을 사용할 수 있습니다. 인프라 노드에 오염을 추가한 경우 일치하는 허용 범위도 추가하세요.

  3. 라우터 pod가 infra 노드에서 실행되고 있는지 확인합니다.

    1. 라우터 pod 목록을 표시하고 실행중인 pod의 노드 이름을 기록해 둡니다. 

      $ oc get pod -n openshift-ingress -o wide
      Copy to Clipboard Toggle word wrap

      출력 예

      NAME                              READY     STATUS        RESTARTS   AGE       IP           NODE                           NOMINATED NODE   READINESS GATES
router-default-86798b4b5d-bdlvd   1/1      Running       0          28s       10.130.2.4   ip-10-0-217-226.ec2.internal   <none>           <none>
router-default-955d875f4-255g8    0/1      Terminating   0          19h       10.129.2.4   ip-10-0-148-172.ec2.internal   <none>           <none>
      Copy to Clipboard Toggle word wrap

      이 예에서 실행중인 pod는 ip-10-0-217-226.ec2.internal 노드에 있습니다.

    2. 실행중인 pod의 노드 상태를 표시합니다. 

      $ oc get node <node_name>
      1
      Copy to Clipboard Toggle word wrap
      1
      pod 목록에서 얻은 <node_name>을 지정합니다.

      출력 예

      NAME                          STATUS  ROLES         AGE   VERSION
ip-10-0-217-226.ec2.internal  Ready   infra,worker  17h   v1.32.3
      Copy to Clipboard Toggle word wrap

      역할 목록에 infra가 포함되어 있으므로 pod가 올바른 노드에서 실행됩니다.

8.4.2. 기본 레지스트리 이동
링크 복사

Pod를 다른 노드에 배포하도록 레지스트리 Operator를 구성합니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터에서 추가 컴퓨팅 머신 세트를 구성합니다.

프로세스

  1. config/instance 개체를 표시합니다. 

    $ oc get configs.imageregistry.operator.openshift.io/cluster -o yaml
    Copy to Clipboard Toggle word wrap

    출력 예

    apiVersion: imageregistry.operator.openshift.io/v1
kind: Config
metadata:
  creationTimestamp: 2019-02-05T13:52:05Z
  finalizers:
  - imageregistry.operator.openshift.io/finalizer
  generation: 1
  name: cluster
  resourceVersion: "56174"
  selfLink: /apis/imageregistry.operator.openshift.io/v1/configs/cluster
  uid: 36fd3724-294d-11e9-a524-12ffeee2931b
spec:
  httpSecret: d9a012ccd117b1e6616ceccb2c3bb66a5fed1b5e481623
  logging: 2
  managementState: Managed
  proxy: {}
  replicas: 1
  requests:
    read: {}
    write: {}
  storage:
    s3:
      bucket: image-registry-us-east-1-c92e88cad85b48ec8b312344dff03c82-392c
      region: us-east-1
status:
...
    Copy to Clipboard Toggle word wrap

  2. config/instance 개체를 편집합니다. 

    $ oc edit configs.imageregistry.operator.openshift.io/cluster
    Copy to Clipboard Toggle word wrap 
    apiVersion: imageregistry.operator.openshift.io/v1
kind: Config
metadata:
  name: cluster
# ...
spec:
  logLevel: Normal
  managementState: Managed
  nodeSelector:
    1 
    
    node-role.kubernetes.io/infra: ""
  tolerations:
  - effect: NoSchedule
    key: node-role.kubernetes.io/infra
    value: reserved
    Copy to Clipboard Toggle word wrap
    1
    적절한 값이 설정된 nodeSelector 매개변수를 이동하려는 구성 요소에 추가합니다. 표시된 형식으로 nodeSelector 매개변수를 사용하거나 노드에 지정된 값에 따라 <key>: <value> 쌍을 사용할 수 있습니다. 인프라 노드에 오염을 추가한 경우 일치하는 허용 범위도 추가합니다.

  3. 레지스트리 pod가 인프라 노드로 이동되었는지 검증합니다.

    1. 다음 명령을 실행하여 레지스트리 pod가 있는 노드를 식별합니다. 

      $ oc get pods -o wide -n openshift-image-registry
      Copy to Clipboard Toggle word wrap

    2. 노드에 지정된 레이블이 있는지 확인합니다. 

      $ oc describe node <node_name>
      Copy to Clipboard Toggle word wrap

      명령 출력을 확인하고 node-role.kubernetes.io/infra가 LABELS 목록에 있는지 확인합니다.

8.4.3. 모니터링 솔루션 이동
링크 복사

모니터링 스택에는 Prometheus, Thanos Querier, Alertmanager를 포함한 여러 구성 요소가 포함되어 있습니다. 클러스터 모니터링 운영자는 이 스택을 관리합니다. 모니터링 스택을 인프라 노드에 재배포하려면 사용자 정의 구성 맵을 생성하고 적용할 수 있습니다.

사전 요구 사항

  • cluster-admin 클러스터 역할의 사용자로 클러스터에 액세스할 수 있습니다.
  • cluster-monitoring-config ConfigMap 오브젝트를 생성하셨습니다.
  • OpenShift CLI(oc)가 설치되어 있습니다.

프로세스

  1. cluster-monitoring-config 구성 맵을 편집하고 nodeSelector를 변경하여 인프라 레이블을 사용합니다. 

    $ oc edit configmap cluster-monitoring-config -n openshift-monitoring
    Copy to Clipboard Toggle word wrap 
    apiVersion: v1
kind: ConfigMap
metadata:
  name: cluster-monitoring-config
  namespace: openshift-monitoring
data:
  config.yaml: |+
    alertmanagerMain:
      nodeSelector:
    1 
    
        node-role.kubernetes.io/infra: ""
      tolerations:
      - key: node-role.kubernetes.io/infra
        value: reserved
        effect: NoSchedule
    prometheusK8s:
      nodeSelector:
        node-role.kubernetes.io/infra: ""
      tolerations:
      - key: node-role.kubernetes.io/infra
        value: reserved
        effect: NoSchedule
    prometheusOperator:
      nodeSelector:
        node-role.kubernetes.io/infra: ""
      tolerations:
      - key: node-role.kubernetes.io/infra
        value: reserved
        effect: NoSchedule
    metricsServer:
      nodeSelector:
        node-role.kubernetes.io/infra: ""
      tolerations:
      - key: node-role.kubernetes.io/infra
        value: reserved
        effect: NoSchedule
    kubeStateMetrics:
      nodeSelector:
        node-role.kubernetes.io/infra: ""
      tolerations:
      - key: node-role.kubernetes.io/infra
        value: reserved
        effect: NoSchedule
    telemeterClient:
      nodeSelector:
        node-role.kubernetes.io/infra: ""
      tolerations:
      - key: node-role.kubernetes.io/infra
        value: reserved
        effect: NoSchedule
    openshiftStateMetrics:
      nodeSelector:
        node-role.kubernetes.io/infra: ""
      tolerations:
      - key: node-role.kubernetes.io/infra
        value: reserved
        effect: NoSchedule
    thanosQuerier:
      nodeSelector:
        node-role.kubernetes.io/infra: ""
      tolerations:
      - key: node-role.kubernetes.io/infra
        value: reserved
        effect: NoSchedule
    monitoringPlugin:
      nodeSelector:
        node-role.kubernetes.io/infra: ""
      tolerations:
      - key: node-role.kubernetes.io/infra
        value: reserved
        effect: NoSchedule
    Copy to Clipboard Toggle word wrap
    1
    적절한 값이 설정된 nodeSelector 매개변수를 이동하려는 구성 요소에 추가합니다. 표시된 형식으로 nodeSelector 매개변수를 사용하거나 노드에 지정된 값에 따라 <key>: <value> 쌍을 사용할 수 있습니다. 인프라 노드에 오염을 추가한 경우 일치하는 허용 범위도 추가하세요.

  2. 모니터링 pod가 새 머신으로 이동하는 것을 확인합니다. 

    $ watch 'oc get pod -n openshift-monitoring -o wide'
    Copy to Clipboard Toggle word wrap

  3. 구성 요소가 infra 노드로 이동하지 않은 경우 이 구성 요소가 있는 pod를 제거합니다. 

    $ oc delete pod -n openshift-monitoring <pod>
    Copy to Clipboard Toggle word wrap

    삭제된 pod의 구성 요소가 infra 노드에 다시 생성됩니다.

8.4.4. Vertical Pod Autoscaler Operator 구성 요소 이동
링크 복사

수직 포드 자동 확장 연산자(VPA)는 추천자, 업데이터, 승인 컨트롤러의 세 가지 구성 요소로 구성됩니다. 운영자와 각 구성 요소는 제어 평면 노드의 VPA 네임스페이스에 자체 포드를 갖습니다. VPA 구독과 VerticalPodAutoscalerController CR에 노드 선택기를 추가하여 VPA Operator와 구성 요소 Pod를 인프라 노드로 이동할 수 있습니다.

다음 예에서는 VPA 포드를 제어 평면 노드에 기본적으로 배포하는 방법을 보여줍니다.

출력 예

NAME                                                READY   STATUS    RESTARTS   AGE     IP            NODE                  NOMINATED NODE   READINESS GATES
vertical-pod-autoscaler-operator-6c75fcc9cd-5pb6z   1/1     Running   0          7m59s   10.128.2.24   c416-tfsbj-master-1   <none>           <none>
vpa-admission-plugin-default-6cb78d6f8b-rpcrj       1/1     Running   0          5m37s   10.129.2.22   c416-tfsbj-master-1   <none>           <none>
vpa-recommender-default-66846bd94c-dsmpp            1/1     Running   0          5m37s   10.129.2.20   c416-tfsbj-master-0   <none>           <none>
vpa-updater-default-db8b58df-2nkvf                  1/1     Running   0          5m37s   10.129.2.21   c416-tfsbj-master-1   <none>           <none>
Copy to Clipboard Toggle word wrap

프로세스

  1. VPA Operator에 대한 구독 사용자 정의 리소스(CR)에 노드 선택기를 추가하여 VPA Operator 포드를 이동합니다.

    1. CR을 편집하세요: 

      $ oc edit Subscription vertical-pod-autoscaler -n openshift-vertical-pod-autoscaler
      Copy to Clipboard Toggle word wrap

    2. 인프라 노드의 노드 역할 레이블과 일치하는 노드 선택기를 추가합니다. 

      apiVersion: operators.coreos.com/v1alpha1
kind: Subscription
metadata:
  labels:
    operators.coreos.com/vertical-pod-autoscaler.openshift-vertical-pod-autoscaler: ""
  name: vertical-pod-autoscaler
# ...
spec:
  config:
    nodeSelector:
      node-role.kubernetes.io/infra: ""
      1
      Copy to Clipboard Toggle word wrap
      1
      인프라 노드의 노드 역할을 지정합니다.
      참고

      인프라 노드에서 taint를 사용하는 경우 서브스크립션 CR에 허용 오차를 추가해야 합니다.

      예를 들면 다음과 같습니다. 

      apiVersion: operators.coreos.com/v1alpha1
kind: Subscription
metadata:
  labels:
    operators.coreos.com/vertical-pod-autoscaler.openshift-vertical-pod-autoscaler: ""
  name: vertical-pod-autoscaler
# ...
spec:
  config:
    nodeSelector:
      node-role.kubernetes.io/infra: ""
    tolerations:
      1 
      
    - key: "node-role.kubernetes.io/infra"
      operator: "Exists"
      effect: "NoSchedule"
      Copy to Clipboard Toggle word wrap
      1
      인프라 노드의 오염에 대한 허용 범위를 지정합니다.

  2. VerticalPodAutoscaler 사용자 정의 리소스(CR)에 노드 선택기를 추가하여 각 VPA 구성 요소를 이동합니다.

    1. CR을 편집하세요: 

      $ oc edit VerticalPodAutoscalerController default -n openshift-vertical-pod-autoscaler
      Copy to Clipboard Toggle word wrap

    2. 인프라 노드의 노드 역할 레이블과 일치하도록 노드 선택기를 추가합니다. 

      apiVersion: autoscaling.openshift.io/v1
kind: VerticalPodAutoscalerController
metadata:
 name: default
  namespace: openshift-vertical-pod-autoscaler
# ...
spec:
  deploymentOverrides:
    admission:
      container:
        resources: {}
      nodeSelector:
        node-role.kubernetes.io/infra: ""
      1 
      
    recommender:
      container:
        resources: {}
      nodeSelector:
        node-role.kubernetes.io/infra: ""
      2 
      
    updater:
      container:
        resources: {}
      nodeSelector:
        node-role.kubernetes.io/infra: ""
      3
      Copy to Clipboard Toggle word wrap
      1
      선택 사항: VPA 입장 포드에 대한 노드 역할을 지정합니다.
      2
      선택 사항: VPA 추천 포드의 노드 역할을 지정합니다.
      3
      선택 사항: VPA 업데이터 포드의 노드 역할을 지정합니다.
      참고

      대상 노드가 오염을 사용하는 경우 VerticalPodAutoscalerController CR에 허용 범위를 추가해야 합니다.

      예를 들면 다음과 같습니다. 

      apiVersion: autoscaling.openshift.io/v1
kind: VerticalPodAutoscalerController
metadata:
 name: default
  namespace: openshift-vertical-pod-autoscaler
# ...
spec:
  deploymentOverrides:
    admission:
      container:
        resources: {}
      nodeSelector:
        node-role.kubernetes.io/infra: ""
      tolerations:
      1 
      
      - key: "my-example-node-taint-key"
        operator: "Exists"
        effect: "NoSchedule"
    recommender:
      container:
        resources: {}
      nodeSelector:
        node-role.kubernetes.io/infra: ""
      tolerations:
      2 
      
      - key: "my-example-node-taint-key"
        operator: "Exists"
        effect: "NoSchedule"
    updater:
      container:
        resources: {}
      nodeSelector:
        node-role.kubernetes.io/infra: ""
      tolerations:
      3 
      
      - key: "my-example-node-taint-key"
        operator: "Exists"
        effect: "NoSchedule"
      Copy to Clipboard Toggle word wrap
      1
      인프라 노드의 오염에 대한 입장 컨트롤러 포드의 허용 범위를 지정합니다.
      2
      인프라 노드의 오염에 대한 추천 포드의 허용 범위를 지정합니다.
      3
      인프라 노드의 오염에 대한 업데이터 포드의 허용 범위를 지정합니다.

검증

  • 다음 명령을 사용하여 포드가 이동했는지 확인할 수 있습니다. 

    $ oc get pods -n openshift-vertical-pod-autoscaler -o wide
    Copy to Clipboard Toggle word wrap

    포드는 더 이상 제어 평면 노드에 배포되지 않습니다. 다음 예제 출력에서 해당 노드는 이제 제어 평면 노드가 아닌 인프라 노드입니다.

    출력 예

    NAME                                                READY   STATUS    RESTARTS   AGE     IP            NODE                              NOMINATED NODE   READINESS GATES
vertical-pod-autoscaler-operator-6c75fcc9cd-5pb6z   1/1     Running   0          7m59s   10.128.2.24   c416-tfsbj-infra-eastus3-2bndt   <none>           <none>
vpa-admission-plugin-default-6cb78d6f8b-rpcrj       1/1     Running   0          5m37s   10.129.2.22   c416-tfsbj-infra-eastus1-lrgj8   <none>           <none>
vpa-recommender-default-66846bd94c-dsmpp            1/1     Running   0          5m37s   10.129.2.20   c416-tfsbj-infra-eastus1-lrgj8   <none>           <none>
vpa-updater-default-db8b58df-2nkvf                  1/1     Running   0          5m37s   10.129.2.21   c416-tfsbj-infra-eastus1-lrgj8   <none>           <none>
    Copy to Clipboard Toggle word wrap

8.4.5. 클러스터 리소스 재정의 운영자 포드 이동
링크 복사

기본적으로 클러스터 리소스 오버라이드 연산자 설치 프로세스는 clusterresourceoverride-operator 네임스페이스의 노드에 연산자 포드와 두 개의 클러스터 리소스 오버라이드 포드를 생성합니다. 필요에 따라 이러한 포드를 인프라 노드 등 다른 노드로 옮길 수 있습니다.

다음 예에서는 클러스터 리소스 재정의 포드가 제어 평면 노드에 배포되고 클러스터 리소스 재정의 연산자 포드가 작업자 노드에 배포되는 것을 보여줍니다.

클러스터 리소스 재정의 포드 예

NAME                                                READY   STATUS    RESTARTS   AGE   IP            NODE                                        NOMINATED NODE   READINESS GATES
clusterresourceoverride-786b8c898c-9wrdq            1/1     Running   0          23s   10.128.2.32   ip-10-0-14-183.us-west-2.compute.internal   <none>           <none>
clusterresourceoverride-786b8c898c-vn2lf            1/1     Running   0          26s   10.130.2.10   ip-10-0-20-140.us-west-2.compute.internal   <none>           <none>
clusterresourceoverride-operator-6b8b8b656b-lvr62   1/1     Running   0          56m   10.131.0.33   ip-10-0-2-39.us-west-2.compute.internal     <none>           <none>
Copy to Clipboard Toggle word wrap

예제 노드 목록

NAME                                        STATUS   ROLES                  AGE   VERSION
ip-10-0-14-183.us-west-2.compute.internal   Ready    control-plane,master   65m   v1.32.3
ip-10-0-2-39.us-west-2.compute.internal     Ready    worker                 58m   v1.32.3
ip-10-0-20-140.us-west-2.compute.internal   Ready    control-plane,master   65m   v1.32.3
ip-10-0-23-244.us-west-2.compute.internal   Ready    infra                  55m   v1.32.3
ip-10-0-77-153.us-west-2.compute.internal   Ready    control-plane,master   65m   v1.32.3
ip-10-0-99-108.us-west-2.compute.internal   Ready    worker                 24m   v1.32.3
ip-10-0-24-233.us-west-2.compute.internal   Ready    infra                  55m   v1.32.3
ip-10-0-88-109.us-west-2.compute.internal   Ready    worker                 24m   v1.32.3
ip-10-0-67-453.us-west-2.compute.internal   Ready    infra                  55m   v1.32.3
Copy to Clipboard Toggle word wrap

프로세스

  1. 클러스터 리소스 재정의 연산자에 대한 구독 사용자 정의 리소스(CR)에 노드 선택기를 추가하여 클러스터 리소스 재정의 연산자 포드를 이동합니다.

    1. CR을 편집하세요: 

      $ oc edit -n clusterresourceoverride-operator subscriptions.operators.coreos.com clusterresourceoverride
      Copy to Clipboard Toggle word wrap

    2. 클러스터 리소스 재정의 운영자 포드를 설치하려는 노드의 노드 역할 레이블과 일치하는 노드 선택기를 추가합니다. 

      apiVersion: operators.coreos.com/v1alpha1
kind: Subscription
metadata:
  name: clusterresourceoverride
  namespace: clusterresourceoverride-operator
# ...
spec:
  config:
    nodeSelector:
      node-role.kubernetes.io/infra: ""
      1 
      
# ...
      Copy to Clipboard Toggle word wrap
      1
      클러스터 리소스 재정의 운영자 포드를 배포할 노드의 역할을 지정합니다.
      참고

      인프라 노드에서 taint를 사용하는 경우 서브스크립션 CR에 허용 오차를 추가해야 합니다.

      예를 들면 다음과 같습니다. 

      apiVersion: operators.coreos.com/v1alpha1
kind: Subscription
metadata:
  name: clusterresourceoverride
  namespace: clusterresourceoverride-operator
# ...
spec:
  config:
    nodeSelector:
      node-role.kubernetes.io/infra: ""
    tolerations:
      1 
      
    - key: "node-role.kubernetes.io/infra"
      operator: "Exists"
      effect: "NoSchedule"
      Copy to Clipboard Toggle word wrap
      1
      인프라 노드의 오염에 대한 허용 범위를 지정합니다.

  2. ClusterResourceOverride 사용자 정의 리소스(CR)에 노드 선택기를 추가하여 Cluster Resource Override 포드를 이동합니다.

    1. CR을 편집하세요: 

      $ oc edit ClusterResourceOverride cluster -n clusterresourceoverride-operator
      Copy to Clipboard Toggle word wrap

    2. 인프라 노드의 노드 역할 레이블과 일치하는 노드 선택기를 추가합니다. 

      apiVersion: operator.autoscaling.openshift.io/v1
kind: ClusterResourceOverride
metadata:
  name: cluster
  resourceVersion: "37952"
spec:
  podResourceOverride:
    spec:
      cpuRequestToLimitPercent: 25
      limitCPUToMemoryPercent: 200
      memoryRequestToLimitPercent: 50
  deploymentOverrides:
    replicas: 1
      1 
      
    nodeSelector:
      node-role.kubernetes.io/infra: ""
      2 
      
# ...
      Copy to Clipboard Toggle word wrap
      1
      선택 사항: 배포할 클러스터 리소스 재정의 포드 수를 지정합니다. 기본값은 2 입니다. 노드당 하나의 Pod만 허용됩니다.
      2
      선택 사항: 클러스터 리소스 재정의 포드를 배포할 노드의 역할을 지정합니다.
      참고

      인프라 노드가 오염을 사용하는 경우 ClusterResourceOverride CR에 허용 범위를 추가해야 합니다.

      예를 들면 다음과 같습니다. 

      apiVersion: operator.autoscaling.openshift.io/v1
kind: ClusterResourceOverride
metadata:
  name: cluster
# ...
spec:
  podResourceOverride:
    spec:
      memoryRequestToLimitPercent: 50
      cpuRequestToLimitPercent: 25
      limitCPUToMemoryPercent: 200
  deploymentOverrides:
    replicas: 3
    nodeSelector:
      node-role.kubernetes.io/worker: ""
    tolerations:
      1 
      
    - key: "key"
      operator: "Equal"
      value: "value"
      effect: "NoSchedule"
      Copy to Clipboard Toggle word wrap
      1
      인프라 노드의 오염에 대한 허용 범위를 지정합니다.

검증

  • 다음 명령을 사용하여 포드가 이동했는지 확인할 수 있습니다. 

    $ oc get pods -n clusterresourceoverride-operator -o wide
    Copy to Clipboard Toggle word wrap

    클러스터 리소스 재정의 포드가 이제 인프라 노드에 배포되었습니다.

    출력 예

    NAME                                                READY   STATUS    RESTARTS   AGE   IP            NODE                                        NOMINATED NODE   READINESS GATES
clusterresourceoverride-786b8c898c-9wrdq            1/1     Running   0          23s   10.127.2.25   ip-10-0-23-244.us-west-2.compute.internal   <none>           <none>
clusterresourceoverride-786b8c898c-vn2lf            1/1     Running   0          26s   10.128.0.80   ip-10-0-24-233.us-west-2.compute.internal   <none>           <none>
clusterresourceoverride-operator-6b8b8b656b-lvr62   1/1     Running   0          56m   10.129.0.71   ip-10-0-67-453.us-west-2.compute.internal   <none>           <none>
    Copy to Clipboard Toggle word wrap

9장. 사용자 제공 인프라를 수동으로 관리
링크 복사

설치 프로세스의 일부 또는 설치 후 사용자 프로비저닝 인프라의 클러스터에 컴퓨팅 머신을 추가할 수 있습니다. 설치 후 프로세스에는 설치 중에 사용된 것과 동일한 구성 파일과 매개 변수 중 일부가 필요합니다.

9.1.1. Amazon Web Services에 컴퓨팅 머신 추가
링크 복사

Amazon Web Services(AWS)의 OpenShift Container Platform 클러스터에 더 많은 컴퓨팅 머신을 추가하려면 CloudFormation 템플릿을 사용하여 AWS에 컴퓨팅 머신 추가를 참조하세요.

9.1.2. Microsoft Azure에 컴퓨팅 머신 추가
링크 복사

Microsoft Azure의 OpenShift Container Platform 클러스터에 더 많은 컴퓨팅 머신을 추가하려면 Azure에서 추가 작업자 머신 만들기를 참조하세요.

9.1.3. Azure Stack Hub에 컴퓨팅 머신 추가
링크 복사

Azure Stack Hub의 OpenShift Container Platform 클러스터에 더 많은 컴퓨팅 머신을 추가하려면 Azure Stack Hub에서 추가 작업자 머신 만들기를 참조하세요.

9.1.4. Google Cloud Platform에 컴퓨팅 머신 추가
링크 복사

Google Cloud Platform(GCP)에서 OpenShift Container Platform 클러스터에 더 많은 컴퓨팅 머신을 추가하려면 GCP에서 추가 작업자 머신 만들기를 참조하세요.

9.1.5. vSphere에 컴퓨팅 머신 추가
링크 복사

컴퓨팅 머신 세트를 사용하면 vSphere에서 OpenShift Container Platform 클러스터에 대한 추가 컴퓨팅 머신 생성을 자동화할 수 있습니다.

클러스터에 수동으로 컴퓨팅 머신을 추가하려면 vSphere에 컴퓨팅 머신을 수동으로 추가를 참조하세요.

9.1.6. 베어 메탈에 컴퓨팅 머신 추가
링크 복사

베어 메탈의 OpenShift Container Platform 클러스터에 더 많은 컴퓨팅 머신을 추가하려면 베어 메탈에 컴퓨팅 머신 추가를 참조하세요.

9.2. CloudFormation 템플릿을 사용하여 AWS에 컴퓨팅 머신 추가
링크 복사

샘플 CloudFormation 템플릿을 사용하여 생성한 AWS(Amazon Web Services)의 OpenShift Container Platform 클러스터에 더 많은 컴퓨팅 머신을 추가할 수 있습니다.

9.2.1. 사전 요구 사항
링크 복사

  • 제공된 AWS CloudFormation 템플릿을 사용하여 AWS에 클러스터를 설치했습니다.
  • 클러스터 설치 중에 컴퓨팅 시스템을 생성하는 데 사용한 JSON 파일 및 CloudFormation 템플릿이 있습니다. 이러한 파일이 없으면 설치 절차의 지침에 따라 해당 파일을 다시 만들어야 합니다.

9.2.2. CloudFormation 템플릿을 사용하여 AWS 클러스터에 추가
링크 복사

샘플 CloudFormation 템플릿을 사용하여 생성한 AWS(Amazon Web Services)의 OpenShift Container Platform 클러스터에 더 많은 컴퓨팅 머신을 추가할 수 있습니다.

중요

CloudFormation 템플릿은 하나의 컴퓨팅 시스템을 나타내는 스택을 생성합니다. 각 컴퓨팅 시스템의 스택을 생성해야 합니다.

참고

컴퓨팅 노드를 생성하는 데 제공된 CloudFormation 템플릿을 사용하지 않는 경우, 제공된 정보를 검토하고 수동으로 인프라를 생성해야 합니다.. 클러스터가 올바르게 초기화되지 않은 경우, Red Hat 지원팀에 설치 로그를 제시하여 문의해야 할 수도 있습니다.

사전 요구 사항

  • CloudFormation 템플릿을 사용하여 OpenShift Container Platform 클러스터를 설치하고 클러스터 설치 중에 컴퓨팅 시스템을 생성하는 데 사용한 JSON 파일 및 CloudFormation 템플릿에 액세스할 수 있습니다.
  • AWS CLI를 설치했습니다.

프로세스

  1. 다른 컴퓨팅 스택을 생성합니다.

    1. 템플릿을 시작합니다. 

      $ aws cloudformation create-stack --stack-name <name> \
      1 
      
     --template-body file://<template>.yaml \
      2 
      
     --parameters file://<parameters>.json
      3
      Copy to Clipboard Toggle word wrap
      1
      <name>은 CloudFormation 스택의 이름입니다(예: cluster-workers). 클러스터를 제거하는 경우 이 스택의 이름을 제공해야 합니다.
      2
      <template>은 저장한 CloudFormation 템플릿 YAML 파일의 상대 경로 및 이름입니다.
      3
      <parameters>는 CloudFormation 매개변수 JSON 파일의 상대 경로 및 이름입니다.

    2. 템플릿 구성 요소가 있는지 확인합니다. 

      $ aws cloudformation describe-stacks --stack-name <name>
      Copy to Clipboard Toggle word wrap
  2. 클러스터에 충분한 컴퓨팅 시스템을 생성할 때까지 계속해서 컴퓨팅 스택을 생성합니다.

9.2.3. 머신의 인증서 서명 요청 승인
링크 복사

클러스터에 시스템을 추가하면 추가한 시스템별로 보류 중인 인증서 서명 요청(CSR)이 두 개씩 생성됩니다. 이러한 CSR이 승인되었는지 확인해야 하며, 필요한 경우 이를 직접 승인해야 합니다. 클라이언트 요청을 먼저 승인한 다음 서버 요청을 승인해야 합니다.

사전 요구 사항

  • 클러스터에 시스템을 추가했습니다.

프로세스

  1. 클러스터가 시스템을 인식하는지 확인합니다. 

    $ oc get nodes
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME      STATUS    ROLES   AGE  VERSION
master-0  Ready     master  63m  v1.32.3
master-1  Ready     master  63m  v1.32.3
master-2  Ready     master  64m  v1.32.3
    Copy to Clipboard Toggle word wrap

    출력에 생성된 모든 시스템이 나열됩니다.

    참고

    이전 출력에는 일부 CSR이 승인될 때까지 컴퓨팅 노드(작업자 노드라고도 함)가 포함되지 않을 수 있습니다.

  2. 보류 중인 CSR을 검토하고 클러스터에 추가한 각 시스템에 대해 Pending 또는 Approved 상태의 클라이언트 및 서버 요청이 표시되는지 확인합니다. 

    $ oc get csr
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME        AGE     REQUESTOR                                                                   CONDITION
csr-8b2br   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
csr-8vnps   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
...
    Copy to Clipboard Toggle word wrap

    예에서는 두 시스템이 클러스터에 참여하고 있습니다. 목록에는 승인된 CSR이 더 많이 나타날 수도 있습니다.

  3. CSR이 승인되지 않은 경우, 추가된 시스템에 대한 모든 보류 중인 CSR이 Pending 상태로 전환된 후 클러스터 시스템의 CSR을 승인합니다.

    참고

    CSR은 교체 주기가 자동으로 만료되므로 클러스터에 시스템을 추가한 후 1시간 이내에 CSR을 승인하십시오. 한 시간 내에 승인하지 않으면 인증서가 교체되고 각 노드에 대해 두 개 이상의 인증서가 표시됩니다. 이러한 인증서를 모두 승인해야 합니다. 클라이언트 CSR이 승인되면 Kubelet은 인증서에 대한 보조 CSR을 생성하므로 수동 승인이 필요합니다. 그러면 Kubelet에서 동일한 매개변수를 사용하여 새 인증서를 요청하는 경우 인증서 갱신 요청은 machine-approver에 의해 자동으로 승인됩니다.

    참고

    베어 메탈 및 기타 사용자 프로비저닝 인프라와 같이 머신 API를 사용하도록 활성화되지 않는 플랫폼에서 실행되는 클러스터의 경우 CSR(Kubelet service Certificate Request)을 자동으로 승인하는 방법을 구현해야 합니다. 요청이 승인되지 않으면 API 서버가 kubelet에 연결될 때 서비스 인증서가 필요하므로 oc exec, oc rsh, oc logs 명령을 성공적으로 수행할 수 없습니다. Kubelet 엔드 포인트에 연결하는 모든 작업을 수행하려면 이 인증서 승인이 필요합니다. 이 방법은 새 CSR을 감시하고 CSR이 system:node 또는 system:admin 그룹의 node-bootstrapper 서비스 계정에 의해 제출되었는지 확인하고 노드의 ID를 확인합니다.

    • 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오. 

      $ oc adm certificate approve <csr_name>
      1
      Copy to Clipboard Toggle word wrap
      1
      <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.

    • 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오. 

      $ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs --no-run-if-empty oc adm certificate approve
      Copy to Clipboard Toggle word wrap
      참고

      일부 Operator는 일부 CSR이 승인될 때까지 사용할 수 없습니다.

  4. 이제 클라이언트 요청이 승인되었으므로 클러스터에 추가한 각 머신의 서버 요청을 검토해야 합니다. 

    $ oc get csr
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME        AGE     REQUESTOR                                                                   CONDITION
csr-bfd72   5m26s   system:node:ip-10-0-50-126.us-east-2.compute.internal                       Pending
csr-c57lv   5m26s   system:node:ip-10-0-95-157.us-east-2.compute.internal                       Pending
...
    Copy to Clipboard Toggle word wrap

  5. 나머지 CSR이 승인되지 않고 Pending 상태인 경우 클러스터 머신의 CSR을 승인합니다.

    • 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오. 

      $ oc adm certificate approve <csr_name>
      1
      Copy to Clipboard Toggle word wrap
      1
      <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.

    • 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오. 

      $ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs oc adm certificate approve
      Copy to Clipboard Toggle word wrap

  6. 모든 클라이언트 및 서버 CSR이 승인된 후 머신은 Ready 상태가 됩니다. 다음 명령을 실행하여 확인합니다. 

    $ oc get nodes
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME      STATUS    ROLES   AGE  VERSION
master-0  Ready     master  73m  v1.32.3
master-1  Ready     master  73m  v1.32.3
master-2  Ready     master  74m  v1.32.3
worker-0  Ready     worker  11m  v1.32.3
worker-1  Ready     worker  11m  v1.32.3
    Copy to Clipboard Toggle word wrap

    참고

    머신이 Ready 상태로 전환하는 데 서버 CSR의 승인 후 몇 분이 걸릴 수 있습니다.

추가 정보

9.3. vSphere에 컴퓨팅 머신을 수동으로 추가
링크 복사

VMware vSphere에서 OpenShift Container Platform 클러스터에 더 많은 컴퓨팅 머신을 수동으로 추가할 수 있습니다.

참고

또한 컴퓨팅 머신 세트를 사용하여 클러스터에 대한 추가 VMware vSphere 컴퓨팅 머신 생성을 자동화할 수 있습니다.

9.3.1. 사전 요구 사항
링크 복사

중요

클러스터를 생성하는 데 사용된 Red Hat Enterprise Linux CoreOS(RHCOS) 이미지에 액세스할 수 없는 경우 최신 버전의 Red Hat Enterprise Linux CoreOS(RHCOS) 이미지를 사용하여 OpenShift Container Platform 클러스터에 더 많은 컴퓨팅 머신을 추가할 수 있습니다. 자세한 내용은 OpenShift 4.6+로 업그레이드한 후 UPI 클러스터에 새 노드 추가 실패를 참조하십시오.

9.3.2. vSphere의 클러스터에 더 많은 컴퓨팅 머신 추가
링크 복사

VMware vSphere에서 사용자가 프로비저닝한 OpenShift Container Platform 클러스터에 더 많은 컴퓨팅 머신을 추가할 수 있습니다.

vSphere 템플릿이 OpenShift Container Platform 클러스터에 배포된 후 해당 클러스터의 머신에 대한 가상 머신(VM)을 배포할 수 있습니다.

사전 요구 사항

  • 컴퓨팅 머신의 base64로 인코딩된 Ignition 파일을 가져옵니다.
  • 클러스터에 생성한 vSphere 템플릿에 액세스할 수 있습니다.

프로세스

  1. 템플릿 이름을 마우스 오른쪽 버튼으로 클릭하고 Clone → Clone to Virtual Machine을 클릭합니다.

  2. Select a name and folder 탭에서 가상 머신의 이름을 지정합니다. compute-1과 같은 머신 유형을 이름에 포함할 수 있습니다.

    참고

    vSphere 설치의 모든 가상 머신 이름이 고유한지 확인합니다.

  3. Select a name and folder 탭에서 클러스터에 대해 생성한 폴더의 이름을 선택합니다.
  4. Select a compute resource 탭에서 데이터 센터에서 호스트 이름을 선택합니다.
  5. 스토리지 선택 탭에서 구성 및 디스크 파일에 대한 스토리지를 선택합니다.
  6. 복제 옵션 선택 탭에서 이 가상 머신의 하드웨어 사용자 지정을 선택합니다.

  7. 하드웨어 사용자 지정 탭에서 고급 매개 변수 를 클릭합니다.

    • 속성 및 값 필드에 데이터를 지정하여 다음 구성 매개 변수 이름 및 값을 추가합니다. 생성하는 각 매개변수에 대해 추가 버튼을 선택해야 합니다.

      • guestinfo.ignition.config.data: 이 머신 유형에 대해 base64로 인코딩된 컴퓨팅 Ignition 구성 파일의 내용을 붙여넣습니다.
      • guestinfo.ignition.config.data.encoding: base64를 지정합니다.
      • disk.EnableUUID: TRUE를 지정합니다.
  8. Customize hardware 탭의 Virtual Hardware 패널에서 지정된 값을 필요에 따라 수정합니다. RAM, CPU 및 디스크 스토리지의 양이 시스템 유형에 대한 최소 요구사항을 충족하는지 확인합니다. 많은 네트워크가 있는 경우 새 장치 추가 > 네트워크 어댑터를 선택한 다음 새 네트워크 메뉴 항목에서 제공하는 필드에 네트워크 정보를 입력합니다.
  9. 나머지 구성 단계를 완료하세요. 마침 버튼을 클릭하면 복제 작업이 완료됩니다.
  10. 가상 머신 탭에서 VM을 마우스 오른쪽 버튼으로 클릭한 다음 전원 → 전원 켜기 을 선택합니다.

다음 단계

  • 계속해서 클러스터에 추가 컴퓨팅 머신을 만듭니다.

9.3.3. 시스템의 인증서 서명 요청 승인
링크 복사

클러스터에 시스템을 추가하면 추가한 시스템별로 보류 중인 인증서 서명 요청(CSR)이 두 개씩 생성됩니다. 이러한 CSR이 승인되었는지 확인해야 하며, 필요한 경우 이를 직접 승인해야 합니다. 클라이언트 요청을 먼저 승인한 다음 서버 요청을 승인해야 합니다.

사전 요구 사항

  • 클러스터에 시스템을 추가했습니다.

프로세스

  1. 클러스터가 시스템을 인식하는지 확인합니다. 

    $ oc get nodes
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME      STATUS    ROLES   AGE  VERSION
master-0  Ready     master  63m  v1.32.3
master-1  Ready     master  63m  v1.32.3
master-2  Ready     master  64m  v1.32.3
    Copy to Clipboard Toggle word wrap

    출력에 생성된 모든 시스템이 나열됩니다.

    참고

    이전 출력에는 일부 CSR이 승인될 때까지 컴퓨팅 노드(작업자 노드라고도 함)가 포함되지 않을 수 있습니다.

  2. 보류 중인 CSR을 검토하고 클러스터에 추가한 각 시스템에 대해 Pending 또는 Approved 상태의 클라이언트 및 서버 요청이 표시되는지 확인합니다. 

    $ oc get csr
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME        AGE     REQUESTOR                                                                   CONDITION
csr-8b2br   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
csr-8vnps   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
...
    Copy to Clipboard Toggle word wrap

    예에서는 두 시스템이 클러스터에 참여하고 있습니다. 목록에는 승인된 CSR이 더 많이 나타날 수도 있습니다.

  3. CSR이 승인되지 않은 경우, 추가된 시스템에 대한 모든 보류 중인 CSR이 Pending 상태로 전환된 후 클러스터 시스템의 CSR을 승인합니다.

    참고

    CSR은 교체 주기가 자동으로 만료되므로 클러스터에 시스템을 추가한 후 1시간 이내에 CSR을 승인하십시오. 한 시간 내에 승인하지 않으면 인증서가 교체되고 각 노드에 대해 두 개 이상의 인증서가 표시됩니다. 이러한 인증서를 모두 승인해야 합니다. 클라이언트 CSR이 승인되면 Kubelet은 인증서에 대한 보조 CSR을 생성하므로 수동 승인이 필요합니다. 그러면 Kubelet에서 동일한 매개변수를 사용하여 새 인증서를 요청하는 경우 인증서 갱신 요청은 machine-approver에 의해 자동으로 승인됩니다.

    참고

    베어 메탈 및 기타 사용자 프로비저닝 인프라와 같이 머신 API를 사용하도록 활성화되지 않는 플랫폼에서 실행되는 클러스터의 경우 CSR(Kubelet service Certificate Request)을 자동으로 승인하는 방법을 구현해야 합니다. 요청이 승인되지 않으면 API 서버가 kubelet에 연결될 때 서비스 인증서가 필요하므로 oc exec, oc rsh, oc logs 명령을 성공적으로 수행할 수 없습니다. Kubelet 엔드 포인트에 연결하는 모든 작업을 수행하려면 이 인증서 승인이 필요합니다. 이 방법은 새 CSR을 감시하고 CSR이 system:node 또는 system:admin 그룹의 node-bootstrapper 서비스 계정에 의해 제출되었는지 확인하고 노드의 ID를 확인합니다.

    • 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오. 

      $ oc adm certificate approve <csr_name>
      1
      Copy to Clipboard Toggle word wrap
      1
      <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.

    • 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오. 

      $ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs --no-run-if-empty oc adm certificate approve
      Copy to Clipboard Toggle word wrap
      참고

      일부 Operator는 일부 CSR이 승인될 때까지 사용할 수 없습니다.

  4. 이제 클라이언트 요청이 승인되었으므로 클러스터에 추가한 각 머신의 서버 요청을 검토해야 합니다. 

    $ oc get csr
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME        AGE     REQUESTOR                                                                   CONDITION
csr-bfd72   5m26s   system:node:ip-10-0-50-126.us-east-2.compute.internal                       Pending
csr-c57lv   5m26s   system:node:ip-10-0-95-157.us-east-2.compute.internal                       Pending
...
    Copy to Clipboard Toggle word wrap

  5. 나머지 CSR이 승인되지 않고 Pending 상태인 경우 클러스터 머신의 CSR을 승인합니다.

    • 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오. 

      $ oc adm certificate approve <csr_name>
      1
      Copy to Clipboard Toggle word wrap
      1
      <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.

    • 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오. 

      $ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs oc adm certificate approve
      Copy to Clipboard Toggle word wrap

  6. 모든 클라이언트 및 서버 CSR이 승인된 후 머신은 Ready 상태가 됩니다. 다음 명령을 실행하여 확인합니다. 

    $ oc get nodes
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME      STATUS    ROLES   AGE  VERSION
master-0  Ready     master  73m  v1.32.3
master-1  Ready     master  73m  v1.32.3
master-2  Ready     master  74m  v1.32.3
worker-0  Ready     worker  11m  v1.32.3
worker-1  Ready     worker  11m  v1.32.3
    Copy to Clipboard Toggle word wrap

    참고

    머신이 Ready 상태로 전환하는 데 서버 CSR의 승인 후 몇 분이 걸릴 수 있습니다.

추가 정보

9.4. 베어 메탈에 컴퓨팅 머신 추가
링크 복사

베어 메탈 또는 플랫폼 독립적인 클러스터에서 OpenShift Container Platform 클러스터에 더 많은 컴퓨팅 머신을 추가할 수 있습니다.

9.4.1. 사전 요구 사항
링크 복사

  • 베어메탈에 클러스터를 설치했습니다 .
  • 모든 플랫폼에 클러스터를 설치했습니다 .
  • 클러스터를 생성하는 데 사용한 설치 미디어와 Red Hat Enterprise Linux CoreOS(RHCOS) 이미지가 있습니다. 이러한 파일이 없는 경우 설치 절차의 지침에 따라 파일을 얻어야 합니다.
  • 사용자 프로비저닝 인프라에 DHCP 서버를 사용할 수 있는 경우 추가 컴퓨팅 머신의 세부 정보를 DHCP 서버 구성에 추가했습니다. 여기에는 영구 IP 주소, DNS 서버 정보 및 각 시스템의 호스트 이름이 포함됩니다.
  • 추가하려는 각 컴퓨팅 시스템의 레코드 이름 및 IP 주소를 포함하도록 DNS 구성을 업데이트했습니다. DNS 조회 및 역방향 DNS 조회가 올바르게 확인되었는지 확인했습니다.
중요

클러스터를 생성하는 데 사용된 Red Hat Enterprise Linux CoreOS(RHCOS) 이미지에 액세스할 수 없는 경우 최신 버전의 Red Hat Enterprise Linux CoreOS(RHCOS) 이미지를 사용하여 OpenShift Container Platform 클러스터에 더 많은 컴퓨팅 머신을 추가할 수 있습니다. 자세한 내용은 OpenShift 4.6+로 업그레이드한 후 UPI 클러스터에 새 노드 추가 실패를 참조하십시오.

9.4.2. Red Hat Enterprise Linux CoreOS(RHCOS) 머신 생성
링크 복사

베어메탈 인프라에 설치된 클러스터에 컴퓨팅 머신을 추가하기 전에 사용할 RHCOS 머신을 생성해야 합니다. ISO 이미지 또는 네트워크 PXE 부팅을 사용하여 시스템을 생성합니다.

참고

클러스터의 모든 새 노드를 배포하려면 클러스터를 설치하는 데 사용한 것과 동일한 ISO 이미지를 사용해야 합니다. 동일한 Ignition 구성 파일을 사용하는 것이 좋습니다. 노드는 워크로드를 실행하기 전에 처음 부팅할 때 자동으로 업그레이드됩니다. 업그레이드 전이나 후에 노드를 추가할 수 있습니다.

9.4.2.1. ISO 이미지를 사용하여 RHCOS 머신 만들기
링크 복사

ISO 이미지를 사용하여 머신을 생성하면 베어 메탈 클러스터에 대한 Red Hat Enterprise Linux CoreOS(RHCOS) 컴퓨팅 머신을 더 많이 생성할 수 있습니다.

사전 요구 사항

  • 클러스터의 컴퓨팅 머신에 대한 Ignition 구성 파일의 URL을 가져옵니다. 설치 중에 이 파일은 HTTP 서버에 업로드되어 있어야 합니다.
  • OpenShift CLI(oc)가 설치되어 있어야 합니다.

프로세스

  1. 다음 명령을 실행하여 클러스터에서 Ignition 구성 파일을 추출합니다. 

    $ oc extract -n openshift-machine-api secret/worker-user-data-managed --keys=userData --to=- > worker.ign
    Copy to Clipboard Toggle word wrap
  2. 클러스터에서 내보낸 worker.ign Ignition 구성 파일을 HTTP 서버로 업로드합니다. 해당 파일의 URL을 기록해 둡니다.

  3. Ignition 파일을 URL에서 사용할 수 있는지 확인할 수 있습니다. 다음 예제에서는 컴퓨팅 노드에 대한 Ignition 구성 파일을 가져옵니다. 

    $ curl -k http://<HTTP_server>/worker.ign
    Copy to Clipboard Toggle word wrap

  4. 다음 명령으로 실행하여 새 머신을 부팅하기 위해 ISO 이미지에 액세스할 수 있습니다. 

    RHCOS_VHD_ORIGIN_URL=$(oc -n openshift-machine-config-operator get configmap/coreos-bootimages -o jsonpath='{.data.stream}' | jq -r '.architectures.<architecture>.artifacts.metal.formats.iso.disk.location')
    Copy to Clipboard Toggle word wrap

  5. ISO 파일을 사용하여 추가 컴퓨팅 머신에 RHCOS를 설치합니다. 클러스터를 설치하기 전에 머신을 만들 때 사용한 것과 동일한 방법을 사용합니다.

    • ISO 이미지를 디스크에 굽고 직접 부팅합니다.
    • LOM 인터페이스에서 ISO 리디렉션을 사용합니다.

  6. 옵션을 지정하거나 라이브 부팅 시퀀스를 중단하지 않고 RHCOS ISO 이미지를 부팅합니다. 설치 프로그램이 RHCOS 라이브 환경에서 쉘 프롬프트로 부팅될 때까지 기다립니다.

    참고

    커널 인수를 추가하기 위해 설치 부팅 프로세스를 중단할 수 있습니다. 하지만 이 ISO 프로세스에서는 커널 인수를 추가하지 않고 다음 단계에 설명된 대로 coreos-installer 명령을 사용해야 합니다.

  7. coreos-installer 명령을 실행하고 설치 요구 사항을 충족하는 옵션을 지정합니다. 최소한 노드 유형에 대한 Ignition 구성 파일과 설치할 장치를 가리키는 URL을 지정해야 합니다. 

    $ sudo coreos-installer install --ignition-url=http://<HTTP_server>/<node_type>.ign <device> --ignition-hash=sha512-<digest>
    1
    2
    Copy to Clipboard Toggle word wrap
    1
    core 사용자에게 설치를 수행하는 데 필요한 root 권한이 없으므로 sudo를 사용하여 coreos-installer 명령을 실행해야 합니다.
    2
    클러스터 노드에서 Ignition 구성 파일을 HTTP URL을 통해 가져오려면 --ignition-hash 옵션이 필요합니다. <digest>는 이전 단계에서 얻은 Ignition 구성 파일 SHA512 다이제스트입니다.
    참고

    TLS를 사용하는 HTTPS 서버를 통해 Ignition 구성 파일을 제공하려는 경우 coreos-installer를 실행하기 전에 내부 인증 기관(CA)을 시스템 신뢰 저장소에 추가할 수 있습니다.

    다음 예제에서는 /dev/sda 장치에 부트스트랩 노드 설치를 초기화합니다. 부트스트랩 노드의 Ignition 구성 파일은 IP 주소 192.168.1.2가 있는 HTTP 웹 서버에서 가져옵니다. 

    $ sudo coreos-installer install --ignition-url=http://192.168.1.2:80/installation_directory/bootstrap.ign /dev/sda --ignition-hash=sha512-a5a2d43879223273c9b60af66b44202a1d1248fc01cf156c46d4a79f552b6bad47bc8cc78ddf0116e80c59d2ea9e32ba53bc807afbca581aa059311def2c3e3b
    Copy to Clipboard Toggle word wrap

  8. 머신 콘솔에서 RHCOS 설치 진행률을 모니터링합니다.

    중요

    OpenShift Container Platform 설치를 시작하기 전에 각 노드에서 성공적으로 설치되었는지 확인합니다. 설치 프로세스를 관찰하면 발생할 수 있는 RHCOS 설치 문제의 원인을 파악하는 데 도움이 될 수 있습니다.

  9. 계속해서 클러스터에 추가 컴퓨팅 머신을 만듭니다.
9.4.2.2. PXE 또는 iPXE 부팅을 통해 RHCOS 머신 생성
링크 복사

PXE 또는 iPXE 부팅을 사용하여 베어 메탈 클러스터에 대해 추가 Red Hat Enterprise Linux CoreOS (RHCOS) 컴퓨팅 머신을 생성할 수 있습니다.

사전 요구 사항

  • 클러스터의 컴퓨팅 머신에 대한 Ignition 구성 파일의 URL을 가져옵니다. 설치 중에 이 파일은 HTTP 서버에 업로드되어 있어야 합니다.
  • 클러스터 설치 중에 HTTP 서버에 업로드 한 RHCOS ISO 이미지, 압축된 메탈 BIOS, kernel 및 initramfs 파일의 URL을 가져옵니다.
  • 설치 중에 OpenShift Container Platform 클러스터에 대한 머신을 생성하는 데 사용한 PXE 부팅 인프라에 액세스할 수 있습니다. RHCOS가 설치된 후 로컬 디스크에서 머신을 부팅해야합니다.
  • UEFI를 사용하는 경우 OpenShift Container Platform 설치 중에 수정 한 grub.conf 파일에 액세스할 수 있습니다.

프로세스

  1. RHCOS 이미지의 PXE 또는 iPXE가 올바르게 설치되었는지 확인합니다.

    • PXE의 경우: 

      DEFAULT pxeboot
TIMEOUT 20
PROMPT 0
LABEL pxeboot
    KERNEL http://<HTTP_server>/rhcos-<version>-live-kernel-<architecture>
      1 
      
    APPEND initrd=http://<HTTP_server>/rhcos-<version>-live-initramfs.<architecture>.img coreos.inst.install_dev=/dev/sda coreos.inst.ignition_url=http://<HTTP_server>/worker.ign coreos.live.rootfs_url=http://<HTTP_server>/rhcos-<version>-live-rootfs.<architecture>.img
      2
      Copy to Clipboard Toggle word wrap
      1
      HTTP 서버에 업로드한 라이브 kernel 파일의 위치를 지정합니다.
      2
      HTTP 서버에 업로드한 RHCOS 파일의 위치를 지정합니다. initrd 매개변수 값은 initramfs 파일의 위치이고 coreos.inst.ignition_url 매개변수 값은 작업자 Ignition 설정 파일의 위치이며 coreos.live.rootfs_url 매개 변수 값은 라이브 rootfs 파일의 위치입니다. coreos.inst.ignition_url 및 coreos.live.rootfs_url 매개변수는 HTTP 및 HTTPS만 지원합니다.
      참고

      이 구성은 그래픽 콘솔이 있는 시스템에서 직렬 콘솔 액세스를 활성화하지 않습니다. 다른 콘솔을 구성하려면 APPEND 행에 하나 이상의 console= 인수를 추가합니다. 예를 들어 console=tty0 console=ttyS0을 추가하여 첫 번째 PC 직렬 포트를 기본 콘솔로 설정하고 그래픽 콘솔을 보조 콘솔로 설정합니다. 자세한 내용은 Red Hat Enterprise Linux에서 직렬 터미널 및/또는 콘솔 설정 방법을 참조하십시오.

    • iPXE( x86_64 + aarch64 )의 경우: 

      kernel http://<HTTP_server>/rhcos-<version>-live-kernel-<architecture> initrd=main coreos.live.rootfs_url=http://<HTTP_server>/rhcos-<version>-live-rootfs.<architecture>.img coreos.inst.install_dev=/dev/sda coreos.inst.ignition_url=http://<HTTP_server>/worker.ign
      1
      2 
      
initrd --name main http://<HTTP_server>/rhcos-<version>-live-initramfs.<architecture>.img
      3 
      
boot
      Copy to Clipboard Toggle word wrap
      1
      HTTP 서버에 업로드한 RHCOS 파일의 위치를 지정합니다. 커널 매개변수 값은 커널 파일의 위치이고, initrd=main 인수는 UEFI 시스템에서 부팅하는 데 필요하며, coreos.live.rootfs_url 매개변수 값은 rootfs 파일의 위치이고, coreos.inst.ignition_url 매개변수 값은 워커 Ignition 구성 파일의 위치입니다.
      2
      NIC를 여러 개 사용하는 경우 ip 옵션에 단일 인터페이스를 지정합니다. 예를 들어, eno1라는 NIC에서 DHCP를 사용하려면 ip=eno1:dhcp를 설정하십시오.
      3
      HTTP 서버에 업로드한 initramfs 파일의 위치를 지정합니다.
      참고

      이 구성은 그래픽 콘솔이 있는 머신에서 직렬 콘솔 액세스를 활성화하지 않습니다. 다른 콘솔을 구성하려면 kernel 행에 하나 이상의 console= 인수를 추가합니다. 예를 들어 console=tty0 console=ttyS0을 추가하여 첫 번째 PC 직렬 포트를 기본 콘솔로 설정하고 그래픽 콘솔을 보조 콘솔로 설정합니다. 자세한 내용은 Red Hat Enterprise Linux에서 직렬 터미널 및/또는 콘솔을 설정하는 방법 및 "고급 RHCOS 설치 구성" 섹션의 "PXE 및 ISO 설치를 위한 직렬 콘솔 활성화"를 참조하세요.

      참고

      aarch64 아키텍처에서 CoreOS kernel 을 부팅하려면 IMAGE_GZIP 옵션이 활성화된 iPXE 빌드 버전을 사용해야 합니다. iPXE의IMAGE_GZIP 옵션을 참조하십시오.

    • aarch64 에서 PXE ( UEFI 및 GRUB를 두 번째 단계로 사용)의 경우 : 

      menuentry 'Install CoreOS' {
    linux rhcos-<version>-live-kernel-<architecture>  coreos.live.rootfs_url=http://<HTTP_server>/rhcos-<version>-live-rootfs.<architecture>.img coreos.inst.install_dev=/dev/sda coreos.inst.ignition_url=http://<HTTP_server>/worker.ign
      1
      2 
      
    initrd rhcos-<version>-live-initramfs.<architecture>.img
      3 
      
}
      Copy to Clipboard Toggle word wrap
      1
      HTTP/TFTP 서버에 업로드한 RHCOS 파일의 위치를 지정합니다. kernel 매개변수 값은 TFTP 서버의 파일의 위치입니다. coreos.live.rootfs_url 매개변수 값은 rootfs 파일의 위치이고, coreos.inst.ignition_url 매개변수 값은 HTTP 서버의 Worker Ignition 구성 파일의 위치입니다.
      2
      NIC를 여러 개 사용하는 경우 ip 옵션에 단일 인터페이스를 지정합니다. 예를 들어, eno1라는 NIC에서 DHCP를 사용하려면 ip=eno1:dhcp를 설정하십시오.
      3
      TFTP 서버에 업로드한 initramfs 파일의 위치를 지정합니다.
  2. PXE 또는 iPXE 인프라를 사용하여 클러스터에 필요한 컴퓨팅 머신을 만듭니다.

9.4.3. 시스템의 인증서 서명 요청 승인
링크 복사

클러스터에 시스템을 추가하면 추가한 시스템별로 보류 중인 인증서 서명 요청(CSR)이 두 개씩 생성됩니다. 이러한 CSR이 승인되었는지 확인해야 하며, 필요한 경우 이를 직접 승인해야 합니다. 클라이언트 요청을 먼저 승인한 다음 서버 요청을 승인해야 합니다.

사전 요구 사항

  • 클러스터에 시스템을 추가했습니다.

프로세스

  1. 클러스터가 시스템을 인식하는지 확인합니다. 

    $ oc get nodes
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME      STATUS    ROLES   AGE  VERSION
master-0  Ready     master  63m  v1.32.3
master-1  Ready     master  63m  v1.32.3
master-2  Ready     master  64m  v1.32.3
    Copy to Clipboard Toggle word wrap

    출력에 생성된 모든 시스템이 나열됩니다.

    참고

    이전 출력에는 일부 CSR이 승인될 때까지 컴퓨팅 노드(작업자 노드라고도 함)가 포함되지 않을 수 있습니다.

  2. 보류 중인 CSR을 검토하고 클러스터에 추가한 각 시스템에 대해 Pending 또는 Approved 상태의 클라이언트 및 서버 요청이 표시되는지 확인합니다. 

    $ oc get csr
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME        AGE     REQUESTOR                                                                   CONDITION
csr-8b2br   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
csr-8vnps   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
...
    Copy to Clipboard Toggle word wrap

    예에서는 두 시스템이 클러스터에 참여하고 있습니다. 목록에는 승인된 CSR이 더 많이 나타날 수도 있습니다.

  3. CSR이 승인되지 않은 경우, 추가된 시스템에 대한 모든 보류 중인 CSR이 Pending 상태로 전환된 후 클러스터 시스템의 CSR을 승인합니다.

    참고

    CSR은 교체 주기가 자동으로 만료되므로 클러스터에 시스템을 추가한 후 1시간 이내에 CSR을 승인하십시오. 한 시간 내에 승인하지 않으면 인증서가 교체되고 각 노드에 대해 두 개 이상의 인증서가 표시됩니다. 이러한 인증서를 모두 승인해야 합니다. 클라이언트 CSR이 승인되면 Kubelet은 인증서에 대한 보조 CSR을 생성하므로 수동 승인이 필요합니다. 그러면 Kubelet에서 동일한 매개변수를 사용하여 새 인증서를 요청하는 경우 인증서 갱신 요청은 machine-approver에 의해 자동으로 승인됩니다.

    참고

    베어 메탈 및 기타 사용자 프로비저닝 인프라와 같이 머신 API를 사용하도록 활성화되지 않는 플랫폼에서 실행되는 클러스터의 경우 CSR(Kubelet service Certificate Request)을 자동으로 승인하는 방법을 구현해야 합니다. 요청이 승인되지 않으면 API 서버가 kubelet에 연결될 때 서비스 인증서가 필요하므로 oc exec, oc rsh, oc logs 명령을 성공적으로 수행할 수 없습니다. Kubelet 엔드 포인트에 연결하는 모든 작업을 수행하려면 이 인증서 승인이 필요합니다. 이 방법은 새 CSR을 감시하고 CSR이 system:node 또는 system:admin 그룹의 node-bootstrapper 서비스 계정에 의해 제출되었는지 확인하고 노드의 ID를 확인합니다.

    • 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오. 

      $ oc adm certificate approve <csr_name>
      1
      Copy to Clipboard Toggle word wrap
      1
      <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.

    • 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오. 

      $ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs --no-run-if-empty oc adm certificate approve
      Copy to Clipboard Toggle word wrap
      참고

      일부 Operator는 일부 CSR이 승인될 때까지 사용할 수 없습니다.

  4. 이제 클라이언트 요청이 승인되었으므로 클러스터에 추가한 각 머신의 서버 요청을 검토해야 합니다. 

    $ oc get csr
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME        AGE     REQUESTOR                                                                   CONDITION
csr-bfd72   5m26s   system:node:ip-10-0-50-126.us-east-2.compute.internal                       Pending
csr-c57lv   5m26s   system:node:ip-10-0-95-157.us-east-2.compute.internal                       Pending
...
    Copy to Clipboard Toggle word wrap

  5. 나머지 CSR이 승인되지 않고 Pending 상태인 경우 클러스터 머신의 CSR을 승인합니다.

    • 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오. 

      $ oc adm certificate approve <csr_name>
      1
      Copy to Clipboard Toggle word wrap
      1
      <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.

    • 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오. 

      $ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs oc adm certificate approve
      Copy to Clipboard Toggle word wrap

  6. 모든 클라이언트 및 서버 CSR이 승인된 후 머신은 Ready 상태가 됩니다. 다음 명령을 실행하여 확인합니다. 

    $ oc get nodes
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME      STATUS    ROLES   AGE  VERSION
master-0  Ready     master  73m  v1.32.3
master-1  Ready     master  73m  v1.32.3
master-2  Ready     master  74m  v1.32.3
worker-0  Ready     worker  11m  v1.32.3
worker-1  Ready     worker  11m  v1.32.3
    Copy to Clipboard Toggle word wrap

    참고

    머신이 Ready 상태로 전환하는 데 서버 CSR의 승인 후 몇 분이 걸릴 수 있습니다.

추가 정보

10장. 제어 평면 머신 관리
링크 복사

10.1. 제어 평면 머신 세트에 관하여
링크 복사

제어 평면 머신 세트를 사용하면 OpenShift Container Platform 클러스터 내에서 제어 평면 머신 리소스의 관리를 자동화할 수 있습니다.

중요

제어 평면 머신 세트는 컴퓨팅 머신을 관리할 수 없고, 컴퓨팅 머신 세트는 제어 평면 머신을 관리할 수 없습니다.

제어 평면 머신 세트는 컴퓨팅 머신 세트가 컴퓨팅 머신에 제공하는 것과 유사한 관리 기능을 제어 평면 머신에 제공합니다. 그러나 이 두 가지 유형의 머신 세트는 Machine API 내에서 정의된 별도의 사용자 정의 리소스이며 아키텍처와 기능 면에서 몇 가지 근본적인 차이점이 있습니다.

10.1.1. 제어 평면 머신 세트 운영자 개요
링크 복사

Control Plane Machine Set Operator는 ControlPlaneMachineSet 사용자 정의 리소스(CR)를 사용하여 OpenShift Container Platform 클러스터 내의 제어 평면 머신 리소스 관리를 자동화합니다.

클러스터 제어 평면 머신 세트의 상태가 활성 으로 설정되면 운영자는 지정된 구성을 갖춘 올바른 수의 제어 평면 머신이 클러스터에 있는지 확인합니다. 이를 통해 성능이 저하된 제어 평면 머신을 자동으로 교체하고 제어 평면에 변경 사항을 적용할 수 있습니다.

클러스터에는 제어 평면 머신 세트가 하나만 있고, 운영자는 openshift-machine-api 네임스페이스의 객체만 관리합니다.

10.1.1.1. 제어 평면 머신 세트 운영자 제한 사항
링크 복사

제어 평면 머신 세트 운영자에게는 다음과 같은 제한이 있습니다.

  • Amazon Web Services(AWS), Google Cloud Platform(GCP), IBM Power® Virtual Server, Microsoft Azure, Nutanix, VMware vSphere, Red Hat OpenStack Platform(RHOSP) 클러스터만 지원됩니다.

  • 제어 평면 노드를 나타내는 기존 머신이 없는 클러스터는 제어 평면 머신 세트를 사용할 수 없으며, 설치 후에 제어 평면 머신 세트 사용을 활성화할 수 없습니다. 일반적으로 기존 제어 평면 머신은 설치 프로그램에서 프로비저닝된 인프라를 사용하여 클러스터가 설치된 경우에만 존재합니다.

    클러스터에 필요한 기존 제어 평면 머신이 있는지 확인하려면 관리자 권한이 있는 사용자로 다음 명령을 실행하세요. 

    $ oc get machine \
  -n openshift-machine-api \
  -l machine.openshift.io/cluster-api-machine-role=master
    Copy to Clipboard Toggle word wrap

    기존 제어 평면 머신을 보여주는 예제 출력

    NAME                    PHASE     TYPE         REGION      ZONE         AGE
<infrastructure_id>-master-0   Running   m6i.xlarge   us-west-1   us-west-1a   5h19m
<infrastructure_id>-master-1   Running   m6i.xlarge   us-west-1   us-west-1b   5h19m
<infrastructure_id>-master-2   Running   m6i.xlarge   us-west-1   us-west-1a   5h19m
    Copy to Clipboard Toggle word wrap

    기존 제어 평면 머신이 없는 예제 출력

    No resources found in openshift-machine-api namespace.
    Copy to Clipboard Toggle word wrap

  • 운영자는 Machine API 운영자가 작동 중이어야 하므로 수동으로 프로비저닝된 머신이 있는 클러스터에서는 지원되지 않습니다. 활성 생성된 ControlPlaneMachineSet 사용자 정의 리소스(CR)를 생성하는 플랫폼에 대해 수동으로 프로비저닝된 머신이 있는 OpenShift Container Platform 클러스터를 설치하는 경우, 설치 프로세스에 설명된 대로 제어 평면 머신 세트를 정의하는 Kubernetes 매니페스트 파일을 제거해야 합니다.
  • 컨트롤 플레인 시스템이 3개인 클러스터만 지원됩니다.
  • 제어 평면의 수평적 확장은 지원되지 않습니다.
  • Ephemeral OS 디스크에 Azure 제어 평면 머신을 배포하면 데이터 손실 위험이 높아지므로 지원되지 않습니다.

  • AWS Spot 인스턴스, GCP 선점형 VM 또는 Azure Spot VM으로 제어 평면 머신을 배포하는 것은 지원되지 않습니다.

    중요

    AWS Spot 인스턴스, GCP 선점형 VM 또는 Azure Spot VM으로 제어 평면 머신을 배포하려고 하면 클러스터에서 etcd 쿼럼이 손실될 수 있습니다. 모든 제어 평면 머신을 동시에 잃은 클러스터는 복구할 수 없습니다.

  • 설치 중이나 설치 전에 제어 평면 머신 세트를 변경하는 것은 지원되지 않습니다. 설치 후에만 제어 평면 머신 세트를 변경해야 합니다.

10.2. 제어 평면 머신 세트 시작하기
링크 복사

제어 평면 머신 세트를 시작하는 프로세스는 클러스터의 ControlPlaneMachineSet 사용자 정의 리소스(CR) 상태에 따라 달라집니다.

활성화된 CR이 생성된 클러스터
활성 상태의 생성된 CR이 있는 클러스터는 기본적으로 설정된 제어 평면 머신을 사용합니다. 관리자 작업은 필요하지 않습니다.
비활성 생성된 CR이 있는 클러스터
비활성화된 생성된 CR이 포함된 클러스터의 경우 CR 구성을 검토하고 CR을 활성화 해야 합니다.
생성된 CR이 없는 클러스터
생성된 CR이 포함되지 않은 클러스터의 경우 클러스터에 적합한 구성으로 CR을 만들고 활성화 해야 합니다.

클러스터의 ControlPlaneMachineSet CR 상태가 확실하지 않은 경우 CR 상태를 확인할 수 있습니다.

10.2.1. 지원되는 클라우드 제공업체
링크 복사

OpenShift Container Platform 4.19에서는 Amazon Web Services(AWS), Google Cloud Platform(GCP), Microsoft Azure, Nutanix 및 VMware vSphere 클러스터에 대한 제어 플레인 머신 세트가 지원됩니다.

설치 후 제어 평면 머신 세트의 상태는 클라우드 공급자와 클러스터에 설치한 OpenShift Container Platform 버전에 따라 달라집니다.

Expand
표 10.1. OpenShift Container Platform 4.19에 대한 제어 평면 머신 세트 구현
클라우드 공급자기본적으로 활성화됨생성된 CR수동 CR 필요

AWS(Amazon Web Services)

X [1]

X

 

GCP(Google Cloud Platform)

X [2]

X

 

Microsoft Azure

X [2]

X

 

Nutanix

X [3]

X

 

Red Hat 오픈스택 플랫폼(RHOSP)

X [3]

X

 

VMware vSphere

X [4]

X

 
  1. 4.11 이하 버전에서 업그레이드된 AWS 클러스터에는 CR 활성화가 필요합니다.
  2. 버전 4.12 이하에서 업그레이드된 GCP 및 Azure 클러스터에는 CR 활성화가 필요합니다.
  3. 4.13 이하 버전에서 업그레이드된 Nutanix 및 RHOSP 클러스터에는 CR 활성화가 필요합니다.
  4. 버전 4.15 이하에서 업그레이드된 vSphere 클러스터에는 CR 활성화가 필요합니다.

10.2.2. 컨트롤 플레인 머신 세트 사용자 정의 리소스 상태 확인
링크 복사

ControlPlaneMachineSet CR(사용자 정의 리소스)의 존재 및 상태를 확인할 수 있습니다.

프로세스

  • 다음 명령을 실행하여 CR 상태를 확인하세요. 

    $ oc get controlplanemachineset.machine.openshift.io cluster \
  --namespace openshift-machine-api
    Copy to Clipboard Toggle word wrap
    • Active 결과는 ControlPlaneMachineSet CR이 존재하고 활성화되었음을 나타냅니다. 관리자 작업은 필요하지 않습니다.
    • Inactive 결과는 ControlPlaneMachineSet CR이 존재하지만 활성화되지 않았음을 나타냅니다.
    • NotFound 결과는 ControlPlaneMachineSet CR이 존재하지 않음을 나타냅니다.

다음 단계

제어 평면 머신 세트를 사용하려면 클러스터에 대한 올바른 설정을 갖춘 ControlPlaneMachineSet CR이 있는지 확인해야 합니다.

  • 클러스터에 기존 CR이 있는 경우 해당 CR의 구성이 클러스터에 맞는지 확인해야 합니다.
  • 클러스터에 기존 CR이 없는 경우 클러스터에 맞는 올바른 구성으로 CR을 만들어야 합니다.

10.2.3. 컨트롤 플레인 머신 세트 사용자 정의 리소스 활성화
링크 복사

제어 평면 머신 세트를 사용하려면 클러스터에 대한 올바른 설정을 갖춘 ControlPlaneMachineSet 사용자 지정 리소스(CR)가 있는지 확인해야 합니다. 생성된 CR이 있는 클러스터에서 CR의 구성이 클러스터에 맞는지 확인하고 활성화해야 합니다.

참고

CR의 매개변수에 대한 자세한 내용은 "제어 평면 머신 세트 구성"을 참조하세요.

프로세스

  1. 다음 명령을 실행하여 CR의 구성을 확인하세요. 

    $ oc --namespace openshift-machine-api edit controlplanemachineset.machine.openshift.io cluster
    Copy to Clipboard Toggle word wrap
  2. 클러스터 구성에 맞지 않는 필드 값을 변경하세요.

  3. 구성이 올바르면 .spec.state 필드를 활성 으로 설정하고 변경 사항을 저장하여 CR을 활성화합니다.

    중요

    CR을 활성화하려면 CR 구성을 업데이트하는 데 사용하는 동일한 oc 편집 세션에서 .spec.state 필드를 활성 으로 변경해야 합니다. CR이 Inactive 상태로 저장된 경우 컨트롤 플레인 머신 세트 생성기는 CR을 원래 설정으로 재설정합니다.

10.2.4. 컨트롤 플레인 머신 세트 사용자 정의 리소스 생성
링크 복사

제어 평면 머신 세트를 사용하려면 클러스터에 대한 올바른 설정을 갖춘 ControlPlaneMachineSet 사용자 지정 리소스(CR)가 있는지 확인해야 합니다. 생성된 CR이 없는 클러스터에서 CR을 수동으로 생성하고 활성화해야 합니다.

참고

CR의 구조와 매개변수에 대한 자세한 내용은 "제어 평면 머신 세트 구성"을 참조하세요.

프로세스

  1. 다음 템플릿을 사용하여 YAML 파일을 만듭니다.

    컨트롤 플레인 머신 세트 CR YAML 파일 템플릿

    apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
metadata:
  name: cluster
  namespace: openshift-machine-api
spec:
  replicas: 3
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <cluster_id>
    1 
    
      machine.openshift.io/cluster-api-machine-role: master
      machine.openshift.io/cluster-api-machine-type: master
  state: Active
    2 
    
  strategy:
    type: RollingUpdate
    3 
    
  template:
    machineType: machines_v1beta1_machine_openshift_io
    machines_v1beta1_machine_openshift_io:
      failureDomains:
        platform: <platform>
    4 
    
        <platform_failure_domains>
    5 
    
      metadata:
        labels:
          machine.openshift.io/cluster-api-cluster: <cluster_id>
    6 
    
          machine.openshift.io/cluster-api-machine-role: master
          machine.openshift.io/cluster-api-machine-type: master
      spec:
        providerSpec:
          value:
            <platform_provider_spec>
    7
    Copy to Clipboard Toggle word wrap

    1
    클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID를 지정합니다. ControlPlaneMachineSet CR을 생성할 때 이 값을 지정해야 합니다. OpenShift CLI (oc) 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
    $ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
    Copy to Clipboard Toggle word wrap
    2
    운영자의 상태를 지정합니다. 상태가 Inactive 이면 Operator가 작동하지 않습니다. 값을 Active 로 설정하여 Operator를 활성화할 수 있습니다.
    중요

    CR을 활성화하기 전에 클러스터 요구 사항에 맞게 구성이 올바른지 확인해야 합니다.

    3
    클러스터에 대한 업데이트 전략을 지정합니다. 유효한 값은 OnDelete 및 RollingUpdate 입니다. 기본값은 RollingUpdate 입니다. 업데이트 전략에 대한 자세한 내용은 "제어 평면 구성 업데이트"를 참조하세요.
    4
    클라우드 공급자 플랫폼 이름을 지정하세요. 유효한 값은 AWS , Azure , GCP , Nutanix , VSphere 및 OpenStack 입니다.
    5
    클러스터에 <platform_failure_domains> 구성을 추가합니다. 이 섹션의 형식과 값은 공급자에 따라 다릅니다. 자세한 내용은 클라우드 공급자의 샘플 장애 도메인 구성을 참조하세요.
    6
    인프라 ID를 지정합니다.
    7
    클러스터에 대한 <platform_provider_spec> 구성을 추가합니다. 이 섹션의 형식과 값은 공급자에 따라 다릅니다. 자세한 내용은 클라우드 공급업체의 샘플 공급업체 사양을 참조하세요.
  2. 제어 평면 머신 세트 CR에 대한 샘플 YAML을 참조하고 클러스터 구성에 적합한 값으로 파일을 채웁니다.
  3. 클라우드 공급자의 샘플 장애 도메인 구성 및 샘플 공급자 사양을 참조하고 파일의 해당 섹션을 적절한 값으로 업데이트하세요.
  4. 구성이 올바르면 .spec.state 필드를 활성 으로 설정하고 변경 사항을 저장하여 CR을 활성화합니다.

  5. 다음 명령을 실행하여 YAML 파일에서 CR을 만듭니다. 

    $ oc create -f <control_plane_machine_set>.yaml
    Copy to Clipboard Toggle word wrap

    여기서 <control_plane_machine_set> 은 CR 구성이 포함된 YAML 파일의 이름입니다.

10.3. 제어 평면 머신 세트를 사용하여 제어 평면 머신 관리
링크 복사

제어 평면 머신 세트는 제어 평면 관리의 여러 필수 측면을 자동화합니다.

10.3.1. 제어 평면 구성 업데이트
링크 복사

제어 평면 머신 세트 사용자 정의 리소스(CR)의 사양을 업데이트하여 제어 평면의 머신 구성을 변경할 수 있습니다.

제어 평면 머신 세트 운영자는 제어 평면 머신을 모니터링하고 해당 구성을 제어 평면 머신 세트 CR의 사양과 비교합니다. CR의 사양과 제어 평면 머신의 구성 사이에 불일치가 있는 경우, 운영자는 해당 제어 평면 머신을 교체 대상으로 표시합니다.

참고

CR의 매개변수에 대한 자세한 내용은 "제어 평면 머신 세트 구성"을 참조하세요.

사전 요구 사항

  • 클러스터에 활성화되어 작동하는 제어 평면 머신 세트 운영자가 있습니다.

프로세스

  1. 다음 명령을 실행하여 제어 평면 머신 세트 CR을 편집합니다. 

    $ oc edit controlplanemachineset.machine.openshift.io cluster \
  -n openshift-machine-api
    Copy to Clipboard Toggle word wrap
  2. 클러스터 구성에서 업데이트하려는 모든 필드의 값을 변경합니다.
  3. 변경 사항을 저장하십시오.

다음 단계

  • 기본 RollingUpdate 업데이트 전략을 사용하는 클러스터의 경우, 제어 평면 머신 세트는 제어 평면 구성에 대한 변경 사항을 자동으로 전파합니다.
  • OnDelete 업데이트 전략을 사용하도록 구성된 클러스터의 경우 제어 평면 머신을 수동으로 교체해야 합니다.
10.3.1.1. 제어 평면 구성에 대한 자동 업데이트
링크 복사

RollingUpdate 업데이트 전략은 제어 평면 구성에 대한 변경 사항을 자동으로 전파합니다. 이 업데이트 전략은 제어 평면 머신 세트의 기본 구성입니다.

RollingUpdate 업데이트 전략을 사용하는 클러스터의 경우, 운영자는 CR에 지정된 구성을 사용하여 대체 제어 평면 머신을 만듭니다. 교체용 제어 평면 머신이 준비되면 운영자는 교체용으로 표시된 제어 평면 머신을 삭제합니다. 그런 다음 교체 머신이 컨트롤 플레인에 결합합니다.

여러 개의 제어 평면 머신이 교체 대상으로 표시된 경우, 운영자는 각 머신을 교체할 때까지 한 번에 한 머신씩 이 교체 프로세스를 반복하여 교체 중에 etcd 상태를 보호합니다.

10.3.1.2. 제어 평면 구성에 대한 수동 업데이트
링크 복사

OnDelete 업데이트 전략을 사용하면 수동으로 머신을 교체하여 제어 평면 구성에 대한 변경 사항을 전파할 수 있습니다. 수동으로 머신을 교체하면 변경 사항을 보다 광범위하게 적용하기 전에 단일 머신에서 구성 변경 사항을 테스트할 수 있습니다.

OnDelete 업데이트 전략을 사용하도록 구성된 클러스터의 경우, 기존 머신을 삭제할 때 Operator가 대체 제어 평면 머신을 만듭니다. 교체용 제어 평면 머신이 준비되면 etcd 운영자는 기존 머신을 삭제하도록 허용합니다. 그런 다음 교체 머신이 컨트롤 플레인에 결합합니다.

여러 개의 제어 평면 머신이 삭제되면 운영자는 필요한 모든 대체 머신을 동시에 생성합니다. 운영자는 여러 대의 머신이 제어 평면에서 동시에 제거되는 것을 방지하여 etcd 상태를 유지합니다.

10.3.2. 제어 평면 머신 교체
링크 복사

제어 평면 머신이 설정된 클러스터에서 제어 평면 머신을 교체하려면 해당 머신을 수동으로 삭제합니다. 제어 평면 머신 세트는 삭제된 머신을 제어 평면 머신 세트 사용자 정의 리소스(CR)의 사양을 사용하는 머신으로 교체합니다.

사전 요구 사항

  • 클러스터가 Red Hat OpenStack Platform(RHOSP)에서 실행되고 업그레이드 등을 위해 컴퓨팅 서버를 대피시켜야 하는 경우 다음 명령을 실행하여 머신이 실행되는 RHOSP 컴퓨팅 노드를 비활성화해야 합니다. 

    $ openstack compute service set <target_node_host_name> nova-compute --disable
    Copy to Clipboard Toggle word wrap

    자세한 내용은 RHOSP 설명서의 마이그레이션 준비를 참조하세요.

프로세스

  1. 다음 명령을 실행하여 클러스터의 제어 평면 머신을 나열하세요. 

    $ oc get machines \
  -l machine.openshift.io/cluster-api-machine-role==master \
  -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

  2. 다음 명령을 실행하여 제어 평면 머신을 삭제합니다. 

    $ oc delete machine \
  -n openshift-machine-api \
  <control_plane_machine_name>
    1
    Copy to Clipboard Toggle word wrap
    1
    삭제할 제어 평면 머신의 이름을 지정합니다.
    참고

    여러 개의 제어 평면 머신을 삭제하면 제어 평면 머신 세트는 구성된 업데이트 전략에 따라 이를 대체합니다.

    • 기본 RollingUpdate 업데이트 전략을 사용하는 클러스터의 경우 Operator는 각 머신이 교체될 때까지 한 번에 한 대의 머신을 교체합니다.
    • OnDelete 업데이트 전략을 사용하도록 구성된 클러스터의 경우, 운영자는 필요한 모든 교체 머신을 동시에 생성합니다.

    두 전략 모두 제어 평면 머신 교체 중에 etcd 상태를 유지합니다.

10.4. 제어 평면 머신 세트 구성
링크 복사

이 YAML 스니펫 예는 제어 평면 머신 세트 사용자 정의 리소스(CR)의 기본 구조를 보여줍니다.

10.4.1. 제어 평면 머신 세트 사용자 정의 리소스에 대한 샘플 YAML
링크 복사

ControlPlaneMachineSet CR의 기본은 모든 플랫폼에서 동일한 방식으로 구성됩니다.

샘플 ControlPlaneMachineSet CR YAML 파일

apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
metadata:
  name: cluster
1 

  namespace: openshift-machine-api
spec:
  replicas: 3
2 

  selector:
    matchLabels:
      machine.openshift.io/cluster-api-cluster: <cluster_id>
3 

      machine.openshift.io/cluster-api-machine-role: master
      machine.openshift.io/cluster-api-machine-type: master
  state: Active
4 

  strategy:
    type: RollingUpdate
5 

  template:
    machineType: machines_v1beta1_machine_openshift_io
    machines_v1beta1_machine_openshift_io:
      failureDomains:
        platform: <platform>
6 

        <platform_failure_domains>
7 

      metadata:
        labels:
          machine.openshift.io/cluster-api-cluster: <cluster_id>
          machine.openshift.io/cluster-api-machine-role: master
          machine.openshift.io/cluster-api-machine-type: master
      spec:
        providerSpec:
          value:
            <platform_provider_spec>
8
Copy to Clipboard Toggle word wrap

1
클러스터 인 ControlPlaneMachineSet CR의 이름을 지정합니다. 이 값은 변경하지 마십시오.
2
제어 평면 머신의 수를 지정합니다. 컨트롤 플레인 시스템이 3개인 클러스터만 지원되므로 replicas 값은 3 입니다. 수평적 확장은 지원되지 않습니다. 이 값은 변경하지 마십시오.
3
클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID를 지정합니다. ControlPlaneMachineSet CR을 생성할 때 이 값을 지정해야 합니다. OpenShift CLI (oc) 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 
$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap
4
운영자의 상태를 지정합니다. 상태가 Inactive 이면 Operator가 작동하지 않습니다. 값을 Active 로 설정하여 Operator를 활성화할 수 있습니다.
중요

Operator를 활성화하기 전에 ControlPlaneMachineSet CR 구성이 클러스터 요구 사항에 맞는지 확인해야 합니다. 제어 평면 머신 세트 운영자 활성화에 대한 자세한 내용은 "제어 평면 머신 세트 시작하기"를 참조하세요.

5
클러스터에 대한 업데이트 전략을 지정합니다. 허용되는 값은 OnDelete 및 RollingUpdate 입니다. 기본값은 RollingUpdate 입니다. 업데이트 전략에 대한 자세한 내용은 "제어 평면 구성 업데이트"를 참조하세요.
6
클라우드 공급자 플랫폼 이름을 지정합니다. 이 값은 변경하지 마십시오.
7
클러스터의 <platform_failure_domains> 구성을 지정합니다. 이 섹션의 형식과 값은 공급자에 따라 다릅니다. 자세한 내용은 클라우드 공급자의 샘플 장애 도메인 구성을 참조하세요.
8
클러스터의 <platform_provider_spec> 구성을 지정합니다. 이 섹션의 형식과 값은 공급자에 따라 다릅니다. 자세한 내용은 클라우드 공급업체의 샘플 공급업체 사양을 참조하세요.

10.4.2. 제어 평면 머신 세트 구성 옵션
링크 복사

사용자의 요구에 맞게 클러스터를 사용자 정의하기 위해 제어 평면 머신 세트를 구성할 수 있습니다.

10.4.2.1. 컨트롤 플레인 머신 이름에 사용자 정의 접두사 추가
링크 복사

제어 평면 머신 세트가 생성하는 머신 이름의 접두사를 사용자 정의할 수 있습니다. 이 작업은 ControlPlaneMachineSet 사용자 정의 리소스(CR)를 편집하여 수행할 수 있습니다.

프로세스

  1. 다음 명령을 실행하여 ControlPlaneMachineSet CR을 편집합니다. 

    $ oc edit controlplanemachineset.machine.openshift.io cluster \
  -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

  2. ControlPlaneMachineSet CR의 .spec.machineNamePrefix 필드를 편집합니다. 

    apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
metadata:
  name: cluster
  namespace: openshift-machine-api
spec:
  machineNamePrefix: <machine_prefix>
# ...
    Copy to Clipboard Toggle word wrap

    여기서 <machine_prefix> 는 소문자 RFC 1123 하위 도메인에 대한 요구 사항을 따르는 접두사 이름을 지정합니다.

    중요

    소문자 RFC 1123 하위 도메인은 소문자 영숫자, 하이픈('-'), 마침표('.')로만 구성되어야 합니다. 각 블록은 마침표로 구분되어 있으며, 영숫자로 시작하고 끝나야 합니다. 블록의 시작이나 끝에는 하이픈을 사용할 수 없으며, 연속된 마침표도 사용할 수 없습니다.

  3. 변경 사항을 저장하십시오.

다음 단계

  • machineNamePrefix 매개변수의 값만 변경한 경우 기본 RollingUpdate 업데이트 전략을 사용하는 클러스터는 자동으로 업데이트되지 않습니다. 이 변경 사항을 전파하려면 클러스터의 업데이트 전략에 관계없이 제어 평면 머신을 수동으로 교체해야 합니다. 자세한 내용은 "컨트롤 플레인 시스템 교체"를 참조하십시오.

10.4.3. 공급자별 구성 옵션
링크 복사

컨트롤 플레인 머신 세트 매니페스트의 <platform_provider_spec> 및 <platform_failure_domains> 섹션은 공급자마다 다릅니다. 클러스터에 대한 공급자별 구성 옵션은 다음 리소스를 참조하세요.

10.5. 제어 평면 머신에 대한 구성 옵션
링크 복사

10.5.1. Amazon Web Services에 대한 제어 평면 구성 옵션
링크 복사

Amazon Web Services(AWS) 제어 평면 머신의 구성을 변경하고 제어 평면 머신 세트의 값을 업데이트하여 기능을 활성화할 수 있습니다. 제어 평면 머신 세트에 대한 업데이트를 저장하면 제어 평면 머신 세트 운영자가 구성된 업데이트 전략 에 따라 제어 평면 머신을 업데이트합니다.

10.5.1.1. Amazon Web Services 클러스터 구성을 위한 샘플 YAML
링크 복사

다음 YAML 스니펫 예제는 AWS 클러스터에 대한 공급자 사양 및 실패 도메인 구성을 보여줍니다.

10.5.1.1.1. AWS 공급자 사양 샘플
링크 복사

기존 클러스터에 대한 제어 평면 머신 세트를 생성할 때 공급자 사양은 설치 프로그램에서 생성하는 제어 평면 머신 사용자 지정 리소스(CR)의 providerSpec 구성과 일치해야 합니다. CR의 실패 도메인 섹션에 설정된 모든 필드를 생략할 수 있습니다.

다음 예에서 <cluster_id>는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID입니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 

$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap

샘플 AWS providerSpec 값

apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
metadata:
  name: cluster
  namespace: openshift-machine-api
spec:
# ...
  template:
# ...
      spec:
        providerSpec:
          value:
            ami:
              id: ami-<ami_id_string>
1 

            apiVersion: machine.openshift.io/v1beta1
            blockDevices:
            - ebs:
2 

                encrypted: true
                iops: 0
                kmsKey:
                  arn: ""
                volumeSize: 120
                volumeType: gp3
            credentialsSecret:
              name: aws-cloud-credentials
3 

            deviceIndex: 0
            iamInstanceProfile:
              id: <cluster_id>-master-profile
4 

            instanceType: m6i.xlarge
5 

            kind: AWSMachineProviderConfig
6 

            loadBalancers:
7 

            - name: <cluster_id>-int
              type: network
            - name: <cluster_id>-ext
              type: network
            metadata:
              creationTimestamp: null
            metadataServiceOptions: {}
            placement:
8 

              region: <region>
9 

              availabilityZone: ""
10 

              tenancy:
11 

            securityGroups:
            - filters:
              - name: tag:Name
                values:
                - <cluster_id>-master-sg
12 

            subnet: {}
13 

            userDataSecret:
              name: master-user-data
14
Copy to Clipboard Toggle word wrap

1
클러스터에 대한 Red Hat Enterprise Linux CoreOS(RHCOS) Amazon Machine Images(AMI) ID를 지정합니다. AMI는 클러스터와 동일한 리전에 속해 있어야 합니다. AWS Marketplace 이미지를 사용하려면 AWS Marketplace 에서 OpenShift Container Platform 구독을 완료하여 해당 지역의 AMI ID를 얻어야 합니다.
2
암호화된 EBS 볼륨의 구성을 지정합니다.
3
클러스터의 시크릿 이름을 지정합니다. 이 값은 변경하지 마십시오.
4
AWS Identity and Access Management(IAM) 인스턴스 프로필을 지정합니다. 이 값은 변경하지 마십시오.
5
제어 평면에 대한 AWS 인스턴스 유형을 지정합니다.
6
클라우드 공급자 플랫폼 유형을 지정합니다. 이 값은 변경하지 마십시오.
7
클러스터에 대한 내부( int ) 및 외부( ext ) 부하 분산 장치를 지정합니다.
참고

개인 OpenShift Container Platform 클러스터에서 외부( ext ) 로드 밸런서 매개변수를 생략할 수 있습니다.

8
AWS에서 제어 평면 인스턴스를 생성할 위치를 지정합니다.
9
클러스터의 AWS 지역을 지정합니다.
10
이 매개변수는 실패 도메인에서 구성되며 여기서는 빈 값으로 표시됩니다. 이 매개변수에 지정된 값이 실패 도메인의 값과 다른 경우, 제어 평면 머신 세트 연산자는 해당 값을 실패 도메인의 값으로 덮어씁니다.
11
제어 평면에 대한 AWS 전용 인스턴스 구성을 지정합니다. 자세한 내용은 전용 인스턴스 에 대한 AWS 설명서를 참조하세요. 유효한 값은 다음과 같습니다.
  • 기본값 : 전용 인스턴스는 공유 하드웨어에서 실행됩니다.
  • 전용 : 전용 인스턴스는 단일 테넌트 하드웨어에서 실행됩니다.
  • 호스트 : 전용 인스턴스는 전용 호스트에서 실행됩니다. 전용 호스트는 구성을 제어할 수 있는 격리된 서버입니다.
12
제어 평면 머신 보안 그룹을 지정합니다.
13
이 매개변수는 실패 도메인에서 구성되며 여기서는 빈 값으로 표시됩니다. 이 매개변수에 지정된 값이 실패 도메인의 값과 다른 경우, 제어 평면 머신 세트 연산자는 해당 값을 실패 도메인의 값으로 덮어씁니다.
참고

실패 도메인 구성에 값이 지정되지 않으면 공급자 사양의 값이 사용됩니다. 장애 도메인에 서브넷을 구성하면 공급자 사양의 서브넷 값이 덮어쓰여집니다.

14
제어 평면 사용자 데이터 비밀을 지정합니다. 이 값은 변경하지 마십시오.
10.5.1.1.2. AWS 장애 도메인 구성 샘플
링크 복사

장애 도메인의 제어 평면 머신 세트 개념은 가용성 영역(AZ) 의 기존 AWS 개념과 유사합니다. ControlPlaneMachineSet CR은 가능한 경우 여러 장애 도메인에 걸쳐 제어 평면 머신을 분산합니다.

제어 평면 머신 세트에서 AWS 장애 도메인을 구성할 때 사용할 가용성 영역 이름과 서브넷을 지정해야 합니다.

AWS 실패 도메인 값 샘플

apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
metadata:
  name: cluster
  namespace: openshift-machine-api
spec:
# ...
  template:
# ...
    machines_v1beta1_machine_openshift_io:
      failureDomains:
        aws:
        - placement:
            availabilityZone: <aws_zone_a>
1 

          subnet:
2 

            filters:
            - name: tag:Name
              values:
              - <cluster_id>-private-<aws_zone_a>
3 

            type: Filters
4 

        - placement:
            availabilityZone: <aws_zone_b>
5 

          subnet:
            filters:
            - name: tag:Name
              values:
              - <cluster_id>-private-<aws_zone_b>
6 

            type: Filters
        platform: AWS
7 

# ...
Copy to Clipboard Toggle word wrap

1
첫 번째 실패 도메인에 대한 AWS 가용성 영역을 지정합니다.
2
서브넷 구성을 지정합니다. 이 예에서 subnet 유형은 Filters 이므로 filters 스탠자가 있습니다.
3
인프라 ID와 AWS 가용성 영역을 사용하여 첫 번째 실패 도메인에 대한 서브넷 이름을 지정합니다.
4
서브넷 유형을 지정합니다. 허용되는 값은 ARN , 필터 및 ID 입니다. 기본값은 필터 입니다.
5
인프라 ID와 AWS 가용성 영역을 사용하여 추가 장애 도메인에 대한 서브넷 이름을 지정합니다.
6
추가 장애 도메인에 대한 클러스터의 인프라 ID와 AWS 가용성 영역을 지정합니다.
7
클라우드 공급자 플랫폼 이름을 지정합니다. 이 값은 변경하지 마십시오.
10.5.1.2. 제어 평면 머신에 대한 Amazon Web Services 기능 활성화
링크 복사

제어 평면 머신 세트에서 값을 업데이트하여 기능을 활성화할 수 있습니다.

10.5.1.2.1. API 서버를 프라이빗으로 제한
링크 복사

Amazon Web Services(AWS)에 클러스터를 배포한 후에는 API 서버를 재구성하여 프라이빗 영역만 사용할 수 있습니다.

사전 요구 사항

  • OpenShift CLI (oc)를 설치합니다.
  • admin 권한이 있는 사용자로 웹 콘솔에 액세스합니다.

프로세스

  1. 클라우드 공급자의 웹 포털이나 콘솔에서 다음 작업을 수행하세요.

    1. 적절한 로드 밸런서 구성 요소를 찾아 삭제합니다.

      • AWS의 경우 외부 로드 밸런서를 삭제합니다. 프라이빗 영역의 API DNS 항목은 동일한 설정을 사용하는 내부 로드 밸런서를 가리키므로 내부 로드 밸런서를 변경할 필요가 없습니다.
    2. 퍼블릭 영역의 api.$clustername.$yourdomain DNS 항목을 삭제합니다.

  2. 제어 평면 머신 세트 사용자 지정 리소스에서 다음 표시된 줄을 삭제하여 외부 로드 밸런서를 제거합니다. 

    # ...
providerSpec:
  value:
# ...
    loadBalancers:
    - name: lk4pj-ext
    1 
    
      type: network
    2 
    
    - name: lk4pj-int
      type: network
# ...
    Copy to Clipboard Toggle word wrap
    1
    -ext 로 끝나는 외부 로드 밸런서의 이름 값을 삭제합니다.
    2
    외부 로드 밸런서의 유형 값을 삭제합니다.

제어 평면 머신이 사용하는 Amazon Web Services(AWS) 인스턴스 유형을 변경하려면 제어 평면 머신 세트 사용자 정의 리소스(CR)의 사양을 업데이트하면 됩니다.

사전 요구 사항

  • AWS 클러스터는 제어 평면 머신 세트를 사용합니다.

프로세스

  1. providerSpec 필드 아래의 다음 줄을 편집하세요. 

    providerSpec:
  value:
    ...
    instanceType: <compatible_aws_instance_type>
    1
    Copy to Clipboard Toggle word wrap
    1
    이전 선택과 동일한 기준으로 더 큰 AWS 인스턴스 유형을 지정합니다. 예를 들어 m6i.xlarge 를 m6i.2xlarge 또는 m6i.4xlarge 로 변경할 수 있습니다.
  2. 변경 사항을 저장하십시오.

기존 AWS 배치 그룹 내에서 EBS( Elastic Fabric Adapter ) 인스턴스에 머신을 배포하도록 머신 세트를 구성할 수 있습니다.

EFA 인스턴스에는 배치 그룹이 필요하지 않으며 EFA 구성 이외의 용도로 배치 그룹을 사용할 수 있습니다. 이 예에서는 둘 다 사용하여 지정된 배치 그룹 내의 시스템의 네트워크 성능을 향상시킬 수 있는 구성을 보여줍니다.

사전 요구 사항

  • AWS 콘솔에 배치 그룹을 생성하셨습니다.

    참고

    생성하는 배치 그룹 유형에 대한 규칙 및 제한 사항이 의도한 사용 사례와 호환되는지 확인합니다. 컨트롤 플레인 머신 세트는 가능한 경우 컨트롤 플레인 시스템을 여러 개의 장애 도메인에 분배합니다. 컨트롤 플레인에 배치 그룹을 사용하려면 여러 가용 영역에 걸쳐 있는 배치 그룹 유형을 사용해야 합니다.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 머신을 생성합니다.

  2. providerSpec 필드 아래의 다음 행을 편집합니다. 

    apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
# ...
spec:
  template:
    spec:
      providerSpec:
        value:
          instanceType: <supported_instance_type>
    1 
    
          networkInterfaceType: EFA
    2 
    
          placement:
            availabilityZone: <zone>
    3 
    
            region: <region>
    4 
    
          placementGroupName: <placement_group>
    5 
    
          placementGroupPartition: <placement_group_partition_number>
    6 
    
# ...
    Copy to Clipboard Toggle word wrap
    1
    EFA를 지원하는 인스턴스 유형을 지정합니다.
    2
    EFA 네트워크 인터페이스 유형을 지정합니다.
    3
    영역을 지정합니다(예: us-east-1a ).
    4
    리전을 지정합니다(예: us-east-1 ).
    5
    머신을 배포할 기존 AWS 배치 그룹의 이름을 지정합니다.
    6
    선택 사항: 시스템을 배포할 기존 AWS 배치 그룹의 파티션 번호를 지정합니다.

검증

  • AWS 콘솔에서 머신 세트가 생성된 머신을 찾아 머신 속성에서 다음을 확인합니다.

    • placement group 필드에는 시스템 세트의 placementGroupName 매개변수에 대해 지정한 값이 있습니다.
    • 파티션 번호 필드에는 머신 세트의 placementGroup Cryostat 매개변수에 대해 지정한 값이 있습니다.
    • interface 유형 필드는 EFA를 사용함을 나타냅니다.

이제 머신 세트를 사용하여 특정 버전의 Amazon EC2 Instance Metadata Service(IMDS)를 사용하는 컴퓨팅 머신을 생성할 수 있습니다. 머신 세트는 IMDSv1 및 IMDSv2 또는 IMDSv2 를 사용해야 하는 머신을 생성할 수 있습니다.

참고

OpenShift Container Platform 버전 4.6 또는 이전 버전으로 생성된 AWS 클러스터에서 IMDSv2를 사용하려면 부팅 이미지를 업데이트해야 합니다. 자세한 내용은 "업데이트된 부팅 이미지"를 참조하십시오.

중요

IMDSv2가 필요한 머신을 생성하기 위해 머신 세트를 구성하기 전에 AWS 메타데이터 서비스와 상호 작용하는 모든 워크로드가 IMDSv2를 지원하는지 확인하세요.

10.5.1.2.4.1. 머신 세트를 사용하여 IMDS 구성
링크 복사

머신의 머신 세트 YAML 파일에서 metadataServiceOptions.authentication 값을 추가하거나 편집하여 IMDSv2를 사용해야 하는지 여부를 지정할 수 있습니다.

사전 요구 사항

  • IMDSv2를 사용하려면 AWS 클러스터가 OpenShift Container Platform 버전 4.7 이상으로 생성되어야 합니다.

프로세스

  • providerSpec 필드 아래에 다음 줄을 추가하거나 편집하세요. 

    providerSpec:
  value:
    metadataServiceOptions:
      authentication: Required
    1
    Copy to Clipboard Toggle word wrap
    1
    IMDSv2를 요구하려면 매개변수 값을 필수 로 설정합니다. IMDSv1과 IMDSv2를 모두 사용하려면 매개변수 값을 Optional 로 설정합니다. 값을 지정하지 않으면 IMDSv1과 IMDSv2가 모두 허용됩니다.
10.5.1.2.5. 머신을 Dedicated 인스턴스로 배포하는 머신 세트
링크 복사

AWS에서 실행 중인 머신 세트를 생성하여 머신을 Dedicated 인스턴스로 배포할 수 있습니다. Dedicated 인스턴스는 단일 고객 전용 하드웨어의 VPC(가상 프라이빗 클라우드)에서 실행됩니다. 이러한 Amazon EC2 인스턴스는 호스트 하드웨어 수준에서 물리적으로 분리됩니다. Dedicated 인스턴스의 분리는 인스턴스가 하나의 유료 계정에 연결된 다른 AWS 계정에 속하는 경우에도 발생합니다. 하지만 전용이 아닌 다른 인스턴스는 동일한 AWS 계정에 속하는 경우 Dedicated 인스턴스와 하드웨어를 공유할 수 있습니다.

공용 또는 전용 테넌시가 있는 인스턴스는 Machine API에서 지원됩니다. 공용 테넌시가 있는 인스턴스는 공유 하드웨어에서 실행됩니다. 공용 테넌시는 기본 테넌시입니다. 전용 테넌트가 있는 인스턴스는 단일 테넌트 하드웨어에서 실행됩니다.

10.5.1.2.5.1. 머신 세트를 사용하여 Dedicated 인스턴스 생성
링크 복사

Machine API 통합을 사용하여 Dedicated 인스턴스에서 지원하는 머신을 실행할 수 있습니다. 머신 세트 YAML 파일의 tenancy 필드를 설정하여 AWS에서 전용 인스턴스를 시작합니다.

프로세스

  • providerSpec 필드에서 전용 테넌트를 지정합니다. 

    providerSpec:
  placement:
    tenancy: dedicated
    Copy to Clipboard Toggle word wrap
10.5.1.2.6. 머신 세트를 사용하여 용량 예약 구성
링크 복사

OpenShift Container Platform 버전 4.19 이상에서는 ML을 위한 온디맨드 용량 예약 및 용량 블록을 포함하여 Amazon Web Services 클러스터의 용량 예약을 지원합니다.

사용자가 정의한 용량 요청의 매개변수와 일치하는 사용 가능한 리소스에 머신을 배포하도록 머신 세트를 구성할 수 있습니다. 이러한 매개변수는 예약하려는 인스턴스 유형, 지역 및 인스턴스 수를 지정합니다. 용량 예약이 용량 요청을 수용할 수 있는 경우 배포가 성공합니다.

이 AWS 제품에 대한 제한 사항 및 제안된 사용 사례를 포함한 자세한 내용은 AWS 설명서의 온디맨드 용량 예약 및 ML용 용량 블록을 참조하세요.

사전 요구 사항

  • cluster-admin 권한이 있는 클러스터에 액세스할 수 있습니다.
  • OpenShift CLI(oc)를 설치합니다.
  • ML에 대한 주문형 용량 예약 또는 용량 블록을 구매했습니다. 자세한 내용은 AWS 설명서의 온디맨드 용량 예약 및 ML에 대한 용량 블록을 참조하세요.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 섹션을 편집하세요.

    샘플 구성

    apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
# ...
spec:
  template:
    machines_v1beta1_machine_openshift_io:
      spec:
        providerSpec:
          value:
            capacityReservationId: <capacity_reservation>
    1 
    
            marketType: <market_type>
    2 
    
# ...
    Copy to Clipboard Toggle word wrap

    1
    머신이 머신을 배포할 ML 또는 주문형 용량 예약에 대한 용량 블록의 ID를 지정합니다.
    2
    사용할 시장 유형을 지정하세요. 유효한 값은 다음과 같습니다.
    CapacityBlock
    ML을 위한 용량 블록과 함께 이 시장 유형을 사용하세요.
    OnDemand
    이 마켓 유형을 주문형 용량 예약과 함께 사용하세요.

검증

  • 시스템 배포를 확인하려면 다음 명령을 실행하여 머신 세트에서 생성한 머신을 나열합니다. 

    $ oc get machine \
  -n openshift-machine-api \
  -l machine.openshift.io/cluster-api-machine-role=master
    Copy to Clipboard Toggle word wrap

    출력에서 나열된 시스템의 특성이 용량 예약의 매개변수와 일치하는지 확인합니다.

10.5.2. Microsoft Azure에 대한 제어 평면 구성 옵션
링크 복사

컨트롤 플레인 머신 세트의 구성을 변경하고 컨트롤 플레인 머신 세트에서 값을 업데이트하여 기능을 활성화할 수 있습니다. 컨트롤 플레인 머신 세트에 대한 업데이트를 저장하면 컨트롤 플레인 머신 세트 Operator가 구성된 업데이트 전략에 따라 컨트롤 플레인 시스템을 업데이트합니다.

10.5.2.1. Microsoft Azure 클러스터 구성을 위한 샘플 YAML
링크 복사

다음 예제 YAML 스니펫에서는 Azure 클러스터의 공급자 사양 및 실패 도메인 구성을 보여줍니다.

10.5.2.1.1. Azure 공급자 사양 샘플
링크 복사

기존 클러스터에 대한 컨트롤 플레인 머신 세트를 생성할 때 공급자 사양은 설치 프로그램에서 생성한 컨트롤 플레인 Machine CR의 providerSpec 구성과 일치해야 합니다. CR의 실패 도메인 섹션에 설정된 필드를 생략할 수 있습니다.

다음 예에서 < cluster_id >는 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID입니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 

$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap

Azure providerSpec 값 샘플

apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
metadata:
  name: cluster
  namespace: openshift-machine-api
spec:
# ...
  template:
# ...
      spec:
        providerSpec:
          value:
            acceleratedNetworking: true
            apiVersion: machine.openshift.io/v1beta1
            credentialsSecret:
              name: azure-cloud-credentials
1 

              namespace: openshift-machine-api
            diagnostics: {}
            image:
2 

              offer: ""
              publisher: ""
              resourceID: /resourceGroups/<cluster_id>-rg/providers/Microsoft.Compute/galleries/gallery_<cluster_id>/images/<cluster_id>-gen2/versions/412.86.20220930
3 

              sku: ""
              version: ""
            internalLoadBalancer: <cluster_id>-internal
4 

            kind: AzureMachineProviderSpec
5 

            location: <region>
6 

            managedIdentity: <cluster_id>-identity
            metadata:
              creationTimestamp: null
              name: <cluster_id>
            networkResourceGroup: <cluster_id>-rg
            osDisk:
7 

              diskSettings: {}
              diskSizeGB: 1024
              managedDisk:
                storageAccountType: Premium_LRS
              osType: Linux
            publicIP: false
            publicLoadBalancer: <cluster_id>
8 

            resourceGroup: <cluster_id>-rg
            subnet: <cluster_id>-master-subnet
9 

            userDataSecret:
              name: master-user-data
10 

            vmSize: Standard_D8s_v3
            vnet: <cluster_id>-vnet
            zone: "1"
11
Copy to Clipboard Toggle word wrap

1
클러스터의 시크릿 이름을 지정합니다. 이 값은 변경하지 마십시오.
2
컨트롤 플레인 머신 세트의 이미지 세부 정보를 지정합니다.
3
인스턴스 유형과 호환되는 이미지를 지정합니다. 설치 프로그램에서 생성한 Hyper-V generation V2 이미지에는 -gen2 접미사가 있지만 V1 이미지의 접미사 없이 이름이 동일합니다.
4
컨트롤 플레인의 내부 로드 밸런서를 지정합니다. 이 필드는 미리 구성되지 않았을 수 있지만 ControlPlaneMachineSet 과 제어 평면 Machine CR 모두에 필요합니다.
5
클라우드 공급자 플랫폼 유형을 지정합니다. 이 값은 변경하지 마십시오.
6
제어 평면 머신을 배치할 지역을 지정합니다.
7
제어 평면에 대한 디스크 구성을 지정합니다.
8
제어 평면에 대한 공용 부하 분산 장치를 지정합니다.
참고

사용자 정의 아웃바운드 라우팅이 있는 개인 OpenShift Container Platform 클러스터에서는 publicLoadBalancer 매개변수를 생략할 수 있습니다.

9
제어 평면의 서브넷을 지정합니다.
10
제어 평면 사용자 데이터 비밀을 지정합니다. 이 값은 변경하지 마십시오.
11
모든 장애 도메인에 대해 단일 영역을 사용하는 클러스터에 대한 영역 구성을 지정합니다.
참고

클러스터가 각 장애 도메인에 대해 다른 영역을 사용하도록 구성된 경우 이 매개변수는 장애 도메인에서 구성됩니다. 각 장애 도메인에 대해 다른 영역을 사용할 때 공급자 사양에서 이 값을 지정하면 제어 평면 머신 세트 연산자는 이를 무시합니다.

10.5.2.1.2. Azure 실패 도메인 구성 샘플
링크 복사

장애 도메인의 제어 평면 머신 세트 개념은 Azure 가용성 영역 의 기존 Azure 개념과 유사합니다. ControlPlaneMachineSet CR은 가능한 경우 여러 장애 도메인에 걸쳐 제어 평면 머신을 분산합니다.

제어 평면 머신 세트에서 Azure 장애 도메인을 구성할 때 가용성 영역 이름을 지정해야 합니다. Azure 클러스터는 여러 영역에 걸쳐 있는 단일 서브넷을 사용합니다.

Azure 실패 도메인 값 샘플

apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
metadata:
  name: cluster
  namespace: openshift-machine-api
spec:
# ...
  template:
# ...
    machines_v1beta1_machine_openshift_io:
      failureDomains:
        azure:
        - zone: "1"
1 

        - zone: "2"
        - zone: "3"
        platform: Azure
2 

# ...
Copy to Clipboard Toggle word wrap

1
각 영역 인스턴스는 장애 도메인에 대한 Azure 가용성 영역을 지정합니다.
참고

클러스터가 모든 장애 도메인에 대해 단일 영역을 사용하도록 구성된 경우, 영역 매개변수는 장애 도메인 구성 대신 공급자 사양에서 구성됩니다.

2
클라우드 공급자 플랫폼 이름을 지정합니다. 이 값은 변경하지 마십시오.
10.5.2.2. 컨트롤 플레인 시스템에 대한 Microsoft Azure 기능 활성화
링크 복사

제어 평면 머신 세트에서 값을 업데이트하여 기능을 활성화할 수 있습니다.

10.5.2.2.1. API 서버를 프라이빗으로 제한
링크 복사

Amazon Web Services(AWS)에 클러스터를 배포한 후에는 API 서버를 재구성하여 프라이빗 영역만 사용할 수 있습니다.

사전 요구 사항

  • OpenShift CLI (oc)를 설치합니다.
  • admin 권한이 있는 사용자로 웹 콘솔에 액세스합니다.

프로세스

  1. 클라우드 공급자의 웹 포털이나 콘솔에서 다음 작업을 수행하세요.

    1. 적절한 로드 밸런서 구성 요소를 찾아 삭제합니다.
    2. 퍼블릭 영역의 api.$clustername.$yourdomain DNS 항목을 삭제합니다.

  2. 제어 평면 머신 세트 사용자 지정 리소스에서 다음 표시된 줄을 삭제하여 외부 로드 밸런서를 제거합니다. 

    # ...
providerSpec:
  value:
# ...
    loadBalancers:
    - name: lk4pj-ext
    1 
    
      type: network
    2 
    
    - name: lk4pj-int
      type: network
# ...
    Copy to Clipboard Toggle word wrap
    1
    -ext 로 끝나는 외부 로드 밸런서의 이름 값을 삭제합니다.
    2
    외부 로드 밸런서의 유형 값을 삭제합니다.
10.5.2.2.2. Azure Marketplace 제공 서비스 사용
링크 복사

Azure Marketplace 제품을 사용하는 머신을 배포하는 Azure에서 실행되는 머신 세트를 만들 수 있습니다. 이 서비스를 사용하려면 먼저 Azure Marketplace 이미지를 얻어야 합니다. 이미지를 얻을 때 다음 사항을 고려하세요.

  • 이미지는 동일하지만 Azure Marketplace 게시자는 지역에 따라 다릅니다. 북미에 거주하는 경우 게시자로 Redhat을 지정하세요. EMEA에 거주하는 경우 게시자로 redhat-limited를 지정하세요.
  • 이 제안에는 rh-ocp-worker SKU와 rh-ocp-worker-gen1 SKU가 포함됩니다. rh-ocp-worker SKU는 Hyper-V 생성 버전 2 VM 이미지를 나타냅니다. OpenShift Container Platform에서 사용되는 기본 인스턴스 유형은 버전 2와 호환됩니다. 버전 1과만 호환되는 인스턴스 유형을 사용하려는 경우 rh-ocp-worker-gen1 SKU와 연결된 이미지를 사용하세요. rh-ocp-worker-gen1 SKU는 Hyper-V 버전 1 VM 이미지를 나타냅니다.
중요

64비트 ARM 인스턴스가 있는 클러스터에서는 Azure Marketplace를 사용하여 이미지를 설치하는 것이 지원되지 않습니다.

Azure Marketplace 이미지를 사용하려면 컴퓨팅 머신의 RHCOS 이미지만 수정해야 합니다. 제어 평면 머신과 인프라 노드에는 OpenShift Container Platform 구독이 필요하지 않으며 기본적으로 공개 RHCOS 기본 이미지를 사용하므로 Azure 청구서에 구독 비용이 발생하지 않습니다. 따라서 클러스터 기본 부트 이미지나 제어 플레인 부트 이미지를 수정해서는 안 됩니다. Azure Marketplace 이미지를 적용하면 회수할 수 없는 추가 라이선스 비용이 발생합니다.

사전 요구 사항

  • Azure CLI 클라이언트 (az) 를 설치했습니다.
  • 귀하의 Azure 계정은 해당 혜택을 받을 자격이 있으며 Azure CLI 클라이언트를 사용하여 이 계정에 로그인했습니다.

프로세스

  1. 다음 명령 중 하나를 실행하여 사용 가능한 모든 OpenShift Container Platform 이미지를 표시합니다.

    • 북아메리카: 

      $  az vm image list --all --offer rh-ocp-worker --publisher redhat -o table
      Copy to Clipboard Toggle word wrap

      출력 예

      Offer          Publisher       Sku                 Urn                                                             Version
-------------  --------------  ------------------  --------------------------------------------------------------  -----------------
rh-ocp-worker  RedHat          rh-ocp-worker       RedHat:rh-ocp-worker:rh-ocp-worker:4.17.2024100419              4.17.2024100419
rh-ocp-worker  RedHat          rh-ocp-worker-gen1  RedHat:rh-ocp-worker:rh-ocp-worker-gen1:4.17.2024100419         4.17.2024100419
      Copy to Clipboard Toggle word wrap

    • EMEA: 

      $  az vm image list --all --offer rh-ocp-worker --publisher redhat-limited -o table
      Copy to Clipboard Toggle word wrap

      출력 예

      Offer          Publisher       Sku                 Urn                                                                     Version
-------------  --------------  ------------------  --------------------------------------------------------------          -----------------
rh-ocp-worker  redhat-limited  rh-ocp-worker       redhat-limited:rh-ocp-worker:rh-ocp-worker:4.17.2024100419              4.17.2024100419
rh-ocp-worker  redhat-limited  rh-ocp-worker-gen1  redhat-limited:rh-ocp-worker:rh-ocp-worker-gen1:4.17.2024100419         4.17.2024100419
      Copy to Clipboard Toggle word wrap

    참고

    컴퓨팅 및 제어 평면 노드에 사용 가능한 최신 이미지를 사용합니다. 필요한 경우, 설치 과정의 일부로 VM이 자동으로 업그레이드됩니다.

  2. 다음 명령 중 하나를 실행하여 제안에 대한 이미지를 검사하세요.

    • 북아메리카: 

      $ az vm image show --urn redhat:rh-ocp-worker:rh-ocp-worker:<version>
      Copy to Clipboard Toggle word wrap

    • EMEA: 

      $ az vm image show --urn redhat-limited:rh-ocp-worker:rh-ocp-worker:<version>
      Copy to Clipboard Toggle word wrap

  3. 다음 명령 중 하나를 실행하여 제안 조건을 검토하세요.

    • 북아메리카: 

      $ az vm image terms show --urn redhat:rh-ocp-worker:rh-ocp-worker:<version>
      Copy to Clipboard Toggle word wrap

    • EMEA: 

      $ az vm image terms show --urn redhat-limited:rh-ocp-worker:rh-ocp-worker:<version>
      Copy to Clipboard Toggle word wrap

  4. 다음 명령 중 하나를 실행하여 제공 조건에 동의하세요.

    • 북아메리카: 

      $ az vm image terms accept --urn redhat:rh-ocp-worker:rh-ocp-worker:<version>
      Copy to Clipboard Toggle word wrap

    • EMEA: 

      $ az vm image terms accept --urn redhat-limited:rh-ocp-worker:rh-ocp-worker:<version>
      Copy to Clipboard Toggle word wrap
  5. 제안의 이미지 세부 정보, 특히 publisher, offer, sku, version 값을 기록합니다.

  6. 제안에 대한 이미지 세부 정보를 사용하여 머신 세트 YAML 파일의 providerSpec 섹션에 다음 매개변수를 추가합니다.

    Azure Marketplace 머신에 대한 샘플 providerSpec 이미지 값

    providerSpec:
  value:
    image:
      offer: rh-ocp-worker
      publisher: redhat
      resourceID: ""
      sku: rh-ocp-worker
      type: MarketplaceWithPlan
      version: 413.92.2023101700
    Copy to Clipboard Toggle word wrap

10.5.2.2.3. Azure 부팅 진단 활성화
링크 복사

머신 세트에서 생성한 Azure 머신에서 부팅 진단을 활성화할 수 있습니다.

사전 요구 사항

  • 기존 Microsoft Azure 클러스터가 있어야 합니다.

프로세스

  • 스토리지 유형에 적용할 수 있는 diagnostics 구성을 머신 세트 YAML 파일의 providerSpec 필드에 추가합니다.

    • Azure 관리형 저장소 계정의 경우: 

      providerSpec:
  diagnostics:
    boot:
      storageAccountType: AzureManaged
      1
      Copy to Clipboard Toggle word wrap
      1
      Azure 관리형 저장소 계정을 지정합니다.

    • Azure 관리되지 않는 저장소 계정의 경우: 

      providerSpec:
  diagnostics:
    boot:
      storageAccountType: CustomerManaged
      1 
      
      customerManaged:
        storageAccountURI: https://<storage-account>.blob.core.windows.net
      2
      Copy to Clipboard Toggle word wrap
      1
      Azure 관리되지 않는 저장소 계정을 지정합니다.
      2
      <storage-account>를 스토리지 계정 이름으로 바꿉니다.
      참고

      Azure Blob Storage 데이터 서비스만 지원됩니다.

검증

  • Microsoft Azure Portal에서 머신 세트에 의해 배포된 머신의 부팅 진단 페이지를 검토하고 머신의 직렬 로그를 볼 수 있는지 확인합니다.

Ultra Disks가 있는 머신을 배포하는 Azure에서 실행되는 머신 세트를 만들 수 있습니다. Ultra 디스크는 가장 까다로운 데이터 워크로드에 사용하기 위한 고성능 스토리지입니다.

10.5.2.2.4.1. 머신 세트를 사용하여 울트라 디스크가 있는 머신 생성
링크 복사

Azure에서 Ultra Disks가 있는 머신을 배포하려면 머신 세트 YAML 파일을 편집하세요.

사전 요구 사항

  • 기존 Microsoft Azure 클러스터가 있어야 합니다.

프로세스

  1. 다음 명령을 실행하여 master 데이터 시크릿을 사용하여 openshift-machine-api 네임스페이스에 사용자 지정 시크릿을 생성합니다. 

    $ oc -n openshift-machine-api \
get secret <role>-user-data \
    1 
    
--template='{{index .data.userData | base64decode}}' | jq > userData.txt
    2
    Copy to Clipboard Toggle word wrap
    1
    <role> 을 master 로 바꿉니다.
    2
    새 사용자 지정 비밀번호의 이름으로 userData.txt를 지정합니다.

  2. 텍스트 편집기에서 userData.txt 파일을 열고 파일의 마지막 } 문자를 찾습니다.

    1. 바로 앞 줄에 , 를 추가합니다 .

    2. 뒤에 새 행을 생성하고 , 다음에 구성 세부 정보를 추가합니다. 

      "storage": {
  "disks": [
      1 
      
    {
      "device": "/dev/disk/azure/scsi1/lun0",
      2 
      
      "partitions": [
      3 
      
        {
          "label": "lun0p1",
      4 
      
          "sizeMiB": 1024,
      5 
      
          "startMiB": 0
        }
      ]
    }
  ],
  "filesystems": [
      6 
      
    {
      "device": "/dev/disk/by-partlabel/lun0p1",
      "format": "xfs",
      "path": "/var/lib/lun0p1"
    }
  ]
},
"systemd": {
  "units": [
      7 
      
    {
      "contents": "[Unit]\nBefore=local-fs.target\n[Mount]\nWhere=/var/lib/lun0p1\nWhat=/dev/disk/by-partlabel/lun0p1\nOptions=defaults,pquota\n[Install]\nWantedBy=local-fs.target\n",
      8 
      
      "enabled": true,
      "name": "var-lib-lun0p1.mount"
    }
  ]
}
      Copy to Clipboard Toggle word wrap
      1
      울트라 디스크로 노드에 연결하려는 디스크에 대한 구성 세부 정보입니다.
      2
      사용 중인 머신 세트의 dataDisks 스탠자에 정의된 lun 값을 지정합니다. 예를 들어, 머신 세트에 lun: 0이 포함되어 있으면 lun0을 지정합니다. 이 구성 파일에서 여러 "disks" 항목을 지정하여 여러 데이터 디스크를 초기화할 수 있습니다. 여러 개의 "디스크" 항목을 지정하는 경우 각 항목의 LUN 값이 머신 세트의 값과 일치하는지 확인하세요.
      3
      디스크의 새 파티션에 대한 구성 세부 정보입니다.
      4
      파티션에 대한 레이블을 지정합니다. lun0 의 첫 번째 파티션에 lun0 과 같은 계층적 이름을 사용하는 것이 유용할 수 있습니다.
      5
      파티션의 총 크기를 MiB 단위로 지정합니다.
      6
      파티션을 포맷할 때 사용할 파일 시스템을 지정합니다. 파티션 레이블을 사용하여 파티션을 지정합니다.
      7
      부팅 시 파티션을 마운트할 systemd 유닛을 지정합니다. 파티션 레이블을 사용하여 파티션을 지정합니다. 이 구성 파일에서 여러 개의 "partitions" 항목을 지정하여 여러 파티션을 만들 수 있습니다. 여러 개의 "partitions" 항목을 지정하는 경우 각각에 대해 systemd 장치를 지정해야 합니다.
      8
      Where는 storage.filesystems.path 의 값을 지정합니다. What에 대해 storage.filesystems.device 값을 지정합니다.

  3. 다음 명령을 실행하여 비활성화 템플릿 값을 disableTemplating.txt 라는 파일에 추출합니다. 

    $ oc -n openshift-machine-api get secret <role>-user-data \
    1 
    
--template='{{index .data.disableTemplating | base64decode}}' | jq > disableTemplating.txt
    Copy to Clipboard Toggle word wrap
    1
    <role> 을 master 로 바꿉니다.

  4. 다음 명령을 실행하여 userData.txt 파일과 disableTemplating.txt 파일을 결합하여 데이터 비밀 파일을 만듭니다. 

    $ oc -n openshift-machine-api create secret generic <role>-user-data-x5 \
    1 
    
--from-file=userData=userData.txt \
--from-file=disableTemplating=disableTemplating.txt
    Copy to Clipboard Toggle word wrap
    1
    <role>-user-data-x5 의 경우 시크릿 이름을 지정합니다. <role> 을 master 로 바꿉니다.

  5. 다음 명령을 실행하여 제어 평면 머신 세트 CR을 편집합니다. 

    $ oc --namespace openshift-machine-api edit controlplanemachineset.machine.openshift.io cluster
    Copy to Clipboard Toggle word wrap

  6. 다음 줄을 표시된 위치에 추가합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: ControlPlaneMachineSet
spec:
  template:
    spec:
      metadata:
        labels:
          disk: ultrassd
    1 
    
      providerSpec:
        value:
          ultraSSDCapability: Enabled
    2 
    
          dataDisks:
    3 
    
          - nameSuffix: ultrassd
            lun: 0
            diskSizeGB: 4
            deletionPolicy: Delete
            cachingType: None
            managedDisk:
              storageAccountType: UltraSSD_LRS
          userDataSecret:
            name: <role>-user-data-x5
    4
    Copy to Clipboard Toggle word wrap
    1
    이 머신 세트에서 생성된 노드를 선택하는 데 사용할 레이블을 지정합니다. 이 절차에서는 이 값에 대해 disk.ultrassd를 사용합니다.
    2 3
    이 라인은 울트라 디스크를 사용할 수 있습니다. dataDisks 의 경우 전체 연을 포함합니다.
    4
    이전에 생성한 사용자 데이터 비밀번호를 지정합니다. <role> 을 master 로 바꿉니다.

  7. 변경 사항을 저장하십시오.

    • 기본 RollingUpdate 업데이트 전략을 사용하는 클러스터의 경우 Operator는 변경 사항을 제어 평면 구성에 자동으로 전파합니다.
    • OnDelete 업데이트 전략을 사용하도록 구성된 클러스터의 경우 제어 평면 머신을 수동으로 교체해야 합니다.

검증

  1. 다음 명령을 실행하여 머신이 생성되었는지 확인하세요. 

    $ oc get machines
    Copy to Clipboard Toggle word wrap

    기계는 실행 상태여야 합니다.

  2. 실행 중이고 노드가 연결된 머신의 경우 다음 명령을 실행하여 파티션을 검증합니다. 

    $ oc debug node/<node_name> -- chroot /host lsblk
    Copy to Clipboard Toggle word wrap

    이 명령에서 oc debug node/<node_name>은 노드 <node_name> 에서 디버깅 셸을 시작하고 -- 로 명령을 전달합니다. 전달된 명령 chroot /host는 기본 호스트 OS 바이너리에 대한 액세스를 제공하고, lsblk는 호스트 OS 머신에 연결된 블록 장치를 보여줍니다.

다음 단계

  • 제어 평면에서 Ultra Disk를 사용하려면 제어 평면의 Ultra Disk 마운트 지점을 사용하도록 작업 부하를 재구성해야 합니다.

이 섹션의 정보를 활용해 발생할 수 있는 문제를 파악하고 복구하세요.

10.5.2.2.4.2.1. 잘못된 Ultra Disk 구성
링크 복사

머신 세트에서 ultraSSDCapability 매개변수의 잘못된 구성이 지정된 경우 머신 프로비저닝이 실패합니다.

예를 들어, ultraSSDCapability 매개변수가 Disabled 로 설정되어 있지만 dataDisks 매개변수에 ultra disk가 지정된 경우 다음 오류 메시지가 나타납니다. 

StorageAccountType UltraSSD_LRS can be used only when additionalCapabilities.ultraSSDEnabled is set.
Copy to Clipboard Toggle word wrap
  • 이 문제를 해결하려면 컴퓨터 세트 구성이 올바른지 확인하세요.
10.5.2.2.4.2.2. 지원되지 않는 디스크 매개변수
링크 복사

Ultra Disks와 호환되지 않는 지역, 가용성 영역 또는 인스턴스 크기가 머신 세트에 지정된 경우 머신 프로비저닝이 실패합니다. 다음 오류 메시지를 로그에서 확인하세요. 

failed to create vm <machine_name>: failure sending request for machine <machine_name>: cannot create vm: compute.VirtualMachinesClient#CreateOrUpdate: Failure sending request: StatusCode=400 -- Original Error: Code="BadRequest" Message="Storage Account type 'UltraSSD_LRS' is not supported <more_information_about_why>."
Copy to Clipboard Toggle word wrap
  • 이 문제를 해결하려면 지원되는 환경에서 이 기능을 사용하고 있는지, 그리고 머신 세트 구성이 올바른지 확인하세요.
10.5.2.2.4.2.3. 디스크를 삭제할 수 없습니다
링크 복사

데이터 디스크로 Ultra Disk를 삭제하는 작업이 예상대로 작동하지 않으면 해당 머신이 삭제되고 데이터 디스크가 버려집니다. 필요한 경우 고립된 디스크를 수동으로 삭제해야 합니다.

10.5.2.2.5. 머신 세트의 고객 관리 암호화 키 활성화
링크 복사

Azure에 암호화 키를 제공하여 관리 대상 디스크의 데이터를 암호화할 수 있습니다. 시스템 API를 사용하여 고객 관리 키로 서버 측 암호화를 활성화할 수 있습니다.

고객 관리 키를 사용하려면 Azure Key Vault, 디스크 암호화 세트 및 암호화 키가 필요합니다. 디스크 암호화 세트는 CCO(Cloud Credential Operator)가 권한을 부여한 리소스 그룹에 있어야 합니다. 그렇지 않은 경우 디스크 암호화 세트에 추가 reader 역할을 부여해야 합니다.

사전 요구 사항

프로세스

  • 머신 세트 YAML 파일의 providerSpec 필드에 설정된 디스크 암호화를 구성합니다. 예를 들면 다음과 같습니다. 

    providerSpec:
  value:
    osDisk:
      diskSizeGB: 128
      managedDisk:
        diskEncryptionSet:
          id: /subscriptions/<subscription_id>/resourceGroups/<resource_group_name>/providers/Microsoft.Compute/diskEncryptionSets/<disk_encryption_set_name>
        storageAccountType: Premium_LRS
    Copy to Clipboard Toggle word wrap

OpenShift Container Platform 4.19는 Azure 가상 머신(VM)에 대한 신뢰할 수 있는 시작을 지원합니다. 머신 세트 YAML 파일을 편집하면 해당 머신 세트가 배포하는 머신에 대해 신뢰할 수 있는 시작 옵션을 구성할 수 있습니다. 예를 들어, 보안 부팅이나 전용 가상 신뢰할 수 있는 플랫폼 모듈(vTPM) 인스턴스와 같은 UEFI 보안 기능을 사용하도록 이러한 컴퓨터를 구성할 수 있습니다.

참고

일부 기능 조합으로 인해 잘못된 구성이 발생합니다.

Expand
표 10.2. UEFI 기능 조합 호환성
보안 부팅 [1]vTPM[2]유효한 구성

활성화됨

활성화됨

제공됨

활성화됨

비활성화됨

제공됨

활성화됨

생략됨

제공됨

비활성화됨

활성화됨

제공됨

생략됨

활성화됨

제공됨

비활성화됨

비활성화됨

없음

생략됨

비활성화됨

없음

생략됨

생략됨

없음

  1. secureBoot 필드 사용.
  2. virtualizedTrustedPlatformModule 필드를 사용합니다.

관련 기능에 대한 자세한 내용은 Azure 가상 머신에 대한 신뢰할 수 있는 시작 에 대한 Microsoft Azure 설명서를 참조하세요.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 섹션을 편집하여 유효한 구성을 제공합니다.

    UEFI 보안 부팅 및 vTPM이 활성화된 유효한 구성 샘플

    apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
# ...
spec:
  template:
    machines_v1beta1_machine_openshift_io:
      spec:
        providerSpec:
          value:
            securityProfile:
              settings:
                securityType: TrustedLaunch
    1 
    
                trustedLaunch:
                  uefiSettings:
    2 
    
                    secureBoot: Enabled
    3 
    
                    virtualizedTrustedPlatformModule: Enabled
    4 
    
# ...
    Copy to Clipboard Toggle word wrap

    1
    Azure 가상 머신에 대한 신뢰할 수 있는 시작을 사용할 수 있습니다. 이 값은 모든 유효한 구성에 필요합니다.
    2
    사용할 UEFI 보안 기능을 지정합니다. 이 섹션은 모든 유효한 구성에 필요합니다.
    3
    UEFI 보안 부팅을 활성화합니다.
    4
    vTPM을 사용할 수 있습니다.

검증

  • Azure Portal에서 머신 세트에 의해 배포된 머신의 세부 정보를 검토하고 신뢰할 수 있는 시작 옵션이 구성한 값과 일치하는지 확인합니다.
10.5.2.2.7. 머신 세트를 사용하여 Azure 기밀 가상 머신 구성
링크 복사

OpenShift Container Platform 4.19는 Azure 기밀 가상 머신(VM)을 지원합니다.

참고

현재 64비트 ARM 아키텍처에서는 기밀 VM이 지원되지 않습니다.

머신 세트 YAML 파일을 편집하면 머신 세트가 배포하는 머신에 대해 사용하는 기밀 VM 옵션을 구성할 수 있습니다. 예를 들어, 보안 부팅이나 전용 가상 신뢰할 수 있는 플랫폼 모듈(vTPM) 인스턴스와 같은 UEFI 보안 기능을 사용하도록 이러한 컴퓨터를 구성할 수 있습니다.

주의

모든 인스턴스 유형이 기밀 VM을 지원하는 것은 아닙니다. 기밀 VM을 사용하도록 구성된 제어 평면 머신 세트의 인스턴스 유형을 호환되지 않는 유형으로 변경하지 마세요. 호환되지 않는 인스턴스 유형을 사용하면 클러스터가 불안정해질 수 있습니다.

관련 기능에 대한 자세한 내용은 Confidential 가상 머신에 대한 Microsoft Azure 설명서를 참조하세요.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 섹션을 편집하세요.

    샘플 구성

    apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
# ...
spec:
  template:
    spec:
      providerSpec:
        value:
          osDisk:
            # ...
            managedDisk:
              securityProfile:
    1 
    
                securityEncryptionType: VMGuestStateOnly
    2 
    
            # ...
          securityProfile:
    3 
    
            settings:
                securityType: ConfidentialVM
    4 
    
                confidentialVM:
                  uefiSettings:
    5 
    
                    secureBoot: Disabled
    6 
    
                    virtualizedTrustedPlatformModule: Enabled
    7 
    
          vmSize: Standard_DC16ads_v5
    8 
    
# ...
    Copy to Clipboard Toggle word wrap

    1
    기밀 VM을 사용할 때 관리 디스크에 대한 보안 프로필 설정을 지정합니다.
    2
    Azure VM Guest State(VMGS) Blob의 암호화를 활성화합니다. 이 설정에는 vTPM을 사용해야 합니다.
    3
    기밀 VM에 대한 보안 프로필 설정을 지정합니다.
    4
    기밀 VM을 사용할 수 있습니다. 이 값은 모든 유효한 구성에 필요합니다.
    5
    사용할 UEFI 보안 기능을 지정합니다. 이 섹션은 모든 유효한 구성에 필요합니다.
    6
    UEFI 보안 부팅을 비활성화합니다.
    7
    vTPM을 사용할 수 있습니다.
    8
    기밀 VM을 지원하는 인스턴스 유형을 지정합니다.

검증

  • Azure Portal에서 머신 세트에 의해 배포된 머신의 세부 정보를 검토하고 기밀 VM 옵션이 구성한 값과 일치하는지 확인합니다.
10.5.2.2.8. 머신 세트를 사용하여 용량 예약 구성
링크 복사

OpenShift Container Platform 버전 4.19 이상에서는 Microsoft Azure 클러스터의 용량 예약 그룹을 통한 주문형 용량 예약을 지원합니다.

사용자가 정의한 용량 요청의 매개변수와 일치하는 사용 가능한 리소스에 머신을 배포하도록 머신 세트를 구성할 수 있습니다. 이러한 매개변수는 VM 크기, 리전 및 예약할 인스턴스 수를 지정합니다. Azure 서브스크립션 할당량이 용량 요청을 수용할 수 있는 경우 배포에 성공합니다.

이 Azure 제품에 대한 제한 사항 및 제안된 사용 사례를 포함한 자세한 내용은 Microsoft Azure 설명서의 주문형 용량 예약을 참조하세요.

참고

머신 세트의 기존 용량 예약 구성은 변경할 수 없습니다. 다른 용량 예약 그룹을 사용하려면 머신 세트와 이전 머신 세트가 배포된 머신을 교체해야 합니다.

사전 요구 사항

  • cluster-admin 권한이 있는 클러스터에 액세스할 수 있습니다.
  • OpenShift CLI(oc)를 설치합니다.
  • 용량 예약 그룹을 생성했습니다. 자세한 내용은 Microsoft Azure 설명서에서 용량 예약 만들기를 참조하세요.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 섹션을 편집하세요.

    샘플 구성

    apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
# ...
spec:
  template:
    machines_v1beta1_machine_openshift_io:
      spec:
        providerSpec:
          value:
            capacityReservationGroupID: <capacity_reservation_group>
    1 
    
# ...
    Copy to Clipboard Toggle word wrap

    1
    시스템이 머신을 배포하도록 설정할 용량 예약 그룹의 ID를 지정합니다.

검증

  • 시스템 배포를 확인하려면 다음 명령을 실행하여 머신 세트에서 생성한 머신을 나열합니다. 

    $ oc get machine \
  -n openshift-machine-api \
  -l machine.openshift.io/cluster-api-machine-role=master
    Copy to Clipboard Toggle word wrap

    출력에서 나열된 시스템의 특성이 용량 예약의 매개변수와 일치하는지 확인합니다.

10.5.2.2.9. Microsoft Azure VM을 위한 가속 네트워킹
링크 복사

가속 네트워킹은 단일 루트 I/O 가상화(SR-IOV)를 사용하여 Microsoft Azure VM에 스위치에 대한 보다 직접적인 경로를 제공합니다. 이렇게 하면 네트워크 성능이 향상됩니다. 이 기능은 설치 후에 활성화할 수 있습니다.

10.5.2.2.9.1. 제한
링크 복사

가속 네트워킹을 사용할지 여부를 결정할 때 다음과 같은 제한 사항을 고려하세요.

  • 가속 네트워킹은 Machine API가 작동하는 클러스터에서만 지원됩니다.

  • 가속화 네트워킹에는 vCPU가 4개 이상 포함된 Azure VM 크기가 필요합니다. 이 요구 사항을 충족하려면 머신 세트에서 vmSize 값을 변경할 수 있습니다. Azure VM 크기에 대한 자세한 내용은 Microsoft Azure 설명서를 참조하세요.

10.5.2.2.9.2. 기존 Microsoft Azure 클러스터에서 가속 네트워킹 활성화
링크 복사

Azure에서 가속 네트워킹을 활성화하려면 머신 세트 YAML 파일에 acceleratedNetworking을 추가하세요.

사전 요구 사항

  • Machine API가 작동하는 기존 Microsoft Azure 클러스터가 있어야 합니다.

프로세스

  • providerSpec 필드에 다음을 추가합니다. 

    providerSpec:
  value:
    acceleratedNetworking: true
    1 
    
    vmSize: <azure-vm-size>
    2
    Copy to Clipboard Toggle word wrap
    1
    이 라인은 가속 네트워킹을 활성화합니다.
    2
    vCPU가 4개 이상인 Azure VM 크기를 지정합니다. VM 크기에 대한 자세한 내용은 Microsoft Azure 설명서를 참조하십시오.

검증

  • Microsoft Azure 포털에서 머신 세트에 의해 프로비저닝된 머신의 네트워킹 설정 페이지를 검토하고 Accelerated networking 필드가 Enabled 로 설정되어 있는지 확인합니다.

10.5.3. Google Cloud Platform의 제어 평면 구성 옵션
링크 복사

Google Cloud Platform(GCP) 제어 평면 머신의 구성을 변경하고 제어 평면 머신 세트의 값을 업데이트하여 기능을 활성화할 수 있습니다. 제어 평면 머신 세트에 대한 업데이트를 저장하면 제어 평면 머신 세트 운영자가 구성된 업데이트 전략 에 따라 제어 평면 머신을 업데이트합니다.

10.5.3.1. Google Cloud Platform 클러스터 구성을 위한 샘플 YAML
링크 복사

다음 YAML 스니펫 예시는 GCP 클러스터에 대한 공급자 사양 및 장애 도메인 구성을 보여줍니다.

10.5.3.1.1. 샘플 GCP 공급자 사양
링크 복사

기존 클러스터에 대한 제어 평면 머신 세트를 생성할 때 공급자 사양은 설치 프로그램에서 생성하는 제어 평면 머신 사용자 지정 리소스(CR)의 providerSpec 구성과 일치해야 합니다. CR의 실패 도메인 섹션에 설정된 모든 필드를 생략할 수 있습니다.

10.5.3.1.1.1. OpenShift CLI를 사용하여 얻은 값
링크 복사

다음 예에서는 OpenShift CLI를 사용하여 클러스터의 일부 값을 얻을 수 있습니다.

인프라 ID

<cluster_id> 문자열은 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID입니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 

$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap
이미지 경로

<path_to_image> 문자열은 디스크를 생성하는 데 사용된 이미지의 경로입니다. OpenShift CLI가 설치되어 있으면 다음 명령을 실행하여 이미지에 대한 경로를 얻을 수 있습니다. 

$ oc -n openshift-machine-api \
  -o jsonpath='{.spec.template.machines_v1beta1_machine_openshift_io.spec.providerSpec.value.disks[0].image}{"\n"}' \
  get ControlPlaneMachineSet/cluster
Copy to Clipboard Toggle word wrap

샘플 GCP providerSpec 값

apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
metadata:
  name: cluster
  namespace: openshift-machine-api
spec:
# ...
  template:
# ...
      spec:
        providerSpec:
          value:
            apiVersion: machine.openshift.io/v1beta1
            canIPForward: false
            credentialsSecret:
              name: gcp-cloud-credentials
1 

            deletionProtection: false
            disks:
            - autoDelete: true
              boot: true
              image: <path_to_image>
2 

              labels: null
              sizeGb: 200
              type: pd-ssd
            kind: GCPMachineProviderSpec
3 

            machineType: e2-standard-4
            metadata:
              creationTimestamp: null
            metadataServiceOptions: {}
            networkInterfaces:
            - network: <cluster_id>-network
              subnetwork: <cluster_id>-master-subnet
            projectID: <project_name>
4 

            region: <region>
5 

            serviceAccounts:
6 

            - email: <cluster_id>-m@<project_name>.iam.gserviceaccount.com
              scopes:
              - https://www.googleapis.com/auth/cloud-platform
            shieldedInstanceConfig: {}
            tags:
            - <cluster_id>-master
            targetPools:
            - <cluster_id>-api
            userDataSecret:
              name: master-user-data
7 

            zone: ""
8
Copy to Clipboard Toggle word wrap

1
클러스터의 시크릿 이름을 지정합니다. 이 값은 변경하지 마십시오.
2
디스크를 만드는 데 사용된 이미지의 경로를 지정합니다.

GCP Marketplace 이미지를 사용하려면 사용할 제안을 지정하세요.

  • OpenShift 컨테이너 플랫폼: https://www.googleapis.com/compute/v1/projects/redhat-marketplace-public/global/images/redhat-coreos-ocp-413-x86-64-202305021736
  • OpenShift 플랫폼 플러스: https://www.googleapis.com/compute/v1/projects/redhat-marketplace-public/global/images/redhat-coreos-opp-413-x86-64-202305021736
  • 오픈시프트 쿠버네티스 엔진: https://www.googleapis.com/compute/v1/projects/redhat-marketplace-public/global/images/redhat-coreos-oke-413-x86-64-202305021736
3
클라우드 공급자 플랫폼 유형을 지정합니다. 이 값은 변경하지 마십시오.
4
클러스터에 사용하는 GCP 프로젝트의 이름을 지정합니다.
5
클러스터의 GCP 지역을 지정합니다.
6
단일 서비스 계정을 지정합니다. 여러 서비스 계정은 지원되지 않습니다.
7
제어 평면 사용자 데이터 비밀을 지정합니다. 이 값은 변경하지 마십시오.
8
이 매개변수는 실패 도메인에서 구성되며 여기서는 빈 값으로 표시됩니다. 이 매개변수에 지정된 값이 실패 도메인의 값과 다른 경우, 연산자는 실패 도메인의 값으로 해당 값을 덮어씁니다.
10.5.3.1.2. 샘플 GCP 장애 도메인 구성
링크 복사

장애 도메인의 제어 평면 머신 세트 개념은 기존 GCP의 영역 개념과 유사합니다. ControlPlaneMachineSet CR은 가능한 경우 여러 장애 도메인에 걸쳐 제어 평면 머신을 분산합니다.

제어 평면 머신 세트에서 GCP 장애 도메인을 구성할 때 사용할 영역 이름을 지정해야 합니다.

샘플 GCP 실패 도메인 값

apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
metadata:
  name: cluster
  namespace: openshift-machine-api
spec:
# ...
  template:
# ...
    machines_v1beta1_machine_openshift_io:
      failureDomains:
        gcp:
        - zone: <gcp_zone_a>
1 

        - zone: <gcp_zone_b>
2 

        - zone: <gcp_zone_c>
        - zone: <gcp_zone_d>
        platform: GCP
3 

# ...
Copy to Clipboard Toggle word wrap

1
첫 번째 실패 도메인에 대한 GCP 영역을 지정합니다.
2
추가적인 실패 도메인을 지정합니다. 추가적인 실패 도메인도 같은 방식으로 추가됩니다.
3
클라우드 공급자 플랫폼 이름을 지정합니다. 이 값은 변경하지 마십시오.
10.5.3.2. 제어 평면 머신에 대한 Google Cloud Platform 기능 활성화
링크 복사

제어 평면 머신 세트에서 값을 업데이트하여 기능을 활성화할 수 있습니다.

10.5.3.2.1. 머신 세트를 사용하여 영구 디스크 유형 구성
링크 복사

머신 세트 YAML 파일을 편집하여 머신 세트가 머신을 배포하는 영구 디스크 유형을 구성할 수 있습니다.

영구 디스크 유형, 호환성, 지역별 가용성 및 제한 사항에 대한 자세한 내용은 GCP Compute Engine 문서에서 영구 디스크 에 대한 내용을 참조하세요.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 줄을 편집하세요. 

    apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
...
spec:
  template:
    spec:
      providerSpec:
        value:
          disks:
            type: pd-ssd
    1
    Copy to Clipboard Toggle word wrap
    1
    제어 평면 노드는 pd-ssd 디스크 유형을 사용해야 합니다.

검증

  • Google Cloud 콘솔을 사용하여 머신 세트에서 배포한 머신의 세부 정보를 검토하고 유형 필드가 구성된 디스크 유형과 일치하는지 확인합니다.
10.5.3.2.2. 머신 세트를 사용하여 기밀 VM 구성
링크 복사

머신 세트 YAML 파일을 편집하면 머신 세트가 배포하는 머신에 대해 사용하는 기밀 VM 옵션을 구성할 수 있습니다.

Confidential VM 기능, 함수 및 호환성에 대한 자세한 내용은 Confidential VM 에 대한 GCP Compute Engine 문서를 참조하세요.

참고

현재 64비트 ARM 아키텍처에서는 기밀 VM이 지원되지 않습니다. Confidential VM을 사용하는 경우 지원되는 지역을 선택해야 합니다. 지원되는 지역 및 구성에 대한 자세한 내용은 GCP Compute Engine 설명서에서 지원되는 영역 에 대한 내용을 참조하세요.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 섹션을 편집하세요. 

    apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
# ...
    machines_v1beta1_machine_openshift_io:
      spec:
        providerSpec:
          value:
            confidentialCompute: Enabled
    1 
    
            onHostMaintenance: Terminate
    2 
    
            machineType: n2d-standard-8
    3 
    
# ...
    Copy to Clipboard Toggle word wrap
    1
    기밀 VM이 활성화되어 있는지 여부를 지정합니다. 유효한 값은 다음과 같습니다.
    활성화됨
    Confidential VM 기술의 기본 선택을 통해 Confidential VM을 활성화합니다. 기본 선택은 AMD Secure Encrypted Virtualization(AMD SEV)입니다.
    비활성화됨
    기밀 VM을 비활성화합니다.
    AMDEncryptedVirtualization
    AMD SEV를 사용하여 Confidential VM을 활성화합니다. AMD SEV는 c2d, n2d, c3d 머신을 지원합니다.
    AMDEncryptedVirtualizationNestedPaging
    AMD 보안 암호화 가상화 보안 중첩 페이징(AMD SEV-SNP)을 사용하여 기밀 VM을 활성화합니다. AMD SEV-SNP는 n2d 머신을 지원합니다.
    IntelTrustedDomainExtensions
    Intel Trusted Domain Extensions(Intel TDX)를 사용하여 Confidential VM을 활성화합니다. Intel TDX는 n2d 머신을 지원합니다.
    2
    하드웨어 또는 소프트웨어 업데이트와 같은 호스트 유지 관리 이벤트 중에 VM의 동작을 지정합니다. Confidential VM을 사용하는 머신의 경우 이 값을 Terminate 로 설정해야 VM이 중지됩니다. Confidential VM은 라이브 VM 마이그레이션을 지원하지 않습니다.
    3
    confidentialCompute 필드에 지정한 Confidential VM 옵션을 지원하는 머신 유형을 지정합니다.

검증

  • Google Cloud 콘솔에서 머신 세트에 의해 배포된 머신의 세부 정보를 검토하고 Confidential VM 옵션이 구성한 값과 일치하는지 확인합니다.
10.5.3.2.3. 머신 세트를 사용하여 Shielded VM 옵션 구성
링크 복사

머신 세트 YAML 파일을 편집하면 머신 세트가 배포하는 머신에 대해 사용하는 보호된 VM 옵션을 구성할 수 있습니다.

Shielded VM 기능에 대한 자세한 내용은 Shielded VM 에 대한 GCP Compute Engine 문서를 참조하세요.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 섹션을 편집하세요. 

    apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
# ...
spec:
  template:
    spec:
      providerSpec:
        value:
          shieldedInstanceConfig:
    1 
    
            integrityMonitoring: Enabled
    2 
    
            secureBoot: Disabled
    3 
    
            virtualizedTrustedPlatformModule: Enabled
    4 
    
# ...
    Copy to Clipboard Toggle word wrap
    1
    이 섹션에서는 원하는 보호된 VM 옵션을 지정합니다.
    2
    무결성 모니터링이 활성화되어 있는지 여부를 지정합니다. 유효한 값은 Disabled 또는 Enabled 입니다.
    참고

    무결성 모니터링이 활성화된 경우 가상 신뢰 플랫폼 모듈(vTPM)을 비활성화해서는 안 됩니다.

    3
    UEFI 보안 부팅이 활성화되어 있는지 여부를 지정합니다. 유효한 값은 Disabled 또는 Enabled 입니다.
    4
    vTPM이 활성화되어 있는지 여부를 지정합니다. 유효한 값은 Disabled 또는 Enabled 입니다.

검증

  • Google Cloud 콘솔을 사용하여 머신 세트에서 배포한 머신의 세부 정보를 검토하고 보호된 VM 옵션이 구성한 값과 일치하는지 확인합니다.
10.5.3.2.4. 머신 세트의 고객 관리 암호화 키 활성화
링크 복사

GCP(Google Cloud Platform) Compute Engine을 사용하면 사용자가 암호화 키를 제공하여 디스크의 데이터를 암호화 할 수 있습니다. 키는 고객의 데이터를 암호화하는 것이 아니라 데이터 암호화 키를 암호화하는 데 사용됩니다. 기본적으로 Compute Engine은 Compute Engine 키를 사용하여 이 데이터를 암호화합니다.

Machine API를 사용하는 클러스터에서 고객 관리 키로 암호화를 활성화할 수 있습니다. 먼저 KMS 키를 생성하고 서비스 계정에 올바른 권한을 할당해야 합니다. 서비스 계정에서 키를 사용하려면 KMS 키 이름, 키 링 이름 및 위치가 필요합니다.

참고

KMS 암호화에 전용 서비스 계정을 사용하지 않는 경우 Compute Engine 기본 서비스 계정이 대신 사용됩니다. 전용 서비스 계정을 사용하지 않는 경우 키에 액세스할 수 있는 기본 서비스 계정 권한을 부여해야 합니다. Compute Engine 기본 서비스 계정 이름은 service-<project_number>@compute-system.iam.gserviceaccount.com 패턴을 기반으로 합니다.

프로세스

  1. KMS 키 이름, 키 링 이름 및 위치를 지정하고 다음 명령을 실행하여 특정 서비스 계정에서 KMS 키를 사용하여 서비스 계정에 올바른 IAM 역할을 부여할 수 있습니다. 

    $ gcloud kms keys add-iam-policy-binding <key_name> \
  --keyring <key_ring_name> \
  --location <key_ring_location> \
  --member "serviceAccount:service-<project_number>@compute-system.iam.gserviceaccount.com” \
  --role roles/cloudkms.cryptoKeyEncrypterDecrypter
    Copy to Clipboard Toggle word wrap

  2. 사용자가 머신 세트 YAML 파일의 providerSpec 필드에 암호화 키를 구성할 수 있습니다. 예를 들면 다음과 같습니다. 

    apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
...
spec:
  template:
    spec:
      providerSpec:
        value:
          disks:
          - type:
            encryptionKey:
              kmsKey:
                name: machine-encryption-key
    1 
    
                keyRing: openshift-encrpytion-ring
    2 
    
                location: global
    3 
    
                projectID: openshift-gcp-project
    4 
    
              kmsKeyServiceAccount: openshift-service-account@openshift-gcp-project.iam.gserviceaccount.com
    5
    Copy to Clipboard Toggle word wrap
    1
    디스크 암호화에 사용되는 고객 관리 암호화 키의 이름입니다.
    2
    KMS 키가 속한 KMS 키 링의 이름입니다.
    3
    KMS 키 링이 있는 GCP 위치입니다.
    4
    선택 사항: KMS 키 링이 존재하는 프로젝트의 ID입니다. 프로젝트 ID가 설정되지 않은 경우 머신 세트가 사용된 머신 세트의 projectID를 설정합니다.
    5
    선택 사항: 지정된 KMS 키의 암호화 요청에 사용되는 서비스 계정입니다. 서비스 계정이 설정되지 않은 경우 Compute Engine 기본 서비스 계정이 사용됩니다.

    업데이트된 providerSpec 개체 구성을 사용하여 새 머신을 생성한 후 디스크 암호화 키는 KMS 키로 암호화됩니다.

10.5.4. Nutanix의 컨트롤 플레인 구성 옵션
링크 복사

컨트롤 플레인 머신 세트의 값을 업데이트하여 Nutanix 컨트롤 플레인 머신의 구성을 변경할 수 있습니다. 컨트롤 플레인 머신 세트에 대한 업데이트를 저장하면 컨트롤 플레인 머신 세트 Operator가 구성된 업데이트 전략에 따라 컨트롤 플레인 시스템을 업데이트합니다.

10.5.4.1. Nutanix 클러스터 구성을 위한 샘플 YAML
링크 복사

다음 예제 YAML 스니펫에서는 Nutanix 클러스터의 공급자 사양 구성을 보여줍니다.

10.5.4.1.1. 샘플 Nutanix 공급자 사양
링크 복사

기존 클러스터에 대한 컨트롤 플레인 머신 세트를 생성할 때 공급자 사양은 설치 프로그램이 생성하는 컨트롤 플레인 머신 CR(사용자 정의 리소스)의 providerSpec 구성과 일치해야 합니다.

10.5.4.1.1.1. OpenShift CLI를 사용하여 얻은 값
링크 복사

다음 예제에서는 OpenShift CLI를 사용하여 클러스터의 일부 값을 가져올 수 있습니다.

인프라 ID

<cluster_id> 문자열은 클러스터를 프로비저닝할 때 설정한 클러스터 ID를 기반으로 하는 인프라 ID입니다. OpenShift CLI 패키지가 설치되어 있으면 다음 명령을 실행하여 인프라 ID를 얻을 수 있습니다. 

$ oc get -o jsonpath='{.status.infrastructureName}{"\n"}' infrastructure cluster
Copy to Clipboard Toggle word wrap

샘플 Nutanix providerSpec 값

apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
metadata:
  name: cluster
  namespace: openshift-machine-api
spec:
# ...
  template:
# ...
      spec:
        providerSpec:
          value:
            apiVersion: machine.openshift.io/v1
            bootType: ""
1 

            categories:
2 

            - key: <category_name>
              value: <category_value>
            cluster:
3 

              type: uuid
              uuid: <cluster_uuid>
            credentialsSecret:
              name: nutanix-credentials
4 

            image:
5 

              name: <cluster_id>-rhcos
              type: name
            kind: NutanixMachineProviderConfig
6 

            memorySize: 16Gi
7 

            metadata:
              creationTimestamp: null
            project:
8 

              type: name
              name: <project_name>
            subnets:
9 

            - type: uuid
              uuid: <subnet_uuid>
            systemDiskSize: 120Gi
10 

            userDataSecret:
              name: master-user-data
11 

            vcpuSockets: 8
12 

            vcpusPerSocket: 1
13
Copy to Clipboard Toggle word wrap

1
컨트롤 플레인 시스템이 사용하는 부팅 유형을 지정합니다. 부팅 유형에 대한 자세한 내용은 가상화 된 환경에서 UEFI, Secure Boot 및 TPM 이해를 참조하십시오. 유효한 값은 Legacy,SecureBoot 또는 UEFI 입니다. 기본값은 Legacy 입니다.
참고

OpenShift Container Platform 4.15에서 레거시 부팅 유형을 사용해야 합니다.

2
컨트롤 플레인 시스템에 적용할 하나 이상의 Nutanix Prism 카테고리를 지정합니다. 이 스탠자에는 Prism Central에 존재하는 카테고리 키-값 쌍에 대한 key 및 value 매개변수가 필요합니다. 카테고리에 대한 자세한 내용은 카테고리 관리를 참조하십시오.
3
Nutanix Prism Element 클러스터 구성을 지정합니다. 이 예에서 클러스터 유형은 uuid 이므로 uuid 스탠자가 있습니다.
참고

OpenShift Container Platform 버전 4.15 이상을 사용하는 클러스터는 장애 도메인 구성을 사용할 수 있습니다.

클러스터에서 실패 도메인을 사용하는 경우 실패 도메인에서 이 매개 변수를 구성합니다. 장애 도메인을 사용할 때 공급자 사양에 이 값을 지정하면 Control Plane Machine Set Operator가 이를 무시합니다.

4
클러스터의 시크릿 이름을 지정합니다. 이 값은 변경하지 마십시오.
5
디스크를 만드는 데 사용된 이미지를 지정합니다.
6
클라우드 공급자 플랫폼 유형을 지정합니다. 이 값은 변경하지 마십시오.
7
컨트롤 플레인 시스템에 할당된 메모리를 지정합니다.
8
클러스터에 사용하는 Nutanix 프로젝트를 지정합니다. 이 예에서 프로젝트 유형은 name 이므로 name 스탠자가 있습니다.
9
하나 이상의 Prism Element 서브넷 오브젝트를 지정합니다. 이 예에서 서브넷 유형은 uuid 이므로 uuid 스탠자가 있습니다. 클러스터의 각 Prism Element 장애 도메인에 대해 최대 32 서브넷이 지원됩니다.
중요

OpenShift Container Platform 버전 4.18에 컨트롤 플레인 머신 세트를 사용하여 기존 Nutanix 클러스터에 대해 여러 서브넷을 구성하는 데 대한 알려진 문제는 다음과 같습니다.

  • subnets 스탠자에서 기존 서브넷 위에 서브넷을 추가하면 컨트롤 플레인 노드가 Deleting 상태가 됩니다. 이 문제를 해결하려면 subnets 스탠자의 기존 서브넷 아래에만 서브넷을 추가합니다.
  • 서브넷을 추가한 후 업데이트된 컨트롤 플레인 머신이 Nutanix 콘솔에 표시되지만 OpenShift Container Platform 클러스터에 연결할 수 없습니다. 이 문제에 대한 해결방법이 없습니다.

이러한 문제는 컨트롤 플레인 머신 세트를 사용하여 서브넷이 실패 도메인 또는 공급자 사양에 지정되었는지 여부와 관계없이 서브넷을 구성하는 클러스터에서 발생합니다. 자세한 내용은 OCPBUGS-50904를 참조하세요.

지정된 서브넷 중 하나에 대한 CIDR IP 주소 접두사에는 OpenShift Container Platform 클러스터가 사용하는 가상 IP 주소가 포함되어야 합니다. 모든 서브넷 UUID 값은 고유해야 합니다.

참고

OpenShift Container Platform 버전 4.15 이상을 사용하는 클러스터는 장애 도메인 구성을 사용할 수 있습니다.

클러스터가 장애 도메인을 사용하는 경우 장애 도메인에서 이 매개변수를 구성합니다. 장애 도메인을 사용할 때 공급자 사양에서 이 값을 지정하면 제어 평면 머신 세트 연산자는 이를 무시합니다.

10
제어 평면 머신의 VM 디스크 크기를 지정합니다.
11
제어 평면 사용자 데이터 비밀을 지정합니다. 이 값은 변경하지 마십시오.
12
제어 평면 머신에 할당된 vCPU 소켓 수를 지정합니다.
13
각 제어 평면 vCPU 소켓에 대한 vCPU 수를 지정합니다.
10.5.4.1.2. Nutanix 클러스터의 실패 도메인
링크 복사

Nutanix 클러스터에서 장애 도메인 구성을 추가하거나 업데이트하려면 여러 리소스에 대해 조정된 변경을 수행해야 합니다. 다음 작업이 필요합니다.

  1. 클러스터 인프라 사용자 정의 리소스(CR)를 수정합니다.
  2. 클러스터 컨트롤 플레인 머신 세트 CR을 수정합니다.
  3. 컴퓨팅 머신 세트 CR을 수정하거나 교체합니다.

자세한 내용은 설치 후 구성 콘텐츠의 "기존 Nutanix 클러스터에 장애 도메인 추가"를 참조하세요.

10.5.5. Red Hat OpenStack Platform에 대한 제어 평면 구성 옵션
링크 복사

Red Hat OpenStack Platform(RHOSP) 제어 플레인 머신의 구성을 변경하고 제어 플레인 머신 세트의 값을 업데이트하여 기능을 활성화할 수 있습니다. 제어 평면 머신 세트에 대한 업데이트를 저장하면 제어 평면 머신 세트 운영자가 구성된 업데이트 전략 에 따라 제어 평면 머신을 업데이트합니다.

10.5.5.1. Red Hat OpenStack Platform(RHOSP) 클러스터 구성을 위한 샘플 YAML
링크 복사

다음 YAML 스니펫 예제는 RHOSP 클러스터에 대한 공급자 사양 및 실패 도메인 구성을 보여줍니다.

10.5.5.1.1. 샘플 RHOSP 공급자 사양
링크 복사

기존 클러스터에 대한 제어 평면 머신 세트를 생성할 때 공급자 사양은 설치 프로그램에서 생성하는 제어 평면 머신 사용자 지정 리소스(CR)의 providerSpec 구성과 일치해야 합니다.

샘플 OpenStack providerSpec 값

apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
metadata:
  name: cluster
  namespace: openshift-machine-api
spec:
# ...
  template:
# ...
      spec:
        providerSpec:
          value:
            apiVersion: machine.openshift.io/v1alpha1
            cloudName: openstack
            cloudsSecret:
              name: openstack-cloud-credentials
1 

              namespace: openshift-machine-api
            flavor: m1.xlarge
2 

            image: ocp1-2g2xs-rhcos
            kind: OpenstackProviderSpec
3 

            metadata:
              creationTimestamp: null
            networks:
            - filter: {}
              subnets:
              - filter:
                  name: ocp1-2g2xs-nodes
                  tags: openshiftClusterID=ocp1-2g2xs
            securityGroups:
            - filter: {}
              name: ocp1-2g2xs-master
4 

            serverGroupName: ocp1-2g2xs-master
            serverMetadata:
              Name: ocp1-2g2xs-master
              openshiftClusterID: ocp1-2g2xs
            tags:
            - openshiftClusterID=ocp1-2g2xs
            trunk: true
            userDataSecret:
              name: master-user-data
Copy to Clipboard Toggle word wrap

1
클러스터의 비밀 이름입니다. 이 값은 변경하지 마십시오.
2
컨트롤 플레인의 RHOSP 플레이버 유형입니다.
3
RHOSP 클라우드 공급자 플랫폼 유형입니다. 이 값은 변경하지 마십시오.
4
컨트롤 플레인 시스템 보안 그룹입니다.
10.5.5.1.2. 샘플 RHOSP 실패 도메인 구성
링크 복사

장애 도메인의 제어 평면 머신 세트 개념은 가용성 영역 의 기존 Red Hat OpenStack Platform(RHOSP) 개념과 유사합니다. ControlPlaneMachineSet CR은 가능한 경우 여러 장애 도메인에 걸쳐 제어 평면 머신을 분산합니다.

다음 예제에서는 여러 Nova 가용성 영역과 Cinder 가용성 영역을 사용하는 방법을 보여줍니다.

OpenStack 실패 도메인 값 샘플

apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
metadata:
  name: cluster
  namespace: openshift-machine-api
spec:
# ...
  template:
# ...
    machines_v1beta1_machine_openshift_io:
      failureDomains:
        platform: OpenStack
        openstack:
        - availabilityZone: nova-az0
          rootVolume:
            availabilityZone: cinder-az0
        - availabilityZone: nova-az1
          rootVolume:
            availabilityZone: cinder-az1
        - availabilityZone: nova-az2
          rootVolume:
            availabilityZone: cinder-az2
# ...
Copy to Clipboard Toggle word wrap

10.5.5.2. 제어 평면 머신에 대한 Red Hat OpenStack Platform(RHOSP) 기능 활성화
링크 복사

제어 평면 머신 세트에서 값을 업데이트하여 기능을 활성화할 수 있습니다.

10.5.5.2.1. 제어 평면 머신 세트를 사용하여 RHOSP 컴퓨팅 플레이버 변경
링크 복사

제어 평면 머신이 사용하는 Red Hat OpenStack Platform(RHOSP) 컴퓨트 서비스(Nova) 플레이버를 변경하려면 제어 평면 머신 세트 사용자 정의 리소스의 사양을 업데이트하면 됩니다.

RHOSP에서 플레이버는 컴퓨팅 인스턴스의 컴퓨팅, 메모리, 저장 용량을 정의합니다. 플레이버 크기를 늘리거나 줄임으로써 제어 평면을 수직으로 확장할 수 있습니다.

사전 요구 사항

  • RHOSP 클러스터는 제어 평면 머신 세트를 사용합니다.

프로세스

  1. providerSpec 필드 아래의 다음 줄을 편집하세요. 

    providerSpec:
  value:
# ...
    flavor: m1.xlarge
    1
    Copy to Clipboard Toggle word wrap
    1
    기존 선택과 동일한 기반을 갖는 RHOSP 플레이버 유형을 지정합니다. 예를 들어, m6i.xlarge를 m6i.2xlarge 또는 m6i.4xlarge 로 변경할 수 있습니다. 수직적 확장 요구 사항에 따라 더 크거나 더 작은 맛을 선택할 수 있습니다.
  2. 변경 사항을 저장하십시오.

변경 사항을 저장한 후에는 해당 플레이버를 사용하는 기기로 기기가 교체됩니다.

10.5.6. VMware vSphere에 대한 제어 평면 구성 옵션
링크 복사

제어 평면 머신 세트의 값을 업데이트하여 VMware vSphere 제어 평면 머신의 구성을 변경할 수 있습니다. 제어 평면 머신 세트에 대한 업데이트를 저장하면 제어 평면 머신 세트 운영자가 구성된 업데이트 전략 에 따라 제어 평면 머신을 업데이트합니다.

10.5.6.1. VMware vSphere 클러스터 구성을 위한 샘플 YAML
링크 복사

다음 YAML 스니펫 예제는 vSphere 클러스터에 대한 공급자 사양 및 장애 도메인 구성을 보여줍니다.

10.5.6.1.1. 샘플 VMware vSphere 공급자 사양
링크 복사

기존 클러스터에 대한 제어 평면 머신 세트를 생성할 때 공급자 사양은 설치 프로그램에서 생성하는 제어 평면 머신 사용자 지정 리소스(CR)의 providerSpec 구성과 일치해야 합니다.

샘플 vSphere providerSpec 값

apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
metadata:
  name: cluster
  namespace: openshift-machine-api
spec:
# ...
  template:
# ...
      spec:
        providerSpec:
          value:
            apiVersion: machine.openshift.io/v1beta1
            credentialsSecret:
              name: vsphere-cloud-credentials
1 

            dataDisks:
2 

            - name: "<disk_name>"
              provisioningMode: "<mode>"
              sizeGiB: 20
            diskGiB: 120
3 

            kind: VSphereMachineProviderSpec
4 

            memoryMiB: 16384
5 

            metadata:
              creationTimestamp: null
            network:
6 

              devices:
              - networkName: <vm_network_name>
            numCPUs: 4
7 

            numCoresPerSocket: 4
8 

            snapshot: ""
            template: <vm_template_name>
9 

            userDataSecret:
              name: master-user-data
10 

            workspace:
11 

              datacenter: <vcenter_data_center_name>
12 

              datastore: <vcenter_datastore_name>
13 

              folder: <path_to_vcenter_vm_folder>
14 

              resourcePool: <vsphere_resource_pool>
15 

              server: <vcenter_server_ip>
16
Copy to Clipboard Toggle word wrap

1
클러스터의 시크릿 이름을 지정합니다. 이 값은 변경하지 마십시오.
2
하나 이상의 데이터 디스크 정의를 지정합니다. 자세한 내용은 "머신 세트를 사용하여 데이터 디스크 구성"을 참조하세요.
3
제어 평면 머신의 VM 디스크 크기를 지정합니다.
4
클라우드 공급자 플랫폼 유형을 지정합니다. 이 값은 변경하지 마십시오.
5
제어 평면 머신에 할당된 메모리를 지정합니다.
6
제어 평면이 배포되는 네트워크를 지정합니다.
참고

클러스터가 장애 도메인을 사용하도록 구성된 경우 이 매개변수는 장애 도메인에서 구성됩니다. 장애 도메인을 사용할 때 공급자 사양에서 이 값을 지정하면 제어 평면 머신 세트 연산자는 이를 무시합니다.

7
제어 평면 머신에 할당된 CPU 수를 지정합니다.
8
각 제어 평면 CPU에 대한 코어 수를 지정합니다.
9
user-5ddjd-rhcos 와 같이 사용할 vSphere VM 템플릿을 지정합니다.
참고

클러스터가 장애 도메인을 사용하도록 구성된 경우 이 매개변수는 장애 도메인에서 구성됩니다. 장애 도메인을 사용할 때 공급자 사양에서 이 값을 지정하면 제어 평면 머신 세트 연산자는 이를 무시합니다.

10
제어 평면 사용자 데이터 비밀을 지정합니다. 이 값은 변경하지 마십시오.
11
제어 평면에 대한 작업 공간 세부 정보를 지정합니다.
참고

클러스터가 장애 도메인을 사용하도록 구성된 경우 이러한 매개변수는 장애 도메인에서 구성됩니다. 장애 도메인을 사용할 때 공급자 사양에 이러한 값을 지정하면 제어 평면 머신 세트 연산자는 이를 무시합니다.

12
제어 평면에 대한 vCenter 데이터 센터를 지정합니다.
13
컨트롤 플레인의 vCenter 데이터 저장소를 지정합니다.
14
vCenter의 vSphere VM 폴더 경로를 지정합니다(예: /dc1/vm/user-inst-5ddjd ) .
15
VM에 대한 vSphere 리소스 풀을 지정합니다.
16
vCenter 서버 IP 또는 정규화된 도메인 이름을 지정합니다.
10.5.6.1.2. 샘플 VMware vSphere 장애 도메인 구성
링크 복사

VMware vSphere 인프라에서 클러스터 전체 인프라 사용자 정의 리소스 정의(CRD)인 infrastructures.config.openshift.io 는 클러스터에 대한 장애 도메인을 정의합니다. ControlPlaneMachineSet 사용자 지정 리소스(CR)의 providerSpec은 제어 평면 머신 세트가 제어 평면 노드가 적절한 장애 도메인에 배포되도록 하는 데 사용하는 장애 도메인의 이름을 지정합니다. 장애 도메인은 컨트롤 플레인 머신 세트, vCenter 데이터 센터, vCenter 데이터 저장소 및 네트워크로 구성된 인프라 리소스입니다.

장애 도메인 리소스를 사용하면 컨트롤 플레인 머신 세트를 사용하여 별도의 클러스터 또는 데이터 센터에 컨트롤 플레인 시스템을 배포할 수 있습니다. 제어 평면 머신 세트는 정의된 장애 도메인에서 제어 평면 머신의 균형을 맞춰 인프라에 장애 허용 기능을 제공합니다.

참고

ControlPlaneMachineSet CR에서 ProviderSpec 구성을 수정하면 제어 플레인 머신 세트는 기본 인프라와 각 장애 도메인 인프라에 배포된 모든 제어 플레인 머신을 업데이트합니다.

샘플 VMware vSphere 실패 도메인 값

apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
metadata:
  name: cluster
  namespace: openshift-machine-api
spec:
# ...
  template:
# ...
    machines_v1beta1_machine_openshift_io:
      failureDomains:
1 

        platform: VSphere
        vsphere:
2 

        - name: <failure_domain_name_1>
        - name: <failure_domain_name_2>
# ...
Copy to Clipboard Toggle word wrap

1
OpenShift Container Platform 클러스터 노드에 대한 vCenter 위치를 지정합니다.
2
제어 평면 머신 세트에 대한 이름으로 실패 도메인을 지정합니다.
중요

이 섹션의 각 이름 필드 값은 클러스터 전체 인프라 CRD의 failureDomains.name 필드에 있는 해당 값과 일치해야 합니다. 다음 명령을 실행하면 failureDomains.name 필드의 값을 찾을 수 있습니다. 

$ oc get infrastructure cluster -o=jsonpath={.spec.platformSpec.vsphere.failureDomains[0].name}
Copy to Clipboard Toggle word wrap

이름 필드는 ControlPlaneMachineSet CR에서 지정할 수 있는 유일하게 지원되는 실패 도메인 필드입니다.

각 장애 도메인에 대한 리소스를 정의하는 클러스터 전체 인프라 CRD의 예는 "vSphere에서 클러스터에 대한 여러 지역 및 영역 지정"을 참조하세요.

10.5.6.2. 컨트롤 플레인 시스템의 VMware vSphere 기능 활성화
링크 복사

제어 평면 머신 세트에서 값을 업데이트하여 기능을 활성화할 수 있습니다.

10.5.6.2.1. 머신 세트를 사용하여 머신에 태그 추가
링크 복사

OpenShift Container Platform은 생성하는 각 가상 머신(VM)에 클러스터별 태그를 추가합니다. 설치 프로그램은 이러한 태그를 사용하여 클러스터를 제거할 때 삭제할 VM을 선택합니다.

VM에 할당된 클러스터별 태그 외에도, 프로비저닝하는 VM에 최대 10개의 추가 vSphere 태그를 추가하도록 머신 세트를 구성할 수 있습니다.

사전 요구 사항

  • 클러스터 관리자 권한이 있는 계정을 사용하여 vSphere에 설치된 OpenShift Container Platform 클러스터에 액세스할 수 있습니다.
  • 클러스터와 연결된 VMware vCenter 콘솔에 액세스할 수 있습니다.
  • vCenter 콘솔에서 태그를 생성했습니다.
  • OpenShift CLI(oc)가 설치되어 있습니다.

프로세스

  1. vCenter 콘솔을 사용하여 머신에 추가하려는 태그의 태그 ID를 찾으세요.

    1. vCenter 콘솔에 로그인합니다.
    2. 홈 메뉴에서 태그 및 사용자 지정 속성을 클릭합니다.
    3. 기계에 추가할 태그를 선택하세요.

    4. 선택한 태그의 브라우저 URL을 사용하여 태그 ID를 식별합니다.

      태그 URL 예시

      https://vcenter.example.com/ui/app/tags/tag/urn:vmomi:InventoryServiceTag:208e713c-cae3-4b7f-918e-4051ca7d1f97:GLOBAL/permissions
      Copy to Clipboard Toggle word wrap

      태그 ID 예시

      urn:vmomi:InventoryServiceTag:208e713c-cae3-4b7f-918e-4051ca7d1f97:GLOBAL
      Copy to Clipboard Toggle word wrap

  2. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  3. providerSpec 필드 아래의 다음 줄을 편집하세요. 

    apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
# ...
spec:
  template:
    spec:
      providerSpec:
        value:
          tagIDs:
    1 
    
          - <tag_id_value>
    2 
    
# ...
    Copy to Clipboard Toggle word wrap
    1
    이 머신 세트가 제공하는 머신에 추가할 태그 목록을 최대 10개까지 지정합니다.
    2
    귀하의 기계에 추가하려는 태그의 값을 지정하세요. 예를 들어, urn:vmomi:InventoryServiceTag:208e713c-cae3-4b7f-918e-4051ca7d1f97:GLOBAL .
10.5.6.2.2. 머신 세트를 사용하여 데이터 디스크 구성
링크 복사

VMware vSphere의 OpenShift Container Platform 클러스터는 가상 머신(VM) 컨트롤러에 최대 29개의 디스크를 추가하는 것을 지원합니다.

중요

vSphere 데이터 디스크 구성은 기술 미리 보기 기능에만 해당됩니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

데이터 디스크를 구성하면 디스크를 VM에 연결하고 이를 사용하여 etcd, 컨테이너 이미지 및 기타 용도로 데이터를 저장할 수 있습니다. 데이터를 분리하면 기본 디스크가 가득 차는 것을 방지하여 업그레이드와 같은 중요한 활동에 필요한 리소스를 확보할 수 있습니다.

참고

데이터 디스크를 추가하면 해당 디스크가 VM에 연결되고 RHCOS가 지정한 위치에 마운트됩니다.

사전 요구 사항

  • vSphere의 OpenShift Container Platform 클러스터에 대한 OpenShift CLI( oc )에 대한 관리자 액세스 권한이 있습니다.

프로세스

  1. 텍스트 편집기에서 기존 머신 세트의 YAML 파일을 열거나 새 파일을 만듭니다.

  2. providerSpec 필드 아래의 다음 줄을 편집하세요. 

    apiVersion: machine.openshift.io/v1
kind: ControlPlaneMachineSet
# ...
spec:
  template:
    machines_v1beta1_machine_openshift_io:
      spec:
        providerSpec:
          value:
            dataDisks:
    1 
    
            - name: "<disk_name>"
    2 
    
              provisioningMode: "<mode>"
    3 
    
              sizeGiB: 20
    4 
    
            - name: "<disk_name>"
              provisioningMode: "<mode>"
              sizeGiB: 20
# ...
    Copy to Clipboard Toggle word wrap
    1
    1~29개의 데이터 디스크 정의 컬렉션을 지정합니다. 이 샘플 구성은 두 개의 데이터 디스크 정의를 포함하는 포맷을 보여줍니다.
    2
    데이터 디스크의 이름을 지정합니다. 이름은 다음 요구 사항을 충족해야 합니다.
    • 영숫자로 시작하고 끝납니다
    • 영숫자, 하이픈( - ), 밑줄( _ )로만 구성됩니다.
    • 최대 80자까지 입력 가능합니다.
    3
    데이터 디스크 프로비저닝 방법을 지정합니다. 이 값은 설정되지 않은 경우 기본적으로 vSphere 기본 스토리지 정책으로 설정됩니다. 유효한 값은 Thin , Thick , EagerlyZeroed 입니다.
    4
    데이터 디스크의 크기를 GiB 단위로 지정합니다. 최대 크기는 16384GiB입니다.

10.6. 제어 평면 복원력 및 복구
링크 복사

제어 평면 머신 세트를 사용하면 OpenShift Container Platform 클러스터의 제어 평면 복원력을 향상시킬 수 있습니다.

10.6.1. 장애 도메인을 통한 고가용성 및 내결함성
링크 복사

가능한 경우, 제어 평면 머신 세트는 제어 평면 머신을 여러 장애 도메인에 분산합니다. 이 구성은 제어 평면 내에서 높은 가용성과 내결함성을 제공합니다. 이 전략은 인프라 제공자 내에서 문제가 발생할 때 제어 평면을 보호하는 데 도움이 될 수 있습니다.

10.6.1.1. 장애 도메인 플랫폼 지원 및 구성
링크 복사

장애 도메인의 제어 평면 머신 세트 개념은 클라우드 제공자의 기존 개념과 유사합니다. 모든 플랫폼이 장애 도메인 사용을 지원하는 것은 아닙니다.

Expand
표 10.3. 실패 도메인 지원 매트릭스
클라우드 공급자장애 도메인 지원공급자 명명법

AWS(Amazon Web Services)

X

가용성 영역(AZ)

GCP(Google Cloud Platform)

X

존

Microsoft Azure

X

Azure 가용성 영역

Nutanix

X

실패 도메인

Red Hat 오픈스택 플랫폼(RHOSP)

X

OpenStack Nova 가용성 영역 및 OpenStack Cinder 가용성 영역

VMware vSphere

X

vSphere Zone에 매핑된 실패 도메인 [1]

  1. 자세한 내용은 "VMware vCenter의 지역 및 영역"을 참조하세요.

제어 평면 머신 세트 사용자 정의 리소스(CR)의 장애 도메인 구성은 플랫폼에 따라 다릅니다. CR의 실패 도메인 매개변수에 대한 자세한 내용은 공급자의 실패 도메인 구성 샘플을 참조하세요.

10.6.1.2. 제어 평면 기계 밸런싱
링크 복사

제어 평면 머신 세트는 사용자 정의 리소스(CR)에 지정된 장애 도메인에서 제어 평면 머신의 균형을 맞춥니다.

가능한 경우 컨트롤 플레인 머신 세트는 각 장애 도메인을 동일하게 사용하여 적절한 내결함성을 보장합니다. 제어 평면 머신보다 장애 도메인이 적으면 장애 도메인은 이름별로 알파벳순으로 재사용을 위해 선택됩니다. 장애 도메인이 지정되지 않은 클러스터의 경우 모든 제어 평면 머신은 단일 장애 도메인 내에 배치됩니다.

장애 도메인 구성에 대한 일부 변경으로 인해 제어 평면 머신 세트가 제어 평면 머신의 균형을 다시 맞추게 됩니다. 예를 들어, 제어 평면 머신보다 장애 도메인이 적은 클러스터에 장애 도메인을 추가하면 제어 평면 머신 세트는 사용 가능한 모든 장애 도메인에 걸쳐 머신의 균형을 재조정합니다.

10.6.2. 실패한 제어 평면 머신 복구
링크 복사

제어 평면 머신 세트 운영자는 제어 평면 머신의 복구를 자동화합니다. 제어 평면 머신이 삭제되면 운영자는 ControlPlaneMachineSet 사용자 정의 리소스(CR)에 지정된 구성을 사용하여 대체 머신을 만듭니다.

제어 평면 머신 세트를 사용하는 클러스터의 경우 머신 상태 검사를 구성할 수 있습니다. 머신 상태 검사는 상태가 좋지 않은 제어 평면 머신을 삭제하여 교체합니다.

중요

제어 평면에 대해 MachineHealthCheck 리소스를 구성하는 경우 maxUnhealthy 값을 1 로 설정합니다.

이 구성은 여러 제어 평면 머신이 비정상적으로 보일 때 머신 상태 검사가 아무런 조치도 취하지 않도록 보장합니다. 여러 개의 비정상적 제어 평면 머신은 etcd 클러스터가 저하되었거나 실패한 머신을 교체하기 위한 확장 작업이 진행 중임을 나타낼 수 있습니다.

etcd 클러스터가 저하되면 수동 개입이 필요할 수 있습니다. 스케일링 작업이 진행 중인 경우 머신 상태 점검에서 이 작업을 완료할 수 있어야 합니다.

10.6.3. 머신 라이프사이클 후크를 통한 쿼럼 보호
링크 복사

Machine API Operator를 사용하는 OpenShift Container Platform 클러스터의 경우 etcd Operator는 머신 삭제 단계에 대한 수명 주기 후크를 사용하여 쿼럼 보호 메커니즘을 구현합니다.

preDrain 라이프사이클 후크를 사용하면 etcd 운영자가 제어 플레인 머신의 포드가 비워지고 제거되는 시기를 제어할 수 있습니다. etcd 쿼럼을 보호하기 위해 etcd 운영자는 클러스터 내의 새 노드로 해당 멤버를 마이그레이션할 때까지 etcd 멤버가 제거되지 않도록 합니다.

이 메커니즘을 사용하면 etcd 운영자가 etcd 쿼럼의 멤버를 정확하게 제어할 수 있으며, 머신 API 운영자가 etcd 클러스터에 대한 구체적인 운영 지식 없이도 제어 평면 머신을 안전하게 생성하고 제거할 수 있습니다.

10.6.3.1. 쿼럼 보호 처리 순서를 사용한 제어 평면 삭제
링크 복사

컨트롤 플레인 시스템 세트를 사용하는 클러스터에서 컨트롤 플레인 시스템을 교체하면 클러스터에 일시적으로 4개의 컨트롤 플레인 시스템이 있습니다. 네 번째 제어 평면 노드가 클러스터에 가입하면 etcd 운영자는 교체 노드에서 새로운 etcd 멤버를 시작합니다. etcd 운영자가 이전 제어 평면 머신이 삭제되도록 표시되었음을 관찰하면 이전 노드의 etcd 멤버를 중지하고 대체 etcd 멤버를 승격시켜 클러스터 쿼럼에 가입시킵니다.

컨트롤 플레인 머신 Deleting 단계는 다음 순서로 진행됩니다.

  1. 제어 평면 머신이 삭제될 예정입니다.
  2. 컨트롤 플레인 시스템은 Deleting 단계에 들어갑니다.

  3. preDrain 라이프사이클 후크를 충족시키기 위해 etcd 운영자는 다음 작업을 수행합니다.

    1. etcd 운영자는 네 번째 제어 평면 머신이 etcd 멤버로 클러스터에 추가될 때까지 기다립니다. 이 새 etcd 멤버의 상태는 Running 이지만 etcd 리더에서 전체 데이터베이스 업데이트가 수신될 때까지 ready되지 않았습니다.
    2. 새로운 etcd 멤버가 전체 데이터베이스 업데이트를 받으면 etcd 운영자는 새로운 etcd 멤버를 투표 멤버로 승격시키고 클러스터에서 기존 etcd 멤버를 제거합니다.

    이 전환이 완료되면 이전 etcd 포드와 해당 데이터를 제거하는 것이 안전하므로 preDrain 라이프사이클 후크가 제거됩니다.

  4. 제어 평면 머신 상태 조건인 Drainable 이 True 로 설정됩니다.

  5. 머신 컨트롤러는 제어 평면 머신에 의해 지원되는 노드를 비우려고 시도합니다.

    • 드레이닝에 실패하면 Drained가 False 로 설정되고 머신 컨트롤러에서 노드를 다시 드레이닝하려고 합니다.
    • 드레이닝이 성공하면 Drained가 True 로 설정됩니다.
  6. 제어 평면 머신 상태 조건 'Drained' 가 True 로 설정됩니다.
  7. 다른 운영자가 preTerminate 라이프사이클 후크를 추가하지 않은 경우 제어 평면 머신 상태 조건 Terminable 이 True 로 설정됩니다.
  8. 머신 컨트롤러는 인프라 공급자로부터 인스턴스를 제거합니다.
  9. 머신 컨트롤러가 노드 객체를 삭제합니다.

etcd 쿼럼 보호 preDrain 수명 주기 후크를 보여주는 YAML 스니펫

apiVersion: machine.openshift.io/v1beta1
kind: Machine
metadata:
  ...
spec:
  lifecycleHooks:
    preDrain:
    - name: EtcdQuorumOperator
1 

      owner: clusteroperator/etcd
2 

  ...
Copy to Clipboard Toggle word wrap

1
preDrain 라이프사이클 후크의 이름입니다.
2
preDrain 라이프사이클 후크를 관리하는 후크 구현 컨트롤러입니다.

10.7. 제어 평면 머신 세트 문제 해결
링크 복사

이 섹션의 정보를 활용해 발생할 수 있는 문제를 파악하고 복구하세요.

10.7.1. 컨트롤 플레인 머신 세트 사용자 정의 리소스 상태 확인
링크 복사

ControlPlaneMachineSet CR(사용자 정의 리소스)의 존재 및 상태를 확인할 수 있습니다.

프로세스

  • 다음 명령을 실행하여 CR 상태를 확인하세요. 

    $ oc get controlplanemachineset.machine.openshift.io cluster \
  --namespace openshift-machine-api
    Copy to Clipboard Toggle word wrap
    • Active 결과는 ControlPlaneMachineSet CR이 존재하고 활성화되었음을 나타냅니다. 관리자 작업은 필요하지 않습니다.
    • Inactive 결과는 ControlPlaneMachineSet CR이 존재하지만 활성화되지 않았음을 나타냅니다.
    • NotFound 결과는 ControlPlaneMachineSet CR이 존재하지 않음을 나타냅니다.

다음 단계

제어 평면 머신 세트를 사용하려면 클러스터에 대한 올바른 설정을 갖춘 ControlPlaneMachineSet CR이 있는지 확인해야 합니다.

  • 클러스터에 기존 CR이 있는 경우 해당 CR의 구성이 클러스터에 맞는지 확인해야 합니다.
  • 클러스터에 기존 CR이 없는 경우 클러스터에 맞는 올바른 구성으로 CR을 만들어야 합니다.

10.7.2. 누락된 Azure 내부 부하 분산 장치 추가
링크 복사

Azure의 ControlPlaneMachineSet 및 컨트롤 플레인 Machine CR(사용자 정의 리소스) 모두에 internalLoadBalancer 매개변수가 필요합니다. 이 매개변수가 클러스터에 사전 구성되지 않은 경우 두 CR에 모두 추가해야 합니다.

Azure 공급자 사양에서 이 매개변수가 어디에 있는지에 대한 자세한 내용은 샘플 Azure 공급자 사양을 참조하세요. 컨트롤 플레인 Machine CR의 배치는 비슷합니다.

프로세스

  1. 다음 명령을 실행하여 클러스터의 제어 평면 머신을 나열하세요. 

    $ oc get machines \
  -l machine.openshift.io/cluster-api-machine-role==master \
  -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

  2. 각 제어 평면 머신에 대해 다음 명령을 실행하여 CR을 편집합니다. 

    $ oc edit machine <control_plane_machine_name>
    Copy to Clipboard Toggle word wrap
  3. 클러스터에 대한 올바른 세부 정보와 함께 internalLoadBalancer 매개변수를 추가하고 변경 사항을 저장합니다.

  4. 다음 명령을 실행하여 제어 평면 머신 세트 CR을 편집합니다. 

    $ oc edit controlplanemachineset.machine.openshift.io cluster \
  -n openshift-machine-api
    Copy to Clipboard Toggle word wrap
  5. 클러스터에 대한 올바른 세부 정보와 함께 internalLoadBalancer 매개변수를 추가하고 변경 사항을 저장합니다.

다음 단계

  • 기본 RollingUpdate 업데이트 전략을 사용하는 클러스터의 경우 Operator는 변경 사항을 제어 평면 구성에 자동으로 전파합니다.
  • OnDelete 업데이트 전략을 사용하도록 구성된 클러스터의 경우 제어 평면 머신을 수동으로 교체해야 합니다.

10.7.3. 성능 저하된 etcd Operator 복구
링크 복사

특정 상황으로 인해 etcd 운영자가 저하될 수 있습니다.

예를 들어, 수정 작업을 수행하는 동안 머신 상태 검사에서 etcd를 호스팅하는 제어 평면 머신이 삭제될 수 있습니다. 그 시점에서 etcd 멤버에 연결할 수 없는 경우 etcd Operator의 성능이 저하됩니다.

etcd 운영자가 성능이 저하되면 운영자가 실패한 멤버를 제거하고 클러스터 상태를 복원하도록 강제하기 위해 수동 개입이 필요합니다.

프로세스

  1. 다음 명령을 실행하여 클러스터의 제어 평면 머신을 나열하세요. 

    $ oc get machines \
  -l machine.openshift.io/cluster-api-machine-role==master \
  -n openshift-machine-api \
  -o wide
    Copy to Clipboard Toggle word wrap

    다음 조건 중 하나라도 실패하면 제어 평면 머신이 실패했음을 나타낼 수 있습니다.

    • STATE 값이 중지되었습니다.
    • PHASE 값이 실패했습니다 .
    • PHASE 값은 10 분 이상 Deleting 됩니다.
    중요

    계속하기 전에 클러스터에 두 개의 정상적인 제어 평면 머신이 있는지 확인하세요. 이 절차의 작업을 두 대 이상의 제어 평면 머신에서 수행하면 etcd 쿼럼이 손실될 위험이 있으며 데이터가 손실될 수 있습니다.

    대부분의 제어 평면 호스트를 잃어 etcd 쿼럼 손실이 발생한 경우 이 절차 대신 재해 복구 절차인 "이전 클러스터 상태로 복원"을 따라야 합니다.

  2. 다음 명령을 실행하여 실패한 제어 평면 머신의 머신 CR을 편집합니다. 

    $ oc edit machine <control_plane_machine_name>
    Copy to Clipboard Toggle word wrap

  3. 실패한 제어 평면 머신에서 lifecycleHooks 매개변수의 내용을 제거하고 변경 사항을 저장합니다.

    etcd 운영자는 실패한 머신을 클러스터에서 제거한 다음 안전하게 새로운 etcd 멤버를 추가할 수 있습니다.

10.7.4. RHOSP에서 실행되는 클러스터 업그레이드
링크 복사

OpenShift Container Platform 4.13 이하 버전으로 생성되고 Red Hat OpenStack Platform(RHOSP)에서 실행되는 클러스터의 경우, 제어 평면 머신 세트를 사용하기 전에 업그레이드 후 작업을 수행해야 할 수도 있습니다.

Red Hat OpenStack Platform(RHOSP)에서 실행되는 일부 클러스터를 업그레이드하는 경우 다음 구성이 참이면 제어 평면 머신 세트를 사용하기 전에 머신 리소스를 수동으로 업데이트해야 합니다.

  • 업그레이드된 클러스터는 OpenShift Container Platform 4.13 이하 버전을 사용하여 생성되었습니다.
  • 클러스터 인프라는 설치 프로그램에서 제공됩니다.
  • 여러 가용성 영역에 걸쳐 기계가 분산되었습니다.
  • 블록 스토리지 가용성 영역이 정의되지 않은 루트 볼륨을 사용하도록 머신이 구성되었습니다.

이 절차가 필요한 이유를 알아보려면 솔루션 #7024383을 참조하세요.

프로세스

  1. 모든 제어 평면 머신의 경우 환경과 일치하는 모든 제어 평면 머신에 대한 공급자 사양을 편집합니다. 예를 들어, 머신 master-0을 편집하려면 다음 명령을 입력하세요. 

    $ oc edit machine/<cluster_id>-master-0 -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    다음과 같습니다.

    <cluster_id>
    업그레이드된 클러스터의 ID를 지정합니다.

  2. 공급자 사양에서 rootVolume.availabilityZone 속성의 값을 사용하려는 가용성 영역의 볼륨으로 설정합니다.

    RHOSP 공급자 사양 예시

    providerSpec:
  value:
    apiVersion: machine.openshift.io/v1alpha1
    availabilityZone: az0
      cloudName: openstack
    cloudsSecret:
      name: openstack-cloud-credentials
      namespace: openshift-machine-api
    flavor: m1.xlarge
    image: rhcos-4.14
    kind: OpenstackProviderSpec
    metadata:
      creationTimestamp: null
    networks:
    - filter: {}
      subnets:
      - filter:
          name: refarch-lv7q9-nodes
          tags: openshiftClusterID=refarch-lv7q9
    rootVolume:
        availabilityZone: nova
    1 
    
        diskSize: 30
        sourceUUID: rhcos-4.12
        volumeType: fast-0
    securityGroups:
    - filter: {}
      name: refarch-lv7q9-master
    serverGroupName: refarch-lv7q9-master
    serverMetadata:
      Name: refarch-lv7q9-master
      openshiftClusterID: refarch-lv7q9
    tags:
    - openshiftClusterID=refarch-lv7q9
    trunk: true
    userDataSecret:
      name: master-user-data
    Copy to Clipboard Toggle word wrap

    1
    이 값으로 영역 이름을 설정합니다.
    참고

    초기 클러스터 배포 이후에 머신 리소스를 편집하거나 다시 만든 경우 구성에 맞게 이러한 단계를 조정해야 할 수도 있습니다.

    RHOSP 클러스터에서 머신의 루트 볼륨 가용성 영역을 찾아 해당 값을 값으로 사용합니다.

  3. 다음 명령을 실행하여 제어 평면 머신 세트 리소스에 대한 정보를 검색합니다. 

    $ oc describe controlplanemachineset.machine.openshift.io/cluster --namespace openshift-machine-api
    Copy to Clipboard Toggle word wrap

  4. 다음 명령을 실행하여 리소스를 편집합니다. 

    $ oc edit controlplanemachineset.machine.openshift.io/cluster --namespace openshift-machine-api
    Copy to Clipboard Toggle word wrap
  5. 해당 리소스의 경우 spec.state 속성 값을 Active로 설정하여 클러스터의 제어 평면 머신 세트를 활성화합니다.

클러스터 제어 평면 머신 세트 운영자가 귀하의 제어 평면을 관리할 준비가 되었습니다.

Red Hat OpenStack Platform(RHOSP)에서 실행되는 일부 클러스터를 업그레이드하는 경우 다음 구성이 참이면 제어 평면 머신 세트를 사용하기 전에 머신 리소스를 수동으로 업데이트해야 합니다.

  • 업그레이드된 클러스터는 OpenShift Container Platform 4.13 이하 버전을 사용하여 생성되었습니다.
  • 클러스터 인프라는 설치 프로그램에서 제공됩니다.
  • 제어 평면 머신은 여러 컴퓨팅 가용성 영역에 분산되었습니다.

이 절차가 필요한 이유를 알아보려면 솔루션 #7013893을 참조하세요.

프로세스

  1. 마스터-1 및 마스터-2 제어 평면 머신의 경우 편집을 위해 공급자 사양을 엽니다. 예를 들어, 첫 번째 컴퓨터를 편집하려면 다음 명령을 입력하세요. 

    $ oc edit machine/<cluster_id>-master-1 -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    다음과 같습니다.

    <cluster_id>
    업그레이드된 클러스터의 ID를 지정합니다.

  2. 마스터-1 및 마스터-2 제어 평면 머신의 경우, 공급자 사양에서 serverGroupName 속성 값을 편집하여 머신 마스터-0 의 값과 일치시킵니다.

    RHOSP 공급자 사양 예시

    providerSpec:
  value:
    apiVersion: machine.openshift.io/v1alpha1
    availabilityZone: az0
      cloudName: openstack
    cloudsSecret:
      name: openstack-cloud-credentials
      namespace: openshift-machine-api
    flavor: m1.xlarge
    image: rhcos-4.19
    kind: OpenstackProviderSpec
    metadata:
      creationTimestamp: null
    networks:
    - filter: {}
      subnets:
      - filter:
          name: refarch-lv7q9-nodes
          tags: openshiftClusterID=refarch-lv7q9
    securityGroups:
    - filter: {}
      name: refarch-lv7q9-master
    serverGroupName: refarch-lv7q9-master-az0
    1 
    
    serverMetadata:
      Name: refarch-lv7q9-master
      openshiftClusterID: refarch-lv7q9
    tags:
    - openshiftClusterID=refarch-lv7q9
    trunk: true
    userDataSecret:
      name: master-user-data
    Copy to Clipboard Toggle word wrap

    1
    이 값은 master-0 , master-1 , master-3 머신과 일치해야 합니다.
    참고

    초기 클러스터 배포 이후에 머신 리소스를 편집하거나 다시 만든 경우 구성에 맞게 이러한 단계를 조정해야 할 수도 있습니다.

    RHOSP 클러스터에서 제어 평면 인스턴스가 있는 서버 그룹을 찾아 해당 값을 값으로 사용합니다.

  3. 다음 명령을 실행하여 제어 평면 머신 세트 리소스에 대한 정보를 검색합니다. 

    $ oc describe controlplanemachineset.machine.openshift.io/cluster --namespace openshift-machine-api
    Copy to Clipboard Toggle word wrap

  4. 다음 명령을 실행하여 리소스를 편집합니다. 

    $ oc edit controlplanemachineset.machine.openshift.io/cluster --namespace openshift-machine-api
    Copy to Clipboard Toggle word wrap
  5. 해당 리소스의 경우 spec.state 속성 값을 Active로 설정하여 클러스터의 제어 평면 머신 세트를 활성화합니다.

클러스터 제어 평면 머신 세트 운영자가 귀하의 제어 평면을 관리할 준비가 되었습니다.

10.8. 제어 평면 머신 세트 비활성화
링크 복사

활성화된 ControlPlaneMachineSet CR(사용자 정의 리소스)의 .spec.state 필드는 Active 에서 Inactive로 변경할 수 없습니다. 제어 평면 머신 세트를 비활성화하려면 CR을 삭제하여 클러스터에서 제거해야 합니다.

CR을 삭제하면 제어 평면 머신 세트 운영자가 정리 작업을 수행하고 제어 평면 머신 세트를 비활성화합니다. 그런 다음 운영자는 클러스터에서 CR을 제거하고 기본 설정으로 비활성 제어 평면 머신 세트를 만듭니다.

10.8.1. 제어 평면 머신 세트 삭제
링크 복사

클러스터에 설정된 제어 평면 머신을 사용하여 제어 평면 머신을 더 이상 관리하지 않으려면 ControlPlaneMachineSet 사용자 지정 리소스(CR)를 삭제해야 합니다.

프로세스

  • 다음 명령을 실행하여 제어 평면 머신 세트 CR을 삭제합니다. 

    $ oc delete controlplanemachineset.machine.openshift.io cluster \
  -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

검증

  • 컨트롤 플레인 머신 세트 사용자 정의 리소스 상태를 확인합니다. 비활성 결과는 제거 및 교체 프로세스가 성공적임을 나타냅니다. ControlPlaneMachineSet CR이 존재하지만 활성화되지 않았습니다.

10.8.2. 컨트롤 플레인 머신 세트 사용자 정의 리소스 상태 확인
링크 복사

ControlPlaneMachineSet CR(사용자 정의 리소스)의 존재 및 상태를 확인할 수 있습니다.

프로세스

  • 다음 명령을 실행하여 CR 상태를 확인하세요. 

    $ oc get controlplanemachineset.machine.openshift.io cluster \
  --namespace openshift-machine-api
    Copy to Clipboard Toggle word wrap
    • Active 결과는 ControlPlaneMachineSet CR이 존재하고 활성화되었음을 나타냅니다. 관리자 작업은 필요하지 않습니다.
    • Inactive 결과는 ControlPlaneMachineSet CR이 존재하지만 활성화되지 않았음을 나타냅니다.
    • NotFound 결과는 ControlPlaneMachineSet CR이 존재하지 않음을 나타냅니다.

10.8.3. 제어 평면 머신 세트 다시 활성화
링크 복사

제어 평면 머신 세트를 다시 활성화하려면 CR의 구성이 클러스터에 맞는지 확인하고 활성화해야 합니다.

10.9. 수동으로 제어 평면 머신 확장
링크 복사

베어 메탈 인프라에 클러스터를 설치하는 경우 클러스터의 제어 평면 노드를 최대 4~5개까지 수동으로 확장할 수 있습니다. 클러스터를 저하된 상태에서 복구해야 하거나, 심층적인 디버깅을 수행해야 하거나, 복잡한 시나리오에서 제어 평면의 안정성과 보안을 보장해야 하는 상황에서 이 사용 사례를 고려해보세요.

중요

Red Hat은 베어 메탈 인프라에서만 4개 또는 5개의 제어 평면 노드가 있는 클러스터를 지원합니다.

10.9.1. 클러스터에 제어 평면 노드 추가
링크 복사

베어 메탈 인프라에 클러스터를 설치하는 경우 클러스터의 제어 평면 노드를 최대 4~5개까지 수동으로 확장할 수 있습니다. 절차의 예에서는 새로운 제어 평면 노드로 노드 5를 사용합니다.

사전 요구 사항

  • 최소 3개의 제어 평면 노드가 있는 정상적인 클러스터를 설치했습니다.
  • 클러스터에 설치 후 작업으로 추가하려는 단일 제어 평면 노드를 생성했습니다.

프로세스

  1. 다음 명령을 입력하여 새 제어 평면 노드에 대한 보류 중인 인증서 서명 요청(CSR)을 검색합니다. 

    $ oc get csr | grep Pending
    Copy to Clipboard Toggle word wrap

  2. 다음 명령을 입력하여 제어 평면 노드에 대한 모든 보류 중인 CSR을 승인합니다. 

    $ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs --no-run-if-empty oc adm certificate approve
    Copy to Clipboard Toggle word wrap
    중요

    설치를 완료하려면 CSR을 승인해야 합니다.

  3. 다음 명령을 입력하여 제어 평면 노드가 준비 상태인지 확인하세요. 

    $ oc get nodes
    Copy to Clipboard Toggle word wrap
    참고

    설치 프로그램이 제공하는 인프라에서 etcd 운영자는 Machine API를 사용하여 제어 평면을 관리하고 etcd 쿼럼을 보장합니다. 그러면 Machine API는 Machine CR을 사용하여 기본 제어 평면 노드를 표현하고 관리합니다.

  4. BareMetalHost 및 Machine CR을 생성하고 이를 제어 평면 노드의 노드 CR에 연결합니다.

    1. 다음 예제에서 보여준 것처럼 고유한 .metadata.name 값을 사용하여 BareMetalHost CR을 만듭니다. 

      apiVersion: metal3.io/v1alpha1
kind: BareMetalHost
metadata:
  name: node-5
  namespace: openshift-machine-api
spec:
  automatedCleaningMode: metadata
  bootMACAddress: 00:00:00:00:00:02
  bootMode: UEFI
  customDeploy:
    method: install_coreos
  externallyProvisioned: true
  online: true
  userData:
    name: master-user-data-managed
    namespace: openshift-machine-api
# ...
      Copy to Clipboard Toggle word wrap

    2. 다음 명령을 입력하여 BareMetalHost CR을 적용합니다. 

      $ oc apply -f <filename>
      1
      Copy to Clipboard Toggle word wrap
      1
      <파일 이름>을 BareMetalHost CR의 이름으로 바꾸세요.

    3. 다음 예제에서 보여준 것처럼 고유한 .metadata.name 값을 사용하여 Machine CR을 생성합니다. 

      apiVersion: machine.openshift.io/v1beta1
kind: Machine
metadata:
  annotations:
    machine.openshift.io/instance-state: externally provisioned
    metal3.io/BareMetalHost: openshift-machine-api/node-5
  finalizers:
  - machine.machine.openshift.io
  labels:
    machine.openshift.io/cluster-api-cluster: <cluster_name>
      1 
      
    machine.openshift.io/cluster-api-machine-role: master
    machine.openshift.io/cluster-api-machine-type: master
  name: node-5
  namespace: openshift-machine-api
spec:
  metadata: {}
  providerSpec:
    value:
      apiVersion: baremetal.cluster.k8s.io/v1alpha1
      customDeploy:
        method: install_coreos
      hostSelector: {}
      image:
        checksum: ""
        url: ""
      kind: BareMetalMachineProviderSpec
      metadata:
        creationTimestamp: null
      userData:
        name: master-user-data-managed
# ...
      Copy to Clipboard Toggle word wrap
      1
      <cluster_name>을 특정 클러스터의 이름으로 바꾸세요(예: test-day2-1-6qv96 ).

    4. 다음 명령을 실행하여 클러스터 이름을 가져옵니다. 

      $ oc get infrastructure cluster -o=jsonpath='{.status.infrastructureName}{"\n"}'
      Copy to Clipboard Toggle word wrap

    5. 다음 명령을 입력하여 Machine CR을 적용합니다. 

      $ oc apply -f <filename>
      1
      Copy to Clipboard Toggle word wrap
      1
      <파일 이름>을 Machine CR의 이름으로 바꾸세요.

    6. link-machine-and-node.sh 스크립트를 실행하여 BareMetalHost , Machine 및 Node 객체를 연결합니다.

      1. 다음 link-machine-and-node.sh 스크립트를 로컬 머신에 복사합니다. 

        #!/bin/bash

# Credit goes to
# https://bugzilla.redhat.com/show_bug.cgi?id=1801238.
# This script will link Machine object
# and Node object. This is needed
# in order to have IP address of
# the Node present in the status of the Machine.

set -e

machine="$1"
node="$2"

if [ -z "$machine" ] || [ -z "$node" ]; then
    echo "Usage: $0 MACHINE NODE"
    exit 1
fi

node_name=$(echo "${node}" | cut -f2 -d':')

oc proxy &
proxy_pid=$!
function kill_proxy {
    kill $proxy_pid
}
trap kill_proxy EXIT SIGINT

HOST_PROXY_API_PATH="http://localhost:8001/apis/metal3.io/v1alpha1/namespaces/openshift-machine-api/baremetalhosts"

function print_nics() {
    local ips
    local eob
    declare -a ips

    readarray -t ips < <(echo "${1}" \
                         | jq '.[] | select(. | .type == "InternalIP") | .address' \
                         | sed 's/"//g')

    eob=','
    for (( i=0; i<${#ips[@]}; i++ )); do
        if [ $((i+1)) -eq ${#ips[@]} ]; then
            eob=""
        fi
        cat <<- EOF
          {
            "ip": "${ips[$i]}",
            "mac": "00:00:00:00:00:00",
            "model": "unknown",
            "speedGbps": 10,
            "vlanId": 0,
            "pxe": true,
            "name": "eth1"
          }${eob}
EOF
    done
}

function wait_for_json() {
    local name
    local url
    local curl_opts
    local timeout

    local start_time
    local curr_time
    local time_diff

    name="$1"
    url="$2"
    timeout="$3"
    shift 3
    curl_opts="$@"
    echo -n "Waiting for $name to respond"
    start_time=$(date +%s)
    until curl -g -X GET "$url" "${curl_opts[@]}" 2> /dev/null | jq '.' 2> /dev/null > /dev/null; do
        echo -n "."
        curr_time=$(date +%s)
        time_diff=$((curr_time - start_time))
        if [[ $time_diff -gt $timeout ]]; then
            printf '\nTimed out waiting for %s' "${name}"
            return 1
        fi
        sleep 5
    done
    echo " Success!"
    return 0
}
wait_for_json oc_proxy "${HOST_PROXY_API_PATH}" 10 -H "Accept: application/json" -H "Content-Type: application/json"

addresses=$(oc get node -n openshift-machine-api "${node_name}" -o json | jq -c '.status.addresses')

machine_data=$(oc get machines.machine.openshift.io -n openshift-machine-api -o json "${machine}")
host=$(echo "$machine_data" | jq '.metadata.annotations["metal3.io/BareMetalHost"]' | cut -f2 -d/ | sed 's/"//g')

if [ -z "$host" ]; then
    echo "Machine $machine is not linked to a host yet." 1>&2
    exit 1
fi

# The address structure on the host doesn't match the node, so extract
# the values we want into separate variables so we can build the patch
# we need.
hostname=$(echo "${addresses}" | jq '.[] | select(. | .type == "Hostname") | .address' | sed 's/"//g')

set +e
read -r -d '' host_patch << EOF
{
  "status": {
    "hardware": {
      "hostname": "${hostname}",
      "nics": [
$(print_nics "${addresses}")
      ],
      "systemVendor": {
        "manufacturer": "Red Hat",
        "productName": "product name",
        "serialNumber": ""
      },
      "firmware": {
        "bios": {
          "date": "04/01/2014",
          "vendor": "SeaBIOS",
          "version": "1.11.0-2.el7"
        }
      },
      "ramMebibytes": 0,
      "storage": [],
      "cpu": {
        "arch": "x86_64",
        "model": "Intel(R) Xeon(R) CPU E5-2630 v4 @ 2.20GHz",
        "clockMegahertz": 2199.998,
        "count": 4,
        "flags": []
      }
    }
  }
}
EOF
set -e

echo "PATCHING HOST"
echo "${host_patch}" | jq .

curl -s \
     -X PATCH \
     "${HOST_PROXY_API_PATH}/${host}/status" \
     -H "Content-type: application/merge-patch+json" \
     -d "${host_patch}"

oc get baremetalhost -n openshift-machine-api -o yaml "${host}"
        Copy to Clipboard Toggle word wrap

      2. 다음 명령을 입력하여 스크립트를 실행 가능하게 만듭니다. 

        $ chmod +x link-machine-and-node.sh
        Copy to Clipboard Toggle word wrap

      3. 다음 명령을 입력하여 스크립트를 실행합니다. 

        $ bash link-machine-and-node.sh node-5 node-5
        Copy to Clipboard Toggle word wrap
        참고

        첫 번째 노드-5 인스턴스는 머신을 나타내고, 두 번째 인스턴스는 노드를 나타냅니다.

검증

  1. 기존 제어 평면 노드 중 하나에서 실행하여 etcd 멤버를 확인합니다.

    1. 다음 명령을 입력하여 제어 평면 노드에 대한 원격 셸 세션을 엽니다. 

      $ oc rsh -n openshift-etcd etcd-node-0
      Copy to Clipboard Toggle word wrap

    2. etcd 멤버 나열: 

      # etcdctl member list -w table
      Copy to Clipboard Toggle word wrap

  2. 다음 명령을 입력하여 etcd Operator 구성 프로세스가 완료될 때까지 확인합니다. 예상 출력은 PROGRESSING 열 아래에 False를 표시합니다. 

    $ oc get clusteroperator etcd
    Copy to Clipboard Toggle word wrap

  3. 다음 명령을 실행하여 etcd 상태를 확인하세요.

    1. 제어 평면 노드에 대한 원격 셸 세션을 엽니다. 

      $ oc rsh -n openshift-etcd etcd-node-0
      Copy to Clipboard Toggle word wrap

    2. 엔드포인트 상태를 확인하세요. 예상 출력은 엔드포인트에 대해 건강한 것으로 나타납니다. 

      # etcdctl endpoint health
      Copy to Clipboard Toggle word wrap

  4. 다음 명령을 입력하여 모든 노드가 준비되었는지 확인하세요. 예상되는 출력은 각 노드 항목 옆에 준비 상태를 표시합니다. 

    $ oc get nodes
    Copy to Clipboard Toggle word wrap

  5. 다음 명령을 입력하여 클러스터 운영자가 모두 사용 가능한지 확인하세요. 예상 출력에는 각 연산자가 나열되고, 나열된 각 연산자 옆에 사용 가능한 상태가 True 로 표시됩니다. 

    $ oc get ClusterOperators
    Copy to Clipboard Toggle word wrap

  6. 다음 명령을 입력하여 클러스터 버전이 올바른지 확인하세요. 

    $ oc get ClusterVersion
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME      VERSION   AVAILABLE   PROGRESSING   SINCE   STATUS
version   OpenShift Container Platform.5    True        False         5h57m   Cluster version is OpenShift Container Platform.5
    Copy to Clipboard Toggle word wrap

11장. 클러스터 API를 사용하여 머신 관리
링크 복사

11.1. 클러스터 API에 대하여
링크 복사

중요

클러스터 API를 사용하여 머신을 관리하는 것은 기술 프리뷰 기능만 해당합니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

클러스터 API는 Amazon Web Services(AWS), Google Cloud Platform(GCP), Microsoft Azure, Red Hat OpenStack Platform(RHOSP), VMware vSphere 및 베어 메탈에 대한 기술 미리 보기로 OpenShift Container Platform에 통합된 업스트림 프로젝트입니다.

11.1.1. 클러스터 API 개요
링크 복사

클러스터 API를 사용하여 OpenShift Container Platform 클러스터에서 컴퓨팅 머신 세트와 컴퓨팅 머신을 만들고 관리할 수 있습니다. 이 기능은 Machine API를 사용하여 머신 관리하는 것에 대한 대안이나 추가 기능입니다.

OpenShift Container Platform 4.19 클러스터의 경우 클러스터 설치가 완료된 후 클러스터 API를 사용하여 노드 호스트 프로비저닝 관리 작업을 수행할 수 있습니다. 이 시스템을 사용하면 퍼블릭 또는 프라이빗 클라우드 인프라에 더하여 탄력적이고 동적인 프로비저닝 방법을 사용할 수 있습니다.

클러스터 API 기술 미리 보기를 사용하면 지원되는 공급자에 대해 OpenShift Container Platform 클러스터에서 컴퓨팅 머신과 컴퓨팅 머신 세트를 생성할 수 있습니다. 또한, Machine API에서는 제공되지 않는, 이 구현을 통해 구현된 기능을 살펴볼 수도 있습니다.

11.1.1.1. 클러스터 API의 이점
링크 복사

클러스터 API를 사용하면 OpenShift Container Platform 사용자와 개발자는 다음과 같은 이점을 얻을 수 있습니다.

  • Machine API에서 지원하지 않을 수 있는 업스트림 커뮤니티 클러스터 API 인프라 공급자를 사용하는 옵션입니다.
  • 인프라 공급업체를 위한 머신 컨트롤러를 유지 관리하는 제3자와 협업할 수 있는 기회입니다.
  • OpenShift Container Platform에서 인프라 관리를 위해 동일한 Kubernetes 도구 세트를 사용할 수 있는 기능입니다.
  • 클러스터 API를 사용하여 머신 API에서 제공되지 않는 기능을 지원하는 컴퓨팅 머신 세트를 생성하는 기능입니다.
11.1.1.2. 클러스터 API 제한 사항
링크 복사

클러스터 API를 사용하여 머신을 관리하는 것은 기술 미리 보기 기능이며 다음과 같은 제한 사항이 있습니다.

  • 이 기능을 사용하려면 TechPreviewNoUpgrade 기능 세트를 활성화해야 합니다.

    중요

    이 기능 세트를 활성화하면 실행 취소할 수 없으며 마이너 버전 업데이트가 허용되지 않습니다.

  • Amazon Web Services(AWS), Google Cloud Platform(GCP), Microsoft Azure, Red Hat OpenStack Platform(RHOSP), VMware vSphere 및 베어 메탈 클러스터만 클러스터 API를 사용할 수 있습니다.
  • 클러스터 API에 필요한 기본 리소스 중 일부는 수동으로 생성해야 합니다. 자세한 내용은 "클러스터 API 시작하기"를 참조하세요.
  • 클러스터 API를 사용하여 제어 평면 머신을 관리할 수 없습니다.
  • Machine API에서 생성된 기존 컴퓨팅 머신 세트를 Cluster API 컴퓨팅 머신 세트로 마이그레이션하는 것은 지원되지 않습니다.
  • Machine API와 모든 기능을 동일하게 사용할 수 없습니다.

  • 클러스터 API를 사용하는 클러스터의 경우 OpenShift CLI( oc ) 명령은 머신 API 개체보다 클러스터 API 개체를 우선시합니다. 이러한 동작은 클러스터 API와 머신 API 모두에 표현된 모든 객체에 적용되는 모든 oc 명령에 영향을 미칩니다.

    이 문제에 대한 자세한 내용과 해결 방법은 문제 해결 콘텐츠의 "CLI를 사용할 때 의도한 개체 참조"를 참조하세요.

11.1.2. 클러스터 API 아키텍처
링크 복사

업스트림 클러스터 API의 OpenShift 컨테이너 플랫폼 통합은 클러스터 CAPI 운영자에 의해 구현되고 관리됩니다. 클러스터 CAPI 연산자와 피연산자는 openshift-cluster-api 네임스페이스에 프로비저닝되는 반면, Machine API는 openshift-machine-api 네임스페이스를 사용합니다.

11.1.2.1. 클러스터 CAPI 연산자
링크 복사

클러스터 CAPI 운영자는 클러스터 API 리소스의 수명 주기를 유지 관리하는 OpenShift 컨테이너 플랫폼 운영자입니다. 이 운영자는 OpenShift Container Platform 클러스터 내에서 클러스터 API 프로젝트를 배포하는 것과 관련된 모든 관리 작업을 담당합니다.

클러스터가 클러스터 API를 사용할 수 있도록 올바르게 구성된 경우, 클러스터 CAPI 운영자는 클러스터에 클러스터 API 구성 요소를 설치합니다.

자세한 내용은 클러스터 운영자 참조 콘텐츠의 "클러스터 CAPI 운영자" 항목을 참조하세요.

11.1.2.2. 클러스터 API 기본 리소스
링크 복사

클러스터 API는 다음과 같은 기본 리소스로 구성됩니다. 이 기능의 기술 미리 보기의 경우 openshift-cluster-api 네임스페이스에서 이러한 리소스 중 일부를 수동으로 만들어야 합니다.

Cluster
클러스터 API에서 관리하는 클러스터를 나타내는 기본 단위입니다.
인프라 클러스터
지역 및 서브넷과 같이 클러스터의 모든 컴퓨팅 머신이 공유하는 속성을 정의하는 공급자별 리소스입니다.
기계 템플릿
컴퓨팅 머신 세트가 생성하는 머신의 속성을 정의하는 공급자별 템플릿입니다.
기계 세트

기계의 집합.

컴퓨팅 머신 세트는 머신에 대한 것이고 복제본 세트는 포드에 대한 것입니다. 머신을 추가하거나 축소하려면 컴퓨팅 요구 사항을 충족하도록 컴퓨팅 머신 세트 사용자 지정 리소스의 복제본 필드를 변경하세요.

클러스터 API를 사용하면 컴퓨팅 머신 세트가 클러스터 개체와 공급자별 머신 템플릿을 참조합니다.

머신

노드의 호스트를 설명하는 기본 단위입니다.

클러스터 API는 머신 템플릿의 구성을 기반으로 머신을 생성합니다.

11.2. 클러스터 API 시작하기
링크 복사

Machine API와 Cluster API는 유사한 리소스를 가진 별도의 API 그룹입니다. 이러한 API 그룹을 사용하면 OpenShift Container Platform 클러스터의 인프라 리소스 관리를 자동화할 수 있습니다.

중요

클러스터 API를 사용하여 머신을 관리하는 것은 기술 프리뷰 기능만 해당합니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

3개의 제어 평면 노드, 3개의 컴퓨팅 노드가 있고 기본 구성 옵션을 사용하는 표준 OpenShift Container Platform 클러스터를 설치하는 경우 설치 프로그램은 openshift-machine-api 네임스페이스에 다음 인프라 리소스를 프로비저닝합니다.

  • 3개의 컨트롤 플레인 머신을 관리하는 하나의 컨트롤 플레인 머신 세트입니다.
  • 3개의 컴퓨팅 머신을 관리하는 하나 이상의 컴퓨팅 머신 세트입니다.
  • 스팟 인스턴스를 관리하는 하나의 머신 상태 점검입니다.

클러스터 API를 사용하여 인프라 리소스를 관리할 수 있는 클러스터를 설치하면 설치 프로그램은 openshift-cluster-api 네임스페이스에 다음 리소스를 프로비저닝합니다.

  • 하나의 클러스터 리소스.
  • 하나의 공급자별 인프라 클러스터 리소스.

머신 API 리소스를 클러스터 API 리소스로 마이그레이션하는 기능을 지원하는 클러스터에서는 양방향 동기화 컨트롤러가 이러한 기본 리소스를 자동으로 생성합니다. 자세한 내용은 Machine API 리소스를 Cluster API 리소스로 마이그레이션을 참조하세요.

11.2.1. Cluster API 기본 리소스 생성
링크 복사

머신 API 리소스를 클러스터 API 리소스로 마이그레이션하는 것을 지원하지 않는 클러스터의 경우 openshift-cluster-api 네임스페이스에서 다음 클러스터 API 리소스를 수동으로 만들어야 합니다.

  • 컴퓨팅 머신 세트에 해당하는 하나 이상의 머신 템플릿입니다.
  • 3개의 컴퓨팅 머신을 관리하는 하나 이상의 컴퓨팅 머신 세트입니다.
11.2.1.1. 클러스터 API 머신 템플릿 생성
링크 복사

YAML 매니페스트 파일을 생성하고 OpenShift CLI(oc)로 적용하여 공급자별 머신 템플릿 리소스를 생성할 수 있습니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터를 배포했습니다.
  • 클러스터 API 사용을 활성화했습니다.
  • cluster-admin 권한이 있는 계정을 사용하여 ROSA 클러스터에 액세스할 수 있습니다.
  • OpenShift CLI(oc)가 설치되어 있습니다.

프로세스

  1. 다음과 유사한 YAML 파일을 생성합니다. 이 절차에서는 & lt;machine_template_resource_file>.yaml 을 예제 파일 이름으로 사용합니다. 

    apiVersion: infrastructure.cluster.x-k8s.io/v1beta1
kind: <machine_template_kind>
    1 
    
metadata:
  name: <template_name>
    2 
    
  namespace: openshift-cluster-api
spec:
  template:
    spec:
    3
    Copy to Clipboard Toggle word wrap
    1
    머신 템플릿 유형을 지정합니다. 이 값은 플랫폼의 값과 일치해야 합니다. 다음 값이 유효합니다.
    Expand
    클러스터 인프라 공급자현재의

    AWS(Amazon Web Services)

    AWSMachineTemplate

    GCP(Google Cloud Platform)

    GCPMachineTemplate

    Microsoft Azure

    AzureMachineTemplate

    Red Hat OpenStack Platform (RHOSP)

    OpenStackMachineTemplate

    VMware vSphere

    VSphereMachineTemplate

    베어 메탈

    Metal3MachineTemplate

    2
    머신 템플릿의 이름을 지정합니다.
    3
    환경에 대한 세부 정보를 지정합니다. 이러한 매개변수는 공급자별로 다릅니다. 자세한 내용은 공급자의 샘플 Cluster API 머신 템플릿 YAML을 참조하십시오.

  2. 다음 명령을 실행하여 머신 템플릿 CR을 생성합니다. 

    $ oc create -f <machine_template_resource_file>.yaml
    Copy to Clipboard Toggle word wrap

검증

  • 다음 명령을 실행하여 머신 템플릿 CR이 생성되었는지 확인합니다. 

    $ oc get <machine_template_kind> -n openshift-cluster-api
    Copy to Clipboard Toggle word wrap

    여기서 <machine_template_kind >는 플랫폼에 해당하는 값입니다.

    출력 예

    NAME              AGE
<template_name>   77m
    Copy to Clipboard Toggle word wrap

11.2.1.2. 클러스터 API 컴퓨팅 머신 세트 생성
링크 복사

Cluster API를 사용하여 선택한 특정 워크로드에 대한 머신 컴퓨팅 리소스를 동적으로 관리하는 컴퓨팅 머신 세트를 생성할 수 있습니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터를 배포했습니다.
  • 클러스터 API 사용을 활성화했습니다.
  • cluster-admin 권한이 있는 계정을 사용하여 ROSA 클러스터에 액세스할 수 있습니다.
  • OpenShift CLI(oc)가 설치되어 있습니다.
  • 머신 템플릿 리소스가 생성되어 있습니다.

프로세스

  1. 다음과 유사한 YAML 파일을 생성합니다. 이 절차에서는 & lt;machine_set_resource_file>.yaml 을 예제 파일 이름으로 사용합니다. 

    apiVersion: cluster.x-k8s.io/v1beta1
kind: MachineSet
metadata:
  name: <machine_set_name>
    1 
    
  namespace: openshift-cluster-api
spec:
  clusterName: <cluster_name>
    2 
    
  replicas: 1
  selector:
    matchLabels:
      test: example
  template:
    metadata:
      labels:
        test: example
    spec:
    3 
    
# ...
    Copy to Clipboard Toggle word wrap
    1
    컴퓨팅 머신 세트의 이름을 지정합니다. 클러스터 ID, 머신 역할 및 리전은 < cluster_name>-<role>-<region > 형식으로 이 값에 대한 일반적인 패턴을 형성합니다.
    2
    클러스터 이름을 지정합니다. 다음 명령을 실행하여 클러스터 ID의 값을 가져옵니다. 
    $  oc get infrastructure cluster \
   -o jsonpath='{.status.infrastructureName}'
    Copy to Clipboard Toggle word wrap
    3
    환경에 대한 세부 정보를 지정합니다. 이러한 매개변수는 공급자별로 다릅니다. 자세한 내용은 공급자의 샘플 Cluster API 컴퓨팅 머신 세트 YAML을 참조하십시오.

  2. 다음 명령을 실행하여 컴퓨팅 머신 세트 CR을 생성합니다. 

    $ oc create -f <machine_set_resource_file>.yaml
    Copy to Clipboard Toggle word wrap

  3. 다음 명령을 실행하여 컴퓨팅 머신 세트 CR이 생성되었는지 확인합니다. 

    $ oc get machineset.cluster.x-k8s.io -n openshift-cluster-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                 CLUSTER          REPLICAS   READY   AVAILABLE   AGE   VERSION
<machine_set_name>   <cluster_name>   1          1       1           17m
    Copy to Clipboard Toggle word wrap

    새 컴퓨팅 머신 세트가 사용 가능한 경우 REPLICAS 및 AVAILABLE 값이 일치합니다. 컴퓨팅 머신 세트를 사용할 수 없는 경우 몇 분 기다렸다가 명령을 다시 실행합니다.

검증

  • 컴퓨팅 머신 세트가 필수 구성에 따라 시스템을 생성하고 있는지 확인하려면 다음 명령을 실행하여 클러스터의 시스템 및 노드 목록을 검토합니다.

    • 클러스터 API 머신 목록을 확인합니다. 

      $ oc get machine.cluster.x-k8s.io -n openshift-cluster-api
      Copy to Clipboard Toggle word wrap

      출력 예

      NAME                             CLUSTER          NODENAME                                 PROVIDERID      PHASE     AGE     VERSION
<machine_set_name>-<string_id>   <cluster_name>   <ip_address>.<region>.compute.internal   <provider_id>   Running   8m23s
      Copy to Clipboard Toggle word wrap

    • 노드 목록을 확인합니다. 

      $ oc get node
      Copy to Clipboard Toggle word wrap

      출력 예

      NAME                                       STATUS   ROLES    AGE     VERSION
<ip_address_1>.<region>.compute.internal   Ready    worker   5h14m   v1.28.5
<ip_address_2>.<region>.compute.internal   Ready    master   5h19m   v1.28.5
<ip_address_3>.<region>.compute.internal   Ready    worker   7m      v1.28.5
      Copy to Clipboard Toggle word wrap

11.2.2. 머신 API 리소스를 클러스터 API 리소스로 마이그레이션
링크 복사

Machine API 리소스를 Cluster API 리소스로 마이그레이션하는 것을 지원하는 클러스터에서 양방향 동기화 컨트롤러는 openshift-cluster-api 네임스페이스에 다음 Cluster API 리소스를 생성합니다.

  • 컴퓨팅 머신 세트에 해당하는 하나 이상의 머신 템플릿입니다.
  • 3개의 컴퓨팅 머신을 관리하는 하나 이상의 컴퓨팅 머신 세트입니다.
  • 각 Machine API 컴퓨팅 머신에 해당하는 하나 이상의 Cluster API 컴퓨팅 머신입니다.
참고

양방향 동기화 컨트롤러는 TechPreviewNoUpgrade 기능 세트의 MachineAPIMigration 기능 게이트가 활성화된 클러스터에서만 작동합니다.

이러한 클러스터 API 리소스는 기본 구성 옵션을 사용하는 클러스터에 대한 openshift-machine-api 네임스페이스에서 설치 프로그램이 제공하는 리소스에 해당합니다. 클러스터 API 리소스는 머신 API 리소스와 동일한 이름을 가지며 리소스를 나열하는 oc get 등의 명령 출력에 나타납니다. 동기화 컨트롤러는 의도치 않은 조정을 방지하기 위해 클러스터 API 리소스를 프로비저닝되지 않은( 일시 중지 ) 상태로 만듭니다.

지원되는 구성의 경우, 어떤 API가 권위 있는 것으로 간주되는지를 변경하여 머신 API 리소스를 동등한 클러스터 API 리소스로 마이그레이션할 수 있습니다. 머신 API 리소스를 클러스터 API로 마이그레이션하면 리소스 관리도 클러스터 API로 이전됩니다.

클러스터 API를 사용하도록 머신 API 리소스를 마이그레이션하면 프로덕션 클러스터에서 클러스터 API를 사용하기로 결정하기 전에 모든 것이 예상대로 작동하는지 확인할 수 있습니다. 머신 API 리소스를 동등한 클러스터 API 리소스로 마이그레이션한 후에는 새 리소스를 검사하여 기능과 구성이 원래 머신 API 리소스와 일치하는지 확인할 수 있습니다.

컴퓨팅 머신 세트에 대한 권한 있는 API를 변경하면 해당 컴퓨팅 머신 세트가 관리하는 기존 컴퓨팅 머신은 원래 권한 있는 API를 그대로 유지합니다. 결과적으로, 서로 다른 권한 있는 API를 사용하는 머신을 관리하는 컴퓨팅 머신 세트는 이러한 API 유형 간 마이그레이션을 지원하는 클러스터에서 유효하고 예상되는 현상입니다.

컴퓨팅 머신의 권한 있는 API를 변경하는 경우 해당 머신을 지원하는 기본 인프라의 인스턴스는 다시 생성되거나 다시 프로비저닝되지 않습니다. 레이블, 태그, 오염 또는 주석을 수정하는 것과 같은 내부 변경 사항은 API 그룹이 머신을 지원하는 기본 인스턴스에 수행할 수 있는 유일한 변경 사항입니다.

참고

지원되는 인프라 유형에서만 일부 리소스를 마이그레이션할 수 있습니다.

Expand
표 11.1. 지원되는 리소스 변환
인프라컴퓨팅 머신컴퓨팅 머신 세트머신 상태 점검제어 평면 기계 세트Cluster autoscaler

AWS

기술 프리뷰

기술 프리뷰

사용할 수 없음

사용할 수 없음

사용할 수 없음

기타 모든 인프라 유형

사용할 수 없음

사용할 수 없음

사용할 수 없음

사용할 수 없음

사용할 수 없음

11.2.2.1. 컴퓨팅 머신의 권한 있는 API 유형
링크 복사

컴퓨팅 머신의 권한 있는 API는 이를 생성하는 Machine API 컴퓨팅 머신 세트의 .spec.authoritativeAPI 및 .spec.template.spec.authoritativeAPI 필드 값에 따라 달라집니다.

Expand
표 11.2. 컴퓨팅 머신을 생성할 때 권한 있는 API 필드의 상호 작용

.spec.authoritativeAPI value

ClusterAPI

ClusterAPI

MachineAPI

MachineAPI

.spec.template.spec.authoritativeAPI value

ClusterAPI

MachineAPI

MachineAPI

ClusterAPI

새로운 컴퓨팅 머신을 위한 authoritativeAPI 값

ClusterAPI

ClusterAPI

MachineAPI

ClusterAPI

참고

.spec.authoritativeAPI 값이 ClusterAPI 인 경우 Machine API 머신 세트는 권한이 없으며 .spec.template.spec.authoritativeAPI 값은 사용되지 않습니다. 결과적으로, Machine API를 권한 있는 것으로 사용하여 컴퓨팅 머신을 생성하는 유일한 조합은 .spec.authoritativeAPI 및 .spec.template.spec.authoritativeAPI 값이 MachineAPI 인 경우입니다.

11.2.2.2. 클러스터 API를 사용하도록 머신 API 리소스 마이그레이션
링크 복사

개별 머신 API 객체를 동등한 클러스터 API 객체로 마이그레이션할 수 있습니다.

중요

클러스터 API를 사용하도록 머신 API 리소스를 마이그레이션하는 것은 기술 미리 보기 기능에 불과합니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

사전 요구 사항

  • 지원되는 인프라 유형에 OpenShift Container Platform 클러스터를 배포했습니다.
  • 클러스터 API 사용을 활성화했습니다.
  • TechPreviewNoUpgrade 기능 세트에서 MachineAPIMigration 기능 게이트를 활성화했습니다.
  • 클러스터 관리자 권한이 있는 계정을 사용하여 클러스터에 액세스할 수 있습니다.
  • OpenShift CLI(oc)가 설치되어 있습니다.

프로세스

  1. 다음 명령을 실행하여 클러스터 API 리소스로 마이그레이션하려는 머신 API 리소스를 식별합니다. 

    $ oc get <resource_kind> -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    여기서 <resource_kind> 는 다음 값 중 하나입니다.

    machine.machine.openshift.io
    컴퓨팅 또는 제어 평면 머신의 리소스 종류의 정규화된 이름입니다.
    machineset.machine.openshift.io
    컴퓨팅 머신 세트의 리소스 종류의 정규화된 이름입니다.

  2. 다음 명령을 실행하여 리소스 사양을 편집합니다. 

    $ oc edit <resource_kind>/<resource_name> -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    다음과 같습니다.

    <resource_kind>
    machine.machine.openshift.io를 사용하여 컴퓨팅 머신을 지정하거나 machineset.machine.openshift.io 를 사용하여 컴퓨팅 머신 세트를 지정합니다.
    <resource_name>
    클러스터 API 리소스로 마이그레이션하려는 머신 API 리소스의 이름을 지정합니다.

  3. 리소스 사양에서 spec.authoritativeAPI 필드의 값을 업데이트합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: <resource_kind>
    1 
    
metadata:
  name: <resource_name>
    2 
    
  [...]
spec:
  authoritativeAPI: ClusterAPI
    3 
    
  [...]
status:
  authoritativeAPI: MachineAPI
    4 
    
  [...]
    Copy to Clipboard Toggle word wrap
    1
    리소스 종류는 리소스 종류에 따라 다릅니다. 예를 들어, 컴퓨팅 머신 세트의 리소스 종류는 MachineSet 이고 컴퓨팅 머신의 리소스 종류는 Machine 입니다.
    2
    마이그레이션하려는 리소스의 이름입니다.
    3
    이 리소스에 사용할 권한 있는 API를 지정하세요. 예를 들어, Machine API 리소스를 Cluster API로 마이그레이션하려면 ClusterAPI를 지정합니다.
    4
    현재 권한 있는 API의 값입니다. 이 값은 현재 어떤 API가 이 리소스를 관리하는지 나타냅니다. 이 사양의 이 부분에 있는 값은 변경하지 마세요.

검증

  • 다음 명령을 실행하여 변환 상태를 확인하세요. 

    $ oc -n openshift-machine-api get <resource_kind>/<resource_name> -o json | jq .status.authoritativeAPI
    Copy to Clipboard Toggle word wrap

    다음과 같습니다.

    <resource_kind>
    machine.machine.openshift.io를 사용하여 컴퓨팅 머신을 지정하거나 machineset.machine.openshift.io 를 사용하여 컴퓨팅 머신 세트를 지정합니다.
    <resource_name>
    클러스터 API 리소스로 마이그레이션하려는 머신 API 리소스의 이름을 지정합니다.
    • 변환이 진행되는 동안 이 명령은 Migrating 값을 반환합니다. 이 값이 오랫동안 지속되면 openshift-cluster-api 네임스페이스에서 cluster-capi-operator 배포에 대한 로그를 확인하여 자세한 정보를 얻고 잠재적인 문제를 파악하세요.
    • 변환이 완료되면 이 명령은 ClusterAPI 값을 반환합니다.

클러스터 API 컴퓨팅 머신을 배포하기 위해 머신 API 컴퓨팅 머신 세트를 구성할 수 있습니다. 이 프로세스를 사용하면 클러스터 API 컴퓨팅 머신 세트를 만들고 확장하지 않고도 클러스터 API 컴퓨팅 머신 생성 워크플로를 테스트할 수 있습니다.

이 구성을 사용하는 Machine API 컴퓨팅 머신 세트는 Cluster API를 권한 있는 것으로 사용하는 비권한 Machine API 컴퓨팅 머신을 생성합니다. 그런 다음 양방향 동기화 컨트롤러는 기본 인프라에서 프로비저닝하는 해당 권한 있는 클러스터 API 머신을 생성합니다.

중요

Machine API 컴퓨팅 머신 세트를 사용하여 클러스터 API 컴퓨팅 머신을 배포하는 것은 기술 미리 보기 기능에 불과합니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

사전 요구 사항

  • 지원되는 인프라 유형에 OpenShift Container Platform 클러스터를 배포했습니다.
  • 클러스터 API 사용을 활성화했습니다.
  • TechPreviewNoUpgrade 기능 세트에서 MachineAPIMigration 기능 게이트를 활성화했습니다.
  • 클러스터 관리자 권한이 있는 계정을 사용하여 클러스터에 액세스할 수 있습니다.
  • OpenShift CLI(oc)가 설치되어 있습니다.

프로세스

  1. 다음 명령을 실행하여 클러스터에 있는 Machine API 컴퓨팅 머신 세트를 나열하세요. 

    $ oc get machineset.machine.openshift.io -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

  2. 다음 명령을 실행하여 리소스 사양을 편집합니다. 

    $ oc edit machineset.machine.openshift.io <machine_set_name> \
  -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    여기서 <machine_set_name> 은 클러스터 API 컴퓨팅 머신을 배포하기 위해 구성하려는 머신 API 컴퓨팅 머신 세트의 이름입니다.

  3. 리소스 사양에서 spec.template.spec.authoritativeAPI 필드의 값을 업데이트합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: MachineSet
metadata:
  [...]
  name: <machine_set_name>
  [...]
spec:
  authoritativeAPI: MachineAPI
    1 
    
  [...]
  template:
    [...]
    spec:
      authoritativeAPI: ClusterAPI
    2 
    
status:
  authoritativeAPI: MachineAPI
    3 
    
  [...]
    Copy to Clipboard Toggle word wrap
    1
    Machine API 컴퓨팅 머신 세트의 변환되지 않은 값입니다. 이 사양의 이 부분에 있는 값은 변경하지 마세요.
    2
    ClusterAPI를 지정하여 Cluster API 컴퓨팅 머신을 배포하도록 컴퓨팅 머신 세트를 구성합니다.
    3
    Machine API 컴퓨팅 머신 세트의 현재 값입니다. 이 사양의 이 부분에 있는 값은 변경하지 마세요.

검증

  1. 다음 명령을 실행하여 업데이트된 컴퓨팅 머신 세트에서 관리하는 머신을 나열합니다. 

    $ oc get machines.machine.openshift.io \
  -n openshift-machine-api \
  -l machine.openshift.io/cluster-api-machineset=<machine_set_name>
    Copy to Clipboard Toggle word wrap

  2. 업데이트된 머신 세트에서 생성된 머신이 올바른 구성을 가지고 있는지 확인하려면 다음 명령을 실행하여 새 머신 중 하나에 대한 CR의 status.authoritativeAPI 필드를 조사하세요. 

    $ oc describe machines.machine.openshift.io <machine_name> \
  -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    클러스터 API 컴퓨팅 머신의 경우 필드 값은 ClusterAPI 입니다.

11.3. 클러스터 API를 사용하여 머신 관리
링크 복사

중요

클러스터 API를 사용하여 머신을 관리하는 것은 기술 프리뷰 기능만 해당합니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

11.3.1. 클러스터 API 머신 템플릿 수정
링크 복사

YAML 매니페스트 파일을 수정하고 OpenShift CLI( oc )를 사용하여 클러스터의 머신 템플릿 리소스를 업데이트할 수 있습니다.

사전 요구 사항

  • 클러스터 API를 사용하는 OpenShift Container Platform 클러스터를 배포했습니다.
  • 클러스터 관리자 권한이 있는 계정을 사용하여 클러스터에 액세스할 수 있습니다.
  • OpenShift CLI(oc)가 설치되어 있습니다.

프로세스

  1. 다음 명령을 실행하여 클러스터의 머신 템플릿 리소스를 나열하세요. 

    $ oc get <machine_template_kind>
    1
    Copy to Clipboard Toggle word wrap
    1
    귀하의 플랫폼에 해당하는 값을 지정하세요. 유효한 값은 다음과 같습니다.
    Expand
    클러스터 인프라 제공자현재의

    Amazon Web Services

    AWSMachineTemplate

    Google Cloud Platform

    GCPMachineTemplate

    Microsoft Azure

    AzureMachineTemplate

    RHOSP

    OpenStackMachineTemplate

    VMware vSphere

    VSphereMachineTemplate

    베어 메탈

    Metal3MachineTemplate

    출력 예

    NAME              AGE
<template_name>   77m
    Copy to Clipboard Toggle word wrap

  2. 다음 명령을 실행하여 편집할 수 있는 파일에 클러스터의 머신 템플릿 리소스를 작성합니다. 

    $ oc get <machine_template_kind> <template_name> -o yaml > <template_name>.yaml
    Copy to Clipboard Toggle word wrap

    여기서 <template_name> 은 클러스터의 머신 템플릿 리소스 이름입니다.

  3. 다른 이름으로 <template_name>.yaml 파일의 사본을 만듭니다. 이 절차에서는 <modified_template_name>.yaml을 예시 파일 이름으로 사용합니다.

  4. 텍스트 편집기를 사용하여 클러스터에 대한 업데이트된 머신 템플릿 리소스를 정의하는 <modified_template_name>.yaml 파일을 변경합니다. 머신 템플릿 리소스를 편집할 때 다음 사항을 준수하세요.

    • 사양 절의 매개변수는 공급자에 따라 다릅니다. 자세한 내용은 공급자의 샘플 클러스터 API 머신 템플릿 YAML을 참조하세요.

    • metadata.name 매개변수에는 기존 값과 다른 값을 사용해야 합니다.

      중요

      이 템플릿을 참조하는 모든 클러스터 API 컴퓨팅 머신 세트의 경우 spec.template.spec.infrastructureRef.name 매개변수를 업데이트하여 새 머신 템플릿 리소스의 metadata.name 값과 일치해야 합니다.

  5. 다음 명령을 실행하여 머신 템플릿 CR을 적용합니다. 

    $ oc apply -f <modified_template_name>.yaml
    1
    Copy to Clipboard Toggle word wrap
    1
    편집된 YAML 파일을 새 이름으로 사용합니다.

다음 단계

  • 이 템플릿을 참조하는 모든 클러스터 API 컴퓨팅 머신 세트의 경우 spec.template.spec.infrastructureRef.name 매개변수를 업데이트하여 새 머신 템플릿 리소스의 metadata.name 값과 일치시킵니다. 자세한 내용은 "CLI를 사용하여 컴퓨팅 머신 세트 수정"을 참조하세요.

11.3.2. CLI를 사용하여 컴퓨팅 머신 세트 수정
링크 복사

CLI를 사용하여 컴퓨팅 머신 세트의 구성을 수정한 다음 클러스터의 머신에 변경 사항을 전파할 수 있습니다.

컴퓨팅 머신 세트 구성을 업데이트하면 해당 세트에서 생성된 머신의 기능을 활성화하거나 속성을 변경할 수 있습니다. 컴퓨팅 머신 세트를 수정하는 경우, 변경 사항은 업데이트된 MachineSet 사용자 정의 리소스(CR)를 저장한 후에 생성된 컴퓨팅 머신에만 적용됩니다. 이러한 변경 사항은 기존 장비에는 영향을 미치지 않습니다.

참고

기본 클라우드 공급자에서 변경한 내용은 Machine 또는 MachineSet CR에 반영되지 않습니다. 클러스터 관리 인프라에서 인스턴스 구성을 조정하려면 클러스터 측 리소스를 사용합니다.

업데이트된 구성을 반영하는 새 머신으로 기존 머신을 교체하려면 컴퓨팅 머신 세트를 확장하여 복제본 수를 두 배로 늘린 다음 복제본 수를 원래 수로 줄입니다.

다른 변경 없이 컴퓨팅 머신 세트를 확장해야 하는 경우 머신을 삭제할 필요가 없습니다.

참고

기본적으로 OpenShift Container Platform 라우터 포드는 컴퓨팅 머신에 배포됩니다. 라우터는 웹 콘솔을 포함한 일부 클러스터 리소스에 액세스해야 하므로 라우터 포드를 먼저 재배치하지 않는 한 컴퓨팅 머신 세트를 0 으로 확장하지 마세요.

이 절차의 출력 예에서는 AWS 클러스터의 값을 사용합니다.

사전 요구 사항

  • OpenShift Container Platform 클러스터는 클러스터 API를 사용합니다.
  • OpenShift CLI( oc )를 사용하여 관리자로 클러스터에 로그인했습니다.

프로세스

  1. 다음 명령을 실행하여 클러스터에 있는 컴퓨팅 머신 세트를 나열하세요. 

    $ oc get machinesets.cluster.x-k8s.io -n openshift-cluster-api
    Copy to Clipboard Toggle word wrap

    출력 예

    NAME                          CLUSTER             REPLICAS   READY   AVAILABLE   AGE   VERSION
<compute_machine_set_name_1>  <cluster_name>      1          1       1           26m
<compute_machine_set_name_2>  <cluster_name>      1          1       1           26m
    Copy to Clipboard Toggle word wrap

  2. 다음 명령을 실행하여 컴퓨팅 머신 세트를 편집합니다. 

    $ oc edit machinesets.cluster.x-k8s.io <machine_set_name> \
  -n openshift-cluster-api
    Copy to Clipboard Toggle word wrap

  3. 변경 사항을 적용하기 위해 머신 세트를 확장할 때 필요하므로 spec.replicas 필드의 값을 기록해 두세요. 

    apiVersion: cluster.x-k8s.io/v1beta1
kind: MachineSet
metadata:
  name: <machine_set_name>
  namespace: openshift-cluster-api
spec:
  replicas: 2
    1 
    
# ...
    Copy to Clipboard Toggle word wrap
    1
    이 절차의 예에서는 복제본 값이 2 인 컴퓨팅 머신 세트를 보여줍니다.
  4. 원하는 구성 옵션으로 컴퓨팅 머신 세트 CR을 업데이트하고 변경 사항을 저장합니다.

  5. 다음 명령을 실행하여 업데이트된 컴퓨팅 머신 세트에서 관리하는 머신을 나열합니다. 

    $ oc get machines.cluster.x-k8s.io \
  -n openshift-cluster-api \
  -l cluster.x-k8s.io/set-name=<machine_set_name>
    Copy to Clipboard Toggle word wrap

    AWS 클러스터에 대한 출력 예

    NAME                        CLUSTER          NODENAME                                    PROVIDERID                              PHASE           AGE     VERSION
<machine_name_original_1>   <cluster_name>   <original_1_ip>.<region>.compute.internal   aws:///us-east-2a/i-04e7b2cbd61fd2075   Running         4h
<machine_name_original_2>   <cluster_name>   <original_2_ip>.<region>.compute.internal   aws:///us-east-2a/i-04e7b2cbd61fd2075   Running         4h
    Copy to Clipboard Toggle word wrap

  6. 업데이트된 컴퓨팅 머신 세트에서 관리하는 각 머신에 대해 다음 명령을 실행하여 삭제 주석을 설정합니다. 

    $ oc annotate machines.cluster.x-k8s.io/<machine_name_original_1> \
  -n openshift-cluster-api \
  cluster.x-k8s.io/delete-machine="true"
    Copy to Clipboard Toggle word wrap

  7. 새로운 구성으로 대체 머신을 생성하려면 다음 명령을 실행하여 컴퓨팅 머신 세트를 복제본 수의 두 배로 확장합니다. 

    $ oc scale --replicas=4 \
    1 
    
  machinesets.cluster.x-k8s.io <machine_set_name> \
  -n openshift-cluster-api
    Copy to Clipboard Toggle word wrap
    1
    원래 예제 값 2 는 4 로 두 배가 됩니다.

  8. 다음 명령을 실행하여 업데이트된 컴퓨팅 머신 세트에서 관리하는 머신을 나열합니다. 

    $ oc get machines.cluster.x-k8s.io \
  -n openshift-cluster-api \
  -l cluster.x-k8s.io/set-name=<machine_set_name>
    Copy to Clipboard Toggle word wrap

    AWS 클러스터에 대한 출력 예

    NAME                        CLUSTER          NODENAME                                    PROVIDERID                              PHASE           AGE     VERSION
<machine_name_original_1>   <cluster_name>   <original_1_ip>.<region>.compute.internal   aws:///us-east-2a/i-04e7b2cbd61fd2075   Running         4h
<machine_name_original_2>   <cluster_name>   <original_2_ip>.<region>.compute.internal   aws:///us-east-2a/i-04e7b2cbd61fd2075   Running         4h
<machine_name_updated_1>    <cluster_name>   <updated_1_ip>.<region>.compute.internal    aws:///us-east-2a/i-04e7b2cbd61fd2075   Provisioned     55s
<machine_name_updated_2>    <cluster_name>   <updated_2_ip>.<region>.compute.internal    aws:///us-east-2a/i-04e7b2cbd61fd2075   Provisioning    55s
    Copy to Clipboard Toggle word wrap

    새로운 머신이 실행 단계에 있을 때, 컴퓨팅 머신 세트를 원래 복제본 수로 확장할 수 있습니다.

  9. 이전 구성으로 생성된 머신을 제거하려면 다음 명령을 실행하여 컴퓨팅 머신 세트를 원래 복제본 수로 확장합니다. 

    $ oc scale --replicas=2 \
    1 
    
  machinesets.cluster.x-k8s.io <machine_set_name> \
  -n openshift-cluster-api
    Copy to Clipboard Toggle word wrap
    1
    원래 예제 값은 2 입니다.

검증

  • 업데이트된 머신 세트로 생성된 머신이 올바른 구성을 가지고 있는지 확인하려면 다음 명령을 실행하여 새 머신 중 하나에 대한 CR의 관련 필드를 조사하세요. 

    $ oc describe machines.cluster.x-k8s.io <machine_name_updated_1> \
  -n openshift-cluster-api
    Copy to Clipboard Toggle word wrap

  • 업데이트된 구성이 없는 컴퓨팅 머신이 삭제되었는지 확인하려면 다음 명령을 실행하여 업데이트된 컴퓨팅 머신 세트에서 관리되는 머신을 나열합니다. 

    $ oc get machines.cluster.x-k8s.io \
  -n openshift-cluster-api \
  cluster.x-k8s.io/set-name=<machine_set_name>
    Copy to Clipboard Toggle word wrap

    AWS 클러스터에 대한 삭제가 진행되는 동안의 예시 출력

    NAME                        CLUSTER          NODENAME                                    PROVIDERID                              PHASE      AGE     VERSION
<machine_name_original_1>   <cluster_name>   <original_1_ip>.<region>.compute.internal   aws:///us-east-2a/i-04e7b2cbd61fd2075   Running    18m
<machine_name_original_2>   <cluster_name>   <original_2_ip>.<region>.compute.internal   aws:///us-east-2a/i-04e7b2cbd61fd2075   Running    18m
<machine_name_updated_1>    <cluster_name>   <updated_1_ip>.<region>.compute.internal    aws:///us-east-2a/i-04e7b2cbd61fd2075   Running    18m
<machine_name_updated_2>    <cluster_name>   <updated_2_ip>.<region>.compute.internal    aws:///us-east-2a/i-04e7b2cbd61fd2075   Running    18m
    Copy to Clipboard Toggle word wrap

    AWS 클러스터에 대한 삭제가 완료되었을 때의 출력 예

    NAME                        CLUSTER          NODENAME                                    PROVIDERID                              PHASE      AGE     VERSION
<machine_name_updated_1>    <cluster_name>   <updated_1_ip>.<region>.compute.internal    aws:///us-east-2a/i-04e7b2cbd61fd2075   Running    18m
<machine_name_updated_2>    <cluster_name>   <updated_2_ip>.<region>.compute.internal    aws:///us-east-2a/i-04e7b2cbd61fd2075   Running    18m
    Copy to Clipboard Toggle word wrap

11.4. 클러스터 API 머신에 대한 구성 옵션
링크 복사

11.4.1. Amazon Web Services를 위한 클러스터 API 구성 옵션
링크 복사

클러스터 API 사용자 정의 리소스 매니페스트의 값을 업데이트하여 Amazon Web Services(AWS) 클러스터 API 머신의 구성을 변경할 수 있습니다.

중요

클러스터 API를 사용하여 머신을 관리하는 것은 기술 프리뷰 기능만 해당합니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

11.4.1.1. Amazon Web Services 클러스터 구성을 위한 샘플 YAML
링크 복사

다음 YAML 파일 예는 Amazon Web Services 클러스터에 대한 구성을 보여줍니다.

머신 템플릿 리소스는 공급자별로 다르며 컴퓨팅 머신 세트가 생성하는 머신의 기본 속성을 정의합니다. 컴퓨팅 머신 세트는 머신을 생성할 때 이 템플릿을 참조합니다. 

apiVersion: infrastructure.cluster.x-k8s.io/v1beta2
kind: AWSMachineTemplate
1 

metadata:
  name: <template_name>
2 

  namespace: openshift-cluster-api
spec:
  template:
    spec:
3 

      iamInstanceProfile: # ...
      instanceType: m5.large
      ignition:
        storageType: UnencryptedUserData
        version: "3.4"
      ami:
        id: # ...
      subnet:
        filters:
        - name: tag:Name
          values:
          - # ...
      additionalSecurityGroups:
      - filters:
        - name: tag:Name
          values:
          - # ...
Copy to Clipboard Toggle word wrap
1
머신 템플릿 종류를 지정합니다. 이 값은 플랫폼의 값과 일치해야 합니다.
2
머신 템플릿의 이름을 지정합니다.
3
귀하의 환경에 대한 세부 정보를 지정하세요. 여기에 나와 있는 값은 예시입니다.

컴퓨팅 머신 세트 리소스는 자신이 생성하는 머신의 추가 속성을 정의합니다. 컴퓨팅 머신 세트는 머신을 생성할 때 클러스터 리소스와 머신 템플릿도 참조합니다. 

apiVersion: cluster.x-k8s.io/v1beta1
kind: MachineSet
metadata:
  name: <machine_set_name>
1 

  namespace: openshift-cluster-api
  labels:
    cluster.x-k8s.io/cluster-name: <cluster_name>
2 

spec:
  clusterName: <cluster_name>
3 

  replicas: 1
  selector:
    matchLabels:
      test: example
      cluster.x-k8s.io/cluster-name: <cluster_name>
      cluster.x-k8s.io/set-name: <machine_set_name>
  template:
    metadata:
      labels:
        test: example
        cluster.x-k8s.io/cluster-name: <cluster_name>
        cluster.x-k8s.io/set-name: <machine_set_name>
        node-role.kubernetes.io/<role>: ""
    spec:
      bootstrap:
         dataSecretName: worker-user-data
      clusterName: <cluster_name>
      infrastructureRef:
        apiVersion: infrastructure.cluster.x-k8s.io/v1beta1
        kind: AWSMachineTemplate
4 

        name: <template_name>
5
Copy to Clipboard Toggle word wrap
1
컴퓨팅 머신 세트의 이름을 지정합니다. 클러스터 ID, 머신 역할 및 지역은 다음 형식으로 이 값에 대한 일반적인 패턴을 형성합니다: <cluster_name>-<role>-<region> .
2 3
클러스터 이름으로 클러스터 ID를 지정합니다.
4
머신 템플릿 종류를 지정합니다. 이 값은 플랫폼의 값과 일치해야 합니다.
5
머신 템플릿 이름을 지정합니다.
11.4.1.2. 클러스터 API를 사용하여 Amazon Web Services 기능 활성화
링크 복사

클러스터 API 사용자 정의 리소스 매니페스트에서 값을 업데이트하여 다음 기능을 활성화할 수 있습니다.

11.4.1.2.1. Elastic Fabric Adapter 인스턴스 및 배치 그룹 옵션
링크 복사

기존 AWS 배치 그룹 내의 Elastic Fabric Adapter (EFA) 인스턴스에 컴퓨팅 머신을 배포할 수 있습니다.

EFA 인스턴스에는 배치 그룹이 필요하지 않으며, EFA를 구성하는 것 외의 목적으로 배치 그룹을 사용할 수 있습니다. 다음 예에서는 EFA와 배치 그룹을 함께 사용하여 지정된 배치 그룹 내의 머신에 대한 네트워크 성능을 개선할 수 있는 구성을 보여줍니다.

구성에 따라 컴퓨팅 머신을 배포하려면 머신 템플릿 YAML 파일에서 적절한 값을 구성합니다. 그런 다음, 머신을 배포할 때 머신 템플릿을 참조하도록 머신 세트 YAML 파일을 구성합니다.

샘플 EFA 인스턴스 및 배치 그룹 구성

apiVersion: infrastructure.cluster.x-k8s.io/v1beta2
kind: AWSMachineTemplate
# ...
spec:
  template:
    spec:
      instanceType: <supported_instance_type>
1 

      networkInterfaceType: efa
2 

      placementGroupName: <placement_group>
3 

      placementGroupPartition: <placement_group_partition_number>
4 

# ...
Copy to Clipboard Toggle word wrap

1
EFA를 지원하는 인스턴스 유형을 지정합니다.
2
efa 네트워크 인터페이스 유형을 지정합니다.
3
머신을 배포할 기존 AWS 배치 그룹의 이름을 지정합니다.
4
선택 사항: 머신을 배포할 기존 AWS 배치 그룹의 파티션 번호를 지정합니다.
참고

생성한 배치 그룹 유형에 대한 규칙과 제한 사항이 의도한 사용 사례와 호환되는지 확인하세요.

11.4.1.2.2. Amazon EC2 인스턴스 메타데이터 서비스 구성 옵션
링크 복사

Amazon Web Services(AWS) 클러스터의 머신이 사용하는 Amazon EC2 Instance Metadata Service(IMDS) 버전을 제한할 수 있습니다. 머신은 IMDSv2 (AWS 문서) 사용을 요구할 수도 있고, IMDSv2와 함께 IMDSv1 사용을 허용할 수도 있습니다.

구성에 따라 컴퓨팅 머신을 배포하려면 머신 템플릿 YAML 파일에서 적절한 값을 구성합니다. 그런 다음, 머신을 배포할 때 머신 템플릿을 참조하도록 머신 세트 YAML 파일을 구성합니다.

중요

IMDSv2가 필요한 머신을 만들기 전에 IMDS와 상호 작용하는 모든 워크로드가 IMDSv2를 지원하는지 확인하세요.

샘플 IMDS 구성

apiVersion: infrastructure.cluster.x-k8s.io/v1beta2
kind: AWSMachineTemplate
# ...
spec:
  template:
    spec:
      instanceMetadataOptions:
        httpEndpoint: enabled
        httpPutResponseHopLimit: 1
1 

        httpTokens: optional
2 

        instanceMetadataTags: disabled
# ...
Copy to Clipboard Toggle word wrap

1
IMDSv2 호출에 허용되는 네트워크 홉 수를 지정합니다. 값을 지정하지 않으면 이 매개변수는 기본적으로 1 로 설정됩니다.
2
IMDSv2를 사용해야 하는지 여부를 지정합니다. 값을 지정하지 않으면 이 매개변수는 기본적으로 선택 사항 으로 설정됩니다. 유효한 값은 다음과 같습니다.
optional
IMDSv1과 IMDSv2를 모두 사용하도록 허용합니다.
필수 항목
IMDSv2가 필요합니다.
참고

Machine API는 httpEndpoint , httpPutResponseHopLimit 및 instanceMetadataTags 필드를 지원하지 않습니다. 이 기능을 사용하는 클러스터 API 머신 템플릿을 머신 API 컴퓨팅 머신 세트로 마이그레이션하는 경우, 해당 머신 API 머신에서 생성되는 모든 머신 API 머신에는 이러한 필드가 없으며 기본 인스턴스는 이러한 설정을 사용하지 않습니다. 마이그레이션된 머신 세트가 관리하는 기존 머신은 이러한 필드를 유지하고 기본 인스턴스는 이러한 설정을 계속 사용합니다.

IMDSv2를 사용해야 하면 시간 초과가 발생할 수 있습니다. 자세한 내용과 완화 전략은 인스턴스 메타데이터 액세스 고려 사항 (AWS 설명서)을 참조하세요.

11.4.1.2.3. 전용 인스턴스 구성 옵션
링크 복사

Amazon Web Services(AWS) 클러스터에서 전용 인스턴스로 지원되는 머신을 배포할 수 있습니다.

Dedicated 인스턴스는 단일 고객 전용 하드웨어의 VPC(가상 프라이빗 클라우드)에서 실행됩니다. 이러한 Amazon EC2 인스턴스는 호스트 하드웨어 수준에서 물리적으로 분리됩니다. Dedicated 인스턴스의 분리는 인스턴스가 하나의 유료 계정에 연결된 다른 AWS 계정에 속하는 경우에도 발생합니다. 하지만 전용이 아닌 다른 인스턴스는 동일한 AWS 계정에 속하는 경우 Dedicated 인스턴스와 하드웨어를 공유할 수 있습니다.

OpenShift Container Platform은 공용 또는 전용 테넌시 인스턴스를 지원합니다.

구성에 따라 컴퓨팅 머신을 배포하려면 머신 템플릿 YAML 파일에서 적절한 값을 구성합니다. 그런 다음, 머신을 배포할 때 머신 템플릿을 참조하도록 머신 세트 YAML 파일을 구성합니다.

전용 인스턴스 구성 샘플

apiVersion: infrastructure.cluster.x-k8s.io/v1beta2
kind: AWSMachineTemplate
# ...
spec:
  template:
    spec:
      tenancy: dedicated
1 

# ...
Copy to Clipboard Toggle word wrap

1
단일 테넌트 하드웨어에서 실행되는 전용 테넌시가 있는 인스턴스를 사용하도록 지정합니다. 이 값을 지정하지 않으면 기본적으로 공유 하드웨어에서 실행되는 공용 테넌시 인스턴스가 사용됩니다.
11.4.1.2.4. 보장되지 않는 스팟 인스턴스 및 시간당 비용 한도
링크 복사

Amazon Web Services(AWS)에서 보장되지 않는 스팟 인스턴스로 머신을 배포할 수 있습니다. 스팟 인스턴스는 여분의 AWS EC2 용량을 사용하며 온디맨드 인스턴스보다 비용이 저렴합니다. 일괄 처리 또는 상태 비저장, 수평적으로 확장 가능한 워크로드와 같이 인터럽트를 허용할 수 있는 워크로드에 Spot 인스턴스를 사용할 수 있습니다.

구성에 따라 컴퓨팅 머신을 배포하려면 머신 템플릿 YAML 파일에서 적절한 값을 구성합니다. 그런 다음, 머신을 배포할 때 머신 템플릿을 참조하도록 머신 세트 YAML 파일을 구성합니다.

중요

AWS EC2는 언제든지 스팟 인스턴스의 용량을 회수할 수 있습니다.

샘플 스팟 인스턴스 구성

apiVersion: infrastructure.cluster.x-k8s.io/v1beta2
kind: AWSMachineTemplate
# ...
spec:
  template:
    spec:
      spotMarketOptions:
1 

        maxPrice: <price_per_hour>
2 

# ...
Copy to Clipboard Toggle word wrap

1
스팟 인스턴스의 사용을 지정합니다.
2
선택 사항: Spot Instance에 대한 시간당 비용 한도를 미국 달러로 지정합니다. 예를 들어, <price_per_hour> 값을 2.50 으로 설정하면 Spot 인스턴스 비용이 시간당 2.50달러로 제한됩니다. 이 값이 설정되지 않으면 최대 가격은 온디맨드 인스턴스 가격까지 청구됩니다.
주의

특정 maxPrice: <price_per_hour> 값을 설정하면 기본 온디맨드 인스턴스 가격을 사용하는 경우와 비교했을 때 중단 빈도가 증가할 수 있습니다. 기본 온디맨드 인스턴스 가격을 사용하고 스팟 인스턴스의 최대 가격은 설정하지 않는 것이 좋습니다.

다음과 같은 이유로 Spot 인스턴스를 사용할 때 중단될 수 있습니다.

  • 인스턴스 가격이 최대 가격을 초과합니다.
  • Spot 인스턴스에 대한 수요가 증가합니다.
  • Spot 인스턴스의 공급이 감소합니다.

AWS는 중단이 발생하면 사용자에게 2 분 동안 경고 메세지를 보냅니다. OpenShift Container Platform은 AWS가 종료에 대한 경고를 발행할 때 영향을 받는 인스턴스에서 워크로드를 제거하기 시작합니다.

AWS가 인스턴스를 종료하면 Spot 인스턴스 노드에서 실행중인 종료 프로세스가 머신 리소스를 삭제합니다. 컴퓨팅 머신 세트 복제본 수량을 충족하기 위해 컴퓨팅 머신 세트는 Spot 인스턴스를 요청하는 머신을 생성합니다.

11.4.1.2.5. 용량 예약 구성 옵션
링크 복사

OpenShift Container Platform 버전 4.19 이상에서는 ML을 위한 온디맨드 용량 예약 및 용량 블록을 포함하여 Amazon Web Services 클러스터의 용량 예약을 지원합니다.

정의한 용량 요청의 매개변수와 일치하는 사용 가능한 리소스에 머신을 배포할 수 있습니다. 이러한 매개변수는 예약하려는 인스턴스 유형, 지역 및 인스턴스 수를 지정합니다. 용량 예약이 용량 요청을 수용할 수 있는 경우 배포가 성공합니다.

구성에 따라 컴퓨팅 머신을 배포하려면 머신 템플릿 YAML 파일에서 적절한 값을 구성합니다. 그런 다음, 머신을 배포할 때 머신 템플릿을 참조하도록 머신 세트 YAML 파일을 구성합니다.

샘플 용량 예약 구성

apiVersion: infrastructure.cluster.x-k8s.io/v1beta2
kind: AWSMachineTemplate
# ...
spec:
  template:
    spec:
      capacityReservationId: <capacity_reservation>
1 

      marketType: <market_type>
2 

# ...
Copy to Clipboard Toggle word wrap

1
머신을 배포하려는 ML 또는 주문형 용량 예약에 대한 용량 블록의 ID를 지정합니다.
2
사용할 시장 유형을 지정하세요. 다음 값이 유효합니다.
CapacityBlock
ML을 위한 용량 블록과 함께 이 시장 유형을 사용하세요.
OnDemand
이 마켓 유형을 주문형 용량 예약과 함께 사용하세요.
점
이 시장 유형을 스팟 인스턴스와 함께 사용하세요. 이 옵션은 용량 예약과 호환되지 않습니다.

이 서비스에 대한 제한 사항 및 제안된 사용 사례를 포함한 자세한 내용은 AWS 설명서의 온디맨드 용량 예약 및 ML용 용량 블록을 참조하세요.

11.4.1.2.6. GPU 지원 머신 옵션
링크 복사

Amazon Web Services(AWS)에 GPU 지원 컴퓨팅 머신을 배포할 수 있습니다. 다음 샘플 구성에서는 예시로 NVIDIA Tesla T4 Tensor Core GPU를 포함하는 AWS G4dn 인스턴스 유형을 사용합니다.

지원되는 인스턴스 유형에 대한 자세한 내용은 NVIDIA 설명서의 다음 페이지를 참조하세요.

구성에 따라 컴퓨팅 머신을 배포하려면 머신 템플릿 YAML 파일과 머신을 배포할 때 머신 템플릿을 참조하는 머신 세트 YAML 파일에 적절한 값을 구성합니다.

GPU 지원 머신 템플릿 구성 샘플

apiVersion: infrastructure.cluster.x-k8s.io/v1beta2
kind: AWSMachineTemplate
# ...
spec:
  template:
    spec:
      instanceType: g4dn.xlarge
1 

# ...
Copy to Clipboard Toggle word wrap

1
G4dn 인스턴스 유형을 지정합니다.

GPU 지원 머신 세트 구성 샘플

apiVersion: cluster.x-k8s.io/v1beta1
kind: MachineSet
metadata:
  name: <cluster_name>-gpu-<region>
1 

  namespace: openshift-cluster-api
  labels:
    cluster.x-k8s.io/cluster-name: <cluster_name>
spec:
  clusterName: <cluster_name>
  replicas: 1
  selector:
    matchLabels:
      test: example
      cluster.x-k8s.io/cluster-name: <cluster_name>
      cluster.x-k8s.io/set-name: <cluster_name>-gpu-<region>
2 

  template:
    metadata:
      labels:
        test: example
        cluster.x-k8s.io/cluster-name: <cluster_name>
        cluster.x-k8s.io/set-name: <cluster_name>-gpu-<region>
3 

        node-role.kubernetes.io/<role>: ""
# ...
Copy to Clipboard Toggle word wrap

1
gpu 역할을 포함하는 이름을 지정합니다. 이름에는 접두사로 클러스터 ID가 포함되고 접미사로 지역이 포함됩니다.
2
머신 세트 이름과 일치하는 선택기 레이블을 지정합니다.
3
머신 세트 이름과 일치하는 템플릿 레이블을 지정합니다.

11.4.2. Google Cloud Platform을 위한 클러스터 API 구성 옵션
링크 복사

클러스터 API 사용자 정의 리소스 매니페스트의 값을 업데이트하여 Google Cloud Platform(GCP) 클러스터 API 머신의 구성을 변경할 수 있습니다.

중요

클러스터 API를 사용하여 머신을 관리하는 것은 기술 프리뷰 기능만 해당합니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

11.4.2.1. Google Cloud Platform 클러스터 구성을 위한 샘플 YAML
링크 복사

다음 YAML 파일 예는 Google Cloud Platform 클러스터의 구성을 보여줍니다.

머신 템플릿 리소스는 공급자별로 다르며 컴퓨팅 머신 세트가 생성하는 머신의 기본 속성을 정의합니다. 컴퓨팅 머신 세트는 머신을 생성할 때 이 템플릿을 참조합니다. 

apiVersion: infrastructure.cluster.x-k8s.io/v1beta1
kind: GCPMachineTemplate
1 

metadata:
  name: <template_name>
2 

  namespace: openshift-cluster-api
spec:
  template:
    spec:
3 

      rootDeviceType: pd-ssd
      rootDeviceSize: 128
      instanceType: n1-standard-4
      image: projects/rhcos-cloud/global/images/rhcos-411-85-202203181601-0-gcp-x86-64
      subnet: <cluster_name>-worker-subnet
      serviceAccounts:
        email: <service_account_email_address>
        scopes:
          - https://www.googleapis.com/auth/cloud-platform
      additionalLabels:
        kubernetes-io-cluster-<cluster_name>: owned
      additionalNetworkTags:
        - <cluster_name>-worker
      ipForwarding: Disabled
Copy to Clipboard Toggle word wrap
1
머신 템플릿 유형을 지정합니다. 이 값은 플랫폼의 값과 일치해야 합니다.
2
머신 템플릿의 이름을 지정합니다.
3
환경에 대한 세부 정보를 지정합니다. 여기에 있는 값은 예입니다.

컴퓨팅 머신 세트 리소스는 자신이 생성하는 머신의 추가 속성을 정의합니다. 컴퓨팅 머신 세트는 머신을 생성할 때 클러스터 리소스와 머신 템플릿도 참조합니다. 

apiVersion: cluster.x-k8s.io/v1beta1
kind: MachineSet
metadata:
  name: <machine_set_name>
1 

  namespace: openshift-cluster-api
  labels:
    cluster.x-k8s.io/cluster-name: <cluster_name>
2 

spec:
  clusterName: <cluster_name>
3 

  replicas: 1
  selector:
    matchLabels:
      test: example
      cluster.x-k8s.io/cluster-name: <cluster_name>
      cluster.x-k8s.io/set-name: <machine_set_name>
  template:
    metadata:
      labels:
        test: example
        cluster.x-k8s.io/cluster-name: <cluster_name>
        cluster.x-k8s.io/set-name: <machine_set_name>
        node-role.kubernetes.io/<role>: ""
    spec:
      bootstrap:
         dataSecretName: worker-user-data
      clusterName: <cluster_name>
      infrastructureRef:
        apiVersion: infrastructure.cluster.x-k8s.io/v1beta1
        kind: GCPMachineTemplate
4 

        name: <template_name>
5 

      failureDomain: <failure_domain>
6
Copy to Clipboard Toggle word wrap
1
컴퓨팅 머신 세트의 이름을 지정합니다. 클러스터 ID, 머신 역할 및 지역은 다음 형식으로 이 값에 대한 일반적인 패턴을 형성합니다: <cluster_name>-<role>-<region> .
2 3
클러스터 ID를 클러스터 이름으로 지정합니다.
4
머신 템플릿 유형을 지정합니다. 이 값은 플랫폼의 값과 일치해야 합니다.
5
머신 템플릿 이름을 지정합니다.
6
GCP 지역 내의 실패 도메인을 지정합니다.

11.4.3. Microsoft Azure의 클러스터 API 구성 옵션
링크 복사

클러스터 API 사용자 지정 리소스 매니페스트의 값을 업데이트하여 Microsoft Azure 클러스터 API 머신의 구성을 변경할 수 있습니다.

중요

클러스터 API를 사용하여 머신을 관리하는 것은 기술 프리뷰 기능만 해당합니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

11.4.3.1. Microsoft Azure 클러스터 구성을 위한 샘플 YAML
링크 복사

다음 예제 YAML 파일은 Azure 클러스터에 대한 구성을 보여줍니다.

머신 템플릿 리소스는 공급자별로 다르며 컴퓨팅 머신 세트가 생성하는 머신의 기본 속성을 정의합니다. 컴퓨팅 머신 세트는 머신을 생성할 때 이 템플릿을 참조합니다. 

apiVersion: infrastructure.cluster.x-k8s.io/v1beta1
kind: AzureMachineTemplate
1 

metadata:
  name: <template_name>
2 

  namespace: openshift-cluster-api
spec:
  template:
    spec:
3 

      disableExtensionOperations: true
      identity: UserAssigned
      image:
        id: /subscriptions/<subscription_id>/resourceGroups/<cluster_name>-rg/providers/Microsoft.Compute/galleries/gallery_<compliant_cluster_name>/images/<cluster_name>-gen2/versions/latest
4 

      networkInterfaces:
        - acceleratedNetworking: true
          privateIPConfigs: 1
          subnetName: <cluster_name>-worker-subnet
      osDisk:
        diskSizeGB: 128
        managedDisk:
          storageAccountType: Premium_LRS
        osType: Linux
      sshPublicKey: <ssh_key_value>
      userAssignedIdentities:
        - providerID: 'azure:///subscriptions/<subscription_id>/resourcegroups/<cluster_name>-rg/providers/Microsoft.ManagedIdentity/userAssignedIdentities/<cluster_name>-identity'
      vmSize: Standard_D4s_v3
Copy to Clipboard Toggle word wrap
1
머신 템플릿 유형을 지정합니다. 이 값은 플랫폼의 값과 일치해야 합니다.
2
머신 템플릿의 이름을 지정합니다.
3
환경에 대한 세부 정보를 지정합니다. 여기에 있는 값은 예입니다.
4
인스턴스 유형과 호환되는 이미지를 지정하세요. 설치 프로그램에서 생성된 Hyper-V 세대 V2 이미지에는 -gen2 접미사가 붙는 반면, V1 이미지는 접미사 없이 동일한 이름을 갖습니다.
참고

기본 OpenShift Container Platform 클러스터 이름에는 Azure 갤러리 이름 요구 사항과 호환되지 않는 하이픈( - )이 포함되어 있습니다. 이러한 요구 사항을 준수하기 위해 이 구성에서 <compliant_cluster_name> 의 값은 하이픈 대신 밑줄( _ )을 사용해야 합니다. <cluster_name> 의 다른 인스턴스는 변경되지 않습니다.

예를 들어, jdoe-test-2m2np 라는 클러스터 이름은 jdoe_test_2m2np 로 변환됩니다. 이 예에서 gallery_<compliant_cluster_name> 의 전체 문자열은 gallery_jdoe_test_2m2np 이고 gallery_jdoe-test-2m2np 가 아닙니다. 이 예제 값에 대한 spec.template.spec.image.id 의 전체 값은 /subscriptions/<subscription_id>/resourceGroups/jdoe-test-2m2np-rg/providers/Microsoft.Compute/galleries/gallery_jdoe_test_2m2np/images/jdoe-test-2m2np-gen2/versions/latest 입니다.

컴퓨팅 머신 세트 리소스는 자신이 생성하는 머신의 추가 속성을 정의합니다. 컴퓨팅 머신 세트는 머신을 생성할 때 클러스터 리소스와 머신 템플릿도 참조합니다. 

apiVersion: cluster.x-k8s.io/v1beta1
kind: MachineSet
metadata:
  name: <machine_set_name>
1 

  namespace: openshift-cluster-api
  labels:
    cluster.x-k8s.io/cluster-name: <cluster_name>
2 

spec:
  clusterName: <cluster_name>
  replicas: 1
  selector:
    matchLabels:
      test: example
      cluster.x-k8s.io/cluster-name: <cluster_name>
      cluster.x-k8s.io/set-name: <machine_set_name>
  template:
    metadata:
      labels:
        test: example
        cluster.x-k8s.io/cluster-name: <cluster_name>
        cluster.x-k8s.io/set-name: <machine_set_name>
        node-role.kubernetes.io/<role>: ""
    spec:
      bootstrap:
         dataSecretName: worker-user-data
      clusterName: <cluster_name>
      infrastructureRef:
        apiVersion: infrastructure.cluster.x-k8s.io/v1beta1
        kind: AzureMachineTemplate
3 

        name: <template_name>
4
Copy to Clipboard Toggle word wrap
1
컴퓨팅 머신 세트의 이름을 지정합니다. 클러스터 ID, 머신 역할 및 리전은 < cluster_name>-<role>-<region > 형식으로 이 값에 대한 일반적인 패턴을 형성합니다.
2
클러스터 ID를 클러스터 이름으로 지정합니다.
3
머신 템플릿 유형을 지정합니다. 이 값은 플랫폼의 값과 일치해야 합니다.
4
머신 템플릿 이름을 지정합니다.

11.4.4. Red Hat OpenStack Platform을 위한 클러스터 API 구성 옵션
링크 복사

Cluster API 사용자 정의 리소스 매니페스트에서 값을 업데이트하여 RHOSP(Red Hat OpenStack Platform) 클러스터 API 머신의 구성을 변경할 수 있습니다.

중요

클러스터 API를 사용하여 머신을 관리하는 것은 기술 프리뷰 기능만 해당합니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

11.4.4.1. RHOSP 클러스터 구성을 위한 샘플 YAML
링크 복사

다음 예제 YAML 파일은 RHOSP 클러스터에 대한 구성을 보여줍니다.

11.4.4.1.1. RHOSP에서 클러스터 API 머신 템플릿 리소스의 샘플 YAML
링크 복사

머신 템플릿 리소스는 공급자마다 다르며 컴퓨팅 머신 세트에서 생성하는 시스템의 기본 속성을 정의합니다. 머신을 생성할 때 컴퓨팅 머신 세트는 이 템플릿을 참조합니다. 

apiVersion: infrastructure.cluster.x-k8s.io/v1beta1
kind: OpenStackMachineTemplate
1 

metadata:
  name: <template_name>
2 

  namespace: openshift-cluster-api
spec:
  template:
    spec:
3 

      flavor: <openstack_node_machine_flavor>
4 

      image:
        filter:
          name: <openstack_image>
5
Copy to Clipboard Toggle word wrap
1
머신 템플릿 유형을 지정합니다. 이 값은 플랫폼의 값과 일치해야 합니다.
2
머신 템플릿의 이름을 지정합니다.
3
환경에 대한 세부 정보를 지정합니다. 여기에 있는 값은 예입니다.
4
사용할 RHOSP 플레이버를 지정합니다. 자세한 내용은 인스턴스 시작을 위한 플레이버 생성 을 참조하십시오.
5
사용할 이미지를 지정합니다.
11.4.4.1.2. RHOSP에서 Cluster API 컴퓨팅 머신 세트 리소스의 샘플 YAML
링크 복사

컴퓨팅 머신 세트 리소스는 생성하는 시스템의 추가 속성을 정의합니다. 컴퓨팅 머신 세트는 머신을 생성할 때 인프라 리소스 및 머신 템플릿도 참조합니다. 

apiVersion: cluster.x-k8s.io/v1beta1
kind: MachineSet
metadata:
  name: <machine_set_name>
1 

  namespace: openshift-cluster-api
spec:
  clusterName: <cluster_name>
2 

  replicas: 1
  selector:
    matchLabels:
      test: example
      cluster.x-k8s.io/cluster-name: <cluster_name>
      cluster.x-k8s.io/set-name: <machine_set_name>
  template:
    metadata:
      labels:
        test: example
        cluster.x-k8s.io/cluster-name: <cluster_name>
        cluster.x-k8s.io/set-name: <machine_set_name>
        node-role.kubernetes.io/<role>: ""
    spec:
      bootstrap:
         dataSecretName: worker-user-data
3 

      clusterName: <cluster_name>
      infrastructureRef:
        apiVersion: infrastructure.cluster.x-k8s.io/v1beta1
        kind: OpenStackMachineTemplate
4 

        name: <template_name>
5 

      failureDomain: <nova_availability_zone>
6
Copy to Clipboard Toggle word wrap
1
컴퓨팅 머신 세트의 이름을 지정합니다.
2
클러스터 ID를 클러스터 이름으로 지정합니다.
3
Cluster API 기술 프리뷰의 경우 Operator는 openshift-machine-api 네임스페이스의 작업자 사용자 데이터 시크릿을 사용할 수 있습니다.
4
머신 템플릿 유형을 지정합니다. 이 값은 플랫폼의 값과 일치해야 합니다.
5
머신 템플릿 이름을 지정합니다.
6
선택 사항: 시스템을 생성할 시스템 세트의 Nova 가용성 영역의 이름을 지정합니다. 값을 지정하지 않으면 시스템은 특정 가용성 영역으로 제한되지 않습니다.

11.4.5. VMware vSphere의 클러스터 API 구성 옵션
링크 복사

Cluster API 사용자 정의 리소스 매니페스트에서 값을 업데이트하여 VMware vSphere Cluster API 머신의 구성을 변경할 수 있습니다.

중요

클러스터 API를 사용하여 머신을 관리하는 것은 기술 프리뷰 기능만 해당합니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

11.4.5.1. VMware vSphere 클러스터 구성을 위한 샘플 YAML
링크 복사

다음 예제 YAML 파일은 VMware vSphere 클러스터에 대한 구성을 보여줍니다.

11.4.5.1.1. VMware vSphere에서 클러스터 API 머신 템플릿 리소스의 샘플 YAML
링크 복사

머신 템플릿 리소스는 공급자마다 다르며 컴퓨팅 머신 세트에서 생성하는 시스템의 기본 속성을 정의합니다. 머신을 생성할 때 컴퓨팅 머신 세트는 이 템플릿을 참조합니다. 

apiVersion: infrastructure.cluster.x-k8s.io/v1beta1
kind: VSphereMachineTemplate
1 

metadata:
  name: <template_name>
2 

  namespace: openshift-cluster-api
spec:
  template:
    spec:
3 

      template: <vm_template_name>
4 

      server: <vcenter_server_ip>
5 

      diskGiB: 128
      cloneMode: linkedClone
6 

      datacenter: <vcenter_data_center_name>
7 

      datastore: <vcenter_datastore_name>
8 

      folder: <vcenter_vm_folder_path>
9 

      resourcePool: <vsphere_resource_pool>
10 

      numCPUs: 4
      memoryMiB: 16384
      network:
        devices:
        - dhcp4: true
          networkName: "<vm_network_name>"
11
Copy to Clipboard Toggle word wrap
1
머신 템플릿 유형을 지정합니다. 이 값은 플랫폼의 값과 일치해야 합니다.
2
머신 템플릿의 이름을 지정합니다.
3
환경에 대한 세부 정보를 지정합니다. 여기에 있는 값은 예입니다.
4
사용할 vSphere VM 템플릿 (예: user-5ddjd-rhcos)을 지정합니다.
5
vCenter 서버 IP 또는 정규화된 도메인 이름을 지정합니다.
6
사용할 VM 복제 유형을 지정합니다. 다음 값이 유효합니다.
  • fullClone
  • linkedClone

linkedClone 유형을 사용하는 경우 디스크 크기는 diskGiB 값을 사용하는 대신 복제 소스와 일치합니다. 자세한 내용은 VM 복제 유형에 대한 vSphere 설명서를 참조하십시오.

7
컴퓨팅 머신 세트를 배포할 vCenter 데이터 센터를 지정합니다.
8
컴퓨팅 머신 세트를 배포할 vCenter 데이터 저장소를 지정합니다.
9
vCenter의 vSphere VM 폴더에 경로(예: /dc1/vm/user-inst-5ddjd)를 지정합니다.
10
VM의 vSphere 리소스 풀을 지정합니다.
11
컴퓨팅 머신 세트를 배포할 vSphere VM 네트워크를 지정합니다. 이 VM 네트워크는 클러스터에 다른 Linux 컴퓨팅 시스템이 상주하는 위치여야 합니다.

컴퓨팅 머신 세트 리소스는 생성하는 시스템의 추가 속성을 정의합니다. 컴퓨팅 머신 세트는 머신을 생성할 때 클러스터 리소스 및 머신 템플릿도 참조합니다. 

apiVersion: cluster.x-k8s.io/v1beta1
kind: MachineSet
metadata:
  name: <machine_set_name>
1 

  namespace: openshift-cluster-api
  labels:
    cluster.x-k8s.io/cluster-name: <cluster_name>
2 

spec:
  clusterName: <cluster_name>
3 

  replicas: 1
  selector:
    matchLabels:
      test: example
      cluster.x-k8s.io/cluster-name: <cluster_name>
      cluster.x-k8s.io/set-name: <machine_set_name>
  template:
    metadata:
      labels:
        test: example
        cluster.x-k8s.io/cluster-name: <cluster_name>
        cluster.x-k8s.io/set-name: <machine_set_name>
        node-role.kubernetes.io/<role>: ""
    spec:
      bootstrap:
         dataSecretName: worker-user-data
      clusterName: <cluster_name>
      infrastructureRef:
        apiVersion: infrastructure.cluster.x-k8s.io/v1beta1
        kind: VSphereMachineTemplate
4 

        name: <template_name>
5 

      failureDomain:
6 

        - name: <failure_domain_name>
          region: <region_a>
          zone: <zone_a>
          server: <vcenter_server_name>
          topology:
            datacenter: <region_a_data_center>
            computeCluster: "</region_a_data_center/host/zone_a_cluster>"
            resourcePool: "</region_a_data_center/host/zone_a_cluster/Resources/resource_pool>"
            datastore: "</region_a_data_center/datastore/datastore_a>"
            networks:
            - port-group
Copy to Clipboard Toggle word wrap
1
컴퓨팅 머신 세트의 이름을 지정합니다. 클러스터 ID, 머신 역할 및 리전은 < cluster_name>-<role>-<region > 형식으로 이 값에 대한 일반적인 패턴을 형성합니다.
2 3
클러스터 ID를 클러스터 이름으로 지정합니다.
4
머신 템플릿 유형을 지정합니다. 이 값은 플랫폼의 값과 일치해야 합니다.
5
머신 템플릿 이름을 지정합니다.
6
실패 도메인 구성 세부 정보를 지정합니다.
참고

클러스터 API를 사용하는 vSphere 클러스터에서 여러 리전 및 영역을 사용하는 것은 검증된 구성이 아닙니다.

11.4.6. 베어 메탈의 클러스터 API 구성 옵션
링크 복사

Cluster API 사용자 정의 리소스 매니페스트에서 값을 업데이트하여 베어 메탈 클러스터 API 머신의 구성을 변경할 수 있습니다.

중요

클러스터 API를 사용하여 머신을 관리하는 것은 기술 프리뷰 기능만 해당합니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

11.4.6.1. 베어 메탈 클러스터 구성을 위한 샘플 YAML
링크 복사

다음 예제 YAML 파일은 베어 메탈 클러스터에 대한 구성을 보여줍니다.

11.4.6.1.1. 베어 메탈의 Cluster API 머신 템플릿 리소스의 샘플 YAML
링크 복사

머신 템플릿 리소스는 공급자마다 다르며 컴퓨팅 머신 세트에서 생성하는 시스템의 기본 속성을 정의합니다. 머신을 생성할 때 컴퓨팅 머신 세트는 이 템플릿을 참조합니다. 

apiVersion: infrastructure.cluster.x-k8s.io/v1beta1
kind: Metal3MachineTemplate
1 

metadata:
  name: <template_name>
2 

  namespace: openshift-cluster-api
spec:
  template:
    spec:
3 

      customDeploy: install_coreos
      userData:
        name: worker-user-data-managed
4
Copy to Clipboard Toggle word wrap
1
머신 템플릿 유형을 지정합니다. 이 값은 플랫폼의 값과 일치해야 합니다.
2
머신 템플릿의 이름을 지정합니다.
3
환경에 대한 세부 정보를 지정합니다. 여기에 있는 값은 예입니다.
4
userData 매개변수는 Machine API Operator가 설치 중에 생성하는 Ignition 구성을 참조합니다. 다음 명령을 실행하여 클러스터가 비밀에 액세스할 수 있도록 openshift-cluster-api 네임스페이스를 적용해야 합니다. 
$ oc get secret worker-user-data-managed \
  -n openshift-machine-api -o yaml | \
  sed 's/namespace: .*/namespace: openshift-cluster-api/' | oc apply -f -
Copy to Clipboard Toggle word wrap
11.4.6.1.2. 베어 메탈의 Cluster API 컴퓨팅 머신 세트 리소스의 샘플 YAML
링크 복사

컴퓨팅 머신 세트 리소스는 생성하는 시스템의 추가 속성을 정의합니다. 컴퓨팅 머신 세트는 머신을 생성할 때 클러스터 리소스 및 머신 템플릿도 참조합니다. 

apiVersion: cluster.x-k8s.io/v1beta1
kind: MachineSet
metadata:
  name: <machine_set_name>
1 

  namespace: openshift-cluster-api
  labels:
    cluster.x-k8s.io/cluster-name: <cluster_name>
2 

spec:
  clusterName: <cluster_name>
  replicas: 1
  selector:
    matchLabels:
      test: example
      cluster.x-k8s.io/cluster-name: <cluster_name>
      cluster.x-k8s.io/set-name: <machine_set_name>
  template:
    metadata:
      labels:
        test: example
        cluster.x-k8s.io/cluster-name: <cluster_name>
        cluster.x-k8s.io/set-name: <machine_set_name>
        node-role.kubernetes.io/worker: ""
    spec:
      bootstrap:
         dataSecretName: worker-user-data-managed
      clusterName: <cluster_name>
      infrastructureRef:
        apiVersion: infrastructure.cluster.x-k8s.io/v1beta1
        kind: Metal3MachineTemplate
3 

        name: <template_name>
4
Copy to Clipboard Toggle word wrap
1
컴퓨팅 머신 세트의 이름을 지정합니다. 클러스터 ID, 머신 역할 및 리전은 < cluster_name>-<role>-<region > 형식으로 이 값에 대한 일반적인 패턴을 형성합니다.
2
클러스터 ID를 클러스터 이름으로 지정합니다.
3
머신 템플릿 유형을 지정합니다. 이 값은 플랫폼의 값과 일치해야 합니다.
4
머신 템플릿 이름을 지정합니다.

11.5. 클러스터 API를 사용하는 클러스터 문제 해결
링크 복사

중요

클러스터 API를 사용하여 머신을 관리하는 것은 기술 프리뷰 기능만 해당합니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

이 섹션의 정보를 사용하여 발생할 수 있는 문제를 이해하고 복구하십시오. 일반적으로 클러스터 API 문제 해결 단계는 Machine API 문제 해결 단계와 유사합니다.

Cluster CAPI Operator 및 해당 피연산자는 openshift-cluster-api 네임스페이스에 프로비저닝되지만 Machine API는 openshift-machine-api 네임스페이스를 사용합니다. 네임스페이스를 참조하는 oc 명령을 사용하는 경우 올바른 명령을 참조해야 합니다.

11.5.1. CLI를 사용할 때 의도된 오브젝트 참조
링크 복사

Cluster API를 사용하는 클러스터의 경우 OpenShift CLI(oc) 명령은 Machine API 오브젝트를 통해 Cluster API 오브젝트를 우선시합니다.

이 동작은 Cluster API 및 Machine API 둘 다에 표시되는 모든 오브젝트에 대해 작동하는 oc 명령에 영향을 미칩니다. 이 설명에서는 oc delete machine 명령을 사용하여 시스템을 삭제합니다. 예를 들면 다음과 같습니다.

원인

oc 명령을 실행할 때 oc 는 Kube API 서버와 통신하여 작업할 오브젝트를 결정합니다. Kube API 서버는 oc 명령이 실행될 때 알파벳순으로 표시되는 첫 번째 설치된 CRD(사용자 정의 리소스 정의)를 사용합니다.

Cluster API 오브젝트의 CRD는 cluster.x-k8s.io 그룹에 있으며 Machine API 오브젝트의 CRD는 machine.openshift.io 그룹에 있습니다. 문자 c 는 알파벳순으로 m 문자 앞에 있기 때문에 Kube API 서버는 Cluster API 오브젝트 CRD에서 일치합니다. 결과적으로 oc 명령은 Cluster API 오브젝트에서 작동합니다.

결과

이 동작으로 인해 Cluster API를 사용하는 클러스터에서 다음과 같은 의도하지 않은 결과가 발생할 수 있습니다.

  • 두 유형의 오브젝트가 모두 포함된 네임스페이스의 경우 oc get machine 과 같은 명령은 Cluster API 오브젝트만 반환합니다.
  • Machine API 오브젝트만 포함하는 네임스페이스의 경우 oc get machine 과 같은 명령은 결과를 반환하지 않습니다.
해결방법
oc 명령이 정규화된 해당 이름을 사용하여 원하는 오브젝트 유형에서 작동하는지 확인할 수 있습니다.

사전 요구 사항

  • cluster-admin 권한이 있는 계정을 사용하여 ROSA 클러스터에 액세스할 수 있습니다.
  • OpenShift CLI(oc)가 설치되어 있습니다.

프로세스

  • Machine API 머신을 삭제하려면 oc delete machine 명령을 실행할 때 정규화된 이름 machine.machine.openshift.io 를 사용합니다. 

    $ oc delete machine.machine.openshift.io <machine_name>
    Copy to Clipboard Toggle word wrap

  • 클러스터 API 머신을 삭제하려면 oc delete machine 명령을 실행할 때 정규화된 이름 machine.cluster.x-k8s.io 를 사용합니다. 

    $ oc delete machine.cluster.x-k8s.io <machine_name>
    Copy to Clipboard Toggle word wrap

11.5.2. 중복된 머신 세트 및 머신 리소스
링크 복사

머신 API 리소스를 클러스터 API 리소스로 마이그레이션하는 것을 지원하는 클러스터에서 일부 리소스는 리소스를 나열하는 OpenShift CLI( oc ) 명령의 출력과 OpenShift Container Platform 웹 콘솔에서 중복 인스턴스가 있는 것으로 보입니다.

원인

기본 구성 옵션을 사용하는 OpenShift Container Platform 클러스터를 설치하면 설치 프로그램은 openshift-machine-api 네임스페이스에 다음과 같은 인프라 리소스를 프로비저닝합니다.

  • 3개의 컨트롤 플레인 머신을 관리하는 하나의 컨트롤 플레인 머신 세트입니다.
  • 3개의 컴퓨팅 머신을 관리하는 하나 이상의 컴퓨팅 머신 세트입니다.
  • 스팟 인스턴스를 관리하는 하나의 머신 상태 점검입니다.
  • 컴퓨팅 머신 세트 사양에 따라 생성된 컴퓨팅 머신입니다.

Machine API 리소스를 Cluster API 리소스로 마이그레이션하는 것을 지원하는 클러스터에서 양방향 동기화 컨트롤러는 openshift-cluster-api 네임스페이스에 다음 Cluster API 리소스를 생성합니다.

  • 하나의 클러스터 리소스.
  • 하나의 공급자별 인프라 클러스터 리소스.
  • 컴퓨팅 머신 세트에 해당하는 하나 이상의 머신 템플릿입니다.
  • 3개의 컴퓨팅 머신을 관리하는 하나 이상의 컴퓨팅 머신 세트입니다.
  • 머신 템플릿과 컴퓨팅 머신 세트 사양에 따라 생성된 컴퓨팅 머신입니다.
  • 컴퓨팅 머신에 해당하는 인프라 머신입니다.

이러한 클러스터 API 리소스는 openshift-machine-api 네임스페이스의 해당 리소스와 동일한 이름을 갖습니다.

결과
이러한 동작으로 인해 중복된 것으로 보이는 머신 세트 및 머신 리소스 인스턴스가 리소스를 나열하는 oc 명령의 출력과 OpenShift Container Platform 웹 콘솔에 나타납니다.
해결방법
리소스의 이름이 다른 네임스페이스의 해당 리소스와 동일하더라도 현재 권한 있는 API를 사용하는 리소스만 활성화됩니다. 동기화 컨트롤러는 의도치 않은 조정을 방지하기 위해 현재 권한 있는 API를 사용하지 않는 해당 리소스를 프로비저닝되지 않은( 일시 중지 ) 상태로 생성하고 유지 관리합니다.
결과

중복으로 보이는 각 리소스는 한 번에 하나만 활성화됩니다. 비활성 비권한 리소스는 기능에 영향을 미치지 않습니다.

중요

현재 권한 있는 API를 사용하지 않는 비권한 리소스는 삭제하지 마세요. 현재 권한 있는 API를 사용하는 해당 리소스를 삭제하려는 경우가 아니면요.

현재 권한 있는 API를 사용하지 않는 비권한 있는 리소스를 삭제하면 동기화 컨트롤러는 현재 권한 있는 API를 사용하는 해당 리소스를 삭제합니다. 자세한 내용은 "예기치 않은 리소스 삭제 동작"을 참조하세요.

11.5.3. 리소스 마이그레이션 문제 해결
링크 복사

다른 권한 있는 API를 사용하기 위해 리소스를 마이그레이션하는 경우 마이그레이션 프로세스 중에 문제가 발생할 수 있습니다. 클러스터 API와 머신 API 간의 차이로 인해 예상치 못한 동작이 나타날 수도 있습니다.

11.5.3.1. 컴퓨팅 머신의 권한 있는 API 유형
링크 복사

컴퓨팅 머신의 권한 있는 API는 이를 생성하는 Machine API 컴퓨팅 머신 세트의 .spec.authoritativeAPI 및 .spec.template.spec.authoritativeAPI 필드 값에 따라 달라집니다.

Expand
표 11.3. 컴퓨팅 머신을 생성할 때 권한 있는 API 필드의 상호 작용

.spec.authoritativeAPI value

ClusterAPI

ClusterAPI

MachineAPI

MachineAPI

.spec.template.spec.authoritativeAPI value

ClusterAPI

MachineAPI

MachineAPI

ClusterAPI

새로운 컴퓨팅 머신을 위한 authoritativeAPI 값

ClusterAPI

ClusterAPI

MachineAPI

ClusterAPI

참고

.spec.authoritativeAPI 값이 ClusterAPI 인 경우 Machine API 머신 세트는 권한이 없으며 .spec.template.spec.authoritativeAPI 값은 사용되지 않습니다. 결과적으로, Machine API를 권한 있는 것으로 사용하여 컴퓨팅 머신을 생성하는 유일한 조합은 .spec.authoritativeAPI 및 .spec.template.spec.authoritativeAPI 값이 MachineAPI 인 경우입니다.

11.5.3.2. 스케일링 후 예상치 못한 머신 카운트
링크 복사

Machine API와 Cluster API 간의 리소스 마이그레이션을 지원하는 클러스터에서 사용자는 컴퓨팅 머신 수를 확장할 때 예기치 않은 동작을 경험할 수 있습니다. 권한 있는 API를 사용하지 않는 컴퓨팅 머신 세트에 대한 oc get 명령의 출력에는 CURRENT , READY 및 AVAILABLE 열에 부정확한 값이 포함될 수 있습니다.

원인

CURRENT , READY 및 AVAILABLE 열에 채워지는 값은 컴퓨팅 머신 세트의 .status 절에서 시작됩니다. 권한 있는 API 유형 간의 리소스 변환을 처리하는 양방향 동기화 컨트롤러는 현재 .status 스탠자의 값을 동기화하지 않습니다.

DESIRED 열의 값은 컴퓨팅 머신 세트의 .spec.replicas 값을 반영합니다. 양방향 동기화 컨트롤러는 .spec 스탠자의 값을 동기화합니다.

결과

사용자는 마이그레이션된 머신 세트를 확장할 때 다음과 같은 동작을 볼 수 있습니다.

  1. 기존 머신으로 컴퓨팅 머신 세트를 시작합니다.
  2. 다른 권한 있는 API를 사용하도록 머신 세트를 마이그레이션합니다.
  3. .spec.replicas 필드에 더 큰 값을 설정하여 권한이 있는 머신 설정을 확장합니다.
  4. 머신 세트는 요청된 복제본 수를 충족시키기 위해 현재 권한 있는 API를 사용하여 머신을 생성합니다.

  5. 다음 조건 중 하나가 현재 권한 있는 API를 사용하지 않는 머신을 삭제하도록 권한 있는 머신 집합을 축소합니다.

    • 요청된 복제본의 총 수는 현재 권한 있는 API를 사용하지 않는 머신의 수보다 적습니다.
    • 머신 세트에 대한 머신 삭제 정책은 현재 권한 있는 API를 사용하지 않는 머신을 선택합니다.

  6. oc get 명령을 실행하여 권한이 없는 컴퓨팅 머신 세트의 상태를 확인합니다.

    • 출력의 DESIRED 열 값은 .spec.replicas 값을 반영합니다.
    • CURRENT , READY , AVAILABLE 열의 값은 머신 세트를 확장하기 전에 존재했던 원래 복제본 수를 반영합니다.
해결방법
축소 작업이 현재 권한 있는 API를 사용하지 않는 컴퓨팅 머신을 성공적으로 삭제했는지 확인하려면 권한이 없는 컴퓨팅 머신을 나열하는 oc get 명령을 실행합니다.
결과
축소 작업이 성공하면 권한이 없는 컴퓨팅 머신에 대한 oc get 명령 출력의 카운트는 머신 세트의 .spec.replicas 값을 반영합니다.
11.5.3.3. 라벨과 주석의 동기화가 완료되지 않음
링크 복사

레이블과 주석 동기화 동작은 Machine API와 Cluster API 간에 다릅니다. 어떤 경우에는 이러한 차이로 인해 마이그레이션 중에 양방향 동기화 컨트롤러가 클러스터 API 머신의 레이블을 덮어쓰게 됩니다.

원인

Machine API를 사용하면 머신 세트 레이블과 주석의 변경 사항이 기존 머신과 노드에 전파되지 않습니다. 이러한 변경 사항은 업데이트 이후에 배포된 컴퓨터에만 적용됩니다.

클러스터 API를 사용하면 머신 세트 레이블과 주석의 변경 사항이 기존 머신과 노드에 전파됩니다. 머신 세트의 권한 있는 API가 머신 API에서 클러스터 API로 변경되면 해당 레이블이 관리하는 클러스터 API 머신으로 전파됩니다. 전파는 클러스터 API 머신이 권한 있는 것으로 표시되기 전에 발생합니다.

결과
양방향 동기화 컨트롤러는 전파된 레이블과 주석을 이전 값으로 덮어써서 불일치가 발생합니다. 이러한 결과는 라벨이나 주석을 제거할 때만 발생합니다. 업데이트나 추가 라벨 또는 주석은 이러한 불일치를 일으키지 않습니다.
해결방법
이 문제에 대한 해결방법이 없습니다. 자세한 내용은 OCPBUGS-54333을 참조하세요.
11.5.3.4. 지원되지 않는 구성 옵션
링크 복사

Machine API는 Cluster API에 대한 모든 구성 옵션을 지원하지 않습니다. 일부 머신 API 구성은 클러스터 API로 마이그레이션할 수 없습니다. 향후 릴리스에서는 추가적인 구성 옵션이 지원될 수 있습니다.

다음 구성을 사용하려고 하면 마이그레이션이 실패하거나 오류가 발생할 수 있습니다.

참고

이 목록은 모든 내용을 담고 있지 않을 수도 있습니다.

일반적인 제한 사항

  • NodeDeletionTimeout 필드가 클러스터 API 기본값인 10초 를 사용하지 않는 한, 머신 API 컴퓨팅 머신은 클러스터 API로 마이그레이션할 수 없습니다.

  • OpenShift Container Platform은 머신 세트의 spec.template.spec 스탠자 또는 머신의 spec 스탠자에서 다음 클러스터 API 필드를 사용하는 것을 지원하지 않습니다.

    • version
    • readinessGates

  • Machine API는 다음 클러스터 API 드레이닝 구성 옵션을 사용하는 것을 지원하지 않습니다.

    • nodeDrainTimeout
    • nodeVolumeDetachTimeout
    • nodeDeletionTimeout
  • 클러스터 API는 머신에서 노드로 레이블이나 오염을 전파하는 것을 지원하지 않습니다.

Amazon Web Services(AWS) 제한 사항

  • 머신 API 컴퓨팅 머신은 AWS 로드 밸런서를 사용할 수 없습니다.

  • Machine API는 다음 Amazon EC2 Instance Metadata Service(IMDS) 구성 옵션을 사용하는 것을 지원하지 않습니다.

    • httpEndpoint
    • httpPutResponseHopLimit
    • instanceMetadataTags

    IMDS 구성 옵션을 사용하는 클러스터 API 머신 템플릿을 머신 API 컴퓨팅 머신 세트로 마이그레이션하는 경우 다음과 같은 동작이 예상됩니다.

    • 마이그레이션된 Machine API 머신 세트가 생성하는 모든 머신에는 이러한 필드가 없습니다. 기본 인스턴스는 이러한 설정을 사용하지 않습니다.
    • 마이그레이션된 머신 세트가 관리하는 기존 머신은 이러한 필드를 유지합니다. 기본 인스턴스는 이러한 설정을 계속 사용합니다.

  • OpenShift Container Platform은 다음 AWS 머신 템플릿 필드를 사용하는 것을 지원하지 않습니다.

    • spec.ami.eksLookupType
    • spec.cloudInit
    • spec.ignition.proxy
    • spec.ignition.tls
    • spec.imageLookupBaseOS
    • spec.imageLookupFormat
    • spec.imageLookupOrg
    • spec.networkInterfaces
    • spec.privateDNSName
    • spec.securityGroupOverrides
    • spec.uncompressedUserData
  • 클러스터 API는 기본 AWS EC2 인스턴스가 제거될 때 루트가 아닌 EBS 볼륨을 고아로 만드는 것을 지원하지 않습니다. 인스턴스가 종료되면 클러스터 API는 모든 종속 볼륨을 제거합니다.
  • 머신 API 리소스를 클러스터 API로 마이그레이션할 때, 이그니션 버전은 하드코딩되어 있어 전달되는 사용자 데이터 비밀과 일치하지 않을 수 있습니다.

11.6. 클러스터 API 비활성화
링크 복사

OpenShift Container Platform 클러스터에서 인프라 리소스 관리를 자동화하기 위해 클러스터 API를 사용하는 것을 중지하려면 클러스터의 모든 클러스터 API 리소스를 동등한 머신 API 리소스로 변환하세요.

중요

클러스터 API를 사용하여 머신을 관리하는 것은 기술 프리뷰 기능만 해당합니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

11.6.1. 클러스터 API 리소스를 머신 API 리소스로 마이그레이션
링크 복사

Machine API와 Cluster API 리소스 간 마이그레이션을 지원하는 클러스터에서 양방향 동기화 컨트롤러는 Cluster API 리소스를 Machine API 리소스로 변환하는 것을 지원합니다.

참고

양방향 동기화 컨트롤러는 TechPreviewNoUpgrade 기능 세트의 MachineAPIMigration 기능 게이트가 활성화된 클러스터에서만 작동합니다.

원래 Machine API에서 Cluster API로 마이그레이션한 리소스나 처음에 Cluster API 리소스로 생성한 리소스를 마이그레이션할 수 있습니다. 원래의 Machine API 리소스를 클러스터 API 리소스로 마이그레이션한 다음 다시 마이그레이션하면 마이그레이션 프로세스가 예상대로 작동하는지 확인할 수 있는 기회가 제공됩니다.

참고

지원되는 인프라 유형에서만 일부 리소스를 마이그레이션할 수 있습니다.

Expand
표 11.4. 지원되는 리소스 변환
인프라컴퓨팅 머신컴퓨팅 머신 세트머신 상태 점검제어 평면 기계 세트Cluster autoscaler

AWS

기술 프리뷰

기술 프리뷰

사용할 수 없음

사용할 수 없음

사용할 수 없음

기타 모든 인프라 유형

사용할 수 없음

사용할 수 없음

사용할 수 없음

사용할 수 없음

사용할 수 없음

11.6.1.1. 클러스터 API 리소스를 머신 API를 사용하도록 마이그레이션
링크 복사

개별 클러스터 API 객체를 동등한 머신 API 객체로 마이그레이션할 수 있습니다.

중요

클러스터 API 리소스를 머신 API를 사용하도록 마이그레이션하는 것은 기술 미리 보기 기능에 불과합니다. 기술 프리뷰 기능은 Red Hat 프로덕션 서비스 수준 계약(SLA)에서 지원되지 않으며 기능적으로 완전하지 않을 수 있습니다. 따라서 프로덕션 환경에서 사용하는 것은 권장하지 않습니다. 이러한 기능을 사용하면 향후 제품 기능을 조기에 이용할 수 있어 개발 과정에서 고객이 기능을 테스트하고 피드백을 제공할 수 있습니다.

Red Hat 기술 프리뷰 기능의 지원 범위에 대한 자세한 내용은 기술 프리뷰 기능 지원 범위를 참조하십시오.

사전 요구 사항

  • 지원되는 인프라 유형에 OpenShift Container Platform 클러스터를 배포했습니다.
  • TechPreviewNoUpgrade 기능 세트에서 MachineAPIMigration 기능 게이트를 활성화했습니다.
  • cluster-admin 권한이 있는 계정을 사용하여 ROSA 클러스터에 액세스할 수 있습니다.
  • OpenShift CLI(oc)가 설치되어 있습니다.

프로세스

  1. 다음 명령을 실행하여 머신 API 리소스로 마이그레이션하려는 클러스터 API 리소스를 식별합니다. 

    $ oc get <resource_kind> -n openshift-cluster-api
    Copy to Clipboard Toggle word wrap

    여기서 <resource_kind> 는 다음 값 중 하나입니다.

    machine.cluster.x-k8s.io
    컴퓨팅 또는 제어 평면 머신의 리소스 종류의 정규화된 이름입니다.
    machineset.cluster.x-k8s.io
    컴퓨팅 머신 세트의 리소스 종류의 정규화된 이름입니다.

  2. 다음 명령을 실행하여 리소스 사양을 편집합니다. 

    $ oc edit <resource_kind>/<resource_name> -n openshift-machine-api
    Copy to Clipboard Toggle word wrap

    다음과 같습니다.

    <resource_kind>
    machine.machine.openshift.io를 사용하여 컴퓨팅 머신을 지정하거나 machineset.machine.openshift.io 를 사용하여 컴퓨팅 머신 세트를 지정합니다.
    <resource_name>
    Machine API로 마이그레이션하려는 클러스터 API 리소스에 해당하는 Machine API 리소스의 이름을 지정합니다.

  3. 리소스 사양에서 spec.authoritativeAPI 필드의 값을 업데이트합니다. 

    apiVersion: machine.openshift.io/v1beta1
kind: <resource_kind>
    1 
    
metadata:
  name: <resource_name>
    2 
    
  [...]
spec:
  authoritativeAPI: MachineAPI
    3 
    
  [...]
status:
  authoritativeAPI: ClusterAPI
    4 
    
  [...]
    Copy to Clipboard Toggle word wrap
    1
    리소스 종류는 리소스 종류에 따라 다릅니다. 예를 들어, 컴퓨팅 머신 세트의 리소스 종류는 MachineSet 이고 컴퓨팅 머신의 리소스 종류는 Machine 입니다.
    2
    마이그레이션하려는 리소스의 이름입니다.
    3
    이 리소스에 사용할 권한 있는 API를 지정하세요. 예를 들어, 클러스터 API 리소스를 Machine API로 마이그레이션하려면 MachineAPI를 지정합니다.
    4
    현재 권한 있는 API의 값입니다. 이 값은 현재 어떤 API가 이 리소스를 관리하는지 나타냅니다. 이 사양의 이 부분에 있는 값은 변경하지 마세요.

검증

  • 다음 명령을 실행하여 변환 상태를 확인하세요. 

    $ oc -n openshift-machine-api get <resource_kind>/<resource_name> -o json | jq .status.authoritativeAPI
    Copy to Clipboard Toggle word wrap

    다음과 같습니다.

    <resource_kind>
    machine.machine.openshift.io를 사용하여 컴퓨팅 머신을 지정하거나 machineset.machine.openshift.io 를 사용하여 컴퓨팅 머신 세트를 지정합니다.
    <resource_name>
    Machine API로 마이그레이션하려는 클러스터 API 리소스에 해당하는 Machine API 리소스의 이름을 지정합니다.
    • 변환이 진행되는 동안 이 명령은 Migrating 값을 반환합니다. 이 값이 오랫동안 지속되면 openshift-cluster-api 네임스페이스에서 cluster-capi-operator 배포에 대한 로그를 확인하여 자세한 정보를 얻고 잠재적인 문제를 파악하세요.
    • 변환이 완료되면 이 명령은 MachineAPI 값을 반환합니다.
    중요

    현재 권한 있는 API를 사용하지 않는 비권한 리소스는 삭제하지 마세요. 현재 권한 있는 API를 사용하는 해당 리소스를 삭제하려는 경우가 아니면요.

    현재 권한 있는 API를 사용하지 않는 비권한 있는 리소스를 삭제하면 동기화 컨트롤러는 현재 권한 있는 API를 사용하는 해당 리소스를 삭제합니다. 자세한 내용은 문제 해결 리소스 마이그레이션 콘텐츠의 "예기치 않은 리소스 삭제 동작"을 참조하세요.

11.6.1.2. 컴퓨팅 머신의 권한 있는 API 유형
링크 복사

컴퓨팅 머신의 권한 있는 API는 이를 생성하는 Machine API 컴퓨팅 머신 세트의 .spec.authoritativeAPI 및 .spec.template.spec.authoritativeAPI 필드 값에 따라 달라집니다.

Expand
표 11.5. 컴퓨팅 머신을 생성할 때 권한 있는 API 필드의 상호 작용

.spec.authoritativeAPI value

ClusterAPI

ClusterAPI

MachineAPI

MachineAPI

.spec.template.spec.authoritativeAPI value

ClusterAPI

MachineAPI

MachineAPI

ClusterAPI

새로운 컴퓨팅 머신을 위한 authoritativeAPI 값

ClusterAPI

ClusterAPI

MachineAPI

ClusterAPI

참고

.spec.authoritativeAPI 값이 ClusterAPI 인 경우 Machine API 머신 세트는 권한이 없으며 .spec.template.spec.authoritativeAPI 값은 사용되지 않습니다. 결과적으로, Machine API를 권한 있는 것으로 사용하여 컴퓨팅 머신을 생성하는 유일한 조합은 .spec.authoritativeAPI 및 .spec.template.spec.authoritativeAPI 값이 MachineAPI 인 경우입니다.

12장. 머신 상태 확인
링크 복사

머신 풀에서 손상된 머신을 자동으로 복구하도록 머신 상태 점검을 구성하고 배포할 수 있습니다.

중요

머신 API가 작동하는 클러스터에서만 고급 머신 관리 및 스케일링 기능을 사용할 수 있습니다. 사용자 제공 인프라가 있는 클러스터는 Machine API를 사용하기 위해 추가적인 검증 및 구성이 필요합니다.

인프라 플랫폼 유형이 none인 클러스터는 Machine API를 사용할 수 없습니다. 이러한 제한은 클러스터에 연결된 컴퓨팅 머신이 해당 기능을 지원하는 플랫폼에 설치된 경우에도 적용됩니다. 설치 후에는 이 매개변수를 변경할 수 없습니다.

클러스터의 플랫폼 유형을 보려면 다음 명령을 실행하세요. 

$ oc get infrastructure cluster -o jsonpath='{.status.platform}'
Copy to Clipboard Toggle word wrap

12.1. 머신 상태 점검 정보
링크 복사

참고

컴퓨팅 머신 세트 또는 컨트롤 플레인 머신 세트에서 관리하는 머신에만 머신 상태 점검을 적용할 수 있습니다.

머신 상태를 모니터링하기 위해 컨트롤러 구성을 정의할 리소스를 만듭니다. NotReady 상태를 5 분 동안 유지하거나 노드 문제 탐지기(node-problem-detector)에 영구적인 조건을 표시하는 등 검사할 조건과 모니터링할 머신 세트의 레이블을 설정합니다.

MachineHealthCheck 리소스를 관찰하는 컨트롤러에서 정의된 상태를 확인합니다. 머신이 상태 확인에 실패하면 머신이 자동으로 삭제되고 대체할 머신이 만들어집니다. 머신이 삭제되면 machine deleted 이벤트가 표시됩니다.

머신 삭제로 인한 영향을 제한하기 위해 컨트롤러는 한 번에 하나의 노드 만 드레인하고 삭제합니다. 대상 머신 풀에서 허용된 maxUnhealthy 임계값 보다 많은 비정상적인 머신이 있는 경우 수동 개입이 수행될 수 있도록 복구가 중지됩니다.

참고

워크로드 및 요구 사항을 살펴보고 신중하게 시간 초과를 고려하십시오.

  • 시간 제한이 길어지면 비정상 머신의 워크로드에 대한 다운타임이 길어질 수 있습니다.
  • 시간 초과가 너무 짧으면 수정 루프가 발생할 수 있습니다. 예를 들어 NotReady 상태를 확인하는 시간은 머신이 시작 프로세스를 완료할 수 있을 만큼 충분히 길어야 합니다.

검사를 중지하려면 리소스를 제거합니다.

12.1.1. 머신 상태 검사 배포 시 제한 사항
링크 복사

머신 상태 점검을 배포하기 전에 고려해야 할 제한 사항은 다음과 같습니다.

  • 머신 세트가 소유한 머신만 머신 상태 검사를 통해 업데이트를 적용합니다.
  • 머신의 노드가 클러스터에서 제거되면 머신 상태 점검에서 이 머신을 비정상적으로 간주하고 즉시 업데이트를 적용합니다.
  • nodeStartupTimeout 후 시스템의 해당 노드가 클러스터에 참여하지 않으면 업데이트가 적용됩니다.
  • Machine 리소스 단계가 Failed하면 즉시 머신에 업데이트를 적용합니다.

12.2. MachineHealthCheck 리소스 샘플
링크 복사

베어 메탈 이외의 모든 클라우드 기반 설치 유형에 대한 MachineHealthCheck 리소스는 다음 YAML 파일과 유사합니다. 

apiVersion: machine.openshift.io/v1beta1
kind: MachineHealthCheck
metadata:
  name: example
1 

  namespace: openshift-machine-api
spec:
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-machine-role: <role>
2 

      machine.openshift.io/cluster-api-machine-type: <role>
3 

      machine.openshift.io/cluster-api-machineset: <cluster_name>-<label>-<zone>
4 

  unhealthyConditions:
  - type:    "Ready"
    timeout: "300s"
5 

    status: "False"
  - type:    "Ready"
    timeout: "300s"
6 

    status: "Unknown"
  maxUnhealthy: "40%"
7 

  nodeStartupTimeout: "10m"
8
Copy to Clipboard Toggle word wrap
1
배포할 머신 상태 점검의 이름을 지정합니다.
2 3
확인할 머신 풀의 레이블을 지정합니다.
4
추적할 머신 세트를 <cluster_name>-<label>-<zone> 형식으로 지정합니다. 예를 들어 prod-node-us-east-1a입니다.
5 6
노드 상태에 대한 시간 제한을 지정합니다. 시간 제한 기간 중 상태가 일치되면 머신이 수정됩니다. 시간 제한이 길어지면 비정상 머신의 워크로드에 대한 다운타임이 길어질 수 있습니다.
7
대상 풀에서 동시에 복구할 수 있는 시스템 수를 지정합니다. 이는 백분율 또는 정수로 설정할 수 있습니다. 비정상 머신의 수가 maxUnhealthy에서의 설정 제한을 초과하면 복구가 수행되지 않습니다.
8
머신 상태가 비정상으로 확인되기 전에 노드가 클러스터에 참여할 때까지 기다려야 하는 시간 초과 기간을 지정합니다.
참고

matchLabels는 예제일 뿐입니다. 특정 요구에 따라 머신 그룹을 매핑해야 합니다.

12.2.1. 쇼트 서킷 (Short Circuit) 머신 상태 점검 및 수정
링크 복사

단락은 클러스터가 정상일 때만 머신 상태 검사를 통해 머신을 수정하도록 보장합니다. 쇼트 서킷은 MachineHealthCheck 리소스의 maxUnhealthy 필드를 통해 구성됩니다.

사용자가 시스템을 조정하기 전에 maxUnhealthy 필드 값을 정의하는 경우 MachineHealthCheck는 비정상적으로 결정된 대상 풀 내의 maxUnhealthy 값과 비교합니다. 비정상 머신의 수가 maxUnhealthy 제한을 초과하면 수정을 위한 업데이트가 수행되지 않습니다.

중요

maxUnhealthy가 설정되지 않은 경우 기본값은 100%로 설정되고 클러스터 상태와 관계없이 머신이 수정됩니다.

적절한 maxUnhealthy 값은 배포하는 클러스터의 규모와 MachineHealthCheck에서 다루는 시스템 수에 따라 달라집니다. 예를 들어, maxUnhealthy 값을 사용하여 여러 가용성 영역에 걸쳐 여러 컴퓨팅 머신 세트를 포괄할 수 있으므로 전체 영역이 손실되더라도 maxUnhealthy 설정으로 인해 클러스터 내에서 추가적인 수정이 불가능합니다. 여러 가용성 영역이 없는 글로벌 Azure 리전에서는 가용성 세트를 사용하여 고가용성을 보장할 수 있습니다.

중요

제어 평면에 대해 MachineHealthCheck 리소스를 구성하는 경우 maxUnhealthy 값을 1 로 설정합니다.

이 구성은 여러 제어 평면 머신이 비정상적으로 보일 때 머신 상태 검사가 아무런 조치도 취하지 않도록 보장합니다. 여러 개의 비정상적 제어 평면 머신은 etcd 클러스터가 저하되었거나 실패한 머신을 교체하기 위한 확장 작업이 진행 중임을 나타낼 수 있습니다.

etcd 클러스터가 저하되면 수동 개입이 필요할 수 있습니다. 스케일링 작업이 진행 중인 경우 머신 상태 점검에서 이 작업을 완료할 수 있어야 합니다.

maxUnhealthy 필드는 정수 또는 백분율로 설정할 수 있습니다. maxUnhealthy 값에 따라 다양한 수정을 적용할 수 있습니다.

12.2.1.1. 절대 값을 사용하여 maxUnhealthy 설정
링크 복사

maxUnhealthy가 2로 설정된 경우

  • 2개 이상의 노드가 비정상인 경우 수정을 위한 업데이트가 수행됩니다.
  • 3개 이상의 노드가 비정상이면 수정을 위한 업데이트가 수행되지 않습니다

이러한 값은 머신 상태 점검에서 확인할 수 있는 머신 수와 관련이 없습니다.

12.2.1.2. 백분율을 사용하여 maxUnhealthy 설정
링크 복사

maxUnhealthy가 40%로 설정되어 있고 25 대의 시스템이 확인되고 있는 경우 다음을 수행하십시오.

  • 10개 이상의 노드가 비정상인 경우 수정을 위한 업데이트가 수행됩니다.
  • 11개 이상의 노드가 비정상인 경우 수정을 위한 업데이트가 수행되지 않습니다.

maxUnhealthy가 40%로 설정되어 있고 6 대의 시스템이 확인되고 있는 경우 다음을 수행하십시오.

  • 2개 이상의 노드가 비정상인 경우 수정을 위한 업데이트가 수행됩니다.
  • 3개 이상의 노드가 비정상이면 수정을 위한 업데이트가 수행되지 않습니다
참고

maxUnhealthy 머신의 백분율이 정수가 아닌 경우 허용되는 머신 수가 반올림됩니다.

12.3. 머신 상태 점검 리소스 생성
링크 복사

클러스터의 머신 세트에 대한 MachineHealthCheck 리소스를 만들 수 있습니다.

참고

컴퓨팅 머신 세트 또는 컨트롤 플레인 머신 세트에서 관리하는 머신에만 머신 상태 점검을 적용할 수 있습니다.

사전 요구 사항

  • oc 명령줄 인터페이스를 설치합니다.

프로세스

  1. 머신 상태 점검 정의가 포함된 healthcheck.yml 파일을 생성합니다.

  2. healthcheck.yml 파일을 클러스터에 적용합니다. 

    $ oc apply -f healthcheck.yml
    Copy to Clipboard Toggle word wrap

머신 상태 점검을 구성하고 배포하여 비정상적인 베어 메탈 노드를 감지하고 복구할 수 있습니다.

12.4. 베어 메탈의 전원 기반 업데이트 적용 정보
링크 복사

베어 메탈 클러스터에서 노드의 업데이트 적용은 클러스터의 전반적인 상태를 보장하는 데 중요합니다. 물리적으로 클러스터에 업데이트를 적용하는 것은 어려움이 있을 수 있으며 머신을 안전하거나 운영 체제로 전환하기 위한 지연으로 인해 클러스터가 성능 저하된 상태로 유지되는 시간이 길어지고 이후의 장애 발생으로 인해 클러스터가 클러스터를 오프라인 상태가 될 수 있습니다. 전원 기반 문제 해결은 이러한 문제에 대응하는 데 도움이 됩니다.

전원 기반 업데이트 적용에서는 노드를 재프로비저닝하는 대신 전원 컨트롤러를 사용하여 작동하지 않는 노드의 전원을 끕니다. 이러한 유형의 수정을 전원 펜싱이라고 합니다.

OpenShift Container Platform은 MachineHealthCheck 컨트롤러를 사용하여 문제가 있는 베어 메탈 노드를 감지합니다. 전원 기반 업데이트 적용은 신속하게 수행되며 클러스터에서 문제가 있는 노드를 제거하는 대신 재부팅합니다.

전원 기반 업데이트 적용은 다음과 같은 기능을 제공합니다.

  • 컨트롤 플레인 노드를 복구 가능
  • 하이퍼컨버지드 환경에서 데이터 손실 위험을 줄입니다.
  • 물리적 머신 복구와 관련된 다운타임 감소

12.4.1. 베어 메탈에서 MachineHealthCheck
링크 복사

베어 메탈 클러스터에서 머신 삭제를 사용하면 베어 메탈 호스트의 재프로비저닝이 트리거됩니다. 일반적으로 베어 메탈 재프로비저닝은 시간이 오래 걸리는 프로세스로, 이 과정에서 클러스터에 컴퓨팅 리소스가 누락되고 애플리케이션이 중단될 수 있습니다.

기본 수정 프로세스를 머신 삭제에서 호스트 전원 껐다 켜기로 변경하는 방법에는 두 가지가 있습니다.

  1. MachineHealthCheck 리소스에 machine.openshift.io/remediation-strategy: external-baremetal 주석을 추가합니다.
  2. Metal3RemediationTemplate 리소스를 만들고 MachineHealthCheck 의 spec.remediationTemplate 에서 이를 참조합니다.

이러한 방법 중 하나를 사용한 후에는 Baseboard Management Controller(BMC) 자격 증명을 사용하여 상태가 좋지 않은 컴퓨터의 전원을 껐다가 다시 켭니다.

12.4.2. 주석 기반 수정 프로세스 이해
링크 복사

수정 프로세스는 다음과 같이 작동합니다.

  1. MHC(MachineHealthCheck) 컨트롤러는 노드가 비정상임을 감지합니다.
  2. MHC는 비정상 노드의 전원을 끄도록 요청하는 베어 메탈 머신 컨트롤러에 통지합니다.
  3. 전원이 꺼지면 노드가 삭제되어 클러스터가 다른 노드에서 영향을 받는 워크로드를 다시 예약할 수 있습니다.
  4. 베어 메탈 머신 컨트롤러에서 노드의 전원을 켜도록 요청합니다.
  5. 노드가 가동되면 노드가 클러스터와 함께 다시 등록되어 새 노드가 생성됩니다.
  6. 노드가 다시 생성되면 베어 메탈 머신 컨트롤러는 삭제하기 전에 비정상 노드에 존재하는 주석 및 레이블을 복원합니다.
참고

전원 작업이 완료되지 않은 경우 베어 메탈 머신 컨트롤러는 컨트롤 플레인 노드 또는 외부 프로비저닝 노드가 아닌 한 비정상 노드의 재프로비저닝을 트리거합니다.

12.4.3. 금속3 기반 정화 과정 이해
링크 복사

수정 프로세스는 다음과 같이 작동합니다.

  1. MHC(MachineHealthCheck) 컨트롤러는 노드가 비정상임을 감지합니다.
  2. MHC는 metal3 치료 컨트롤러에 대한 metal3 치료 사용자 지정 리소스를 생성하여 건강에 해로운 노드의 전원을 끄도록 요청합니다.
  3. 전원이 꺼지면 노드가 삭제되어 클러스터가 다른 노드에서 영향을 받는 워크로드를 다시 예약할 수 있습니다.
  4. metal3 수정 컨트롤러에서 노드의 전원을 켜도록 요청합니다.
  5. 노드가 가동되면 노드가 클러스터와 함께 다시 등록되어 새 노드가 생성됩니다.
  6. 노드가 재생성된 후, metal3 복구 컨트롤러는 삭제되기 전에 해당 노드에 존재했던 주석과 라벨을 복원합니다.
참고

전원 작업이 완료되지 않으면 metal3 복구 컨트롤러는 제어 평면 노드나 외부에서 프로비저닝된 노드가 아닌 이상 비정상 노드의 재프로비저닝을 트리거합니다.

12.4.4. 베어 메탈의 MachineHealthCheck 리소스 생성
링크 복사

사전 요구 사항

  • OpenShift Container Platform은 설치 관리자 프로비저닝 인프라(IPI)를 사용하여 설치됩니다.
  • BMC 자격 증명에 대한 액세스(또는 각 노드에 대한 BMC 액세스).
  • 비정상 노드의 BMC 인터페이스에 대한 네트워크 액세스가 있어야 합니다.

프로세스

  1. 머신 상태 점검 정의가 포함된 healthcheck.yaml 파일을 생성합니다.

  2. 다음 명령을 사용하여 healthcheck.yaml 파일을 클러스터에 적용합니다. 

    $ oc apply -f healthcheck.yaml
    Copy to Clipboard Toggle word wrap

베어 메탈, 주석 기반 수정을 위한 샘플 MachineHealthCheck 리소스

apiVersion: machine.openshift.io/v1beta1
kind: MachineHealthCheck
metadata:
  name: example
1 

  namespace: openshift-machine-api
  annotations:
    machine.openshift.io/remediation-strategy: external-baremetal
2 

spec:
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-machine-role: <role>
3 

      machine.openshift.io/cluster-api-machine-type: <role>
4 

      machine.openshift.io/cluster-api-machineset: <cluster_name>-<label>-<zone>
5 

  unhealthyConditions:
  - type:    "Ready"
    timeout: "300s"
6 

    status: "False"
  - type:    "Ready"
    timeout: "300s"
7 

    status: "Unknown"
  maxUnhealthy: "40%"
8 

  nodeStartupTimeout: "10m"
9
Copy to Clipboard Toggle word wrap

1
배포할 머신 상태 점검의 이름을 지정합니다.
2
베어 메탈 클러스터의 경우 전원 사이클 수정을 활성화하려면 annotations 섹션에 machine.openshift.io/remediation-strategy: external-baremetal 주석을 포함해야 합니다. 이 업데이트 적용 전략으로 비정상 호스트가 클러스터에서 제거되지 않고 재부팅됩니다.
3 4
확인할 머신 풀의 레이블을 지정합니다.
5
<cluster_name>-<label>-<zone> 형식으로 추적할 컴퓨팅 머신 세트를 지정합니다. 예를 들어 prod-node-us-east-1a입니다.
6 7
노드 상태에 대한 시간 제한을 지정합니다. 시간 제한 기간 중 상태가 일치되면 머신이 수정됩니다. 시간 제한이 길어지면 비정상 머신의 워크로드에 대한 다운타임이 길어질 수 있습니다.
8
대상 풀에서 동시에 복구할 수 있는 시스템 수를 지정합니다. 이는 백분율 또는 정수로 설정할 수 있습니다. 비정상 머신의 수가 maxUnhealthy에서의 설정 제한을 초과하면 복구가 수행되지 않습니다.
9
머신 상태가 비정상으로 확인되기 전에 노드가 클러스터에 참여할 때까지 기다려야 하는 시간 초과 기간을 지정합니다.
참고

matchLabels는 예제일 뿐입니다. 특정 요구에 따라 머신 그룹을 매핑해야 합니다.

베어 메탈, metal3 기반 수정을 위한 샘플 MachineHealthCheck 리소스

apiVersion: machine.openshift.io/v1beta1
kind: MachineHealthCheck
metadata:
  name: example
  namespace: openshift-machine-api
spec:
  selector:
    matchLabels:
      machine.openshift.io/cluster-api-machine-role: <role>
      machine.openshift.io/cluster-api-machine-type: <role>
      machine.openshift.io/cluster-api-machineset: <cluster_name>-<label>-<zone>
  remediationTemplate:
    apiVersion: infrastructure.cluster.x-k8s.io/v1beta1
    kind: Metal3RemediationTemplate
    name: metal3-remediation-template
    namespace: openshift-machine-api
  unhealthyConditions:
  - type:    "Ready"
    timeout: "300s"
Copy to Clipboard Toggle word wrap

베어 메탈, metal3 기반 복구를 위한 샘플 Metal3RemediationTemplate 리소스

apiVersion: infrastructure.cluster.x-k8s.io/v1beta1
kind: Metal3RemediationTemplate
metadata:
  name: metal3-remediation-template
  namespace: openshift-machine-api
spec:
  template:
    spec:
      strategy:
        type: Reboot
        retryLimit: 1
        timeout: 5m0s
Copy to Clipboard Toggle word wrap

참고

matchLabels는 예제일 뿐입니다. 특정 요구에 따라 머신 그룹을 매핑해야 합니다. 주석 섹션은 metal3 기반 치료에 적용되지 않습니다. 주석 기반 교정과 metal3 기반 교정은 상호 배타적입니다.

12.4.5. 전원 기반 수정 문제 해결
링크 복사

전원 기반 수정 문제를 해결하려면 다음을 확인합니다.

  • BMC에 액세스할 수 있습니다.
  • BMC는 수정 작업을 실행하는 컨트롤 플레인 노드에 연결됩니다.

Legal Notice
링크 복사

Copyright © 2025 Red Hat

OpenShift documentation is licensed under the Apache License 2.0 (https://www.apache.org/licenses/LICENSE-2.0).

Modified versions must remove all Red Hat trademarks.

Portions adapted from https://github.com/kubernetes-incubator/service-catalog/ with modifications by Red Hat.

Red Hat, Red Hat Enterprise Linux, the Red Hat logo, the Shadowman logo, JBoss, OpenShift, Fedora, the Infinity logo, and RHCE are trademarks of Red Hat, Inc., registered in the United States and other countries.

Linux® is the registered trademark of Linus Torvalds in the United States and other countries.

Java® is a registered trademark of Oracle and/or its affiliates.

XFS® is a trademark of Silicon Graphics International Corp. or its subsidiaries in the United States and/or other countries.

MySQL® is a registered trademark of MySQL AB in the United States, the European Union and other countries.

Node.js® is an official trademark of Joyent. Red Hat Software Collections is not formally related to or endorsed by the official Joyent Node.js open source or commercial project.

The OpenStack® Word Mark and OpenStack logo are either registered trademarks/service marks or trademarks/service marks of the OpenStack Foundation, in the United States and other countries and are used with the OpenStack Foundation’s permission. We are not affiliated with, endorsed or sponsored by the OpenStack Foundation, or the OpenStack community.

All other trademarks are the property of their respective owners.

맨 위로 이동
Red Hat logoGithubredditYoutubeTwitter

자세한 정보

평가판, 구매 및 판매

커뮤니티

Red Hat 문서 정보

Red Hat을 사용하는 고객은 신뢰할 수 있는 콘텐츠가 포함된 제품과 서비스를 통해 혁신하고 목표를 달성할 수 있습니다. 최신 업데이트를 확인하세요.

보다 포괄적 수용을 위한 오픈 소스 용어 교체

Red Hat은 코드, 문서, 웹 속성에서 문제가 있는 언어를 교체하기 위해 최선을 다하고 있습니다. 자세한 내용은 다음을 참조하세요.Red Hat 블로그.

Red Hat 소개

Red Hat은 기업이 핵심 데이터 센터에서 네트워크 에지에 이르기까지 플랫폼과 환경 전반에서 더 쉽게 작업할 수 있도록 강화된 솔루션을 제공합니다.

Theme

© 2025 Red Hat