GCP에 설치

OpenShift Container Platform 4.17

Google Cloud Platform에 OpenShift Container Platform 설치

Red Hat OpenShift Documentation Team

법적 공지

초록

이 문서에서는 Google Cloud Platform에 OpenShift Container Platform을 설치하는 방법을 설명합니다.

1장. GCP에 설치할 준비

1.1. 사전 요구 사항

OpenShift Container Platform 설치 및 업데이트 프로세스에 대한 세부 사항을 검토했습니다.
클러스터 설치 방법 선택 및 사용자를 위한 준비에 대한 문서를 읽습니다.

1.2. GCP에 OpenShift Container Platform을 설치하기 위한 요구사항

GCP(Google Cloud Platform)에 OpenShift Container Platform을 설치하기 전에 서비스 계정을 생성하고 GCP 프로젝트를 구성해야 합니다. 프로젝트 생성, API 서비스 활성화, DNS, GCP 계정 제한 및 지원되는 GCP 리전 구성에 대한 자세한 내용은 GCP 프로젝트 구성 을 참조하십시오.

사용자의 환경에서 클라우드 ID 및 액세스 관리(IAM) API에 액세스할 수 없거나 kube-system 네임스페이스에 관리자 수준의 인증 정보 시크릿을 저장하지 않으려면 다른 옵션에 대해 GCP의 장기 인증 정보 수동 생성 을 참조하십시오.

1.3. GCP에 OpenShift Container Platform을 설치할 방법 선택

설치 관리자 프로비저닝 또는 사용자 프로비저닝 인프라에 OpenShift Container Platform을 설치할 수 있습니다. 기본 설치 유형은 설치 프로그램이 클러스터의 기본 인프라를 프로비저닝하는 설치 관리자 프로비저닝 인프라를 사용합니다. 제공하는 인프라에 OpenShift Container Platform도 설치할 수 있습니다. 설치 프로그램에서 프로비저닝한 인프라를 사용하지 않는 경우 클러스터 리소스를 직접 관리하고 유지보수해야 합니다.

설치 관리자 프로비저닝 및 사용자 프로비저닝 설치 프로세스에 대한 자세한 내용은 설치 프로세스를 참조하십시오.

1.3.1. 설치 관리자 프로비저닝 인프라를 사용하여 클러스터 설치

다음 방법 중 하나를 사용하여 OpenShift Container Platform 설치 프로그램에서 프로비저닝한 GCP 인프라에 컨테이너를 설치할 수 있습니다.

GCP에 클러스터 빠른 설치: OpenShift Container Platform 설치 프로그램에서 프로비저닝한 GCP 인프라에 OpenShift Container Platform을 설치할 수 있습니다. 기본 구성 옵션을 사용하여 빠르게 클러스터를 설치할 수 있습니다.
GCP에 사용자 지정 클러스터 설치: 설치 프로그램이 프로비저닝하는 GCP 인프라에 사용자 지정 클러스터를 설치할 수 있습니다. 설치 프로그램을 통해 설치 단계에서 일부 사용자 지정을 적용할 수 있습니다. 다른 많은 사용자 정의 옵션은 설치 후 사용할 수 있습니다.
네트워크 사용자 지정으로 GCP에 클러스터 설치: 설치 중에 OpenShift Container Platform 네트워크 구성을 사용자 지정할 수 있으므로 클러스터가 기존 IP 주소 할당과 공존하고 네트워크 요구 사항을 준수할 수 있습니다.
제한된 네트워크의 GCP에 클러스터 설치: 설치 릴리스 콘텐츠의 내부 미러를 사용하여 설치 관리자 프로비저닝 인프라의 GCP에 OpenShift Container Platform을 설치할 수 있습니다. 이 방법을 사용하여 소프트웨어 구성 요소를 받기 위해 활성 인터넷 연결이 필요하지 않은 클러스터를 설치할 수 있습니다. 미러링된 콘텐츠를 사용하여 OpenShift Container Platform 클러스터를 설치할 수는 있지만 GCP API를 사용하려면 여전히 클러스터에 인터넷 액세스가 필요합니다.
기존 가상 프라이빗 클라우드에 클러스터 설치: 기존 GCP VPC(Virtual Private Cloud )에 OpenShift Container Platform을 설치할 수 있습니다. 새 계정 또는 인프라 생성 시 제한 사항과 같이 회사의 지침에 따라 설정되는 제약 조건이 있는 경우 이 설치 방법을 사용할 수 있습니다.
기존 VPC에 프라이빗 클러스터 설치: 프라이빗 GCP VPC 에 프라이빗 클러스터를 설치할 수 있습니다. 이 방법을 사용하여 인터넷에 표시되지 않는 내부 네트워크에 OpenShift Container Platform을 배포할 수 있습니다.

1.3.2. 사용자 프로비저닝 인프라를 사용하여 클러스터 설치

다음 방법 중 하나를 사용하여 프로비저닝하는 GCP 인프라에 클러스터를 설치할 수 있습니다.

사용자 프로비저닝 인프라가 있는 GCP에 클러스터 설치: 사용자가 제공하는 GCP 인프라에 OpenShift Container Platform을 설치할 수 있습니다. 제공된 Deployment Manager 템플릿을 사용하여 설치를 지원할 수 있습니다.
GCP의 사용자 프로비저닝 인프라에 공유 VPC로 클러스터 설치: 제공된 Deployment Manager 템플릿을 사용하여 공유 VPC 인프라에서 GCP 리소스를 생성할 수 있습니다.
사용자 프로비저닝 인프라가 있는 제한된 네트워크의 GCP에 클러스터 설치: 사용자 프로비저닝 인프라가 있는 제한된 네트워크의 GCP에 OpenShift Container Platform을 설치할 수 있습니다. 설치 릴리스 컨텐츠의 내부 미러를 만들어 소프트웨어 구성 요소를 가져오는 데 활성 인터넷 연결이 필요하지 않은 클러스터를 설치할 수 있습니다. 이 설치 방법을 사용하여 클러스터가 외부 콘텐츠에 대해 조직의 제어 조건을 충족하는 컨테이너 이미지만 사용하도록 할 수 있습니다.

1.4. 다음 단계

GCP 프로젝트 구성

2장. GCP 프로젝트 구성

OpenShift Container Platform을 설치하려면 먼저 호스팅할 GCP(Google Cloud Platform) 프로젝트를 구성해야 합니다.

2.1. GCP 프로젝트 생성

OpenShift Container Platform을 설치하려면 클러스터를 호스팅할 GCP(Google Cloud Platform) 계정에 프로젝트를 생성해야 합니다.

프로세스

OpenShift Container Platform 클러스터를 호스팅할 프로젝트를 생성합니다. GCP 문서의 프로젝트 생성 및 관리 단원을 참조하십시오.
중요
설치 관리자 프로비저닝 인프라를 사용하는 경우 GCP 프로젝트는 Premium Network Service Tier를 사용해야 합니다. 설치 프로그램을 사용하여 설치된 클러스터의 Standard Network Service Tier는 지원되지 않습니다. 설치 프로그램은 api-int.<cluster_name>.<base_domain> URL에 대한 내부 로드 밸런싱을 구성합니다.

2.2. GCP에서 API 서비스 활성화

GCP(Google Cloud Platform) 프로젝트에서 OpenShift Container Platform 설치를 완료하려면 여러 API 서비스에 액세스해야 합니다.

사전 요구 사항

클러스터를 호스팅할 프로젝트 생성을 완료했습니다.

프로세스

클러스터를 호스팅하는 프로젝트에서 다음과 같은 필수 API 서비스를 활성화합니다. 설치에 필요하지 않은 선택적 API 서비스를 활성화할 수도 있습니다. GCP 문서의 서비스 활성화 단원을 참조하십시오.

표 2.1. 필수 API 서비스
API 서비스	콘솔 서비스 이름
컴퓨팅 엔진 API	`compute.googleapis.com`
클라우드 리소스 관리자 API	`cloudresourcemanager.googleapis.com`
Google DNS API	`dns.googleapis.com`
IAM 서비스 계정 자격 증명 API	`iamcredentials.googleapis.com`
IAM(ID 및 액세스 관리) API	`iam.googleapis.com`
서비스 사용량 API	`serviceusage.googleapis.com`

표 2.2. 선택적 API 서비스
API 서비스	콘솔 서비스 이름
Google 클라우드 API	`cloudapis.googleapis.com`
서비스 관리 API	`servicemanagement.googleapis.com`
Google 클라우드 스토리지 JSON API	`storage-api.googleapis.com`
클라우드 스토리지	`storage-component.googleapis.com`

2.3. GCP용 DNS 구성

OpenShift Container Platform을 설치하려면 사용하는 GCP(Google Cloud Platform) 계정에 OpenShift Container Platform 클러스터를 호스팅하는 프로젝트와 동일한 프로젝트에 전용 퍼블릭 호스팅 영역이 있어야 합니다. 도메인에 대한 권한도 이 영역에 있어야 합니다. DNS 서비스는 클러스터와 외부 연결에 필요한 클러스터 DNS 확인 및 이름 조회 기능을 제공합니다.

프로세스

도메인 또는 하위 도메인과 등록 기관을 식별합니다. 기존 도메인 및 등록 기관을 이전하거나 GCP 또는 다른 소스를 통해 새 도메인과 등록 기관을 구할 수 있습니다.
참고
새 도메인을 구입하는 경우, 관련 DNS 변경사항이 전파되는 데 시간이 걸릴 수 있습니다. Google을 통한 도메인 구매에 대한 자세한 내용은 Google 도메인을 참조하십시오.
GCP 프로젝트에서 도메인 또는 하위 도메인의 퍼블릭 호스팅 영역을 생성합니다. GCP 문서의 퍼블릭 영역 생성 단원을 참조하십시오.
적절한 루트 도메인(예: openshiftcorp.com) 또는 하위 도메인(예: clusters.openshiftcorp.com)을 사용합니다.
호스팅 영역 레코드에서 권한이 있는 새 이름 서버를 추출합니다. GCP 문서의 클라우드 DNS 이름 서버 조회 단원을 참조하십시오.
일반적으로 네 가지 이름 서버가 있습니다.
도메인에서 사용하는 이름 서버의 등록 기관 레코드를 업데이트합니다. 예를 들어, 사용자 도메인을 Google 도메인에 등록한 경우 Google 도메인 도움말의 사용자 지정 이름 서버로 전환하는 방법 항목을 참조하십시오.
루트 도메인을 Google Cloud DNS로 마이그레이션했으면 DNS 레코드를 마이그레이션합니다. GCP 문서의 클라우드 DNS로 마이그레이션을 참조하십시오.
하위 도메인을 사용하는 경우, 회사의 프로시저에 따라 상위 도메인에 위임 레코드를 추가합니다. 이 과정에 회사의 IT 부서 또는 회사의 루트 도메인 및 DNS 서비스를 제어하는 부서에 요청하는 일도 포함될 수 있습니다.

2.4. GCP 계정 제한

OpenShift Container Platform 클러스터는 여러 GCP(Google Cloud Platform) 구성 요소를 사용하지만 기본 할당량이 기본 OpenShift Container Platform 클러스터 설치가 가능할지 여부에 영향을 미치지 않습니다.

컴퓨팅 및 컨트롤 플레인 시스템 세 개가 포함된 기본 클러스터는 다음과 같은 리소스를 사용합니다. 일부 리소스는 부트스트랩 프로세스 중에만 필요하며 클러스터 배포 후 제거됩니다.

표 2.3. 기본 클러스터에서 사용되는 GCP 리소스
서비스	구성 요소	위치	필요한 총 리소스	부트스트랩 후 제거된 리소스
서비스 계정	IAM	글로벌	6	1
방화벽 규칙	컴퓨팅	글로벌	11	1
전송 규칙	컴퓨팅	글로벌	2	0
사용 중인 글로벌 IP 주소	컴퓨팅	글로벌	4	1
상태 검사	컴퓨팅	글로벌	3	0
이미지	컴퓨팅	글로벌	1	0
네트워크	컴퓨팅	글로벌	2	0
고정 IP 주소	컴퓨팅	리전	4	1
라우터	컴퓨팅	글로벌	1	0
라우트	컴퓨팅	글로벌	2	0
서브네트워크	컴퓨팅	글로벌	2	0
대상 풀	컴퓨팅	글로벌	3	0
CPU	컴퓨팅	리전	28	4
영구 디스크 SSD(GB)	컴퓨팅	리전	896	128

참고

설치하는 동안 할당량이 충분하지 않으면 설치 프로그램에서 초과된 할당량과 리전을 모두 안내하는 오류 메시지를 표시합니다.

실제 클러스터 크기, 예상 클러스터 증가, 계정과 연결된 다른 클러스터의 사용량을 모두 고려해야 합니다. CPU, 고정 IP 주소, 영구 디스크 SSD(스토리지) 할당량이 가장 부족하기 쉬운 할당량입니다.

다음 리전 중 하나에서 클러스터를 배포하려는 경우, 최대 스토리지 할당량을 초과할 것이며, CPU 할당량 제한을 초과할 가능성도 있습니다.

asia-east2
asia-northeast2
asia-south1
australia-southeast1
europe-north1
europe-west2
europe-west3
europe-west6
northamerica-northeast1
southamerica-east1
us-west2

GCP 콘솔에서 리소스 할당량을 늘릴 수는 있지만 지원 티켓을 제출해야 할 수도 있습니다. OpenShift Container Platform 클러스터를 설치하기 전에 지원 티켓을 해결할 시간이 충분하도록 조기에 클러스터 크기를 계획해야 합니다.

2.5. GCP에서 서비스 계정 생성

OpenShift Container Platform에는 Google API의 데이터에 액세스하기 위한 인증 및 승인을 제공하는 GCP(Google Cloud Platform) 서비스 계정이 필요합니다. 프로젝트에 필요한 역할이 포함된 기존 IAM 서비스 계정이 없으면 새로 생성해야 합니다.

사전 요구 사항

클러스터를 호스팅할 프로젝트 생성을 완료했습니다.

프로세스

OpenShift Container Platform 클러스터를 호스팅하는 데 사용하는 프로젝트에 서비스 계정을 생성합니다. GCP 문서의 서비스 계정 생성 단원을 참조하십시오.
서비스 계정에 적절한 권한을 부여합니다. 뒤따르는 개별 권한을 부여하거나 Owner 역할을 할당할 수 있습니다. 서비스 계정에 특정 리소스에 대한 역할 부여를 참조하십시오.
참고
서비스 계정을 프로젝트 소유자로 지정하는 것은 가장 쉽게 필요한 권한을 얻는 방법이며, 서비스 계정으로 프로젝트를 완전히 제어할 수 있음을 의미합니다. 해당 권한을 제공하는 데 따른 위험이 수용 가능한 수준인지 확인해봐야 합니다.
JSON 형식으로 서비스 계정 키를 생성하거나 서비스 계정을 GCP 가상 머신에 연결할 수 있습니다. GCP 문서의 서비스 계정 키 생성 및 서비스 계정 생성 및 활성화를 참조하십시오.
참고
연결된 서비스 계정이 있는 가상 머신을 사용하여 클러스터를 생성하는 경우 설치 전에 install-config.yaml 파일에서 credentialsMode: Manual 을 설정해야 합니다.

2.5.1. 필수 GCP 역할

생성하는 서비스 계정에 Owner 역할을 연결하면 OpenShift Container Platform 설치에 필요한 권한을 포함하여 모든 권한이 해당 서비스 계정에 부여됩니다. 조직의 보안 정책에 보다 제한적인 권한 세트가 필요한 경우 다음 권한으로 서비스 계정을 생성할 수 있습니다. 기존 VPC(가상 프라이빗 클라우드)에 클러스터를 배포하는 경우 다음 목록에 명시된 특정 네트워킹 권한이 서비스 계정에 필요하지 않습니다.

설치 프로그램에 필요한 역할

컴퓨팅 관리자
역할 관리자
보안 관리자
서비스 계정 관리자
서비스 계정 키 관리자
서비스 계정 사용자
스토리지 관리자

설치 과정에서 네트워크 리소스를 생성하는 데 필요한 역할

DNS 관리자

passthrough 모드에서 Cloud Credential Operator를 사용하는 데 필요한 역할

Compute Load Balancer 관리자
태그 사용자

다음 역할은 컨트롤 플레인 및 컴퓨팅 시스템에서 사용하는 서비스 계정에 적용됩니다.

표 2.4. GCP 서비스 계정 역할
계정	역할
컨트롤 플레인	`roles/compute.instanceAdmin`
	`roles/compute.networkAdmin`
	`roles/compute.securityAdmin`
	`roles/storage.admin`
	`roles/iam.serviceAccountUser`
컴퓨팅	`roles/compute.viewer`
	`roles/storage.admin`
	`roles/artifactregistry.reader`

2.5.2. 설치 관리자 프로비저닝 인프라에 필요한 GCP 권한

생성하는 서비스 계정에 Owner 역할을 연결하면 OpenShift Container Platform 설치에 필요한 권한을 포함하여 모든 권한이 해당 서비스 계정에 부여됩니다.

조직의 보안 정책에 보다 제한적인 권한 세트가 필요한 경우 필요한 권한으로 사용자 지정 역할을 생성할 수 있습니다. OpenShift Container Platform 클러스터를 생성하고 삭제하기 위해 설치 관리자 프로비저닝 인프라에는 다음 권한이 필요합니다.

예 2.1. 네트워크 리소스 생성에 필요한 권한

compute.addresses.create
compute.addresses.createInternal
compute.addresses.delete
compute.addresses.get
compute.addresses.list
compute.addresses.use
compute.addresses.useInternal
compute.firewalls.create
compute.firewalls.delete
compute.firewalls.get
compute.firewalls.list
compute.forwardingRules.create
compute.forwardingRules.get
compute.forwardingRules.list
compute.forwardingRules.setLabels
compute.globalAddresses.create
compute.globalAddresses.get
compute.globalAddresses.use
compute.globalForwardingRules.create
compute.globalForwardingRules.get
compute.globalForwardingRules.setLabels
compute.networks.create
compute.networks.get
compute.networks.list
compute.networks.updatePolicy
compute.networks.use
compute.routers.create
compute.routers.get
compute.routers.list
compute.routers.update
compute.routes.list
compute.subnetworks.create
compute.subnetworks.get
compute.subnetworks.list
compute.subnetworks.use
compute.subnetworks.useExternalIp

예 2.2. 로드 밸런서 리소스 생성에 필요한 권한

compute.backendServices.create
compute.backendServices.get
compute.backendServices.list
compute.backendServices.update
compute.backendServices.use
compute.regionBackendServices.create
compute.regionBackendServices.get
compute.regionBackendServices.list
compute.regionBackendServices.update
compute.regionBackendServices.use
compute.targetPools.addInstance
compute.targetPools.create
compute.targetPools.get
compute.targetPools.list
compute.targetPools.removeInstance
compute.targetPools.use
compute.targetTcpProxies.create
compute.targetTcpProxies.get
compute.targetTcpProxies.use

예 2.3. DNS 리소스 생성에 필요한 권한

dns.changes.create
dns.changes.get
dns.managedZones.create
dns.managedZones.get
dns.managedZones.list
dns.networks.bindPrivateDNSZone
dns.resourceRecordSets.create
dns.resourceRecordSets.list

예 2.4. 서비스 계정 리소스 생성에 필요한 권한

iam.serviceAccountKeys.create
iam.serviceAccountKeys.delete
iam.serviceAccountKeys.get
iam.serviceAccountKeys.list
iam.serviceAccounts.actAs
iam.serviceAccounts.create
iam.serviceAccounts.delete
iam.serviceAccounts.get
iam.serviceAccounts.list
resourcemanager.projects.get
resourcemanager.projects.getIamPolicy
resourcemanager.projects.setIamPolicy

예 2.5. 컴퓨팅 리소스 생성에 필요한 권한

compute.disks.create
compute.disks.get
compute.disks.list
compute.disks.setLabels
compute.instanceGroups.create
compute.instanceGroups.delete
compute.instanceGroups.get
compute.instanceGroups.list
compute.instanceGroups.update
compute.instanceGroups.use
compute.instances.create
compute.instances.delete
compute.instances.get
compute.instances.list
compute.instances.setLabels
compute.instances.setMetadata
compute.instances.setServiceAccount
compute.instances.setTags
compute.instances.use
compute.machineTypes.get
compute.machineTypes.list

예 2.6. 스토리지 리소스 생성에 필요합니다.

storage.buckets.create
storage.buckets.delete
storage.buckets.get
storage.buckets.list
storage.objects.create
storage.objects.delete
storage.objects.get
storage.objects.list

예 2.7. 상태 점검 리소스 생성에 필요한 권한

compute.healthChecks.create
compute.healthChecks.get
compute.healthChecks.list
compute.healthChecks.useReadOnly
compute.httpHealthChecks.create
compute.httpHealthChecks.get
compute.httpHealthChecks.list
compute.httpHealthChecks.useReadOnly
compute.regionHealthChecks.create
compute.regionHealthChecks.get
compute.regionHealthChecks.useReadOnly

예 2.8. GCP 영역 및 지역 관련 정보를 가져오는 데 필요한 권한

compute.globalOperations.get
compute.regionOperations.get
compute.regions.get
compute.regions.list
compute.zoneOperations.get
compute.zones.get
compute.zones.list

예 2.9. 서비스 및 할당량 확인에 필요한 권한

monitoring.timeSeries.list
serviceusage.quotas.get
serviceusage.services.list

예 2.10. 설치에 필요한 IAM 권한

iam.roles.create
iam.roles.get
iam.roles.update

예 2.11. 서비스 계정 키 없이 인증할 때 필요한 권한

iam.serviceAccounts.signBlob

예 2.12. 설치에 대한 선택적 이미지 권한

compute.images.list

예 2.13. 수집 부트스트랩을 실행하기 위한 선택적 권한

compute.instances.getSerialPortOutput

예 2.14. 네트워크 리소스 삭제에 필요한 권한

compute.addresses.delete
compute.addresses.deleteInternal
compute.addresses.list
compute.addresses.setLabels
compute.firewalls.delete
compute.firewalls.list
compute.forwardingRules.delete
compute.forwardingRules.list
compute.globalAddresses.delete
compute.globalAddresses.list
compute.globalForwardingRules.delete
compute.globalForwardingRules.list
compute.networks.delete
compute.networks.list
compute.networks.updatePolicy
compute.routers.delete
compute.routers.list
compute.routes.list
compute.subnetworks.delete
compute.subnetworks.list

예 2.15. 로드 밸런서 리소스를 삭제하는 데 필요한 권한

compute.backendServices.delete
compute.backendServices.list
compute.regionBackendServices.delete
compute.regionBackendServices.list
compute.targetPools.delete
compute.targetPools.list
compute.targetTcpProxies.delete
compute.targetTcpProxies.list

예 2.16. DNS 리소스 삭제에 필요한 권한

dns.changes.create
dns.managedZones.delete
dns.managedZones.get
dns.managedZones.list
dns.resourceRecordSets.delete
dns.resourceRecordSets.list

예 2.17. 서비스 계정 리소스 삭제에 필요한 권한

iam.serviceAccounts.delete
iam.serviceAccounts.get
iam.serviceAccounts.list
resourcemanager.projects.getIamPolicy
resourcemanager.projects.setIamPolicy

예 2.18. 컴퓨팅 리소스 삭제에 필요한 권한

compute.disks.delete
compute.disks.list
compute.instanceGroups.delete
compute.instanceGroups.list
compute.instances.delete
compute.instances.list
compute.instances.stop
compute.machineTypes.list

예 2.19. 스토리지 리소스 삭제에 필요합니다.

storage.buckets.delete
storage.buckets.getIamPolicy
storage.buckets.list
storage.objects.delete
storage.objects.list

예 2.20. 상태 점검 리소스 삭제에 필요한 권한

compute.healthChecks.delete
compute.healthChecks.list
compute.httpHealthChecks.delete
compute.httpHealthChecks.list
compute.regionHealthChecks.delete
compute.regionHealthChecks.list

예 2.21. 삭제에 필요한 이미지 권한

compute.images.list

2.5.3. 공유 VPC 설치에 필요한 GCP 권한

공유 VPC 에 클러스터를 설치하는 경우 호스트 프로젝트와 서비스 프로젝트 모두에 대한 서비스 계정을 구성해야 합니다. 공유 VPC에 설치하지 않는 경우 이 섹션을 생략할 수 있습니다.

위에 나열된 대로 표준 설치에 필요한 최소 역할을 서비스 프로젝트에 적용해야 합니다.

중요

수동 또는 mint 인증 정보 모드에서 작동하는 Cloud Credential Operator에 대한 세분화된 권한을 사용할 수 있습니다. passthrough 인증 정보 모드에서는 세분화된 권한을 사용할 수 없습니다.

호스트 프로젝트가 다음 구성 중 하나를 서비스 계정에 적용하는지 확인합니다.

예 2.22. 호스트 프로젝트에서 방화벽을 생성하는 데 필요한 권한

projects/<host-project>/roles/dns.networks.bindPrivateDNSZone
roles/compute.networkAdmin
roles/compute.securityAdmin

예 2.23. 호스트 프로젝트에서 방화벽 삭제에 필요한 권한

compute.firewalls.delete
compute.networks.updatePolicy

예 2.24. 필요한 최소 권한

projects/<host-project>/roles/dns.networks.bindPrivateDNSZone
roles/compute.networkUser

install-config.yaml 파일에 컨트롤 플레인 노드에 대한 서비스 계정을 제공하지 않으면 호스트 프로젝트의 서비스 계정에 아래 권한을 부여하십시오. install-config.yaml 파일에 컴퓨팅 노드에 대한 서비스 계정을 제공하지 않는 경우 클러스터 삭제를 위해 호스트 프로젝트의 서비스 계정에 아래 권한을 부여하십시오.

resourcemanager.projects.getIamPolicy
resourcemanager.projects.setIamPolicy

2.5.4. 사용자 제공 서비스 계정에 필요한 GCP 권한

클러스터를 설치할 때 컴퓨팅 및 컨트롤 플레인 노드에는 자체 서비스 계정이 필요합니다. 기본적으로 설치 프로그램은 컨트롤 플레인 및 컴퓨팅 노드에 대한 서비스 계정을 생성합니다. 설치 프로그램에서 사용하는 서비스 계정에는 GCP 섹션에서 서비스 계정 생성 섹션과 resourcemanager.projects.getIamPolicy 및 resourcemanager.projects.setIamPolicy 권한에 나열된 역할 및 권한이 필요합니다. 이러한 권한은 호스트 프로젝트의 서비스 계정에 적용해야 합니다. 이 방법이 조직의 보안 요구 사항을 충족하지 않는 경우 install-config.yaml 파일에서 컨트롤 플레인 또는 컴퓨팅 노드에 대한 서비스 계정 이메일 주소를 제공할 수 있습니다. 자세한 내용은 GCP의 설치 구성 매개변수 페이지를 참조하십시오. 공유 VPC에 설치하는 동안 컨트롤 플레인 노드에 서비스 계정을 제공하는 경우 해당 서비스 계정에 호스트 프로젝트의 roles/compute.networkUser 역할을 부여해야 합니다. 컨트롤 플레인 서비스 계정을 제공할 때 설치 프로그램이 방화벽 규칙을 자동으로 생성하려면 해당 서비스 계정에 호스트 프로젝트의 roles/compute.networkAdmin 및 roles/compute.securityAdmin 역할을 부여해야 합니다. roles/compute.networkUser 역할만 제공하는 경우 방화벽 규칙을 수동으로 생성해야 합니다.

중요

컨트롤 플레인 및 컴퓨팅 노드에 대한 사용자 제공 서비스 계정에 각각 다음 역할이 필요합니다.

예 2.25. 컨트롤 플레인 노드에 필요한 역할

roles/compute.instanceAdmin
roles/compute.networkAdmin
roles/compute.securityAdmin
roles/storage.admin

예 2.26. 컴퓨팅 노드에 필요한 역할

roles/compute.viewer
roles/storage.admin
roles/artifactregistry.reader

2.6. 지원되는 GCP 리전

다음과 같은 GCP(Google Cloud Platform) 리전에 OpenShift Container Platform 클러스터를 배포할 수 있습니다.

Africa-south1 (남아프리카 공화국)
asia-east1 (대만 장화현)
asia-east2 (홍콩)
asia-northeast1 (일본 도쿄)
asia-northeast2 (일본 오사카)
asia-northeast3 (한국 서울)
asia-south1 (인도 뭄바이)
asia-south2 (인도 델리)
asia-southeast1 (싱가포르 주롱 웨스트)
asia-southeast2 (인도네시아 자카르타)
australia-southeast1 (호주 시드니)
australia-southeast2 (호주 Melbourne)
europe-central2 (폴란드 바르샤바)
europe-north1 (핀란드 하미나)
europe-southwest1 (스페르드, 스페인)
europe-west1 (벨기에 생기슬랭)
europe-west2 (영국 런던)
europe-west3 (독일 프랑크푸르트)
europe-west4 (네덜란드 엠스하벤)
europe-west6 (스위스 취리히)
europe-west8 (독일 미랜)
europe-west9 (프랑스, 프랑스)
europe-west12 ( 이탈리아 Turin)
me-central1 (Doha, 카타르, 중동)
me-central2 (Dammam, 사우디 아라비아, 중동)
me-west1 (벨 Aviv, 이스라엘)
northamerica-northeast1 (캐나다 퀘벡 주 몬트리올)
northamerica-northeast2 (캐나다 온타리오주 토론토)
southamerica-east1 (브라질 상파울루)
southamerica-west1 (원하는 시티아고)
us-central1 (미국 아이오와 주 카운실 블러프스)
us-east1 (미국 사우스 캐롤라이나 주 몽크스 코너)
us-east4 (미국 노던 버지니아 주 애쉬번)
us-east5 (Columbus,hanio)
us-south1 (하우스, Texas)
us-west1 (미국 오레곤 주 댈러스)
us-west2 (미국 캘리포니아 주 로스앤젤레스)
us-west3 (미국 유타 주 솔트레이크시티)
us-west4 (미국 네바다 라스베거스)

참고

지역 및 영역에서 사용할 수 있는 머신 유형 인스턴스를 확인하려면 Google 설명서 를 참조하십시오.

2.7. 다음 단계

OpenShift Container Platform 클러스터를 GCP에 설치합니다. 사용자 지정 클러스터를 설치하거나 기본 옵션으로 클러스터를 빠르게 설치할 수 있습니다.

3장. GCP에 클러스터 빠른 설치

OpenShift Container Platform 버전 4.17에서는 기본 구성 옵션을 사용하는 클러스터를 GCP(Google Cloud Platform)에 설치할 수 있습니다.

3.1. 사전 요구 사항

OpenShift Container Platform 설치 및 업데이트 프로세스에 대한 세부 사항을 검토했습니다.
클러스터 설치 방법 선택 및 사용자를 위한 준비에 대한 문서를 읽습니다.
클러스터를 호스팅 할 GCP 프로젝트를 구성했습니다.
방화벽을 사용하는 경우 클러스터가 액세스해야 하는 사이트를 허용하도록 방화벽을 구성했습니다.

3.2. OpenShift Container Platform 용 인터넷 액세스

OpenShift Container Platform 4.17에서 클러스터를 설치하려면 인터넷 액세스가 필요합니다.

다음의 경우 인터넷 액세스가 필요합니다.

OpenShift Cluster Manager 에 액세스하여 설치 프로그램을 다운로드하고 서브스크립션 관리를 수행합니다. 클러스터가 인터넷에 액세스할 수 있고 Telemetry 서비스를 비활성화하지 않은 경우, 클러스터에 자동으로 권한이 부여됩니다.
Quay.io에 액세스. 클러스터를 설치하는 데 필요한 패키지를 받을 수 있습니다.
클러스터 업데이트를 수행하는 데 필요한 패키지를 받을 수 있습니다.

중요

클러스터가 직접 인터넷에 액세스할 수 없는 경우, 프로비저닝하는 일부 유형의 인프라에서 제한된 네트워크 설치를 수행할 수 있습니다. 이 프로세스 동안 필요한 콘텐츠를 다운로드하고 이를 사용하여 설치 패키지로 미러 레지스트리를 채웁니다. 설치 유형에 따라서는 클러스터를 설치하는 환경에 인터넷 액세스가 필요하지 않을 수도 있습니다. 클러스터를 업데이트하기 전에 미러 레지스트리의 내용을 업데이트합니다.

3.3. 클러스터 노드 SSH 액세스를 위한 키 쌍 생성

OpenShift Container Platform을 설치하는 동안 SSH 공개 키를 설치 프로그램에 지정할 수 있습니다. 키는 Ignition 구성 파일을 통해 RHCOS(Red Hat Enterprise Linux CoreOS) 노드에 전달되며 노드에 대한 SSH 액세스를 인증하는 데 사용됩니다. 키는 각 노드에서 core 사용자의 ~/.ssh/authorized_keys 목록에 추가되어 암호 없는 인증을 활성화합니다.

키가 노드에 전달되면 키 쌍을 사용하여 사용자 core로 RHCOS 노드에 SSH로 SSH 연결을 수행할 수 있습니다 . SSH를 통해 노드에 액세스하려면 로컬 사용자의 SSH에서 개인 키 ID를 관리해야 합니다.

설치 디버깅 또는 재해 복구를 수행하기 위해 클러스터 노드에 SSH를 실행하려면 설치 프로세스 중에 SSH 공용 키를 지정해야 합니다. ./openshift-install gather 명령에도 SSH 공개 키가 클러스터 노드에 있어야 합니다.

중요

재해 복구 및 디버깅이 필요한 프로덕션 환경에서는이 단계를 생략하지 마십시오.

참고

AWS 키 쌍과 같이 플랫폼 고유의 방식으로 구성된 키가 아닌 로컬 키를 사용해야 합니다.

프로세스

로컬 시스템에 클러스터 노드의 인증에 사용할 기존 SSH 키 쌍이 없는 경우 새로 생성합니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
```
$ ssh-keygen -t ed25519 -N '' -f <path>/<file_name> 1
```
1
새 SSH 키의 경로 및 파일 이름(예: ~/.ssh/id_ed25519 )을 지정합니다. 기존 키 쌍이 있는 경우 공개 키가 '~/.ssh 디렉터리에 있는지 확인하십시오.
참고
x86_64,ppc64le, s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용하는 OpenShift Container Platform 클러스터를 설치하려면 ed25519 알고리즘을 사용하는 키를 생성하지 마십시오. 대신 rsa 또는 ecdsa 알고리즘을 사용하는 키를 생성합니다.
공개 SSH 키를 확인합니다.
```
$ cat <path>/<file_name>.pub
```
예를 들어 다음을 실행하여 ~/.ssh/id_ed25519.pub 공개 키를 확인합니다.
```
$ cat ~/.ssh/id_ed25519.pub
```
아직 추가되지 않은 경우 로컬 사용자의 SSH 에이전트에 SSH 개인 키 ID를 추가합니다. 키의 SSH 에이전트 관리는 클러스터 노드에 암호 없는 SSH 인증을 수행하거나 ./openshift-install gather 명령을 사용하려는 경우 필요합니다.
참고
일부 배포에서는 ~/.ssh/id_rsa 및 ~/.ssh/id_dsa와 같은 기본 SSH 개인 키 ID가 자동으로 관리됩니다.
1. ssh-agent 프로세스가 로컬 사용자에 대해 실행되지 않은 경우 백그라운드 작업으로 시작합니다.
```
$ eval "$(ssh-agent -s)"
```
  출력 예
```
Agent pid 31874
```
  참고
  클러스터가 FIPS 모드인 경우 FIPS 호환 알고리즘만 사용하여 SSH 키를 생성합니다. 키는 RSA 또는 ECDSA여야 합니다.
ssh-agent에 SSH 개인 키를 추가합니다.
```
$ ssh-add <path>/<file_name> 1
```
1
SSH 개인 키의 경로와 파일 이름을 지정합니다(예: ~/.ssh/id_ed25519).
출력 예
```
Identity added: /home/<you>/<path>/<file_name> (<computer_name>)
```

다음 단계

OpenShift Container Platform을 설치할 때 SSH 공개 키를 설치 프로그램에 지정합니다.

3.4. 설치 프로그램 받기

OpenShift Container Platform을 설치하기 전에 설치에 사용하는 호스트에 설치 파일을 다운로드합니다.

사전 요구 사항

500MB의 로컬 디스크 공간이 있는 Linux 또는 macOS를 실행하는 컴퓨터가 있습니다.

프로세스

Red Hat Hybrid Cloud Console의 Cluster Type 페이지로 이동합니다. Red Hat 계정이 있는 경우 인증 정보를 사용하여 로그인합니다. 계정이 없으면 계정을 만드십시오.
페이지의 자체 실행 섹션에서 인프라 공급자를 선택합니다.
OpenShift 설치 관리자의 드롭다운 메뉴에서 호스트 운영 체제 및 아키텍처를 선택하고 설치 프로그램 다운로드를 클릭합니다.
다운로드한 파일을 설치 구성 파일을 저장할 디렉터리에 배치합니다.
중요
- 설치 프로그램은 클러스터를 설치하는 데 사용하는 컴퓨터에 여러 파일을 만듭니다. 클러스터 설치를 마친 후 설치 프로그램과 설치 프로그램으로 생성되는 파일을 보관해야 합니다. 클러스터를 삭제하려면 두 파일이 모두 필요합니다.
- 클러스터 설치에 실패하거나 설치 프로그램으로 만든 파일을 삭제해도 클러스터는 제거되지 않습니다. 클러스터를 제거하려면 해당 클라우드 공급자에 적용되는 OpenShift Container Platform 설치 제거 절차를 완료해야 합니다.
설치 프로그램 파일의 압축을 풉니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
```
$ tar -xvf openshift-install-linux.tar.gz
```
Red Hat OpenShift Cluster Manager에서 설치 풀 시크릿을 다운로드합니다. 이 풀 시크릿을 사용하면 OpenShift Container Platform 구성 요소에 대한 컨테이너 이미지를 제공하는 Quay.io를 포함하여 인증 기관에서 제공하는 서비스로 인증할 수 있습니다.

작은 정보

또는 다운로드할 설치 프로그램 버전을 지정할 수 있는 Red Hat 고객 포털에서 설치 프로그램을 검색할 수 있습니다. 그러나 이 페이지에 액세스하려면 활성 서브스크립션이 있어야 합니다.

3.5. 클러스터 배포

호환되는 클라우드 플랫폼에 OpenShift Container Platform을 설치할 수 있습니다.

중요

최초 설치 과정에서 설치 프로그램의 create cluster 명령을 한 번만 실행할 수 있습니다.

사전 요구 사항

클러스터를 호스팅하는 클라우드 플랫폼으로 계정을 구성했습니다.
OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.
호스트의 클라우드 공급자 계정에 클러스터를 배포할 수 있는 올바른 권한이 있는지 확인했습니다. 잘못된 권한이 있는 계정으로 인해 누락된 권한이 표시되는 오류 메시지와 함께 설치 프로세스가 실패합니다.

프로세스

클러스터에 맞춰 구성하여 다음 위치에 저장한 GCP 계정의 서비스 계정 키를 사용하지 않는 기존 GCP 사용자 자격 증명을 삭제합니다.
- GOOGLE_CREDENTIALS, GOOGLE_CLOUD_KEYFILE_JSON 또는 GCLOUD_KEYFILE_JSON 환경 변수
- ~/.gcp/osServiceAccount.json 파일
- gcloud cli 기본 자격 증명
설치 프로그램이 포함된 디렉터리로 변경하고 클러스터 배포를 초기화합니다.
```
$ ./openshift-install create cluster --dir <installation_directory> \ 1
    --log-level=info 2
```
1
<installation_directory>는 설치 프로그램이 생성하는 파일을 저장할 디렉터리 이름을 지정합니다.
2
다른 설치 세부 사항을 보려면 info 대신 warn, debug 또는 error를 지정합니다.
디렉터리를 지정할 때 다음을 수행합니다.
- 디렉터리에 실행 권한이 있는지 확인합니다. 설치 디렉토리에서 Terraform 바이너리를 실행하려면 이 권한이 필요합니다.
- 빈 디렉터리를 사용합니다. 부트스트랩 X.509 인증서와 같은 일부 설치 자산은 단기간에 만료되므로 설치 디렉터리를 재사용해서는 안 됩니다. 다른 클러스터 설치의 개별 파일을 재사용하려면 해당 파일을 사용자 디렉터리에 복사하면 됩니다. 그러나 설치 자산의 파일 이름은 릴리스간에 변경될 수 있습니다. 따라서 이전 OpenShift Container Platform 버전에서 설치 파일을 복사할 때는 주의하십시오.
화면에 나타나는 지시에 따라 필요한 값을 입력합니다.
1. 선택사항: 클러스터 시스템에 액세스하는 데 사용할 SSH 키를 선택합니다.
  참고
  설치 디버깅 또는 재해 복구를 수행하려는 프로덕션 OpenShift Container Platform 클러스터의 경우 ssh-agent 프로세스가 사용하는 SSH 키를 지정합니다.
2. 대상 플랫폼으로 gcp를 선택합니다.
3. 호스트에 GCP 계정의 서비스 계정 키를 설정하지 않은 경우 GCP에서 해당 키를 가져와 파일의 내용을 붙여넣거나 파일의 전체 경로를 입력해야 합니다.
4. 클러스터를 프로비저닝할 프로젝트 ID를 선택합니다. 구성한 서비스 계정에 의해 기본값이 지정됩니다.
5. 클러스터를 배포할 리전을 선택합니다.
6. 클러스터를 배포할 기본 도메인을 선택합니다. 기본 도메인은 클러스터용으로 생성한 퍼블릭 DNS 영역에 해당합니다.
7. 클러스터를 설명할 수 있는 이름을 입력합니다. 이름이 6자를 초과하면 클러스터 이름에서 생성되는 인프라 ID에 이름의 처음 6자만 사용됩니다.
8. Red Hat OpenShift Cluster Manager에서 풀 시크릿을 붙여넣습니다.
선택사항: 클러스터를 설치하는 데 사용한 서비스 계정에 대한 권한 수를 줄일 수 있습니다.
- 서비스 계정에 Owner 역할을 할당한 경우, 해당 역할을 제거하고 Viewer 역할로 바꿀 수 있습니다.
- Service Account Key Admin 역할이 포함되어 있으면 제거할 수도 있습니다.

검증

클러스터 배포가 성공적으로 완료되면 다음을 수행합니다.

터미널에는 웹 콘솔에 대한 링크 및 kubeadmin 사용자의 인증 정보를 포함하여 클러스터에 액세스하는 지침이 표시됩니다.
인증 정보도 < installation_directory>/.openshift_install.log 로 출력합니다.

중요

설치 프로그램 또는 설치 프로그램이 생성하는 파일을 삭제하지 마십시오. 클러스터를 삭제하려면 두 가지가 모두 필요합니다.

출력 예

...
INFO Install complete!
INFO To access the cluster as the system:admin user when using 'oc', run 'export KUBECONFIG=/home/myuser/install_dir/auth/kubeconfig'
INFO Access the OpenShift web-console here: https://console-openshift-console.apps.mycluster.example.com
INFO Login to the console with user: "kubeadmin", and password: "password"
INFO Time elapsed: 36m22s

중요

설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인 node-bootstrapper 인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오.
24 시간 인증서는 클러스터를 설치한 후 16시간에서 22시간으로 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.

3.6. OpenShift CLI 설치

명령줄 인터페이스를 사용하여 OpenShift Container Platform과 상호 작용하기 위해 OpenShift CLI(oc)를 설치할 수 있습니다. Linux, Windows 또는 macOS에 oc를 설치할 수 있습니다.

중요

이전 버전의 oc 를 설치한 경우 OpenShift Container Platform 4.17의 모든 명령을 완료하는 데 해당 버전을 사용할 수 없습니다. 새 버전의 oc를 다운로드하여 설치합니다.

Linux에서 OpenShift CLI 설치

다음 절차를 사용하여 Linux에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
제품 변형 드롭다운 목록에서 아키텍처를 선택합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Linux Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
아카이브의 압축을 풉니다.
```
$ tar xvf <file>
```
oc 바이너리를 PATH에 있는 디렉터리에 배치합니다.
PATH를 확인하려면 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
$ oc <command>
```

Windows에서 OpenSfhit CLI 설치

다음 절차에 따라 Windows에 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Windows Client 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
ZIP 프로그램으로 아카이브의 압축을 풉니다.
oc 바이너리를 PATH에 있는 디렉터리로 이동합니다.
PATH를 확인하려면 명령 프롬프트를 열고 다음 명령을 실행합니다.
```
C:\> path
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
C:\> oc <command>
```

macOS에 OpenShift CLI 설치

다음 절차에 따라 macOS에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 macOS Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
참고
macOS arm64의 경우 OpenShift v4.17 macOS arm64 Client 항목을 선택합니다.
아카이브의 압축을 해제하고 압축을 풉니다.
oc 바이너리 PATH의 디렉터리로 이동합니다.
PATH를 확인하려면 터미널을 열고 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

oc 명령을 사용하여 설치를 확인합니다.
```
$ oc <command>
```

3.7. CLI를 사용하여 클러스터에 로그인

클러스터 kubeconfig 파일을 내보내서 기본 시스템 사용자로 클러스터에 로그인할 수 있습니다. kubeconfig 파일에는 CLI에서 올바른 클러스터 및 API 서버에 클라이언트를 연결하는 데 사용하는 클러스터에 대한 정보가 포함되어 있습니다. 이 파일은 클러스터별로 고유하며 OpenShift Container Platform 설치 과정에서 생성됩니다.

사전 요구 사항

OpenShift Container Platform 클러스터를 배포했습니다.
oc CLI를 설치했습니다.

프로세스

kubeadmin 인증 정보를 내보냅니다.
```
$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1
```
1
<installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
내보낸 구성을 사용하여 oc 명령을 성공적으로 실행할 수 있는지 확인합니다.
```
$ oc whoami
```
출력 예
```
system:admin
```

추가 리소스

OpenShift Container Platform 웹 콘솔 액세스 및 이해에 대한 자세한 내용은 웹 콘솔 액세스를 참조하십시오.

3.8. OpenShift Container Platform의 Telemetry 액세스

OpenShift Container Platform 4.17에서 클러스터 상태 및 업데이트 진행에 대한 메트릭을 제공하기 위해 기본적으로 실행되는 Telemetry 서비스에는 인터넷 액세스가 필요합니다. 클러스터가 인터넷에 연결되어 있으면 Telemetry가 자동으로 실행되고 OpenShift Cluster Manager에 클러스터가 자동으로 등록됩니다.

OpenShift Cluster Manager 인벤토리가 올바르거나 OpenShift Cluster Manager를 사용하여 자동으로 또는 OpenShift Cluster Manager를 사용하여 수동으로 유지 관리되는지 확인한 후 subscription watch를 사용하여 계정 또는 다중 클러스터 수준에서 OpenShift Container Platform 서브스크립션을 추적합니다.

추가 리소스

Telemetry 서비스에 대한 자세한 내용은 원격 상태 모니터링 정보를 참조하십시오.

3.9. 다음 단계

클러스터를 사용자 지정합니다.
필요한 경우 원격 상태 보고를 옵트아웃 할 수 있습니다.

4장. 사용자 지정 설정의 GCP에 클러스터 설치

OpenShift Container Platform 버전 4.17에서는 설치 프로그램이 GCP(Google Cloud Platform)에 프로비저닝하는 인프라에 사용자 지정 클러스터를 설치할 수 있습니다. 설치를 사용자 지정하려면 클러스터를 설치하기 전에 install-config.yaml 파일에서 매개변수를 수정합니다.

4.1. 사전 요구 사항

OpenShift Container Platform 설치 및 업데이트 프로세스에 대한 세부 사항을 검토했습니다.
클러스터 설치 방법 선택 및 사용자를 위한 준비에 대한 문서를 읽습니다.
클러스터를 호스팅 할 GCP 프로젝트를 구성했습니다.
방화벽을 사용하는 경우 클러스터가 액세스해야 하는 사이트를 허용하도록 방화벽을 구성했습니다.

4.2. OpenShift Container Platform 용 인터넷 액세스

OpenShift Container Platform 4.17에서 클러스터를 설치하려면 인터넷 액세스가 필요합니다.

다음의 경우 인터넷 액세스가 필요합니다.

OpenShift Cluster Manager 에 액세스하여 설치 프로그램을 다운로드하고 서브스크립션 관리를 수행합니다. 클러스터가 인터넷에 액세스할 수 있고 Telemetry 서비스를 비활성화하지 않은 경우, 클러스터에 자동으로 권한이 부여됩니다.
Quay.io에 액세스. 클러스터를 설치하는 데 필요한 패키지를 받을 수 있습니다.
클러스터 업데이트를 수행하는 데 필요한 패키지를 받을 수 있습니다.

중요

4.3. 클러스터 노드 SSH 액세스를 위한 키 쌍 생성

중요

재해 복구 및 디버깅이 필요한 프로덕션 환경에서는이 단계를 생략하지 마십시오.

참고

AWS 키 쌍과 같이 플랫폼 고유의 방식으로 구성된 키가 아닌 로컬 키를 사용해야 합니다.

프로세스

로컬 시스템에 클러스터 노드의 인증에 사용할 기존 SSH 키 쌍이 없는 경우 새로 생성합니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
```
$ ssh-keygen -t ed25519 -N '' -f <path>/<file_name> 1
```
1
새 SSH 키의 경로 및 파일 이름(예: ~/.ssh/id_ed25519 )을 지정합니다. 기존 키 쌍이 있는 경우 공개 키가 '~/.ssh 디렉터리에 있는지 확인하십시오.
참고
x86_64,ppc64le, s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용하는 OpenShift Container Platform 클러스터를 설치하려면 ed25519 알고리즘을 사용하는 키를 생성하지 마십시오. 대신 rsa 또는 ecdsa 알고리즘을 사용하는 키를 생성합니다.
공개 SSH 키를 확인합니다.
```
$ cat <path>/<file_name>.pub
```
예를 들어 다음을 실행하여 ~/.ssh/id_ed25519.pub 공개 키를 확인합니다.
```
$ cat ~/.ssh/id_ed25519.pub
```
아직 추가되지 않은 경우 로컬 사용자의 SSH 에이전트에 SSH 개인 키 ID를 추가합니다. 키의 SSH 에이전트 관리는 클러스터 노드에 암호 없는 SSH 인증을 수행하거나 ./openshift-install gather 명령을 사용하려는 경우 필요합니다.
참고
일부 배포에서는 ~/.ssh/id_rsa 및 ~/.ssh/id_dsa와 같은 기본 SSH 개인 키 ID가 자동으로 관리됩니다.
1. ssh-agent 프로세스가 로컬 사용자에 대해 실행되지 않은 경우 백그라운드 작업으로 시작합니다.
```
$ eval "$(ssh-agent -s)"
```
  출력 예
```
Agent pid 31874
```
  참고
  클러스터가 FIPS 모드인 경우 FIPS 호환 알고리즘만 사용하여 SSH 키를 생성합니다. 키는 RSA 또는 ECDSA여야 합니다.
ssh-agent에 SSH 개인 키를 추가합니다.
```
$ ssh-add <path>/<file_name> 1
```
1
SSH 개인 키의 경로와 파일 이름을 지정합니다(예: ~/.ssh/id_ed25519).
출력 예
```
Identity added: /home/<you>/<path>/<file_name> (<computer_name>)
```

다음 단계

OpenShift Container Platform을 설치할 때 SSH 공개 키를 설치 프로그램에 지정합니다.

4.4. 설치 프로그램 받기

OpenShift Container Platform을 설치하기 전에 설치에 사용하는 호스트에 설치 파일을 다운로드합니다.

사전 요구 사항

500MB의 로컬 디스크 공간이 있는 Linux 또는 macOS를 실행하는 컴퓨터가 있습니다.

프로세스

Red Hat Hybrid Cloud Console의 Cluster Type 페이지로 이동합니다. Red Hat 계정이 있는 경우 인증 정보를 사용하여 로그인합니다. 계정이 없으면 계정을 만드십시오.
페이지의 자체 실행 섹션에서 인프라 공급자를 선택합니다.
OpenShift 설치 관리자의 드롭다운 메뉴에서 호스트 운영 체제 및 아키텍처를 선택하고 설치 프로그램 다운로드를 클릭합니다.
다운로드한 파일을 설치 구성 파일을 저장할 디렉터리에 배치합니다.
중요
- 설치 프로그램은 클러스터를 설치하는 데 사용하는 컴퓨터에 여러 파일을 만듭니다. 클러스터 설치를 마친 후 설치 프로그램과 설치 프로그램으로 생성되는 파일을 보관해야 합니다. 클러스터를 삭제하려면 두 파일이 모두 필요합니다.
- 클러스터 설치에 실패하거나 설치 프로그램으로 만든 파일을 삭제해도 클러스터는 제거되지 않습니다. 클러스터를 제거하려면 해당 클라우드 공급자에 적용되는 OpenShift Container Platform 설치 제거 절차를 완료해야 합니다.
설치 프로그램 파일의 압축을 풉니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
```
$ tar -xvf openshift-install-linux.tar.gz
```
Red Hat OpenShift Cluster Manager에서 설치 풀 시크릿을 다운로드합니다. 이 풀 시크릿을 사용하면 OpenShift Container Platform 구성 요소에 대한 컨테이너 이미지를 제공하는 Quay.io를 포함하여 인증 기관에서 제공하는 서비스로 인증할 수 있습니다.

작은 정보

4.5. 설치 구성 파일 만들기

GCP(Google Cloud Platform)에 설치하는 OpenShift Container Platform 클러스터를 사용자 지정할 수 있습니다.

사전 요구 사항

OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.

프로세스

install-config.yaml 파일을 생성합니다.
1. 설치 프로그램이 포함된 디렉터리로 변경하고 다음 명령을 실행합니다.
```
$ ./openshift-install create install-config --dir <installation_directory> 1
```
  1
  <installation_directory>는 설치 프로그램이 생성하는 파일을 저장할 디렉터리 이름을 지정합니다.
  디렉터리를 지정할 때 다음을 수행합니다.
  - 디렉터리에 실행 권한이 있는지 확인합니다. 설치 디렉토리에서 Terraform 바이너리를 실행하려면 이 권한이 필요합니다.
  - 빈 디렉터리를 사용합니다. 부트스트랩 X.509 인증서와 같은 일부 설치 자산은 단기간에 만료되므로 설치 디렉터리를 재사용해서는 안 됩니다. 다른 클러스터 설치의 개별 파일을 재사용하려면 해당 파일을 사용자 디렉터리에 복사하면 됩니다. 그러나 설치 자산의 파일 이름은 릴리스간에 변경될 수 있습니다. 따라서 이전 OpenShift Container Platform 버전에서 설치 파일을 복사할 때는 주의하십시오.
2. 화면에 나타나는 지시에 따라 클라우드에 대한 구성 세부 사항을 입력합니다.
  1. 선택사항: 클러스터 시스템에 액세스하는 데 사용할 SSH 키를 선택합니다.
    참고
    설치 디버깅 또는 재해 복구를 수행하려는 프로덕션 OpenShift Container Platform 클러스터의 경우 ssh-agent 프로세스가 사용하는 SSH 키를 지정합니다.
  2. 대상 플랫폼으로 gcp를 선택합니다.
  3. 사용자 컴퓨터에 GCP 계정의 서비스 계정 키가 구성되어 있지 않은 경우, GCP에서 해당 키를 가져와 파일의 내용을 붙여 넣거나 파일의 전체 경로를 입력해야 합니다.
  4. 클러스터를 프로비저닝할 프로젝트 ID를 선택합니다. 구성한 서비스 계정에 의해 기본값이 지정됩니다.
  5. 클러스터를 배포할 리전을 선택합니다.
  6. 클러스터를 배포할 기본 도메인을 선택합니다. 기본 도메인은 클러스터용으로 생성한 퍼블릭 DNS 영역에 해당합니다.
  7. 클러스터를 설명할 수 있는 이름을 입력합니다.
install-config.yaml 파일을 수정합니다. 사용 가능한 매개변수에 대한 자세한 정보는 “설치 구성 매개변수” 섹션에서 확인할 수 있습니다.
참고
3-노드 클러스터를 설치하는 경우 compute.replicas 매개변수를 0 으로 설정해야 합니다. 이렇게 하면 클러스터의 컨트롤 플레인을 예약할 수 있습니다. 자세한 내용은 " GCP에 3-노드 클러스터 설치"를 참조하십시오.
여러 클러스터를 설치하는 데 사용할 수 있도록 install-config.yaml 파일을 백업합니다.
중요
install-config.yaml 파일은 설치 과정에서 사용됩니다. 이 파일을 재사용하려면 지금 백업해야 합니다.

추가 리소스

GCP의 설치 구성 매개변수

4.5.1. 클러스터 설치를 위한 최소 리소스 요구 사항

각 클러스터 시스템이 다음과 같은 최소 요구사항을 충족해야 합니다.

표 4.1. 최소 리소스 요구사항
머신	운영 체제	vCPU ^[1]	가상 RAM	스토리지	초당 입력/출력(IOPS)^[2]
부트스트랩	RHCOS	4	16GB	100GB	300
컨트롤 플레인	RHCOS	4	16GB	100GB	300
Compute	RHCOS, RHEL 8.6 이상 ^[3]	2	8GB	100GB	300

SMT(동시 멀티 스레딩) 또는 Hyper-Threading이 활성화되지 않은 경우 하나의 vCPU는 하나의 물리적 코어와 동일합니다. 활성화하면 다음과 같은 공식을 사용하여 해당 비율을 계산합니다. (코어 당 스레드 수 × 코어 수) × 소켓 수 = vCPU 수
OpenShift Container Platform 및 Kubernetes는 디스크 성능에 민감하며 특히 10ms p99 fsync 기간이 필요한 컨트롤 플레인 노드의 etcd에 더 빠른 스토리지가 권장됩니다. 많은 클라우드 플랫폼에서 스토리지 크기와 IOPS를 함께 확장되므로 충분한 성능을 얻으려면 스토리지 볼륨을 과도하게 할당해야 할 수 있습니다.
사용자가 프로비저닝한 모든 설치와 마찬가지로 클러스터에서 RHEL 컴퓨팅 머신을 사용하기로 선택한 경우 시스템 업데이트 수행, 패치 적용 및 기타 필요한 모든 작업 실행을 포함한 모든 운영 체제의 라이프 사이클 관리 및 유지 관리에 대한 책임이 있습니다. RHEL 7 컴퓨팅 머신 사용은 더 이상 사용되지 않으며 OpenShift Container Platform 4.10 이상에서 제거되었습니다.

참고

OpenShift Container Platform 버전 4.13부터 RHCOS는 RHEL 버전 9.2를 기반으로 하며 마이크로 아키텍처 요구 사항을 업데이트합니다. 다음 목록에는 각 아키텍처에 필요한 최소 명령 세트 아키텍처(ISA)가 포함되어 있습니다.

x86-64 아키텍처에는 x86-64-v2 ISA가 필요합니다.
ARM64 아키텍처에는 ARMv8.0-A ISA가 필요합니다.
IBM Power 아키텍처에는 Power 9 ISA가 필요합니다.
s390x 아키텍처에는 z14 ISA가 필요합니다.

자세한 내용은 RHEL 아키텍처를 참조하십시오.

플랫폼의 인스턴스 유형이 클러스터 머신의 최소 요구 사항을 충족하는 경우 OpenShift Container Platform에서 사용할 수 있습니다.

추가 리소스

스토리지 최적화

4.5.2. GCP에서 테스트된 인스턴스 유형

다음 Google Cloud Platform 인스턴스 유형은 OpenShift Container Platform에서 테스트되었습니다.

예 4.1. 머신 시리즈

A2
A3
C2
C2D
C3
C3D
E2
M1
N1
N2
N2D
N4
Tau T2D

4.5.3. 64비트 ARM 인프라에서 GCP에 대해 테스트된 인스턴스 유형

다음 GCP(Google Cloud Platform) 64비트 ARM 인스턴스 유형은 OpenShift Container Platform에서 테스트되었습니다.

예 4.2. 64비트 ARM 시스템용 머신 시리즈

Tau T2A

4.5.4. 사용자 지정 머신 유형 사용

사용자 지정 머신 유형을 사용하여 OpenShift Container Platform 클러스터를 설치할 수 있습니다.

사용자 지정 머신 유형을 사용할 때 다음을 고려하십시오.

사전 정의된 인스턴스 유형과 유사하게 사용자 정의 시스템 유형은 컨트롤 플레인 및 컴퓨팅 시스템의 최소 리소스 요구 사항을 충족해야 합니다. 자세한 내용은 "클러스터 설치를 위한 최소 리소스 요구 사항"을 참조하십시오.
사용자 지정 머신 유형의 이름은 다음 구문을 준수해야 합니다.
custom-<number_of_cpus>-<amount_of_memory_in_mb>
예를 들면 custom-6-20480 입니다.

설치 프로세스의 일부로 install-config.yaml 파일에 사용자 지정 머신 유형을 지정합니다.

사용자 지정 머신 유형이 있는 샘플 install-config.yaml 파일

compute:
- architecture: amd64
  hyperthreading: Enabled
  name: worker
  platform:
    gcp:
      type: custom-6-20480
  replicas: 2
controlPlane:
  architecture: amd64
  hyperthreading: Enabled
  name: master
  platform:
    gcp:
      type: custom-6-20480
  replicas: 3

4.5.5. Shielded VM 활성화

클러스터를 설치할 때 Shielded VM을 사용할 수 있습니다. Shielded VM에는 보안 부팅, 펌웨어 및 무결성 모니터링 및 루트킷 탐지를 포함한 추가 보안 기능이 있습니다. 자세한 내용은 Shielded VMs 에 대한 Google 문서를 참조하십시오.

참고

Shielded VM은 현재 64비트 ARM 인프라가 있는 클러스터에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 시스템에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       secureBoot: Enabled
```
2. 컴퓨팅 머신에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       secureBoot: Enabled
```
3. 모든 시스템에 대해 보호된 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       secureBoot: Enabled
```

4.5.6. 기밀성 VM 활성화

클러스터를 설치할 때 기밀성 VM을 사용할 수 있습니다. 기밀 VM은 처리되는 동안 데이터를 암호화합니다. 자세한 내용은 기밀 컴퓨팅 에 대한 Google 설명서를 참조하십시오. 상호 의존적이지는 않지만 기밀 VM과 실드 VM을 동시에 활성화할 수 있습니다.

참고

현재 기밀 VM은 64비트 ARM 아키텍처에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       confidentialCompute: Enabled 1
       type: n2d-standard-8 2
       onHostMaintenance: Terminate 3
```
  1
  기밀 VM을 활성화합니다.
  2
  기밀성 VM을 지원하는 머신 유형을 지정합니다. 기밀 VM에는 N2D 또는 C2D 일련의 머신 유형이 필요합니다. 지원되는 머신 유형에 대한 자세한 내용은 지원되는 운영 체제 및 머신 유형을 참조하십시오.
  3
  호스트 유지 관리 이벤트 중 하드웨어 또는 소프트웨어 업데이트와 같은 VM의 동작을 지정합니다. 기밀성 VM을 사용하는 시스템의 경우 이 값은 VM을 중지하도록 Terminate 로 설정해야 합니다. 기밀 VM은 실시간 VM 마이그레이션을 지원하지 않습니다.
2. 컴퓨팅 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```
3. 모든 머신에 기밀 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```

4.5.7. GCP용 샘플 사용자 지정 install-config.yaml 파일

install-config.yaml 파일을 사용자 지정하여 OpenShift Container Platform 클러스터 플랫폼에 대한 자세한 정보를 지정하거나 필수 매개변수 값을 수정할 수 있습니다.

중요

이 샘플 YAML 파일은 참조용으로만 제공됩니다. 설치 프로그램을 사용하여 install-config.yaml 파일을 받아서 수정해야 합니다.

apiVersion: v1
baseDomain: example.com 1
credentialsMode: Mint 2
controlPlane: 3 4
  hyperthreading: Enabled 5
  name: master
  platform:
    gcp:
      type: n2-standard-4
      zones:
      - us-central1-a
      - us-central1-c
      osDisk:
        diskType: pd-ssd
        diskSizeGB: 1024
        encryptionKey: 6
          kmsKey:
            name: worker-key
            keyRing: test-machine-keys
            location: global
            projectID: project-id
      tags: 7
      - control-plane-tag1
      - control-plane-tag2
      osImage: 8
        project: example-project-name
        name: example-image-name
  replicas: 3
compute: 9 10
- hyperthreading: Enabled 11
  name: worker
  platform:
    gcp:
      type: n2-standard-4
      zones:
      - us-central1-a
      - us-central1-c
      osDisk:
        diskType: pd-standard
        diskSizeGB: 128
        encryptionKey: 12
          kmsKey:
            name: worker-key
            keyRing: test-machine-keys
            location: global
            projectID: project-id
        tags: 13
        - compute-tag1
        - compute-tag2
        osImage: 14
          project: example-project-name
          name: example-image-name
  replicas: 3
metadata:
  name: test-cluster 15
networking:
  clusterNetwork:
  - cidr: 10.128.0.0/14
    hostPrefix: 23
  machineNetwork:
  - cidr: 10.0.0.0/16
  networkType: OVNKubernetes 16
  serviceNetwork:
  - 172.30.0.0/16
platform:
  gcp:
    projectID: openshift-production 17
    region: us-central1 18
    defaultMachinePlatform:
      tags: 19
      - global-tag1
      - global-tag2
      osImage: 20
        project: example-project-name
        name: example-image-name
pullSecret: '{"auths": ...}' 21
fips: false 22
sshKey: ssh-ed25519 AAAA... 23

1 15 17 18 21: 필수 항목입니다. 설치 프로그램에서 이 값을 입력하라는 메시지를 표시합니다.
2: 선택 사항: 이 매개변수를 추가하여 CCO(Cloud Credential Operator)에서 지정된 모드를 사용하도록 강제 적용합니다. 기본적으로 CCO는 kube-system 네임스페이스의 root 인증 정보를 사용하여 인증 정보의 기능을 동적으로 확인합니다. CCO 모드에 대한 자세한 내용은 인증 및 권한 부여 가이드의 "Cloud Credential Operator 정보" 섹션을 참조하십시오.
3 9: 이러한 매개변수와 값을 지정하지 않으면 설치 프로그램은 기본값을 적용합니다.
4 10: controlPlane 섹션은 단일 매핑이지만 compute 섹션은 일련의 매핑입니다. 서로 다른 데이터 구조의 요구사항을 충족하도록 compute 섹션의 첫 번째 줄은 하이픈(-)으로 시작해야 하며 controlPlane 섹션의 첫 번째 줄은 하이픈으로 시작할 수 없습니다. 하나의 컨트롤 플레인 풀만 사용됩니다.
5 11: 동시 멀티스레딩 또는 hyperthreading 활성화/비활성화 여부를 지정합니다. 시스템 코어의 성능을 높이기 위해 기본적으로 동시 멀티스레딩이 활성화됩니다. 매개변수 값을 Disabled로 설정하여 비활성화할 수 있습니다. 일부 클러스터 시스템에서 동시 멀티스레딩을 비활성화할 경우에는 해당 멀티스레딩을 모든 클러스터 시스템에서 비활성화해야 합니다.
중요
동시 멀티스레딩을 비활성화하는 경우 용량 계획에서 시스템 성능이 크게 저하될 수 있는 문제를 고려해야 합니다. 동시 멀티스레딩을 비활성화하는 경우, 사용자 시스템에 더 큰 시스템 유형(예: n1-standard-8)을 사용하십시오.
6 12: 선택 사항: 사용자 정의 암호화 키 섹션으로 가상 머신과 영구 볼륨을 모두 암호화합니다. 기본 컴퓨팅 서비스 계정에는 KMS 키를 사용하도록 부여된 권한이 있어야 하며 올바른 IAM 역할을 할당해야 합니다. 기본 서비스 계정 이름은 service-<project_number>@compute-system.iam.gserviceaccount.com 패턴을 따릅니다. 서비스 계정에 대한 올바른 권한을 부여하는 방법에 대한 자세한 내용은 "머신 관리" → "컴퓨팅 머신 세트 생성" → " GCP에서 컴퓨팅 머신 세트 생성"을 참조하십시오.
7 13 19: 선택 사항: 컨트롤 플레인 또는 컴퓨팅 머신 세트에 적용할 네트워크 태그 세트입니다. platform.gcp.defaultMachinePlatform.tags 매개변수는 컨트롤 플레인 및 컴퓨팅 시스템 모두에 적용됩니다. compute.platform.gcp.tags 또는 controlPlane.platform.gcp.tags 매개변수가 설정된 경우 platform.gcp.defaultMachinePlatform.tags 매개변수를 재정의합니다.
8 14 20: 선택사항: 컨트롤 플레인 및 컴퓨팅 머신을 부팅하는 데 사용해야 하는 사용자 지정 RHCOS(Red Hat Enterprise Linux CoreOS)입니다. platform.gcp.defaultMachinePlatform.osImage 아래의 project 및 name 매개변수는 컨트롤 플레인 및 컴퓨팅 시스템 모두에 적용됩니다. controlPlane.platform.gcp.osImage 또는 compute.platform.gcp.osImage 아래의 프로젝트 및 이름 매개변수가 설정된 경우 platform.gcp.defaultMachinePlatform.osImage 매개변수를 재정의합니다.
16: 설치할 클러스터 네트워크 플러그인입니다. 기본 값 OVNKubernetes 는 지원되는 유일한 값입니다.
22: FIPS 모드 활성화 또는 비활성화 여부입니다. 기본적으로 FIPS 모드는 비활성화됩니다. FIPS 모드가 활성화되면 OpenShift Container Platform이 실행되는 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템에서 기본 Kubernetes 암호화 제품군은 우회하고 RHCOS와 함께 제공되는 암호화 모듈을 대신 사용합니다.
중요
FIPS 모드에서 부팅된 RHEL(Red Hat Enterprise Linux CoreOS) 또는 RHCOS(Red Hat Enterprise Linux CoreOS)를 실행하는 경우 OpenShift Container Platform 코어 구성 요소는 x86_64, ppc64le 및 s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용합니다.
23: 선택사항으로, 클러스터의 시스템에 액세스하는 데 사용할 sshKey 값을 제공할 수도 있습니다.
참고
설치 디버깅 또는 재해 복구를 수행하려는 프로덕션 OpenShift Container Platform 클러스터의 경우 ssh-agent 프로세스가 사용하는 SSH 키를 지정합니다.

추가 리소스

컴퓨팅 머신 세트의 고객 관리 암호화 키 활성화

4.5.8. 설치 중 클러스터 단위 프록시 구성

프로덕션 환경에서는 인터넷에 대한 직접 액세스를 거부하고 대신 HTTP 또는 HTTPS 프록시를 사용할 수 있습니다. install-config.yaml 파일에서 프록시 설정을 구성하여 프록시가 사용되도록 새 OpenShift Container Platform 클러스터를 구성할 수 있습니다.

사전 요구 사항

기존 install-config.yaml 파일이 있습니다.
클러스터에서 액세스해야 하는 사이트를 검토하고 프록시를 바이패스해야 하는지 확인했습니다. 기본적으로 호스팅 클라우드 공급자 API에 대한 호출을 포함하여 모든 클러스터 발신(Egress) 트래픽이 프록시됩니다. 필요한 경우 프록시를 바이패스하기 위해 Proxy 오브젝트의 spec.noProxy 필드에 사이트를 추가했습니다.
참고
Proxy 오브젝트의 status.noProxy 필드는 설치 구성에 있는 networking.machineNetwork[].cidr, networking.clusterNetwork[].cidr, networking.serviceNetwork[] 필드의 값으로 채워집니다.
Amazon Web Services (AWS), Google Cloud Platform (GCP), Microsoft Azure 및 Red Hat OpenStack Platform (RHOSP)에 설치하는 경우 Proxy 오브젝트 status.noProxy 필드도 인스턴스 메타데이터 끝점(169.254.169.254)로 채워집니다.

프로세스

install-config.yaml 파일을 편집하고 프록시 설정을 추가합니다. 예를 들면 다음과 같습니다.
```
apiVersion: v1
baseDomain: my.domain.com
proxy:
  httpProxy: http://<username>:<pswd>@<ip>:<port> 1
  httpsProxy: https://<username>:<pswd>@<ip>:<port> 2
  noProxy: example.com 3
additionalTrustBundle: | 4
    -----BEGIN CERTIFICATE-----
    <MY_TRUSTED_CA_CERT>
    -----END CERTIFICATE-----
additionalTrustBundlePolicy: <policy_to_add_additionalTrustBundle> 5
```
1
클러스터 외부에서 HTTP 연결을 구축하는 데 사용할 프록시 URL입니다. URL 스키마는 http여야 합니다.
2
클러스터 외부에서 HTTPS 연결을 구축하는 데 사용할 프록시 URL입니다.
3
대상 도메인 이름, IP 주소 또는 프록시에서 제외할 기타 네트워크 CIDR로 이루어진 쉼표로 구분된 목록입니다. 하위 도메인과 일치하려면 도메인 앞에 .을 입력합니다. 예를 들어, .y.com은 x.y.com과 일치하지만 y.com은 일치하지 않습니다. *를 사용하여 모든 대상에 대해 프록시를 바이패스합니다.
4
이 값을 제공하면 설치 프로그램에서 HTTPS 연결을 프록시하는 데 필요한 추가 CA 인증서가 하나 이상 포함된 openshift-config 네임스페이스에 user-ca-bundle이라는 이름으로 구성 맵을 생성합니다. 그러면 CNO(Cluster Network Operator)에서 이러한 콘텐츠를 RHCOS(Red Hat Enterprise Linux CoreOS) 신뢰 번들과 병합하는 trusted-ca-bundle 구성 맵을 생성합니다. 이 구성 맵은 Proxy 오브젝트의 trustedCA 필드에서 참조됩니다. 프록시의 ID 인증서를 RHCOS 트러스트 번들에 있는 기관에서 서명하지 않은 경우 additionalTrustBundle 필드가 있어야 합니다.
5
선택 사항: trustedCA 필드에서 user-ca-bundle 구성 맵을 참조할 프록시 오브젝트의 구성을 결정하는 정책입니다. 허용되는 값은 Proxyonly 및 Always 입니다. http/https 프록시가 구성된 경우에만 user-ca-bundle 구성 맵을 참조하려면 Proxyonly 를 사용합니다. Always 를 사용하여 user-ca-bundle 구성 맵을 항상 참조합니다. 기본값은 Proxyonly 입니다.
참고
설치 프로그램에서 프록시 adinessEndpoints 필드를 지원하지 않습니다.
참고
설치 프로그램이 시간 초과되면 설치 프로그램의 wait-for 명령을 사용하여 배포를 다시 시작한 다음 완료합니다. 예를 들면 다음과 같습니다.
```
$ ./openshift-install wait-for install-complete --log-level debug
```
파일을 저장해 놓고 OpenShift Container Platform을 설치할 때 참조하십시오.

제공되는 install-config.yaml 파일의 프록시 설정을 사용하는 cluster라는 이름의 클러스터 전체 프록시가 설치 프로그램에 의해 생성됩니다. 프록시 설정을 제공하지 않아도 cluster Proxy 오브젝트는 계속 생성되지만 spec은 nil이 됩니다.

참고

cluster라는 Proxy 오브젝트만 지원되며 추가 프록시는 생성할 수 없습니다.

4.6. GCP의 사용자 정의 라벨 및 태그 관리

GCP(Google Cloud Platform)는 특정 OpenShift Container Platform 클러스터에 대해 생성된 리소스를 식별하고 구성하는 데 도움이 되는 레이블과 태그를 제공하여 보다 쉽게 관리할 수 있습니다.

OpenShift Container Platform 클러스터 설치 중에만 각 GCP 리소스에 대한 레이블 및 태그를 정의할 수 있습니다.

중요

OpenShift Container Platform 4.17으로 업그레이드된 OpenShift Container Platform 클러스터에서는 사용자 정의 레이블 및 태그가 지원되지 않습니다.

참고

이미 추가된 태그는 업데이트할 수 없습니다. 또한 구성된 태그 키 또는 태그 값이 삭제되면 새 태그 지원 리소스 생성이 실패합니다.

사용자 정의 라벨

사용자 정의 레이블 및 OpenShift Container Platform 특정 레이블은 OpenShift Container Platform 설치 프로그램에서 생성한 리소스 및 다음과 같은 핵심 구성 요소에만 적용됩니다.

GCP filestore CSI Driver Operator
GCP PD CSI Driver Operator
이미지 레지스트리 Operator
GCP용 머신 API 공급자

사용자 정의 레이블은 다른 Operator 또는 Kubernetes in-tree 구성 요소에서 생성한 리소스에 연결되지 않습니다.

사용자 정의 레이블 및 OpenShift Container Platform 라벨은 다음 GCP 리소스에서 사용할 수 있습니다.

컴퓨팅 디스크
컴퓨팅 전달 규칙
컴퓨팅 이미지
컴퓨팅 인스턴스
DNS 관리 영역
filestore 백업
파일 저장소 인스턴스
스토리지 버킷

사용자 정의 라벨 제한

ComputeAddress 의 라벨은 GCP 베타 버전에서 지원됩니다. OpenShift Container Platform은 리소스에 라벨을 추가하지 않습니다.

사용자 정의 태그

사용자 정의 태그는 OpenShift Container Platform 설치 프로그램에서 생성한 리소스 및 핵심 구성 요소(예: 다음 리소스)에만 적용됩니다.

GCP FileStore CSI Driver Operator
GCP PD CSI Driver Operator
이미지 레지스트리 Operator
GCP용 머신 API 공급자

사용자 정의 태그는 다른 Operator 또는 Kubernetes in-tree 구성 요소에서 생성한 리소스에 연결되지 않습니다.

사용자 정의 태그는 다음 GCP 리소스에서 사용할 수 있습니다.

컴퓨팅 디스크
컴퓨팅 인스턴스
filestore 백업
파일 저장소 인스턴스
스토리지 버킷

사용자 정의 태그에 대한 제한 사항

Operator는 최소한의 역할로 서비스 계정을 생성하고 사용하므로 태그는 특정 서비스 계정으로 제한해서는 안 됩니다.
OpenShift Container Platform은 태그의 키 및 값 리소스를 생성하지 않습니다.
OpenShift Container Platform 특정 태그는 리소스에 추가되지 않습니다.

추가 리소스

OrganizationID식별에 대한 자세한 내용은 OrganizationID 를 참조하십시오.
ProjectID식별에 대한 자세한 내용은 ProjectID 를 참조하십시오.
레이블에 대한 자세한 내용은 라벨 개요 를 참조하십시오.
태그에 대한 자세한 내용은 태그 개요 를 참조하십시오.

4.6.1. GCP의 사용자 정의 라벨 및 태그 구성

사전 요구 사항

설치 프로그램에서는 서비스 계정에 TagUser 역할이 필요하므로 프로그램이 조직 및 프로젝트 수준에서 정의된 태그로 OpenShift Container Platform 클러스터를 생성할 수 있습니다.

프로세스

install-config.yaml 파일을 업데이트하여 원하는 라벨 및 태그 목록을 정의합니다.
참고
레이블 및 태그는 install-config.yaml 생성 단계에서 정의되며 클러스터 생성 후에는 새 레이블 및 태그로 수정하거나 업데이트할 수 없습니다.
샘플 install-config.yaml 파일
```
apiVersion: v1
featureSet: TechPreviewNoUpgrade
platform:
 gcp:
   userLabels: 1
   - key: <label_key>2
     value: <label_value>3
   userTags: 4
   - parentID: <OrganizationID/ProjectID>5
     key: <tag_key_short_name>
     value: <tag_value_short_name>
```
1
GCP에서 생성된 리소스에 키와 값을 라벨로 추가합니다.
2
레이블 이름을 정의합니다.
3
레이블 콘텐츠를 정의합니다.
4
GCP에서 생성된 리소스에 키와 값을 태그로 추가합니다.
5
조직 또는 프로젝트 수준에서 태그가 정의된 계층 리소스의 ID입니다.

다음은 사용자 정의 라벨의 요구 사항입니다.

레이블 키와 값은 최소 1자 이상이어야 하며 최대 63자까지 사용할 수 있습니다.
레이블 키와 값은 소문자, 숫자 문자, 밑줄(_), 대시(-)만 포함되어야 합니다.
레이블 키는 소문자로 시작해야 합니다.
리소스당 최대 32개의 라벨을 구성할 수 있습니다. 각 리소스에는 최대 64개의 레이블이 있을 수 있으며, 32개의 레이블은 OpenShift Container Platform의 내부 사용을 위해 예약되어 있습니다.

다음은 사용자 정의 태그의 요구 사항입니다.

태그 키와 태그 값이 이미 있어야 합니다. OpenShift Container Platform은 키와 값을 생성하지 않습니다.
태그 parentID 는 OrganizationID 또는 ProjectID 일 수 있습니다.
- OrganizationID 는 앞에 0이 없는 10진수로 구성되어야 합니다.
- projectID 는 소문자, 숫자, 하이픈만 포함하는 6~30자여야 합니다.
- projectID 는 문자로 시작해야 하며 하이픈으로 끝낼 수 없습니다.
태그 키에는 대문자 및 소문자 영숫자, 하이픈(-), 밑줄(_) 및 마침표(.)만 포함되어야 합니다.
태그 값에는 대문자 및 소문자 영숫자, 하이픈(-), 밑줄( _), 마침표(_), 마침표(.), at sign(@), 백분율 기호(%), 등호( = ), 등호(=), 콜론(:), 쉼표(,), 별표(*)만 포함되어야 합니다. 파운드 기호($), ampersand(&amp; ), 설명()), 대괄호(), 대괄호([]), 중괄호({})및 공간.
태그 키와 값은 영숫자 문자로 시작하고 끝나야 합니다.
태그 값은 키의 사전 정의된 값 중 하나여야 합니다.
최대 50개의 태그를 구성할 수 있습니다.
상위 리소스에서 상속될 기존 태그 키와 동일한 값으로 정의된 태그 키가 없어야 합니다.

4.6.2. GCP의 사용자 정의 라벨 및 태그 쿼리

OpenShift Container Platform 클러스터를 생성한 후 다음 샘플 infrastructure.yaml 파일에 표시된 대로 infrastructure .config.openshift.io/cluster 오브젝트에 대해 정의된 라벨 및 태그 목록에 액세스할 수 있습니다.

infrastructure.yaml 파일 샘플

apiVersion: config.openshift.io/v1
kind: Infrastructure
metadata:
 name: cluster
spec:
 platformSpec:
   type: GCP
status:
 infrastructureName: <cluster_id>1
 platform: GCP
 platformStatus:
   gcp:
     resourceLabels:
     - key: <label_key>
       value: <label_value>
     resourceTags:
     - key: <tag_key_short_name>
       parentID: <OrganizationID/ProjectID>
       value: <tag_value_short_name>
   type: GCP

1: 클러스터 설치 중에 생성된 클러스터 ID입니다.

사용자 정의 레이블과 함께 리소스에는 OpenShift Container Platform에서 정의한 레이블이 있습니다. OpenShift Container Platform 라벨 형식은 kubernetes-io-cluster-<cluster_id>:owned 입니다.

4.7. OpenShift CLI 설치

중요

Linux에서 OpenShift CLI 설치

다음 절차를 사용하여 Linux에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
제품 변형 드롭다운 목록에서 아키텍처를 선택합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Linux Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
아카이브의 압축을 풉니다.
```
$ tar xvf <file>
```
oc 바이너리를 PATH에 있는 디렉터리에 배치합니다.
PATH를 확인하려면 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
$ oc <command>
```

Windows에서 OpenSfhit CLI 설치

다음 절차에 따라 Windows에 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Windows Client 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
ZIP 프로그램으로 아카이브의 압축을 풉니다.
oc 바이너리를 PATH에 있는 디렉터리로 이동합니다.
PATH를 확인하려면 명령 프롬프트를 열고 다음 명령을 실행합니다.
```
C:\> path
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
C:\> oc <command>
```

macOS에 OpenShift CLI 설치

다음 절차에 따라 macOS에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 macOS Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
참고
macOS arm64의 경우 OpenShift v4.17 macOS arm64 Client 항목을 선택합니다.
아카이브의 압축을 해제하고 압축을 풉니다.
oc 바이너리 PATH의 디렉터리로 이동합니다.
PATH를 확인하려면 터미널을 열고 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

oc 명령을 사용하여 설치를 확인합니다.
```
$ oc <command>
```

4.8. kube-system 프로젝트에 관리자 수준 시크릿을 저장하는 대안

기본적으로 관리자 시크릿은 kube-system 프로젝트에 저장됩니다. install-config.yaml 파일에서 credentialsMode 매개변수를 Manual 로 구성한 경우 다음 대안 중 하나를 사용해야 합니다.

장기 클라우드 인증 정보를 수동으로 관리하려면 수동으로 장기 인증 정보를 생성하는 절차를 따르십시오.
개별 구성 요소의 클러스터 외부에서 관리되는 단기 인증 정보를 구현하려면 GCP 클러스터 구성 절차에 따라 단기 인증 정보를 사용합니다.

4.8.1. 수동으로 장기 인증 정보 생성

Cloud Credential Operator (CCO)는 클라우드 아이덴티티 및 액세스 관리 (IAM) API에 연결할 수 없는 환경에서 설치하기 전에 수동 모드로 전환할 수 있습니다. 또는 관리자가 클러스터 kube-system 네임 스페이스에 관리자 수준의 인증 정보 시크릿을 저장하지 않도록 합니다.

프로세스

설치 프로그램이 사용하는 GCP 계정에 다음 세분화된 권한을 추가합니다.
예 4.3. 필요한 GCP 권한
- compute.machineTypes.list
- compute.regions.list
- compute.zones.list
- dns.changes.create
- dns.changes.get
- dns.managedZones.create
- dns.managedZones.delete
- dns.managedZones.get
- dns.managedZones.list
- dns.networks.bindPrivateDNSZone
- dns.resourceRecordSets.create
- dns.resourceRecordSets.delete
- dns.resourceRecordSets.list
install-config.yaml 구성 파일의 credentialsMode 매개변수를 Manual 로 설정하지 않은 경우 다음과 같이 값을 수정합니다.
구성 파일 스니펫 샘플
```
apiVersion: v1
baseDomain: example.com
credentialsMode: Manual
# ...
```
이전에 설치 매니페스트 파일을 생성하지 않은 경우 다음 명령을 실행하여 수행합니다.
```
$ openshift-install create manifests --dir <installation_directory>
```
여기서 <installation_directory>는 설치 프로그램이 파일을 생성하는 디렉터리입니다.
다음 명령을 실행하여 설치 파일의 릴리스 이미지로 $RELEASE_IMAGE 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```

다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CredentialsRequest CR(사용자 정의 리소스) 목록을 추출합니다.

$ oc adm release extract \
  --from=$RELEASE_IMAGE \
  --credentials-requests \
  --included \1
  --install-config=<path_to_directory_with_installation_configuration>/install-config.yaml \2
  --to=<path_to_directory_for_credentials_requests> 3

1: --included 매개변수에는 특정 클러스터 구성에 필요한 매니페스트만 포함됩니다.
2: install-config.yaml 파일의 위치를 지정합니다.
3: CredentialsRequest 오브젝트를 저장할 디렉터리의 경로를 지정합니다. 지정된 디렉터리가 없으면 이 명령이 이를 생성합니다.

이 명령을 수행하면 각 CredentialsRequest 오브젝트에 대해 YAML 파일이 생성됩니다.

샘플 CredentialsRequest 개체

apiVersion: cloudcredential.openshift.io/v1
kind: CredentialsRequest
metadata:
  name: <component_credentials_request>
  namespace: openshift-cloud-credential-operator
  ...
spec:
  providerSpec:
    apiVersion: cloudcredential.openshift.io/v1
    kind: GCPProviderSpec
    predefinedRoles:
    - roles/storage.admin
    - roles/iam.serviceAccountUser
    skipServiceCheck: true
  ...

이전에 생성한 openshift-install 매니페스트 디렉터리에 시크릿 YAML 파일을 만듭니다. 시크릿은 각 CredentialsRequest 오브젝트의 spec.secretRef에 정의된 네임 스페이스 및 시크릿 이름을 사용하여 저장해야 합니다.

보안이 포함된 샘플 CredentialsRequest 오브젝트

apiVersion: cloudcredential.openshift.io/v1
kind: CredentialsRequest
metadata:
  name: <component_credentials_request>
  namespace: openshift-cloud-credential-operator
  ...
spec:
  providerSpec:
    apiVersion: cloudcredential.openshift.io/v1
      ...
  secretRef:
    name: <component_secret>
    namespace: <component_namespace>
  ...

샘플 Secret 오브젝트

apiVersion: v1
kind: Secret
metadata:
  name: <component_secret>
  namespace: <component_namespace>
data:
  service_account.json: <base64_encoded_gcp_service_account_file>

중요

수동으로 유지 관리되는 인증 정보를 사용하는 클러스터를 업그레이드하기 전에 CCO가 업그레이드 가능한 상태인지 확인해야 합니다.

4.8.2. 단기 인증 정보를 사용하도록 GCP 클러스터 구성

GCP 워크로드 ID를 사용하도록 구성된 클러스터를 설치하려면 CCO 유틸리티를 구성하고 클러스터에 필요한 GCP 리소스를 생성해야 합니다.

4.8.2.1. Cloud Credential Operator 유틸리티 구성

CCO(Cloud Credential Operator)가 수동 모드에서 작동할 때 클러스터 외부에서 클라우드 인증 정보를 생성하고 관리하려면 CCO 유틸리티(ccoctl) 바이너리를 추출 및 준비합니다.

참고

ccoctl 유틸리티는 Linux 환경에서 실행해야 하는 Linux 바이너리입니다.

사전 요구 사항

클러스터 관리자 액세스 권한이 있는 OpenShift Container Platform 계정에 액세스할 수 있습니다.
OpenShift CLI(oc)가 설치되어 있습니다.

설치 프로그램이 사용하는 GCP 계정에 다음 인증 옵션 중 하나를 추가했습니다.
- IAM 워크로드 ID 풀 관리자 역할.
- 다음과 같은 세분화된 권한:
  예 4.4. 필요한 GCP 권한
  compute.projects.get
  iam.googleapis.com/workloadIdentityPoolProviders.create
  iam.googleapis.com/workloadIdentityPoolProviders.get
  iam.googleapis.com/workloadIdentityPools.create
  iam.googleapis.com/workloadIdentityPools.delete
  iam.googleapis.com/workloadIdentityPools.get
  iam.googleapis.com/workloadIdentityPools.undelete
  iam.roles.create
  iam.roles.delete
  iam.roles.list
  iam.roles.undelete
  iam.roles.update
  iam.serviceAccounts.create
  iam.serviceAccounts.delete
  iam.serviceAccounts.getIamPolicy
  iam.serviceAccounts.list
  iam.serviceAccounts.setIamPolicy
  iam.workloadIdentityPoolProviders.get
  iam.workloadIdentityPools.delete
  resourcemanager.projects.get
  resourcemanager.projects.getIamPolicy
  resourcemanager.projects.setIamPolicy
  storage.buckets.create
  storage.buckets.delete
  storage.buckets.get
  storage.buckets.getIamPolicy
  storage.buckets.setIamPolicy
  storage.objects.create
  storage.objects.delete
  storage.objects.list

프로세스

다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지의 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CCO 컨테이너 이미지를 가져옵니다.
```
$ CCO_IMAGE=$(oc adm release info --image-for='cloud-credential-operator' $RELEASE_IMAGE -a ~/.pull-secret)
```
참고
$RELEASE_IMAGE 의 아키텍처가 ccoctl 툴을 사용할 환경의 아키텍처와 일치하는지 확인합니다.
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지 내에서 ccoctl 바이너리를 추출합니다.
```
$ oc image extract $CCO_IMAGE \
  --file="/usr/bin/ccoctl.<rhel_version>" \1
  -a ~/.pull-secret
```
1
& lt;rhel_version > 의 경우 호스트가 사용하는 RHEL(Red Hat Enterprise Linux) 버전에 해당하는 값을 지정합니다. 값을 지정하지 않으면 기본적으로 ccoctl.rhel8 이 사용됩니다. 다음 값이 유효합니다.
rhel8: RHEL 8을 사용하는 호스트에 대해 이 값을 지정합니다.
rhel9: RHEL 9를 사용하는 호스트에 대해 이 값을 지정합니다.
다음 명령을 실행하여 ccoctl 을 실행할 수 있도록 권한을 변경합니다.
```
$ chmod 775 ccoctl.<rhel_version>
```

검증

ccoctl 을 사용할 준비가 되었는지 확인하려면 도움말 파일을 표시합니다. 명령을 실행할 때 상대 파일 이름을 사용합니다. 예를 들면 다음과 같습니다.

$ ./ccoctl.rhel9

출력 예

OpenShift credentials provisioning tool

Usage:
  ccoctl [command]

Available Commands:
  aws          Manage credentials objects for AWS cloud
  azure        Manage credentials objects for Azure
  gcp          Manage credentials objects for Google cloud
  help         Help about any command
  ibmcloud     Manage credentials objects for {ibm-cloud-title}
  nutanix      Manage credentials objects for Nutanix

Flags:
  -h, --help   help for ccoctl

Use "ccoctl [command] --help" for more information about a command.

4.8.2.2. Cloud Credential Operator 유틸리티를 사용하여 GCP 리소스 생성

ccoctl gcp create-all 명령을 사용하여 GCP 리소스 생성을 자동화할 수 있습니다.

참고

기본적으로 ccoctl은 명령이 실행되는 디렉터리에 오브젝트를 생성합니다. 다른 디렉터리에 오브젝트를 생성하려면 --output-dir 플래그를 사용합니다. 이 절차에서는 <path_to_ccoctl_output_dir>을 사용하여 이 디렉터리를 나타냅니다.

사전 요구 사항

다음이 있어야 합니다.

ccoctl 바이너리를 추출하여 준비합니다.

프로세스

다음 명령을 실행하여 설치 파일의 릴리스 이미지로 $RELEASE_IMAGE 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CredentialsRequest 오브젝트 목록을 추출합니다.
```
$ oc adm release extract \
  --from=$RELEASE_IMAGE \
  --credentials-requests \
  --included \1
  --install-config=<path_to_directory_with_installation_configuration>/install-config.yaml \2
  --to=<path_to_directory_for_credentials_requests> 3
```
1
--included 매개변수에는 특정 클러스터 구성에 필요한 매니페스트만 포함됩니다.
2
install-config.yaml 파일의 위치를 지정합니다.
3
CredentialsRequest 오브젝트를 저장할 디렉터리의 경로를 지정합니다. 지정된 디렉터리가 없으면 이 명령이 이를 생성합니다.
참고
이 명령을 실행하는 데 시간이 다소 걸릴 수 있습니다.
ccoctl 툴을 사용하여 다음 명령을 실행하여 모든 CredentialsRequest 오브젝트를 처리합니다.
```
$ ccoctl gcp create-all \
  --name=<name> \1
  --region=<gcp_region> \2
  --project=<gcp_project_id> \3
  --credentials-requests-dir=<path_to_credentials_requests_directory> 4
```
1
추적에 사용되는 모든 생성된 GCP 리소스의 사용자 정의 이름을 지정합니다.
2
클라우드 리소스가 생성될 GCP 리전을 지정합니다.
3
클라우드 리소스가 생성될 GCP 프로젝트 ID를 지정합니다.
4
GCP 서비스 계정을 생성하려면 CredentialsRequest 매니페스트 파일이 포함된 디렉터리를 지정합니다.
참고
클러스터에서 TechPreviewNoUpgrade 기능 세트에서 활성화한 기술 프리뷰 기능을 사용하는 경우 --enable-tech-preview 매개변수를 포함해야 합니다.

검증

OpenShift Container Platform 보안이 생성되었는지 확인하려면 <path_to_ccoctl_output_dir>/manifests 디렉터리에 파일을 나열합니다.

$ ls <path_to_ccoctl_output_dir>/manifests

출력 예

cluster-authentication-02-config.yaml
openshift-cloud-controller-manager-gcp-ccm-cloud-credentials-credentials.yaml
openshift-cloud-credential-operator-cloud-credential-operator-gcp-ro-creds-credentials.yaml
openshift-cloud-network-config-controller-cloud-credentials-credentials.yaml
openshift-cluster-api-capg-manager-bootstrap-credentials-credentials.yaml
openshift-cluster-csi-drivers-gcp-pd-cloud-credentials-credentials.yaml
openshift-image-registry-installer-cloud-credentials-credentials.yaml
openshift-ingress-operator-cloud-credentials-credentials.yaml
openshift-machine-api-gcp-cloud-credentials-credentials.yaml

GCP를 쿼리하여 IAM 서비스 계정이 생성되었는지 확인할 수 있습니다. 자세한 내용은 IAM 서비스 계정 나열에 대한 GCP 설명서를 참조하십시오.

4.8.2.3. Cloud Credential Operator 유틸리티 매니페스트 통합

개별 구성 요소에 대해 클러스터 외부에서 관리되는 단기 보안 인증 정보를 구현하려면 Cloud Credential Operator 유틸리티(ccoctl)가 생성된 매니페스트 파일을 설치 프로그램의 올바른 디렉터리로 이동해야 합니다.

사전 요구 사항

클러스터를 호스팅하는 클라우드 플랫폼으로 계정을 구성했습니다.
Cloud Credential Operator 유틸리티(ccoctl)를 구성했습니다.
ccoctl 유틸리티를 사용하여 클러스터에 필요한 클라우드 공급자 리소스를 생성했습니다.

프로세스

설치 프로그램이 사용하는 GCP 계정에 다음 세분화된 권한을 추가합니다.
예 4.5. 필요한 GCP 권한
- compute.machineTypes.list
- compute.regions.list
- compute.zones.list
- dns.changes.create
- dns.changes.get
- dns.managedZones.create
- dns.managedZones.delete
- dns.managedZones.get
- dns.managedZones.list
- dns.networks.bindPrivateDNSZone
- dns.resourceRecordSets.create
- dns.resourceRecordSets.delete
- dns.resourceRecordSets.list
install-config.yaml 구성 파일의 credentialsMode 매개변수를 Manual 로 설정하지 않은 경우 다음과 같이 값을 수정합니다.
구성 파일 스니펫 샘플
```
apiVersion: v1
baseDomain: example.com
credentialsMode: Manual
# ...
```
이전에 설치 매니페스트 파일을 생성하지 않은 경우 다음 명령을 실행하여 수행합니다.
```
$ openshift-install create manifests --dir <installation_directory>
```
여기서 <installation_directory>는 설치 프로그램이 파일을 생성하는 디렉터리입니다.
ccoctl 유틸리티가 생성된 매니페스트 를 다음 명령을 실행하여 설치 프로그램에서 생성한 매니페스트에 복사합니다.
```
$ cp /<path_to_ccoctl_output_dir>/manifests/* ./manifests/
```
개인 키가 포함된 tls 디렉터리를 설치 디렉터리에 복사합니다.
```
$ cp -a /<path_to_ccoctl_output_dir>/tls .
```

4.9. GCP Marketplace 오퍼링 사용

GCP Marketplace 오퍼링을 사용하면 GCP를 통해 사용량 기준(시간당 코어당)으로 청구되는 OpenShift Container Platform 클러스터를 배포할 수 있으며 Red Hat에서 직접 지원합니다.

기본적으로 설치 프로그램은 컴퓨팅 머신을 배포하는 데 사용되는 RHCOS(Red Hat Enterprise Linux CoreOS) 이미지를 다운로드하여 설치합니다. GCP Marketplace의 RHCOS 이미지를 사용하여 OpenShift Container Platform 클러스터를 배포하려면 GCP Marketplace 제안 위치를 참조하도록 install-config.yaml 파일을 수정하여 기본 동작을 재정의합니다.

사전 요구 사항

기존 install-config.yaml 파일이 있습니다.

프로세스

compute.platform.gcp.osImage 매개변수를 편집하여 GCP Marketplace 이미지의 위치를 지정합니다.
- project 매개변수를 redhat-marketplace-public으로 설정합니다.
- name 매개변수를 다음 제안 중 하나로 설정합니다.
  OpenShift Container Platform
  redhat-coreos-ocp-413-x86-64-202305021736
  OpenShift Platform Plus
  redhat-coreos-opp-413-x86-64-202305021736
  OpenShift Kubernetes Engine
  redhat-coreos-oke-413-x86-64-202305021736
파일을 저장하고 클러스터를 배포할 때 참조합니다.

컴퓨팅 머신의 GCP Marketplace 이미지를 지정하는 샘플 install-config.yaml 파일

apiVersion: v1
baseDomain: example.com
controlPlane:
# ...
compute:
  platform:
    gcp:
      osImage:
        project: redhat-marketplace-public
        name: redhat-coreos-ocp-413-x86-64-202305021736
# ...

4.10. 클러스터 배포

호환되는 클라우드 플랫폼에 OpenShift Container Platform을 설치할 수 있습니다.

중요

최초 설치 과정에서 설치 프로그램의 create cluster 명령을 한 번만 실행할 수 있습니다.

사전 요구 사항

클러스터를 호스팅하는 클라우드 플랫폼으로 계정을 구성했습니다.
OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.
호스트의 클라우드 공급자 계정에 클러스터를 배포할 수 있는 올바른 권한이 있는지 확인했습니다. 잘못된 권한이 있는 계정으로 인해 누락된 권한이 표시되는 오류 메시지와 함께 설치 프로세스가 실패합니다.

프로세스

클러스터에 맞춰 구성하여 다음 위치에 저장한 GCP 계정의 서비스 계정 키를 사용하지 않는 기존 GCP 사용자 자격 증명을 삭제합니다.
- GOOGLE_CREDENTIALS, GOOGLE_CLOUD_KEYFILE_JSON 또는 GCLOUD_KEYFILE_JSON 환경 변수
- ~/.gcp/osServiceAccount.json 파일
- gcloud cli 기본 자격 증명
설치 프로그램이 포함된 디렉터리로 변경하고 클러스터 배포를 초기화합니다.
```
$ ./openshift-install create cluster --dir <installation_directory> \ 1
    --log-level=info 2
```
1
<installation_directory> 값으로 사용자 지정한 ./install-config.yaml 파일의 위치를 지정합니다.
2
다른 설치 세부 사항을 보려면 info 대신 warn, debug 또는 error를 지정합니다.
선택사항: 클러스터를 설치하는 데 사용한 서비스 계정에 대한 권한 수를 줄일 수 있습니다.
- 서비스 계정에 Owner 역할을 할당한 경우, 해당 역할을 제거하고 Viewer 역할로 바꿀 수 있습니다.
- Service Account Key Admin 역할이 포함되어 있으면 제거할 수도 있습니다.

검증

클러스터 배포가 성공적으로 완료되면 다음을 수행합니다.

터미널에는 웹 콘솔에 대한 링크 및 kubeadmin 사용자의 인증 정보를 포함하여 클러스터에 액세스하는 지침이 표시됩니다.
인증 정보도 < installation_directory>/.openshift_install.log 로 출력합니다.

중요

설치 프로그램 또는 설치 프로그램이 생성하는 파일을 삭제하지 마십시오. 클러스터를 삭제하려면 두 가지가 모두 필요합니다.

출력 예

...
INFO Install complete!
INFO To access the cluster as the system:admin user when using 'oc', run 'export KUBECONFIG=/home/myuser/install_dir/auth/kubeconfig'
INFO Access the OpenShift web-console here: https://console-openshift-console.apps.mycluster.example.com
INFO Login to the console with user: "kubeadmin", and password: "password"
INFO Time elapsed: 36m22s

중요

설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인 node-bootstrapper 인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오.
24 시간 인증서는 클러스터를 설치한 후 16시간에서 22시간으로 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.

4.11. CLI를 사용하여 클러스터에 로그인

사전 요구 사항

OpenShift Container Platform 클러스터를 배포했습니다.
oc CLI를 설치했습니다.

프로세스

kubeadmin 인증 정보를 내보냅니다.
```
$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1
```
1
<installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
내보낸 구성을 사용하여 oc 명령을 성공적으로 실행할 수 있는지 확인합니다.
```
$ oc whoami
```
출력 예
```
system:admin
```

추가 리소스

OpenShift Container Platform 웹 콘솔 액세스 및 이해에 대한 자세한 내용은 웹 콘솔 액세스를 참조하십시오.

4.12. OpenShift Container Platform의 Telemetry 액세스

추가 리소스

Telemetry 서비스에 대한 자세한 내용은 원격 상태 모니터링 정보를 참조하십시오.

4.13. 다음 단계

클러스터를 사용자 지정합니다.
필요한 경우 원격 상태 보고를 옵트아웃 할 수 있습니다.

5장. 네트워크 사용자 지정 설정으로 GCP에 클러스터 설치

OpenShift Container Platform 버전 4.17에서는 설치 프로그램이 GCP(Google Cloud Platform)에 프로비저닝하는 인프라에 사용자 지정 네트워크 구성으로 클러스터를 설치할 수 있습니다. 네트워크 구성을 사용자 지정할 경우, 클러스터가 사용자 환경의 기존 IP 주소 할당과 공존하고 기존 MTU 및 VXLAN 구성과 통합될 수 있습니다. 설치를 사용자 지정하려면 클러스터를 설치하기 전에 install-config.yaml 파일에서 매개변수를 수정합니다.

설치 과정에서 네트워크 구성 매개변수를 대부분 설정해야 하며, 실행 중인 클러스터에서는 kubeProxy 구성 매개변수만 수정할 수 있습니다.

5.1. 사전 요구 사항

OpenShift Container Platform 설치 및 업데이트 프로세스에 대한 세부 사항을 검토했습니다.
클러스터 설치 방법 선택 및 사용자를 위한 준비에 대한 문서를 읽습니다.
클러스터를 호스팅 할 GCP 프로젝트를 구성했습니다.
방화벽을 사용하는 경우 클러스터가 액세스해야 하는 사이트를 허용하도록 방화벽을 구성했습니다.

5.2. OpenShift Container Platform 용 인터넷 액세스

OpenShift Container Platform 4.17에서 클러스터를 설치하려면 인터넷 액세스가 필요합니다.

다음의 경우 인터넷 액세스가 필요합니다.

OpenShift Cluster Manager 에 액세스하여 설치 프로그램을 다운로드하고 서브스크립션 관리를 수행합니다. 클러스터가 인터넷에 액세스할 수 있고 Telemetry 서비스를 비활성화하지 않은 경우, 클러스터에 자동으로 권한이 부여됩니다.
Quay.io에 액세스. 클러스터를 설치하는 데 필요한 패키지를 받을 수 있습니다.
클러스터 업데이트를 수행하는 데 필요한 패키지를 받을 수 있습니다.

중요

5.3. 클러스터 노드 SSH 액세스를 위한 키 쌍 생성

중요

재해 복구 및 디버깅이 필요한 프로덕션 환경에서는이 단계를 생략하지 마십시오.

참고

AWS 키 쌍과 같이 플랫폼 고유의 방식으로 구성된 키가 아닌 로컬 키를 사용해야 합니다.

프로세스

로컬 시스템에 클러스터 노드의 인증에 사용할 기존 SSH 키 쌍이 없는 경우 새로 생성합니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
```
$ ssh-keygen -t ed25519 -N '' -f <path>/<file_name> 1
```
1
새 SSH 키의 경로 및 파일 이름(예: ~/.ssh/id_ed25519 )을 지정합니다. 기존 키 쌍이 있는 경우 공개 키가 '~/.ssh 디렉터리에 있는지 확인하십시오.
참고
x86_64,ppc64le, s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용하는 OpenShift Container Platform 클러스터를 설치하려면 ed25519 알고리즘을 사용하는 키를 생성하지 마십시오. 대신 rsa 또는 ecdsa 알고리즘을 사용하는 키를 생성합니다.
공개 SSH 키를 확인합니다.
```
$ cat <path>/<file_name>.pub
```
예를 들어 다음을 실행하여 ~/.ssh/id_ed25519.pub 공개 키를 확인합니다.
```
$ cat ~/.ssh/id_ed25519.pub
```
아직 추가되지 않은 경우 로컬 사용자의 SSH 에이전트에 SSH 개인 키 ID를 추가합니다. 키의 SSH 에이전트 관리는 클러스터 노드에 암호 없는 SSH 인증을 수행하거나 ./openshift-install gather 명령을 사용하려는 경우 필요합니다.
참고
일부 배포에서는 ~/.ssh/id_rsa 및 ~/.ssh/id_dsa와 같은 기본 SSH 개인 키 ID가 자동으로 관리됩니다.
1. ssh-agent 프로세스가 로컬 사용자에 대해 실행되지 않은 경우 백그라운드 작업으로 시작합니다.
```
$ eval "$(ssh-agent -s)"
```
  출력 예
```
Agent pid 31874
```
  참고
  클러스터가 FIPS 모드인 경우 FIPS 호환 알고리즘만 사용하여 SSH 키를 생성합니다. 키는 RSA 또는 ECDSA여야 합니다.
ssh-agent에 SSH 개인 키를 추가합니다.
```
$ ssh-add <path>/<file_name> 1
```
1
SSH 개인 키의 경로와 파일 이름을 지정합니다(예: ~/.ssh/id_ed25519).
출력 예
```
Identity added: /home/<you>/<path>/<file_name> (<computer_name>)
```

다음 단계

OpenShift Container Platform을 설치할 때 SSH 공개 키를 설치 프로그램에 지정합니다.

5.4. 설치 프로그램 받기

OpenShift Container Platform을 설치하기 전에 설치에 사용하는 호스트에 설치 파일을 다운로드합니다.

사전 요구 사항

500MB의 로컬 디스크 공간이 있는 Linux 또는 macOS를 실행하는 컴퓨터가 있습니다.

프로세스

Red Hat Hybrid Cloud Console의 Cluster Type 페이지로 이동합니다. Red Hat 계정이 있는 경우 인증 정보를 사용하여 로그인합니다. 계정이 없으면 계정을 만드십시오.
페이지의 자체 실행 섹션에서 인프라 공급자를 선택합니다.
OpenShift 설치 관리자의 드롭다운 메뉴에서 호스트 운영 체제 및 아키텍처를 선택하고 설치 프로그램 다운로드를 클릭합니다.
다운로드한 파일을 설치 구성 파일을 저장할 디렉터리에 배치합니다.
중요
- 설치 프로그램은 클러스터를 설치하는 데 사용하는 컴퓨터에 여러 파일을 만듭니다. 클러스터 설치를 마친 후 설치 프로그램과 설치 프로그램으로 생성되는 파일을 보관해야 합니다. 클러스터를 삭제하려면 두 파일이 모두 필요합니다.
- 클러스터 설치에 실패하거나 설치 프로그램으로 만든 파일을 삭제해도 클러스터는 제거되지 않습니다. 클러스터를 제거하려면 해당 클라우드 공급자에 적용되는 OpenShift Container Platform 설치 제거 절차를 완료해야 합니다.
설치 프로그램 파일의 압축을 풉니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
```
$ tar -xvf openshift-install-linux.tar.gz
```
Red Hat OpenShift Cluster Manager에서 설치 풀 시크릿을 다운로드합니다. 이 풀 시크릿을 사용하면 OpenShift Container Platform 구성 요소에 대한 컨테이너 이미지를 제공하는 Quay.io를 포함하여 인증 기관에서 제공하는 서비스로 인증할 수 있습니다.

작은 정보

5.5. 설치 구성 파일 만들기

GCP(Google Cloud Platform)에 설치하는 OpenShift Container Platform 클러스터를 사용자 지정할 수 있습니다.

사전 요구 사항

OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.

프로세스

install-config.yaml 파일을 생성합니다.
1. 설치 프로그램이 포함된 디렉터리로 변경하고 다음 명령을 실행합니다.
```
$ ./openshift-install create install-config --dir <installation_directory> 1
```
  1
  <installation_directory>는 설치 프로그램이 생성하는 파일을 저장할 디렉터리 이름을 지정합니다.
  디렉터리를 지정할 때 다음을 수행합니다.
  - 디렉터리에 실행 권한이 있는지 확인합니다. 설치 디렉토리에서 Terraform 바이너리를 실행하려면 이 권한이 필요합니다.
  - 빈 디렉터리를 사용합니다. 부트스트랩 X.509 인증서와 같은 일부 설치 자산은 단기간에 만료되므로 설치 디렉터리를 재사용해서는 안 됩니다. 다른 클러스터 설치의 개별 파일을 재사용하려면 해당 파일을 사용자 디렉터리에 복사하면 됩니다. 그러나 설치 자산의 파일 이름은 릴리스간에 변경될 수 있습니다. 따라서 이전 OpenShift Container Platform 버전에서 설치 파일을 복사할 때는 주의하십시오.
2. 화면에 나타나는 지시에 따라 클라우드에 대한 구성 세부 사항을 입력합니다.
  1. 선택사항: 클러스터 시스템에 액세스하는 데 사용할 SSH 키를 선택합니다.
    참고
    설치 디버깅 또는 재해 복구를 수행하려는 프로덕션 OpenShift Container Platform 클러스터의 경우 ssh-agent 프로세스가 사용하는 SSH 키를 지정합니다.
  2. 대상 플랫폼으로 gcp를 선택합니다.
  3. 사용자 컴퓨터에 GCP 계정의 서비스 계정 키가 구성되어 있지 않은 경우, GCP에서 해당 키를 가져와 파일의 내용을 붙여 넣거나 파일의 전체 경로를 입력해야 합니다.
  4. 클러스터를 프로비저닝할 프로젝트 ID를 선택합니다. 구성한 서비스 계정에 의해 기본값이 지정됩니다.
  5. 클러스터를 배포할 리전을 선택합니다.
  6. 클러스터를 배포할 기본 도메인을 선택합니다. 기본 도메인은 클러스터용으로 생성한 퍼블릭 DNS 영역에 해당합니다.
  7. 클러스터를 설명할 수 있는 이름을 입력합니다.
install-config.yaml 파일을 수정합니다. 사용 가능한 매개변수에 대한 자세한 정보는 “설치 구성 매개변수” 섹션에서 확인할 수 있습니다.
여러 클러스터를 설치하는 데 사용할 수 있도록 install-config.yaml 파일을 백업합니다.
중요
install-config.yaml 파일은 설치 과정에서 사용됩니다. 이 파일을 재사용하려면 지금 백업해야 합니다.

추가 리소스

GCP의 설치 구성 매개변수

5.5.1. 클러스터 설치를 위한 최소 리소스 요구 사항

각 클러스터 시스템이 다음과 같은 최소 요구사항을 충족해야 합니다.

표 5.1. 최소 리소스 요구사항
머신	운영 체제	vCPU ^[1]	가상 RAM	스토리지	초당 입력/출력(IOPS)^[2]
부트스트랩	RHCOS	4	16GB	100GB	300
컨트롤 플레인	RHCOS	4	16GB	100GB	300
Compute	RHCOS, RHEL 8.6 이상 ^[3]	2	8GB	100GB	300

SMT(동시 멀티 스레딩) 또는 Hyper-Threading이 활성화되지 않은 경우 하나의 vCPU는 하나의 물리적 코어와 동일합니다. 활성화하면 다음과 같은 공식을 사용하여 해당 비율을 계산합니다. (코어 당 스레드 수 × 코어 수) × 소켓 수 = vCPU 수
OpenShift Container Platform 및 Kubernetes는 디스크 성능에 민감하며 특히 10ms p99 fsync 기간이 필요한 컨트롤 플레인 노드의 etcd에 더 빠른 스토리지가 권장됩니다. 많은 클라우드 플랫폼에서 스토리지 크기와 IOPS를 함께 확장되므로 충분한 성능을 얻으려면 스토리지 볼륨을 과도하게 할당해야 할 수 있습니다.
사용자가 프로비저닝한 모든 설치와 마찬가지로 클러스터에서 RHEL 컴퓨팅 머신을 사용하기로 선택한 경우 시스템 업데이트 수행, 패치 적용 및 기타 필요한 모든 작업 실행을 포함한 모든 운영 체제의 라이프 사이클 관리 및 유지 관리에 대한 책임이 있습니다. RHEL 7 컴퓨팅 머신 사용은 더 이상 사용되지 않으며 OpenShift Container Platform 4.10 이상에서 제거되었습니다.

참고

x86-64 아키텍처에는 x86-64-v2 ISA가 필요합니다.
ARM64 아키텍처에는 ARMv8.0-A ISA가 필요합니다.
IBM Power 아키텍처에는 Power 9 ISA가 필요합니다.
s390x 아키텍처에는 z14 ISA가 필요합니다.

자세한 내용은 RHEL 아키텍처를 참조하십시오.

플랫폼의 인스턴스 유형이 클러스터 머신의 최소 요구 사항을 충족하는 경우 OpenShift Container Platform에서 사용할 수 있습니다.

추가 리소스

스토리지 최적화

5.5.2. GCP에서 테스트된 인스턴스 유형

다음 Google Cloud Platform 인스턴스 유형은 OpenShift Container Platform에서 테스트되었습니다.

예 5.1. 머신 시리즈

A2
A3
C2
C2D
C3
C3D
E2
M1
N1
N2
N2D
N4
Tau T2D

5.5.3. 64비트 ARM 인프라에서 GCP에 대해 테스트된 인스턴스 유형

다음 GCP(Google Cloud Platform) 64비트 ARM 인스턴스 유형은 OpenShift Container Platform에서 테스트되었습니다.

예 5.2. 64비트 ARM 시스템용 머신 시리즈

Tau T2A

5.5.4. 사용자 지정 머신 유형 사용

사용자 지정 머신 유형을 사용하여 OpenShift Container Platform 클러스터를 설치할 수 있습니다.

사용자 지정 머신 유형을 사용할 때 다음을 고려하십시오.

사전 정의된 인스턴스 유형과 유사하게 사용자 정의 시스템 유형은 컨트롤 플레인 및 컴퓨팅 시스템의 최소 리소스 요구 사항을 충족해야 합니다. 자세한 내용은 "클러스터 설치를 위한 최소 리소스 요구 사항"을 참조하십시오.
사용자 지정 머신 유형의 이름은 다음 구문을 준수해야 합니다.
custom-<number_of_cpus>-<amount_of_memory_in_mb>
예를 들면 custom-6-20480 입니다.

설치 프로세스의 일부로 install-config.yaml 파일에 사용자 지정 머신 유형을 지정합니다.

사용자 지정 머신 유형이 있는 샘플 install-config.yaml 파일

compute:
- architecture: amd64
  hyperthreading: Enabled
  name: worker
  platform:
    gcp:
      type: custom-6-20480
  replicas: 2
controlPlane:
  architecture: amd64
  hyperthreading: Enabled
  name: master
  platform:
    gcp:
      type: custom-6-20480
  replicas: 3

5.5.5. Shielded VM 활성화

참고

Shielded VM은 현재 64비트 ARM 인프라가 있는 클러스터에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 시스템에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       secureBoot: Enabled
```
2. 컴퓨팅 머신에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       secureBoot: Enabled
```
3. 모든 시스템에 대해 보호된 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       secureBoot: Enabled
```

5.5.6. 기밀성 VM 활성화

참고

현재 기밀 VM은 64비트 ARM 아키텍처에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       confidentialCompute: Enabled 1
       type: n2d-standard-8 2
       onHostMaintenance: Terminate 3
```
  1
  기밀 VM을 활성화합니다.
  2
  기밀성 VM을 지원하는 머신 유형을 지정합니다. 기밀 VM에는 N2D 또는 C2D 일련의 머신 유형이 필요합니다. 지원되는 머신 유형에 대한 자세한 내용은 지원되는 운영 체제 및 머신 유형을 참조하십시오.
  3
  호스트 유지 관리 이벤트 중 하드웨어 또는 소프트웨어 업데이트와 같은 VM의 동작을 지정합니다. 기밀성 VM을 사용하는 시스템의 경우 이 값은 VM을 중지하도록 Terminate 로 설정해야 합니다. 기밀 VM은 실시간 VM 마이그레이션을 지원하지 않습니다.
2. 컴퓨팅 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```
3. 모든 머신에 기밀 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```

5.5.7. GCP용 샘플 사용자 지정 install-config.yaml 파일

중요

이 샘플 YAML 파일은 참조용으로만 제공됩니다. 설치 프로그램을 사용하여 install-config.yaml 파일을 받아서 수정해야 합니다.

apiVersion: v1
baseDomain: example.com 1
credentialsMode: Mint 2
controlPlane: 3 4
  hyperthreading: Enabled 5
  name: master
  platform:
    gcp:
      type: n2-standard-4
      zones:
      - us-central1-a
      - us-central1-c
      osDisk:
        diskType: pd-ssd
        diskSizeGB: 1024
        encryptionKey: 6
          kmsKey:
            name: worker-key
            keyRing: test-machine-keys
            location: global
            projectID: project-id
      tags: 7
      - control-plane-tag1
      - control-plane-tag2
      osImage: 8
        project: example-project-name
        name: example-image-name
  replicas: 3
compute: 9 10
- hyperthreading: Enabled 11
  name: worker
  platform:
    gcp:
      type: n2-standard-4
      zones:
      - us-central1-a
      - us-central1-c
      osDisk:
        diskType: pd-standard
        diskSizeGB: 128
        encryptionKey: 12
          kmsKey:
            name: worker-key
            keyRing: test-machine-keys
            location: global
            projectID: project-id
        tags: 13
        - compute-tag1
        - compute-tag2
        osImage: 14
          project: example-project-name
          name: example-image-name
  replicas: 3
metadata:
  name: test-cluster 15
networking: 16
  clusterNetwork:
  - cidr: 10.128.0.0/14
    hostPrefix: 23
  machineNetwork:
  - cidr: 10.0.0.0/16
  networkType: OVNKubernetes 17
  serviceNetwork:
  - 172.30.0.0/16
platform:
  gcp:
    projectID: openshift-production 18
    region: us-central1 19
    defaultMachinePlatform:
      tags: 20
      - global-tag1
      - global-tag2
      osImage: 21
        project: example-project-name
        name: example-image-name
pullSecret: '{"auths": ...}' 22
fips: false 23
sshKey: ssh-ed25519 AAAA... 24

1 15 18 19 22: 필수 항목입니다. 설치 프로그램에서 이 값을 입력하라는 메시지를 표시합니다.
2: 선택 사항: 이 매개변수를 추가하여 CCO(Cloud Credential Operator)에서 지정된 모드를 사용하도록 강제 적용합니다. 기본적으로 CCO는 kube-system 네임스페이스의 root 인증 정보를 사용하여 인증 정보의 기능을 동적으로 확인합니다. CCO 모드에 대한 자세한 내용은 인증 및 권한 부여 가이드의 "Cloud Credential Operator 정보" 섹션을 참조하십시오.
3 9 16: 이러한 매개변수와 값을 지정하지 않으면 설치 프로그램은 기본값을 적용합니다.
4 10: controlPlane 섹션은 단일 매핑이지만 compute 섹션은 일련의 매핑입니다. 서로 다른 데이터 구조의 요구사항을 충족하도록 compute 섹션의 첫 번째 줄은 하이픈(-)으로 시작해야 하며 controlPlane 섹션의 첫 번째 줄은 하이픈으로 시작할 수 없습니다. 하나의 컨트롤 플레인 풀만 사용됩니다.
5 11: 동시 멀티스레딩 또는 hyperthreading 활성화/비활성화 여부를 지정합니다. 시스템 코어의 성능을 높이기 위해 기본적으로 동시 멀티스레딩이 활성화됩니다. 매개변수 값을 Disabled로 설정하여 비활성화할 수 있습니다. 일부 클러스터 시스템에서 동시 멀티스레딩을 비활성화할 경우에는 해당 멀티스레딩을 모든 클러스터 시스템에서 비활성화해야 합니다.
중요
동시 멀티스레딩을 비활성화하는 경우 용량 계획에서 시스템 성능이 크게 저하될 수 있는 문제를 고려해야 합니다. 동시 멀티스레딩을 비활성화하는 경우, 사용자 시스템에 더 큰 시스템 유형(예: n1-standard-8)을 사용하십시오.
6 12: 선택 사항: 사용자 정의 암호화 키 섹션으로 가상 머신과 영구 볼륨을 모두 암호화합니다. 기본 컴퓨팅 서비스 계정에는 KMS 키를 사용하도록 부여된 권한이 있어야 하며 올바른 IAM 역할을 할당해야 합니다. 기본 서비스 계정 이름은 service-<project_number>@compute-system.iam.gserviceaccount.com 패턴을 따릅니다. 서비스 계정에 대한 올바른 권한을 부여하는 방법에 대한 자세한 내용은 "머신 관리" → "컴퓨팅 머신 세트 생성" → " GCP에서 컴퓨팅 머신 세트 생성"을 참조하십시오.
7 13 20: 선택 사항: 컨트롤 플레인 또는 컴퓨팅 머신 세트에 적용할 네트워크 태그 세트입니다. platform.gcp.defaultMachinePlatform.tags 매개변수는 컨트롤 플레인 및 컴퓨팅 시스템 모두에 적용됩니다. compute.platform.gcp.tags 또는 controlPlane.platform.gcp.tags 매개변수가 설정된 경우 platform.gcp.defaultMachinePlatform.tags 매개변수를 재정의합니다.
8 14 21: 선택사항: 컨트롤 플레인 및 컴퓨팅 머신을 부팅하는 데 사용해야 하는 사용자 지정 RHCOS(Red Hat Enterprise Linux CoreOS)입니다. platform.gcp.defaultMachinePlatform.osImage 아래의 project 및 name 매개변수는 컨트롤 플레인 및 컴퓨팅 시스템 모두에 적용됩니다. controlPlane.platform.gcp.osImage 또는 compute.platform.gcp.osImage 아래의 프로젝트 및 이름 매개변수가 설정된 경우 platform.gcp.defaultMachinePlatform.osImage 매개변수를 재정의합니다.
17: 설치할 클러스터 네트워크 플러그인입니다. 기본 값 OVNKubernetes 는 지원되는 유일한 값입니다.
23: FIPS 모드 활성화 또는 비활성화 여부입니다. 기본적으로 FIPS 모드는 비활성화됩니다. FIPS 모드가 활성화되면 OpenShift Container Platform이 실행되는 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템에서 기본 Kubernetes 암호화 제품군은 우회하고 RHCOS와 함께 제공되는 암호화 모듈을 대신 사용합니다.
중요
FIPS 모드에서 부팅된 RHEL(Red Hat Enterprise Linux CoreOS) 또는 RHCOS(Red Hat Enterprise Linux CoreOS)를 실행하는 경우 OpenShift Container Platform 코어 구성 요소는 x86_64, ppc64le 및 s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용합니다.
24: 선택사항으로, 클러스터의 시스템에 액세스하는 데 사용할 sshKey 값을 제공할 수도 있습니다.
참고
설치 디버깅 또는 재해 복구를 수행하려는 프로덕션 OpenShift Container Platform 클러스터의 경우 ssh-agent 프로세스가 사용하는 SSH 키를 지정합니다.

추가 리소스

컴퓨팅 머신 세트의 고객 관리 암호화 키 활성화

5.5.8. 설치 중 클러스터 단위 프록시 구성

사전 요구 사항

기존 install-config.yaml 파일이 있습니다.
클러스터에서 액세스해야 하는 사이트를 검토하고 프록시를 바이패스해야 하는지 확인했습니다. 기본적으로 호스팅 클라우드 공급자 API에 대한 호출을 포함하여 모든 클러스터 발신(Egress) 트래픽이 프록시됩니다. 필요한 경우 프록시를 바이패스하기 위해 Proxy 오브젝트의 spec.noProxy 필드에 사이트를 추가했습니다.
참고
Proxy 오브젝트의 status.noProxy 필드는 설치 구성에 있는 networking.machineNetwork[].cidr, networking.clusterNetwork[].cidr, networking.serviceNetwork[] 필드의 값으로 채워집니다.
Amazon Web Services (AWS), Google Cloud Platform (GCP), Microsoft Azure 및 Red Hat OpenStack Platform (RHOSP)에 설치하는 경우 Proxy 오브젝트 status.noProxy 필드도 인스턴스 메타데이터 끝점(169.254.169.254)로 채워집니다.

프로세스

install-config.yaml 파일을 편집하고 프록시 설정을 추가합니다. 예를 들면 다음과 같습니다.
```
apiVersion: v1
baseDomain: my.domain.com
proxy:
  httpProxy: http://<username>:<pswd>@<ip>:<port> 1
  httpsProxy: https://<username>:<pswd>@<ip>:<port> 2
  noProxy: example.com 3
additionalTrustBundle: | 4
    -----BEGIN CERTIFICATE-----
    <MY_TRUSTED_CA_CERT>
    -----END CERTIFICATE-----
additionalTrustBundlePolicy: <policy_to_add_additionalTrustBundle> 5
```
1
클러스터 외부에서 HTTP 연결을 구축하는 데 사용할 프록시 URL입니다. URL 스키마는 http여야 합니다.
2
클러스터 외부에서 HTTPS 연결을 구축하는 데 사용할 프록시 URL입니다.
3
대상 도메인 이름, IP 주소 또는 프록시에서 제외할 기타 네트워크 CIDR로 이루어진 쉼표로 구분된 목록입니다. 하위 도메인과 일치하려면 도메인 앞에 .을 입력합니다. 예를 들어, .y.com은 x.y.com과 일치하지만 y.com은 일치하지 않습니다. *를 사용하여 모든 대상에 대해 프록시를 바이패스합니다.
4
이 값을 제공하면 설치 프로그램에서 HTTPS 연결을 프록시하는 데 필요한 추가 CA 인증서가 하나 이상 포함된 openshift-config 네임스페이스에 user-ca-bundle이라는 이름으로 구성 맵을 생성합니다. 그러면 CNO(Cluster Network Operator)에서 이러한 콘텐츠를 RHCOS(Red Hat Enterprise Linux CoreOS) 신뢰 번들과 병합하는 trusted-ca-bundle 구성 맵을 생성합니다. 이 구성 맵은 Proxy 오브젝트의 trustedCA 필드에서 참조됩니다. 프록시의 ID 인증서를 RHCOS 트러스트 번들에 있는 기관에서 서명하지 않은 경우 additionalTrustBundle 필드가 있어야 합니다.
5
선택 사항: trustedCA 필드에서 user-ca-bundle 구성 맵을 참조할 프록시 오브젝트의 구성을 결정하는 정책입니다. 허용되는 값은 Proxyonly 및 Always 입니다. http/https 프록시가 구성된 경우에만 user-ca-bundle 구성 맵을 참조하려면 Proxyonly 를 사용합니다. Always 를 사용하여 user-ca-bundle 구성 맵을 항상 참조합니다. 기본값은 Proxyonly 입니다.
참고
설치 프로그램에서 프록시 adinessEndpoints 필드를 지원하지 않습니다.
참고
설치 프로그램이 시간 초과되면 설치 프로그램의 wait-for 명령을 사용하여 배포를 다시 시작한 다음 완료합니다. 예를 들면 다음과 같습니다.
```
$ ./openshift-install wait-for install-complete --log-level debug
```
파일을 저장해 놓고 OpenShift Container Platform을 설치할 때 참조하십시오.

참고

cluster라는 Proxy 오브젝트만 지원되며 추가 프록시는 생성할 수 없습니다.

5.6. OpenShift CLI 설치

중요

Linux에서 OpenShift CLI 설치

다음 절차를 사용하여 Linux에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
제품 변형 드롭다운 목록에서 아키텍처를 선택합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Linux Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
아카이브의 압축을 풉니다.
```
$ tar xvf <file>
```
oc 바이너리를 PATH에 있는 디렉터리에 배치합니다.
PATH를 확인하려면 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
$ oc <command>
```

Windows에서 OpenSfhit CLI 설치

다음 절차에 따라 Windows에 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Windows Client 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
ZIP 프로그램으로 아카이브의 압축을 풉니다.
oc 바이너리를 PATH에 있는 디렉터리로 이동합니다.
PATH를 확인하려면 명령 프롬프트를 열고 다음 명령을 실행합니다.
```
C:\> path
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
C:\> oc <command>
```

macOS에 OpenShift CLI 설치

다음 절차에 따라 macOS에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 macOS Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
참고
macOS arm64의 경우 OpenShift v4.17 macOS arm64 Client 항목을 선택합니다.
아카이브의 압축을 해제하고 압축을 풉니다.
oc 바이너리 PATH의 디렉터리로 이동합니다.
PATH를 확인하려면 터미널을 열고 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

oc 명령을 사용하여 설치를 확인합니다.
```
$ oc <command>
```

5.7. kube-system 프로젝트에 관리자 수준 시크릿을 저장하는 대안

장기 클라우드 인증 정보를 수동으로 관리하려면 수동으로 장기 인증 정보를 생성하는 절차를 따르십시오.
개별 구성 요소의 클러스터 외부에서 관리되는 단기 인증 정보를 구현하려면 GCP 클러스터 구성 절차에 따라 단기 인증 정보를 사용합니다.

5.7.1. 수동으로 장기 인증 정보 생성

프로세스

설치 프로그램이 사용하는 GCP 계정에 다음 세분화된 권한을 추가합니다.
예 5.3. 필요한 GCP 권한
- compute.machineTypes.list
- compute.regions.list
- compute.zones.list
- dns.changes.create
- dns.changes.get
- dns.managedZones.create
- dns.managedZones.delete
- dns.managedZones.get
- dns.managedZones.list
- dns.networks.bindPrivateDNSZone
- dns.resourceRecordSets.create
- dns.resourceRecordSets.delete
- dns.resourceRecordSets.list
install-config.yaml 구성 파일의 credentialsMode 매개변수를 Manual 로 설정하지 않은 경우 다음과 같이 값을 수정합니다.
구성 파일 스니펫 샘플
```
apiVersion: v1
baseDomain: example.com
credentialsMode: Manual
# ...
```
이전에 설치 매니페스트 파일을 생성하지 않은 경우 다음 명령을 실행하여 수행합니다.
```
$ openshift-install create manifests --dir <installation_directory>
```
여기서 <installation_directory>는 설치 프로그램이 파일을 생성하는 디렉터리입니다.
다음 명령을 실행하여 설치 파일의 릴리스 이미지로 $RELEASE_IMAGE 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```

다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CredentialsRequest CR(사용자 정의 리소스) 목록을 추출합니다.

$ oc adm release extract \
  --from=$RELEASE_IMAGE \
  --credentials-requests \
  --included \1
  --install-config=<path_to_directory_with_installation_configuration>/install-config.yaml \2
  --to=<path_to_directory_for_credentials_requests> 3

1: --included 매개변수에는 특정 클러스터 구성에 필요한 매니페스트만 포함됩니다.
2: install-config.yaml 파일의 위치를 지정합니다.
3: CredentialsRequest 오브젝트를 저장할 디렉터리의 경로를 지정합니다. 지정된 디렉터리가 없으면 이 명령이 이를 생성합니다.

이 명령을 수행하면 각 CredentialsRequest 오브젝트에 대해 YAML 파일이 생성됩니다.

샘플 CredentialsRequest 개체

apiVersion: cloudcredential.openshift.io/v1
kind: CredentialsRequest
metadata:
  name: <component_credentials_request>
  namespace: openshift-cloud-credential-operator
  ...
spec:
  providerSpec:
    apiVersion: cloudcredential.openshift.io/v1
    kind: GCPProviderSpec
    predefinedRoles:
    - roles/storage.admin
    - roles/iam.serviceAccountUser
    skipServiceCheck: true
  ...

보안이 포함된 샘플 CredentialsRequest 오브젝트

apiVersion: cloudcredential.openshift.io/v1
kind: CredentialsRequest
metadata:
  name: <component_credentials_request>
  namespace: openshift-cloud-credential-operator
  ...
spec:
  providerSpec:
    apiVersion: cloudcredential.openshift.io/v1
      ...
  secretRef:
    name: <component_secret>
    namespace: <component_namespace>
  ...

샘플 Secret 오브젝트

apiVersion: v1
kind: Secret
metadata:
  name: <component_secret>
  namespace: <component_namespace>
data:
  service_account.json: <base64_encoded_gcp_service_account_file>

중요

수동으로 유지 관리되는 인증 정보를 사용하는 클러스터를 업그레이드하기 전에 CCO가 업그레이드 가능한 상태인지 확인해야 합니다.

5.7.2. 단기 인증 정보를 사용하도록 GCP 클러스터 구성

GCP 워크로드 ID를 사용하도록 구성된 클러스터를 설치하려면 CCO 유틸리티를 구성하고 클러스터에 필요한 GCP 리소스를 생성해야 합니다.

5.7.2.1. Cloud Credential Operator 유틸리티 구성

참고

ccoctl 유틸리티는 Linux 환경에서 실행해야 하는 Linux 바이너리입니다.

사전 요구 사항

클러스터 관리자 액세스 권한이 있는 OpenShift Container Platform 계정에 액세스할 수 있습니다.
OpenShift CLI(oc)가 설치되어 있습니다.

설치 프로그램이 사용하는 GCP 계정에 다음 인증 옵션 중 하나를 추가했습니다.
- IAM 워크로드 ID 풀 관리자 역할.
- 다음과 같은 세분화된 권한:
  예 5.4. 필요한 GCP 권한
  compute.projects.get
  iam.googleapis.com/workloadIdentityPoolProviders.create
  iam.googleapis.com/workloadIdentityPoolProviders.get
  iam.googleapis.com/workloadIdentityPools.create
  iam.googleapis.com/workloadIdentityPools.delete
  iam.googleapis.com/workloadIdentityPools.get
  iam.googleapis.com/workloadIdentityPools.undelete
  iam.roles.create
  iam.roles.delete
  iam.roles.list
  iam.roles.undelete
  iam.roles.update
  iam.serviceAccounts.create
  iam.serviceAccounts.delete
  iam.serviceAccounts.getIamPolicy
  iam.serviceAccounts.list
  iam.serviceAccounts.setIamPolicy
  iam.workloadIdentityPoolProviders.get
  iam.workloadIdentityPools.delete
  resourcemanager.projects.get
  resourcemanager.projects.getIamPolicy
  resourcemanager.projects.setIamPolicy
  storage.buckets.create
  storage.buckets.delete
  storage.buckets.get
  storage.buckets.getIamPolicy
  storage.buckets.setIamPolicy
  storage.objects.create
  storage.objects.delete
  storage.objects.list

프로세스

다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지의 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CCO 컨테이너 이미지를 가져옵니다.
```
$ CCO_IMAGE=$(oc adm release info --image-for='cloud-credential-operator' $RELEASE_IMAGE -a ~/.pull-secret)
```
참고
$RELEASE_IMAGE 의 아키텍처가 ccoctl 툴을 사용할 환경의 아키텍처와 일치하는지 확인합니다.
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지 내에서 ccoctl 바이너리를 추출합니다.
```
$ oc image extract $CCO_IMAGE \
  --file="/usr/bin/ccoctl.<rhel_version>" \1
  -a ~/.pull-secret
```
1
& lt;rhel_version > 의 경우 호스트가 사용하는 RHEL(Red Hat Enterprise Linux) 버전에 해당하는 값을 지정합니다. 값을 지정하지 않으면 기본적으로 ccoctl.rhel8 이 사용됩니다. 다음 값이 유효합니다.
rhel8: RHEL 8을 사용하는 호스트에 대해 이 값을 지정합니다.
rhel9: RHEL 9를 사용하는 호스트에 대해 이 값을 지정합니다.
다음 명령을 실행하여 ccoctl 을 실행할 수 있도록 권한을 변경합니다.
```
$ chmod 775 ccoctl.<rhel_version>
```

검증

$ ./ccoctl.rhel9

출력 예

OpenShift credentials provisioning tool

Usage:
  ccoctl [command]

Available Commands:
  aws          Manage credentials objects for AWS cloud
  azure        Manage credentials objects for Azure
  gcp          Manage credentials objects for Google cloud
  help         Help about any command
  ibmcloud     Manage credentials objects for {ibm-cloud-title}
  nutanix      Manage credentials objects for Nutanix

Flags:
  -h, --help   help for ccoctl

Use "ccoctl [command] --help" for more information about a command.

5.7.2.2. Cloud Credential Operator 유틸리티를 사용하여 GCP 리소스 생성

ccoctl gcp create-all 명령을 사용하여 GCP 리소스 생성을 자동화할 수 있습니다.

참고

사전 요구 사항

다음이 있어야 합니다.

ccoctl 바이너리를 추출하여 준비합니다.

프로세스

다음 명령을 실행하여 설치 파일의 릴리스 이미지로 $RELEASE_IMAGE 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CredentialsRequest 오브젝트 목록을 추출합니다.
```
$ oc adm release extract \
  --from=$RELEASE_IMAGE \
  --credentials-requests \
  --included \1
  --install-config=<path_to_directory_with_installation_configuration>/install-config.yaml \2
  --to=<path_to_directory_for_credentials_requests> 3
```
1
--included 매개변수에는 특정 클러스터 구성에 필요한 매니페스트만 포함됩니다.
2
install-config.yaml 파일의 위치를 지정합니다.
3
CredentialsRequest 오브젝트를 저장할 디렉터리의 경로를 지정합니다. 지정된 디렉터리가 없으면 이 명령이 이를 생성합니다.
참고
이 명령을 실행하는 데 시간이 다소 걸릴 수 있습니다.
ccoctl 툴을 사용하여 다음 명령을 실행하여 모든 CredentialsRequest 오브젝트를 처리합니다.
```
$ ccoctl gcp create-all \
  --name=<name> \1
  --region=<gcp_region> \2
  --project=<gcp_project_id> \3
  --credentials-requests-dir=<path_to_credentials_requests_directory> 4
```
1
추적에 사용되는 모든 생성된 GCP 리소스의 사용자 정의 이름을 지정합니다.
2
클라우드 리소스가 생성될 GCP 리전을 지정합니다.
3
클라우드 리소스가 생성될 GCP 프로젝트 ID를 지정합니다.
4
GCP 서비스 계정을 생성하려면 CredentialsRequest 매니페스트 파일이 포함된 디렉터리를 지정합니다.
참고
클러스터에서 TechPreviewNoUpgrade 기능 세트에서 활성화한 기술 프리뷰 기능을 사용하는 경우 --enable-tech-preview 매개변수를 포함해야 합니다.

검증

OpenShift Container Platform 보안이 생성되었는지 확인하려면 <path_to_ccoctl_output_dir>/manifests 디렉터리에 파일을 나열합니다.

$ ls <path_to_ccoctl_output_dir>/manifests

출력 예

cluster-authentication-02-config.yaml
openshift-cloud-controller-manager-gcp-ccm-cloud-credentials-credentials.yaml
openshift-cloud-credential-operator-cloud-credential-operator-gcp-ro-creds-credentials.yaml
openshift-cloud-network-config-controller-cloud-credentials-credentials.yaml
openshift-cluster-api-capg-manager-bootstrap-credentials-credentials.yaml
openshift-cluster-csi-drivers-gcp-pd-cloud-credentials-credentials.yaml
openshift-image-registry-installer-cloud-credentials-credentials.yaml
openshift-ingress-operator-cloud-credentials-credentials.yaml
openshift-machine-api-gcp-cloud-credentials-credentials.yaml

GCP를 쿼리하여 IAM 서비스 계정이 생성되었는지 확인할 수 있습니다. 자세한 내용은 IAM 서비스 계정 나열에 대한 GCP 설명서를 참조하십시오.

5.7.2.3. Cloud Credential Operator 유틸리티 매니페스트 통합

사전 요구 사항

클러스터를 호스팅하는 클라우드 플랫폼으로 계정을 구성했습니다.
Cloud Credential Operator 유틸리티(ccoctl)를 구성했습니다.
ccoctl 유틸리티를 사용하여 클러스터에 필요한 클라우드 공급자 리소스를 생성했습니다.

프로세스

설치 프로그램이 사용하는 GCP 계정에 다음 세분화된 권한을 추가합니다.
예 5.5. 필요한 GCP 권한
- compute.machineTypes.list
- compute.regions.list
- compute.zones.list
- dns.changes.create
- dns.changes.get
- dns.managedZones.create
- dns.managedZones.delete
- dns.managedZones.get
- dns.managedZones.list
- dns.networks.bindPrivateDNSZone
- dns.resourceRecordSets.create
- dns.resourceRecordSets.delete
- dns.resourceRecordSets.list
install-config.yaml 구성 파일의 credentialsMode 매개변수를 Manual 로 설정하지 않은 경우 다음과 같이 값을 수정합니다.
구성 파일 스니펫 샘플
```
apiVersion: v1
baseDomain: example.com
credentialsMode: Manual
# ...
```
이전에 설치 매니페스트 파일을 생성하지 않은 경우 다음 명령을 실행하여 수행합니다.
```
$ openshift-install create manifests --dir <installation_directory>
```
여기서 <installation_directory>는 설치 프로그램이 파일을 생성하는 디렉터리입니다.
ccoctl 유틸리티가 생성된 매니페스트 를 다음 명령을 실행하여 설치 프로그램에서 생성한 매니페스트에 복사합니다.
```
$ cp /<path_to_ccoctl_output_dir>/manifests/* ./manifests/
```
개인 키가 포함된 tls 디렉터리를 설치 디렉터리에 복사합니다.
```
$ cp -a /<path_to_ccoctl_output_dir>/tls .
```

5.8. 네트워크 구성 단계

OpenShift Container Platform을 설치하기 전에 네트워크 구성을 사용자 지정할 수 있습니다.

1 단계

매니페스트 파일을 생성하기 전에 install-config.yaml 파일에서 다음 네트워크 관련 필드를 사용자 지정할 수 있습니다.

networking.networkType
networking.clusterNetwork
networking.serviceNetwork
networking.machineNetwork
자세한 내용은 "설치 구성 매개변수"를 참조하십시오.
참고
기본 서브넷이 있는 CIDR(Classless Inter-Domain Routing)과 일치하도록 networking.machineNetwork 를 설정합니다.
중요
CIDR 범위 172.17.0.0/16 은 libVirt 에 의해 예약되어 있습니다. 클러스터의 네트워크에 172.17.0.0/16 CIDR 범위와 겹치는 다른 CIDR 범위는 사용할 수 없습니다.

2 단계

openshift-install create manifests 를 실행하여 매니페스트 파일을 생성한 후 수정할 필드로 사용자 지정된 Cluster Network Operator 매니페스트를 정의할 수 있습니다. 매니페스트를 사용하여 고급 네트워크 구성을 지정할 수 있습니다.

2 단계에서는 install-config.yaml 파일에서 1단계에서 지정한 값을 덮어쓸 수 없습니다. 그러나 2 단계에서 네트워크 플러그인을 사용자 지정할 수 있습니다.

5.9. 고급 네트워크 구성 지정

네트워크 플러그인의 고급 네트워크 구성을 사용하여 클러스터를 기존 네트워크 환경에 통합할 수 있습니다.

클러스터를 설치하기 전에만 고급 네트워크 구성을 지정할 수 있습니다.

중요

설치 프로그램에서 생성한 OpenShift Container Platform 매니페스트 파일을 수정하여 네트워크 구성을 사용자 정의하는 것은 지원되지 않습니다. 다음 절차에서와 같이 생성한 매니페스트 파일을 적용할 수 있습니다.

사전 요구 사항

install-config.yaml 파일을 생성하고 수정 작업을 완료했습니다.

프로세스

설치 프로그램이 포함된 디렉터리로 변경하고 매니페스트를 생성합니다.
```
$ ./openshift-install create manifests --dir <installation_directory> 1
```
1
<installation_directory>는 클러스터의 install-config.yaml 파일이 포함된 디렉터리의 이름을 지정합니다.
<installation_directory>/ manifests/ 디렉토리에 cluster-network-03-config.yml이라는 stub 매니페스트 파일을 만듭니다.
```
apiVersion: operator.openshift.io/v1
kind: Network
metadata:
  name: cluster
spec:
```
다음 예와 같이 cluster-network-03-config.yml 파일에서 클러스터의 고급 네트워크 구성을 지정합니다.
OVN-Kubernetes 네트워크 공급자의 IPsec 활성화
```
apiVersion: operator.openshift.io/v1
kind: Network
metadata:
  name: cluster
spec:
  defaultNetwork:
    ovnKubernetesConfig:
      ipsecConfig:
        mode: Full
```
선택사항: manifests/cluster-network-03-config.yml 파일을 백업합니다. 설치 프로그램은 Ignition 구성 파일을 생성할 때 manifests/ 디렉터리를 사용합니다.
컨트롤 플레인 시스템을 정의하는 Kubernetes 매니페스트 파일을 제거하고 MachineSet을 컴퓨팅합니다.
```
$ rm -f openshift/99_openshift-cluster-api_master-machines-*.yaml openshift/99_openshift-cluster-api_worker-machineset-*.yaml
```
이러한 리소스는 사용자가 직접 생성하고 관리하기 때문에 초기화할 필요가 없습니다.
- 머신 API를 사용하여 MachineSet 파일을 보존하여 컴퓨팅 머신을 생성할 수 있지만 사용자 환경과 일치하도록 해당 참조를 업데이트해야 합니다.

5.10. CNO(Cluster Network Operator) 구성

클러스터 네트워크의 구성은 CNO(Cluster Network Operator) 구성의 일부로 지정되며 cluster라는 이름의 CR(사용자 정의 리소스) 오브젝트에 저장됩니다. CR은 operator.openshift.io API 그룹에서 Network API의 필드를 지정합니다.

CNO 구성은 Network.config.openshift.io API 그룹의 Network API에서 클러스터 설치 중에 다음 필드를 상속합니다.

clusterNetwork: Pod IP 주소가 할당되는 IP 주소 풀입니다.
serviceNetwork: 서비스를 위한 IP 주소 풀입니다.
defaultNetwork.type: 클러스터 네트워크 플러그인. OVNKubernetes 는 설치 중에 지원되는 유일한 플러그인입니다.

cluster라는 CNO 오브젝트에서 defaultNetwork 오브젝트의 필드를 설정하여 클러스터의 클러스터 네트워크 플러그인 구성을 지정할 수 있습니다.

5.10.1. CNO(Cluster Network Operator) 구성 오브젝트

CNO(Cluster Network Operator)의 필드는 다음 표에 설명되어 있습니다.

표 5.2. CNO(Cluster Network Operator) 구성 오브젝트
필드	유형	설명
`metadata.name`	`string`	CNO 개체 이름입니다. 이 이름은 항상 `cluster`입니다.
`spec.clusterNetwork`	`array`	Pod IP 주소가 할당되는 IP 주소 블록과 클러스터의 각 개별 노드에 할당된 서브넷 접두사 길이를 지정하는 목록입니다. 예를 들면 다음과 같습니다. spec: clusterNetwork: - cidr: 10.128.0.0/19 hostPrefix: 23 - cidr: 10.128.32.0/19 hostPrefix: 23
`spec.serviceNetwork`	`array`	서비스의 IP 주소 블록입니다. OVN-Kubernetes 네트워크 플러그인은 서비스 네트워크에 대한 단일 IP 주소 블록만 지원합니다. 예를 들면 다음과 같습니다. spec: serviceNetwork: - 172.30.0.0/14 매니페스트를 생성하기 전에 `install-config.yaml` 파일에서만 이 필드를 사용자 지정할 수 있습니다. 값은 매니페스트 파일에서 읽기 전용입니다.
`spec.defaultNetwork`	`object`	클러스터 네트워크의 네트워크 플러그인을 구성합니다.
`spec.kubeProxyConfig`	`object`	이 개체의 필드는 kube-proxy 구성을 지정합니다. OVN-Kubernetes 클러스터 네트워크 플러그인을 사용하는 경우 kube-proxy 구성이 적용되지 않습니다.

중요

여러 네트워크에 오브젝트를 배포해야 하는 클러스터의 경우 install-config.yaml 파일에 정의된 각 네트워크 유형에 대해 clusterNetwork.hostPrefix 매개변수에 동일한 값을 지정해야 합니다. 각 clusterNetwork.hostPrefix 매개변수에 다른 값을 설정하면 플러그인이 다른 노드 간에 오브젝트 트래픽을 효과적으로 라우팅할 수 없는 OVN-Kubernetes 네트워크 플러그인에 영향을 미칠 수 있습니다.

defaultNetwork 오브젝트 구성

defaultNetwork 오브젝트의 값은 다음 표에 정의되어 있습니다.

표 5.3. defaultNetwork 오브젝트
필드	유형	설명
`type`	`string`	`OVNKubernetes`. Red Hat OpenShift Networking 네트워크 플러그인은 설치 중에 선택됩니다. 클러스터를 설치한 후에는 이 값을 변경할 수 없습니다. 참고 OpenShift Container Platform은 기본적으로 OVN-Kubernetes 네트워크 플러그인을 사용합니다. OpenShift SDN은 더 이상 새 클러스터의 설치 옵션으로 사용할 수 없습니다.
`ovnKubernetesConfig`	`object`	이 오브젝트는 OVN-Kubernetes 네트워크 플러그인에만 유효합니다.

OVN-Kubernetes 네트워크 플러그인 구성

다음 표에서는 OVN-Kubernetes 네트워크 플러그인의 구성 필드를 설명합니다.

표 5.4. ovnKubernetesConfig object
필드	유형	설명
`mtu`	`integer`	Geneve(Generic Network Virtualization Encapsulation) 오버레이 네트워크의 MTU(최대 전송 단위)입니다. 이는 기본 네트워크 인터페이스의 MTU를 기준으로 자동 탐지됩니다. 일반적으로 감지된 MTU를 재정의할 필요는 없습니다. 자동 감지 값이 예상 밖인 경우 노드의 기본 네트워크 인터페이스의 MTU가 올바른지 확인합니다. 이 옵션을 사용하여 노드의 기본 네트워크 인터페이스의 MTU 값을 변경할 수 없습니다. 클러스터에 다른 노드에 대한 다른 MTU 값이 필요한 경우, 이 값을 클러스터의 가장 낮은 MTU 값보다 `100` 미만으로 설정해야 합니다. 예를 들어, 클러스터의 일부 노드에 `9001`의 MTU가 있고 일부에는 `1500`의 MTU가 있는 경우 이 값을 `1400`으로 설정해야 합니다.
`genevePort`	`integer`	모든 Geneve 패킷에 사용할 포트입니다. 기본값은 `6081`입니다. 클러스터를 설치한 후에는 이 값을 변경할 수 없습니다.
`ipsecConfig`	`object`	IPsec 구성을 사용자 정의할 구성 오브젝트를 지정합니다.
`ipv4`	`object`	IPv4 설정에 대한 구성 오브젝트를 지정합니다.
`ipv6`	`object`	IPv6 설정에 대한 구성 오브젝트를 지정합니다.
`policyAuditConfig`	`object`	네트워크 정책 감사 로깅을 사용자 정의할 구성 오브젝트를 지정합니다. 설정되지 않으면 기본값 감사 로그 설정이 사용됩니다.
`gatewayConfig`	`object`	선택 사항: 송신 트래픽이 노드 게이트웨이로 전송되는 방법을 사용자 정의할 구성 오브젝트를 지정합니다. 참고 송신 트래픽을 마이그레이션하는 동안 CNO(Cluster Network Operator)에서 변경 사항을 성공적으로 롤아웃할 때까지 워크로드 및 서비스 트래픽에 대한 일부 중단을 기대할 수 있습니다.

표 5.5. ovnKubernetesConfig.ipv4 object
필드	유형	설명
`internalTransitSwitchSubnet`	string	기존 네트워크 인프라가 `100.88.0.0/16` IPv4 서브넷과 겹치는 경우 OVN-Kubernetes에서 내부 사용을 위해 다른 IP 주소 범위를 지정할 수 있습니다. east-west 트래픽을 활성화하는 분산 전송 스위치의 서브넷입니다. 이 서브넷은 OVN-Kubernetes 또는 호스트 자체에서 사용하는 다른 서브넷과 중복될 수 없습니다. 클러스터의 노드당 하나의 IP 주소를 수용할 수 있을 만큼 충분히 커야 합니다. 기본값은 `100.88.0.0/16` 입니다.
`internalJoinSubnet`	string	기존 네트워크 인프라가 `100.64.0.0/16` IPv4 서브넷과 겹치는 경우 OVN-Kubernetes에서 내부 사용을 위해 다른 IP 주소 범위를 지정할 수 있습니다. IP 주소 범위가 OpenShift Container Platform 설치에서 사용하는 다른 서브넷과 겹치지 않도록 해야 합니다. IP 주소 범위는 클러스터에 추가할 수 있는 최대 노드 수보다 커야 합니다. 예를 들어 `clusterNetwork.cidr` 값이 `10.128.0.0/14` 이고 `clusterNetwork.hostPrefix` 값이 `/23` 인 경우 최대 노드 수는 `2^(23-14)=512` 입니다. 기본값은 `100.64.0.0/16` 입니다.

표 5.6. ovnKubernetesConfig.ipv6 object
필드	유형	설명
`internalTransitSwitchSubnet`	string	기존 네트워크 인프라가 `fd97::/64` IPv6 서브넷과 겹치는 경우 OVN-Kubernetes에서 내부 사용을 위해 다른 IP 주소 범위를 지정할 수 있습니다. east-west 트래픽을 활성화하는 분산 전송 스위치의 서브넷입니다. 이 서브넷은 OVN-Kubernetes 또는 호스트 자체에서 사용하는 다른 서브넷과 중복될 수 없습니다. 클러스터의 노드당 하나의 IP 주소를 수용할 수 있을 만큼 충분히 커야 합니다. 기본값은 `fd97::/64` 입니다.
`internalJoinSubnet`	string	기존 네트워크 인프라가 `fd98::/64` IPv6 서브넷과 겹치는 경우 OVN-Kubernetes에서 내부 사용을 위해 다른 IP 주소 범위를 지정할 수 있습니다. IP 주소 범위가 OpenShift Container Platform 설치에서 사용하는 다른 서브넷과 겹치지 않도록 해야 합니다. IP 주소 범위는 클러스터에 추가할 수 있는 최대 노드 수보다 커야 합니다. 기본값은 `fd98::/64` 입니다.

표 5.7. policyAuditConfig 오브젝트
필드	유형	설명
`rateLimit`	integer	노드당 1초마다 생성할 최대 메시지 수입니다. 기본값은 초당 `20` 개의 메시지입니다.
`maxFileSize`	integer	감사 로그의 최대 크기(바이트)입니다. 기본값은 `50000000` 또는 50MB입니다.
`maxLogFiles`	integer	유지되는 최대 로그 파일 수입니다.
`대상`	string	다음 추가 감사 로그 대상 중 하나입니다. `libc` 호스트에서 journald 프로세스의 libc `syslog()` 함수입니다. `udp:<host>:<port>` syslog 서버입니다. `<host>:<port>`를 syslog 서버의 호스트 및 포트로 바꿉니다. `unix:<file>` `<file>`로 지정된 Unix Domain Socket 파일입니다. `null` 감사 로그를 추가 대상으로 보내지 마십시오.
`syslogFacility`	string	RFC5424에 정의된 `kern`과 같은 syslog 기능입니다. 기본값은 `local0`입니다.

표 5.8. gatewayConfig 오브젝트
필드	유형	설명
`routingViaHost`	`boolean`	Pod에서 호스트 네트워킹 스택으로 송신 트래픽을 보내려면 이 필드를 `true`로 설정합니다. 커널 라우팅 테이블에 수동으로 구성된 경로를 사용하는 고도의 전문 설치 및 애플리케이션의 경우 송신 트래픽을 호스트 네트워킹 스택으로 라우팅해야 할 수 있습니다. 기본적으로 송신 트래픽은 클러스터를 종료하기 위해 OVN에서 처리되며 커널 라우팅 테이블의 특수 경로의 영향을 받지 않습니다. 기본값은 `false`입니다. 이 필드는 Open vSwitch 하드웨어 오프로드 기능과 상호 작용합니다. 이 필드를 `true` 로 설정하면 송신 트래픽이 호스트 네트워킹 스택에서 처리되므로 오프로드의 성능 이점이 제공되지 않습니다.
`ipForwarding`	`object`	`네트워크` 리소스에서 `ipForwarding` 사양을 사용하여 OVN-Kubernetes 관리 인터페이스에서 모든 트래픽에 대한 IP 전달을 제어할 수 있습니다. Kubernetes 관련 트래픽에 대한 IP 전달만 허용하도록 `제한됨` 을 지정합니다. 모든 IP 트래픽을 전달할 수 있도록 `Global` 을 지정합니다. 새 설치의 경우 기본값은 `Restricted` 입니다. OpenShift Container Platform 4.14 이상 업데이트의 경우 기본값은 `Global` 입니다.
`ipv4`	`object`	선택 사항: IPv4 주소에 대한 트래픽을 서비스하는 호스트의 내부 OVN-Kubernetes masquerade 주소를 구성하려면 오브젝트를 지정합니다.
`ipv6`	`object`	선택 사항: IPv6 주소의 서비스 트래픽을 위해 호스트의 내부 OVN-Kubernetes masquerade 주소를 구성하려면 오브젝트를 지정합니다.

표 5.9. gatewayConfig.ipv4 object
필드	유형	설명
`internalMasqueradeSubnet`	`string`	내부적으로 사용되는 가상 IPv4 주소입니다. 트래픽을 서비스할 호스트를 활성화하는 데 사용됩니다. 호스트는 이러한 IP 주소 및 공유 게이트웨이 브리지 인터페이스로 구성됩니다. 기본값은 `169.254.169.0/29` 입니다. 중요 OpenShift Container Platform 4.17 이상 버전의 경우 클러스터는 `169.254.0.0/17` 을 기본 masquerade 서브넷으로 사용합니다. 업그레이드된 클러스터의 경우 기본 masquerade 서브넷이 변경되지 않습니다.

표 5.10. gatewayConfig.ipv6 object
필드	유형	설명
`internalMasqueradeSubnet`	`string`	내부적으로 사용되는 가상 IPv6 주소입니다. 트래픽을 서비스하는 호스트를 활성화하는 데 사용됩니다. 호스트는 이러한 IP 주소 및 공유 게이트웨이 브리지 인터페이스로 구성됩니다. 기본값은 `fd69::/125` 입니다. 중요 OpenShift Container Platform 4.17 이상 버전의 경우 클러스터는 `fd69::/112` 를 기본 masquerade 서브넷으로 사용합니다. 업그레이드된 클러스터의 경우 기본 masquerade 서브넷이 변경되지 않습니다.

표 5.11. ipsecConfig object
필드	유형	설명
`mode`	`string`	IPsec 구현의 동작을 지정합니다. 다음 값 중 하나여야 합니다. `disabled`: IPsec은 클러스터 노드에서 활성화되지 않습니다. `외부` 호스트가 있는 네트워크 트래픽에 대해 IPsec이 활성화됩니다. `full`: IPsec은 외부 호스트가 있는 Pod 트래픽 및 네트워크 트래픽에 대해 활성화됩니다.

IPSec가 활성화된 OVN-Kubernetes 구성의 예

defaultNetwork:
  type: OVNKubernetes
  ovnKubernetesConfig:
    mtu: 1400
    genevePort: 6081
    ipsecConfig:
      mode: Full

5.11. 클러스터 배포

호환되는 클라우드 플랫폼에 OpenShift Container Platform을 설치할 수 있습니다.

중요

최초 설치 과정에서 설치 프로그램의 create cluster 명령을 한 번만 실행할 수 있습니다.

사전 요구 사항

클러스터를 호스팅하는 클라우드 플랫폼으로 계정을 구성했습니다.
OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.
호스트의 클라우드 공급자 계정에 클러스터를 배포할 수 있는 올바른 권한이 있는지 확인했습니다. 잘못된 권한이 있는 계정으로 인해 누락된 권한이 표시되는 오류 메시지와 함께 설치 프로세스가 실패합니다.

프로세스

클러스터에 맞춰 구성하여 다음 위치에 저장한 GCP 계정의 서비스 계정 키를 사용하지 않는 기존 GCP 사용자 자격 증명을 삭제합니다.
- GOOGLE_CREDENTIALS, GOOGLE_CLOUD_KEYFILE_JSON 또는 GCLOUD_KEYFILE_JSON 환경 변수
- ~/.gcp/osServiceAccount.json 파일
- gcloud cli 기본 자격 증명
설치 프로그램이 포함된 디렉터리로 변경하고 클러스터 배포를 초기화합니다.
```
$ ./openshift-install create cluster --dir <installation_directory> \ 1
    --log-level=info 2
```
1
<installation_directory> 값으로 사용자 지정한 ./install-config.yaml 파일의 위치를 지정합니다.
2
다른 설치 세부 사항을 보려면 info 대신 warn, debug 또는 error를 지정합니다.
선택사항: 클러스터를 설치하는 데 사용한 서비스 계정에 대한 권한 수를 줄일 수 있습니다.
- 서비스 계정에 Owner 역할을 할당한 경우, 해당 역할을 제거하고 Viewer 역할로 바꿀 수 있습니다.
- Service Account Key Admin 역할이 포함되어 있으면 제거할 수도 있습니다.

검증

클러스터 배포가 성공적으로 완료되면 다음을 수행합니다.

터미널에는 웹 콘솔에 대한 링크 및 kubeadmin 사용자의 인증 정보를 포함하여 클러스터에 액세스하는 지침이 표시됩니다.
인증 정보도 < installation_directory>/.openshift_install.log 로 출력합니다.

중요

설치 프로그램 또는 설치 프로그램이 생성하는 파일을 삭제하지 마십시오. 클러스터를 삭제하려면 두 가지가 모두 필요합니다.

출력 예

...
INFO Install complete!
INFO To access the cluster as the system:admin user when using 'oc', run 'export KUBECONFIG=/home/myuser/install_dir/auth/kubeconfig'
INFO Access the OpenShift web-console here: https://console-openshift-console.apps.mycluster.example.com
INFO Login to the console with user: "kubeadmin", and password: "password"
INFO Time elapsed: 36m22s

중요

설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인 node-bootstrapper 인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오.
24 시간 인증서는 클러스터를 설치한 후 16시간에서 22시간으로 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.

5.12. CLI를 사용하여 클러스터에 로그인

사전 요구 사항

OpenShift Container Platform 클러스터를 배포했습니다.
oc CLI를 설치했습니다.

프로세스

kubeadmin 인증 정보를 내보냅니다.
```
$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1
```
1
<installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
내보낸 구성을 사용하여 oc 명령을 성공적으로 실행할 수 있는지 확인합니다.
```
$ oc whoami
```
출력 예
```
system:admin
```

추가 리소스

OpenShift Container Platform 웹 콘솔 액세스 및 이해에 대한 자세한 내용은 웹 콘솔 액세스를 참조하십시오.

5.13. OpenShift Container Platform의 Telemetry 액세스

추가 리소스

Telemetry 서비스에 대한 자세한 내용은 원격 상태 모니터링 정보를 참조하십시오.

5.14. 다음 단계

클러스터를 사용자 지정합니다.
필요한 경우 원격 상태 보고를 옵트아웃 할 수 있습니다.

6장. 제한된 네트워크에서 GCP에 클러스터 설치

OpenShift Container Platform 4.17에서는 기존 Google VPC(Virtual Private Cloud)에 설치 릴리스 콘텐츠의 내부 미러를 생성하여 제한된 네트워크의 Google Cloud Platform (GCP)에 클러스터를 설치할 수 있습니다.

중요

미러링된 설치 릴리스 콘텐츠를 사용하여 OpenShift Container Platform 클러스터를 설치할 수는 있지만 GCP API를 사용하려면 클러스터에 인터넷 액세스가 필요합니다.

6.1. 사전 요구 사항

OpenShift Container Platform 설치 및 업데이트 프로세스에 대한 세부 사항을 검토했습니다.
클러스터 설치 방법 선택 및 사용자를 위한 준비에 대한 문서를 읽습니다.
클러스터를 호스팅 할 GCP 프로젝트를 구성했습니다.
레지스트리에 연결이 끊긴 설치 이미지를 미러링하고 사용 중인 OpenShift Container Platform 버전의 imageContentSources 데이터를 가져옵니다.
중요
미러 호스트에 설치 미디어가 있으므로 해당 컴퓨터를 사용하여 모든 설치 단계를 완료하십시오.
GCP에 기존 VPC가 있습니다. 설치 관리자 프로비저닝 인프라를 사용하여 제한된 네트워크에 클러스터를 설치할 때 설치 관리자 프로비저닝 VPC를 사용할 수 없습니다. 다음 요구사항 중 하나를 충족하는 사용자 프로비저닝 VPC를 사용해야 합니다.
- 미러 레지스트리 정보가 있습니다.
- 방화벽 규칙 또는 피어링 연결이 다른 위치에서 호스팅되는 미러 레지스트리에 액세스할 수 있습니다.
방화벽을 사용하는 경우 클러스터가 액세스해야 하는 사이트를 허용하도록 방화벽을 구성했습니다. 액세스 권한을 부여해야 할 사이트가 더 있을지도 모르지만 *.googleapis.com과 accounts.google.com에 액세스 권한은 반드시 부여해야 합니다.

6.2. 네트워크가 제한된 환경에서의 설치 정보

OpenShift Container Platform 4.17에서는 소프트웨어 구성 요소를 받기 위한 인터넷 접속이 필요하지 않은 설치를 수행할 수 있습니다. 제한된 네트워크 설치는 클러스터를 설치하는 클라우드 플랫폼에 따라 설치 관리자 프로비저닝 인프라 또는 사용자 프로비저닝 인프라를 사용하여 완료할 수 있습니다.

클라우드 플랫폼에 제한된 네트워크 설치를 수행하는 방법을 선택해도 클라우드 API에 액세스는 가능해야 합니다. Amazon Web Service의 Route 53 DNS 및 IAM 서비스와 같은 일부 클라우드 기능에는 인터넷 액세스가 필요합니다. 네트워크에 따라 베어 메탈 하드웨어, Nutanix 또는 VMware vSphere에 설치하기 위해 인터넷 액세스가 줄어들 수 있습니다.

제한된 네트워크 설치를 완료하려면 OpenShift 이미지 레지스트리의 콘텐츠를 미러링하고 설치 미디어를 포함하는 레지스트리를 생성해야 합니다. 인터넷과 폐쇄 네트워크에 모두 액세스하거나 제한 사항을 따르는 다른 방법을 통해 미러 호스트에 레지스트리를 생성할 수 있습니다.

6.2.1. 추가 제한

제한된 네트워크의 클러스터에는 다음과 같은 추가 제한이 있습니다.

ClusterVersion 상태에 사용 가능한 업데이트를 검색할 수 없음 오류가 포함되어 있습니다.
기본적으로 필요한 이미지 스트림 태그에 액세스할 수 없기 때문에 개발자 카탈로그의 내용을 사용할 수 없습니다.

6.3. OpenShift Container Platform 용 인터넷 액세스

OpenShift Container Platform 4.17에서 클러스터를 설치하기 위해 필요한 이미지를 받으려면 인터넷 액세스가 필요합니다.

다음의 경우 인터넷 액세스가 필요합니다.

OpenShift Cluster Manager 에 액세스하여 설치 프로그램을 다운로드하고 서브스크립션 관리를 수행합니다. 클러스터가 인터넷에 액세스할 수 있고 Telemetry 서비스를 비활성화하지 않은 경우, 클러스터에 자동으로 권한이 부여됩니다.
Quay.io에 액세스. 클러스터를 설치하는 데 필요한 패키지를 받을 수 있습니다.
클러스터 업데이트를 수행하는 데 필요한 패키지를 받을 수 있습니다.

6.4. 클러스터 노드 SSH 액세스를 위한 키 쌍 생성

중요

재해 복구 및 디버깅이 필요한 프로덕션 환경에서는이 단계를 생략하지 마십시오.

참고

AWS 키 쌍과 같이 플랫폼 고유의 방식으로 구성된 키가 아닌 로컬 키를 사용해야 합니다.

프로세스

로컬 시스템에 클러스터 노드의 인증에 사용할 기존 SSH 키 쌍이 없는 경우 새로 생성합니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
```
$ ssh-keygen -t ed25519 -N '' -f <path>/<file_name> 1
```
1
새 SSH 키의 경로 및 파일 이름(예: ~/.ssh/id_ed25519 )을 지정합니다. 기존 키 쌍이 있는 경우 공개 키가 '~/.ssh 디렉터리에 있는지 확인하십시오.
참고
x86_64,ppc64le, s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용하는 OpenShift Container Platform 클러스터를 설치하려면 ed25519 알고리즘을 사용하는 키를 생성하지 마십시오. 대신 rsa 또는 ecdsa 알고리즘을 사용하는 키를 생성합니다.
공개 SSH 키를 확인합니다.
```
$ cat <path>/<file_name>.pub
```
예를 들어 다음을 실행하여 ~/.ssh/id_ed25519.pub 공개 키를 확인합니다.
```
$ cat ~/.ssh/id_ed25519.pub
```
아직 추가되지 않은 경우 로컬 사용자의 SSH 에이전트에 SSH 개인 키 ID를 추가합니다. 키의 SSH 에이전트 관리는 클러스터 노드에 암호 없는 SSH 인증을 수행하거나 ./openshift-install gather 명령을 사용하려는 경우 필요합니다.
참고
일부 배포에서는 ~/.ssh/id_rsa 및 ~/.ssh/id_dsa와 같은 기본 SSH 개인 키 ID가 자동으로 관리됩니다.
1. ssh-agent 프로세스가 로컬 사용자에 대해 실행되지 않은 경우 백그라운드 작업으로 시작합니다.
```
$ eval "$(ssh-agent -s)"
```
  출력 예
```
Agent pid 31874
```
  참고
  클러스터가 FIPS 모드인 경우 FIPS 호환 알고리즘만 사용하여 SSH 키를 생성합니다. 키는 RSA 또는 ECDSA여야 합니다.
ssh-agent에 SSH 개인 키를 추가합니다.
```
$ ssh-add <path>/<file_name> 1
```
1
SSH 개인 키의 경로와 파일 이름을 지정합니다(예: ~/.ssh/id_ed25519).
출력 예
```
Identity added: /home/<you>/<path>/<file_name> (<computer_name>)
```

다음 단계

OpenShift Container Platform을 설치할 때 SSH 공개 키를 설치 프로그램에 지정합니다.

6.5. 설치 구성 파일 만들기

GCP(Google Cloud Platform)에 설치하는 OpenShift Container Platform 클러스터를 사용자 지정할 수 있습니다.

사전 요구 사항

OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다. 제한된 네트워크 설치의 경우, 해당 파일은 미러 호스트에 있습니다.
미러 레지스트리 생성 중에 생성된 imageContentSources 값이 있습니다.
미러 레지스트리에 대한 인증서의 콘텐츠를 가져왔습니다.

프로세스

install-config.yaml 파일을 생성합니다.
1. 설치 프로그램이 포함된 디렉터리로 변경하고 다음 명령을 실행합니다.
```
$ ./openshift-install create install-config --dir <installation_directory> 1
```
  1
  <installation_directory>는 설치 프로그램이 생성하는 파일을 저장할 디렉터리 이름을 지정합니다.
  디렉터리를 지정할 때 다음을 수행합니다.
  - 디렉터리에 실행 권한이 있는지 확인합니다. 설치 디렉토리에서 Terraform 바이너리를 실행하려면 이 권한이 필요합니다.
  - 빈 디렉터리를 사용합니다. 부트스트랩 X.509 인증서와 같은 일부 설치 자산은 단기간에 만료되므로 설치 디렉터리를 재사용해서는 안 됩니다. 다른 클러스터 설치의 개별 파일을 재사용하려면 해당 파일을 사용자 디렉터리에 복사하면 됩니다. 그러나 설치 자산의 파일 이름은 릴리스간에 변경될 수 있습니다. 따라서 이전 OpenShift Container Platform 버전에서 설치 파일을 복사할 때는 주의하십시오.
2. 화면에 나타나는 지시에 따라 클라우드에 대한 구성 세부 사항을 입력합니다.
  1. 선택사항: 클러스터 시스템에 액세스하는 데 사용할 SSH 키를 선택합니다.
    참고
    설치 디버깅 또는 재해 복구를 수행하려는 프로덕션 OpenShift Container Platform 클러스터의 경우 ssh-agent 프로세스가 사용하는 SSH 키를 지정합니다.
  2. 대상 플랫폼으로 gcp를 선택합니다.
  3. 사용자 컴퓨터에 GCP 계정의 서비스 계정 키가 구성되어 있지 않은 경우, GCP에서 해당 키를 가져와 파일의 내용을 붙여 넣거나 파일의 전체 경로를 입력해야 합니다.
  4. 클러스터를 프로비저닝할 프로젝트 ID를 선택합니다. 구성한 서비스 계정에 의해 기본값이 지정됩니다.
  5. 클러스터를 배포할 리전을 선택합니다.
  6. 클러스터를 배포할 기본 도메인을 선택합니다. 기본 도메인은 클러스터용으로 생성한 퍼블릭 DNS 영역에 해당합니다.
  7. 클러스터를 설명할 수 있는 이름을 입력합니다.
install-config.yaml 파일을 편집하여 제한된 네트워크에 설치하는 데 필요한 추가 정보를 제공합니다.
1. 레지스트리의 인증 정보를 포함하도록 pullSecret 값을 업데이트합니다.
```
pullSecret: '{"auths":{"<mirror_host_name>:5000": {"auth": "<credentials>","email": "you@example.com"}}}'
```
  <mirror_host_name>의 경우 미러 레지스트리의 인증서에 지정한 레지스트리 도메인 이름을 지정하고 <credentials>의 경우 미러 레지스트리에 base64로 인코딩된 사용자 이름 및 암호를 지정합니다.
2. additionalTrustBundle 매개변수와 값을 추가합니다.
```
additionalTrustBundle: |
  -----BEGIN CERTIFICATE-----
  ZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZ
  -----END CERTIFICATE-----
```
  값은 미러 레지스트리에 사용한 인증서 파일의 내용이어야 합니다. 인증서 파일은 신뢰할 수 있는 기존 인증 기관 또는 미러 레지스트리에 대해 생성한 자체 서명 인증서일 수 있습니다.
3. 상위 platform.gcp 필드 아래에 클러스터를 설치할 VPC의 네트워크 및 서브넷을 정의합니다.
```
network: <existing_vpc>
controlPlaneSubnet: <control_plane_subnet>
computeSubnet: <compute_subnet>
```
  platform.gcp.network의 경우 기존 Google VPC의 이름을 지정합니다. platform.gcp.controlPlaneSubnet 및 platform.gcp.computeSubnet의 경우 각각 컨트롤 플레인 시스템 및 컴퓨팅 시스템을 배포할 기존 서브넷을 지정합니다.
4. 다음 YAML 발췌와 유사한 이미지 콘텐츠 리소스를 추가합니다.
```
imageContentSources:
- mirrors:
  - <mirror_host_name>:5000/<repo_name>/release
  source: quay.io/openshift-release-dev/ocp-release
- mirrors:
  - <mirror_host_name>:5000/<repo_name>/release
  source: registry.redhat.io/ocp/release
```
  이러한 값은 미러 레지스트리 생성 중에 기록한 imageContentSources 를 사용합니다.
5. 선택사항: 게시 전략을 Internal로 설정합니다.
```
publish: Internal
```
  이 옵션을 설정하여 내부 Ingress Controller 및 프라이빗 로드 밸런서를 생성합니다.
필요한 install-config.yaml 파일을 수정합니다.
매개변수에 대한 자세한 내용은 "설치 구성 매개변수"를 참조하십시오.
여러 클러스터를 설치하는 데 사용할 수 있도록 install-config.yaml 파일을 백업합니다.
중요
install-config.yaml 파일은 설치 과정에서 사용됩니다. 이 파일을 재사용하려면 지금 백업해야 합니다.

추가 리소스

GCP의 설치 구성 매개변수

6.5.1. 클러스터 설치를 위한 최소 리소스 요구 사항

각 클러스터 시스템이 다음과 같은 최소 요구사항을 충족해야 합니다.

표 6.1. 최소 리소스 요구사항
머신	운영 체제	vCPU ^[1]	가상 RAM	스토리지	초당 입력/출력(IOPS)^[2]
부트스트랩	RHCOS	4	16GB	100GB	300
컨트롤 플레인	RHCOS	4	16GB	100GB	300
Compute	RHCOS, RHEL 8.6 이상 ^[3]	2	8GB	100GB	300

SMT(동시 멀티 스레딩) 또는 Hyper-Threading이 활성화되지 않은 경우 하나의 vCPU는 하나의 물리적 코어와 동일합니다. 활성화하면 다음과 같은 공식을 사용하여 해당 비율을 계산합니다. (코어 당 스레드 수 × 코어 수) × 소켓 수 = vCPU 수
OpenShift Container Platform 및 Kubernetes는 디스크 성능에 민감하며 특히 10ms p99 fsync 기간이 필요한 컨트롤 플레인 노드의 etcd에 더 빠른 스토리지가 권장됩니다. 많은 클라우드 플랫폼에서 스토리지 크기와 IOPS를 함께 확장되므로 충분한 성능을 얻으려면 스토리지 볼륨을 과도하게 할당해야 할 수 있습니다.
사용자가 프로비저닝한 모든 설치와 마찬가지로 클러스터에서 RHEL 컴퓨팅 머신을 사용하기로 선택한 경우 시스템 업데이트 수행, 패치 적용 및 기타 필요한 모든 작업 실행을 포함한 모든 운영 체제의 라이프 사이클 관리 및 유지 관리에 대한 책임이 있습니다. RHEL 7 컴퓨팅 머신 사용은 더 이상 사용되지 않으며 OpenShift Container Platform 4.10 이상에서 제거되었습니다.

참고

x86-64 아키텍처에는 x86-64-v2 ISA가 필요합니다.
ARM64 아키텍처에는 ARMv8.0-A ISA가 필요합니다.
IBM Power 아키텍처에는 Power 9 ISA가 필요합니다.
s390x 아키텍처에는 z14 ISA가 필요합니다.

자세한 내용은 RHEL 아키텍처를 참조하십시오.

플랫폼의 인스턴스 유형이 클러스터 머신의 최소 요구 사항을 충족하는 경우 OpenShift Container Platform에서 사용할 수 있습니다.

추가 리소스

스토리지 최적화

6.5.2. GCP에서 테스트된 인스턴스 유형

다음 Google Cloud Platform 인스턴스 유형은 OpenShift Container Platform에서 테스트되었습니다.

예 6.1. 머신 시리즈

A2
A3
C2
C2D
C3
C3D
E2
M1
N1
N2
N2D
N4
Tau T2D

6.5.3. 64비트 ARM 인프라에서 GCP에 대해 테스트된 인스턴스 유형

다음 GCP(Google Cloud Platform) 64비트 ARM 인스턴스 유형은 OpenShift Container Platform에서 테스트되었습니다.

예 6.2. 64비트 ARM 시스템용 머신 시리즈

Tau T2A

6.5.4. 사용자 지정 머신 유형 사용

사용자 지정 머신 유형을 사용하여 OpenShift Container Platform 클러스터를 설치할 수 있습니다.

사용자 지정 머신 유형을 사용할 때 다음을 고려하십시오.

사전 정의된 인스턴스 유형과 유사하게 사용자 정의 시스템 유형은 컨트롤 플레인 및 컴퓨팅 시스템의 최소 리소스 요구 사항을 충족해야 합니다. 자세한 내용은 "클러스터 설치를 위한 최소 리소스 요구 사항"을 참조하십시오.
사용자 지정 머신 유형의 이름은 다음 구문을 준수해야 합니다.
custom-<number_of_cpus>-<amount_of_memory_in_mb>
예를 들면 custom-6-20480 입니다.

설치 프로세스의 일부로 install-config.yaml 파일에 사용자 지정 머신 유형을 지정합니다.

사용자 지정 머신 유형이 있는 샘플 install-config.yaml 파일

compute:
- architecture: amd64
  hyperthreading: Enabled
  name: worker
  platform:
    gcp:
      type: custom-6-20480
  replicas: 2
controlPlane:
  architecture: amd64
  hyperthreading: Enabled
  name: master
  platform:
    gcp:
      type: custom-6-20480
  replicas: 3

6.5.5. Shielded VM 활성화

참고

Shielded VM은 현재 64비트 ARM 인프라가 있는 클러스터에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 시스템에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       secureBoot: Enabled
```
2. 컴퓨팅 머신에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       secureBoot: Enabled
```
3. 모든 시스템에 대해 보호된 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       secureBoot: Enabled
```

6.5.6. 기밀성 VM 활성화

참고

현재 기밀 VM은 64비트 ARM 아키텍처에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       confidentialCompute: Enabled 1
       type: n2d-standard-8 2
       onHostMaintenance: Terminate 3
```
  1
  기밀 VM을 활성화합니다.
  2
  기밀성 VM을 지원하는 머신 유형을 지정합니다. 기밀 VM에는 N2D 또는 C2D 일련의 머신 유형이 필요합니다. 지원되는 머신 유형에 대한 자세한 내용은 지원되는 운영 체제 및 머신 유형을 참조하십시오.
  3
  호스트 유지 관리 이벤트 중 하드웨어 또는 소프트웨어 업데이트와 같은 VM의 동작을 지정합니다. 기밀성 VM을 사용하는 시스템의 경우 이 값은 VM을 중지하도록 Terminate 로 설정해야 합니다. 기밀 VM은 실시간 VM 마이그레이션을 지원하지 않습니다.
2. 컴퓨팅 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```
3. 모든 머신에 기밀 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```

6.5.7. GCP용 샘플 사용자 지정 install-config.yaml 파일

중요

이 샘플 YAML 파일은 참조용으로만 제공됩니다. 설치 프로그램을 사용하여 install-config.yaml 파일을 받아서 수정해야 합니다.

apiVersion: v1
baseDomain: example.com 1
credentialsMode: Mint 2
controlPlane: 3 4
  hyperthreading: Enabled 5
  name: master
  platform:
    gcp:
      type: n2-standard-4
      zones:
      - us-central1-a
      - us-central1-c
      osDisk:
        diskType: pd-ssd
        diskSizeGB: 1024
        encryptionKey: 6
          kmsKey:
            name: worker-key
            keyRing: test-machine-keys
            location: global
            projectID: project-id
      tags: 7
      - control-plane-tag1
      - control-plane-tag2
      osImage: 8
        project: example-project-name
        name: example-image-name
  replicas: 3
compute: 9 10
- hyperthreading: Enabled 11
  name: worker
  platform:
    gcp:
      type: n2-standard-4
      zones:
      - us-central1-a
      - us-central1-c
      osDisk:
        diskType: pd-standard
        diskSizeGB: 128
        encryptionKey: 12
          kmsKey:
            name: worker-key
            keyRing: test-machine-keys
            location: global
            projectID: project-id
        tags: 13
        - compute-tag1
        - compute-tag2
        osImage: 14
          project: example-project-name
          name: example-image-name
  replicas: 3
metadata:
  name: test-cluster 15
networking:
  clusterNetwork:
  - cidr: 10.128.0.0/14
    hostPrefix: 23
  machineNetwork:
  - cidr: 10.0.0.0/16
  networkType: OVNKubernetes 16
  serviceNetwork:
  - 172.30.0.0/16
platform:
  gcp:
    projectID: openshift-production 17
    region: us-central1 18
    defaultMachinePlatform:
      tags: 19
      - global-tag1
      - global-tag2
      osImage: 20
        project: example-project-name
        name: example-image-name
    network: existing_vpc 21
    controlPlaneSubnet: control_plane_subnet 22
    computeSubnet: compute_subnet 23
pullSecret: '{"auths":{"<local_registry>": {"auth": "<credentials>","email": "you@example.com"}}}' 24
fips: false 25
sshKey: ssh-ed25519 AAAA... 26
additionalTrustBundle: | 27
    -----BEGIN CERTIFICATE-----
    <MY_TRUSTED_CA_CERT>
    -----END CERTIFICATE-----
imageContentSources: 28
- mirrors:
  - <local_registry>/<local_repository_name>/release
  source: quay.io/openshift-release-dev/ocp-release
- mirrors:
  - <local_registry>/<local_repository_name>/release
  source: quay.io/openshift-release-dev/ocp-v4.0-art-dev

1 15 17 18: 필수 항목입니다. 설치 프로그램에서 이 값을 입력하라는 메시지를 표시합니다.
2: 선택 사항: 이 매개변수를 추가하여 CCO(Cloud Credential Operator)에서 지정된 모드를 사용하도록 강제 적용합니다. 기본적으로 CCO는 kube-system 네임스페이스의 root 인증 정보를 사용하여 인증 정보의 기능을 동적으로 확인합니다. CCO 모드에 대한 자세한 내용은 인증 및 권한 부여 가이드의 "Cloud Credential Operator 정보" 섹션을 참조하십시오.
3 9: 이러한 매개변수와 값을 지정하지 않으면 설치 프로그램은 기본값을 적용합니다.
4 10: controlPlane 섹션은 단일 매핑이지만 compute 섹션은 일련의 매핑입니다. 서로 다른 데이터 구조의 요구사항을 충족하도록 compute 섹션의 첫 번째 줄은 하이픈(-)으로 시작해야 하며 controlPlane 섹션의 첫 번째 줄은 하이픈으로 시작할 수 없습니다. 하나의 컨트롤 플레인 풀만 사용됩니다.
5 11: 동시 멀티스레딩 또는 hyperthreading 활성화/비활성화 여부를 지정합니다. 시스템 코어의 성능을 높이기 위해 기본적으로 동시 멀티스레딩이 활성화됩니다. 매개변수 값을 Disabled로 설정하여 비활성화할 수 있습니다. 일부 클러스터 시스템에서 동시 멀티스레딩을 비활성화할 경우에는 해당 멀티스레딩을 모든 클러스터 시스템에서 비활성화해야 합니다.
중요
동시 멀티스레딩을 비활성화하는 경우 용량 계획에서 시스템 성능이 크게 저하될 수 있는 문제를 고려해야 합니다. 동시 멀티스레딩을 비활성화하는 경우, 사용자 시스템에 더 큰 시스템 유형(예: n1-standard-8)을 사용하십시오.
6 12: 선택 사항: 사용자 정의 암호화 키 섹션으로 가상 머신과 영구 볼륨을 모두 암호화합니다. 기본 컴퓨팅 서비스 계정에는 KMS 키를 사용하도록 부여된 권한이 있어야 하며 올바른 IAM 역할을 할당해야 합니다. 기본 서비스 계정 이름은 service-<project_number>@compute-system.iam.gserviceaccount.com 패턴을 따릅니다. 서비스 계정에 대한 올바른 권한을 부여하는 방법에 대한 자세한 내용은 "머신 관리" → "컴퓨팅 머신 세트 생성" → " GCP에서 컴퓨팅 머신 세트 생성"을 참조하십시오.
7 13 19: 선택 사항: 컨트롤 플레인 또는 컴퓨팅 머신 세트에 적용할 네트워크 태그 세트입니다. platform.gcp.defaultMachinePlatform.tags 매개변수는 컨트롤 플레인 및 컴퓨팅 시스템 모두에 적용됩니다. compute.platform.gcp.tags 또는 controlPlane.platform.gcp.tags 매개변수가 설정된 경우 platform.gcp.defaultMachinePlatform.tags 매개변수를 재정의합니다.
8 14 20: 선택사항: 컨트롤 플레인 및 컴퓨팅 머신을 부팅하는 데 사용해야 하는 사용자 지정 RHCOS(Red Hat Enterprise Linux CoreOS)입니다. platform.gcp.defaultMachinePlatform.osImage 아래의 project 및 name 매개변수는 컨트롤 플레인 및 컴퓨팅 시스템 모두에 적용됩니다. controlPlane.platform.gcp.osImage 또는 compute.platform.gcp.osImage 아래의 프로젝트 및 이름 매개변수가 설정된 경우 platform.gcp.defaultMachinePlatform.osImage 매개변수를 재정의합니다.
16: 설치할 클러스터 네트워크 플러그인입니다. 기본 값 OVNKubernetes 는 지원되는 유일한 값입니다.
21: 기존 VPC의 이름을 지정합니다.
22: 컨트롤 플레인 시스템을 배포할 기존 서브넷의 이름을 지정합니다. 지정한 VPC에 속하는 서브넷이어야 합니다.
23: 컴퓨팅 시스템을 배포할 기존 서브넷의 이름을 지정합니다. 지정한 VPC에 속하는 서브넷이어야 합니다.
24: <local_registry>는 미러 레지스트리가 해당 내용을 제공하는 데 사용하는 레지스트리 도메인 이름과 포트(선택사항)를 지정합니다. 예: registry.example.com 또는 registry.example.com:5000 <credentials>는 미러 레지스트리의 base64 인코딩 사용자 이름과 암호를 지정합니다.
25: FIPS 모드 활성화 또는 비활성화 여부입니다. 기본적으로 FIPS 모드는 비활성화됩니다. FIPS 모드가 활성화되면 OpenShift Container Platform이 실행되는 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템에서 기본 Kubernetes 암호화 제품군은 우회하고 RHCOS와 함께 제공되는 암호화 모듈을 대신 사용합니다.
중요
FIPS 모드에서 부팅된 RHEL(Red Hat Enterprise Linux CoreOS) 또는 RHCOS(Red Hat Enterprise Linux CoreOS)를 실행하는 경우 OpenShift Container Platform 코어 구성 요소는 x86_64, ppc64le 및 s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용합니다.
26: 선택사항으로, 클러스터의 시스템에 액세스하는 데 사용할 sshKey 값을 제공할 수도 있습니다.
참고
설치 디버깅 또는 재해 복구를 수행하려는 프로덕션 OpenShift Container Platform 클러스터의 경우 ssh-agent 프로세스가 사용하는 SSH 키를 지정합니다.
27: 미러 레지스트리에 사용한 인증서 파일의 내용을 제공하십시오.
28: 명령 출력에서 imageContentSources 섹션을 제공하여 리포지토리를 미러링하십시오.

6.5.8. GCP에서 글로벌 액세스 권한이 있는 Ingress 컨트롤러 생성

GCP(Google Cloud Platform) 클러스터에 글로벌 액세스할 수 있는 Ingress 컨트롤러를 생성할 수 있습니다. 글로벌 액세스는 내부 로드 밸런서를 사용하는 Ingress 컨트롤러에서만 사용할 수 있습니다.

사전 요구 사항

install-config.yaml을 생성하고 수정 완료했습니다.

프로세스

새 GCP 클러스터에서 글로벌 액세스 권한이 있는 Ingress 컨트롤러를 생성합니다.

설치 프로그램이 포함된 디렉터리로 변경하고 매니페스트를 생성합니다.
```
$ ./openshift-install create manifests --dir <installation_directory> 1
```
1
<installation_directory>는 클러스터의 install-config.yaml 파일이 포함된 디렉터리의 이름을 지정합니다.
<installation_directory>/manifests/ 디렉터리에 cluster-ingress-default-ingresscontroller.yaml이라는 이름으로 파일을 만듭니다.
```
$ touch <installation_directory>/manifests/cluster-ingress-default-ingresscontroller.yaml 1
```
1
<installation_directory>는 클러스터의 manifests / 디렉터리가 포함된 디렉터리 이름을 지정합니다.
파일이 생성되면 다음과 같이 여러 네트워크 구성 파일이 manifests/ 디렉토리에 나타납니다.
```
$ ls <installation_directory>/manifests/cluster-ingress-default-ingresscontroller.yaml
```
출력 예
```
cluster-ingress-default-ingresscontroller.yaml
```

편집기에서 cluster-ingress-default-ingresscontroller.yaml 파일을 열고 원하는 운영자 구성을 설명하는 CR(사용자 정의 리소스)을 입력합니다.

Global에 대한 clientAccess 구성 샘플

  apiVersion: operator.openshift.io/v1
  kind: IngressController
  metadata:
    name: default
    namespace: openshift-ingress-operator
  spec:
    endpointPublishingStrategy:
      loadBalancer:
        providerParameters:
          gcp:
            clientAccess: Global 1
          type: GCP
        scope: Internal          2
      type: LoadBalancerService

1: gcp.clientAccess를 Global로 설정합니다.
2: 글로벌 액세스는 내부 로드 밸런서를 사용하는 Ingress 컨트롤러에서만 사용할 수 있습니다.

6.5.9. 설치 중 클러스터 단위 프록시 구성

사전 요구 사항

기존 install-config.yaml 파일이 있습니다.
클러스터에서 액세스해야 하는 사이트를 검토하고 프록시를 바이패스해야 하는지 확인했습니다. 기본적으로 호스팅 클라우드 공급자 API에 대한 호출을 포함하여 모든 클러스터 발신(Egress) 트래픽이 프록시됩니다. 필요한 경우 프록시를 바이패스하기 위해 Proxy 오브젝트의 spec.noProxy 필드에 사이트를 추가했습니다.
참고
Proxy 오브젝트의 status.noProxy 필드는 설치 구성에 있는 networking.machineNetwork[].cidr, networking.clusterNetwork[].cidr, networking.serviceNetwork[] 필드의 값으로 채워집니다.
Amazon Web Services (AWS), Google Cloud Platform (GCP), Microsoft Azure 및 Red Hat OpenStack Platform (RHOSP)에 설치하는 경우 Proxy 오브젝트 status.noProxy 필드도 인스턴스 메타데이터 끝점(169.254.169.254)로 채워집니다.

프로세스

install-config.yaml 파일을 편집하고 프록시 설정을 추가합니다. 예를 들면 다음과 같습니다.
```
apiVersion: v1
baseDomain: my.domain.com
proxy:
  httpProxy: http://<username>:<pswd>@<ip>:<port> 1
  httpsProxy: https://<username>:<pswd>@<ip>:<port> 2
  noProxy: example.com 3
additionalTrustBundle: | 4
    -----BEGIN CERTIFICATE-----
    <MY_TRUSTED_CA_CERT>
    -----END CERTIFICATE-----
additionalTrustBundlePolicy: <policy_to_add_additionalTrustBundle> 5
```
1
클러스터 외부에서 HTTP 연결을 구축하는 데 사용할 프록시 URL입니다. URL 스키마는 http여야 합니다.
2
클러스터 외부에서 HTTPS 연결을 구축하는 데 사용할 프록시 URL입니다.
3
대상 도메인 이름, IP 주소 또는 프록시에서 제외할 기타 네트워크 CIDR로 이루어진 쉼표로 구분된 목록입니다. 하위 도메인과 일치하려면 도메인 앞에 .을 입력합니다. 예를 들어, .y.com은 x.y.com과 일치하지만 y.com은 일치하지 않습니다. *를 사용하여 모든 대상에 대해 프록시를 바이패스합니다.
4
이 값을 제공하면 설치 프로그램에서 HTTPS 연결을 프록시하는 데 필요한 추가 CA 인증서가 하나 이상 포함된 openshift-config 네임스페이스에 user-ca-bundle이라는 이름으로 구성 맵을 생성합니다. 그러면 CNO(Cluster Network Operator)에서 이러한 콘텐츠를 RHCOS(Red Hat Enterprise Linux CoreOS) 신뢰 번들과 병합하는 trusted-ca-bundle 구성 맵을 생성합니다. 이 구성 맵은 Proxy 오브젝트의 trustedCA 필드에서 참조됩니다. 프록시의 ID 인증서를 RHCOS 트러스트 번들에 있는 기관에서 서명하지 않은 경우 additionalTrustBundle 필드가 있어야 합니다.
5
선택 사항: trustedCA 필드에서 user-ca-bundle 구성 맵을 참조할 프록시 오브젝트의 구성을 결정하는 정책입니다. 허용되는 값은 Proxyonly 및 Always 입니다. http/https 프록시가 구성된 경우에만 user-ca-bundle 구성 맵을 참조하려면 Proxyonly 를 사용합니다. Always 를 사용하여 user-ca-bundle 구성 맵을 항상 참조합니다. 기본값은 Proxyonly 입니다.
참고
설치 프로그램에서 프록시 adinessEndpoints 필드를 지원하지 않습니다.
참고
설치 프로그램이 시간 초과되면 설치 프로그램의 wait-for 명령을 사용하여 배포를 다시 시작한 다음 완료합니다. 예를 들면 다음과 같습니다.
```
$ ./openshift-install wait-for install-complete --log-level debug
```
파일을 저장해 놓고 OpenShift Container Platform을 설치할 때 참조하십시오.

참고

cluster라는 Proxy 오브젝트만 지원되며 추가 프록시는 생성할 수 없습니다.

6.6. OpenShift CLI 설치

중요

Linux에서 OpenShift CLI 설치

다음 절차를 사용하여 Linux에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
제품 변형 드롭다운 목록에서 아키텍처를 선택합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Linux Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
아카이브의 압축을 풉니다.
```
$ tar xvf <file>
```
oc 바이너리를 PATH에 있는 디렉터리에 배치합니다.
PATH를 확인하려면 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
$ oc <command>
```

Windows에서 OpenSfhit CLI 설치

다음 절차에 따라 Windows에 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Windows Client 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
ZIP 프로그램으로 아카이브의 압축을 풉니다.
oc 바이너리를 PATH에 있는 디렉터리로 이동합니다.
PATH를 확인하려면 명령 프롬프트를 열고 다음 명령을 실행합니다.
```
C:\> path
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
C:\> oc <command>
```

macOS에 OpenShift CLI 설치

다음 절차에 따라 macOS에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 macOS Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
참고
macOS arm64의 경우 OpenShift v4.17 macOS arm64 Client 항목을 선택합니다.
아카이브의 압축을 해제하고 압축을 풉니다.
oc 바이너리 PATH의 디렉터리로 이동합니다.
PATH를 확인하려면 터미널을 열고 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

oc 명령을 사용하여 설치를 확인합니다.
```
$ oc <command>
```

6.7. kube-system 프로젝트에 관리자 수준 시크릿을 저장하는 대안

장기 클라우드 인증 정보를 수동으로 관리하려면 수동으로 장기 인증 정보를 생성하는 절차를 따르십시오.
개별 구성 요소의 클러스터 외부에서 관리되는 단기 인증 정보를 구현하려면 GCP 클러스터 구성 절차에 따라 단기 인증 정보를 사용합니다.

6.7.1. 수동으로 장기 인증 정보 생성

프로세스

설치 프로그램이 사용하는 GCP 계정에 다음 세분화된 권한을 추가합니다.
예 6.3. 필요한 GCP 권한
- compute.machineTypes.list
- compute.regions.list
- compute.zones.list
- dns.changes.create
- dns.changes.get
- dns.managedZones.create
- dns.managedZones.delete
- dns.managedZones.get
- dns.managedZones.list
- dns.networks.bindPrivateDNSZone
- dns.resourceRecordSets.create
- dns.resourceRecordSets.delete
- dns.resourceRecordSets.list
install-config.yaml 구성 파일의 credentialsMode 매개변수를 Manual 로 설정하지 않은 경우 다음과 같이 값을 수정합니다.
구성 파일 스니펫 샘플
```
apiVersion: v1
baseDomain: example.com
credentialsMode: Manual
# ...
```
이전에 설치 매니페스트 파일을 생성하지 않은 경우 다음 명령을 실행하여 수행합니다.
```
$ openshift-install create manifests --dir <installation_directory>
```
여기서 <installation_directory>는 설치 프로그램이 파일을 생성하는 디렉터리입니다.
다음 명령을 실행하여 설치 파일의 릴리스 이미지로 $RELEASE_IMAGE 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```

다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CredentialsRequest CR(사용자 정의 리소스) 목록을 추출합니다.

$ oc adm release extract \
  --from=$RELEASE_IMAGE \
  --credentials-requests \
  --included \1
  --install-config=<path_to_directory_with_installation_configuration>/install-config.yaml \2
  --to=<path_to_directory_for_credentials_requests> 3

1: --included 매개변수에는 특정 클러스터 구성에 필요한 매니페스트만 포함됩니다.
2: install-config.yaml 파일의 위치를 지정합니다.
3: CredentialsRequest 오브젝트를 저장할 디렉터리의 경로를 지정합니다. 지정된 디렉터리가 없으면 이 명령이 이를 생성합니다.

이 명령을 수행하면 각 CredentialsRequest 오브젝트에 대해 YAML 파일이 생성됩니다.

샘플 CredentialsRequest 개체

apiVersion: cloudcredential.openshift.io/v1
kind: CredentialsRequest
metadata:
  name: <component_credentials_request>
  namespace: openshift-cloud-credential-operator
  ...
spec:
  providerSpec:
    apiVersion: cloudcredential.openshift.io/v1
    kind: GCPProviderSpec
    predefinedRoles:
    - roles/storage.admin
    - roles/iam.serviceAccountUser
    skipServiceCheck: true
  ...

보안이 포함된 샘플 CredentialsRequest 오브젝트

apiVersion: cloudcredential.openshift.io/v1
kind: CredentialsRequest
metadata:
  name: <component_credentials_request>
  namespace: openshift-cloud-credential-operator
  ...
spec:
  providerSpec:
    apiVersion: cloudcredential.openshift.io/v1
      ...
  secretRef:
    name: <component_secret>
    namespace: <component_namespace>
  ...

샘플 Secret 오브젝트

apiVersion: v1
kind: Secret
metadata:
  name: <component_secret>
  namespace: <component_namespace>
data:
  service_account.json: <base64_encoded_gcp_service_account_file>

중요

수동으로 유지 관리되는 인증 정보를 사용하는 클러스터를 업그레이드하기 전에 CCO가 업그레이드 가능한 상태인지 확인해야 합니다.

6.7.2. 단기 인증 정보를 사용하도록 GCP 클러스터 구성

GCP 워크로드 ID를 사용하도록 구성된 클러스터를 설치하려면 CCO 유틸리티를 구성하고 클러스터에 필요한 GCP 리소스를 생성해야 합니다.

6.7.2.1. Cloud Credential Operator 유틸리티 구성

참고

ccoctl 유틸리티는 Linux 환경에서 실행해야 하는 Linux 바이너리입니다.

사전 요구 사항

클러스터 관리자 액세스 권한이 있는 OpenShift Container Platform 계정에 액세스할 수 있습니다.
OpenShift CLI(oc)가 설치되어 있습니다.

설치 프로그램이 사용하는 GCP 계정에 다음 인증 옵션 중 하나를 추가했습니다.
- IAM 워크로드 ID 풀 관리자 역할.
- 다음과 같은 세분화된 권한:
  예 6.4. 필요한 GCP 권한
  compute.projects.get
  iam.googleapis.com/workloadIdentityPoolProviders.create
  iam.googleapis.com/workloadIdentityPoolProviders.get
  iam.googleapis.com/workloadIdentityPools.create
  iam.googleapis.com/workloadIdentityPools.delete
  iam.googleapis.com/workloadIdentityPools.get
  iam.googleapis.com/workloadIdentityPools.undelete
  iam.roles.create
  iam.roles.delete
  iam.roles.list
  iam.roles.undelete
  iam.roles.update
  iam.serviceAccounts.create
  iam.serviceAccounts.delete
  iam.serviceAccounts.getIamPolicy
  iam.serviceAccounts.list
  iam.serviceAccounts.setIamPolicy
  iam.workloadIdentityPoolProviders.get
  iam.workloadIdentityPools.delete
  resourcemanager.projects.get
  resourcemanager.projects.getIamPolicy
  resourcemanager.projects.setIamPolicy
  storage.buckets.create
  storage.buckets.delete
  storage.buckets.get
  storage.buckets.getIamPolicy
  storage.buckets.setIamPolicy
  storage.objects.create
  storage.objects.delete
  storage.objects.list

프로세스

다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지의 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CCO 컨테이너 이미지를 가져옵니다.
```
$ CCO_IMAGE=$(oc adm release info --image-for='cloud-credential-operator' $RELEASE_IMAGE -a ~/.pull-secret)
```
참고
$RELEASE_IMAGE 의 아키텍처가 ccoctl 툴을 사용할 환경의 아키텍처와 일치하는지 확인합니다.
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지 내에서 ccoctl 바이너리를 추출합니다.
```
$ oc image extract $CCO_IMAGE \
  --file="/usr/bin/ccoctl.<rhel_version>" \1
  -a ~/.pull-secret
```
1
& lt;rhel_version > 의 경우 호스트가 사용하는 RHEL(Red Hat Enterprise Linux) 버전에 해당하는 값을 지정합니다. 값을 지정하지 않으면 기본적으로 ccoctl.rhel8 이 사용됩니다. 다음 값이 유효합니다.
rhel8: RHEL 8을 사용하는 호스트에 대해 이 값을 지정합니다.
rhel9: RHEL 9를 사용하는 호스트에 대해 이 값을 지정합니다.
다음 명령을 실행하여 ccoctl 을 실행할 수 있도록 권한을 변경합니다.
```
$ chmod 775 ccoctl.<rhel_version>
```

검증

$ ./ccoctl.rhel9

출력 예

OpenShift credentials provisioning tool

Usage:
  ccoctl [command]

Available Commands:
  aws          Manage credentials objects for AWS cloud
  azure        Manage credentials objects for Azure
  gcp          Manage credentials objects for Google cloud
  help         Help about any command
  ibmcloud     Manage credentials objects for {ibm-cloud-title}
  nutanix      Manage credentials objects for Nutanix

Flags:
  -h, --help   help for ccoctl

Use "ccoctl [command] --help" for more information about a command.

6.7.2.2. Cloud Credential Operator 유틸리티를 사용하여 GCP 리소스 생성

ccoctl gcp create-all 명령을 사용하여 GCP 리소스 생성을 자동화할 수 있습니다.

참고

사전 요구 사항

다음이 있어야 합니다.

ccoctl 바이너리를 추출하여 준비합니다.

프로세스

다음 명령을 실행하여 설치 파일의 릴리스 이미지로 $RELEASE_IMAGE 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CredentialsRequest 오브젝트 목록을 추출합니다.
```
$ oc adm release extract \
  --from=$RELEASE_IMAGE \
  --credentials-requests \
  --included \1
  --install-config=<path_to_directory_with_installation_configuration>/install-config.yaml \2
  --to=<path_to_directory_for_credentials_requests> 3
```
1
--included 매개변수에는 특정 클러스터 구성에 필요한 매니페스트만 포함됩니다.
2
install-config.yaml 파일의 위치를 지정합니다.
3
CredentialsRequest 오브젝트를 저장할 디렉터리의 경로를 지정합니다. 지정된 디렉터리가 없으면 이 명령이 이를 생성합니다.
참고
이 명령을 실행하는 데 시간이 다소 걸릴 수 있습니다.
ccoctl 툴을 사용하여 다음 명령을 실행하여 모든 CredentialsRequest 오브젝트를 처리합니다.
```
$ ccoctl gcp create-all \
  --name=<name> \1
  --region=<gcp_region> \2
  --project=<gcp_project_id> \3
  --credentials-requests-dir=<path_to_credentials_requests_directory> 4
```
1
추적에 사용되는 모든 생성된 GCP 리소스의 사용자 정의 이름을 지정합니다.
2
클라우드 리소스가 생성될 GCP 리전을 지정합니다.
3
클라우드 리소스가 생성될 GCP 프로젝트 ID를 지정합니다.
4
GCP 서비스 계정을 생성하려면 CredentialsRequest 매니페스트 파일이 포함된 디렉터리를 지정합니다.
참고
클러스터에서 TechPreviewNoUpgrade 기능 세트에서 활성화한 기술 프리뷰 기능을 사용하는 경우 --enable-tech-preview 매개변수를 포함해야 합니다.

검증

OpenShift Container Platform 보안이 생성되었는지 확인하려면 <path_to_ccoctl_output_dir>/manifests 디렉터리에 파일을 나열합니다.

$ ls <path_to_ccoctl_output_dir>/manifests

출력 예

cluster-authentication-02-config.yaml
openshift-cloud-controller-manager-gcp-ccm-cloud-credentials-credentials.yaml
openshift-cloud-credential-operator-cloud-credential-operator-gcp-ro-creds-credentials.yaml
openshift-cloud-network-config-controller-cloud-credentials-credentials.yaml
openshift-cluster-api-capg-manager-bootstrap-credentials-credentials.yaml
openshift-cluster-csi-drivers-gcp-pd-cloud-credentials-credentials.yaml
openshift-image-registry-installer-cloud-credentials-credentials.yaml
openshift-ingress-operator-cloud-credentials-credentials.yaml
openshift-machine-api-gcp-cloud-credentials-credentials.yaml

GCP를 쿼리하여 IAM 서비스 계정이 생성되었는지 확인할 수 있습니다. 자세한 내용은 IAM 서비스 계정 나열에 대한 GCP 설명서를 참조하십시오.

6.7.2.3. Cloud Credential Operator 유틸리티 매니페스트 통합

사전 요구 사항

클러스터를 호스팅하는 클라우드 플랫폼으로 계정을 구성했습니다.
Cloud Credential Operator 유틸리티(ccoctl)를 구성했습니다.
ccoctl 유틸리티를 사용하여 클러스터에 필요한 클라우드 공급자 리소스를 생성했습니다.

프로세스

설치 프로그램이 사용하는 GCP 계정에 다음 세분화된 권한을 추가합니다.
예 6.5. 필요한 GCP 권한
- compute.machineTypes.list
- compute.regions.list
- compute.zones.list
- dns.changes.create
- dns.changes.get
- dns.managedZones.create
- dns.managedZones.delete
- dns.managedZones.get
- dns.managedZones.list
- dns.networks.bindPrivateDNSZone
- dns.resourceRecordSets.create
- dns.resourceRecordSets.delete
- dns.resourceRecordSets.list
install-config.yaml 구성 파일의 credentialsMode 매개변수를 Manual 로 설정하지 않은 경우 다음과 같이 값을 수정합니다.
구성 파일 스니펫 샘플
```
apiVersion: v1
baseDomain: example.com
credentialsMode: Manual
# ...
```
이전에 설치 매니페스트 파일을 생성하지 않은 경우 다음 명령을 실행하여 수행합니다.
```
$ openshift-install create manifests --dir <installation_directory>
```
여기서 <installation_directory>는 설치 프로그램이 파일을 생성하는 디렉터리입니다.
ccoctl 유틸리티가 생성된 매니페스트 를 다음 명령을 실행하여 설치 프로그램에서 생성한 매니페스트에 복사합니다.
```
$ cp /<path_to_ccoctl_output_dir>/manifests/* ./manifests/
```
개인 키가 포함된 tls 디렉터리를 설치 디렉터리에 복사합니다.
```
$ cp -a /<path_to_ccoctl_output_dir>/tls .
```

6.8. 클러스터 배포

호환되는 클라우드 플랫폼에 OpenShift Container Platform을 설치할 수 있습니다.

중요

최초 설치 과정에서 설치 프로그램의 create cluster 명령을 한 번만 실행할 수 있습니다.

사전 요구 사항

클러스터를 호스팅하는 클라우드 플랫폼으로 계정을 구성했습니다.
OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.
호스트의 클라우드 공급자 계정에 클러스터를 배포할 수 있는 올바른 권한이 있는지 확인했습니다. 잘못된 권한이 있는 계정으로 인해 누락된 권한이 표시되는 오류 메시지와 함께 설치 프로세스가 실패합니다.

프로세스

클러스터에 맞춰 구성하여 다음 위치에 저장한 GCP 계정의 서비스 계정 키를 사용하지 않는 기존 GCP 사용자 자격 증명을 삭제합니다.
- GOOGLE_CREDENTIALS, GOOGLE_CLOUD_KEYFILE_JSON 또는 GCLOUD_KEYFILE_JSON 환경 변수
- ~/.gcp/osServiceAccount.json 파일
- gcloud cli 기본 자격 증명
설치 프로그램이 포함된 디렉터리로 변경하고 클러스터 배포를 초기화합니다.
```
$ ./openshift-install create cluster --dir <installation_directory> \ 1
    --log-level=info 2
```
1
<installation_directory> 값으로 사용자 지정한 ./install-config.yaml 파일의 위치를 지정합니다.
2
다른 설치 세부 사항을 보려면 info 대신 warn, debug 또는 error를 지정합니다.
선택사항: 클러스터를 설치하는 데 사용한 서비스 계정에 대한 권한 수를 줄일 수 있습니다.
- 서비스 계정에 Owner 역할을 할당한 경우, 해당 역할을 제거하고 Viewer 역할로 바꿀 수 있습니다.
- Service Account Key Admin 역할이 포함되어 있으면 제거할 수도 있습니다.

검증

클러스터 배포가 성공적으로 완료되면 다음을 수행합니다.

터미널에는 웹 콘솔에 대한 링크 및 kubeadmin 사용자의 인증 정보를 포함하여 클러스터에 액세스하는 지침이 표시됩니다.
인증 정보도 < installation_directory>/.openshift_install.log 로 출력합니다.

중요

설치 프로그램 또는 설치 프로그램이 생성하는 파일을 삭제하지 마십시오. 클러스터를 삭제하려면 두 가지가 모두 필요합니다.

출력 예

...
INFO Install complete!
INFO To access the cluster as the system:admin user when using 'oc', run 'export KUBECONFIG=/home/myuser/install_dir/auth/kubeconfig'
INFO Access the OpenShift web-console here: https://console-openshift-console.apps.mycluster.example.com
INFO Login to the console with user: "kubeadmin", and password: "password"
INFO Time elapsed: 36m22s

중요

설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인 node-bootstrapper 인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오.
24 시간 인증서는 클러스터를 설치한 후 16시간에서 22시간으로 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.

6.9. CLI를 사용하여 클러스터에 로그인

사전 요구 사항

OpenShift Container Platform 클러스터를 배포했습니다.
oc CLI를 설치했습니다.

프로세스

kubeadmin 인증 정보를 내보냅니다.
```
$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1
```
1
<installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
내보낸 구성을 사용하여 oc 명령을 성공적으로 실행할 수 있는지 확인합니다.
```
$ oc whoami
```
출력 예
```
system:admin
```

6.10. 기본 OperatorHub 카탈로그 소스 비활성화

Red Hat 및 커뮤니티 프로젝트에서 제공하는 콘텐츠를 소싱하는 Operator 카탈로그는 OpenShift Container Platform을 설치하는 동안 기본적으로 OperatorHub용으로 구성됩니다. 제한된 네트워크 환경에서는 클러스터 관리자로서 기본 카탈로그를 비활성화해야 합니다.

프로세스

OperatorHub 오브젝트에 disableAllDefaultSources: true를 추가하여 기본 카탈로그의 소스를 비활성화합니다.
```
$ oc patch OperatorHub cluster --type json \
    -p '[{"op": "add", "path": "/spec/disableAllDefaultSources", "value": true}]'
```

작은 정보

또는 웹 콘솔을 사용하여 카탈로그 소스를 관리할 수 있습니다. 관리 → 클러스터 설정 → 구성 → OperatorHub 페이지에서 개별 소스 를 생성, 업데이트, 삭제, 비활성화 및 활성화할 수 있는 소스 탭을 클릭합니다.

6.11. OpenShift Container Platform의 Telemetry 액세스

추가 리소스

Telemetry 서비스에 대한 자세한 내용은 원격 상태 모니터링 정보를 참조하십시오.

6.12. 다음 단계

설치를 확인합니다.
클러스터를 사용자 지정합니다.
Cluster Samples Operator 및 must-gather 툴의 이미지 스트림을 구성합니다.
연결이 끊긴 환경에서 Operator Lifecycle Manager를 사용하는 방법을 알아봅니다.
클러스터를 설치하는 데 사용한 미러 레지스트리에 신뢰할 수 있는 CA가 있는 경우 추가 신뢰 저장소를 구성하여 클러스터에 추가합니다.
필요한 경우 원격 상태 보고를 옵트아웃 할 수 있습니다.
필요한 경우 연결이 끊긴 클러스터 등록을참조하십시오.

7장. GCP의 클러스터를 기존 VPC에 설치

OpenShift Container Platform 버전 4.17에서는 GCP(Google Cloud Platform)의 기존 VPC(Virtual Private Cloud)에 클러스터를 설치할 수 있습니다. 설치 프로그램이 나머지 필수 인프라를 프로비저닝하며, 이후에 추가로 사용자 지정할 수 있습니다. 설치를 사용자 지정하려면 클러스터를 설치하기 전에 install-config.yaml 파일에서 매개변수를 수정합니다.

7.1. 사전 요구 사항

OpenShift Container Platform 설치 및 업데이트 프로세스에 대한 세부 사항을 검토했습니다.
클러스터 설치 방법 선택 및 사용자를 위한 준비에 대한 문서를 읽습니다.
클러스터를 호스팅 할 GCP 프로젝트를 구성했습니다.
방화벽을 사용하는 경우 클러스터가 액세스해야 하는 사이트를 허용하도록 방화벽을 구성했습니다.

7.2. 사용자 지정 VPC 사용 정보

OpenShift Container Platform 4.17에서는 GCP(Google Cloud Platform)의 기존 VPC(Virtual Private Cloud)에 있는 기존 서브넷에 클러스터를 배포할 수 있습니다. 기존 GCP VPC에 OpenShift Container Platform을 배포하면 새 계정의 한도 제한을 회피하거나 회사의 지침에 따른 운영 제한을 따르기 수월해집니다. VPC를 직접 생성하는 데 필요한 인프라 생성 권한을 받을 수 없는 경우 이 설치 옵션을 사용합니다. 서브넷에 대한 네트워킹을 구성해야 합니다.

7.2.1. VPC 사용 요구사항

VPC CIDR 블록과 시스템 네트워크 CIDR의 결합은 비어 있지 않아야 합니다. 서브넷은 시스템 네트워크 내에 있어야 합니다.

설치 프로그램에서 다음 구성 요소를 생성하지 않습니다.

NAT 게이트웨이
서브넷
라우팅 테이블
VPC 네트워크

참고

설치 프로그램을 사용하려면 클라우드 제공 DNS 서버를 사용해야 합니다. 사용자 지정 DNS 서버 사용은 지원되지 않으며 설치가 실패합니다.

7.2.2. VPC 검증

제공한 서브넷이 적합한지 확인하기 위해 설치 프로그램이 다음 데이터를 확인합니다.

사용자가 지정하는 모든 서브넷이 있는지 여부.
컨트롤 플레인 시스템용 서브넷 1개와 컴퓨팅 시스템용 서브넷 1개를 제공합니다.
서브넷의 CIDR은 사용자가 지정한 시스템 CIDR에 속합니다.

7.2.3. 권한 분할

일부 개인은 클라우드에 다른 리소스와 다른 리소스를 만들 수 있습니다. 예를 들어 인스턴스, 버킷, 로드 밸런서와 같은 애플리케이션 관련 항목을 생성할 수는 있지만 VPC, 서브넷 또는 인그레스 규칙과 같은 네트워킹 관련 구성 요소는 생성할 수 없습니다.

7.2.4. 클러스터 간 격리

OpenShift Container Platform을 기존 네트워크에 배포하면 클러스터 서비스 격리가 다음과 같은 방식으로 감소합니다.

동일한 VPC에 여러 OpenShift Container Platform 클러스터를 설치할 수 있습니다.
ICMP 인그레스가 전체 네트워크에 허용됩니다.
TCP 22 인그레스(SSH)가 전체 네트워크에 허용됩니다.
컨트롤 플레인 TCP 6443 인그레스(Kubernetes API)가 전체 네트워크에 허용됩니다.
컨트롤 플레인 TCP 22623 인그레스(MCS)가 전체 네트워크에 허용됩니다.

7.3. OpenShift Container Platform 용 인터넷 액세스

OpenShift Container Platform 4.17에서 클러스터를 설치하려면 인터넷 액세스가 필요합니다.

다음의 경우 인터넷 액세스가 필요합니다.

OpenShift Cluster Manager 에 액세스하여 설치 프로그램을 다운로드하고 서브스크립션 관리를 수행합니다. 클러스터가 인터넷에 액세스할 수 있고 Telemetry 서비스를 비활성화하지 않은 경우, 클러스터에 자동으로 권한이 부여됩니다.
Quay.io에 액세스. 클러스터를 설치하는 데 필요한 패키지를 받을 수 있습니다.
클러스터 업데이트를 수행하는 데 필요한 패키지를 받을 수 있습니다.

중요

7.4. 클러스터 노드 SSH 액세스를 위한 키 쌍 생성

중요

재해 복구 및 디버깅이 필요한 프로덕션 환경에서는이 단계를 생략하지 마십시오.

참고

AWS 키 쌍과 같이 플랫폼 고유의 방식으로 구성된 키가 아닌 로컬 키를 사용해야 합니다.

프로세스

로컬 시스템에 클러스터 노드의 인증에 사용할 기존 SSH 키 쌍이 없는 경우 새로 생성합니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
```
$ ssh-keygen -t ed25519 -N '' -f <path>/<file_name> 1
```
1
새 SSH 키의 경로 및 파일 이름(예: ~/.ssh/id_ed25519 )을 지정합니다. 기존 키 쌍이 있는 경우 공개 키가 '~/.ssh 디렉터리에 있는지 확인하십시오.
참고
x86_64,ppc64le, s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용하는 OpenShift Container Platform 클러스터를 설치하려면 ed25519 알고리즘을 사용하는 키를 생성하지 마십시오. 대신 rsa 또는 ecdsa 알고리즘을 사용하는 키를 생성합니다.
공개 SSH 키를 확인합니다.
```
$ cat <path>/<file_name>.pub
```
예를 들어 다음을 실행하여 ~/.ssh/id_ed25519.pub 공개 키를 확인합니다.
```
$ cat ~/.ssh/id_ed25519.pub
```
아직 추가되지 않은 경우 로컬 사용자의 SSH 에이전트에 SSH 개인 키 ID를 추가합니다. 키의 SSH 에이전트 관리는 클러스터 노드에 암호 없는 SSH 인증을 수행하거나 ./openshift-install gather 명령을 사용하려는 경우 필요합니다.
참고
일부 배포에서는 ~/.ssh/id_rsa 및 ~/.ssh/id_dsa와 같은 기본 SSH 개인 키 ID가 자동으로 관리됩니다.
1. ssh-agent 프로세스가 로컬 사용자에 대해 실행되지 않은 경우 백그라운드 작업으로 시작합니다.
```
$ eval "$(ssh-agent -s)"
```
  출력 예
```
Agent pid 31874
```
  참고
  클러스터가 FIPS 모드인 경우 FIPS 호환 알고리즘만 사용하여 SSH 키를 생성합니다. 키는 RSA 또는 ECDSA여야 합니다.
ssh-agent에 SSH 개인 키를 추가합니다.
```
$ ssh-add <path>/<file_name> 1
```
1
SSH 개인 키의 경로와 파일 이름을 지정합니다(예: ~/.ssh/id_ed25519).
출력 예
```
Identity added: /home/<you>/<path>/<file_name> (<computer_name>)
```

다음 단계

OpenShift Container Platform을 설치할 때 SSH 공개 키를 설치 프로그램에 지정합니다.

7.5. 설치 프로그램 받기

OpenShift Container Platform을 설치하기 전에 설치에 사용하는 호스트에 설치 파일을 다운로드합니다.

사전 요구 사항

500MB의 로컬 디스크 공간이 있는 Linux 또는 macOS를 실행하는 컴퓨터가 있습니다.

프로세스

Red Hat Hybrid Cloud Console의 Cluster Type 페이지로 이동합니다. Red Hat 계정이 있는 경우 인증 정보를 사용하여 로그인합니다. 계정이 없으면 계정을 만드십시오.
페이지의 자체 실행 섹션에서 인프라 공급자를 선택합니다.
OpenShift 설치 관리자의 드롭다운 메뉴에서 호스트 운영 체제 및 아키텍처를 선택하고 설치 프로그램 다운로드를 클릭합니다.
다운로드한 파일을 설치 구성 파일을 저장할 디렉터리에 배치합니다.
중요
- 설치 프로그램은 클러스터를 설치하는 데 사용하는 컴퓨터에 여러 파일을 만듭니다. 클러스터 설치를 마친 후 설치 프로그램과 설치 프로그램으로 생성되는 파일을 보관해야 합니다. 클러스터를 삭제하려면 두 파일이 모두 필요합니다.
- 클러스터 설치에 실패하거나 설치 프로그램으로 만든 파일을 삭제해도 클러스터는 제거되지 않습니다. 클러스터를 제거하려면 해당 클라우드 공급자에 적용되는 OpenShift Container Platform 설치 제거 절차를 완료해야 합니다.
설치 프로그램 파일의 압축을 풉니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
```
$ tar -xvf openshift-install-linux.tar.gz
```
Red Hat OpenShift Cluster Manager에서 설치 풀 시크릿을 다운로드합니다. 이 풀 시크릿을 사용하면 OpenShift Container Platform 구성 요소에 대한 컨테이너 이미지를 제공하는 Quay.io를 포함하여 인증 기관에서 제공하는 서비스로 인증할 수 있습니다.

작은 정보

7.6. 설치 구성 파일 만들기

GCP(Google Cloud Platform)에 설치하는 OpenShift Container Platform 클러스터를 사용자 지정할 수 있습니다.

사전 요구 사항

OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.

프로세스

install-config.yaml 파일을 생성합니다.
1. 설치 프로그램이 포함된 디렉터리로 변경하고 다음 명령을 실행합니다.
```
$ ./openshift-install create install-config --dir <installation_directory> 1
```
  1
  <installation_directory>는 설치 프로그램이 생성하는 파일을 저장할 디렉터리 이름을 지정합니다.
  디렉터리를 지정할 때 다음을 수행합니다.
  - 디렉터리에 실행 권한이 있는지 확인합니다. 설치 디렉토리에서 Terraform 바이너리를 실행하려면 이 권한이 필요합니다.
  - 빈 디렉터리를 사용합니다. 부트스트랩 X.509 인증서와 같은 일부 설치 자산은 단기간에 만료되므로 설치 디렉터리를 재사용해서는 안 됩니다. 다른 클러스터 설치의 개별 파일을 재사용하려면 해당 파일을 사용자 디렉터리에 복사하면 됩니다. 그러나 설치 자산의 파일 이름은 릴리스간에 변경될 수 있습니다. 따라서 이전 OpenShift Container Platform 버전에서 설치 파일을 복사할 때는 주의하십시오.
2. 화면에 나타나는 지시에 따라 클라우드에 대한 구성 세부 사항을 입력합니다.
  1. 선택사항: 클러스터 시스템에 액세스하는 데 사용할 SSH 키를 선택합니다.
    참고
    설치 디버깅 또는 재해 복구를 수행하려는 프로덕션 OpenShift Container Platform 클러스터의 경우 ssh-agent 프로세스가 사용하는 SSH 키를 지정합니다.
  2. 대상 플랫폼으로 gcp를 선택합니다.
  3. 사용자 컴퓨터에 GCP 계정의 서비스 계정 키가 구성되어 있지 않은 경우, GCP에서 해당 키를 가져와 파일의 내용을 붙여 넣거나 파일의 전체 경로를 입력해야 합니다.
  4. 클러스터를 프로비저닝할 프로젝트 ID를 선택합니다. 구성한 서비스 계정에 의해 기본값이 지정됩니다.
  5. 클러스터를 배포할 리전을 선택합니다.
  6. 클러스터를 배포할 기본 도메인을 선택합니다. 기본 도메인은 클러스터용으로 생성한 퍼블릭 DNS 영역에 해당합니다.
  7. 클러스터를 설명할 수 있는 이름을 입력합니다.
install-config.yaml 파일을 수정합니다. 사용 가능한 매개변수에 대한 자세한 정보는 “설치 구성 매개변수” 섹션에서 확인할 수 있습니다.
여러 클러스터를 설치하는 데 사용할 수 있도록 install-config.yaml 파일을 백업합니다.
중요
install-config.yaml 파일은 설치 과정에서 사용됩니다. 이 파일을 재사용하려면 지금 백업해야 합니다.

추가 리소스

GCP의 설치 구성 매개변수

7.6.1. 클러스터 설치를 위한 최소 리소스 요구 사항

각 클러스터 시스템이 다음과 같은 최소 요구사항을 충족해야 합니다.

표 7.1. 최소 리소스 요구사항
머신	운영 체제	vCPU ^[1]	가상 RAM	스토리지	초당 입력/출력(IOPS)^[2]
부트스트랩	RHCOS	4	16GB	100GB	300
컨트롤 플레인	RHCOS	4	16GB	100GB	300
Compute	RHCOS, RHEL 8.6 이상 ^[3]	2	8GB	100GB	300

SMT(동시 멀티 스레딩) 또는 Hyper-Threading이 활성화되지 않은 경우 하나의 vCPU는 하나의 물리적 코어와 동일합니다. 활성화하면 다음과 같은 공식을 사용하여 해당 비율을 계산합니다. (코어 당 스레드 수 × 코어 수) × 소켓 수 = vCPU 수
OpenShift Container Platform 및 Kubernetes는 디스크 성능에 민감하며 특히 10ms p99 fsync 기간이 필요한 컨트롤 플레인 노드의 etcd에 더 빠른 스토리지가 권장됩니다. 많은 클라우드 플랫폼에서 스토리지 크기와 IOPS를 함께 확장되므로 충분한 성능을 얻으려면 스토리지 볼륨을 과도하게 할당해야 할 수 있습니다.
사용자가 프로비저닝한 모든 설치와 마찬가지로 클러스터에서 RHEL 컴퓨팅 머신을 사용하기로 선택한 경우 시스템 업데이트 수행, 패치 적용 및 기타 필요한 모든 작업 실행을 포함한 모든 운영 체제의 라이프 사이클 관리 및 유지 관리에 대한 책임이 있습니다. RHEL 7 컴퓨팅 머신 사용은 더 이상 사용되지 않으며 OpenShift Container Platform 4.10 이상에서 제거되었습니다.

참고

x86-64 아키텍처에는 x86-64-v2 ISA가 필요합니다.
ARM64 아키텍처에는 ARMv8.0-A ISA가 필요합니다.
IBM Power 아키텍처에는 Power 9 ISA가 필요합니다.
s390x 아키텍처에는 z14 ISA가 필요합니다.

자세한 내용은 RHEL 아키텍처를 참조하십시오.

플랫폼의 인스턴스 유형이 클러스터 머신의 최소 요구 사항을 충족하는 경우 OpenShift Container Platform에서 사용할 수 있습니다.

추가 리소스

스토리지 최적화

7.6.2. GCP에서 테스트된 인스턴스 유형

다음 Google Cloud Platform 인스턴스 유형은 OpenShift Container Platform에서 테스트되었습니다.

예 7.1. 머신 시리즈

A2
A3
C2
C2D
C3
C3D
E2
M1
N1
N2
N2D
N4
Tau T2D

7.6.3. 64비트 ARM 인프라에서 GCP에 대해 테스트된 인스턴스 유형

다음 GCP(Google Cloud Platform) 64비트 ARM 인스턴스 유형은 OpenShift Container Platform에서 테스트되었습니다.

예 7.2. 64비트 ARM 시스템용 머신 시리즈

Tau T2A

7.6.4. 사용자 지정 머신 유형 사용

사용자 지정 머신 유형을 사용하여 OpenShift Container Platform 클러스터를 설치할 수 있습니다.

사용자 지정 머신 유형을 사용할 때 다음을 고려하십시오.

사전 정의된 인스턴스 유형과 유사하게 사용자 정의 시스템 유형은 컨트롤 플레인 및 컴퓨팅 시스템의 최소 리소스 요구 사항을 충족해야 합니다. 자세한 내용은 "클러스터 설치를 위한 최소 리소스 요구 사항"을 참조하십시오.
사용자 지정 머신 유형의 이름은 다음 구문을 준수해야 합니다.
custom-<number_of_cpus>-<amount_of_memory_in_mb>
예를 들면 custom-6-20480 입니다.

설치 프로세스의 일부로 install-config.yaml 파일에 사용자 지정 머신 유형을 지정합니다.

사용자 지정 머신 유형이 있는 샘플 install-config.yaml 파일

compute:
- architecture: amd64
  hyperthreading: Enabled
  name: worker
  platform:
    gcp:
      type: custom-6-20480
  replicas: 2
controlPlane:
  architecture: amd64
  hyperthreading: Enabled
  name: master
  platform:
    gcp:
      type: custom-6-20480
  replicas: 3

7.6.5. Shielded VM 활성화

참고

Shielded VM은 현재 64비트 ARM 인프라가 있는 클러스터에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 시스템에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       secureBoot: Enabled
```
2. 컴퓨팅 머신에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       secureBoot: Enabled
```
3. 모든 시스템에 대해 보호된 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       secureBoot: Enabled
```

7.6.6. 기밀성 VM 활성화

참고

현재 기밀 VM은 64비트 ARM 아키텍처에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       confidentialCompute: Enabled 1
       type: n2d-standard-8 2
       onHostMaintenance: Terminate 3
```
  1
  기밀 VM을 활성화합니다.
  2
  기밀성 VM을 지원하는 머신 유형을 지정합니다. 기밀 VM에는 N2D 또는 C2D 일련의 머신 유형이 필요합니다. 지원되는 머신 유형에 대한 자세한 내용은 지원되는 운영 체제 및 머신 유형을 참조하십시오.
  3
  호스트 유지 관리 이벤트 중 하드웨어 또는 소프트웨어 업데이트와 같은 VM의 동작을 지정합니다. 기밀성 VM을 사용하는 시스템의 경우 이 값은 VM을 중지하도록 Terminate 로 설정해야 합니다. 기밀 VM은 실시간 VM 마이그레이션을 지원하지 않습니다.
2. 컴퓨팅 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```
3. 모든 머신에 기밀 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```

7.6.7. GCP용 샘플 사용자 지정 install-config.yaml 파일

중요

이 샘플 YAML 파일은 참조용으로만 제공됩니다. 설치 프로그램을 사용하여 install-config.yaml 파일을 받아서 수정해야 합니다.

apiVersion: v1
baseDomain: example.com 1
credentialsMode: Mint 2
controlPlane: 3 4
  hyperthreading: Enabled 5
  name: master
  platform:
    gcp:
      type: n2-standard-4
      zones:
      - us-central1-a
      - us-central1-c
      osDisk:
        diskType: pd-ssd
        diskSizeGB: 1024
        encryptionKey: 6
          kmsKey:
            name: worker-key
            keyRing: test-machine-keys
            location: global
            projectID: project-id
      tags: 7
      - control-plane-tag1
      - control-plane-tag2
      osImage: 8
        project: example-project-name
        name: example-image-name
  replicas: 3
compute: 9 10
- hyperthreading: Enabled 11
  name: worker
  platform:
    gcp:
      type: n2-standard-4
      zones:
      - us-central1-a
      - us-central1-c
      osDisk:
        diskType: pd-standard
        diskSizeGB: 128
        encryptionKey: 12
          kmsKey:
            name: worker-key
            keyRing: test-machine-keys
            location: global
            projectID: project-id
        tags: 13
        - compute-tag1
        - compute-tag2
        osImage: 14
          project: example-project-name
          name: example-image-name
  replicas: 3
metadata:
  name: test-cluster 15
networking:
  clusterNetwork:
  - cidr: 10.128.0.0/14
    hostPrefix: 23
  machineNetwork:
  - cidr: 10.0.0.0/16
  networkType: OVNKubernetes 16
  serviceNetwork:
  - 172.30.0.0/16
platform:
  gcp:
    projectID: openshift-production 17
    region: us-central1 18
    defaultMachinePlatform:
      tags: 19
      - global-tag1
      - global-tag2
      osImage: 20
        project: example-project-name
        name: example-image-name
    network: existing_vpc 21
    controlPlaneSubnet: control_plane_subnet 22
    computeSubnet: compute_subnet 23
pullSecret: '{"auths": ...}' 24
fips: false 25
sshKey: ssh-ed25519 AAAA... 26

1 15 17 18 24: 필수 항목입니다. 설치 프로그램에서 이 값을 입력하라는 메시지를 표시합니다.
2: 선택 사항: 이 매개변수를 추가하여 CCO(Cloud Credential Operator)에서 지정된 모드를 사용하도록 강제 적용합니다. 기본적으로 CCO는 kube-system 네임스페이스의 root 인증 정보를 사용하여 인증 정보의 기능을 동적으로 확인합니다. CCO 모드에 대한 자세한 내용은 인증 및 권한 부여 가이드의 "Cloud Credential Operator 정보" 섹션을 참조하십시오.
3 9: 이러한 매개변수와 값을 지정하지 않으면 설치 프로그램은 기본값을 적용합니다.
4 10: controlPlane 섹션은 단일 매핑이지만 compute 섹션은 일련의 매핑입니다. 서로 다른 데이터 구조의 요구사항을 충족하도록 compute 섹션의 첫 번째 줄은 하이픈(-)으로 시작해야 하며 controlPlane 섹션의 첫 번째 줄은 하이픈으로 시작할 수 없습니다. 하나의 컨트롤 플레인 풀만 사용됩니다.
5 11: 동시 멀티스레딩 또는 hyperthreading 활성화/비활성화 여부를 지정합니다. 시스템 코어의 성능을 높이기 위해 기본적으로 동시 멀티스레딩이 활성화됩니다. 매개변수 값을 Disabled로 설정하여 비활성화할 수 있습니다. 일부 클러스터 시스템에서 동시 멀티스레딩을 비활성화할 경우에는 해당 멀티스레딩을 모든 클러스터 시스템에서 비활성화해야 합니다.
중요
동시 멀티스레딩을 비활성화하는 경우 용량 계획에서 시스템 성능이 크게 저하될 수 있는 문제를 고려해야 합니다. 동시 멀티스레딩을 비활성화하는 경우, 사용자 시스템에 더 큰 시스템 유형(예: n1-standard-8)을 사용하십시오.
6 12: 선택 사항: 사용자 정의 암호화 키 섹션으로 가상 머신과 영구 볼륨을 모두 암호화합니다. 기본 컴퓨팅 서비스 계정에는 KMS 키를 사용하도록 부여된 권한이 있어야 하며 올바른 IAM 역할을 할당해야 합니다. 기본 서비스 계정 이름은 service-<project_number>@compute-system.iam.gserviceaccount.com 패턴을 따릅니다. 서비스 계정에 대한 올바른 권한을 부여하는 방법에 대한 자세한 내용은 "머신 관리" → "컴퓨팅 머신 세트 생성" → " GCP에서 컴퓨팅 머신 세트 생성"을 참조하십시오.
7 13 19: 선택 사항: 컨트롤 플레인 또는 컴퓨팅 머신 세트에 적용할 네트워크 태그 세트입니다. platform.gcp.defaultMachinePlatform.tags 매개변수는 컨트롤 플레인 및 컴퓨팅 시스템 모두에 적용됩니다. compute.platform.gcp.tags 또는 controlPlane.platform.gcp.tags 매개변수가 설정된 경우 platform.gcp.defaultMachinePlatform.tags 매개변수를 재정의합니다.
8 14 20: 선택사항: 컨트롤 플레인 및 컴퓨팅 머신을 부팅하는 데 사용해야 하는 사용자 지정 RHCOS(Red Hat Enterprise Linux CoreOS)입니다. platform.gcp.defaultMachinePlatform.osImage 아래의 project 및 name 매개변수는 컨트롤 플레인 및 컴퓨팅 시스템 모두에 적용됩니다. controlPlane.platform.gcp.osImage 또는 compute.platform.gcp.osImage 아래의 프로젝트 및 이름 매개변수가 설정된 경우 platform.gcp.defaultMachinePlatform.osImage 매개변수를 재정의합니다.
16: 설치할 클러스터 네트워크 플러그인입니다. 기본 값 OVNKubernetes 는 지원되는 유일한 값입니다.
21: 기존 VPC의 이름을 지정합니다.
22: 컨트롤 플레인 시스템을 배포할 기존 서브넷의 이름을 지정합니다. 지정한 VPC에 속하는 서브넷이어야 합니다.
23: 컴퓨팅 시스템을 배포할 기존 서브넷의 이름을 지정합니다. 지정한 VPC에 속하는 서브넷이어야 합니다.
25: FIPS 모드 활성화 또는 비활성화 여부입니다. 기본적으로 FIPS 모드는 비활성화됩니다. FIPS 모드가 활성화되면 OpenShift Container Platform이 실행되는 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템에서 기본 Kubernetes 암호화 제품군은 우회하고 RHCOS와 함께 제공되는 암호화 모듈을 대신 사용합니다.
중요
클러스터의 FIPS 모드를 활성화하려면 FIPS 모드에서 작동하도록 구성된 RHEL(Red Hat Enterprise Linux) 컴퓨터에서 설치 프로그램을 실행해야 합니다. RHEL에서 FIPS 모드 구성에 대한 자세한 내용은 FIPS 모드에서 시스템 설치를 참조하십시오.
FIPS 모드에서 부팅된 RHEL(Red Hat Enterprise Linux CoreOS) 또는 RHCOS(Red Hat Enterprise Linux CoreOS)를 실행하는 경우 OpenShift Container Platform 코어 구성 요소는 x86_64, ppc64le 및 s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용합니다.
26: 선택사항으로, 클러스터의 시스템에 액세스하는 데 사용할 sshKey 값을 제공할 수도 있습니다.
참고
설치 디버깅 또는 재해 복구를 수행하려는 프로덕션 OpenShift Container Platform 클러스터의 경우 ssh-agent 프로세스가 사용하는 SSH 키를 지정합니다.

추가 리소스

컴퓨팅 머신 세트의 고객 관리 암호화 키 활성화

7.6.8. GCP에서 글로벌 액세스 권한이 있는 Ingress 컨트롤러 생성

사전 요구 사항

install-config.yaml을 생성하고 수정 완료했습니다.

프로세스

새 GCP 클러스터에서 글로벌 액세스 권한이 있는 Ingress 컨트롤러를 생성합니다.

설치 프로그램이 포함된 디렉터리로 변경하고 매니페스트를 생성합니다.
```
$ ./openshift-install create manifests --dir <installation_directory> 1
```
1
<installation_directory>는 클러스터의 install-config.yaml 파일이 포함된 디렉터리의 이름을 지정합니다.
<installation_directory>/manifests/ 디렉터리에 cluster-ingress-default-ingresscontroller.yaml이라는 이름으로 파일을 만듭니다.
```
$ touch <installation_directory>/manifests/cluster-ingress-default-ingresscontroller.yaml 1
```
1
<installation_directory>는 클러스터의 manifests / 디렉터리가 포함된 디렉터리 이름을 지정합니다.
파일이 생성되면 다음과 같이 여러 네트워크 구성 파일이 manifests/ 디렉토리에 나타납니다.
```
$ ls <installation_directory>/manifests/cluster-ingress-default-ingresscontroller.yaml
```
출력 예
```
cluster-ingress-default-ingresscontroller.yaml
```

편집기에서 cluster-ingress-default-ingresscontroller.yaml 파일을 열고 원하는 운영자 구성을 설명하는 CR(사용자 정의 리소스)을 입력합니다.

Global에 대한 clientAccess 구성 샘플

  apiVersion: operator.openshift.io/v1
  kind: IngressController
  metadata:
    name: default
    namespace: openshift-ingress-operator
  spec:
    endpointPublishingStrategy:
      loadBalancer:
        providerParameters:
          gcp:
            clientAccess: Global 1
          type: GCP
        scope: Internal          2
      type: LoadBalancerService

1: gcp.clientAccess를 Global로 설정합니다.
2: 글로벌 액세스는 내부 로드 밸런서를 사용하는 Ingress 컨트롤러에서만 사용할 수 있습니다.

7.6.9. 설치 중 클러스터 단위 프록시 구성

사전 요구 사항

기존 install-config.yaml 파일이 있습니다.
클러스터에서 액세스해야 하는 사이트를 검토하고 프록시를 바이패스해야 하는지 확인했습니다. 기본적으로 호스팅 클라우드 공급자 API에 대한 호출을 포함하여 모든 클러스터 발신(Egress) 트래픽이 프록시됩니다. 필요한 경우 프록시를 바이패스하기 위해 Proxy 오브젝트의 spec.noProxy 필드에 사이트를 추가했습니다.
참고
Proxy 오브젝트의 status.noProxy 필드는 설치 구성에 있는 networking.machineNetwork[].cidr, networking.clusterNetwork[].cidr, networking.serviceNetwork[] 필드의 값으로 채워집니다.
Amazon Web Services (AWS), Google Cloud Platform (GCP), Microsoft Azure 및 Red Hat OpenStack Platform (RHOSP)에 설치하는 경우 Proxy 오브젝트 status.noProxy 필드도 인스턴스 메타데이터 끝점(169.254.169.254)로 채워집니다.

프로세스

install-config.yaml 파일을 편집하고 프록시 설정을 추가합니다. 예를 들면 다음과 같습니다.
```
apiVersion: v1
baseDomain: my.domain.com
proxy:
  httpProxy: http://<username>:<pswd>@<ip>:<port> 1
  httpsProxy: https://<username>:<pswd>@<ip>:<port> 2
  noProxy: example.com 3
additionalTrustBundle: | 4
    -----BEGIN CERTIFICATE-----
    <MY_TRUSTED_CA_CERT>
    -----END CERTIFICATE-----
additionalTrustBundlePolicy: <policy_to_add_additionalTrustBundle> 5
```
1
클러스터 외부에서 HTTP 연결을 구축하는 데 사용할 프록시 URL입니다. URL 스키마는 http여야 합니다.
2
클러스터 외부에서 HTTPS 연결을 구축하는 데 사용할 프록시 URL입니다.
3
대상 도메인 이름, IP 주소 또는 프록시에서 제외할 기타 네트워크 CIDR로 이루어진 쉼표로 구분된 목록입니다. 하위 도메인과 일치하려면 도메인 앞에 .을 입력합니다. 예를 들어, .y.com은 x.y.com과 일치하지만 y.com은 일치하지 않습니다. *를 사용하여 모든 대상에 대해 프록시를 바이패스합니다.
4
이 값을 제공하면 설치 프로그램에서 HTTPS 연결을 프록시하는 데 필요한 추가 CA 인증서가 하나 이상 포함된 openshift-config 네임스페이스에 user-ca-bundle이라는 이름으로 구성 맵을 생성합니다. 그러면 CNO(Cluster Network Operator)에서 이러한 콘텐츠를 RHCOS(Red Hat Enterprise Linux CoreOS) 신뢰 번들과 병합하는 trusted-ca-bundle 구성 맵을 생성합니다. 이 구성 맵은 Proxy 오브젝트의 trustedCA 필드에서 참조됩니다. 프록시의 ID 인증서를 RHCOS 트러스트 번들에 있는 기관에서 서명하지 않은 경우 additionalTrustBundle 필드가 있어야 합니다.
5
선택 사항: trustedCA 필드에서 user-ca-bundle 구성 맵을 참조할 프록시 오브젝트의 구성을 결정하는 정책입니다. 허용되는 값은 Proxyonly 및 Always 입니다. http/https 프록시가 구성된 경우에만 user-ca-bundle 구성 맵을 참조하려면 Proxyonly 를 사용합니다. Always 를 사용하여 user-ca-bundle 구성 맵을 항상 참조합니다. 기본값은 Proxyonly 입니다.
참고
설치 프로그램에서 프록시 adinessEndpoints 필드를 지원하지 않습니다.
참고
설치 프로그램이 시간 초과되면 설치 프로그램의 wait-for 명령을 사용하여 배포를 다시 시작한 다음 완료합니다. 예를 들면 다음과 같습니다.
```
$ ./openshift-install wait-for install-complete --log-level debug
```
파일을 저장해 놓고 OpenShift Container Platform을 설치할 때 참조하십시오.

참고

cluster라는 Proxy 오브젝트만 지원되며 추가 프록시는 생성할 수 없습니다.

7.7. OpenShift CLI 설치

중요

Linux에서 OpenShift CLI 설치

다음 절차를 사용하여 Linux에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
제품 변형 드롭다운 목록에서 아키텍처를 선택합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Linux Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
아카이브의 압축을 풉니다.
```
$ tar xvf <file>
```
oc 바이너리를 PATH에 있는 디렉터리에 배치합니다.
PATH를 확인하려면 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
$ oc <command>
```

Windows에서 OpenSfhit CLI 설치

다음 절차에 따라 Windows에 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Windows Client 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
ZIP 프로그램으로 아카이브의 압축을 풉니다.
oc 바이너리를 PATH에 있는 디렉터리로 이동합니다.
PATH를 확인하려면 명령 프롬프트를 열고 다음 명령을 실행합니다.
```
C:\> path
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
C:\> oc <command>
```

macOS에 OpenShift CLI 설치

다음 절차에 따라 macOS에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 macOS Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
참고
macOS arm64의 경우 OpenShift v4.17 macOS arm64 Client 항목을 선택합니다.
아카이브의 압축을 해제하고 압축을 풉니다.
oc 바이너리 PATH의 디렉터리로 이동합니다.
PATH를 확인하려면 터미널을 열고 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

oc 명령을 사용하여 설치를 확인합니다.
```
$ oc <command>
```

7.8. kube-system 프로젝트에 관리자 수준 시크릿을 저장하는 대안

장기 클라우드 인증 정보를 수동으로 관리하려면 수동으로 장기 인증 정보를 생성하는 절차를 따르십시오.
개별 구성 요소의 클러스터 외부에서 관리되는 단기 인증 정보를 구현하려면 GCP 클러스터 구성 절차에 따라 단기 인증 정보를 사용합니다.

7.8.1. 수동으로 장기 인증 정보 생성

프로세스

설치 프로그램이 사용하는 GCP 계정에 다음 세분화된 권한을 추가합니다.
예 7.3. 필요한 GCP 권한
- compute.machineTypes.list
- compute.regions.list
- compute.zones.list
- dns.changes.create
- dns.changes.get
- dns.managedZones.create
- dns.managedZones.delete
- dns.managedZones.get
- dns.managedZones.list
- dns.networks.bindPrivateDNSZone
- dns.resourceRecordSets.create
- dns.resourceRecordSets.delete
- dns.resourceRecordSets.list
install-config.yaml 구성 파일의 credentialsMode 매개변수를 Manual 로 설정하지 않은 경우 다음과 같이 값을 수정합니다.
구성 파일 스니펫 샘플
```
apiVersion: v1
baseDomain: example.com
credentialsMode: Manual
# ...
```
이전에 설치 매니페스트 파일을 생성하지 않은 경우 다음 명령을 실행하여 수행합니다.
```
$ openshift-install create manifests --dir <installation_directory>
```
여기서 <installation_directory>는 설치 프로그램이 파일을 생성하는 디렉터리입니다.
다음 명령을 실행하여 설치 파일의 릴리스 이미지로 $RELEASE_IMAGE 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```

다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CredentialsRequest CR(사용자 정의 리소스) 목록을 추출합니다.

$ oc adm release extract \
  --from=$RELEASE_IMAGE \
  --credentials-requests \
  --included \1
  --install-config=<path_to_directory_with_installation_configuration>/install-config.yaml \2
  --to=<path_to_directory_for_credentials_requests> 3

1: --included 매개변수에는 특정 클러스터 구성에 필요한 매니페스트만 포함됩니다.
2: install-config.yaml 파일의 위치를 지정합니다.
3: CredentialsRequest 오브젝트를 저장할 디렉터리의 경로를 지정합니다. 지정된 디렉터리가 없으면 이 명령이 이를 생성합니다.

이 명령을 수행하면 각 CredentialsRequest 오브젝트에 대해 YAML 파일이 생성됩니다.

샘플 CredentialsRequest 개체

apiVersion: cloudcredential.openshift.io/v1
kind: CredentialsRequest
metadata:
  name: <component_credentials_request>
  namespace: openshift-cloud-credential-operator
  ...
spec:
  providerSpec:
    apiVersion: cloudcredential.openshift.io/v1
    kind: GCPProviderSpec
    predefinedRoles:
    - roles/storage.admin
    - roles/iam.serviceAccountUser
    skipServiceCheck: true
  ...

보안이 포함된 샘플 CredentialsRequest 오브젝트

apiVersion: cloudcredential.openshift.io/v1
kind: CredentialsRequest
metadata:
  name: <component_credentials_request>
  namespace: openshift-cloud-credential-operator
  ...
spec:
  providerSpec:
    apiVersion: cloudcredential.openshift.io/v1
      ...
  secretRef:
    name: <component_secret>
    namespace: <component_namespace>
  ...

샘플 Secret 오브젝트

apiVersion: v1
kind: Secret
metadata:
  name: <component_secret>
  namespace: <component_namespace>
data:
  service_account.json: <base64_encoded_gcp_service_account_file>

중요

수동으로 유지 관리되는 인증 정보를 사용하는 클러스터를 업그레이드하기 전에 CCO가 업그레이드 가능한 상태인지 확인해야 합니다.

7.8.2. 단기 인증 정보를 사용하도록 GCP 클러스터 구성

GCP 워크로드 ID를 사용하도록 구성된 클러스터를 설치하려면 CCO 유틸리티를 구성하고 클러스터에 필요한 GCP 리소스를 생성해야 합니다.

7.8.2.1. Cloud Credential Operator 유틸리티 구성

참고

ccoctl 유틸리티는 Linux 환경에서 실행해야 하는 Linux 바이너리입니다.

사전 요구 사항

클러스터 관리자 액세스 권한이 있는 OpenShift Container Platform 계정에 액세스할 수 있습니다.
OpenShift CLI(oc)가 설치되어 있습니다.

설치 프로그램이 사용하는 GCP 계정에 다음 인증 옵션 중 하나를 추가했습니다.
- IAM 워크로드 ID 풀 관리자 역할.
- 다음과 같은 세분화된 권한:
  예 7.4. 필요한 GCP 권한
  compute.projects.get
  iam.googleapis.com/workloadIdentityPoolProviders.create
  iam.googleapis.com/workloadIdentityPoolProviders.get
  iam.googleapis.com/workloadIdentityPools.create
  iam.googleapis.com/workloadIdentityPools.delete
  iam.googleapis.com/workloadIdentityPools.get
  iam.googleapis.com/workloadIdentityPools.undelete
  iam.roles.create
  iam.roles.delete
  iam.roles.list
  iam.roles.undelete
  iam.roles.update
  iam.serviceAccounts.create
  iam.serviceAccounts.delete
  iam.serviceAccounts.getIamPolicy
  iam.serviceAccounts.list
  iam.serviceAccounts.setIamPolicy
  iam.workloadIdentityPoolProviders.get
  iam.workloadIdentityPools.delete
  resourcemanager.projects.get
  resourcemanager.projects.getIamPolicy
  resourcemanager.projects.setIamPolicy
  storage.buckets.create
  storage.buckets.delete
  storage.buckets.get
  storage.buckets.getIamPolicy
  storage.buckets.setIamPolicy
  storage.objects.create
  storage.objects.delete
  storage.objects.list

프로세스

다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지의 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CCO 컨테이너 이미지를 가져옵니다.
```
$ CCO_IMAGE=$(oc adm release info --image-for='cloud-credential-operator' $RELEASE_IMAGE -a ~/.pull-secret)
```
참고
$RELEASE_IMAGE 의 아키텍처가 ccoctl 툴을 사용할 환경의 아키텍처와 일치하는지 확인합니다.
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지 내에서 ccoctl 바이너리를 추출합니다.
```
$ oc image extract $CCO_IMAGE \
  --file="/usr/bin/ccoctl.<rhel_version>" \1
  -a ~/.pull-secret
```
1
& lt;rhel_version > 의 경우 호스트가 사용하는 RHEL(Red Hat Enterprise Linux) 버전에 해당하는 값을 지정합니다. 값을 지정하지 않으면 기본적으로 ccoctl.rhel8 이 사용됩니다. 다음 값이 유효합니다.
rhel8: RHEL 8을 사용하는 호스트에 대해 이 값을 지정합니다.
rhel9: RHEL 9를 사용하는 호스트에 대해 이 값을 지정합니다.
다음 명령을 실행하여 ccoctl 을 실행할 수 있도록 권한을 변경합니다.
```
$ chmod 775 ccoctl.<rhel_version>
```

검증

$ ./ccoctl.rhel9

출력 예

OpenShift credentials provisioning tool

Usage:
  ccoctl [command]

Available Commands:
  aws          Manage credentials objects for AWS cloud
  azure        Manage credentials objects for Azure
  gcp          Manage credentials objects for Google cloud
  help         Help about any command
  ibmcloud     Manage credentials objects for {ibm-cloud-title}
  nutanix      Manage credentials objects for Nutanix

Flags:
  -h, --help   help for ccoctl

Use "ccoctl [command] --help" for more information about a command.

7.8.2.2. Cloud Credential Operator 유틸리티를 사용하여 GCP 리소스 생성

ccoctl gcp create-all 명령을 사용하여 GCP 리소스 생성을 자동화할 수 있습니다.

참고

사전 요구 사항

다음이 있어야 합니다.

ccoctl 바이너리를 추출하여 준비합니다.

프로세스

다음 명령을 실행하여 설치 파일의 릴리스 이미지로 $RELEASE_IMAGE 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CredentialsRequest 오브젝트 목록을 추출합니다.
```
$ oc adm release extract \
  --from=$RELEASE_IMAGE \
  --credentials-requests \
  --included \1
  --install-config=<path_to_directory_with_installation_configuration>/install-config.yaml \2
  --to=<path_to_directory_for_credentials_requests> 3
```
1
--included 매개변수에는 특정 클러스터 구성에 필요한 매니페스트만 포함됩니다.
2
install-config.yaml 파일의 위치를 지정합니다.
3
CredentialsRequest 오브젝트를 저장할 디렉터리의 경로를 지정합니다. 지정된 디렉터리가 없으면 이 명령이 이를 생성합니다.
참고
이 명령을 실행하는 데 시간이 다소 걸릴 수 있습니다.
ccoctl 툴을 사용하여 다음 명령을 실행하여 모든 CredentialsRequest 오브젝트를 처리합니다.
```
$ ccoctl gcp create-all \
  --name=<name> \1
  --region=<gcp_region> \2
  --project=<gcp_project_id> \3
  --credentials-requests-dir=<path_to_credentials_requests_directory> 4
```
1
추적에 사용되는 모든 생성된 GCP 리소스의 사용자 정의 이름을 지정합니다.
2
클라우드 리소스가 생성될 GCP 리전을 지정합니다.
3
클라우드 리소스가 생성될 GCP 프로젝트 ID를 지정합니다.
4
GCP 서비스 계정을 생성하려면 CredentialsRequest 매니페스트 파일이 포함된 디렉터리를 지정합니다.
참고
클러스터에서 TechPreviewNoUpgrade 기능 세트에서 활성화한 기술 프리뷰 기능을 사용하는 경우 --enable-tech-preview 매개변수를 포함해야 합니다.

검증

OpenShift Container Platform 보안이 생성되었는지 확인하려면 <path_to_ccoctl_output_dir>/manifests 디렉터리에 파일을 나열합니다.

$ ls <path_to_ccoctl_output_dir>/manifests

출력 예

cluster-authentication-02-config.yaml
openshift-cloud-controller-manager-gcp-ccm-cloud-credentials-credentials.yaml
openshift-cloud-credential-operator-cloud-credential-operator-gcp-ro-creds-credentials.yaml
openshift-cloud-network-config-controller-cloud-credentials-credentials.yaml
openshift-cluster-api-capg-manager-bootstrap-credentials-credentials.yaml
openshift-cluster-csi-drivers-gcp-pd-cloud-credentials-credentials.yaml
openshift-image-registry-installer-cloud-credentials-credentials.yaml
openshift-ingress-operator-cloud-credentials-credentials.yaml
openshift-machine-api-gcp-cloud-credentials-credentials.yaml

GCP를 쿼리하여 IAM 서비스 계정이 생성되었는지 확인할 수 있습니다. 자세한 내용은 IAM 서비스 계정 나열에 대한 GCP 설명서를 참조하십시오.

7.8.2.3. Cloud Credential Operator 유틸리티 매니페스트 통합

사전 요구 사항

클러스터를 호스팅하는 클라우드 플랫폼으로 계정을 구성했습니다.
Cloud Credential Operator 유틸리티(ccoctl)를 구성했습니다.
ccoctl 유틸리티를 사용하여 클러스터에 필요한 클라우드 공급자 리소스를 생성했습니다.

프로세스

설치 프로그램이 사용하는 GCP 계정에 다음 세분화된 권한을 추가합니다.
예 7.5. 필요한 GCP 권한
- compute.machineTypes.list
- compute.regions.list
- compute.zones.list
- dns.changes.create
- dns.changes.get
- dns.managedZones.create
- dns.managedZones.delete
- dns.managedZones.get
- dns.managedZones.list
- dns.networks.bindPrivateDNSZone
- dns.resourceRecordSets.create
- dns.resourceRecordSets.delete
- dns.resourceRecordSets.list
install-config.yaml 구성 파일의 credentialsMode 매개변수를 Manual 로 설정하지 않은 경우 다음과 같이 값을 수정합니다.
구성 파일 스니펫 샘플
```
apiVersion: v1
baseDomain: example.com
credentialsMode: Manual
# ...
```
이전에 설치 매니페스트 파일을 생성하지 않은 경우 다음 명령을 실행하여 수행합니다.
```
$ openshift-install create manifests --dir <installation_directory>
```
여기서 <installation_directory>는 설치 프로그램이 파일을 생성하는 디렉터리입니다.
ccoctl 유틸리티가 생성된 매니페스트 를 다음 명령을 실행하여 설치 프로그램에서 생성한 매니페스트에 복사합니다.
```
$ cp /<path_to_ccoctl_output_dir>/manifests/* ./manifests/
```
개인 키가 포함된 tls 디렉터리를 설치 디렉터리에 복사합니다.
```
$ cp -a /<path_to_ccoctl_output_dir>/tls .
```

7.9. 클러스터 배포

호환되는 클라우드 플랫폼에 OpenShift Container Platform을 설치할 수 있습니다.

중요

최초 설치 과정에서 설치 프로그램의 create cluster 명령을 한 번만 실행할 수 있습니다.

사전 요구 사항

클러스터를 호스팅하는 클라우드 플랫폼으로 계정을 구성했습니다.
OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.
호스트의 클라우드 공급자 계정에 클러스터를 배포할 수 있는 올바른 권한이 있는지 확인했습니다. 잘못된 권한이 있는 계정으로 인해 누락된 권한이 표시되는 오류 메시지와 함께 설치 프로세스가 실패합니다.

프로세스

클러스터에 맞춰 구성하여 다음 위치에 저장한 GCP 계정의 서비스 계정 키를 사용하지 않는 기존 GCP 사용자 자격 증명을 삭제합니다.
- GOOGLE_CREDENTIALS, GOOGLE_CLOUD_KEYFILE_JSON 또는 GCLOUD_KEYFILE_JSON 환경 변수
- ~/.gcp/osServiceAccount.json 파일
- gcloud cli 기본 자격 증명
설치 프로그램이 포함된 디렉터리로 변경하고 클러스터 배포를 초기화합니다.
```
$ ./openshift-install create cluster --dir <installation_directory> \ 1
    --log-level=info 2
```
1
<installation_directory> 값으로 사용자 지정한 ./install-config.yaml 파일의 위치를 지정합니다.
2
다른 설치 세부 사항을 보려면 info 대신 warn, debug 또는 error를 지정합니다.
선택사항: 클러스터를 설치하는 데 사용한 서비스 계정에 대한 권한 수를 줄일 수 있습니다.
- 서비스 계정에 Owner 역할을 할당한 경우, 해당 역할을 제거하고 Viewer 역할로 바꿀 수 있습니다.
- Service Account Key Admin 역할이 포함되어 있으면 제거할 수도 있습니다.

검증

클러스터 배포가 성공적으로 완료되면 다음을 수행합니다.

터미널에는 웹 콘솔에 대한 링크 및 kubeadmin 사용자의 인증 정보를 포함하여 클러스터에 액세스하는 지침이 표시됩니다.
인증 정보도 < installation_directory>/.openshift_install.log 로 출력합니다.

중요

설치 프로그램 또는 설치 프로그램이 생성하는 파일을 삭제하지 마십시오. 클러스터를 삭제하려면 두 가지가 모두 필요합니다.

출력 예

...
INFO Install complete!
INFO To access the cluster as the system:admin user when using 'oc', run 'export KUBECONFIG=/home/myuser/install_dir/auth/kubeconfig'
INFO Access the OpenShift web-console here: https://console-openshift-console.apps.mycluster.example.com
INFO Login to the console with user: "kubeadmin", and password: "password"
INFO Time elapsed: 36m22s

중요

설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인 node-bootstrapper 인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오.
24 시간 인증서는 클러스터를 설치한 후 16시간에서 22시간으로 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.

7.10. CLI를 사용하여 클러스터에 로그인

사전 요구 사항

OpenShift Container Platform 클러스터를 배포했습니다.
oc CLI를 설치했습니다.

프로세스

kubeadmin 인증 정보를 내보냅니다.
```
$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1
```
1
<installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
내보낸 구성을 사용하여 oc 명령을 성공적으로 실행할 수 있는지 확인합니다.
```
$ oc whoami
```
출력 예
```
system:admin
```

추가 리소스

OpenShift Container Platform 웹 콘솔 액세스 및 이해에 대한 자세한 내용은 웹 콘솔 액세스를 참조하십시오.

7.11. OpenShift Container Platform의 Telemetry 액세스

추가 리소스

Telemetry 서비스에 대한 자세한 내용은 원격 상태 모니터링 정보를 참조하십시오.

7.12. 다음 단계

클러스터를 사용자 지정합니다.
필요한 경우 원격 상태 보고를 옵트아웃 할 수 있습니다.

8장. GCP의 클러스터를 공유 VPC에 설치

OpenShift Container Platform 버전 4.17에서는 GCP(Google Cloud Platform)의 공유 VPC(Virtual Private Cloud)에 클러스터를 설치할 수 있습니다. 이 설치 방법에서 클러스터는 다른 GCP 프로젝트의 VPC를 사용하도록 구성되어 있습니다. 공유 VPC를 통해 조직은 여러 프로젝트의 리소스를 공통 VPC 네트워크로 연결할 수 있습니다. 해당 네트워크의 내부 IP 주소를 사용하여 조직 내에서 안전하고 효율적으로 통신할 수 있습니다. 공유 VPC에 대한 자세한 내용은 GCP 문서의 공유 VPC 개요를 참조하십시오.

설치 프로그램이 나머지 필수 인프라를 프로비저닝하며, 이후에 추가로 사용자 지정할 수 있습니다. 설치를 사용자 지정하려면 클러스터를 설치하기 전에 install-config.yaml 파일에서 매개변수를 수정합니다.

8.1. 사전 요구 사항

OpenShift Container Platform 설치 및 업데이트 프로세스에 대한 세부 사항을 검토했습니다.
클러스터 설치 방법 선택 및 사용자를 위한 준비에 대한 문서를 읽습니다.
방화벽을 사용하는 경우 클러스터가 액세스해야 하는 사이트를 허용하도록 방화벽을 구성했습니다.
공유 VPC 네트워크가 포함된 GCP 호스트 프로젝트가 있습니다.
클러스터를 호스팅 할 GCP 프로젝트를 구성했습니다. 서비스 프로젝트라는 이 프로젝트를 호스트 프로젝트에 연결해야 합니다. 자세한 내용은 GCP 문서의 서비스 프로젝트 연결을 참조하십시오.
호스트 및 서비스 프로젝트 모두에 필요한 GCP 권한이 있는 GCP 서비스 계정이 있습니다.

8.2. OpenShift Container Platform 용 인터넷 액세스

OpenShift Container Platform 4.17에서 클러스터를 설치하려면 인터넷 액세스가 필요합니다.

다음의 경우 인터넷 액세스가 필요합니다.

OpenShift Cluster Manager 에 액세스하여 설치 프로그램을 다운로드하고 서브스크립션 관리를 수행합니다. 클러스터가 인터넷에 액세스할 수 있고 Telemetry 서비스를 비활성화하지 않은 경우, 클러스터에 자동으로 권한이 부여됩니다.
Quay.io에 액세스. 클러스터를 설치하는 데 필요한 패키지를 받을 수 있습니다.
클러스터 업데이트를 수행하는 데 필요한 패키지를 받을 수 있습니다.

중요

8.3. 클러스터 노드 SSH 액세스를 위한 키 쌍 생성

중요

재해 복구 및 디버깅이 필요한 프로덕션 환경에서는이 단계를 생략하지 마십시오.

참고

AWS 키 쌍과 같이 플랫폼 고유의 방식으로 구성된 키가 아닌 로컬 키를 사용해야 합니다.

프로세스

로컬 시스템에 클러스터 노드의 인증에 사용할 기존 SSH 키 쌍이 없는 경우 새로 생성합니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
```
$ ssh-keygen -t ed25519 -N '' -f <path>/<file_name> 1
```
1
새 SSH 키의 경로 및 파일 이름(예: ~/.ssh/id_ed25519 )을 지정합니다. 기존 키 쌍이 있는 경우 공개 키가 '~/.ssh 디렉터리에 있는지 확인하십시오.
참고
x86_64,ppc64le, s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용하는 OpenShift Container Platform 클러스터를 설치하려면 ed25519 알고리즘을 사용하는 키를 생성하지 마십시오. 대신 rsa 또는 ecdsa 알고리즘을 사용하는 키를 생성합니다.
공개 SSH 키를 확인합니다.
```
$ cat <path>/<file_name>.pub
```
예를 들어 다음을 실행하여 ~/.ssh/id_ed25519.pub 공개 키를 확인합니다.
```
$ cat ~/.ssh/id_ed25519.pub
```
아직 추가되지 않은 경우 로컬 사용자의 SSH 에이전트에 SSH 개인 키 ID를 추가합니다. 키의 SSH 에이전트 관리는 클러스터 노드에 암호 없는 SSH 인증을 수행하거나 ./openshift-install gather 명령을 사용하려는 경우 필요합니다.
참고
일부 배포에서는 ~/.ssh/id_rsa 및 ~/.ssh/id_dsa와 같은 기본 SSH 개인 키 ID가 자동으로 관리됩니다.
1. ssh-agent 프로세스가 로컬 사용자에 대해 실행되지 않은 경우 백그라운드 작업으로 시작합니다.
```
$ eval "$(ssh-agent -s)"
```
  출력 예
```
Agent pid 31874
```
  참고
  클러스터가 FIPS 모드인 경우 FIPS 호환 알고리즘만 사용하여 SSH 키를 생성합니다. 키는 RSA 또는 ECDSA여야 합니다.
ssh-agent에 SSH 개인 키를 추가합니다.
```
$ ssh-add <path>/<file_name> 1
```
1
SSH 개인 키의 경로와 파일 이름을 지정합니다(예: ~/.ssh/id_ed25519).
출력 예
```
Identity added: /home/<you>/<path>/<file_name> (<computer_name>)
```

다음 단계

OpenShift Container Platform을 설치할 때 SSH 공개 키를 설치 프로그램에 지정합니다.

8.4. 설치 프로그램 받기

OpenShift Container Platform을 설치하기 전에 설치에 사용하는 호스트에 설치 파일을 다운로드합니다.

사전 요구 사항

500MB의 로컬 디스크 공간이 있는 Linux 또는 macOS를 실행하는 컴퓨터가 있습니다.

프로세스

Red Hat Hybrid Cloud Console의 Cluster Type 페이지로 이동합니다. Red Hat 계정이 있는 경우 인증 정보를 사용하여 로그인합니다. 계정이 없으면 계정을 만드십시오.
페이지의 자체 실행 섹션에서 인프라 공급자를 선택합니다.
OpenShift 설치 관리자의 드롭다운 메뉴에서 호스트 운영 체제 및 아키텍처를 선택하고 설치 프로그램 다운로드를 클릭합니다.
다운로드한 파일을 설치 구성 파일을 저장할 디렉터리에 배치합니다.
중요
- 설치 프로그램은 클러스터를 설치하는 데 사용하는 컴퓨터에 여러 파일을 만듭니다. 클러스터 설치를 마친 후 설치 프로그램과 설치 프로그램으로 생성되는 파일을 보관해야 합니다. 클러스터를 삭제하려면 두 파일이 모두 필요합니다.
- 클러스터 설치에 실패하거나 설치 프로그램으로 만든 파일을 삭제해도 클러스터는 제거되지 않습니다. 클러스터를 제거하려면 해당 클라우드 공급자에 적용되는 OpenShift Container Platform 설치 제거 절차를 완료해야 합니다.
설치 프로그램 파일의 압축을 풉니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
```
$ tar -xvf openshift-install-linux.tar.gz
```
Red Hat OpenShift Cluster Manager에서 설치 풀 시크릿을 다운로드합니다. 이 풀 시크릿을 사용하면 OpenShift Container Platform 구성 요소에 대한 컨테이너 이미지를 제공하는 Quay.io를 포함하여 인증 기관에서 제공하는 서비스로 인증할 수 있습니다.

작은 정보

8.5. GCP용 설치 파일 생성

GCP(Google Cloud Platform)의 OpenShift Container Platform을 공유 VPC에 설치하려면 install-config.yaml 파일을 생성하고 클러스터가 올바른 VPC 네트워크, DNS 영역 및 프로젝트 이름을 사용하도록 수정해야 합니다.

8.5.1. 수동으로 설치 구성 파일 만들기

클러스터를 설치하려면 설치 구성 파일을 수동으로 생성해야 합니다.

사전 요구 사항

로컬 시스템에 설치 프로그램에 제공할 SSH 공개 키가 있습니다. 키는 디버깅 및 재해 복구를 위해 클러스터 노드에 대한 SSH 인증에 사용됩니다.
OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.

프로세스

필요한 설치 자산을 저장할 설치 디렉터리를 만듭니다.
```
$ mkdir <installation_directory>
```
중요
디렉터리를 만들어야 합니다. 부트스트랩 X.509 인증서와 같은 일부 설치 자산은 단기간에 만료되므로 설치 디렉터리를 재사용해서는 안 됩니다. 다른 클러스터 설치의 개별 파일을 재사용하려면 해당 파일을 사용자 디렉터리에 복사하면 됩니다. 그러나 설치 자산의 파일 이름은 릴리스간에 변경될 수 있습니다. 따라서 이전 OpenShift Container Platform 버전에서 설치 파일을 복사할 때는 주의하십시오.
샘플 install-config.yaml 파일 템플릿을 사용자 지정하여 <installation_directory>에 저장합니다.
참고
이 설정 파일의 이름을 install-config.yaml로 지정해야 합니다.
여러 클러스터를 설치하는 데 사용할 수 있도록 install-config.yaml 파일을 백업합니다.
중요
install-config.yaml 파일은 설치 과정의 다음 단계에서 사용됩니다. 이 시점에서 이를 백업해야 합니다.

추가 리소스

GCP의 설치 구성 매개변수

8.5.2. Shielded VM 활성화

참고

Shielded VM은 현재 64비트 ARM 인프라가 있는 클러스터에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 시스템에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       secureBoot: Enabled
```
2. 컴퓨팅 머신에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       secureBoot: Enabled
```
3. 모든 시스템에 대해 보호된 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       secureBoot: Enabled
```

8.5.3. 기밀성 VM 활성화

참고

현재 기밀 VM은 64비트 ARM 아키텍처에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       confidentialCompute: Enabled 1
       type: n2d-standard-8 2
       onHostMaintenance: Terminate 3
```
  1
  기밀 VM을 활성화합니다.
  2
  기밀성 VM을 지원하는 머신 유형을 지정합니다. 기밀 VM에는 N2D 또는 C2D 일련의 머신 유형이 필요합니다. 지원되는 머신 유형에 대한 자세한 내용은 지원되는 운영 체제 및 머신 유형을 참조하십시오.
  3
  호스트 유지 관리 이벤트 중 하드웨어 또는 소프트웨어 업데이트와 같은 VM의 동작을 지정합니다. 기밀성 VM을 사용하는 시스템의 경우 이 값은 VM을 중지하도록 Terminate 로 설정해야 합니다. 기밀 VM은 실시간 VM 마이그레이션을 지원하지 않습니다.
2. 컴퓨팅 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```
3. 모든 머신에 기밀 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```

8.5.4. 공유 VPC 설치를 위한 샘플 사용자 지정 install-config.yaml 파일

공유 VPC를 사용하여 GCP에 OpenShift Container Platform을 설치하는 데 필요한 몇 가지 구성 매개변수가 있습니다. 다음은 이러한 필드를 보여주는 샘플 install-config.yaml 파일입니다.

중요

이 샘플 YAML 파일은 참조용으로만 제공됩니다. 환경 및 클러스터에 대한 올바른 값으로 이 파일을 수정해야 합니다.

apiVersion: v1
baseDomain: example.com
credentialsMode: Passthrough 1
metadata:
  name: cluster_name
platform:
  gcp:
    computeSubnet: shared-vpc-subnet-1 2
    controlPlaneSubnet: shared-vpc-subnet-2 3
    network: shared-vpc 4
    networkProjectID: host-project-name 5
    projectID: service-project-name 6
    region: us-east1
    defaultMachinePlatform:
      tags: 7
      - global-tag1
controlPlane:
  name: master
  platform:
    gcp:
      tags: 8
      - control-plane-tag1
      type: n2-standard-4
      zones:
      - us-central1-a
      - us-central1-c
  replicas: 3
compute:
- name: worker
  platform:
    gcp:
      tags: 9
      - compute-tag1
      type: n2-standard-4
      zones:
      - us-central1-a
      - us-central1-c
  replicas: 3
networking:
  clusterNetwork:
  - cidr: 10.128.0.0/14
    hostPrefix: 23
  machineNetwork:
  - cidr: 10.0.0.0/16
pullSecret: '{"auths": ...}'
sshKey: ssh-ed25519 AAAA... 10

1: credentialsMode 를 Passthrough 또는 Manual 로 설정해야 합니다. 서비스 계정에 필요한 필수 GCP 권한에 대해서는 "사전 요구 사항" 섹션을 참조하십시오.
2: 컴퓨팅 시스템에서 사용할 공유 VPC의 서브넷 이름입니다.
3: 컨트롤 플레인 시스템에서 사용할 공유 VPC의 서브넷 이름입니다.
4: 공유 VPC의 이름입니다.
5: 공유 VPC가 존재하는 호스트 프로젝트의 이름입니다.
6: 클러스터를 설치할 GCP 프로젝트의 이름입니다.
7 8 9: 선택 사항: 컴퓨팅 시스템, 컨트롤 플레인 시스템 또는 모든 시스템에 적용할 하나 이상의 네트워크 태그입니다.
10: 선택사항으로, 클러스터의 시스템에 액세스하는 데 사용할 sshKey 값을 제공할 수도 있습니다.

8.5.5. 설치 중 클러스터 단위 프록시 구성

사전 요구 사항

기존 install-config.yaml 파일이 있습니다.
클러스터에서 액세스해야 하는 사이트를 검토하고 프록시를 바이패스해야 하는지 확인했습니다. 기본적으로 호스팅 클라우드 공급자 API에 대한 호출을 포함하여 모든 클러스터 발신(Egress) 트래픽이 프록시됩니다. 필요한 경우 프록시를 바이패스하기 위해 Proxy 오브젝트의 spec.noProxy 필드에 사이트를 추가했습니다.
참고
Proxy 오브젝트의 status.noProxy 필드는 설치 구성에 있는 networking.machineNetwork[].cidr, networking.clusterNetwork[].cidr, networking.serviceNetwork[] 필드의 값으로 채워집니다.
Amazon Web Services (AWS), Google Cloud Platform (GCP), Microsoft Azure 및 Red Hat OpenStack Platform (RHOSP)에 설치하는 경우 Proxy 오브젝트 status.noProxy 필드도 인스턴스 메타데이터 끝점(169.254.169.254)로 채워집니다.

프로세스

install-config.yaml 파일을 편집하고 프록시 설정을 추가합니다. 예를 들면 다음과 같습니다.
```
apiVersion: v1
baseDomain: my.domain.com
proxy:
  httpProxy: http://<username>:<pswd>@<ip>:<port> 1
  httpsProxy: https://<username>:<pswd>@<ip>:<port> 2
  noProxy: example.com 3
additionalTrustBundle: | 4
    -----BEGIN CERTIFICATE-----
    <MY_TRUSTED_CA_CERT>
    -----END CERTIFICATE-----
additionalTrustBundlePolicy: <policy_to_add_additionalTrustBundle> 5
```
1
클러스터 외부에서 HTTP 연결을 구축하는 데 사용할 프록시 URL입니다. URL 스키마는 http여야 합니다.
2
클러스터 외부에서 HTTPS 연결을 구축하는 데 사용할 프록시 URL입니다.
3
대상 도메인 이름, IP 주소 또는 프록시에서 제외할 기타 네트워크 CIDR로 이루어진 쉼표로 구분된 목록입니다. 하위 도메인과 일치하려면 도메인 앞에 .을 입력합니다. 예를 들어, .y.com은 x.y.com과 일치하지만 y.com은 일치하지 않습니다. *를 사용하여 모든 대상에 대해 프록시를 바이패스합니다.
4
이 값을 제공하면 설치 프로그램에서 HTTPS 연결을 프록시하는 데 필요한 추가 CA 인증서가 하나 이상 포함된 openshift-config 네임스페이스에 user-ca-bundle이라는 이름으로 구성 맵을 생성합니다. 그러면 CNO(Cluster Network Operator)에서 이러한 콘텐츠를 RHCOS(Red Hat Enterprise Linux CoreOS) 신뢰 번들과 병합하는 trusted-ca-bundle 구성 맵을 생성합니다. 이 구성 맵은 Proxy 오브젝트의 trustedCA 필드에서 참조됩니다. 프록시의 ID 인증서를 RHCOS 트러스트 번들에 있는 기관에서 서명하지 않은 경우 additionalTrustBundle 필드가 있어야 합니다.
5
선택 사항: trustedCA 필드에서 user-ca-bundle 구성 맵을 참조할 프록시 오브젝트의 구성을 결정하는 정책입니다. 허용되는 값은 Proxyonly 및 Always 입니다. http/https 프록시가 구성된 경우에만 user-ca-bundle 구성 맵을 참조하려면 Proxyonly 를 사용합니다. Always 를 사용하여 user-ca-bundle 구성 맵을 항상 참조합니다. 기본값은 Proxyonly 입니다.
참고
설치 프로그램에서 프록시 adinessEndpoints 필드를 지원하지 않습니다.
참고
설치 프로그램이 시간 초과되면 설치 프로그램의 wait-for 명령을 사용하여 배포를 다시 시작한 다음 완료합니다. 예를 들면 다음과 같습니다.
```
$ ./openshift-install wait-for install-complete --log-level debug
```
파일을 저장해 놓고 OpenShift Container Platform을 설치할 때 참조하십시오.

참고

cluster라는 Proxy 오브젝트만 지원되며 추가 프록시는 생성할 수 없습니다.

8.6. OpenShift CLI 설치

중요

Linux에서 OpenShift CLI 설치

다음 절차를 사용하여 Linux에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
제품 변형 드롭다운 목록에서 아키텍처를 선택합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Linux Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
아카이브의 압축을 풉니다.
```
$ tar xvf <file>
```
oc 바이너리를 PATH에 있는 디렉터리에 배치합니다.
PATH를 확인하려면 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
$ oc <command>
```

Windows에서 OpenSfhit CLI 설치

다음 절차에 따라 Windows에 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Windows Client 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
ZIP 프로그램으로 아카이브의 압축을 풉니다.
oc 바이너리를 PATH에 있는 디렉터리로 이동합니다.
PATH를 확인하려면 명령 프롬프트를 열고 다음 명령을 실행합니다.
```
C:\> path
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
C:\> oc <command>
```

macOS에 OpenShift CLI 설치

다음 절차에 따라 macOS에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 macOS Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
참고
macOS arm64의 경우 OpenShift v4.17 macOS arm64 Client 항목을 선택합니다.
아카이브의 압축을 해제하고 압축을 풉니다.
oc 바이너리 PATH의 디렉터리로 이동합니다.
PATH를 확인하려면 터미널을 열고 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

oc 명령을 사용하여 설치를 확인합니다.
```
$ oc <command>
```

8.7. kube-system 프로젝트에 관리자 수준 시크릿을 저장하는 대안

장기 클라우드 인증 정보를 수동으로 관리하려면 수동으로 장기 인증 정보를 생성하는 절차를 따르십시오.
개별 구성 요소의 클러스터 외부에서 관리되는 단기 인증 정보를 구현하려면 GCP 클러스터 구성 절차에 따라 단기 인증 정보를 사용합니다.

8.7.1. 수동으로 장기 인증 정보 생성

프로세스

설치 프로그램이 사용하는 GCP 계정에 다음 세분화된 권한을 추가합니다.
예 8.1. 필요한 GCP 권한
- compute.machineTypes.list
- compute.regions.list
- compute.zones.list
- dns.changes.create
- dns.changes.get
- dns.managedZones.create
- dns.managedZones.delete
- dns.managedZones.get
- dns.managedZones.list
- dns.networks.bindPrivateDNSZone
- dns.resourceRecordSets.create
- dns.resourceRecordSets.delete
- dns.resourceRecordSets.list
install-config.yaml 구성 파일의 credentialsMode 매개변수를 Manual 로 설정하지 않은 경우 다음과 같이 값을 수정합니다.
구성 파일 스니펫 샘플
```
apiVersion: v1
baseDomain: example.com
credentialsMode: Manual
# ...
```
이전에 설치 매니페스트 파일을 생성하지 않은 경우 다음 명령을 실행하여 수행합니다.
```
$ openshift-install create manifests --dir <installation_directory>
```
여기서 <installation_directory>는 설치 프로그램이 파일을 생성하는 디렉터리입니다.
다음 명령을 실행하여 설치 파일의 릴리스 이미지로 $RELEASE_IMAGE 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```

다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CredentialsRequest CR(사용자 정의 리소스) 목록을 추출합니다.

$ oc adm release extract \
  --from=$RELEASE_IMAGE \
  --credentials-requests \
  --included \1
  --install-config=<path_to_directory_with_installation_configuration>/install-config.yaml \2
  --to=<path_to_directory_for_credentials_requests> 3

1: --included 매개변수에는 특정 클러스터 구성에 필요한 매니페스트만 포함됩니다.
2: install-config.yaml 파일의 위치를 지정합니다.
3: CredentialsRequest 오브젝트를 저장할 디렉터리의 경로를 지정합니다. 지정된 디렉터리가 없으면 이 명령이 이를 생성합니다.

이 명령을 수행하면 각 CredentialsRequest 오브젝트에 대해 YAML 파일이 생성됩니다.

샘플 CredentialsRequest 개체

apiVersion: cloudcredential.openshift.io/v1
kind: CredentialsRequest
metadata:
  name: <component_credentials_request>
  namespace: openshift-cloud-credential-operator
  ...
spec:
  providerSpec:
    apiVersion: cloudcredential.openshift.io/v1
    kind: GCPProviderSpec
    predefinedRoles:
    - roles/storage.admin
    - roles/iam.serviceAccountUser
    skipServiceCheck: true
  ...

보안이 포함된 샘플 CredentialsRequest 오브젝트

apiVersion: cloudcredential.openshift.io/v1
kind: CredentialsRequest
metadata:
  name: <component_credentials_request>
  namespace: openshift-cloud-credential-operator
  ...
spec:
  providerSpec:
    apiVersion: cloudcredential.openshift.io/v1
      ...
  secretRef:
    name: <component_secret>
    namespace: <component_namespace>
  ...

샘플 Secret 오브젝트

apiVersion: v1
kind: Secret
metadata:
  name: <component_secret>
  namespace: <component_namespace>
data:
  service_account.json: <base64_encoded_gcp_service_account_file>

중요

수동으로 유지 관리되는 인증 정보를 사용하는 클러스터를 업그레이드하기 전에 CCO가 업그레이드 가능한 상태인지 확인해야 합니다.

8.7.2. 단기 인증 정보를 사용하도록 GCP 클러스터 구성

GCP 워크로드 ID를 사용하도록 구성된 클러스터를 설치하려면 CCO 유틸리티를 구성하고 클러스터에 필요한 GCP 리소스를 생성해야 합니다.

8.7.2.1. Cloud Credential Operator 유틸리티 구성

참고

ccoctl 유틸리티는 Linux 환경에서 실행해야 하는 Linux 바이너리입니다.

사전 요구 사항

클러스터 관리자 액세스 권한이 있는 OpenShift Container Platform 계정에 액세스할 수 있습니다.
OpenShift CLI(oc)가 설치되어 있습니다.

설치 프로그램이 사용하는 GCP 계정에 다음 인증 옵션 중 하나를 추가했습니다.
- IAM 워크로드 ID 풀 관리자 역할.
- 다음과 같은 세분화된 권한:
  예 8.2. 필요한 GCP 권한
  compute.projects.get
  iam.googleapis.com/workloadIdentityPoolProviders.create
  iam.googleapis.com/workloadIdentityPoolProviders.get
  iam.googleapis.com/workloadIdentityPools.create
  iam.googleapis.com/workloadIdentityPools.delete
  iam.googleapis.com/workloadIdentityPools.get
  iam.googleapis.com/workloadIdentityPools.undelete
  iam.roles.create
  iam.roles.delete
  iam.roles.list
  iam.roles.undelete
  iam.roles.update
  iam.serviceAccounts.create
  iam.serviceAccounts.delete
  iam.serviceAccounts.getIamPolicy
  iam.serviceAccounts.list
  iam.serviceAccounts.setIamPolicy
  iam.workloadIdentityPoolProviders.get
  iam.workloadIdentityPools.delete
  resourcemanager.projects.get
  resourcemanager.projects.getIamPolicy
  resourcemanager.projects.setIamPolicy
  storage.buckets.create
  storage.buckets.delete
  storage.buckets.get
  storage.buckets.getIamPolicy
  storage.buckets.setIamPolicy
  storage.objects.create
  storage.objects.delete
  storage.objects.list

프로세스

다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지의 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CCO 컨테이너 이미지를 가져옵니다.
```
$ CCO_IMAGE=$(oc adm release info --image-for='cloud-credential-operator' $RELEASE_IMAGE -a ~/.pull-secret)
```
참고
$RELEASE_IMAGE 의 아키텍처가 ccoctl 툴을 사용할 환경의 아키텍처와 일치하는지 확인합니다.
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지 내에서 ccoctl 바이너리를 추출합니다.
```
$ oc image extract $CCO_IMAGE \
  --file="/usr/bin/ccoctl.<rhel_version>" \1
  -a ~/.pull-secret
```
1
& lt;rhel_version > 의 경우 호스트가 사용하는 RHEL(Red Hat Enterprise Linux) 버전에 해당하는 값을 지정합니다. 값을 지정하지 않으면 기본적으로 ccoctl.rhel8 이 사용됩니다. 다음 값이 유효합니다.
rhel8: RHEL 8을 사용하는 호스트에 대해 이 값을 지정합니다.
rhel9: RHEL 9를 사용하는 호스트에 대해 이 값을 지정합니다.
다음 명령을 실행하여 ccoctl 을 실행할 수 있도록 권한을 변경합니다.
```
$ chmod 775 ccoctl.<rhel_version>
```

검증

$ ./ccoctl.rhel9

출력 예

OpenShift credentials provisioning tool

Usage:
  ccoctl [command]

Available Commands:
  aws          Manage credentials objects for AWS cloud
  azure        Manage credentials objects for Azure
  gcp          Manage credentials objects for Google cloud
  help         Help about any command
  ibmcloud     Manage credentials objects for {ibm-cloud-title}
  nutanix      Manage credentials objects for Nutanix

Flags:
  -h, --help   help for ccoctl

Use "ccoctl [command] --help" for more information about a command.

8.7.2.2. Cloud Credential Operator 유틸리티를 사용하여 GCP 리소스 생성

ccoctl gcp create-all 명령을 사용하여 GCP 리소스 생성을 자동화할 수 있습니다.

참고

사전 요구 사항

다음이 있어야 합니다.

ccoctl 바이너리를 추출하여 준비합니다.

프로세스

다음 명령을 실행하여 설치 파일의 릴리스 이미지로 $RELEASE_IMAGE 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CredentialsRequest 오브젝트 목록을 추출합니다.
```
$ oc adm release extract \
  --from=$RELEASE_IMAGE \
  --credentials-requests \
  --included \1
  --install-config=<path_to_directory_with_installation_configuration>/install-config.yaml \2
  --to=<path_to_directory_for_credentials_requests> 3
```
1
--included 매개변수에는 특정 클러스터 구성에 필요한 매니페스트만 포함됩니다.
2
install-config.yaml 파일의 위치를 지정합니다.
3
CredentialsRequest 오브젝트를 저장할 디렉터리의 경로를 지정합니다. 지정된 디렉터리가 없으면 이 명령이 이를 생성합니다.
참고
이 명령을 실행하는 데 시간이 다소 걸릴 수 있습니다.
ccoctl 툴을 사용하여 다음 명령을 실행하여 모든 CredentialsRequest 오브젝트를 처리합니다.
```
$ ccoctl gcp create-all \
  --name=<name> \1
  --region=<gcp_region> \2
  --project=<gcp_project_id> \3
  --credentials-requests-dir=<path_to_credentials_requests_directory> 4
```
1
추적에 사용되는 모든 생성된 GCP 리소스의 사용자 정의 이름을 지정합니다.
2
클라우드 리소스가 생성될 GCP 리전을 지정합니다.
3
클라우드 리소스가 생성될 GCP 프로젝트 ID를 지정합니다.
4
GCP 서비스 계정을 생성하려면 CredentialsRequest 매니페스트 파일이 포함된 디렉터리를 지정합니다.
참고
클러스터에서 TechPreviewNoUpgrade 기능 세트에서 활성화한 기술 프리뷰 기능을 사용하는 경우 --enable-tech-preview 매개변수를 포함해야 합니다.

검증

OpenShift Container Platform 보안이 생성되었는지 확인하려면 <path_to_ccoctl_output_dir>/manifests 디렉터리에 파일을 나열합니다.

$ ls <path_to_ccoctl_output_dir>/manifests

출력 예

cluster-authentication-02-config.yaml
openshift-cloud-controller-manager-gcp-ccm-cloud-credentials-credentials.yaml
openshift-cloud-credential-operator-cloud-credential-operator-gcp-ro-creds-credentials.yaml
openshift-cloud-network-config-controller-cloud-credentials-credentials.yaml
openshift-cluster-api-capg-manager-bootstrap-credentials-credentials.yaml
openshift-cluster-csi-drivers-gcp-pd-cloud-credentials-credentials.yaml
openshift-image-registry-installer-cloud-credentials-credentials.yaml
openshift-ingress-operator-cloud-credentials-credentials.yaml
openshift-machine-api-gcp-cloud-credentials-credentials.yaml

GCP를 쿼리하여 IAM 서비스 계정이 생성되었는지 확인할 수 있습니다. 자세한 내용은 IAM 서비스 계정 나열에 대한 GCP 설명서를 참조하십시오.

8.7.2.3. Cloud Credential Operator 유틸리티 매니페스트 통합

사전 요구 사항

클러스터를 호스팅하는 클라우드 플랫폼으로 계정을 구성했습니다.
Cloud Credential Operator 유틸리티(ccoctl)를 구성했습니다.
ccoctl 유틸리티를 사용하여 클러스터에 필요한 클라우드 공급자 리소스를 생성했습니다.

프로세스

설치 프로그램이 사용하는 GCP 계정에 다음 세분화된 권한을 추가합니다.
예 8.3. 필요한 GCP 권한
- compute.machineTypes.list
- compute.regions.list
- compute.zones.list
- dns.changes.create
- dns.changes.get
- dns.managedZones.create
- dns.managedZones.delete
- dns.managedZones.get
- dns.managedZones.list
- dns.networks.bindPrivateDNSZone
- dns.resourceRecordSets.create
- dns.resourceRecordSets.delete
- dns.resourceRecordSets.list
install-config.yaml 구성 파일의 credentialsMode 매개변수를 Manual 로 설정하지 않은 경우 다음과 같이 값을 수정합니다.
구성 파일 스니펫 샘플
```
apiVersion: v1
baseDomain: example.com
credentialsMode: Manual
# ...
```
이전에 설치 매니페스트 파일을 생성하지 않은 경우 다음 명령을 실행하여 수행합니다.
```
$ openshift-install create manifests --dir <installation_directory>
```
여기서 <installation_directory>는 설치 프로그램이 파일을 생성하는 디렉터리입니다.
ccoctl 유틸리티가 생성된 매니페스트 를 다음 명령을 실행하여 설치 프로그램에서 생성한 매니페스트에 복사합니다.
```
$ cp /<path_to_ccoctl_output_dir>/manifests/* ./manifests/
```
개인 키가 포함된 tls 디렉터리를 설치 디렉터리에 복사합니다.
```
$ cp -a /<path_to_ccoctl_output_dir>/tls .
```

8.8. 클러스터 배포

호환되는 클라우드 플랫폼에 OpenShift Container Platform을 설치할 수 있습니다.

중요

최초 설치 과정에서 설치 프로그램의 create cluster 명령을 한 번만 실행할 수 있습니다.

사전 요구 사항

클러스터를 호스팅하는 클라우드 플랫폼으로 계정을 구성했습니다.
OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.
호스트의 클라우드 공급자 계정에 클러스터를 배포할 수 있는 올바른 권한이 있는지 확인했습니다. 잘못된 권한이 있는 계정으로 인해 누락된 권한이 표시되는 오류 메시지와 함께 설치 프로세스가 실패합니다.

프로세스

클러스터에 맞춰 구성하여 다음 위치에 저장한 GCP 계정의 서비스 계정 키를 사용하지 않는 기존 GCP 사용자 자격 증명을 삭제합니다.
- GOOGLE_CREDENTIALS, GOOGLE_CLOUD_KEYFILE_JSON 또는 GCLOUD_KEYFILE_JSON 환경 변수
- ~/.gcp/osServiceAccount.json 파일
- gcloud cli 기본 자격 증명
설치 프로그램이 포함된 디렉터리로 변경하고 클러스터 배포를 초기화합니다.
```
$ ./openshift-install create cluster --dir <installation_directory> \ 1
    --log-level=info 2
```
1
<installation_directory> 값으로 사용자 지정한 ./install-config.yaml 파일의 위치를 지정합니다.
2
다른 설치 세부 사항을 보려면 info 대신 warn, debug 또는 error를 지정합니다.
선택사항: 클러스터를 설치하는 데 사용한 서비스 계정에 대한 권한 수를 줄일 수 있습니다.
- 서비스 계정에 Owner 역할을 할당한 경우, 해당 역할을 제거하고 Viewer 역할로 바꿀 수 있습니다.
- Service Account Key Admin 역할이 포함되어 있으면 제거할 수도 있습니다.

검증

클러스터 배포가 성공적으로 완료되면 다음을 수행합니다.

터미널에는 웹 콘솔에 대한 링크 및 kubeadmin 사용자의 인증 정보를 포함하여 클러스터에 액세스하는 지침이 표시됩니다.
인증 정보도 < installation_directory>/.openshift_install.log 로 출력합니다.

중요

설치 프로그램 또는 설치 프로그램이 생성하는 파일을 삭제하지 마십시오. 클러스터를 삭제하려면 두 가지가 모두 필요합니다.

출력 예

...
INFO Install complete!
INFO To access the cluster as the system:admin user when using 'oc', run 'export KUBECONFIG=/home/myuser/install_dir/auth/kubeconfig'
INFO Access the OpenShift web-console here: https://console-openshift-console.apps.mycluster.example.com
INFO Login to the console with user: "kubeadmin", and password: "password"
INFO Time elapsed: 36m22s

중요

설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인 node-bootstrapper 인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오.
24 시간 인증서는 클러스터를 설치한 후 16시간에서 22시간으로 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.

8.9. CLI를 사용하여 클러스터에 로그인

사전 요구 사항

OpenShift Container Platform 클러스터를 배포했습니다.
oc CLI를 설치했습니다.

프로세스

kubeadmin 인증 정보를 내보냅니다.
```
$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1
```
1
<installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
내보낸 구성을 사용하여 oc 명령을 성공적으로 실행할 수 있는지 확인합니다.
```
$ oc whoami
```
출력 예
```
system:admin
```

추가 리소스

OpenShift Container Platform 웹 콘솔 액세스 및 이해에 대한 자세한 내용은 웹 콘솔 액세스를 참조하십시오.

8.10. OpenShift Container Platform의 Telemetry 액세스

추가 리소스

Telemetry 서비스에 대한 자세한 내용은 원격 상태 모니터링 정보를 참조하십시오.

8.11. 다음 단계

클러스터를 사용자 지정합니다.
필요한 경우 원격 상태 보고를 옵트아웃 할 수 있습니다.

9장. GCP에 개인 클러스터 설치

OpenShift Container Platform 버전 4.17에서는 프라이빗 클러스터를 GCP(Google Cloud Platform)의 기존 VPC에 설치할 수 있습니다. 설치 프로그램이 나머지 필수 인프라를 프로비저닝하며, 이후에 추가로 사용자 지정할 수 있습니다. 설치를 사용자 지정하려면 클러스터를 설치하기 전에 install-config.yaml 파일에서 매개변수를 수정합니다.

9.1. 사전 요구 사항

OpenShift Container Platform 설치 및 업데이트 프로세스에 대한 세부 사항을 검토했습니다.
클러스터 설치 방법 선택 및 사용자를 위한 준비에 대한 문서를 읽습니다.
클러스터를 호스팅 할 GCP 프로젝트를 구성했습니다.
방화벽을 사용하는 경우 클러스터가 액세스해야 하는 사이트를 허용하도록 방화벽을 구성했습니다.

9.2. 프라이빗 클러스터

외부 엔드 포인트를 노출하지 않는 비공개 OpenShift Container Platform 클러스터를 배포할 수 있습니다. 프라이빗 클러스터는 내부 네트워크에서만 액세스할 수 있으며 인터넷에 표시되지 않습니다.

기본적으로 OpenShift Container Platform은 공개적으로 액세스 가능한 DNS 및 끝점을 사용하여 프로비저닝됩니다. 따라서 개인 클러스터를 배포할 때 클러스터에서 DNS, Ingress Controller 및 API 서버를 비공개로 설정할 수 있습니다. 즉 클러스터 리소스는 내부 네트워크에서만 액세스할 수 있고 인터넷에는 노출되지 않습니다.

중요

클러스터에 퍼블릭 서브넷이 있는 경우 관리자가 생성한 로드 밸런서 서비스에 공개적으로 액세스할 수 있습니다. 클러스터 보안을 위해 이러한 서비스에 개인용으로 명시적으로 주석이 추가되었는지 확인합니다.

프라이빗 클러스터를 배포하려면 다음을 수행해야 합니다.

요구 사항을 충족하는 기존 네트워킹을 사용합니다. 네트워크의 다른 클러스터 사이에 클러스터 리소스를 공유할 수 있습니다.
다음에 액세스할 수 있는 머신에서 배포합니다.
- 프로비저닝하는 클라우드용 API 서비스
- 프로비저닝하는 네트워크의 호스트
- 설치 미디어를 가져올 인터넷

이러한 액세스 요구사항을 충족하고 회사의 지침을 따르는 모든 시스템을 사용할 수 있습니다. 클라우드 네트워크의 배스천 호스트 또는 VPN을 통해 네트워크에 액세스할 수 있는 시스템 등을 예로 들 수 있습니다.

9.2.1. GCP의 프라이빗 클러스터

GCP(Google Cloud Platform)에 프라이빗 클러스터를 생성하려면 클러스터를 호스팅할 기존 프라이빗 VPC와 서브넷을 제공해야 합니다. 또한 설치 프로그램에서 클러스터에 필요한 DNS 레코드를 확인할 수 있어야 합니다. 설치 프로그램은 내부 트래픽용 Ingress Operator 및 API 서버를 구성합니다.

클러스터가 GCP API에 액세스하려면 여전히 인터넷 접속이 필요합니다.

다음은 프라이빗 클러스터를 설치할 때 필요하지 않거나 생성되지 않는 항목들입니다.

퍼블릭 서브넷
퍼블릭 인그레스를 지원하는 퍼블릭 네트워크 로드 밸런서
클러스터의 baseDomain과 일치하는 퍼블릭 DNS 영역

사용자가 지정하는 baseDomain을 사용하여 설치 프로그램에서 프라이빗 DNS 영역과 클러스터에 필요한 레코드를 생성합니다. Operator가 클러스터에 대한 공용 레코드를 생성하지 않고 사용자가 지정하는 프라이빗 서브넷에 모든 클러스터 시스템이 배치되도록 클러스터가 구성됩니다.

소스 태그를 기반으로 외부 로드 밸런서에 액세스를 제한할 수 없기 때문에 프라이빗 클러스터에서는 내부 로드 밸런서만을 사용하여 내부 인스턴스에 액세스를 허용합니다.

내부 로드 밸런서는 네트워크 로드 밸런서가 사용하는 대상 풀이 아닌 인스턴스 그룹에 의존합니다. 해당 그룹에 인스턴스가 없는 경우에도 각 영역에 대한 인스턴스 그룹이 설치 프로그램에 의해 생성됩니다.

클러스터 IP 주소는 내부 전용입니다.
한 가지 전달 규칙이 Kubernetes API 및 시스템 구성 서버 포트를 모두 관리합니다.
백엔드 서비스는 각 영역의 인스턴스 그룹과 부트스트랩 인스턴스 그룹(존재하는 동안)으로 구성됩니다.
방화벽에는 내부 소스 범위만을 기반으로 하는 단일 규칙이 사용됩니다.

9.2.1.1. 제한

로드 밸런서 기능의 차이로 인해 시스템 구성 서버의 상태 검사 /healthz는 실행되지 않습니다. 내부 로드 밸런서 두 개가 단일 IP 주소를 공유할 수는 없지만 네트워크 로드 밸런서 두 개는 하나의 외부 IP 주소를 공유할 수 있습니다. 대신 전적으로 포트 6443의 /readyz 검사에 의해 인스턴스 상태가 결정됩니다.

9.3. 사용자 지정 VPC 사용 정보

OpenShift Container Platform 4.17에서는 GCP(Google Cloud Platform)의 기존 VPC에 클러스터를 배포할 수 있습니다. 이때 VPC 및 라우팅 규칙 내의 기존 서브넷도 사용해야 합니다.

기존 GCP VPC에 OpenShift Container Platform을 배포하면 새 계정의 한도 제한을 회피하거나 회사의 지침에 따른 운영 제한을 따르기 수월해집니다. 이 방법은 VPC를 직접 생성하는 데 필요한 인프라 생성 권한을 받을 수 없을 때 사용하기 좋은 대안입니다.

9.3.1. VPC 사용 요구사항

설치 프로그램에서 다음 구성 요소를 더 이상 생성하지 않습니다:

VPC
서브넷
클라우드 라우터
클라우드 NAT
NAT IP 주소

사용자 지정 VPC를 사용하는 경우, 사용할 클러스터와 설치 프로그램에 맞게 VPC와 해당 서브넷을 구성해야 합니다. 설치 프로그램에서 사용할 클러스터의 네트워크 범위를 세분하거나 서브넷에 대한 라우팅 테이블을 설정하거나 DHCP와 같은 VPC 옵션을 설정할 수 없으므로 클러스터를 설치하기 전에 직접 해당 작업을 수행해야 합니다.

사용자 VPC와 서브넷이 다음과 같은 특성을 충족해야 합니다.

OpenShift Container Platform 클러스터를 배포하는 것과 동일한 GCP 프로젝트에 VPC가 있어야 합니다.
컨트롤 플레인 및 컴퓨팅 시스템에서 인터넷에 액세스할 수 있도록 하려면 서브넷에서 클라우드 NAT를 구성하여 이그레스를 허용해야 합니다. 이러한 시스템에는 공용 주소가 없습니다. 인터넷에 액세스할 필요가 없는 경우에도 VPC 네트워크로 이그레스를 허용해야만 설치 프로그램과 이미지를 받을 수 있습니다. 공유 서브넷에 여러 Cloud NAT를 구성할 수 없기 때문에 설치 프로그램에서 구성할 수 없습니다.

제공한 서브넷이 적합한지 확인하기 위해 설치 프로그램이 다음 데이터를 확인합니다.

사용자가 지정하는 모든 서브넷이 존재하며 지정한 VPC에 속합니다.
서브넷 CIDR이 시스템 CIDR에 속합니다.
클러스터 컨트롤 플레인 및 컴퓨팅 시스템을 배포할 서브넷을 제공해야 합니다. 두 시스템 유형 모두에 동일한 서브넷을 사용할 수 있습니다.

기존 VPC를 사용하는 클러스터를 제거해도 VPC는 삭제되지 않습니다.

9.3.2. 권한 분할

OpenShift Container Platform 4.3부터 클러스터를 배포하는 데 설치 프로그램에서 프로비저닝한 인프라 클러스터에 필요한 권한 중 일부가 필요하지 않게 되었습니다. 이러한 변경은 회사에서 보유할 수 있는 권한 분할을 모방합니다. 즉, 몇몇 사람이 다른 사람들과 다른 리소스를 클라우드에 생성할 수 있습니다. 예를 들어 인스턴스, 버킷, 로드 밸런서와 같은 애플리케이션 관련 항목을 생성할 수는 있지만 VPC, 서브넷 또는 인그레스 규칙과 같은 네트워킹 관련 구성 요소는 생성할 수 없습니다.

클러스터를 생성할 때 사용하는 GCP 자격 증명에는 서브넷, 라우팅 테이블, 인터넷 게이트웨이, NAT, VPN과 같은 VPC 내 핵심 네트워킹 구성 요소와 VPC를 생성하는 데 필요한 네트워킹 권한이 필요하지 않습니다. 하지만 로드 밸런서, 보안 그룹, 스토리지 및 노드와 같이 클러스터 내 시스템에 필요한 애플리케이션 리소스를 생성하려면 여전히 권한이 필요합니다.

9.3.3. 클러스터 간 격리

기존 네트워크에 OpenShift Container Platform을 배포하는 경우, 클러스터의 인프라 ID로 클러스터의 시스템을 참조하는 방화벽 규칙에 따라 클러스터 서비스의 격리가 유지됩니다. 클러스터 내 트래픽만이 허용됩니다.

동일한 VPC에 여러 클러스터를 배포하는 경우, 다음 구성 요소들이 클러스터 간에 액세스를 공유할 수 있습니다.

외부 게시 전략을 통해 전역에서 사용 가능한 또는 내부 게시 전략을 통해 네트워크 범위에서 사용 가능한 API
SSH 및 ICMP 액세스를 위해 머신 CIDRr에 열려있는 VM 인스턴스의 포트와 같은 디버깅 도구

9.4. OpenShift Container Platform 용 인터넷 액세스

OpenShift Container Platform 4.17에서 클러스터를 설치하려면 인터넷 액세스가 필요합니다.

다음의 경우 인터넷 액세스가 필요합니다.

OpenShift Cluster Manager 에 액세스하여 설치 프로그램을 다운로드하고 서브스크립션 관리를 수행합니다. 클러스터가 인터넷에 액세스할 수 있고 Telemetry 서비스를 비활성화하지 않은 경우, 클러스터에 자동으로 권한이 부여됩니다.
Quay.io에 액세스. 클러스터를 설치하는 데 필요한 패키지를 받을 수 있습니다.
클러스터 업데이트를 수행하는 데 필요한 패키지를 받을 수 있습니다.

중요

9.5. 클러스터 노드 SSH 액세스를 위한 키 쌍 생성

중요

재해 복구 및 디버깅이 필요한 프로덕션 환경에서는이 단계를 생략하지 마십시오.

참고

AWS 키 쌍과 같이 플랫폼 고유의 방식으로 구성된 키가 아닌 로컬 키를 사용해야 합니다.

프로세스

로컬 시스템에 클러스터 노드의 인증에 사용할 기존 SSH 키 쌍이 없는 경우 새로 생성합니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
```
$ ssh-keygen -t ed25519 -N '' -f <path>/<file_name> 1
```
1
새 SSH 키의 경로 및 파일 이름(예: ~/.ssh/id_ed25519 )을 지정합니다. 기존 키 쌍이 있는 경우 공개 키가 '~/.ssh 디렉터리에 있는지 확인하십시오.
참고
x86_64,ppc64le, s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용하는 OpenShift Container Platform 클러스터를 설치하려면 ed25519 알고리즘을 사용하는 키를 생성하지 마십시오. 대신 rsa 또는 ecdsa 알고리즘을 사용하는 키를 생성합니다.
공개 SSH 키를 확인합니다.
```
$ cat <path>/<file_name>.pub
```
예를 들어 다음을 실행하여 ~/.ssh/id_ed25519.pub 공개 키를 확인합니다.
```
$ cat ~/.ssh/id_ed25519.pub
```
아직 추가되지 않은 경우 로컬 사용자의 SSH 에이전트에 SSH 개인 키 ID를 추가합니다. 키의 SSH 에이전트 관리는 클러스터 노드에 암호 없는 SSH 인증을 수행하거나 ./openshift-install gather 명령을 사용하려는 경우 필요합니다.
참고
일부 배포에서는 ~/.ssh/id_rsa 및 ~/.ssh/id_dsa와 같은 기본 SSH 개인 키 ID가 자동으로 관리됩니다.
1. ssh-agent 프로세스가 로컬 사용자에 대해 실행되지 않은 경우 백그라운드 작업으로 시작합니다.
```
$ eval "$(ssh-agent -s)"
```
  출력 예
```
Agent pid 31874
```
  참고
  클러스터가 FIPS 모드인 경우 FIPS 호환 알고리즘만 사용하여 SSH 키를 생성합니다. 키는 RSA 또는 ECDSA여야 합니다.
ssh-agent에 SSH 개인 키를 추가합니다.
```
$ ssh-add <path>/<file_name> 1
```
1
SSH 개인 키의 경로와 파일 이름을 지정합니다(예: ~/.ssh/id_ed25519).
출력 예
```
Identity added: /home/<you>/<path>/<file_name> (<computer_name>)
```

다음 단계

OpenShift Container Platform을 설치할 때 SSH 공개 키를 설치 프로그램에 지정합니다.

9.6. 설치 프로그램 받기

OpenShift Container Platform을 설치하기 전에 설치에 사용하는 호스트에 설치 파일을 다운로드합니다.

사전 요구 사항

500MB의 로컬 디스크 공간이 있는 Linux 또는 macOS를 실행하는 컴퓨터가 있습니다.

프로세스

Red Hat Hybrid Cloud Console의 Cluster Type 페이지로 이동합니다. Red Hat 계정이 있는 경우 인증 정보를 사용하여 로그인합니다. 계정이 없으면 계정을 만드십시오.
페이지의 자체 실행 섹션에서 인프라 공급자를 선택합니다.
OpenShift 설치 관리자의 드롭다운 메뉴에서 호스트 운영 체제 및 아키텍처를 선택하고 설치 프로그램 다운로드를 클릭합니다.
다운로드한 파일을 설치 구성 파일을 저장할 디렉터리에 배치합니다.
중요
- 설치 프로그램은 클러스터를 설치하는 데 사용하는 컴퓨터에 여러 파일을 만듭니다. 클러스터 설치를 마친 후 설치 프로그램과 설치 프로그램으로 생성되는 파일을 보관해야 합니다. 클러스터를 삭제하려면 두 파일이 모두 필요합니다.
- 클러스터 설치에 실패하거나 설치 프로그램으로 만든 파일을 삭제해도 클러스터는 제거되지 않습니다. 클러스터를 제거하려면 해당 클라우드 공급자에 적용되는 OpenShift Container Platform 설치 제거 절차를 완료해야 합니다.
설치 프로그램 파일의 압축을 풉니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
```
$ tar -xvf openshift-install-linux.tar.gz
```
Red Hat OpenShift Cluster Manager에서 설치 풀 시크릿을 다운로드합니다. 이 풀 시크릿을 사용하면 OpenShift Container Platform 구성 요소에 대한 컨테이너 이미지를 제공하는 Quay.io를 포함하여 인증 기관에서 제공하는 서비스로 인증할 수 있습니다.

작은 정보

9.7. 수동으로 설치 구성 파일 만들기

클러스터를 설치하려면 설치 구성 파일을 수동으로 생성해야 합니다.

사전 요구 사항

로컬 시스템에 설치 프로그램에 제공할 SSH 공개 키가 있습니다. 키는 디버깅 및 재해 복구를 위해 클러스터 노드에 대한 SSH 인증에 사용됩니다.
OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.

프로세스

필요한 설치 자산을 저장할 설치 디렉터리를 만듭니다.
```
$ mkdir <installation_directory>
```
중요
디렉터리를 만들어야 합니다. 부트스트랩 X.509 인증서와 같은 일부 설치 자산은 단기간에 만료되므로 설치 디렉터리를 재사용해서는 안 됩니다. 다른 클러스터 설치의 개별 파일을 재사용하려면 해당 파일을 사용자 디렉터리에 복사하면 됩니다. 그러나 설치 자산의 파일 이름은 릴리스간에 변경될 수 있습니다. 따라서 이전 OpenShift Container Platform 버전에서 설치 파일을 복사할 때는 주의하십시오.
샘플 install-config.yaml 파일 템플릿을 사용자 지정하여 <installation_directory>에 저장합니다.
참고
이 설정 파일의 이름을 install-config.yaml로 지정해야 합니다.
여러 클러스터를 설치하는 데 사용할 수 있도록 install-config.yaml 파일을 백업합니다.
중요
install-config.yaml 파일은 설치 과정의 다음 단계에서 사용됩니다. 이 시점에서 이를 백업해야 합니다.

추가 리소스

GCP의 설치 구성 매개변수

9.7.1. 클러스터 설치를 위한 최소 리소스 요구 사항

각 클러스터 시스템이 다음과 같은 최소 요구사항을 충족해야 합니다.

표 9.1. 최소 리소스 요구사항
머신	운영 체제	vCPU ^[1]	가상 RAM	스토리지	초당 입력/출력(IOPS)^[2]
부트스트랩	RHCOS	4	16GB	100GB	300
컨트롤 플레인	RHCOS	4	16GB	100GB	300
Compute	RHCOS, RHEL 8.6 이상 ^[3]	2	8GB	100GB	300

SMT(동시 멀티 스레딩) 또는 Hyper-Threading이 활성화되지 않은 경우 하나의 vCPU는 하나의 물리적 코어와 동일합니다. 활성화하면 다음과 같은 공식을 사용하여 해당 비율을 계산합니다. (코어 당 스레드 수 × 코어 수) × 소켓 수 = vCPU 수
OpenShift Container Platform 및 Kubernetes는 디스크 성능에 민감하며 특히 10ms p99 fsync 기간이 필요한 컨트롤 플레인 노드의 etcd에 더 빠른 스토리지가 권장됩니다. 많은 클라우드 플랫폼에서 스토리지 크기와 IOPS를 함께 확장되므로 충분한 성능을 얻으려면 스토리지 볼륨을 과도하게 할당해야 할 수 있습니다.
사용자가 프로비저닝한 모든 설치와 마찬가지로 클러스터에서 RHEL 컴퓨팅 머신을 사용하기로 선택한 경우 시스템 업데이트 수행, 패치 적용 및 기타 필요한 모든 작업 실행을 포함한 모든 운영 체제의 라이프 사이클 관리 및 유지 관리에 대한 책임이 있습니다. RHEL 7 컴퓨팅 머신 사용은 더 이상 사용되지 않으며 OpenShift Container Platform 4.10 이상에서 제거되었습니다.

참고

x86-64 아키텍처에는 x86-64-v2 ISA가 필요합니다.
ARM64 아키텍처에는 ARMv8.0-A ISA가 필요합니다.
IBM Power 아키텍처에는 Power 9 ISA가 필요합니다.
s390x 아키텍처에는 z14 ISA가 필요합니다.

자세한 내용은 RHEL 아키텍처를 참조하십시오.

플랫폼의 인스턴스 유형이 클러스터 머신의 최소 요구 사항을 충족하는 경우 OpenShift Container Platform에서 사용할 수 있습니다.

추가 리소스

스토리지 최적화

9.7.2. GCP에서 테스트된 인스턴스 유형

다음 Google Cloud Platform 인스턴스 유형은 OpenShift Container Platform에서 테스트되었습니다.

예 9.1. 머신 시리즈

A2
A3
C2
C2D
C3
C3D
E2
M1
N1
N2
N2D
N4
Tau T2D

9.7.3. 64비트 ARM 인프라에서 GCP에 대해 테스트된 인스턴스 유형

다음 GCP(Google Cloud Platform) 64비트 ARM 인스턴스 유형은 OpenShift Container Platform에서 테스트되었습니다.

예 9.2. 64비트 ARM 시스템용 머신 시리즈

Tau T2A

9.7.4. 사용자 지정 머신 유형 사용

사용자 지정 머신 유형을 사용하여 OpenShift Container Platform 클러스터를 설치할 수 있습니다.

사용자 지정 머신 유형을 사용할 때 다음을 고려하십시오.

사전 정의된 인스턴스 유형과 유사하게 사용자 정의 시스템 유형은 컨트롤 플레인 및 컴퓨팅 시스템의 최소 리소스 요구 사항을 충족해야 합니다. 자세한 내용은 "클러스터 설치를 위한 최소 리소스 요구 사항"을 참조하십시오.
사용자 지정 머신 유형의 이름은 다음 구문을 준수해야 합니다.
custom-<number_of_cpus>-<amount_of_memory_in_mb>
예를 들면 custom-6-20480 입니다.

설치 프로세스의 일부로 install-config.yaml 파일에 사용자 지정 머신 유형을 지정합니다.

사용자 지정 머신 유형이 있는 샘플 install-config.yaml 파일

compute:
- architecture: amd64
  hyperthreading: Enabled
  name: worker
  platform:
    gcp:
      type: custom-6-20480
  replicas: 2
controlPlane:
  architecture: amd64
  hyperthreading: Enabled
  name: master
  platform:
    gcp:
      type: custom-6-20480
  replicas: 3

9.7.5. Shielded VM 활성화

참고

Shielded VM은 현재 64비트 ARM 인프라가 있는 클러스터에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 시스템에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       secureBoot: Enabled
```
2. 컴퓨팅 머신에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       secureBoot: Enabled
```
3. 모든 시스템에 대해 보호된 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       secureBoot: Enabled
```

9.7.6. 기밀성 VM 활성화

참고

현재 기밀 VM은 64비트 ARM 아키텍처에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       confidentialCompute: Enabled 1
       type: n2d-standard-8 2
       onHostMaintenance: Terminate 3
```
  1
  기밀 VM을 활성화합니다.
  2
  기밀성 VM을 지원하는 머신 유형을 지정합니다. 기밀 VM에는 N2D 또는 C2D 일련의 머신 유형이 필요합니다. 지원되는 머신 유형에 대한 자세한 내용은 지원되는 운영 체제 및 머신 유형을 참조하십시오.
  3
  호스트 유지 관리 이벤트 중 하드웨어 또는 소프트웨어 업데이트와 같은 VM의 동작을 지정합니다. 기밀성 VM을 사용하는 시스템의 경우 이 값은 VM을 중지하도록 Terminate 로 설정해야 합니다. 기밀 VM은 실시간 VM 마이그레이션을 지원하지 않습니다.
2. 컴퓨팅 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```
3. 모든 머신에 기밀 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```

9.7.7. GCP용 샘플 사용자 지정 install-config.yaml 파일

중요

이 샘플 YAML 파일은 참조용으로만 제공됩니다. 설치 프로그램을 사용하여 install-config.yaml 파일을 받아서 수정해야 합니다.

apiVersion: v1
baseDomain: example.com 1
credentialsMode: Mint 2
controlPlane: 3 4
  hyperthreading: Enabled 5
  name: master
  platform:
    gcp:
      type: n2-standard-4
      zones:
      - us-central1-a
      - us-central1-c
      osDisk:
        diskType: pd-ssd
        diskSizeGB: 1024
        encryptionKey: 6
          kmsKey:
            name: worker-key
            keyRing: test-machine-keys
            location: global
            projectID: project-id
      tags: 7
      - control-plane-tag1
      - control-plane-tag2
      osImage: 8
        project: example-project-name
        name: example-image-name
  replicas: 3
compute: 9 10
- hyperthreading: Enabled 11
  name: worker
  platform:
    gcp:
      type: n2-standard-4
      zones:
      - us-central1-a
      - us-central1-c
      osDisk:
        diskType: pd-standard
        diskSizeGB: 128
        encryptionKey: 12
          kmsKey:
            name: worker-key
            keyRing: test-machine-keys
            location: global
            projectID: project-id
        tags: 13
        - compute-tag1
        - compute-tag2
        osImage: 14
          project: example-project-name
          name: example-image-name
  replicas: 3
metadata:
  name: test-cluster 15
networking:
  clusterNetwork:
  - cidr: 10.128.0.0/14
    hostPrefix: 23
  machineNetwork:
  - cidr: 10.0.0.0/16
  networkType: OVNKubernetes 16
  serviceNetwork:
  - 172.30.0.0/16
platform:
  gcp:
    projectID: openshift-production 17
    region: us-central1 18
    defaultMachinePlatform:
      tags: 19
      - global-tag1
      - global-tag2
      osImage: 20
        project: example-project-name
        name: example-image-name
    network: existing_vpc 21
    controlPlaneSubnet: control_plane_subnet 22
    computeSubnet: compute_subnet 23
pullSecret: '{"auths": ...}' 24
fips: false 25
sshKey: ssh-ed25519 AAAA... 26
publish: Internal 27

1 15 17 18 24: 필수 항목입니다. 설치 프로그램에서 이 값을 입력하라는 메시지를 표시합니다.
2: 선택 사항: 이 매개변수를 추가하여 CCO(Cloud Credential Operator)에서 지정된 모드를 사용하도록 강제 적용합니다. 기본적으로 CCO는 kube-system 네임스페이스의 root 인증 정보를 사용하여 인증 정보의 기능을 동적으로 확인합니다. CCO 모드에 대한 자세한 내용은 인증 및 권한 부여 가이드의 "Cloud Credential Operator 정보" 섹션을 참조하십시오.
3 9: 이러한 매개변수와 값을 지정하지 않으면 설치 프로그램은 기본값을 적용합니다.
4 10: controlPlane 섹션은 단일 매핑이지만 compute 섹션은 일련의 매핑입니다. 서로 다른 데이터 구조의 요구사항을 충족하도록 compute 섹션의 첫 번째 줄은 하이픈(-)으로 시작해야 하며 controlPlane 섹션의 첫 번째 줄은 하이픈으로 시작할 수 없습니다. 하나의 컨트롤 플레인 풀만 사용됩니다.
5 11: 동시 멀티스레딩 또는 hyperthreading 활성화/비활성화 여부를 지정합니다. 시스템 코어의 성능을 높이기 위해 기본적으로 동시 멀티스레딩이 활성화됩니다. 매개변수 값을 Disabled로 설정하여 비활성화할 수 있습니다. 일부 클러스터 시스템에서 동시 멀티스레딩을 비활성화할 경우에는 해당 멀티스레딩을 모든 클러스터 시스템에서 비활성화해야 합니다.
중요
동시 멀티스레딩을 비활성화하는 경우 용량 계획에서 시스템 성능이 크게 저하될 수 있는 문제를 고려해야 합니다. 동시 멀티스레딩을 비활성화하는 경우, 사용자 시스템에 더 큰 시스템 유형(예: n1-standard-8)을 사용하십시오.
6 12: 선택 사항: 사용자 정의 암호화 키 섹션으로 가상 머신과 영구 볼륨을 모두 암호화합니다. 기본 컴퓨팅 서비스 계정에는 KMS 키를 사용하도록 부여된 권한이 있어야 하며 올바른 IAM 역할을 할당해야 합니다. 기본 서비스 계정 이름은 service-<project_number>@compute-system.iam.gserviceaccount.com 패턴을 따릅니다. 서비스 계정에 대한 올바른 권한을 부여하는 방법에 대한 자세한 내용은 "머신 관리" → "컴퓨팅 머신 세트 생성" → " GCP에서 컴퓨팅 머신 세트 생성"을 참조하십시오.
7 13 19: 선택 사항: 컨트롤 플레인 또는 컴퓨팅 머신 세트에 적용할 네트워크 태그 세트입니다. platform.gcp.defaultMachinePlatform.tags 매개변수는 컨트롤 플레인 및 컴퓨팅 시스템 모두에 적용됩니다. compute.platform.gcp.tags 또는 controlPlane.platform.gcp.tags 매개변수가 설정된 경우 platform.gcp.defaultMachinePlatform.tags 매개변수를 재정의합니다.
8 14 20: 선택사항: 컨트롤 플레인 및 컴퓨팅 머신을 부팅하는 데 사용해야 하는 사용자 지정 RHCOS(Red Hat Enterprise Linux CoreOS)입니다. platform.gcp.defaultMachinePlatform.osImage 아래의 project 및 name 매개변수는 컨트롤 플레인 및 컴퓨팅 시스템 모두에 적용됩니다. controlPlane.platform.gcp.osImage 또는 compute.platform.gcp.osImage 아래의 프로젝트 및 이름 매개변수가 설정된 경우 platform.gcp.defaultMachinePlatform.osImage 매개변수를 재정의합니다.
16: 설치할 클러스터 네트워크 플러그인입니다. 기본 값 OVNKubernetes 는 지원되는 유일한 값입니다.
21: 기존 VPC의 이름을 지정합니다.
22: 컨트롤 플레인 시스템을 배포할 기존 서브넷의 이름을 지정합니다. 지정한 VPC에 속하는 서브넷이어야 합니다.
23: 컴퓨팅 시스템을 배포할 기존 서브넷의 이름을 지정합니다. 지정한 VPC에 속하는 서브넷이어야 합니다.
25: FIPS 모드 활성화 또는 비활성화 여부입니다. 기본적으로 FIPS 모드는 비활성화됩니다. FIPS 모드가 활성화되면 OpenShift Container Platform이 실행되는 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템에서 기본 Kubernetes 암호화 제품군은 우회하고 RHCOS와 함께 제공되는 암호화 모듈을 대신 사용합니다.
중요
클러스터의 FIPS 모드를 활성화하려면 FIPS 모드에서 작동하도록 구성된 RHEL(Red Hat Enterprise Linux) 컴퓨터에서 설치 프로그램을 실행해야 합니다. RHEL에서 FIPS 모드 구성에 대한 자세한 내용은 FIPS 모드에서 시스템 설치를 참조하십시오.
FIPS 모드에서 부팅된 RHEL(Red Hat Enterprise Linux CoreOS) 또는 RHCOS(Red Hat Enterprise Linux CoreOS)를 실행하는 경우 OpenShift Container Platform 코어 구성 요소는 x86_64, ppc64le 및 s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용합니다.
26: 선택사항으로, 클러스터의 시스템에 액세스하는 데 사용할 sshKey 값을 제공할 수도 있습니다.
참고
설치 디버깅 또는 재해 복구를 수행하려는 프로덕션 OpenShift Container Platform 클러스터의 경우 ssh-agent 프로세스가 사용하는 SSH 키를 지정합니다.
27: 클러스터의 사용자 끝점을 게시하는 방법. 인터넷에서 액세스할 수 없는 프라이빗 클러스터를 배포하려면 publish를 Internal로 설정합니다. 기본값은 External입니다.

추가 리소스

컴퓨팅 머신 세트의 고객 관리 암호화 키 활성화

9.7.8. GCP에서 글로벌 액세스 권한이 있는 Ingress 컨트롤러 생성

사전 요구 사항

install-config.yaml을 생성하고 수정 완료했습니다.

프로세스

새 GCP 클러스터에서 글로벌 액세스 권한이 있는 Ingress 컨트롤러를 생성합니다.

설치 프로그램이 포함된 디렉터리로 변경하고 매니페스트를 생성합니다.
```
$ ./openshift-install create manifests --dir <installation_directory> 1
```
1
<installation_directory>는 클러스터의 install-config.yaml 파일이 포함된 디렉터리의 이름을 지정합니다.
<installation_directory>/manifests/ 디렉터리에 cluster-ingress-default-ingresscontroller.yaml이라는 이름으로 파일을 만듭니다.
```
$ touch <installation_directory>/manifests/cluster-ingress-default-ingresscontroller.yaml 1
```
1
<installation_directory>는 클러스터의 manifests / 디렉터리가 포함된 디렉터리 이름을 지정합니다.
파일이 생성되면 다음과 같이 여러 네트워크 구성 파일이 manifests/ 디렉토리에 나타납니다.
```
$ ls <installation_directory>/manifests/cluster-ingress-default-ingresscontroller.yaml
```
출력 예
```
cluster-ingress-default-ingresscontroller.yaml
```

편집기에서 cluster-ingress-default-ingresscontroller.yaml 파일을 열고 원하는 운영자 구성을 설명하는 CR(사용자 정의 리소스)을 입력합니다.

Global에 대한 clientAccess 구성 샘플

  apiVersion: operator.openshift.io/v1
  kind: IngressController
  metadata:
    name: default
    namespace: openshift-ingress-operator
  spec:
    endpointPublishingStrategy:
      loadBalancer:
        providerParameters:
          gcp:
            clientAccess: Global 1
          type: GCP
        scope: Internal          2
      type: LoadBalancerService

1: gcp.clientAccess를 Global로 설정합니다.
2: 글로벌 액세스는 내부 로드 밸런서를 사용하는 Ingress 컨트롤러에서만 사용할 수 있습니다.

9.7.9. 설치 중 클러스터 단위 프록시 구성

사전 요구 사항

기존 install-config.yaml 파일이 있습니다.
클러스터에서 액세스해야 하는 사이트를 검토하고 프록시를 바이패스해야 하는지 확인했습니다. 기본적으로 호스팅 클라우드 공급자 API에 대한 호출을 포함하여 모든 클러스터 발신(Egress) 트래픽이 프록시됩니다. 필요한 경우 프록시를 바이패스하기 위해 Proxy 오브젝트의 spec.noProxy 필드에 사이트를 추가했습니다.
참고
Proxy 오브젝트의 status.noProxy 필드는 설치 구성에 있는 networking.machineNetwork[].cidr, networking.clusterNetwork[].cidr, networking.serviceNetwork[] 필드의 값으로 채워집니다.
Amazon Web Services (AWS), Google Cloud Platform (GCP), Microsoft Azure 및 Red Hat OpenStack Platform (RHOSP)에 설치하는 경우 Proxy 오브젝트 status.noProxy 필드도 인스턴스 메타데이터 끝점(169.254.169.254)로 채워집니다.

프로세스

install-config.yaml 파일을 편집하고 프록시 설정을 추가합니다. 예를 들면 다음과 같습니다.
```
apiVersion: v1
baseDomain: my.domain.com
proxy:
  httpProxy: http://<username>:<pswd>@<ip>:<port> 1
  httpsProxy: https://<username>:<pswd>@<ip>:<port> 2
  noProxy: example.com 3
additionalTrustBundle: | 4
    -----BEGIN CERTIFICATE-----
    <MY_TRUSTED_CA_CERT>
    -----END CERTIFICATE-----
additionalTrustBundlePolicy: <policy_to_add_additionalTrustBundle> 5
```
1
클러스터 외부에서 HTTP 연결을 구축하는 데 사용할 프록시 URL입니다. URL 스키마는 http여야 합니다.
2
클러스터 외부에서 HTTPS 연결을 구축하는 데 사용할 프록시 URL입니다.
3
대상 도메인 이름, IP 주소 또는 프록시에서 제외할 기타 네트워크 CIDR로 이루어진 쉼표로 구분된 목록입니다. 하위 도메인과 일치하려면 도메인 앞에 .을 입력합니다. 예를 들어, .y.com은 x.y.com과 일치하지만 y.com은 일치하지 않습니다. *를 사용하여 모든 대상에 대해 프록시를 바이패스합니다.
4
이 값을 제공하면 설치 프로그램에서 HTTPS 연결을 프록시하는 데 필요한 추가 CA 인증서가 하나 이상 포함된 openshift-config 네임스페이스에 user-ca-bundle이라는 이름으로 구성 맵을 생성합니다. 그러면 CNO(Cluster Network Operator)에서 이러한 콘텐츠를 RHCOS(Red Hat Enterprise Linux CoreOS) 신뢰 번들과 병합하는 trusted-ca-bundle 구성 맵을 생성합니다. 이 구성 맵은 Proxy 오브젝트의 trustedCA 필드에서 참조됩니다. 프록시의 ID 인증서를 RHCOS 트러스트 번들에 있는 기관에서 서명하지 않은 경우 additionalTrustBundle 필드가 있어야 합니다.
5
선택 사항: trustedCA 필드에서 user-ca-bundle 구성 맵을 참조할 프록시 오브젝트의 구성을 결정하는 정책입니다. 허용되는 값은 Proxyonly 및 Always 입니다. http/https 프록시가 구성된 경우에만 user-ca-bundle 구성 맵을 참조하려면 Proxyonly 를 사용합니다. Always 를 사용하여 user-ca-bundle 구성 맵을 항상 참조합니다. 기본값은 Proxyonly 입니다.
참고
설치 프로그램에서 프록시 adinessEndpoints 필드를 지원하지 않습니다.
참고
설치 프로그램이 시간 초과되면 설치 프로그램의 wait-for 명령을 사용하여 배포를 다시 시작한 다음 완료합니다. 예를 들면 다음과 같습니다.
```
$ ./openshift-install wait-for install-complete --log-level debug
```
파일을 저장해 놓고 OpenShift Container Platform을 설치할 때 참조하십시오.

참고

cluster라는 Proxy 오브젝트만 지원되며 추가 프록시는 생성할 수 없습니다.

9.8. OpenShift CLI 설치

중요

Linux에서 OpenShift CLI 설치

다음 절차를 사용하여 Linux에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
제품 변형 드롭다운 목록에서 아키텍처를 선택합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Linux Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
아카이브의 압축을 풉니다.
```
$ tar xvf <file>
```
oc 바이너리를 PATH에 있는 디렉터리에 배치합니다.
PATH를 확인하려면 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
$ oc <command>
```

Windows에서 OpenSfhit CLI 설치

다음 절차에 따라 Windows에 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Windows Client 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
ZIP 프로그램으로 아카이브의 압축을 풉니다.
oc 바이너리를 PATH에 있는 디렉터리로 이동합니다.
PATH를 확인하려면 명령 프롬프트를 열고 다음 명령을 실행합니다.
```
C:\> path
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
C:\> oc <command>
```

macOS에 OpenShift CLI 설치

다음 절차에 따라 macOS에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 macOS Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
참고
macOS arm64의 경우 OpenShift v4.17 macOS arm64 Client 항목을 선택합니다.
아카이브의 압축을 해제하고 압축을 풉니다.
oc 바이너리 PATH의 디렉터리로 이동합니다.
PATH를 확인하려면 터미널을 열고 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

oc 명령을 사용하여 설치를 확인합니다.
```
$ oc <command>
```

9.9. kube-system 프로젝트에 관리자 수준 시크릿을 저장하는 대안

장기 클라우드 인증 정보를 수동으로 관리하려면 수동으로 장기 인증 정보를 생성하는 절차를 따르십시오.
개별 구성 요소의 클러스터 외부에서 관리되는 단기 인증 정보를 구현하려면 GCP 클러스터 구성 절차에 따라 단기 인증 정보를 사용합니다.

9.9.1. 수동으로 장기 인증 정보 생성

프로세스

설치 프로그램이 사용하는 GCP 계정에 다음 세분화된 권한을 추가합니다.
예 9.3. 필요한 GCP 권한
- compute.machineTypes.list
- compute.regions.list
- compute.zones.list
- dns.changes.create
- dns.changes.get
- dns.managedZones.create
- dns.managedZones.delete
- dns.managedZones.get
- dns.managedZones.list
- dns.networks.bindPrivateDNSZone
- dns.resourceRecordSets.create
- dns.resourceRecordSets.delete
- dns.resourceRecordSets.list
install-config.yaml 구성 파일의 credentialsMode 매개변수를 Manual 로 설정하지 않은 경우 다음과 같이 값을 수정합니다.
구성 파일 스니펫 샘플
```
apiVersion: v1
baseDomain: example.com
credentialsMode: Manual
# ...
```
이전에 설치 매니페스트 파일을 생성하지 않은 경우 다음 명령을 실행하여 수행합니다.
```
$ openshift-install create manifests --dir <installation_directory>
```
여기서 <installation_directory>는 설치 프로그램이 파일을 생성하는 디렉터리입니다.
다음 명령을 실행하여 설치 파일의 릴리스 이미지로 $RELEASE_IMAGE 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```

다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CredentialsRequest CR(사용자 정의 리소스) 목록을 추출합니다.

$ oc adm release extract \
  --from=$RELEASE_IMAGE \
  --credentials-requests \
  --included \1
  --install-config=<path_to_directory_with_installation_configuration>/install-config.yaml \2
  --to=<path_to_directory_for_credentials_requests> 3

1: --included 매개변수에는 특정 클러스터 구성에 필요한 매니페스트만 포함됩니다.
2: install-config.yaml 파일의 위치를 지정합니다.
3: CredentialsRequest 오브젝트를 저장할 디렉터리의 경로를 지정합니다. 지정된 디렉터리가 없으면 이 명령이 이를 생성합니다.

이 명령을 수행하면 각 CredentialsRequest 오브젝트에 대해 YAML 파일이 생성됩니다.

샘플 CredentialsRequest 개체

apiVersion: cloudcredential.openshift.io/v1
kind: CredentialsRequest
metadata:
  name: <component_credentials_request>
  namespace: openshift-cloud-credential-operator
  ...
spec:
  providerSpec:
    apiVersion: cloudcredential.openshift.io/v1
    kind: GCPProviderSpec
    predefinedRoles:
    - roles/storage.admin
    - roles/iam.serviceAccountUser
    skipServiceCheck: true
  ...

보안이 포함된 샘플 CredentialsRequest 오브젝트

apiVersion: cloudcredential.openshift.io/v1
kind: CredentialsRequest
metadata:
  name: <component_credentials_request>
  namespace: openshift-cloud-credential-operator
  ...
spec:
  providerSpec:
    apiVersion: cloudcredential.openshift.io/v1
      ...
  secretRef:
    name: <component_secret>
    namespace: <component_namespace>
  ...

샘플 Secret 오브젝트

apiVersion: v1
kind: Secret
metadata:
  name: <component_secret>
  namespace: <component_namespace>
data:
  service_account.json: <base64_encoded_gcp_service_account_file>

중요

수동으로 유지 관리되는 인증 정보를 사용하는 클러스터를 업그레이드하기 전에 CCO가 업그레이드 가능한 상태인지 확인해야 합니다.

9.9.2. 단기 인증 정보를 사용하도록 GCP 클러스터 구성

GCP 워크로드 ID를 사용하도록 구성된 클러스터를 설치하려면 CCO 유틸리티를 구성하고 클러스터에 필요한 GCP 리소스를 생성해야 합니다.

9.9.2.1. Cloud Credential Operator 유틸리티 구성

참고

ccoctl 유틸리티는 Linux 환경에서 실행해야 하는 Linux 바이너리입니다.

사전 요구 사항

클러스터 관리자 액세스 권한이 있는 OpenShift Container Platform 계정에 액세스할 수 있습니다.
OpenShift CLI(oc)가 설치되어 있습니다.

설치 프로그램이 사용하는 GCP 계정에 다음 인증 옵션 중 하나를 추가했습니다.
- IAM 워크로드 ID 풀 관리자 역할.
- 다음과 같은 세분화된 권한:
  예 9.4. 필요한 GCP 권한
  compute.projects.get
  iam.googleapis.com/workloadIdentityPoolProviders.create
  iam.googleapis.com/workloadIdentityPoolProviders.get
  iam.googleapis.com/workloadIdentityPools.create
  iam.googleapis.com/workloadIdentityPools.delete
  iam.googleapis.com/workloadIdentityPools.get
  iam.googleapis.com/workloadIdentityPools.undelete
  iam.roles.create
  iam.roles.delete
  iam.roles.list
  iam.roles.undelete
  iam.roles.update
  iam.serviceAccounts.create
  iam.serviceAccounts.delete
  iam.serviceAccounts.getIamPolicy
  iam.serviceAccounts.list
  iam.serviceAccounts.setIamPolicy
  iam.workloadIdentityPoolProviders.get
  iam.workloadIdentityPools.delete
  resourcemanager.projects.get
  resourcemanager.projects.getIamPolicy
  resourcemanager.projects.setIamPolicy
  storage.buckets.create
  storage.buckets.delete
  storage.buckets.get
  storage.buckets.getIamPolicy
  storage.buckets.setIamPolicy
  storage.objects.create
  storage.objects.delete
  storage.objects.list

프로세스

다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지의 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CCO 컨테이너 이미지를 가져옵니다.
```
$ CCO_IMAGE=$(oc adm release info --image-for='cloud-credential-operator' $RELEASE_IMAGE -a ~/.pull-secret)
```
참고
$RELEASE_IMAGE 의 아키텍처가 ccoctl 툴을 사용할 환경의 아키텍처와 일치하는지 확인합니다.
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지 내에서 ccoctl 바이너리를 추출합니다.
```
$ oc image extract $CCO_IMAGE \
  --file="/usr/bin/ccoctl.<rhel_version>" \1
  -a ~/.pull-secret
```
1
& lt;rhel_version > 의 경우 호스트가 사용하는 RHEL(Red Hat Enterprise Linux) 버전에 해당하는 값을 지정합니다. 값을 지정하지 않으면 기본적으로 ccoctl.rhel8 이 사용됩니다. 다음 값이 유효합니다.
rhel8: RHEL 8을 사용하는 호스트에 대해 이 값을 지정합니다.
rhel9: RHEL 9를 사용하는 호스트에 대해 이 값을 지정합니다.
다음 명령을 실행하여 ccoctl 을 실행할 수 있도록 권한을 변경합니다.
```
$ chmod 775 ccoctl.<rhel_version>
```

검증

$ ./ccoctl.rhel9

출력 예

OpenShift credentials provisioning tool

Usage:
  ccoctl [command]

Available Commands:
  aws          Manage credentials objects for AWS cloud
  azure        Manage credentials objects for Azure
  gcp          Manage credentials objects for Google cloud
  help         Help about any command
  ibmcloud     Manage credentials objects for {ibm-cloud-title}
  nutanix      Manage credentials objects for Nutanix

Flags:
  -h, --help   help for ccoctl

Use "ccoctl [command] --help" for more information about a command.

9.9.2.2. Cloud Credential Operator 유틸리티를 사용하여 GCP 리소스 생성

ccoctl gcp create-all 명령을 사용하여 GCP 리소스 생성을 자동화할 수 있습니다.

참고

사전 요구 사항

다음이 있어야 합니다.

ccoctl 바이너리를 추출하여 준비합니다.

프로세스

다음 명령을 실행하여 설치 파일의 릴리스 이미지로 $RELEASE_IMAGE 변수를 설정합니다.
```
$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
```
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서 CredentialsRequest 오브젝트 목록을 추출합니다.
```
$ oc adm release extract \
  --from=$RELEASE_IMAGE \
  --credentials-requests \
  --included \1
  --install-config=<path_to_directory_with_installation_configuration>/install-config.yaml \2
  --to=<path_to_directory_for_credentials_requests> 3
```
1
--included 매개변수에는 특정 클러스터 구성에 필요한 매니페스트만 포함됩니다.
2
install-config.yaml 파일의 위치를 지정합니다.
3
CredentialsRequest 오브젝트를 저장할 디렉터리의 경로를 지정합니다. 지정된 디렉터리가 없으면 이 명령이 이를 생성합니다.
참고
이 명령을 실행하는 데 시간이 다소 걸릴 수 있습니다.
ccoctl 툴을 사용하여 다음 명령을 실행하여 모든 CredentialsRequest 오브젝트를 처리합니다.
```
$ ccoctl gcp create-all \
  --name=<name> \1
  --region=<gcp_region> \2
  --project=<gcp_project_id> \3
  --credentials-requests-dir=<path_to_credentials_requests_directory> 4
```
1
추적에 사용되는 모든 생성된 GCP 리소스의 사용자 정의 이름을 지정합니다.
2
클라우드 리소스가 생성될 GCP 리전을 지정합니다.
3
클라우드 리소스가 생성될 GCP 프로젝트 ID를 지정합니다.
4
GCP 서비스 계정을 생성하려면 CredentialsRequest 매니페스트 파일이 포함된 디렉터리를 지정합니다.
참고
클러스터에서 TechPreviewNoUpgrade 기능 세트에서 활성화한 기술 프리뷰 기능을 사용하는 경우 --enable-tech-preview 매개변수를 포함해야 합니다.

검증

OpenShift Container Platform 보안이 생성되었는지 확인하려면 <path_to_ccoctl_output_dir>/manifests 디렉터리에 파일을 나열합니다.

$ ls <path_to_ccoctl_output_dir>/manifests

출력 예

cluster-authentication-02-config.yaml
openshift-cloud-controller-manager-gcp-ccm-cloud-credentials-credentials.yaml
openshift-cloud-credential-operator-cloud-credential-operator-gcp-ro-creds-credentials.yaml
openshift-cloud-network-config-controller-cloud-credentials-credentials.yaml
openshift-cluster-api-capg-manager-bootstrap-credentials-credentials.yaml
openshift-cluster-csi-drivers-gcp-pd-cloud-credentials-credentials.yaml
openshift-image-registry-installer-cloud-credentials-credentials.yaml
openshift-ingress-operator-cloud-credentials-credentials.yaml
openshift-machine-api-gcp-cloud-credentials-credentials.yaml

GCP를 쿼리하여 IAM 서비스 계정이 생성되었는지 확인할 수 있습니다. 자세한 내용은 IAM 서비스 계정 나열에 대한 GCP 설명서를 참조하십시오.

9.9.2.3. Cloud Credential Operator 유틸리티 매니페스트 통합

사전 요구 사항

클러스터를 호스팅하는 클라우드 플랫폼으로 계정을 구성했습니다.
Cloud Credential Operator 유틸리티(ccoctl)를 구성했습니다.
ccoctl 유틸리티를 사용하여 클러스터에 필요한 클라우드 공급자 리소스를 생성했습니다.

프로세스

설치 프로그램이 사용하는 GCP 계정에 다음 세분화된 권한을 추가합니다.
예 9.5. 필요한 GCP 권한
- compute.machineTypes.list
- compute.regions.list
- compute.zones.list
- dns.changes.create
- dns.changes.get
- dns.managedZones.create
- dns.managedZones.delete
- dns.managedZones.get
- dns.managedZones.list
- dns.networks.bindPrivateDNSZone
- dns.resourceRecordSets.create
- dns.resourceRecordSets.delete
- dns.resourceRecordSets.list
install-config.yaml 구성 파일의 credentialsMode 매개변수를 Manual 로 설정하지 않은 경우 다음과 같이 값을 수정합니다.
구성 파일 스니펫 샘플
```
apiVersion: v1
baseDomain: example.com
credentialsMode: Manual
# ...
```
이전에 설치 매니페스트 파일을 생성하지 않은 경우 다음 명령을 실행하여 수행합니다.
```
$ openshift-install create manifests --dir <installation_directory>
```
여기서 <installation_directory>는 설치 프로그램이 파일을 생성하는 디렉터리입니다.
ccoctl 유틸리티가 생성된 매니페스트 를 다음 명령을 실행하여 설치 프로그램에서 생성한 매니페스트에 복사합니다.
```
$ cp /<path_to_ccoctl_output_dir>/manifests/* ./manifests/
```
개인 키가 포함된 tls 디렉터리를 설치 디렉터리에 복사합니다.
```
$ cp -a /<path_to_ccoctl_output_dir>/tls .
```

9.10. 클러스터 배포

호환되는 클라우드 플랫폼에 OpenShift Container Platform을 설치할 수 있습니다.

중요

최초 설치 과정에서 설치 프로그램의 create cluster 명령을 한 번만 실행할 수 있습니다.

사전 요구 사항

클러스터를 호스팅하는 클라우드 플랫폼으로 계정을 구성했습니다.
OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.
호스트의 클라우드 공급자 계정에 클러스터를 배포할 수 있는 올바른 권한이 있는지 확인했습니다. 잘못된 권한이 있는 계정으로 인해 누락된 권한이 표시되는 오류 메시지와 함께 설치 프로세스가 실패합니다.

프로세스

클러스터에 맞춰 구성하여 다음 위치에 저장한 GCP 계정의 서비스 계정 키를 사용하지 않는 기존 GCP 사용자 자격 증명을 삭제합니다.
- GOOGLE_CREDENTIALS, GOOGLE_CLOUD_KEYFILE_JSON 또는 GCLOUD_KEYFILE_JSON 환경 변수
- ~/.gcp/osServiceAccount.json 파일
- gcloud cli 기본 자격 증명
설치 프로그램이 포함된 디렉터리로 변경하고 클러스터 배포를 초기화합니다.
```
$ ./openshift-install create cluster --dir <installation_directory> \ 1
    --log-level=info 2
```
1
<installation_directory> 값으로 사용자 지정한 ./install-config.yaml 파일의 위치를 지정합니다.
2
다른 설치 세부 사항을 보려면 info 대신 warn, debug 또는 error를 지정합니다.
선택사항: 클러스터를 설치하는 데 사용한 서비스 계정에 대한 권한 수를 줄일 수 있습니다.
- 서비스 계정에 Owner 역할을 할당한 경우, 해당 역할을 제거하고 Viewer 역할로 바꿀 수 있습니다.
- Service Account Key Admin 역할이 포함되어 있으면 제거할 수도 있습니다.

검증

클러스터 배포가 성공적으로 완료되면 다음을 수행합니다.

터미널에는 웹 콘솔에 대한 링크 및 kubeadmin 사용자의 인증 정보를 포함하여 클러스터에 액세스하는 지침이 표시됩니다.
인증 정보도 < installation_directory>/.openshift_install.log 로 출력합니다.

중요

설치 프로그램 또는 설치 프로그램이 생성하는 파일을 삭제하지 마십시오. 클러스터를 삭제하려면 두 가지가 모두 필요합니다.

출력 예

...
INFO Install complete!
INFO To access the cluster as the system:admin user when using 'oc', run 'export KUBECONFIG=/home/myuser/install_dir/auth/kubeconfig'
INFO Access the OpenShift web-console here: https://console-openshift-console.apps.mycluster.example.com
INFO Login to the console with user: "kubeadmin", and password: "password"
INFO Time elapsed: 36m22s

중요

설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인 node-bootstrapper 인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오.
24 시간 인증서는 클러스터를 설치한 후 16시간에서 22시간으로 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.

9.11. CLI를 사용하여 클러스터에 로그인

사전 요구 사항

OpenShift Container Platform 클러스터를 배포했습니다.
oc CLI를 설치했습니다.

프로세스

kubeadmin 인증 정보를 내보냅니다.
```
$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1
```
1
<installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
내보낸 구성을 사용하여 oc 명령을 성공적으로 실행할 수 있는지 확인합니다.
```
$ oc whoami
```
출력 예
```
system:admin
```

추가 리소스

OpenShift Container Platform 웹 콘솔 액세스 및 이해에 대한 자세한 내용은 웹 콘솔 액세스를 참조하십시오.

9.12. OpenShift Container Platform의 Telemetry 액세스

추가 리소스

Telemetry 서비스에 대한 자세한 내용은 원격 상태 모니터링 정보를 참조하십시오.

9.13. 다음 단계

클러스터를 사용자 지정합니다.
필요한 경우 원격 상태 보고를 옵트아웃 할 수 있습니다.

10장. Deployment Manager 템플릿을 사용하여 GCP의 사용자 프로비저닝 인프라에 클러스터 설치

OpenShift Container Platform 버전 4.17에서는 사용자가 제공하는 인프라를 사용하는 클러스터를 GCP(Google Cloud Platform)에 설치할 수 있습니다.

사용자 제공 인프라 설치 단계가 여기에 요약되어 있습니다. 안내된 단계를 수행하거나 자체 모델링에 유용한 몇 가지 Deployment Manager 템플릿이 제공됩니다. 여러 다른 방법을 통해 필요한 리소스를 자유롭게 생성할 수도 있습니다.

중요

사용자가 프로비저닝한 인프라 설치를 수행하는 단계는 예시용으로만 제공됩니다. 사용자가 제공하는 인프라를 사용하여 클러스터를 설치하려면 클라우드 공급자 및 OpenShift Container Platform 설치 프로세스에 대한 정보가 필요합니다. 안내된 단계를 수행하거나 자체 모델링에 유용한 몇 가지 Deployment Manager 템플릿이 제공됩니다. 여러 다른 방법을 통해 필요한 리소스를 자유롭게 생성할 수도 있습니다. 템플릿은 예시일 뿐입니다.

10.1. 사전 요구 사항

OpenShift Container Platform 설치 및 업데이트 프로세스에 대한 세부 사항을 검토했습니다.
클러스터 설치 방법 선택 및 사용자를 위한 준비에 대한 문서를 읽습니다.
방화벽을 사용하며 Telemetry 서비스를 사용할 예정이면 클러스터 가 액세스해야 하는 사이트를 허용하도록 방화벽을 구성해야 합니다.
사용자의 환경에서 클라우드 ID 및 액세스 관리(IAM) API에 액세스할 수 없거나 kube-system 네임스페이스에 관리자 수준의 인증 정보 시크릿을 저장하지 않으려면 장기 인증 정보를 수동으로 생성하고 유지 관리할 수 있습니다.
참고
프록시를 구성하는 경우에도 해당 사이트 목록을 검토하십시오.

10.2. 인증서 서명 요청 관리

사용자가 프로비저닝하는 인프라를 사용하는 경우 자동 시스템 관리 기능으로 인해 클러스터의 액세스가 제한되므로 설치한 후 클러스터 인증서 서명 요청(CSR)을 승인하는 메커니즘을 제공해야 합니다. kube-controller-manager는 kubelet 클라이언트 CSR만 승인합니다. machine-approver는 올바른 시스템에서 발행한 요청인지 확인할 수 없기 때문에 kubelet 자격 증명을 사용하여 요청하는 서비스 인증서의 유효성을 보장할 수 없습니다. kubelet 서빙 인증서 요청의 유효성을 확인하고 요청을 승인하는 방법을 결정하여 구현해야 합니다.

10.3. OpenShift Container Platform 용 인터넷 액세스

OpenShift Container Platform 4.17에서 클러스터를 설치하려면 인터넷 액세스가 필요합니다.

다음의 경우 인터넷 액세스가 필요합니다.

OpenShift Cluster Manager 에 액세스하여 설치 프로그램을 다운로드하고 서브스크립션 관리를 수행합니다. 클러스터가 인터넷에 액세스할 수 있고 Telemetry 서비스를 비활성화하지 않은 경우, 클러스터에 자동으로 권한이 부여됩니다.
Quay.io에 액세스. 클러스터를 설치하는 데 필요한 패키지를 받을 수 있습니다.
클러스터 업데이트를 수행하는 데 필요한 패키지를 받을 수 있습니다.

중요

10.4. GCP 프로젝트 구성

OpenShift Container Platform을 설치하려면 먼저 호스팅할 GCP(Google Cloud Platform) 프로젝트를 구성해야 합니다.

10.4.1. GCP 프로젝트 생성

OpenShift Container Platform을 설치하려면 클러스터를 호스팅할 GCP(Google Cloud Platform) 계정에 프로젝트를 생성해야 합니다.

프로세스

OpenShift Container Platform 클러스터를 호스팅할 프로젝트를 생성합니다. GCP 문서의 프로젝트 생성 및 관리 단원을 참조하십시오.
중요
설치 관리자 프로비저닝 인프라를 사용하는 경우 GCP 프로젝트는 Premium Network Service Tier를 사용해야 합니다. 설치 프로그램을 사용하여 설치된 클러스터의 Standard Network Service Tier는 지원되지 않습니다. 설치 프로그램은 api-int.<cluster_name>.<base_domain> URL에 대한 내부 로드 밸런싱을 구성합니다.

10.4.2. GCP에서 API 서비스 활성화

GCP(Google Cloud Platform) 프로젝트에서 OpenShift Container Platform 설치를 완료하려면 여러 API 서비스에 액세스해야 합니다.

사전 요구 사항

클러스터를 호스팅할 프로젝트 생성을 완료했습니다.

프로세스

표 10.1. 필수 API 서비스
API 서비스	콘솔 서비스 이름
컴퓨팅 엔진 API	`compute.googleapis.com`
클라우드 리소스 관리자 API	`cloudresourcemanager.googleapis.com`
Google DNS API	`dns.googleapis.com`
IAM 서비스 계정 자격 증명 API	`iamcredentials.googleapis.com`
IAM(ID 및 액세스 관리) API	`iam.googleapis.com`
서비스 사용량 API	`serviceusage.googleapis.com`

표 10.2. 선택적 API 서비스
API 서비스	콘솔 서비스 이름
Cloud Deployment Manager V2 API	`deploymentmanager.googleapis.com`
Google 클라우드 API	`cloudapis.googleapis.com`
서비스 관리 API	`servicemanagement.googleapis.com`
Google 클라우드 스토리지 JSON API	`storage-api.googleapis.com`
클라우드 스토리지	`storage-component.googleapis.com`

10.4.3. GCP용 DNS 구성

프로세스

도메인 또는 하위 도메인과 등록 기관을 식별합니다. 기존 도메인 및 등록 기관을 이전하거나 GCP 또는 다른 소스를 통해 새 도메인과 등록 기관을 구할 수 있습니다.
참고
새 도메인을 구입하는 경우, 관련 DNS 변경사항이 전파되는 데 시간이 걸릴 수 있습니다. Google을 통한 도메인 구매에 대한 자세한 내용은 Google 도메인을 참조하십시오.
GCP 프로젝트에서 도메인 또는 하위 도메인의 퍼블릭 호스팅 영역을 생성합니다. GCP 문서의 퍼블릭 영역 생성 단원을 참조하십시오.
적절한 루트 도메인(예: openshiftcorp.com) 또는 하위 도메인(예: clusters.openshiftcorp.com)을 사용합니다.
호스팅 영역 레코드에서 권한이 있는 새 이름 서버를 추출합니다. GCP 문서의 클라우드 DNS 이름 서버 조회 단원을 참조하십시오.
일반적으로 네 가지 이름 서버가 있습니다.
도메인에서 사용하는 이름 서버의 등록 기관 레코드를 업데이트합니다. 예를 들어, 사용자 도메인을 Google 도메인에 등록한 경우 Google 도메인 도움말의 사용자 지정 이름 서버로 전환하는 방법 항목을 참조하십시오.
루트 도메인을 Google Cloud DNS로 마이그레이션했으면 DNS 레코드를 마이그레이션합니다. GCP 문서의 클라우드 DNS로 마이그레이션을 참조하십시오.
하위 도메인을 사용하는 경우, 회사의 프로시저에 따라 상위 도메인에 위임 레코드를 추가합니다. 이 과정에 회사의 IT 부서 또는 회사의 루트 도메인 및 DNS 서비스를 제어하는 부서에 요청하는 일도 포함될 수 있습니다.

10.4.4. GCP 계정 제한

표 10.3. 기본 클러스터에서 사용되는 GCP 리소스
서비스	구성 요소	위치	필요한 총 리소스	부트스트랩 후 제거된 리소스
서비스 계정	IAM	글로벌	6	1
방화벽 규칙	네트워킹	글로벌	11	1
전송 규칙	컴퓨팅	글로벌	2	0
상태 검사	컴퓨팅	글로벌	2	0
이미지	컴퓨팅	글로벌	1	0
네트워크	네트워킹	글로벌	1	0
라우터	네트워킹	글로벌	1	0
라우트	네트워킹	글로벌	2	0
서브네트워크	컴퓨팅	글로벌	2	0
대상 풀	네트워킹	글로벌	2	0

참고

설치하는 동안 할당량이 충분하지 않으면 설치 프로그램에서 초과된 할당량과 리전을 모두 안내하는 오류 메시지를 표시합니다.

다음 리전 중 하나에서 클러스터를 배포하려는 경우, 최대 스토리지 할당량을 초과할 것이며, CPU 할당량 제한을 초과할 가능성도 있습니다.

asia-east2
asia-northeast2
asia-south1
australia-southeast1
europe-north1
europe-west2
europe-west3
europe-west6
northamerica-northeast1
southamerica-east1
us-west2

10.4.5. GCP에서 서비스 계정 생성

사전 요구 사항

클러스터를 호스팅할 프로젝트 생성을 완료했습니다.

프로세스

OpenShift Container Platform 클러스터를 호스팅하는 데 사용하는 프로젝트에 서비스 계정을 생성합니다. GCP 문서의 서비스 계정 생성 단원을 참조하십시오.
서비스 계정에 적절한 권한을 부여합니다. 뒤따르는 개별 권한을 부여하거나 Owner 역할을 할당할 수 있습니다. 서비스 계정에 특정 리소스에 대한 역할 부여를 참조하십시오.
참고
서비스 계정을 프로젝트 소유자로 지정하는 것은 가장 쉽게 필요한 권한을 얻는 방법이며, 서비스 계정으로 프로젝트를 완전히 제어할 수 있음을 의미합니다. 해당 권한을 제공하는 데 따른 위험이 수용 가능한 수준인지 확인해봐야 합니다.
JSON 형식으로 서비스 계정 키를 생성하거나 서비스 계정을 GCP 가상 머신에 연결할 수 있습니다. GCP 문서의 서비스 계정 키 생성 및 서비스 계정 생성 및 활성화를 참조하십시오.
참고
연결된 서비스 계정이 있는 가상 머신을 사용하여 클러스터를 생성하는 경우 설치 전에 install-config.yaml 파일에서 credentialsMode: Manual 을 설정해야 합니다.

10.4.6. 필수 GCP 역할

설치 프로그램에 필요한 역할

컴퓨팅 관리자
역할 관리자
보안 관리자
서비스 계정 관리자
서비스 계정 키 관리자
서비스 계정 사용자
스토리지 관리자

설치 과정에서 네트워크 리소스를 생성하는 데 필요한 역할

DNS 관리자

passthrough 모드에서 Cloud Credential Operator를 사용하는 데 필요한 역할

Compute Load Balancer 관리자
태그 사용자

사용자 프로비저닝 GCP 인프라에 필요한 역할

배포 관리자 편집자

다음 역할은 컨트롤 플레인 및 컴퓨팅 시스템에서 사용하는 서비스 계정에 적용됩니다.

표 10.4. GCP 서비스 계정 역할
계정	역할
컨트롤 플레인	`roles/compute.instanceAdmin`
	`roles/compute.networkAdmin`
	`roles/compute.securityAdmin`
	`roles/storage.admin`
	`roles/iam.serviceAccountUser`
컴퓨팅	`roles/compute.viewer`
	`roles/storage.admin`
	`roles/artifactregistry.reader`

10.4.7. 사용자 프로비저닝 인프라에 필요한 GCP 권한

생성하는 서비스 계정에 Owner 역할을 연결하면 OpenShift Container Platform 설치에 필요한 권한을 포함하여 모든 권한이 해당 서비스 계정에 부여됩니다.

조직의 보안 정책에 보다 제한적인 권한 세트가 필요한 경우 필요한 권한으로 사용자 지정 역할을 생성할 수 있습니다. OpenShift Container Platform 클러스터를 생성하고 삭제하기 위해 사용자 프로비저닝 인프라에 다음 권한이 필요합니다.

예 10.1. 네트워크 리소스 생성에 필요한 권한

compute.addresses.create
compute.addresses.createInternal
compute.addresses.delete
compute.addresses.get
compute.addresses.list
compute.addresses.use
compute.addresses.useInternal
compute.firewalls.create
compute.firewalls.delete
compute.firewalls.get
compute.firewalls.list
compute.forwardingRules.create
compute.forwardingRules.get
compute.forwardingRules.list
compute.forwardingRules.setLabels
compute.globalAddresses.create
compute.globalAddresses.get
compute.globalAddresses.use
compute.globalForwardingRules.create
compute.globalForwardingRules.get
compute.globalForwardingRules.setLabels
compute.networks.create
compute.networks.get
compute.networks.list
compute.networks.updatePolicy
compute.networks.use
compute.routers.create
compute.routers.get
compute.routers.list
compute.routers.update
compute.routes.list
compute.subnetworks.create
compute.subnetworks.get
compute.subnetworks.list
compute.subnetworks.use
compute.subnetworks.useExternalIp

예 10.2. 로드 밸런서 리소스 생성에 필요한 권한

compute.backendServices.create
compute.backendServices.get
compute.backendServices.list
compute.backendServices.update
compute.backendServices.use
compute.regionBackendServices.create
compute.regionBackendServices.get
compute.regionBackendServices.list
compute.regionBackendServices.update
compute.regionBackendServices.use
compute.targetPools.addInstance
compute.targetPools.create
compute.targetPools.get
compute.targetPools.list
compute.targetPools.removeInstance
compute.targetPools.use
compute.targetTcpProxies.create
compute.targetTcpProxies.get
compute.targetTcpProxies.use

예 10.3. DNS 리소스 생성에 필요한 권한

dns.changes.create
dns.changes.get
dns.managedZones.create
dns.managedZones.get
dns.managedZones.list
dns.networks.bindPrivateDNSZone
dns.resourceRecordSets.create
dns.resourceRecordSets.list
dns.resourceRecordSets.update

예 10.4. 서비스 계정 리소스 생성에 필요한 권한

iam.serviceAccountKeys.create
iam.serviceAccountKeys.delete
iam.serviceAccountKeys.get
iam.serviceAccountKeys.list
iam.serviceAccounts.actAs
iam.serviceAccounts.create
iam.serviceAccounts.delete
iam.serviceAccounts.get
iam.serviceAccounts.list
resourcemanager.projects.get
resourcemanager.projects.getIamPolicy
resourcemanager.projects.setIamPolicy

예 10.5. 컴퓨팅 리소스 생성에 필요한 권한

compute.disks.create
compute.disks.get
compute.disks.list
compute.instanceGroups.create
compute.instanceGroups.delete
compute.instanceGroups.get
compute.instanceGroups.list
compute.instanceGroups.update
compute.instanceGroups.use
compute.instances.create
compute.instances.delete
compute.instances.get
compute.instances.list
compute.instances.setLabels
compute.instances.setMetadata
compute.instances.setServiceAccount
compute.instances.setTags
compute.instances.use
compute.machineTypes.get
compute.machineTypes.list

예 10.6. 스토리지 리소스 생성에 필요합니다.

storage.buckets.create
storage.buckets.delete
storage.buckets.get
storage.buckets.list
storage.objects.create
storage.objects.delete
storage.objects.get
storage.objects.list

예 10.7. 상태 점검 리소스 생성에 필요한 권한

compute.healthChecks.create
compute.healthChecks.get
compute.healthChecks.list
compute.healthChecks.useReadOnly
compute.httpHealthChecks.create
compute.httpHealthChecks.get
compute.httpHealthChecks.list
compute.httpHealthChecks.useReadOnly
compute.regionHealthChecks.create
compute.regionHealthChecks.get
compute.regionHealthChecks.useReadOnly

예 10.8. GCP 영역 및 지역 관련 정보를 가져오는 데 필요한 권한

compute.globalOperations.get
compute.regionOperations.get
compute.regions.get
compute.regions.list
compute.zoneOperations.get
compute.zones.get
compute.zones.list

예 10.9. 서비스 및 할당량 확인에 필요한 권한

monitoring.timeSeries.list
serviceusage.quotas.get
serviceusage.services.list

예 10.10. 설치에 필요한 IAM 권한

iam.roles.get

예 10.11. 서비스 계정 키 없이 인증할 때 필요한 권한

iam.serviceAccounts.signBlob

예 10.12. 설치에 필요한 이미지 권한

compute.images.create
compute.images.delete
compute.images.get
compute.images.list

예 10.13. 수집 부트스트랩을 실행하기 위한 선택적 권한

compute.instances.getSerialPortOutput

예 10.14. 네트워크 리소스 삭제에 필요한 권한

compute.addresses.delete
compute.addresses.deleteInternal
compute.addresses.list
compute.addresses.setLabels
compute.firewalls.delete
compute.firewalls.list
compute.forwardingRules.delete
compute.forwardingRules.list
compute.globalAddresses.delete
compute.globalAddresses.list
compute.globalForwardingRules.delete
compute.globalForwardingRules.list
compute.networks.delete
compute.networks.list
compute.networks.updatePolicy
compute.routers.delete
compute.routers.list
compute.routes.list
compute.subnetworks.delete
compute.subnetworks.list

예 10.15. 로드 밸런서 리소스를 삭제하는 데 필요한 권한

compute.backendServices.delete
compute.backendServices.list
compute.regionBackendServices.delete
compute.regionBackendServices.list
compute.targetPools.delete
compute.targetPools.list
compute.targetTcpProxies.delete
compute.targetTcpProxies.list

예 10.16. DNS 리소스 삭제에 필요한 권한

dns.changes.create
dns.managedZones.delete
dns.managedZones.get
dns.managedZones.list
dns.resourceRecordSets.delete
dns.resourceRecordSets.list

예 10.17. 서비스 계정 리소스 삭제에 필요한 권한

iam.serviceAccounts.delete
iam.serviceAccounts.get
iam.serviceAccounts.list
resourcemanager.projects.getIamPolicy
resourcemanager.projects.setIamPolicy

예 10.18. 컴퓨팅 리소스 삭제에 필요한 권한

compute.disks.delete
compute.disks.list
compute.instanceGroups.delete
compute.instanceGroups.list
compute.instances.delete
compute.instances.list
compute.instances.stop
compute.machineTypes.list

예 10.19. 스토리지 리소스 삭제에 필요합니다.

storage.buckets.delete
storage.buckets.getIamPolicy
storage.buckets.list
storage.objects.delete
storage.objects.list

예 10.20. 상태 점검 리소스 삭제에 필요한 권한

compute.healthChecks.delete
compute.healthChecks.list
compute.httpHealthChecks.delete
compute.httpHealthChecks.list
compute.regionHealthChecks.delete
compute.regionHealthChecks.list

예 10.21. 삭제에 필요한 이미지 권한

compute.images.delete
compute.images.list

예 10.22. 지역 관련 정보를 가져오는 데 필요한 권한

compute.regions.get

예 10.23. 필수 Deployment Manager 권한

deploymentmanager.deployments.create
deploymentmanager.deployments.delete
deploymentmanager.deployments.get
deploymentmanager.deployments.list
deploymentmanager.manifests.get
deploymentmanager.operations.get
deploymentmanager.resources.list

추가 리소스

스토리지 최적화

10.4.8. 지원되는 GCP 리전

다음과 같은 GCP(Google Cloud Platform) 리전에 OpenShift Container Platform 클러스터를 배포할 수 있습니다.

Africa-south1 (남아프리카 공화국)
asia-east1 (대만 장화현)
asia-east2 (홍콩)
asia-northeast1 (일본 도쿄)
asia-northeast2 (일본 오사카)
asia-northeast3 (한국 서울)
asia-south1 (인도 뭄바이)
asia-south2 (인도 델리)
asia-southeast1 (싱가포르 주롱 웨스트)
asia-southeast2 (인도네시아 자카르타)
australia-southeast1 (호주 시드니)
australia-southeast2 (호주 Melbourne)
europe-central2 (폴란드 바르샤바)
europe-north1 (핀란드 하미나)
europe-southwest1 (스페르드, 스페인)
europe-west1 (벨기에 생기슬랭)
europe-west2 (영국 런던)
europe-west3 (독일 프랑크푸르트)
europe-west4 (네덜란드 엠스하벤)
europe-west6 (스위스 취리히)
europe-west8 (독일 미랜)
europe-west9 (프랑스, 프랑스)
europe-west12 ( 이탈리아 Turin)
me-central1 (Doha, 카타르, 중동)
me-central2 (Dammam, 사우디 아라비아, 중동)
me-west1 (벨 Aviv, 이스라엘)
northamerica-northeast1 (캐나다 퀘벡 주 몬트리올)
northamerica-northeast2 (캐나다 온타리오주 토론토)
southamerica-east1 (브라질 상파울루)
southamerica-west1 (원하는 시티아고)
us-central1 (미국 아이오와 주 카운실 블러프스)
us-east1 (미국 사우스 캐롤라이나 주 몽크스 코너)
us-east4 (미국 노던 버지니아 주 애쉬번)
us-east5 (Columbus,hanio)
us-south1 (하우스, Texas)
us-west1 (미국 오레곤 주 댈러스)
us-west2 (미국 캘리포니아 주 로스앤젤레스)
us-west3 (미국 유타 주 솔트레이크시티)
us-west4 (미국 네바다 라스베거스)

참고

지역 및 영역에서 사용할 수 있는 머신 유형 인스턴스를 확인하려면 Google 설명서 를 참조하십시오.

10.4.9. GCP용 CLI 도구 설치 및 구성

사용자 프로비저닝 인프라를 사용하는 OpenShift Container Platform을 GCP(Google Cloud Platform)에 설치하려면 GCP용 CLI 도구를 설치하고 구성해야 합니다.

사전 요구 사항

클러스터를 호스팅할 프로젝트 생성을 완료했습니다.
서비스 계정 생성과 필요한 권한 부여 작업을 마쳤습니다.

프로세스

$PATH에 다음 바이너리를 설치합니다.
- gcloud
- gsutil
GCP 문서의 최신 클라우드 SDK 버전 설치 단원을 참조하십시오.
구성된 서비스 계정과 gcloud 도구를 사용하여 인증합니다.
GCP 문서의 서비스 계정 인증을 참조하십시오.

10.5. 사용자 프로비저닝 인프라를 포함한 클러스터의 시스템 요구사항

사용자 프로비저닝 인프라가 포함된 클러스터의 경우, 필요한 모든 시스템을 배포해야 합니다.

이 섹션에서는 사용자 프로비저닝 인프라에 OpenShift Container Platform을 배포해야 하는 요구 사항에 대해 설명합니다.

10.5.1. 클러스터 설치에 필요한 시스템

최소 OpenShift Container Platform 클러스터에 다음과 같은 호스트가 필요합니다.

표 10.5. 최소 필수 호스트
호스트	설명
임시 부트스트랩 시스템 한 개	컨트롤 플레인 시스템 세 개에 OpenShift Container Platform 클러스터를 배포하기 위한 부트스트랩 시스템이 클러스터에 필요합니다. 클러스터를 설치한 후 부트스트랩 시스템을 제거할 수 있습니다.
컨트롤 플레인 시스템 세 개	컨트롤 플레인 시스템은 컨트롤 플레인을 구성하는 Kubernetes 및 OpenShift Container Platform 서비스를 실행합니다.
두 개 이상의 컴퓨팅 시스템(작업자 시스템이라고도 함).	OpenShift Container Platform 사용자가 요청한 워크로드는 컴퓨팅 머신에서 실행됩니다.

중요

클러스터의 고가용성을 유지하려면 이러한 클러스터 시스템에 대해 별도의 물리적 호스트를 사용하십시오.

부트스트랩, 컨트롤 플레인 시스템은 운영 체제로 RHCOS (Red Hat Enterprise Linux CoreOS)를 사용해야 합니다. 그러나 컴퓨팅 머신은 RHCOS(Red Hat Enterprise Linux CoreOS), RHEL(Red Hat Enterprise Linux) 8.6 이상 중에서 선택할 수 있습니다.

RHCOS는 RHEL (Red Hat Enterprise Linux) 9.2를 기반으로 하며 모든 하드웨어 인증 및 요구 사항을 상속합니다. Red Hat Enterprise Linux 기술 기능 및 제한을 참조하십시오.

10.5.2. 클러스터 설치를 위한 최소 리소스 요구 사항

각 클러스터 시스템이 다음과 같은 최소 요구사항을 충족해야 합니다.

표 10.6. 최소 리소스 요구사항
머신	운영 체제	vCPU ^[1]	가상 RAM	스토리지	초당 입력/출력(IOPS)^[2]
부트스트랩	RHCOS	4	16GB	100GB	300
컨트롤 플레인	RHCOS	4	16GB	100GB	300
Compute	RHCOS, RHEL 8.6 이상 ^[3]	2	8GB	100GB	300

SMT(동시 멀티 스레딩) 또는 Hyper-Threading이 활성화되지 않은 경우 하나의 vCPU는 하나의 물리적 코어와 동일합니다. 활성화하면 다음과 같은 공식을 사용하여 해당 비율을 계산합니다. (코어 당 스레드 수 × 코어 수) × 소켓 수 = vCPU 수
OpenShift Container Platform 및 Kubernetes는 디스크 성능에 민감하며 특히 10ms p99 fsync 기간이 필요한 컨트롤 플레인 노드의 etcd에 더 빠른 스토리지가 권장됩니다. 많은 클라우드 플랫폼에서 스토리지 크기와 IOPS를 함께 확장되므로 충분한 성능을 얻으려면 스토리지 볼륨을 과도하게 할당해야 할 수 있습니다.
사용자가 프로비저닝한 모든 설치와 마찬가지로 클러스터에서 RHEL 컴퓨팅 머신을 사용하기로 선택한 경우 시스템 업데이트 수행, 패치 적용 및 기타 필요한 모든 작업 실행을 포함한 모든 운영 체제의 라이프 사이클 관리 및 유지 관리에 대한 책임이 있습니다. RHEL 7 컴퓨팅 머신 사용은 더 이상 사용되지 않으며 OpenShift Container Platform 4.10 이상에서 제거되었습니다.

참고

x86-64 아키텍처에는 x86-64-v2 ISA가 필요합니다.
ARM64 아키텍처에는 ARMv8.0-A ISA가 필요합니다.
IBM Power 아키텍처에는 Power 9 ISA가 필요합니다.
s390x 아키텍처에는 z14 ISA가 필요합니다.

자세한 내용은 RHEL 아키텍처를 참조하십시오.

플랫폼의 인스턴스 유형이 클러스터 머신의 최소 요구 사항을 충족하는 경우 OpenShift Container Platform에서 사용할 수 있습니다.

추가 리소스

스토리지 최적화

10.5.3. GCP에서 테스트된 인스턴스 유형

다음 Google Cloud Platform 인스턴스 유형은 OpenShift Container Platform에서 테스트되었습니다.

예 10.24. 머신 시리즈

A2
A3
C2
C2D
C3
C3D
E2
M1
N1
N2
N2D
N4
Tau T2D

10.5.4. 64비트 ARM 인프라에서 GCP에 대해 테스트된 인스턴스 유형

다음 GCP(Google Cloud Platform) 64비트 ARM 인스턴스 유형은 OpenShift Container Platform에서 테스트되었습니다.

예 10.25. 64비트 ARM 시스템용 머신 시리즈

Tau T2A

10.5.5. 사용자 지정 머신 유형 사용

사용자 지정 머신 유형을 사용하여 OpenShift Container Platform 클러스터를 설치할 수 있습니다.

사용자 지정 머신 유형을 사용할 때 다음을 고려하십시오.

사전 정의된 인스턴스 유형과 유사하게 사용자 정의 시스템 유형은 컨트롤 플레인 및 컴퓨팅 시스템의 최소 리소스 요구 사항을 충족해야 합니다. 자세한 내용은 "클러스터 설치를 위한 최소 리소스 요구 사항"을 참조하십시오.
사용자 지정 머신 유형의 이름은 다음 구문을 준수해야 합니다.
custom-<number_of_cpus>-<amount_of_memory_in_mb>
예를 들면 custom-6-20480 입니다.

10.6. GCP용 설치 파일 생성

사용자 프로비저닝 인프라를 사용하는 OpenShift Container Platform을 GCP(Google Cloud Platform)에 설치하려면 설치 프로그램에서 클러스터를 배포하는 데 필요한 파일을 생성하고 클러스터가 사용할 시스템만을 생성하도록 파일을 수정해야 합니다. install-config.yaml 파일, Kubernetes 매니페스트 및 Ignition 구성 파일을 생성하고 사용자 지정합니다. 또한 설치 준비 단계에서 별도의 var 파티션을 먼저 설정할 수 있는 옵션이 있습니다.

10.6.1. 선택 사항: 별도의 `/var` 파티션 만들기

OpenShift Container Platform의 디스크 파티션 설정은 설치 프로그램에 맡기는 것이 좋습니다. 그러나 확장하려는 파일 시스템의 일부에 별도의 파티션을 생성해야 하는 경우가 있습니다.

OpenShift 컨테이너 플랫폼은 /var 파티션 또는 /var의 하위 디렉터리 중 하나에 스토리지를 연결하는 단일 파티션의 추가를 지원합니다. 예를 들면 다음과 같습니다.

/var/lib/containers: 시스템에 더 많은 이미지와 컨테이너가 추가됨에 따라 확장될 수 있는 컨테이너 관련 콘텐츠를 보관합니다.
/var/lib/etcd: etcd 스토리지의 성능 최적화와 같은 목적으로 별도로 보관할 데이터를 보관합니다.
/var: 감사 등의 목적에 맞게 별도로 분리하여 보관해야 하는 데이터를 보관합니다.

/var 디렉터리의 콘텐츠를 별도로 저장하면 필요에 따라 해당 영역에 대한 스토리지 확장을 보다 용이하게 하고 나중에 OpenShift Container Platform을 다시 설치하여 해당 데이터를 그대로 보존할 수 있습니다. 이 방법을 사용하면 모든 컨테이너를 다시 가져올 필요가 없으며 시스템을 업데이트할 때 대용량 로그 파일을 복사할 필요도 없습니다.

RHCOS(Red Hat Enterprise Linux CoreOS)를 새로 설치하기 전에 /var 가 있어야 하므로 다음 절차에서는 OpenShift Container Platform 설치의 openshift-install 준비 단계 중에 삽입되는 머신 구성 매니페스트를 생성하여 별도의 /var 파티션을 설정합니다.

중요

이 절차에서 별도의 /var 파티션을 생성하기 위해 단계에 따라 이 섹션의 뒷부분에서 설명한 대로 Kubernetes 매니페스트 및 Ignition 구성 파일을 다시 생성할 필요가 없습니다.

프로세스

OpenShift Container Platform 설치 파일을 저장할 디렉터리를 만듭니다.
```
$ mkdir $HOME/clusterconfig
```

openshift-install을 실행하여 manifest 및 openshift 하위 디렉터리에 파일 세트를 만듭니다. 프롬프트가 표시되면 시스템 질문에 대답합니다.

$ openshift-install create manifests --dir $HOME/clusterconfig

출력 예

? SSH Public Key ...
INFO Credentials loaded from the "myprofile" profile in file "/home/myuser/.aws/credentials"
INFO Consuming Install Config from target directory
INFO Manifests created in: $HOME/clusterconfig/manifests and $HOME/clusterconfig/openshift

선택 사항: 설치 프로그램이 clusterconfig/openshift 디렉터리에 매니페스트를 생성했는지 확인합니다.

$ ls $HOME/clusterconfig/openshift/

출력 예

99_kubeadmin-password-secret.yaml
99_openshift-cluster-api_master-machines-0.yaml
99_openshift-cluster-api_master-machines-1.yaml
99_openshift-cluster-api_master-machines-2.yaml
...

추가 파티션을 구성하는 Butane 구성을 생성합니다. 예를 들어 $HOME/clusterconfig/98-var-partition.bu 파일의 이름을 지정하고, 디스크 장치 이름을 worker 시스템의 스토리지 장치 이름으로 변경하고 스토리지 크기를 적절하게 설정합니다. 이 예에서는 /var 디렉터리를 별도의 파티션에 배치합니다.
```
variant: openshift
version: 4.17.0
metadata:
  labels:
    machineconfiguration.openshift.io/role: worker
  name: 98-var-partition
storage:
  disks:
  - device: /dev/disk/by-id/<device_name> 1
    partitions:
    - label: var
      start_mib: <partition_start_offset> 2
      size_mib: <partition_size> 3
      number: 5
  filesystems:
    - device: /dev/disk/by-partlabel/var
      path: /var
      format: xfs
      mount_options: [defaults, prjquota] 4
      with_mount_unit: true
```
1
파티션을 설정해야하는 디스크 저장 장치 이름입니다.
2
데이터 파티션을 부트 디스크에 추가할 때 최소 25000MiB(메비 바이트)가 권장됩니다. 루트 파일 시스템은 지정된 오프셋까지 사용 가능한 모든 공간을 채우기 위해 자동으로 크기가 조정됩니다. 값이 지정되지 않거나 지정된 값이 권장 최소값보다 작으면 생성되는 루트 파일 시스템의 크기가 너무 작아지고 RHCOS를 나중에 다시 설치할 때 데이터 파티션의 첫 번째 부분을 덮어 쓸 수 있습니다.
3
데이터 파티션의 크기(MB)입니다.
4
컨테이너 스토리지에 사용되는 파일 시스템에 대해 prjquota 마운트 옵션을 활성화해야 합니다.
참고
별도의 /var 파티션을 만들 때 다른 인스턴스 유형에 동일한 장치 이름이 없는 경우 작업자 노드에 다른 인스턴스 유형을 사용할 수 없습니다.
Butane 구성에서 매니페스트를 생성하여 clusterconfig/openshift 디렉터리에 저장합니다. 예를 들어 다음 명령을 실행합니다.
```
$ butane $HOME/clusterconfig/98-var-partition.bu -o $HOME/clusterconfig/openshift/98-var-partition.yaml
```

openshift-install을 다시 실행하여 manifest 및 openshift 하위 디렉터리의 파일 세트에서 Ignition 구성을 만듭니다.

$ openshift-install create ignition-configs --dir $HOME/clusterconfig
$ ls $HOME/clusterconfig/
auth  bootstrap.ign  master.ign  metadata.json  worker.ign

이제 Ignition 구성 파일을 설치 절차에 대한 입력으로 사용하여 RHCOS (Red Hat Enterprise Linux CoreOS) 시스템을 설치할 수 있습니다.

10.6.2. 설치 구성 파일 만들기

GCP(Google Cloud Platform)에 설치하는 OpenShift Container Platform 클러스터를 사용자 지정할 수 있습니다.

사전 요구 사항

OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.

프로세스

install-config.yaml 파일을 생성합니다.
1. 설치 프로그램이 포함된 디렉터리로 변경하고 다음 명령을 실행합니다.
```
$ ./openshift-install create install-config --dir <installation_directory> 1
```
  1
  <installation_directory>는 설치 프로그램이 생성하는 파일을 저장할 디렉터리 이름을 지정합니다.
  디렉터리를 지정할 때 다음을 수행합니다.
  - 디렉터리에 실행 권한이 있는지 확인합니다. 설치 디렉토리에서 Terraform 바이너리를 실행하려면 이 권한이 필요합니다.
  - 빈 디렉터리를 사용합니다. 부트스트랩 X.509 인증서와 같은 일부 설치 자산은 단기간에 만료되므로 설치 디렉터리를 재사용해서는 안 됩니다. 다른 클러스터 설치의 개별 파일을 재사용하려면 해당 파일을 사용자 디렉터리에 복사하면 됩니다. 그러나 설치 자산의 파일 이름은 릴리스간에 변경될 수 있습니다. 따라서 이전 OpenShift Container Platform 버전에서 설치 파일을 복사할 때는 주의하십시오.
2. 화면에 나타나는 지시에 따라 클라우드에 대한 구성 세부 사항을 입력합니다.
  1. 선택사항: 클러스터 시스템에 액세스하는 데 사용할 SSH 키를 선택합니다.
    참고
    설치 디버깅 또는 재해 복구를 수행하려는 프로덕션 OpenShift Container Platform 클러스터의 경우 ssh-agent 프로세스가 사용하는 SSH 키를 지정합니다.
  2. 대상 플랫폼으로 gcp를 선택합니다.
  3. 사용자 컴퓨터에 GCP 계정의 서비스 계정 키가 구성되어 있지 않은 경우, GCP에서 해당 키를 가져와 파일의 내용을 붙여 넣거나 파일의 전체 경로를 입력해야 합니다.
  4. 클러스터를 프로비저닝할 프로젝트 ID를 선택합니다. 구성한 서비스 계정에 의해 기본값이 지정됩니다.
  5. 클러스터를 배포할 리전을 선택합니다.
  6. 클러스터를 배포할 기본 도메인을 선택합니다. 기본 도메인은 클러스터용으로 생성한 퍼블릭 DNS 영역에 해당합니다.
  7. 클러스터를 설명할 수 있는 이름을 입력합니다.
install-config.yaml 파일을 수정합니다. 사용 가능한 매개변수에 대한 자세한 정보는 “설치 구성 매개변수” 섹션에서 확인할 수 있습니다.
참고
3-노드 클러스터를 설치하는 경우 compute.replicas 매개변수를 0 으로 설정해야 합니다. 이렇게 하면 클러스터의 컨트롤 플레인을 예약할 수 있습니다. 자세한 내용은 " GCP에 3-노드 클러스터 설치"를 참조하십시오.
여러 클러스터를 설치하는 데 사용할 수 있도록 install-config.yaml 파일을 백업합니다.
중요
install-config.yaml 파일은 설치 과정에서 사용됩니다. 이 파일을 재사용하려면 지금 백업해야 합니다.

추가 리소스

GCP의 설치 구성 매개변수

10.6.3. Shielded VM 활성화

참고

Shielded VM은 현재 64비트 ARM 인프라가 있는 클러스터에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 시스템에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       secureBoot: Enabled
```
2. 컴퓨팅 머신에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       secureBoot: Enabled
```
3. 모든 시스템에 대해 보호된 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       secureBoot: Enabled
```

10.6.4. 기밀성 VM 활성화

참고

현재 기밀 VM은 64비트 ARM 아키텍처에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       confidentialCompute: Enabled 1
       type: n2d-standard-8 2
       onHostMaintenance: Terminate 3
```
  1
  기밀 VM을 활성화합니다.
  2
  기밀성 VM을 지원하는 머신 유형을 지정합니다. 기밀 VM에는 N2D 또는 C2D 일련의 머신 유형이 필요합니다. 지원되는 머신 유형에 대한 자세한 내용은 지원되는 운영 체제 및 머신 유형을 참조하십시오.
  3
  호스트 유지 관리 이벤트 중 하드웨어 또는 소프트웨어 업데이트와 같은 VM의 동작을 지정합니다. 기밀성 VM을 사용하는 시스템의 경우 이 값은 VM을 중지하도록 Terminate 로 설정해야 합니다. 기밀 VM은 실시간 VM 마이그레이션을 지원하지 않습니다.
2. 컴퓨팅 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```
3. 모든 머신에 기밀 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```

10.6.5. 설치 중 클러스터 단위 프록시 구성

사전 요구 사항

기존 install-config.yaml 파일이 있습니다.
클러스터에서 액세스해야 하는 사이트를 검토하고 프록시를 바이패스해야 하는지 확인했습니다. 기본적으로 호스팅 클라우드 공급자 API에 대한 호출을 포함하여 모든 클러스터 발신(Egress) 트래픽이 프록시됩니다. 필요한 경우 프록시를 바이패스하기 위해 Proxy 오브젝트의 spec.noProxy 필드에 사이트를 추가했습니다.
참고
Proxy 오브젝트의 status.noProxy 필드는 설치 구성에 있는 networking.machineNetwork[].cidr, networking.clusterNetwork[].cidr, networking.serviceNetwork[] 필드의 값으로 채워집니다.
Amazon Web Services (AWS), Google Cloud Platform (GCP), Microsoft Azure 및 Red Hat OpenStack Platform (RHOSP)에 설치하는 경우 Proxy 오브젝트 status.noProxy 필드도 인스턴스 메타데이터 끝점(169.254.169.254)로 채워집니다.

프로세스

install-config.yaml 파일을 편집하고 프록시 설정을 추가합니다. 예를 들면 다음과 같습니다.
```
apiVersion: v1
baseDomain: my.domain.com
proxy:
  httpProxy: http://<username>:<pswd>@<ip>:<port> 1
  httpsProxy: https://<username>:<pswd>@<ip>:<port> 2
  noProxy: example.com 3
additionalTrustBundle: | 4
    -----BEGIN CERTIFICATE-----
    <MY_TRUSTED_CA_CERT>
    -----END CERTIFICATE-----
additionalTrustBundlePolicy: <policy_to_add_additionalTrustBundle> 5
```
1
클러스터 외부에서 HTTP 연결을 구축하는 데 사용할 프록시 URL입니다. URL 스키마는 http여야 합니다.
2
클러스터 외부에서 HTTPS 연결을 구축하는 데 사용할 프록시 URL입니다.
3
대상 도메인 이름, IP 주소 또는 프록시에서 제외할 기타 네트워크 CIDR로 이루어진 쉼표로 구분된 목록입니다. 하위 도메인과 일치하려면 도메인 앞에 .을 입력합니다. 예를 들어, .y.com은 x.y.com과 일치하지만 y.com은 일치하지 않습니다. *를 사용하여 모든 대상에 대해 프록시를 바이패스합니다.
4
이 값을 제공하면 설치 프로그램에서 HTTPS 연결을 프록시하는 데 필요한 추가 CA 인증서가 하나 이상 포함된 openshift-config 네임스페이스에 user-ca-bundle이라는 이름으로 구성 맵을 생성합니다. 그러면 CNO(Cluster Network Operator)에서 이러한 콘텐츠를 RHCOS(Red Hat Enterprise Linux CoreOS) 신뢰 번들과 병합하는 trusted-ca-bundle 구성 맵을 생성합니다. 이 구성 맵은 Proxy 오브젝트의 trustedCA 필드에서 참조됩니다. 프록시의 ID 인증서를 RHCOS 트러스트 번들에 있는 기관에서 서명하지 않은 경우 additionalTrustBundle 필드가 있어야 합니다.
5
선택 사항: trustedCA 필드에서 user-ca-bundle 구성 맵을 참조할 프록시 오브젝트의 구성을 결정하는 정책입니다. 허용되는 값은 Proxyonly 및 Always 입니다. http/https 프록시가 구성된 경우에만 user-ca-bundle 구성 맵을 참조하려면 Proxyonly 를 사용합니다. Always 를 사용하여 user-ca-bundle 구성 맵을 항상 참조합니다. 기본값은 Proxyonly 입니다.
참고
설치 프로그램에서 프록시 adinessEndpoints 필드를 지원하지 않습니다.
참고
설치 프로그램이 시간 초과되면 설치 프로그램의 wait-for 명령을 사용하여 배포를 다시 시작한 다음 완료합니다. 예를 들면 다음과 같습니다.
```
$ ./openshift-install wait-for install-complete --log-level debug
```
파일을 저장해 놓고 OpenShift Container Platform을 설치할 때 참조하십시오.

참고

cluster라는 Proxy 오브젝트만 지원되며 추가 프록시는 생성할 수 없습니다.

10.6.6. Kubernetes 매니페스트 및 Ignition 설정 파일 생성

일부 클러스터 정의 파일을 수정하고 클러스터 시스템을 수동으로 시작해야 하므로 클러스터가 시스템을 구성하는 데 필요한 Kubernetes 매니페스트 및 Ignition 구성 파일을 사용자가 생성해야 합니다.

설치 구성 파일은 Kubernetes 매니페스트로 변환됩니다. 매니페스트는 나중에 클러스터 머신을 구성하는 데 사용되는 Ignition 구성 파일로 래핑됩니다.

중요

OpenShift Container Platform 설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인 node-bootstrapper 인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오.
24 시간 인증서는 클러스터를 설치한 후 16시간에서 22시간으로 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.

사전 요구 사항

OpenShift Container Platform 설치 프로그램을 가져오셨습니다.
install-config.yaml 설치 구성 파일을 생성하셨습니다.

프로세스

OpenShift Container Platform 설치 프로그램이 포함된 디렉터리로 변경하고 클러스터에 대한 Kubernetes 매니페스트를 생성합니다.
```
$ ./openshift-install create manifests --dir <installation_directory> 1
```
1
<installation_directory>는 사용자가 만든 install-config.yaml 파일이 포함된 설치 디렉터리를 지정합니다.
컨트롤 플레인 시스템을 정의하는 Kubernetes 매니페스트 파일을 제거합니다.
```
$ rm -f <installation_directory>/openshift/99_openshift-cluster-api_master-machines-*.yaml
```
이러한 파일을 제거하면 클러스터가 컨트롤 플레인 시스템을 자동으로 생성하지 못합니다.

컨트롤 플레인 머신 세트를 정의하는 Kubernetes 매니페스트 파일을 제거합니다.

$ rm -f <installation_directory>/openshift/99_openshift-machine-api_master-control-plane-machine-set.yaml

선택사항: 클러스터가 컴퓨팅 시스템을 프로비저닝하지 않도록 하려면 작업자 시스템을 정의하는 Kubernetes 매니페스트 파일을 제거하십시오.
```
$ rm -f <installation_directory>/openshift/99_openshift-cluster-api_worker-machineset-*.yaml
```
중요
사용자 프로비저닝 인프라에 클러스터를 설치할 때 MachineAPI 기능을 비활성화한 경우 작업자 시스템을 정의하는 Kubernetes 매니페스트 파일을 제거해야 합니다. 그렇지 않으면 클러스터를 설치하지 못합니다.
작업자 시스템은 사용자가 직접 생성하고 관리하기 때문에 초기화할 필요가 없습니다.
주의
3 노드 클러스터를 실행 중이면 다음 단계를 건너 뛰어 컨트롤 플레인 노드 일정을 계획할 수 있도록 하십시오.
중요
기본 예약 불가에서 예약 가능으로 컨트롤 플레인 노드를 구성하면 추가 서브스크립션이 필요합니다. 이는 컨트롤 플레인 노드가 컴퓨팅 노드가 되기 때문입니다.
<installation_directory>/manifests/cluster-scheduler-02-config.yml Kubernetes 매니페스트 파일의 mastersSchedulable 매개변수가 false로 설정되어 있는지 확인합니다. 이 설정으로 인해 컨트롤 플레인 머신에서 포드가 예약되지 않습니다.
1. <installation_directory>/manifests/cluster-scheduler-02-config.yml 파일을 엽니다.
2. mastersSchedulable 매개변수를 찾아서 값을 False로 설정되어 있는지 확인합니다.
3. 파일을 저장하고 종료합니다.
선택사항: Ingress Operator가 사용자 대신 DNS 레코드를 생성하지 못하도록 하려면 <installation_directory>/manifests/cluster-dns-02-config.yml DNS 구성 파일에서 privateZone 및 publicZone 섹션을 제거합니다.
```
apiVersion: config.openshift.io/v1
kind: DNS
metadata:
  creationTimestamp: null
  name: cluster
spec:
  baseDomain: example.openshift.com
  privateZone: 1
    id: mycluster-100419-private-zone
  publicZone: 2
    id: example.openshift.com
status: {}
```
1 2
이 섹션을 완전히 제거합니다.
제거한 경우 나중에 인그레스 DNS 레코드를 수동으로 추가해야 합니다.
Ignition 구성 파일을 생성하려면 설치 프로그램이 포함된 디렉터리에서 다음 명령을 실행합니다.
```
$ ./openshift-install create ignition-configs --dir <installation_directory> 1
```
1
<installation_directory>는 동일한 설치 디렉터리를 지정합니다.
설치 디렉터리의 부트스트랩, 컨트롤 플레인 및 컴퓨팅 노드에 대한 Ignition 구성 파일이 생성됩니다. kubeadmin-password 및 kubeconfig 파일은 ./<installation_directory>/auth 디렉터리에 생성됩니다.
```
.
├── auth
│   ├── kubeadmin-password
│   └── kubeconfig
├── bootstrap.ign
├── master.ign
├── metadata.json
└── worker.ign
```

추가 리소스

선택사항 : 인그레스 DNS 레코드 추가

10.7. 공통 변수 내보내기

10.7.1. 인프라 이름 추출

Ignition 구성 파일에는 GCP(Google Cloud Platform)에서 클러스터를 고유하게 식별하는 데 사용할 수 있는 고유한 클러스터 ID가 포함되어 있습니다. 인프라 이름은 OpenShift Container Platform 설치 중에 적절한 GCP 리소스를 찾는 데도 사용됩니다. 제공된 Deployment Manager 템플릿에 이 인프라 이름에 대한 참조가 포함되어 있으므로 이름을 추출해야 합니다.

사전 요구 사항

OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿을 받으셨습니다.
클러스터에 대한 Ignition 구성 파일을 생성하셨습니다.
jq CLI를 설치하셨습니다.

프로세스

Ignition 구성 파일 메타데이터에서 인프라 이름을 추출하여 확인하려면 다음 명령을 실행하십시오.
```
$ jq -r .infraID <installation_directory>/metadata.json 1
```
1
<installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
출력 예
```
openshift-vw9j6 1
```
1
이 명령의 출력은 클러스터 이름과 임의의 문자열입니다.

10.7.2. Deployment Manager 템플릿의 공통 변수 내보내기

GCP(Google Cloud Platform)에서 사용자 제공 인프라 설치를 지원하기 위해 제공된 Deployment Manager 템플릿과 함께 사용되는 공통 변수 세트를 내보내야 합니다.

참고

특정 Deployment Manager 템플릿에는 추가적으로 내보낸 변수도 필요할 수 있습니다. 관련 프로시저에서 자세히 설명합니다.

사전 요구 사항

OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿을 받습니다.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
jq 패키지를 설치합니다.

프로세스

제공된 Deployment Manager 템플릿에서 사용할 다음 공통 변수를 내보냅니다.

$ export BASE_DOMAIN='<base_domain>'
$ export BASE_DOMAIN_ZONE_NAME='<base_domain_zone_name>'
$ export NETWORK_CIDR='10.0.0.0/16'
$ export MASTER_SUBNET_CIDR='10.0.0.0/17'
$ export WORKER_SUBNET_CIDR='10.0.128.0/17'

$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1
$ export CLUSTER_NAME=`jq -r .clusterName <installation_directory>/metadata.json`
$ export INFRA_ID=`jq -r .infraID <installation_directory>/metadata.json`
$ export PROJECT_NAME=`jq -r .gcp.projectID <installation_directory>/metadata.json`
$ export REGION=`jq -r .gcp.region <installation_directory>/metadata.json`

1: <installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.

10.8. GCP에서 VPC 생성

OpenShift Container Platform 클러스터에서 사용할 VPC를 GCP(Google Cloud Platform)에 생성해야 합니다. 요구사항에 맞춰 VPC를 사용자 지정할 수 있습니다. VPC를 생성하는 한 가지 방법은 제공된 Deployment Manager 템플릿을 수정하는 것입니다.

참고

GCP 인프라를 생성하는 데 제공된 Deployment Manager 템플릿을 사용하지 않는 경우, 제공된 정보를 검토하고 수동으로 인프라를 생성해야 합니다. 클러스터가 올바르게 초기화되지 않은 경우, Red Hat 지원팀에 설치 로그를 제시하여 문의해야 할 수도 있습니다.

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.

프로세스

이 항목의 VPC에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 01_vpc.py로 저장합니다. 이 템플릿은 클러스터에 필요한 VPC를 설명합니다.
01_vpc.yaml 리소스 정의 파일을 생성합니다.
```
$ cat <<EOF >01_vpc.yaml
imports:
- path: 01_vpc.py

resources:
- name: cluster-vpc
  type: 01_vpc.py
  properties:
    infra_id: '${INFRA_ID}' 1
    region: '${REGION}' 2
    master_subnet_cidr: '${MASTER_SUBNET_CIDR}' 3
    worker_subnet_cidr: '${WORKER_SUBNET_CIDR}' 4
EOF
```
1
infra_id는 추출 단계에서 가져온 INFRA_ID 인프라 이름입니다.
2
region은 클러스터를 배포할 영역입니다(예: us-central1).
3
master_subnet_cidr은 마스터 서브넷의 CIDR입니다. (예: 10.0.0.0/17)
4
worker_subnet_cidr은 작업자 서브넷의 CIDR입니다. (예: 10.0.128.0/17)

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create ${INFRA_ID}-vpc --config 01_vpc.yaml

10.8.1. VPC용 Deployment Manager 템플릿

다음 Deployment Manager 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 VPC를 배포할 수 있습니다.

예 10.26. 01_vpc.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-network',
        'type': 'compute.v1.network',
        'properties': {
            'region': context.properties['region'],
            'autoCreateSubnetworks': False
        }
    }, {
        'name': context.properties['infra_id'] + '-master-subnet',
        'type': 'compute.v1.subnetwork',
        'properties': {
            'region': context.properties['region'],
            'network': '$(ref.' + context.properties['infra_id'] + '-network.selfLink)',
            'ipCidrRange': context.properties['master_subnet_cidr']
        }
    }, {
        'name': context.properties['infra_id'] + '-worker-subnet',
        'type': 'compute.v1.subnetwork',
        'properties': {
            'region': context.properties['region'],
            'network': '$(ref.' + context.properties['infra_id'] + '-network.selfLink)',
            'ipCidrRange': context.properties['worker_subnet_cidr']
        }
    }, {
        'name': context.properties['infra_id'] + '-router',
        'type': 'compute.v1.router',
        'properties': {
            'region': context.properties['region'],
            'network': '$(ref.' + context.properties['infra_id'] + '-network.selfLink)',
            'nats': [{
                'name': context.properties['infra_id'] + '-nat-master',
                'natIpAllocateOption': 'AUTO_ONLY',
                'minPortsPerVm': 7168,
                'sourceSubnetworkIpRangesToNat': 'LIST_OF_SUBNETWORKS',
                'subnetworks': [{
                    'name': '$(ref.' + context.properties['infra_id'] + '-master-subnet.selfLink)',
                    'sourceIpRangesToNat': ['ALL_IP_RANGES']
                }]
            }, {
                'name': context.properties['infra_id'] + '-nat-worker',
                'natIpAllocateOption': 'AUTO_ONLY',
                'minPortsPerVm': 512,
                'sourceSubnetworkIpRangesToNat': 'LIST_OF_SUBNETWORKS',
                'subnetworks': [{
                    'name': '$(ref.' + context.properties['infra_id'] + '-worker-subnet.selfLink)',
                    'sourceIpRangesToNat': ['ALL_IP_RANGES']
                }]
            }]
        }
    }]

    return {'resources': resources}

10.9. 사용자 프로비저닝 인프라에 대한 네트워킹 요구사항

모든 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템이 부팅 중에 Ignition 구성 파일을 가져오려면 initramfs에 네트워킹을 구성해야 합니다.

10.9.1. DHCP를 통해 클러스터 노드의 호스트 이름 설정

RHCOS(Red Hat Enterprise Linux CoreOS) 시스템에서 호스트 이름은 NetworkManager를 통해 설정됩니다. 기본적으로 시스템은 DHCP를 통해 호스트 이름을 가져옵니다. DHCP에서 호스트 이름을 제공하지 않으면 커널 인수를 통해 정적으로 설정하거나 다른 방법을 통해 역방향 DNS 조회를 통해 가져옵니다. 역방향 DNS 조회는 노드에서 네트워크를 초기화한 후 수행되며 확인하는 데 시간이 걸릴 수 있습니다. 다른 시스템 서비스는 이 보다 먼저 시작하여 호스트 이름을 localhost 등으로 감지할 수 있습니다. DHCP를 사용하여 각 클러스터 노드의 호스트 이름을 제공하여 이 문제를 방지할 수 있습니다.

또한 DHCP를 통해 호스트 이름을 설정하면 DNS 분할 수평 구현 환경에서 수동으로 DNS 레코드 이름 구성 오류를 무시할 수 있습니다.

10.9.2. 네트워크 연결 요구사항

OpenShift Container Platform 클러스터 구성 요소가 통신할 수 있도록 시스템 간 네트워크 연결을 구성해야 합니다. 각 시스템에서 클러스터에 있는 다른 모든 시스템의 호스트 이름을 확인할 수 있어야 합니다.

이 섹션에서는 필요한 포트에 대해 자세히 설명합니다.

중요

연결된 OpenShift Container Platform 환경에서 모든 노드는 플랫폼 컨테이너의 이미지를 가져오고 Red Hat에 원격 측정 데이터를 제공하기 위해 인터넷에 액세스할 수 있어야 합니다.

표 10.7. 모든 시스템 간 통신에 사용되는 포트
프로토콜	포트	설명
ICMP	해당 없음	네트워크 연결성 테스트
TCP	`1936`	메트릭
	`9000`-`9999`	`9100`-`9101` 포트의 노드 내보내기 및 `9099` 포트의 Cluster Version Operator를 포함한 호스트 수준 서비스.
	`10250`-`10259`	Kubernetes에서 예약하는 기본 포트
UDP	`4789`	VXLAN
	`6081`	Geneve
	`9000`-`9999`	`9100`-`9101` 포트의 노드 내보내기를 포함한 호스트 수준 서비스.
	`500`	IPsec IKE 패킷
	`4500`	IPsec NAT-T 패킷
	`123`	UDP 포트 `123`의 NTP(Network Time Protocol) 외부 NTP 시간 서버가 구성된 경우 UDP 포트 `123` 을 열어야 합니다.
TCP/UDP	`30000`-`32767`	Kubernetes 노드 포트
ESP	해당 없음	IPsec Encapsulating Security Payload (ESP)

표 10.8. 모든 시스템과 컨트롤 플레인 간 통신에 사용되는 포트
프로토콜	포트	설명
TCP	`6443`	Kubernetes API

표 10.9. 컨트롤 플레인 머신 간 통신에 사용되는 포트
프로토콜	포트	설명
TCP	`2379`-`2380`	etcd 서버 및 피어 포트

10.10. GCP에서 로드 밸런서 생성

OpenShift Container Platform 클러스터가 사용할 로드 밸런서를 GCP(Google Cloud Platform)에 구성해야 합니다. 이러한 구성 요소를 생성하는 한 가지 방법은 제공된 Deployment Manager 템플릿을 수정하는 것입니다.

참고

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.

프로세스

이 항목의 내부 로드 밸런서에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 02_lb_int.py로 저장합니다. 이 템플릿에서 클러스터에 필요한 내부 로드 밸런싱 개체를 설명합니다.
외부 클러스터에 대해서도, 이 항목의 외부 로드 밸런서에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 02_lb_ext.py로 저장합니다. 이 템플릿에서 클러스터에 필요한 외부 로드 밸런싱 개체를 설명합니다.

배포 템플릿이 사용하는 변수를 내보냅니다.

클러스터 네트워크 위치를 내보냅니다.

$ export CLUSTER_NETWORK=(`gcloud compute networks describe ${INFRA_ID}-network --format json | jq -r .selfLink`)

컨트롤 플레인 서브넷 위치를 내보냅니다.

$ export CONTROL_SUBNET=(`gcloud compute networks subnets describe ${INFRA_ID}-master-subnet --region=${REGION} --format json | jq -r .selfLink`)

클러스터가 사용하는 세 영역을 내보냅니다.

$ export ZONE_0=(`gcloud compute regions describe ${REGION} --format=json | jq -r .zones[0] | cut -d "/" -f9`)

$ export ZONE_1=(`gcloud compute regions describe ${REGION} --format=json | jq -r .zones[1] | cut -d "/" -f9`)

$ export ZONE_2=(`gcloud compute regions describe ${REGION} --format=json | jq -r .zones[2] | cut -d "/" -f9`)

02_infra.yaml 리소스 정의 파일을 생성합니다.

$ cat <<EOF >02_infra.yaml
imports:
- path: 02_lb_ext.py
- path: 02_lb_int.py 1
resources:
- name: cluster-lb-ext 2
  type: 02_lb_ext.py
  properties:
    infra_id: '${INFRA_ID}' 3
    region: '${REGION}' 4
- name: cluster-lb-int
  type: 02_lb_int.py
  properties:
    cluster_network: '${CLUSTER_NETWORK}'
    control_subnet: '${CONTROL_SUBNET}' 5
    infra_id: '${INFRA_ID}'
    region: '${REGION}'
    zones: 6
    - '${ZONE_0}'
    - '${ZONE_1}'
    - '${ZONE_2}'
EOF

1 2: 외부 클러스터를 배포하는 경우에만 필요합니다.
3: infra_id는 추출 단계에서 가져온 INFRA_ID 인프라 이름입니다.
4: region은 클러스터를 배포할 영역입니다(예: us-central1).
5: control_subnet은 컨트롤 서브넷에 대한 URI입니다.
6: zones는 us-east1-b, us-east1-c 및 us-east1-d와 같이 컨트롤 플레인 인스턴스를 배포하는 영역입니다.

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create ${INFRA_ID}-infra --config 02_infra.yaml

클러스터 IP 주소를 내보냅니다.

$ export CLUSTER_IP=(`gcloud compute addresses describe ${INFRA_ID}-cluster-ip --region=${REGION} --format json | jq -r .address`)

외부 클러스터의 경우 클러스터 공용 IP 주소도 내보냅니다.

$ export CLUSTER_PUBLIC_IP=(`gcloud compute addresses describe ${INFRA_ID}-cluster-public-ip --region=${REGION} --format json | jq -r .address`)

10.10.1. 외부 로드 밸런서에 대한 Deployment Manager 템플릿

다음 Deployment Manager 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 외부 로드 밸런서를 배포할 수 있습니다.

예 10.27. 02_lb_ext.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-cluster-public-ip',
        'type': 'compute.v1.address',
        'properties': {
            'region': context.properties['region']
        }
    }, {
        # Refer to docs/dev/kube-apiserver-health-check.md on how to correctly setup health check probe for kube-apiserver
        'name': context.properties['infra_id'] + '-api-http-health-check',
        'type': 'compute.v1.httpHealthCheck',
        'properties': {
            'port': 6080,
            'requestPath': '/readyz'
        }
    }, {
        'name': context.properties['infra_id'] + '-api-target-pool',
        'type': 'compute.v1.targetPool',
        'properties': {
            'region': context.properties['region'],
            'healthChecks': ['$(ref.' + context.properties['infra_id'] + '-api-http-health-check.selfLink)'],
            'instances': []
        }
    }, {
        'name': context.properties['infra_id'] + '-api-forwarding-rule',
        'type': 'compute.v1.forwardingRule',
        'properties': {
            'region': context.properties['region'],
            'IPAddress': '$(ref.' + context.properties['infra_id'] + '-cluster-public-ip.selfLink)',
            'target': '$(ref.' + context.properties['infra_id'] + '-api-target-pool.selfLink)',
            'portRange': '6443'
        }
    }]

    return {'resources': resources}

10.10.2. 내부 로드 밸런서에 대한 Deployment Manager 템플릿

다음 Deployment Manager 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 내부 로드 밸런서를 배포할 수 있습니다.

예 10.28. 02_lb_int.py Deployment Manager 템플릿

def GenerateConfig(context):

    backends = []
    for zone in context.properties['zones']:
        backends.append({
            'group': '$(ref.' + context.properties['infra_id'] + '-master-' + zone + '-ig' + '.selfLink)'
        })

    resources = [{
        'name': context.properties['infra_id'] + '-cluster-ip',
        'type': 'compute.v1.address',
        'properties': {
            'addressType': 'INTERNAL',
            'region': context.properties['region'],
            'subnetwork': context.properties['control_subnet']
        }
    }, {
        # Refer to docs/dev/kube-apiserver-health-check.md on how to correctly setup health check probe for kube-apiserver
        'name': context.properties['infra_id'] + '-api-internal-health-check',
        'type': 'compute.v1.healthCheck',
        'properties': {
            'httpsHealthCheck': {
                'port': 6443,
                'requestPath': '/readyz'
            },
            'type': "HTTPS"
        }
    }, {
        'name': context.properties['infra_id'] + '-api-internal',
        'type': 'compute.v1.regionBackendService',
        'properties': {
            'backends': backends,
            'healthChecks': ['$(ref.' + context.properties['infra_id'] + '-api-internal-health-check.selfLink)'],
            'loadBalancingScheme': 'INTERNAL',
            'region': context.properties['region'],
            'protocol': 'TCP',
            'timeoutSec': 120
        }
    }, {
        'name': context.properties['infra_id'] + '-api-internal-forwarding-rule',
        'type': 'compute.v1.forwardingRule',
        'properties': {
            'backendService': '$(ref.' + context.properties['infra_id'] + '-api-internal.selfLink)',
            'IPAddress': '$(ref.' + context.properties['infra_id'] + '-cluster-ip.selfLink)',
            'loadBalancingScheme': 'INTERNAL',
            'ports': ['6443','22623'],
            'region': context.properties['region'],
            'subnetwork': context.properties['control_subnet']
        }
    }]

    for zone in context.properties['zones']:
        resources.append({
            'name': context.properties['infra_id'] + '-master-' + zone + '-ig',
            'type': 'compute.v1.instanceGroup',
            'properties': {
                'namedPorts': [
                    {
                        'name': 'ignition',
                        'port': 22623
                    }, {
                        'name': 'https',
                        'port': 6443
                    }
                ],
                'network': context.properties['cluster_network'],
                'zone': zone
            }
        })

    return {'resources': resources}

외부 클러스터를 생성할 때 02_lb_ext.py 템플릿 외에도 이 템플릿이 필요합니다.

10.11. GCP에서 프라이빗 DNS 영역 생성

OpenShift Container Platform 클러스터가 사용할 프라이빗 DNS 영역을 GCP(Google Cloud Platform)에 구성해야 합니다. 이 구성 요소를 생성하는 한 가지 방법은 제공된 Deployment Manager 템플릿을 수정하는 것입니다.

참고

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.

프로세스

이 항목의 프라이빗 DNS에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 02_dns.py로 저장합니다. 이 템플릿에서 클러스터에 필요한 프라이빗 DNS 개체를 설명합니다.
02_dns.yaml 리소스 정의 파일을 생성합니다.
```
$ cat <<EOF >02_dns.yaml
imports:
- path: 02_dns.py

resources:
- name: cluster-dns
  type: 02_dns.py
  properties:
    infra_id: '${INFRA_ID}' 1
    cluster_domain: '${CLUSTER_NAME}.${BASE_DOMAIN}' 2
    cluster_network: '${CLUSTER_NETWORK}' 3
EOF
```
1
infra_id는 추출 단계에서 가져온 INFRA_ID 인프라 이름입니다.
2
cluster_domain은 클러스터의 도메인입니다(예: openshift.example.com).
3
cluster_network는 클러스터 네트워크에 대한 selfLink URL입니다.

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create ${INFRA_ID}-dns --config 02_dns.yaml

Deployment Manager의 제한으로 인해 템플릿을 통해 DNS 항목이 생성되지 않으므로 수동으로 생성해야 합니다.

내부 DNS 항목을 추가합니다.

$ if [ -f transaction.yaml ]; then rm transaction.yaml; fi
$ gcloud dns record-sets transaction start --zone ${INFRA_ID}-private-zone
$ gcloud dns record-sets transaction add ${CLUSTER_IP} --name api.${CLUSTER_NAME}.${BASE_DOMAIN}. --ttl 60 --type A --zone ${INFRA_ID}-private-zone
$ gcloud dns record-sets transaction add ${CLUSTER_IP} --name api-int.${CLUSTER_NAME}.${BASE_DOMAIN}. --ttl 60 --type A --zone ${INFRA_ID}-private-zone
$ gcloud dns record-sets transaction execute --zone ${INFRA_ID}-private-zone

외부 클러스터의 경우 외부 DNS 항목도 추가합니다.

$ if [ -f transaction.yaml ]; then rm transaction.yaml; fi
$ gcloud dns record-sets transaction start --zone ${BASE_DOMAIN_ZONE_NAME}
$ gcloud dns record-sets transaction add ${CLUSTER_PUBLIC_IP} --name api.${CLUSTER_NAME}.${BASE_DOMAIN}. --ttl 60 --type A --zone ${BASE_DOMAIN_ZONE_NAME}
$ gcloud dns record-sets transaction execute --zone ${BASE_DOMAIN_ZONE_NAME}

10.11.1. 프라이빗 DNS에 대한 Deployment Manager 템플릿

다음 Deployment Manager 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 프라이빗 DNS를 배포할 수 있습니다.

예 10.29. 02_dns.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-private-zone',
        'type': 'dns.v1.managedZone',
        'properties': {
            'description': '',
            'dnsName': context.properties['cluster_domain'] + '.',
            'visibility': 'private',
            'privateVisibilityConfig': {
                'networks': [{
                    'networkUrl': context.properties['cluster_network']
                }]
            }
        }
    }]

    return {'resources': resources}

10.12. GCP에서 방화벽 규칙 생성

OpenShift Container Platform 클러스터에서 사용할 방화벽 규칙을 GCP(Google Cloud Platform)에서 생성해야 합니다. 이러한 구성 요소를 생성하는 한 가지 방법은 제공된 Deployment Manager 템플릿을 수정하는 것입니다.

참고

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.

프로세스

이 항목의 방화벽 규칙에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 03_firewall.py로 저장합니다. 이 템플릿에서 클러스터에 필요한 보안 그룹을 설명합니다.
03_firewall.yaml 리소스 정의 파일을 생성합니다.
```
$ cat <<EOF >03_firewall.yaml
imports:
- path: 03_firewall.py

resources:
- name: cluster-firewall
  type: 03_firewall.py
  properties:
    allowed_external_cidr: '0.0.0.0/0' 1
    infra_id: '${INFRA_ID}' 2
    cluster_network: '${CLUSTER_NETWORK}' 3
    network_cidr: '${NETWORK_CIDR}' 4
EOF
```
1
allowed_external_cidr은 부트스트랩 호스트에 클러스터 API 및 SSH 액세스가 가능한 CIDR 범위입니다. 내부 클러스터의 경우 이 값을 ${NETWORK_CIDR}로 설정합니다.
2
infra_id는 추출 단계에서 가져온 INFRA_ID 인프라 이름입니다.
3
cluster_network는 클러스터 네트워크에 대한 selfLink URL입니다.
4
network_cidr은 VPC 네트워크의 CIDR입니다(예: 10.0.0.0/16).

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create ${INFRA_ID}-firewall --config 03_firewall.yaml

10.12.1. 방화벽 규칙에 대한 Deployment Manager 템플릿

다음 Deployment Manager 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 방화벽 규칙을 배포할 수 있습니다.

예 10.30. 03_firewall.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-bootstrap-in-ssh',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'tcp',
                'ports': ['22']
            }],
            'sourceRanges': [context.properties['allowed_external_cidr']],
            'targetTags': [context.properties['infra_id'] + '-bootstrap']
        }
    }, {
        'name': context.properties['infra_id'] + '-api',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'tcp',
                'ports': ['6443']
            }],
            'sourceRanges': [context.properties['allowed_external_cidr']],
            'targetTags': [context.properties['infra_id'] + '-master']
        }
    }, {
        'name': context.properties['infra_id'] + '-health-checks',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'tcp',
                'ports': ['6080', '6443', '22624']
            }],
            'sourceRanges': ['35.191.0.0/16', '130.211.0.0/22', '209.85.152.0/22', '209.85.204.0/22'],
            'targetTags': [context.properties['infra_id'] + '-master']
        }
    }, {
        'name': context.properties['infra_id'] + '-etcd',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'tcp',
                'ports': ['2379-2380']
            }],
            'sourceTags': [context.properties['infra_id'] + '-master'],
            'targetTags': [context.properties['infra_id'] + '-master']
        }
    }, {
        'name': context.properties['infra_id'] + '-control-plane',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'tcp',
                'ports': ['10257']
            },{
                'IPProtocol': 'tcp',
                'ports': ['10259']
            },{
                'IPProtocol': 'tcp',
                'ports': ['22623']
            }],
            'sourceTags': [
                context.properties['infra_id'] + '-master',
                context.properties['infra_id'] + '-worker'
            ],
            'targetTags': [context.properties['infra_id'] + '-master']
        }
    }, {
        'name': context.properties['infra_id'] + '-internal-network',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'icmp'
            },{
                'IPProtocol': 'tcp',
                'ports': ['22']
            }],
            'sourceRanges': [context.properties['network_cidr']],
            'targetTags': [
                context.properties['infra_id'] + '-master',
                context.properties['infra_id'] + '-worker'
            ]
        }
    }, {
        'name': context.properties['infra_id'] + '-internal-cluster',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'udp',
                'ports': ['4789', '6081']
            },{
                'IPProtocol': 'udp',
                'ports': ['500', '4500']
            },{
                'IPProtocol': 'esp',
            },{
                'IPProtocol': 'tcp',
                'ports': ['9000-9999']
            },{
                'IPProtocol': 'udp',
                'ports': ['9000-9999']
            },{
                'IPProtocol': 'tcp',
                'ports': ['10250']
            },{
                'IPProtocol': 'tcp',
                'ports': ['30000-32767']
            },{
                'IPProtocol': 'udp',
                'ports': ['30000-32767']
            }],
            'sourceTags': [
                context.properties['infra_id'] + '-master',
                context.properties['infra_id'] + '-worker'
            ],
            'targetTags': [
                context.properties['infra_id'] + '-master',
                context.properties['infra_id'] + '-worker'
            ]
        }
    }]

    return {'resources': resources}

10.13. GCP에서 IAM 역할 생성

OpenShift Container Platform 클러스터에서 사용할 IAM 역할을 GCP(Google Cloud Platform)에 생성해야 합니다. 이러한 구성 요소를 생성하는 한 가지 방법은 제공된 Deployment Manager 템플릿을 수정하는 것입니다.

참고

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.

프로세스

이 항목의 IAM 역할에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 03_iam.py로 저장합니다. 이 템플릿에서 클러스터에 필요한 IAM 역할을 설명합니다.

03_iam.yaml 리소스 정의 파일을 생성합니다.

$ cat <<EOF >03_iam.yaml
imports:
- path: 03_iam.py
resources:
- name: cluster-iam
  type: 03_iam.py
  properties:
    infra_id: '${INFRA_ID}' 1
EOF

1: infra_id는 추출 단계에서 가져온 INFRA_ID 인프라 이름입니다.

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create ${INFRA_ID}-iam --config 03_iam.yaml

마스터 서비스 계정에 대한 변수를 내보냅니다.

$ export MASTER_SERVICE_ACCOUNT=(`gcloud iam service-accounts list --filter "email~^${INFRA_ID}-m@${PROJECT_NAME}." --format json | jq -r '.[0].email'`)

작업자 서비스 계정에 대한 변수를 내보냅니다.

$ export WORKER_SERVICE_ACCOUNT=(`gcloud iam service-accounts list --filter "email~^${INFRA_ID}-w@${PROJECT_NAME}." --format json | jq -r '.[0].email'`)

컴퓨팅 머신을 호스팅하는 서브넷의 변수를 내보냅니다.

$ export COMPUTE_SUBNET=(`gcloud compute networks subnets describe ${INFRA_ID}-worker-subnet --region=${REGION} --format json | jq -r .selfLink`)

Deployment Manager의 제한으로 인해 템플릿을 통해 정책 바인딩이 생성되지 않으므로 수동으로 생성해야 합니다.

$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/compute.instanceAdmin"
$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/compute.networkAdmin"
$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/compute.securityAdmin"
$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/iam.serviceAccountUser"
$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/storage.admin"

$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${WORKER_SERVICE_ACCOUNT}" --role "roles/compute.viewer"
$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${WORKER_SERVICE_ACCOUNT}" --role "roles/storage.admin"

서비스 계정 키를 생성하여 나중에 사용할 수 있도록 로컬로 저장합니다.

$ gcloud iam service-accounts keys create service-account-key.json --iam-account=${MASTER_SERVICE_ACCOUNT}

10.13.1. IAM 역할에 대한 Deployment Manager 템플릿

다음 Deployment Manager 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 IAM 역할을 배포할 수 있습니다.

예 10.31. 03_iam.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-master-node-sa',
        'type': 'iam.v1.serviceAccount',
        'properties': {
            'accountId': context.properties['infra_id'] + '-m',
            'displayName': context.properties['infra_id'] + '-master-node'
        }
    }, {
        'name': context.properties['infra_id'] + '-worker-node-sa',
        'type': 'iam.v1.serviceAccount',
        'properties': {
            'accountId': context.properties['infra_id'] + '-w',
            'displayName': context.properties['infra_id'] + '-worker-node'
        }
    }]

    return {'resources': resources}

10.14. GCP 인프라용 RHCOS 클러스터 이미지 생성

OpenShift Container Platform 노드에 유효한 GCP(Google Cloud Platform)용 RHCOS(Red Hat Enterprise Linux CoreOS) 이미지를 사용해야 합니다.

프로세스

RHCOS 이미지 미러 페이지에서 RHCOS 이미지를 가져옵니다.
중요
RHCOS 이미지는 OpenShift Container Platform 릴리스에 따라 변경되지 않을 수 있습니다. 설치하는 OpenShift Container Platform 버전과 같거나 그 이하의 버전 중 가장 최신 버전의 이미지를 다운로드해야 합니다. 지원되는 경우 OpenShift Container Platform 버전과 일치하는 이미지 버전을 사용합니다.
rhcos-<version>-<arch>-gcp.<arch>.tar.gz 형식의 OpenShift Container Platform 버전 번호가 파일 이름에 포함되어 있습니다.
Google 스토리지 버킷을 생성합니다.
```
$ gsutil mb gs://<bucket_name>
```

RHCOS 이미지를 Google 스토리지 버킷에 업로드합니다.

$ gsutil cp <downloaded_image_file_path>/rhcos-<version>-x86_64-gcp.x86_64.tar.gz  gs://<bucket_name>

업로드된 RHCOS 이미지 위치를 변수로 내보냅니다.

$ export IMAGE_SOURCE=gs://<bucket_name>/rhcos-<version>-x86_64-gcp.x86_64.tar.gz

클러스터 이미지를 생성합니다.

$ gcloud compute images create "${INFRA_ID}-rhcos-image" \
    --source-uri="${IMAGE_SOURCE}"

10.15. GCP에서 부트스트랩 시스템 생성

OpenShift Container Platform 클러스터 초기화 과정에서 사용할 부트스트랩 시스템을 GCP(Google Cloud Platform)에 생성해야 합니다. 이 시스템을 생성하는 한 가지 방법은 제공된 Deployment Manager 템플릿을 수정하는 것입니다.

참고

부트스트랩 시스템을 생성하는 데 제공된 Deployment Manager 템플릿을 사용하지 않는 경우, 제공된 정보를 검토하고 수동으로 인프라를 생성해야 합니다. 클러스터가 올바르게 초기화되지 않은 경우, Red Hat 지원팀에 설치 로그를 제시하여 문의해야 할 수도 있습니다.

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.
GCP에서 네트워킹 및 로드 밸랜서를 생성하고 구성하십시오.
컨트롤 플레인 및 컴퓨팅 역할을 생성합니다.
pyOpenSSL이 설치되어 있는지 확인하십시오.

프로세스

이 항목의 부트스트랩 시스템에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 04_bootstrap.py로 저장합니다. 이 템플릿은 클러스터에 필요한 부트스트랩 시스템을 설명합니다.

설치 프로그램에 필요한 RHCOS(Red Hat Enterprise Linux CoreOS) 이미지의 위치를 내보냅니다.

$ export CLUSTER_IMAGE=(`gcloud compute images describe ${INFRA_ID}-rhcos-image --format json | jq -r .selfLink`)

버킷을 생성하고 bootstrap.ign 파일을 업로드합니다.

$ gsutil mb gs://${INFRA_ID}-bootstrap-ignition

$ gsutil cp <installation_directory>/bootstrap.ign gs://${INFRA_ID}-bootstrap-ignition/

Ignition 구성 파일에 액세스하는 데 사용할 부트스트랩 인스턴스에 대한 서명된 URL을 생성합니다. 출력에서 URL을 변수로 내보냅니다.
```
$ export BOOTSTRAP_IGN=`gsutil signurl -d 1h service-account-key.json gs://${INFRA_ID}-bootstrap-ignition/bootstrap.ign | grep "^gs:" | awk '{print $5}'`
```
04_bootstrap.yaml 리소스 정의 파일을 생성합니다.
```
$ cat <<EOF >04_bootstrap.yaml
imports:
- path: 04_bootstrap.py

resources:
- name: cluster-bootstrap
  type: 04_bootstrap.py
  properties:
    infra_id: '${INFRA_ID}' 1
    region: '${REGION}' 2
    zone: '${ZONE_0}' 3

    cluster_network: '${CLUSTER_NETWORK}' 4
    control_subnet: '${CONTROL_SUBNET}' 5
    image: '${CLUSTER_IMAGE}' 6
    machine_type: 'n1-standard-4' 7
    root_volume_size: '128' 8

    bootstrap_ign: '${BOOTSTRAP_IGN}' 9
EOF
```
1
infra_id는 추출 단계에서 가져온 INFRA_ID 인프라 이름입니다.
2
region은 클러스터를 배포할 영역입니다(예: us-central1).
3
zone은 부트스트랩 인스턴스를 배포할 영역입니다(예: us-central1-b).
4
cluster_network는 클러스터 네트워크에 대한 selfLink URL입니다.
5
control_subnet은 컨트롤 서브넷에 대한 selfLink URL입니다.
6
image는 RHCOS 이미지에 대한 selfLink URL입니다.
7
machine_type은 인스턴스의 시스템 유형입니다(예: n1-standard-4).
8
root_volume_size는 부트스트랩 시스템의 부팅 디스크 크기입니다.
9
bootstrap_ign은 서명된 URL을 생성할 때 출력되는 URL입니다.

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create ${INFRA_ID}-bootstrap --config 04_bootstrap.yaml

Deployment Manager의 제한으로 인해 템플릿을 통해 로드 밸랜서 멤버십이 관리되지 않으므로 수동으로 부트스트랩 시스템을 추가해야 합니다.
1. 내부 로드 밸런서 인스턴스 그룹에 부트스트랩 인스턴스를 추가합니다.
```
$ gcloud compute instance-groups unmanaged add-instances \
    ${INFRA_ID}-bootstrap-ig --zone=${ZONE_0} --instances=${INFRA_ID}-bootstrap
```
2. 내부 로드 밸런서 백엔드 서비스에 부트스트랩 인스턴스 그룹을 추가합니다.
```
$ gcloud compute backend-services add-backend \
    ${INFRA_ID}-api-internal --region=${REGION} --instance-group=${INFRA_ID}-bootstrap-ig --instance-group-zone=${ZONE_0}
```

10.15.1. 부트스트랩 시스템에 대한 Deployment Manager 템플릿

다음 Deployment Mananger 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 부트스트랩 시스템을 배포할 수 있습니다.

예 10.32. 04_bootstrap.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-bootstrap-public-ip',
        'type': 'compute.v1.address',
        'properties': {
            'region': context.properties['region']
        }
    }, {
        'name': context.properties['infra_id'] + '-bootstrap',
        'type': 'compute.v1.instance',
        'properties': {
            'disks': [{
                'autoDelete': True,
                'boot': True,
                'initializeParams': {
                    'diskSizeGb': context.properties['root_volume_size'],
                    'sourceImage': context.properties['image']
                }
            }],
            'machineType': 'zones/' + context.properties['zone'] + '/machineTypes/' + context.properties['machine_type'],
            'metadata': {
                'items': [{
                    'key': 'user-data',
                    'value': '{"ignition":{"config":{"replace":{"source":"' + context.properties['bootstrap_ign'] + '"}},"version":"3.2.0"}}',
                }]
            },
            'networkInterfaces': [{
                'subnetwork': context.properties['control_subnet'],
                'accessConfigs': [{
                    'natIP': '$(ref.' + context.properties['infra_id'] + '-bootstrap-public-ip.address)'
                }]
            }],
            'tags': {
                'items': [
                    context.properties['infra_id'] + '-master',
                    context.properties['infra_id'] + '-bootstrap'
                ]
            },
            'zone': context.properties['zone']
        }
    }, {
        'name': context.properties['infra_id'] + '-bootstrap-ig',
        'type': 'compute.v1.instanceGroup',
        'properties': {
            'namedPorts': [
                {
                    'name': 'ignition',
                    'port': 22623
                }, {
                    'name': 'https',
                    'port': 6443
                }
            ],
            'network': context.properties['cluster_network'],
            'zone': context.properties['zone']
        }
    }]

    return {'resources': resources}

10.16. GCP에 컨트롤 플레인 시스템 생성

클러스터에서 사용할 컨트롤 플레인 시스템을 GCP(Google Cloud Platform)에 생성해야 합니다. 이러한 시스템을 생성하는 한 가지 방법은 제공된 Deployment Manager 템플릿을 수정하는 것입니다.

참고

컨트롤 플레인 시스템을 생성하는 데 제공된 Deployment Manager 템플릿을 사용하지 않는 경우, 제공된 정보를 검토하고 수동으로 인프라를 생성해야 합니다. 클러스터가 올바르게 초기화되지 않은 경우, Red Hat 지원팀에 설치 로그를 제시하여 문의해야 할 수도 있습니다.

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.
GCP에서 네트워킹 및 로드 밸랜서를 생성하고 구성하십시오.
컨트롤 플레인 및 컴퓨팅 역할을 생성합니다.
부트스트랩 시스템을 생성합니다.

프로세스

이 항목의 컨트롤 플레인 시스템에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 05_control_plane.py로 저장합니다. 이 템플릿은 클러스터에 필요한 컨트롤 플레인 시스템을 설명합니다.

리소스 정의에 필요한 다음 변수를 내보냅니다.

$ export MASTER_IGNITION=`cat <installation_directory>/master.ign`

05_control_plane.yaml 리소스 정의 파일을 생성합니다.
```
$ cat <<EOF >05_control_plane.yaml
imports:
- path: 05_control_plane.py

resources:
- name: cluster-control-plane
  type: 05_control_plane.py
  properties:
    infra_id: '${INFRA_ID}' 1
    zones: 2
    - '${ZONE_0}'
    - '${ZONE_1}'
    - '${ZONE_2}'

    control_subnet: '${CONTROL_SUBNET}' 3
    image: '${CLUSTER_IMAGE}' 4
    machine_type: 'n1-standard-4' 5
    root_volume_size: '128'
    service_account_email: '${MASTER_SERVICE_ACCOUNT}' 6

    ignition: '${MASTER_IGNITION}' 7
EOF
```
1
infra_id는 추출 단계에서 가져온 INFRA_ID 인프라 이름입니다.
2
zones은 컨트롤 플레인 인스턴스를 배포할 영역입니다(예: us-central1-a, us-central1-b, us-central1-c).
3
control_subnet은 컨트롤 서브넷에 대한 selfLink URL입니다.
4
image는 RHCOS 이미지에 대한 selfLink URL입니다.
5
machine_type은 인스턴스의 시스템 유형입니다(예: n1-standard-4).
6
service_account_email은 사용자가 생성한 마스터 서비스 계정의 이메일 주소입니다.
7
ignition은 master.ign 파일의 내용입니다.

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create ${INFRA_ID}-control-plane --config 05_control_plane.yaml

Deployment Manager의 제한으로 인해 템플릿을 통해 로드 밸랜서 멤버십이 관리되지 않으므로 수동으로 컨트롤 플레인 시스템을 추가해야 합니다.

다음 명령을 실행하여 적절한 인스턴스 그룹에 컨트롤 플레인 머신을 추가합니다.

$ gcloud compute instance-groups unmanaged add-instances ${INFRA_ID}-master-${ZONE_0}-ig --zone=${ZONE_0} --instances=${INFRA_ID}-master-0

$ gcloud compute instance-groups unmanaged add-instances ${INFRA_ID}-master-${ZONE_1}-ig --zone=${ZONE_1} --instances=${INFRA_ID}-master-1

$ gcloud compute instance-groups unmanaged add-instances ${INFRA_ID}-master-${ZONE_2}-ig --zone=${ZONE_2} --instances=${INFRA_ID}-master-2

외부 클러스터의 경우 다음 명령을 실행하여 대상 풀에 컨트롤 플레인 머신을 추가해야 합니다.

$ gcloud compute target-pools add-instances ${INFRA_ID}-api-target-pool --instances-zone="${ZONE_0}" --instances=${INFRA_ID}-master-0

$ gcloud compute target-pools add-instances ${INFRA_ID}-api-target-pool --instances-zone="${ZONE_1}" --instances=${INFRA_ID}-master-1

$ gcloud compute target-pools add-instances ${INFRA_ID}-api-target-pool --instances-zone="${ZONE_2}" --instances=${INFRA_ID}-master-2

10.16.1. 컨트롤 플레인 시스템에 대한 Deployment Manager 템플릿

다음 Deployment Mananger 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 컨트롤 플레인 시스템을 배포할 수 있습니다.

예 10.33. 05_control_plane.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-master-0',
        'type': 'compute.v1.instance',
        'properties': {
            'disks': [{
                'autoDelete': True,
                'boot': True,
                'initializeParams': {
                    'diskSizeGb': context.properties['root_volume_size'],
                    'diskType': 'zones/' + context.properties['zones'][0] + '/diskTypes/pd-ssd',
                    'sourceImage': context.properties['image']
                }
            }],
            'machineType': 'zones/' + context.properties['zones'][0] + '/machineTypes/' + context.properties['machine_type'],
            'metadata': {
                'items': [{
                    'key': 'user-data',
                    'value': context.properties['ignition']
                }]
            },
            'networkInterfaces': [{
                'subnetwork': context.properties['control_subnet']
            }],
            'serviceAccounts': [{
                'email': context.properties['service_account_email'],
                'scopes': ['https://www.googleapis.com/auth/cloud-platform']
            }],
            'tags': {
                'items': [
                    context.properties['infra_id'] + '-master',
                ]
            },
            'zone': context.properties['zones'][0]
        }
    }, {
        'name': context.properties['infra_id'] + '-master-1',
        'type': 'compute.v1.instance',
        'properties': {
            'disks': [{
                'autoDelete': True,
                'boot': True,
                'initializeParams': {
                    'diskSizeGb': context.properties['root_volume_size'],
                    'diskType': 'zones/' + context.properties['zones'][1] + '/diskTypes/pd-ssd',
                    'sourceImage': context.properties['image']
                }
            }],
            'machineType': 'zones/' + context.properties['zones'][1] + '/machineTypes/' + context.properties['machine_type'],
            'metadata': {
                'items': [{
                    'key': 'user-data',
                    'value': context.properties['ignition']
                }]
            },
            'networkInterfaces': [{
                'subnetwork': context.properties['control_subnet']
            }],
            'serviceAccounts': [{
                'email': context.properties['service_account_email'],
                'scopes': ['https://www.googleapis.com/auth/cloud-platform']
            }],
            'tags': {
                'items': [
                    context.properties['infra_id'] + '-master',
                ]
            },
            'zone': context.properties['zones'][1]
        }
    }, {
        'name': context.properties['infra_id'] + '-master-2',
        'type': 'compute.v1.instance',
        'properties': {
            'disks': [{
                'autoDelete': True,
                'boot': True,
                'initializeParams': {
                    'diskSizeGb': context.properties['root_volume_size'],
                    'diskType': 'zones/' + context.properties['zones'][2] + '/diskTypes/pd-ssd',
                    'sourceImage': context.properties['image']
                }
            }],
            'machineType': 'zones/' + context.properties['zones'][2] + '/machineTypes/' + context.properties['machine_type'],
            'metadata': {
                'items': [{
                    'key': 'user-data',
                    'value': context.properties['ignition']
                }]
            },
            'networkInterfaces': [{
                'subnetwork': context.properties['control_subnet']
            }],
            'serviceAccounts': [{
                'email': context.properties['service_account_email'],
                'scopes': ['https://www.googleapis.com/auth/cloud-platform']
            }],
            'tags': {
                'items': [
                    context.properties['infra_id'] + '-master',
                ]
            },
            'zone': context.properties['zones'][2]
        }
    }]

    return {'resources': resources}

10.17. 부트스트랩이 완료되길 기다렸다가 GCP에서 부트스트랩 리소스를 제거합니다.

GCP(Google Cloud Platform)에 필요한 인프라를 모두 생성한 후 설치 프로그램에 의해 생성된 Ignition 구성 파일을 사용하여 프로비저닝한 시스템에서 부트스트랩 프로세스가 완료될 때까지 기다립니다.

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.
GCP에서 네트워킹 및 로드 밸랜서를 생성하고 구성하십시오.
컨트롤 플레인 및 컴퓨팅 역할을 생성합니다.
부트스트랩 시스템을 생성합니다.
컨트롤 플레인 시스템을 생성합니다.

프로세스

설치 프로그램이 포함된 디렉터리로 변경하고 다음 명령을 실행합니다.
```
$ ./openshift-install wait-for bootstrap-complete --dir <installation_directory> \ 1
    --log-level info 2
```
1
<installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
2
다른 설치 세부 사항을 보려면 info 대신 warn, debug 또는 error를 지정합니다.
FATAL 경고 없이 명령이 종료되면 프로덕션 컨트롤 플레인이 초기화된 것입니다.

부트스트랩 리소스를 삭제합니다.

$ gcloud compute backend-services remove-backend ${INFRA_ID}-api-internal --region=${REGION} --instance-group=${INFRA_ID}-bootstrap-ig --instance-group-zone=${ZONE_0}

$ gsutil rm gs://${INFRA_ID}-bootstrap-ignition/bootstrap.ign

$ gsutil rb gs://${INFRA_ID}-bootstrap-ignition

$ gcloud deployment-manager deployments delete ${INFRA_ID}-bootstrap

10.18. GCP에 추가 작업자 시스템 생성

개별 인스턴스를 따로 시작하거나 자동 확장 그룹과 같은 클러스터 외부의 자동화된 프로세스를 통해 클러스터에서 사용할 작업자 시스템을 GCP(Google Cloud Platform)에 생성할 수 있습니다. OpenShift Container Platform의 기본 제공 클러스터 확장 메커니즘과 시스템 API를 활용할 수도 있습니다.

참고

3-노드 클러스터를 설치하는 경우 이 단계를 건너뜁니다. 3-노드 클러스터는 컴퓨팅 시스템이라고도 하는 컨트롤 플레인 시스템 세 개로 구성됩니다.

예에서는 Deployment Manager 템플릿을 사용하여 인스턴스 하나를 수동으로 시작합니다. 파일에 06_worker.py 유형의 추가 리소스를 포함시켜 추가 인스턴스를 시작할 수 있습니다.

참고

작업자 시스템을 생성하는 데 제공된 Deployment Manager 템플릿을 사용하지 않는 경우, 제공된 정보를 검토하고 수동으로 인프라를 생성해야 합니다. 클러스터가 올바르게 초기화되지 않은 경우, Red Hat 지원팀에 설치 로그를 제시하여 문의해야 할 수도 있습니다.

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.
GCP에서 네트워킹 및 로드 밸랜서를 생성하고 구성하십시오.
컨트롤 플레인 및 컴퓨팅 역할을 생성합니다.
부트스트랩 시스템을 생성합니다.
컨트롤 플레인 시스템을 생성합니다.

프로세스

이 항목의 작업자 시스템에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 06_worker.py로 저장합니다. 이 템플릿에서 클러스터에 필요한 작업자 시스템을 설명합니다.

리소스 정의가 사용하는 변수를 내보냅니다.

컴퓨팅 시스템을 호스팅하는 서브넷을 내보냅니다.

$ export COMPUTE_SUBNET=(`gcloud compute networks subnets describe ${INFRA_ID}-worker-subnet --region=${REGION} --format json | jq -r .selfLink`)

서비스 계정의 이메일 주소를 내보냅니다.

$ export WORKER_SERVICE_ACCOUNT=(`gcloud iam service-accounts list --filter "email~^${INFRA_ID}-w@${PROJECT_NAME}." --format json | jq -r '.[0].email'`)

컴퓨팅 시스템 Ignition 구성 파일의 위치를 내보냅니다.
```
$ export WORKER_IGNITION=`cat <installation_directory>/worker.ign`
```

06_worker.yaml 리소스 정의 파일을 생성합니다.

$ cat <<EOF >06_worker.yaml
imports:
- path: 06_worker.py

resources:
- name: 'worker-0' 1
  type: 06_worker.py
  properties:
    infra_id: '${INFRA_ID}' 2
    zone: '${ZONE_0}' 3
    compute_subnet: '${COMPUTE_SUBNET}' 4
    image: '${CLUSTER_IMAGE}' 5
    machine_type: 'n1-standard-4' 6
    root_volume_size: '128'
    service_account_email: '${WORKER_SERVICE_ACCOUNT}' 7
    ignition: '${WORKER_IGNITION}' 8
- name: 'worker-1'
  type: 06_worker.py
  properties:
    infra_id: '${INFRA_ID}' 9
    zone: '${ZONE_1}' 10
    compute_subnet: '${COMPUTE_SUBNET}' 11
    image: '${CLUSTER_IMAGE}' 12
    machine_type: 'n1-standard-4' 13
    root_volume_size: '128'
    service_account_email: '${WORKER_SERVICE_ACCOUNT}' 14
    ignition: '${WORKER_IGNITION}' 15
EOF

1: name은 작업자 머신의 이름입니다(예: worker-0).
2 9: infra_id는 추출 단계에서 가져온 INFRA_ID 인프라 이름입니다.
3 10: zone은 작업자 시스템을 배포할 영역입니다(예: us-central1-a).
4 11: compute_subnet은 컴퓨팅 서브넷에 대한 selfLink URL입니다.
5 12: image는 RHCOS 이미지에 대한 selfLink URL입니다. ¹
6 13: machine_type은 인스턴스의 시스템 유형입니다(예: n1-standard-4).
7 14: service_account_email은 사용자가 생성한 작업자 서비스 계정의 이메일 주소입니다.
8 15: ignition은 worker.ign 파일의 내용입니다.

선택사항: 추가 인스턴스를 시작하려면 06_worker.yaml 리소스 정의 파일에 06_worker.py 형식의 추가 리소스를 포함시키십시오.

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create ${INFRA_ID}-worker --config 06_worker.yaml

GCP Marketplace 이미지를 사용하려면 사용할 제안을 지정합니다.
- OpenShift Container Platform: https://www.googleapis.com/compute/v1/projects/redhat-marketplace-public/global/images/redhat-coreos-ocp-413-x86-64-202305021736
- OpenShift Platform Plus: https://www.googleapis.com/compute/v1/projects/redhat-marketplace-public/global/images/redhat-coreos-opp-413-x86-64-202305021736
- OpenShift Kubernetes Engine: https://www.googleapis.com/compute/v1/projects/redhat-marketplace-public/global/images/redhat-coreos-oke-413-x86-64-202305021736

10.18.1. 작업자 시스템에 대한 Deployment Manager 템플릿

다음 Deloyment Manager 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 작업자 시스템을 배포할 수 있습니다.

예 10.34. 06_worker.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-' + context.env['name'],
        'type': 'compute.v1.instance',
        'properties': {
            'disks': [{
                'autoDelete': True,
                'boot': True,
                'initializeParams': {
                    'diskSizeGb': context.properties['root_volume_size'],
                    'sourceImage': context.properties['image']
                }
            }],
            'machineType': 'zones/' + context.properties['zone'] + '/machineTypes/' + context.properties['machine_type'],
            'metadata': {
                'items': [{
                    'key': 'user-data',
                    'value': context.properties['ignition']
                }]
            },
            'networkInterfaces': [{
                'subnetwork': context.properties['compute_subnet']
            }],
            'serviceAccounts': [{
                'email': context.properties['service_account_email'],
                'scopes': ['https://www.googleapis.com/auth/cloud-platform']
            }],
            'tags': {
                'items': [
                    context.properties['infra_id'] + '-worker',
                ]
            },
            'zone': context.properties['zone']
        }
    }]

    return {'resources': resources}

10.19. OpenShift CLI 설치

중요

Linux에서 OpenShift CLI 설치

다음 절차를 사용하여 Linux에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
제품 변형 드롭다운 목록에서 아키텍처를 선택합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Linux Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
아카이브의 압축을 풉니다.
```
$ tar xvf <file>
```
oc 바이너리를 PATH에 있는 디렉터리에 배치합니다.
PATH를 확인하려면 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
$ oc <command>
```

Windows에서 OpenSfhit CLI 설치

다음 절차에 따라 Windows에 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Windows Client 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
ZIP 프로그램으로 아카이브의 압축을 풉니다.
oc 바이너리를 PATH에 있는 디렉터리로 이동합니다.
PATH를 확인하려면 명령 프롬프트를 열고 다음 명령을 실행합니다.
```
C:\> path
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
C:\> oc <command>
```

macOS에 OpenShift CLI 설치

다음 절차에 따라 macOS에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 macOS Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
참고
macOS arm64의 경우 OpenShift v4.17 macOS arm64 Client 항목을 선택합니다.
아카이브의 압축을 해제하고 압축을 풉니다.
oc 바이너리 PATH의 디렉터리로 이동합니다.
PATH를 확인하려면 터미널을 열고 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

oc 명령을 사용하여 설치를 확인합니다.
```
$ oc <command>
```

10.20. CLI를 사용하여 클러스터에 로그인

사전 요구 사항

OpenShift Container Platform 클러스터를 배포했습니다.
oc CLI를 설치했습니다.

프로세스

kubeadmin 인증 정보를 내보냅니다.
```
$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1
```
1
<installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
내보낸 구성을 사용하여 oc 명령을 성공적으로 실행할 수 있는지 확인합니다.
```
$ oc whoami
```
출력 예
```
system:admin
```

10.21. 머신의 인증서 서명 요청 승인

클러스터에 시스템을 추가하면 추가한 시스템별로 보류 중인 인증서 서명 요청(CSR)이 두 개씩 생성됩니다. 이러한 CSR이 승인되었는지 확인해야 하며, 필요한 경우 이를 직접 승인해야 합니다. 클라이언트 요청을 먼저 승인한 다음 서버 요청을 승인해야 합니다.

사전 요구 사항

클러스터에 시스템을 추가했습니다.

프로세스

클러스터가 시스템을 인식하는지 확인합니다.
```
$ oc get nodes
```
출력 예
```
NAME      STATUS    ROLES   AGE  VERSION
master-0  Ready     master  63m  v1.30.3
master-1  Ready     master  63m  v1.30.3
master-2  Ready     master  64m  v1.30.3
```
출력에 생성된 모든 시스템이 나열됩니다.
참고
이전 출력에는 일부 CSR이 승인될 때까지 컴퓨팅 노드(작업자 노드라고도 함)가 포함되지 않을 수 있습니다.
보류 중인 CSR을 검토하고 클러스터에 추가한 각 시스템에 대해 Pending 또는 Approved 상태의 클라이언트 및 서버 요청이 표시되는지 확인합니다.
```
$ oc get csr
```
출력 예
```
NAME        AGE     REQUESTOR                                                                   CONDITION
csr-8b2br   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
csr-8vnps   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
...
```
예에서는 두 시스템이 클러스터에 참여하고 있습니다. 목록에는 승인된 CSR이 더 많이 나타날 수도 있습니다.
CSR이 승인되지 않은 경우, 추가된 시스템에 대한 모든 보류 중인 CSR이 Pending 상태로 전환된 후 클러스터 시스템의 CSR을 승인합니다.
참고
CSR은 교체 주기가 자동으로 만료되므로 클러스터에 시스템을 추가한 후 1시간 이내에 CSR을 승인하십시오. 한 시간 내에 승인하지 않으면 인증서가 교체되고 각 노드에 대해 두 개 이상의 인증서가 표시됩니다. 이러한 인증서를 모두 승인해야 합니다. 클라이언트 CSR이 승인되면 Kubelet은 인증서에 대한 보조 CSR을 생성하므로 수동 승인이 필요합니다. 그러면 Kubelet에서 동일한 매개변수를 사용하여 새 인증서를 요청하는 경우 인증서 갱신 요청은 machine-approver에 의해 자동으로 승인됩니다.
참고
베어 메탈 및 기타 사용자 프로비저닝 인프라와 같이 머신 API를 사용하도록 활성화되지 않는 플랫폼에서 실행되는 클러스터의 경우 CSR(Kubelet service Certificate Request)을 자동으로 승인하는 방법을 구현해야 합니다. 요청이 승인되지 않으면 API 서버가 kubelet에 연결될 때 서비스 인증서가 필요하므로 oc exec, oc rsh, oc logs 명령을 성공적으로 수행할 수 없습니다. Kubelet 엔드 포인트에 연결하는 모든 작업을 수행하려면 이 인증서 승인이 필요합니다. 이 방법은 새 CSR을 감시하고 CSR이 system:node 또는 system:admin 그룹의 node-bootstrapper 서비스 계정에 의해 제출되었는지 확인하고 노드의 ID를 확인합니다.
- 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오.
```
$ oc adm certificate approve <csr_name> 1
```
  1
  <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.
- 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오.
```
$ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs --no-run-if-empty oc adm certificate approve
```
  참고
  일부 Operator는 일부 CSR이 승인될 때까지 사용할 수 없습니다.

이제 클라이언트 요청이 승인되었으므로 클러스터에 추가한 각 머신의 서버 요청을 검토해야 합니다.

$ oc get csr

출력 예

NAME        AGE     REQUESTOR                                                                   CONDITION
csr-bfd72   5m26s   system:node:ip-10-0-50-126.us-east-2.compute.internal                       Pending
csr-c57lv   5m26s   system:node:ip-10-0-95-157.us-east-2.compute.internal                       Pending
...

나머지 CSR이 승인되지 않고 Pending 상태인 경우 클러스터 머신의 CSR을 승인합니다.
- 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오.
```
$ oc adm certificate approve <csr_name> 1
```
  1
  <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.
- 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오.
```
$ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs oc adm certificate approve
```

모든 클라이언트 및 서버 CSR이 승인된 후 머신은 Ready 상태가 됩니다. 다음 명령을 실행하여 확인합니다.

$ oc get nodes

출력 예

NAME      STATUS    ROLES   AGE  VERSION
master-0  Ready     master  73m  v1.30.3
master-1  Ready     master  73m  v1.30.3
master-2  Ready     master  74m  v1.30.3
worker-0  Ready     worker  11m  v1.30.3
worker-1  Ready     worker  11m  v1.30.3

참고

머신이 Ready 상태로 전환하는 데 서버 CSR의 승인 후 몇 분이 걸릴 수 있습니다.

추가 정보

인증서 서명 요청

10.22. 선택사항 : 인그레스 DNS 레코드 추가

Kubernetes 매니페스트를 생성하고 Ignition 구성을 생성할 때 DNS 영역 구성을 제거한 경우, 인그레스 로드 밸런서를 가리키는 DNS 레코드를 수동으로 생성해야 합니다. 와일드카드 *.apps.{baseDomain}. 또는 특정 레코드를 생성할 수 있습니다. 사용자 요구사항에 따라 A, CNAME 및 기타 레코드를 사용할 수 있습니다.

사전 요구 사항

GCP 계정을 구성하십시오.
Kubernetes 매니페스트를 생성하고 Ignition 구성을 생성할 때 DNS 영역 구성을 제거하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.
GCP에서 네트워킹 및 로드 밸랜서를 생성하고 구성하십시오.
컨트롤 플레인 및 컴퓨팅 역할을 생성합니다.
부트스트랩 시스템을 생성합니다.
컨트롤 플레인 시스템을 생성합니다.
작업자 시스템을 생성합니다.

프로세스

인그레스 라우터가 로드 밸런서를 생성하고 EXTERNAL-IP 필드를 채울 때까지 기다립니다.

$ oc -n openshift-ingress get service router-default

출력 예

NAME             TYPE           CLUSTER-IP      EXTERNAL-IP      PORT(S)                      AGE
router-default   LoadBalancer   172.30.18.154   35.233.157.184   80:32288/TCP,443:31215/TCP   98

영역에 A 레코드를 추가합니다.

A 레코드를 사용하려면,

라우터 IP 주소에 대한 변수를 내보냅니다.

$ export ROUTER_IP=`oc -n openshift-ingress get service router-default --no-headers | awk '{print $4}'`

프라이빗 영역에 A 레코드를 추가합니다.

$ if [ -f transaction.yaml ]; then rm transaction.yaml; fi
$ gcloud dns record-sets transaction start --zone ${INFRA_ID}-private-zone
$ gcloud dns record-sets transaction add ${ROUTER_IP} --name \*.apps.${CLUSTER_NAME}.${BASE_DOMAIN}. --ttl 300 --type A --zone ${INFRA_ID}-private-zone
$ gcloud dns record-sets transaction execute --zone ${INFRA_ID}-private-zone

외부 클러스터의 경우 퍼블릭 영역에 A 레코드를 추가합니다.

$ if [ -f transaction.yaml ]; then rm transaction.yaml; fi
$ gcloud dns record-sets transaction start --zone ${BASE_DOMAIN_ZONE_NAME}
$ gcloud dns record-sets transaction add ${ROUTER_IP} --name \*.apps.${CLUSTER_NAME}.${BASE_DOMAIN}. --ttl 300 --type A --zone ${BASE_DOMAIN_ZONE_NAME}
$ gcloud dns record-sets transaction execute --zone ${BASE_DOMAIN_ZONE_NAME}

와일드카드를 사용하지 않고 명시적 도메인을 추가하려면 클러스터의 현재 경로에 대한 항목을 생성합니다.

$ oc get --all-namespaces -o jsonpath='{range .items[*]}{range .status.ingress[*]}{.host}{"\n"}{end}{end}' routes

출력 예

oauth-openshift.apps.your.cluster.domain.example.com
console-openshift-console.apps.your.cluster.domain.example.com
downloads-openshift-console.apps.your.cluster.domain.example.com
alertmanager-main-openshift-monitoring.apps.your.cluster.domain.example.com
prometheus-k8s-openshift-monitoring.apps.your.cluster.domain.example.com

10.23. 사용자 프로비저닝 인프라에서 GCP 설치 완료

GCP(Google Cloud Platform) 사용자 프로비저닝 인프라에서 OpenShift Container Platform 설치를 시작한 후 클러스터가 준비를 마칠 때까지 클러스터 이벤트를 모니터링할 수 있습니다.

사전 요구 사항

사용자 프로비저닝 GCP 인프라에 OpenShift Container Platform 클러스터용 부트스트랩 시스템을 배포하십시오.
oc CLI를 설치하고 로그인하십시오.

프로세스

클러스터 설치를 완료합니다.
```
$ ./openshift-install --dir <installation_directory> wait-for install-complete 1
```
출력 예
```
INFO Waiting up to 30m0s for the cluster to initialize...
```
1
<installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
중요
- 설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인 node-bootstrapper 인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오.
- 24 시간 인증서는 클러스터를 설치한 후 16시간에서 22시간으로 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.

클러스터의 실행 상태를 관찰합니다.

다음 명령을 실행하여 현재 클러스터 버전과 상태를 확인합니다.

$ oc get clusterversion

출력 예

NAME      VERSION   AVAILABLE   PROGRESSING   SINCE   STATUS
version             False       True          24m     Working towards 4.5.4: 99% complete

다음 명령을 실행하여 컨트롤 플레인에서 관리하되는 운영자를 CVO(Cluster Version Operator)별로 확인합니다.

$ oc get clusteroperators

출력 예

NAME                                       VERSION   AVAILABLE   PROGRESSING   DEGRADED   SINCE
authentication                             4.5.4     True        False         False      7m56s
cloud-credential                           4.5.4     True        False         False      31m
cluster-autoscaler                         4.5.4     True        False         False      16m
console                                    4.5.4     True        False         False      10m
csi-snapshot-controller                    4.5.4     True        False         False      16m
dns                                        4.5.4     True        False         False      22m
etcd                                       4.5.4     False       False         False      25s
image-registry                             4.5.4     True        False         False      16m
ingress                                    4.5.4     True        False         False      16m
insights                                   4.5.4     True        False         False      17m
kube-apiserver                             4.5.4     True        False         False      19m
kube-controller-manager                    4.5.4     True        False         False      20m
kube-scheduler                             4.5.4     True        False         False      20m
kube-storage-version-migrator              4.5.4     True        False         False      16m
machine-api                                4.5.4     True        False         False      22m
machine-config                             4.5.4     True        False         False      22m
marketplace                                4.5.4     True        False         False      16m
monitoring                                 4.5.4     True        False         False      10m
network                                    4.5.4     True        False         False      23m
node-tuning                                4.5.4     True        False         False      23m
openshift-apiserver                        4.5.4     True        False         False      17m
openshift-controller-manager               4.5.4     True        False         False      15m
openshift-samples                          4.5.4     True        False         False      16m
operator-lifecycle-manager                 4.5.4     True        False         False      22m
operator-lifecycle-manager-catalog         4.5.4     True        False         False      22m
operator-lifecycle-manager-packageserver   4.5.4     True        False         False      18m
service-ca                                 4.5.4     True        False         False      23m
service-catalog-apiserver                  4.5.4     True        False         False      23m
service-catalog-controller-manager         4.5.4     True        False         False      23m
storage                                    4.5.4     True        False         False      17m

다음 명령어를 실행하여 클러스터 Pod를 확인합니다.

$ oc get pods --all-namespaces

출력 예

NAMESPACE                                               NAME                                                                READY     STATUS      RESTARTS   AGE
kube-system                                             etcd-member-ip-10-0-3-111.us-east-2.compute.internal                1/1       Running     0          35m
kube-system                                             etcd-member-ip-10-0-3-239.us-east-2.compute.internal                1/1       Running     0          37m
kube-system                                             etcd-member-ip-10-0-3-24.us-east-2.compute.internal                 1/1       Running     0          35m
openshift-apiserver-operator                            openshift-apiserver-operator-6d6674f4f4-h7t2t                       1/1       Running     1          37m
openshift-apiserver                                     apiserver-fm48r                                                     1/1       Running     0          30m
openshift-apiserver                                     apiserver-fxkvv                                                     1/1       Running     0          29m
openshift-apiserver                                     apiserver-q85nm                                                     1/1       Running     0          29m
...
openshift-service-ca-operator                           openshift-service-ca-operator-66ff6dc6cd-9r257                      1/1       Running     0          37m
openshift-service-ca                                    apiservice-cabundle-injector-695b6bcbc-cl5hm                        1/1       Running     0          35m
openshift-service-ca                                    configmap-cabundle-injector-8498544d7-25qn6                         1/1       Running     0          35m
openshift-service-ca                                    service-serving-cert-signer-6445fc9c6-wqdqn                         1/1       Running     0          35m
openshift-service-catalog-apiserver-operator            openshift-service-catalog-apiserver-operator-549f44668b-b5q2w       1/1       Running     0          32m
openshift-service-catalog-controller-manager-operator   openshift-service-catalog-controller-manager-operator-b78cr2lnm     1/1       Running     0          31m

현재 클러스터 버전이 AVAILABLE이면 설치가 완료된 것입니다.

10.24. OpenShift Container Platform의 Telemetry 액세스

추가 리소스

Telemetry 서비스에 대한 자세한 내용은 원격 상태 모니터링 정보를 참조하십시오.

10.25. 다음 단계

11장. Deployment Manager 템플릿을 사용하여 GCP의 공유 VPC에 클러스터 설치

OpenShift Container Platform 버전 4.17에서는 사용자가 제공하는 인프라를 사용하는 클러스터를 GCP(Google Cloud Platform)의 공유 VPC(Virtual Private Cloud)에 설치할 수 있습니다. 이 컨텍스트에서 공유 VPC에 설치된 클러스터는 클러스터가 배포되는 위치와 다른 프로젝트의 VPC를 사용하도록 구성된 클러스터입니다.

공유 VPC를 통해 조직은 여러 프로젝트의 리소스를 공통 VPC 네트워크로 연결할 수 있습니다. 해당 네트워크의 내부 IP를 사용하여 조직 내에서 안전하고 효율적으로 통신할 수 있습니다. 공유 VPC에 대한 자세한 내용은 GCP 문서의 공유 VPC 개요를 참조하십시오.

공유 VPC에 사용자 제공 인프라 설치를 수행하는 단계가 여기에 안내되어 있습니다. 안내된 단계를 수행하거나 자체 모델링에 유용한 몇 가지 Deployment Manager 템플릿이 제공됩니다. 여러 다른 방법을 통해 필요한 리소스를 자유롭게 생성할 수도 있습니다.

중요

11.1. 사전 요구 사항

OpenShift Container Platform 설치 및 업데이트 프로세스에 대한 세부 사항을 검토했습니다.
클러스터 설치 방법 선택 및 사용자를 위한 준비에 대한 문서를 읽습니다.
방화벽을 사용하며 Telemetry 서비스를 사용할 예정이면 클러스터 가 액세스해야 하는 사이트를 허용하도록 방화벽을 구성해야 합니다.
사용자의 환경에서 클라우드 ID 및 액세스 관리(IAM) API에 액세스할 수 없거나 kube-system 네임스페이스에 관리자 수준의 인증 정보 시크릿을 저장하지 않으려면 장기 인증 정보를 수동으로 생성하고 유지 관리할 수 있습니다.
참고
프록시를 구성하는 경우에도 해당 사이트 목록을 검토하십시오.

11.2. 인증서 서명 요청 관리

11.3. OpenShift Container Platform 용 인터넷 액세스

OpenShift Container Platform 4.17에서 클러스터를 설치하려면 인터넷 액세스가 필요합니다.

다음의 경우 인터넷 액세스가 필요합니다.

OpenShift Cluster Manager 에 액세스하여 설치 프로그램을 다운로드하고 서브스크립션 관리를 수행합니다. 클러스터가 인터넷에 액세스할 수 있고 Telemetry 서비스를 비활성화하지 않은 경우, 클러스터에 자동으로 권한이 부여됩니다.
Quay.io에 액세스. 클러스터를 설치하는 데 필요한 패키지를 받을 수 있습니다.
클러스터 업데이트를 수행하는 데 필요한 패키지를 받을 수 있습니다.

중요

11.4. 클러스터를 호스팅하는 GCP 프로젝트 구성

OpenShift Container Platform을 설치하려면 먼저 호스팅할 GCP(Google Cloud Platform) 프로젝트를 구성해야 합니다.

11.4.1. GCP 프로젝트 생성

OpenShift Container Platform을 설치하려면 클러스터를 호스팅할 GCP(Google Cloud Platform) 계정에 프로젝트를 생성해야 합니다.

프로세스

OpenShift Container Platform 클러스터를 호스팅할 프로젝트를 생성합니다. GCP 문서의 프로젝트 생성 및 관리 단원을 참조하십시오.
중요
설치 관리자 프로비저닝 인프라를 사용하는 경우 GCP 프로젝트는 Premium Network Service Tier를 사용해야 합니다. 설치 프로그램을 사용하여 설치된 클러스터의 Standard Network Service Tier는 지원되지 않습니다. 설치 프로그램은 api-int.<cluster_name>.<base_domain> URL에 대한 내부 로드 밸런싱을 구성합니다.

11.4.2. GCP에서 API 서비스 활성화

GCP(Google Cloud Platform) 프로젝트에서 OpenShift Container Platform 설치를 완료하려면 여러 API 서비스에 액세스해야 합니다.

사전 요구 사항

클러스터를 호스팅할 프로젝트 생성을 완료했습니다.

프로세스

표 11.1. 필수 API 서비스
API 서비스	콘솔 서비스 이름
컴퓨팅 엔진 API	`compute.googleapis.com`
클라우드 리소스 관리자 API	`cloudresourcemanager.googleapis.com`
Google DNS API	`dns.googleapis.com`
IAM 서비스 계정 자격 증명 API	`iamcredentials.googleapis.com`
IAM(ID 및 액세스 관리) API	`iam.googleapis.com`
서비스 사용량 API	`serviceusage.googleapis.com`

표 11.2. 선택적 API 서비스
API 서비스	콘솔 서비스 이름
Cloud Deployment Manager V2 API	`deploymentmanager.googleapis.com`
Google 클라우드 API	`cloudapis.googleapis.com`
서비스 관리 API	`servicemanagement.googleapis.com`
Google 클라우드 스토리지 JSON API	`storage-api.googleapis.com`
클라우드 스토리지	`storage-component.googleapis.com`

11.4.3. GCP 계정 제한

표 11.3. 기본 클러스터에서 사용되는 GCP 리소스
서비스	구성 요소	위치	필요한 총 리소스	부트스트랩 후 제거된 리소스
서비스 계정	IAM	글로벌	6	1
방화벽 규칙	네트워킹	글로벌	11	1
전송 규칙	컴퓨팅	글로벌	2	0
상태 검사	컴퓨팅	글로벌	2	0
이미지	컴퓨팅	글로벌	1	0
네트워크	네트워킹	글로벌	1	0
라우터	네트워킹	글로벌	1	0
라우트	네트워킹	글로벌	2	0
서브네트워크	컴퓨팅	글로벌	2	0
대상 풀	네트워킹	글로벌	2	0

참고

설치하는 동안 할당량이 충분하지 않으면 설치 프로그램에서 초과된 할당량과 리전을 모두 안내하는 오류 메시지를 표시합니다.

다음 리전 중 하나에서 클러스터를 배포하려는 경우, 최대 스토리지 할당량을 초과할 것이며, CPU 할당량 제한을 초과할 가능성도 있습니다.

asia-east2
asia-northeast2
asia-south1
australia-southeast1
europe-north1
europe-west2
europe-west3
europe-west6
northamerica-northeast1
southamerica-east1
us-west2

11.4.4. GCP에서 서비스 계정 생성

사전 요구 사항

클러스터를 호스팅할 프로젝트 생성을 완료했습니다.

프로세스

OpenShift Container Platform 클러스터를 호스팅하는 데 사용하는 프로젝트에 서비스 계정을 생성합니다. GCP 문서의 서비스 계정 생성 단원을 참조하십시오.
서비스 계정에 적절한 권한을 부여합니다. 뒤따르는 개별 권한을 부여하거나 Owner 역할을 할당할 수 있습니다. 서비스 계정에 특정 리소스에 대한 역할 부여를 참조하십시오.
참고
서비스 계정을 프로젝트 소유자로 지정하는 것은 가장 쉽게 필요한 권한을 얻는 방법이며, 서비스 계정으로 프로젝트를 완전히 제어할 수 있음을 의미합니다. 해당 권한을 제공하는 데 따른 위험이 수용 가능한 수준인지 확인해봐야 합니다.
JSON 형식으로 서비스 계정 키를 생성하거나 서비스 계정을 GCP 가상 머신에 연결할 수 있습니다. GCP 문서의 서비스 계정 키 생성 및 서비스 계정 생성 및 활성화를 참조하십시오.
참고
연결된 서비스 계정이 있는 가상 머신을 사용하여 클러스터를 생성하는 경우 설치 전에 install-config.yaml 파일에서 credentialsMode: Manual 을 설정해야 합니다.

11.4.4.1. 필수 GCP 역할

설치 프로그램에 필요한 역할

컴퓨팅 관리자
역할 관리자
보안 관리자
서비스 계정 관리자
서비스 계정 키 관리자
서비스 계정 사용자
스토리지 관리자

설치 과정에서 네트워크 리소스를 생성하는 데 필요한 역할

DNS 관리자

passthrough 모드에서 Cloud Credential Operator를 사용하는 데 필요한 역할

Compute Load Balancer 관리자
태그 사용자

사용자 프로비저닝 GCP 인프라에 필요한 역할

배포 관리자 편집자

다음 역할은 컨트롤 플레인 및 컴퓨팅 시스템에서 사용하는 서비스 계정에 적용됩니다.

표 11.4. GCP 서비스 계정 역할
계정	역할
컨트롤 플레인	`roles/compute.instanceAdmin`
	`roles/compute.networkAdmin`
	`roles/compute.securityAdmin`
	`roles/storage.admin`
	`roles/iam.serviceAccountUser`
컴퓨팅	`roles/compute.viewer`
	`roles/storage.admin`
	`roles/artifactregistry.reader`

11.4.5. 지원되는 GCP 리전

다음과 같은 GCP(Google Cloud Platform) 리전에 OpenShift Container Platform 클러스터를 배포할 수 있습니다.

Africa-south1 (남아프리카 공화국)
asia-east1 (대만 장화현)
asia-east2 (홍콩)
asia-northeast1 (일본 도쿄)
asia-northeast2 (일본 오사카)
asia-northeast3 (한국 서울)
asia-south1 (인도 뭄바이)
asia-south2 (인도 델리)
asia-southeast1 (싱가포르 주롱 웨스트)
asia-southeast2 (인도네시아 자카르타)
australia-southeast1 (호주 시드니)
australia-southeast2 (호주 Melbourne)
europe-central2 (폴란드 바르샤바)
europe-north1 (핀란드 하미나)
europe-southwest1 (스페르드, 스페인)
europe-west1 (벨기에 생기슬랭)
europe-west2 (영국 런던)
europe-west3 (독일 프랑크푸르트)
europe-west4 (네덜란드 엠스하벤)
europe-west6 (스위스 취리히)
europe-west8 (독일 미랜)
europe-west9 (프랑스, 프랑스)
europe-west12 ( 이탈리아 Turin)
me-central1 (Doha, 카타르, 중동)
me-central2 (Dammam, 사우디 아라비아, 중동)
me-west1 (벨 Aviv, 이스라엘)
northamerica-northeast1 (캐나다 퀘벡 주 몬트리올)
northamerica-northeast2 (캐나다 온타리오주 토론토)
southamerica-east1 (브라질 상파울루)
southamerica-west1 (원하는 시티아고)
us-central1 (미국 아이오와 주 카운실 블러프스)
us-east1 (미국 사우스 캐롤라이나 주 몽크스 코너)
us-east4 (미국 노던 버지니아 주 애쉬번)
us-east5 (Columbus,hanio)
us-south1 (하우스, Texas)
us-west1 (미국 오레곤 주 댈러스)
us-west2 (미국 캘리포니아 주 로스앤젤레스)
us-west3 (미국 유타 주 솔트레이크시티)
us-west4 (미국 네바다 라스베거스)

참고

지역 및 영역에서 사용할 수 있는 머신 유형 인스턴스를 확인하려면 Google 설명서 를 참조하십시오.

11.4.6. GCP용 CLI 도구 설치 및 구성

사용자 프로비저닝 인프라를 사용하는 OpenShift Container Platform을 GCP(Google Cloud Platform)에 설치하려면 GCP용 CLI 도구를 설치하고 구성해야 합니다.

사전 요구 사항

클러스터를 호스팅할 프로젝트 생성을 완료했습니다.
서비스 계정 생성과 필요한 권한 부여 작업을 마쳤습니다.

프로세스

$PATH에 다음 바이너리를 설치합니다.
- gcloud
- gsutil
GCP 문서의 최신 클라우드 SDK 버전 설치 단원을 참조하십시오.
구성된 서비스 계정과 gcloud 도구를 사용하여 인증합니다.
GCP 문서의 서비스 계정 인증을 참조하십시오.

11.5. 사용자 프로비저닝 인프라를 포함한 클러스터의 시스템 요구사항

사용자 프로비저닝 인프라가 포함된 클러스터의 경우, 필요한 모든 시스템을 배포해야 합니다.

이 섹션에서는 사용자 프로비저닝 인프라에 OpenShift Container Platform을 배포해야 하는 요구 사항에 대해 설명합니다.

11.5.1. 클러스터 설치에 필요한 시스템

최소 OpenShift Container Platform 클러스터에 다음과 같은 호스트가 필요합니다.

표 11.5. 최소 필수 호스트
호스트	설명
임시 부트스트랩 시스템 한 개	컨트롤 플레인 시스템 세 개에 OpenShift Container Platform 클러스터를 배포하기 위한 부트스트랩 시스템이 클러스터에 필요합니다. 클러스터를 설치한 후 부트스트랩 시스템을 제거할 수 있습니다.
컨트롤 플레인 시스템 세 개	컨트롤 플레인 시스템은 컨트롤 플레인을 구성하는 Kubernetes 및 OpenShift Container Platform 서비스를 실행합니다.
두 개 이상의 컴퓨팅 시스템(작업자 시스템이라고도 함).	OpenShift Container Platform 사용자가 요청한 워크로드는 컴퓨팅 머신에서 실행됩니다.

중요

클러스터의 고가용성을 유지하려면 이러한 클러스터 시스템에 대해 별도의 물리적 호스트를 사용하십시오.

11.5.2. 클러스터 설치를 위한 최소 리소스 요구 사항

각 클러스터 시스템이 다음과 같은 최소 요구사항을 충족해야 합니다.

표 11.6. 최소 리소스 요구사항
머신	운영 체제	vCPU ^[1]	가상 RAM	스토리지	초당 입력/출력(IOPS)^[2]
부트스트랩	RHCOS	4	16GB	100GB	300
컨트롤 플레인	RHCOS	4	16GB	100GB	300
Compute	RHCOS, RHEL 8.6 이상 ^[3]	2	8GB	100GB	300

SMT(동시 멀티 스레딩) 또는 Hyper-Threading이 활성화되지 않은 경우 하나의 vCPU는 하나의 물리적 코어와 동일합니다. 활성화하면 다음과 같은 공식을 사용하여 해당 비율을 계산합니다. (코어 당 스레드 수 × 코어 수) × 소켓 수 = vCPU 수
OpenShift Container Platform 및 Kubernetes는 디스크 성능에 민감하며 특히 10ms p99 fsync 기간이 필요한 컨트롤 플레인 노드의 etcd에 더 빠른 스토리지가 권장됩니다. 많은 클라우드 플랫폼에서 스토리지 크기와 IOPS를 함께 확장되므로 충분한 성능을 얻으려면 스토리지 볼륨을 과도하게 할당해야 할 수 있습니다.
사용자가 프로비저닝한 모든 설치와 마찬가지로 클러스터에서 RHEL 컴퓨팅 머신을 사용하기로 선택한 경우 시스템 업데이트 수행, 패치 적용 및 기타 필요한 모든 작업 실행을 포함한 모든 운영 체제의 라이프 사이클 관리 및 유지 관리에 대한 책임이 있습니다. RHEL 7 컴퓨팅 머신 사용은 더 이상 사용되지 않으며 OpenShift Container Platform 4.10 이상에서 제거되었습니다.

참고

x86-64 아키텍처에는 x86-64-v2 ISA가 필요합니다.
ARM64 아키텍처에는 ARMv8.0-A ISA가 필요합니다.
IBM Power 아키텍처에는 Power 9 ISA가 필요합니다.
s390x 아키텍처에는 z14 ISA가 필요합니다.

자세한 내용은 RHEL 아키텍처를 참조하십시오.

플랫폼의 인스턴스 유형이 클러스터 머신의 최소 요구 사항을 충족하는 경우 OpenShift Container Platform에서 사용할 수 있습니다.

추가 리소스

스토리지 최적화

11.5.3. GCP에서 테스트된 인스턴스 유형

다음 Google Cloud Platform 인스턴스 유형은 OpenShift Container Platform에서 테스트되었습니다.

예 11.1. 머신 시리즈

A2
A3
C2
C2D
C3
C3D
E2
M1
N1
N2
N2D
N4
Tau T2D

11.5.4. 사용자 지정 머신 유형 사용

사용자 지정 머신 유형을 사용하여 OpenShift Container Platform 클러스터를 설치할 수 있습니다.

사용자 지정 머신 유형을 사용할 때 다음을 고려하십시오.

사전 정의된 인스턴스 유형과 유사하게 사용자 정의 시스템 유형은 컨트롤 플레인 및 컴퓨팅 시스템의 최소 리소스 요구 사항을 충족해야 합니다. 자세한 내용은 "클러스터 설치를 위한 최소 리소스 요구 사항"을 참조하십시오.
사용자 지정 머신 유형의 이름은 다음 구문을 준수해야 합니다.
custom-<number_of_cpus>-<amount_of_memory_in_mb>
예를 들면 custom-6-20480 입니다.

11.6. 공유 VPC 네트워크를 호스팅하는 GCP 프로젝트 구성

공유 VPC(Virtual Private Cloud)를 사용하여 GCP(Google Cloud Platform)에서 OpenShift Container Platform 클러스터를 호스팅하는 경우, 호스팅할 프로젝트를 구성해야 합니다.

참고

공유 VPC 네트워크를 호스팅하는 프로젝트가 이미 있으면 이 섹션을 검토하여 프로젝트가 OpenShift Container Platform 클러스터를 설치하기 위한 모든 요구사항을 충족하는지 확인하십시오.

프로세스

OpenShift Container Platform 클러스터의 공유 VPC를 호스팅할 프로젝트를 생성합니다. GCP 문서의 프로젝트 생성 및 관리 단원을 참조하십시오.
공유 VPC를 호스팅하는 프로젝트에서 서비스 계정을 생성합니다. GCP 문서의 서비스 계정 생성 단원을 참조하십시오.
서비스 계정에 적절한 권한을 부여합니다. 뒤따르는 개별 권한을 부여하거나 Owner 역할을 할당할 수 있습니다. 서비스 계정에 특정 리소스에 대한 역할 부여를 참조하십시오.
참고
서비스 계정을 프로젝트 소유자로 지정하는 것은 가장 쉽게 필요한 권한을 얻는 방법이며, 서비스 계정으로 프로젝트를 완전히 제어할 수 있음을 의미합니다. 해당 권한을 제공하는 데 따른 위험이 수용 가능한 수준인지 확인해봐야 합니다.
공유 VPC 네트워크를 호스팅하는 프로젝트의 서비스 계정에는 다음과 같은 역할이 필요합니다.
- 컴퓨팅 네트워크 사용자
- 컴퓨팅 보안 관리자
- 배포 관리자 편집자
- DNS 관리자
- 보안 관리자
- 네트워크 관리 관리자

11.6.1. GCP용 DNS 구성

OpenShift Container Platform을 설치하려면 사용하는 GCP(Google Cloud Platform) 계정에 클러스터를 설치하는 공유 VPC를 호스팅하는 프로젝트에 전용 퍼블릭 호스팅 영역이 있어야 합니다. 도메인에 대한 권한도 이 영역에 있어야 합니다. DNS 서비스는 클러스터와 외부 연결에 필요한 클러스터 DNS 확인 및 이름 조회 기능을 제공합니다.

프로세스

도메인 또는 하위 도메인과 등록 기관을 식별합니다. 기존 도메인 및 등록 기관을 이전하거나 GCP 또는 다른 소스를 통해 새 도메인과 등록 기관을 구할 수 있습니다.
참고
새 도메인을 구입하는 경우, 관련 DNS 변경사항이 전파되는 데 시간이 걸릴 수 있습니다. Google을 통한 도메인 구매에 대한 자세한 내용은 Google 도메인을 참조하십시오.
GCP 프로젝트에서 도메인 또는 하위 도메인의 퍼블릭 호스팅 영역을 생성합니다. GCP 문서의 퍼블릭 영역 생성 단원을 참조하십시오.
적절한 루트 도메인(예: openshiftcorp.com) 또는 하위 도메인(예: clusters.openshiftcorp.com)을 사용합니다.
호스팅 영역 레코드에서 권한이 있는 새 이름 서버를 추출합니다. GCP 문서의 클라우드 DNS 이름 서버 조회 단원을 참조하십시오.
일반적으로 네 가지 이름 서버가 있습니다.
도메인에서 사용하는 이름 서버의 등록 기관 레코드를 업데이트합니다. 예를 들어, 사용자 도메인을 Google 도메인에 등록한 경우 Google 도메인 도움말의 사용자 지정 이름 서버로 전환하는 방법 항목을 참조하십시오.
루트 도메인을 Google Cloud DNS로 마이그레이션했으면 DNS 레코드를 마이그레이션합니다. GCP 문서의 클라우드 DNS로 마이그레이션을 참조하십시오.
하위 도메인을 사용하는 경우, 회사의 프로시저에 따라 상위 도메인에 위임 레코드를 추가합니다. 이 과정에 회사의 IT 부서 또는 회사의 루트 도메인 및 DNS 서비스를 제어하는 부서에 요청하는 일도 포함될 수 있습니다.

11.6.2. GCP에서 VPC 생성

참고

사전 요구 사항

GCP 계정을 구성하십시오.

프로세스

이 항목의 VPC에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 01_vpc.py로 저장합니다. 이 템플릿은 클러스터에 필요한 VPC를 설명합니다.
리소스 정의에 필요한 다음 변수들을 내보냅니다.
1. 컨트롤 플레인 CIDR을 내보냅니다.
```
$ export MASTER_SUBNET_CIDR='10.0.0.0/17'
```
2. 컴퓨팅 CIDR을 내보냅니다.
```
$ export WORKER_SUBNET_CIDR='10.0.128.0/17'
```
3. VPC 네트워크와 클러스터를 배포할 리전을 내보냅니다.
```
$ export REGION='<region>'
```
공유 VPC를 호스팅하는 프로젝트의 ID에 해당하는 변수를 내보냅니다.
```
$ export HOST_PROJECT=<host_project>
```
호스트 프로젝트에 속하는 서비스 계정의 이메일에 해당하는 변수를 내보냅니다.
```
$ export HOST_PROJECT_ACCOUNT=<host_service_account_email>
```
01_vpc.yaml 리소스 정의 파일을 생성합니다.
```
$ cat <<EOF >01_vpc.yaml
imports:
- path: 01_vpc.py

resources:
- name: cluster-vpc
  type: 01_vpc.py
  properties:
    infra_id: '<prefix>' 1
    region: '${REGION}' 2
    master_subnet_cidr: '${MASTER_SUBNET_CIDR}' 3
    worker_subnet_cidr: '${WORKER_SUBNET_CIDR}' 4
EOF
```
1
infra_id는 네트워크 이름의 접두사입니다.
2
region은 클러스터를 배포할 영역입니다(예: us-central1).
3
master_subnet_cidr은 마스터 서브넷의 CIDR입니다. (예: 10.0.0.0/17)
4
worker_subnet_cidr은 작업자 서브넷의 CIDR입니다. (예: 10.0.128.0/17)

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create <vpc_deployment_name> --config 01_vpc.yaml --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT} 1

1: <vpc_deployment_name> 값으로 배포할 VPC의 이름을 지정합니다.

다른 구성 요소에 필요한 VPC 변수들을 내보냅니다.
1. 호스트 프로젝트 네트워크의 이름을 내보냅니다.
```
$ export HOST_PROJECT_NETWORK=<vpc_network>
```
2. 호스트 프로젝트 컨트롤 플레인의 이름을 내보냅니다.
```
$ export HOST_PROJECT_CONTROL_SUBNET=<control_plane_subnet>
```
3. 호스트 프로젝트 컴퓨팅 서브넷의 이름을 내보냅니다.
```
$ export HOST_PROJECT_COMPUTE_SUBNET=<compute_subnet>
```
공유 VPC를 설정합니다. GCP 문서의 공유 VPC 설정 단원을 참조하십시오.

11.6.2.1. VPC용 Deployment Manager 템플릿

다음 Deployment Manager 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 VPC를 배포할 수 있습니다.

예 11.2. 01_vpc.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-network',
        'type': 'compute.v1.network',
        'properties': {
            'region': context.properties['region'],
            'autoCreateSubnetworks': False
        }
    }, {
        'name': context.properties['infra_id'] + '-master-subnet',
        'type': 'compute.v1.subnetwork',
        'properties': {
            'region': context.properties['region'],
            'network': '$(ref.' + context.properties['infra_id'] + '-network.selfLink)',
            'ipCidrRange': context.properties['master_subnet_cidr']
        }
    }, {
        'name': context.properties['infra_id'] + '-worker-subnet',
        'type': 'compute.v1.subnetwork',
        'properties': {
            'region': context.properties['region'],
            'network': '$(ref.' + context.properties['infra_id'] + '-network.selfLink)',
            'ipCidrRange': context.properties['worker_subnet_cidr']
        }
    }, {
        'name': context.properties['infra_id'] + '-router',
        'type': 'compute.v1.router',
        'properties': {
            'region': context.properties['region'],
            'network': '$(ref.' + context.properties['infra_id'] + '-network.selfLink)',
            'nats': [{
                'name': context.properties['infra_id'] + '-nat-master',
                'natIpAllocateOption': 'AUTO_ONLY',
                'minPortsPerVm': 7168,
                'sourceSubnetworkIpRangesToNat': 'LIST_OF_SUBNETWORKS',
                'subnetworks': [{
                    'name': '$(ref.' + context.properties['infra_id'] + '-master-subnet.selfLink)',
                    'sourceIpRangesToNat': ['ALL_IP_RANGES']
                }]
            }, {
                'name': context.properties['infra_id'] + '-nat-worker',
                'natIpAllocateOption': 'AUTO_ONLY',
                'minPortsPerVm': 512,
                'sourceSubnetworkIpRangesToNat': 'LIST_OF_SUBNETWORKS',
                'subnetworks': [{
                    'name': '$(ref.' + context.properties['infra_id'] + '-worker-subnet.selfLink)',
                    'sourceIpRangesToNat': ['ALL_IP_RANGES']
                }]
            }]
        }
    }]

    return {'resources': resources}

11.7. GCP용 설치 파일 생성

11.7.1. 수동으로 설치 구성 파일 만들기

클러스터를 설치하려면 설치 구성 파일을 수동으로 생성해야 합니다.

사전 요구 사항

로컬 시스템에 설치 프로그램에 제공할 SSH 공개 키가 있습니다. 키는 디버깅 및 재해 복구를 위해 클러스터 노드에 대한 SSH 인증에 사용됩니다.
OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.

프로세스

필요한 설치 자산을 저장할 설치 디렉터리를 만듭니다.
```
$ mkdir <installation_directory>
```
중요
디렉터리를 만들어야 합니다. 부트스트랩 X.509 인증서와 같은 일부 설치 자산은 단기간에 만료되므로 설치 디렉터리를 재사용해서는 안 됩니다. 다른 클러스터 설치의 개별 파일을 재사용하려면 해당 파일을 사용자 디렉터리에 복사하면 됩니다. 그러나 설치 자산의 파일 이름은 릴리스간에 변경될 수 있습니다. 따라서 이전 OpenShift Container Platform 버전에서 설치 파일을 복사할 때는 주의하십시오.
샘플 install-config.yaml 파일 템플릿을 사용자 지정하여 <installation_directory>에 저장합니다.
참고
이 설정 파일의 이름을 install-config.yaml로 지정해야 합니다.
여러 클러스터를 설치하는 데 사용할 수 있도록 install-config.yaml 파일을 백업합니다.
중요
install-config.yaml 파일은 설치 과정의 다음 단계에서 사용됩니다. 이 시점에서 이를 백업해야 합니다.

추가 리소스

GCP의 설치 구성 매개변수

11.7.2. Shielded VM 활성화

참고

Shielded VM은 현재 64비트 ARM 인프라가 있는 클러스터에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 시스템에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       secureBoot: Enabled
```
2. 컴퓨팅 머신에만 보호된 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       secureBoot: Enabled
```
3. 모든 시스템에 대해 보호된 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       secureBoot: Enabled
```

11.7.3. 기밀성 VM 활성화

참고

현재 기밀 VM은 64비트 ARM 아키텍처에서 지원되지 않습니다.

사전 요구 사항

install-config.yaml 파일을 생성했습니다.

프로세스

클러스터를 배포하기 전에 텍스트 편집기를 사용하여 install-config.yaml 파일을 편집하고 다음 스탠자 중 하나를 추가합니다.
1. 컨트롤 플레인 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
controlPlane:
  platform:
    gcp:
       confidentialCompute: Enabled 1
       type: n2d-standard-8 2
       onHostMaintenance: Terminate 3
```
  1
  기밀 VM을 활성화합니다.
  2
  기밀성 VM을 지원하는 머신 유형을 지정합니다. 기밀 VM에는 N2D 또는 C2D 일련의 머신 유형이 필요합니다. 지원되는 머신 유형에 대한 자세한 내용은 지원되는 운영 체제 및 머신 유형을 참조하십시오.
  3
  호스트 유지 관리 이벤트 중 하드웨어 또는 소프트웨어 업데이트와 같은 VM의 동작을 지정합니다. 기밀성 VM을 사용하는 시스템의 경우 이 값은 VM을 중지하도록 Terminate 로 설정해야 합니다. 기밀 VM은 실시간 VM 마이그레이션을 지원하지 않습니다.
2. 컴퓨팅 머신에만 기밀 VM을 사용하려면 다음을 수행합니다.
```
compute:
- platform:
    gcp:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```
3. 모든 머신에 기밀 VM을 사용하려면 다음을 수행합니다.
```
platform:
  gcp:
    defaultMachinePlatform:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate
```

11.7.4. GCP용 샘플 사용자 지정 `install-config.yaml` 파일

중요

이 샘플 YAML 파일은 참조용으로만 제공됩니다. 설치 프로그램을 사용하여 install-config.yaml 파일을 받아서 수정해야 합니다.

apiVersion: v1
baseDomain: example.com 1
controlPlane: 2
  hyperthreading: Enabled 3 4
  name: master
  platform:
    gcp:
      type: n2-standard-4
      zones:
      - us-central1-a
      - us-central1-c
      tags: 5
      - control-plane-tag1
      - control-plane-tag2
  replicas: 3
compute: 6
- hyperthreading: Enabled 7
  name: worker
  platform:
    gcp:
      type: n2-standard-4
      zones:
      - us-central1-a
      - us-central1-c
      tags: 8
      - compute-tag1
      - compute-tag2
  replicas: 0
metadata:
  name: test-cluster
networking:
  clusterNetwork:
  - cidr: 10.128.0.0/14
    hostPrefix: 23
  machineNetwork:
  - cidr: 10.0.0.0/16
  networkType: OVNKubernetes 9
  serviceNetwork:
  - 172.30.0.0/16
platform:
  gcp:
    defaultMachinePlatform:
      tags: 10
      - global-tag1
      - global-tag2
    projectID: openshift-production 11
    region: us-central1 12
pullSecret: '{"auths": ...}'
fips: false 13
sshKey: ssh-ed25519 AAAA... 14
publish: Internal 15

1: 호스트 프로젝트에서 퍼블릭 DNS를 지정합니다.
2 6: 이러한 매개변수와 값을 지정하지 않으면 설치 프로그램은 기본값을 적용합니다.
3 7: controlPlane 섹션은 단일 매핑이지만 compute 섹션은 일련의 매핑입니다. 서로 다른 데이터 구조의 요구사항을 충족하도록 compute 섹션의 첫 번째 줄은 하이픈(-)으로 시작해야 하며 controlPlane 섹션의 첫 번째 줄은 하이픈으로 시작할 수 없습니다. 현재 두 섹션이 모두 단일 시스템 풀을 정의하지만 향후 출시되는 OpenShift Container Platform 버전은 설치 과정에서 여러 컴퓨팅 풀 정의를 지원할 수 있습니다. 하나의 컨트롤 플레인 풀만 사용됩니다.
4: 동시 멀티스레딩 또는 hyperthreading 활성화/비활성화 여부를 지정합니다. 시스템 코어의 성능을 높이기 위해 기본적으로 동시 멀티스레딩이 활성화됩니다. 매개변수 값을 Disabled로 설정하여 비활성화할 수 있습니다. 일부 클러스터 시스템에서 동시 멀티스레딩을 비활성화할 경우에는 해당 멀티스레딩을 모든 클러스터 시스템에서 비활성화해야 합니다.
중요
동시 멀티스레딩을 비활성화하는 경우 용량 계획에서 시스템 성능이 크게 저하될 수 있는 문제를 고려해야 합니다. 동시 멀티스레딩을 비활성화하는 경우, 사용자 시스템에 더 큰 시스템 유형(예: n1-standard-8)을 사용하십시오.
5 8 10: 선택 사항: 컨트롤 플레인 또는 컴퓨팅 머신 세트에 적용할 네트워크 태그 세트입니다. platform.gcp.defaultMachinePlatform.tags 매개변수는 컨트롤 플레인 및 컴퓨팅 시스템에 모두 적용됩니다. compute.platform.gcp.tags 또는 controlPlane.platform.gcp.tags 매개변수가 설정된 경우 platform.gcp.defaultMachinePlatform.tags 매개변수를 재정의합니다.
9: 설치할 클러스터 네트워크 플러그인입니다. 기본 값 OVNKubernetes 는 지원되는 유일한 값입니다.
11: VM 인스턴스가 있는 기본 프로젝트를 지정합니다.
12: VPC 네트워크가 속한 리전을 지정합니다.
13: FIPS 모드 활성화 또는 비활성화 여부입니다. 기본적으로 FIPS 모드는 비활성화됩니다. FIPS 모드가 활성화되면 OpenShift Container Platform이 실행되는 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템에서 기본 Kubernetes 암호화 제품군은 우회하고 RHCOS와 함께 제공되는 암호화 모듈을 대신 사용합니다.
중요
클러스터의 FIPS 모드를 활성화하려면 FIPS 모드에서 작동하도록 구성된 RHEL(Red Hat Enterprise Linux) 컴퓨터에서 설치 프로그램을 실행해야 합니다. RHEL에서 FIPS 모드를 구성하는 방법에 대한 자세한 내용은 RHEL을 FIPS 모드로 전환 을 참조하십시오.
FIPS 모드에서 부팅된 RHEL(Red Hat Enterprise Linux CoreOS) 또는 RHCOS(Red Hat Enterprise Linux CoreOS)를 실행하는 경우 OpenShift Container Platform 코어 구성 요소는 x86_64, ppc64le 및 s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용합니다.
14: 선택사항으로, 클러스터의 시스템에 액세스하는 데 사용할 sshKey 값을 제공할 수도 있습니다.
참고
설치 디버깅 또는 재해 복구를 수행하려는 프로덕션 OpenShift Container Platform 클러스터의 경우 ssh-agent 프로세스가 사용하는 SSH 키를 지정합니다.
15: 클러스터의 사용자 끝점을 게시하는 방법. 인터넷에서 액세스할 수 없는 프라이빗 클러스터를 배포하려면 publish를 Internal로 설정합니다. 기본값은 External입니다. 프로비저닝하는 인프라를 사용하는 클러스터에서 공용 VPC를 사용하려면 publish를 Internal로 설정해야 합니다. 그러면 이제 설치 프로그램에서 호스트 프로젝트의 기본 도메인에 대한 퍼블릭 DNS 영역에 액세스할 수 없습니다.

11.7.5. 설치 중 클러스터 단위 프록시 구성

사전 요구 사항

기존 install-config.yaml 파일이 있습니다.
클러스터에서 액세스해야 하는 사이트를 검토하고 프록시를 바이패스해야 하는지 확인했습니다. 기본적으로 호스팅 클라우드 공급자 API에 대한 호출을 포함하여 모든 클러스터 발신(Egress) 트래픽이 프록시됩니다. 필요한 경우 프록시를 바이패스하기 위해 Proxy 오브젝트의 spec.noProxy 필드에 사이트를 추가했습니다.
참고
Proxy 오브젝트의 status.noProxy 필드는 설치 구성에 있는 networking.machineNetwork[].cidr, networking.clusterNetwork[].cidr, networking.serviceNetwork[] 필드의 값으로 채워집니다.
Amazon Web Services (AWS), Google Cloud Platform (GCP), Microsoft Azure 및 Red Hat OpenStack Platform (RHOSP)에 설치하는 경우 Proxy 오브젝트 status.noProxy 필드도 인스턴스 메타데이터 끝점(169.254.169.254)로 채워집니다.

프로세스

install-config.yaml 파일을 편집하고 프록시 설정을 추가합니다. 예를 들면 다음과 같습니다.
```
apiVersion: v1
baseDomain: my.domain.com
proxy:
  httpProxy: http://<username>:<pswd>@<ip>:<port> 1
  httpsProxy: https://<username>:<pswd>@<ip>:<port> 2
  noProxy: example.com 3
additionalTrustBundle: | 4
    -----BEGIN CERTIFICATE-----
    <MY_TRUSTED_CA_CERT>
    -----END CERTIFICATE-----
additionalTrustBundlePolicy: <policy_to_add_additionalTrustBundle> 5
```
1
클러스터 외부에서 HTTP 연결을 구축하는 데 사용할 프록시 URL입니다. URL 스키마는 http여야 합니다.
2
클러스터 외부에서 HTTPS 연결을 구축하는 데 사용할 프록시 URL입니다.
3
대상 도메인 이름, IP 주소 또는 프록시에서 제외할 기타 네트워크 CIDR로 이루어진 쉼표로 구분된 목록입니다. 하위 도메인과 일치하려면 도메인 앞에 .을 입력합니다. 예를 들어, .y.com은 x.y.com과 일치하지만 y.com은 일치하지 않습니다. *를 사용하여 모든 대상에 대해 프록시를 바이패스합니다.
4
이 값을 제공하면 설치 프로그램에서 HTTPS 연결을 프록시하는 데 필요한 추가 CA 인증서가 하나 이상 포함된 openshift-config 네임스페이스에 user-ca-bundle이라는 이름으로 구성 맵을 생성합니다. 그러면 CNO(Cluster Network Operator)에서 이러한 콘텐츠를 RHCOS(Red Hat Enterprise Linux CoreOS) 신뢰 번들과 병합하는 trusted-ca-bundle 구성 맵을 생성합니다. 이 구성 맵은 Proxy 오브젝트의 trustedCA 필드에서 참조됩니다. 프록시의 ID 인증서를 RHCOS 트러스트 번들에 있는 기관에서 서명하지 않은 경우 additionalTrustBundle 필드가 있어야 합니다.
5
선택 사항: trustedCA 필드에서 user-ca-bundle 구성 맵을 참조할 프록시 오브젝트의 구성을 결정하는 정책입니다. 허용되는 값은 Proxyonly 및 Always 입니다. http/https 프록시가 구성된 경우에만 user-ca-bundle 구성 맵을 참조하려면 Proxyonly 를 사용합니다. Always 를 사용하여 user-ca-bundle 구성 맵을 항상 참조합니다. 기본값은 Proxyonly 입니다.
참고
설치 프로그램에서 프록시 adinessEndpoints 필드를 지원하지 않습니다.
참고
설치 프로그램이 시간 초과되면 설치 프로그램의 wait-for 명령을 사용하여 배포를 다시 시작한 다음 완료합니다. 예를 들면 다음과 같습니다.
```
$ ./openshift-install wait-for install-complete --log-level debug
```
파일을 저장해 놓고 OpenShift Container Platform을 설치할 때 참조하십시오.

참고

cluster라는 Proxy 오브젝트만 지원되며 추가 프록시는 생성할 수 없습니다.

11.7.6. Kubernetes 매니페스트 및 Ignition 설정 파일 생성

설치 구성 파일은 Kubernetes 매니페스트로 변환됩니다. 매니페스트는 나중에 클러스터 머신을 구성하는 데 사용되는 Ignition 구성 파일로 래핑됩니다.

중요

OpenShift Container Platform 설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인 node-bootstrapper 인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오.
24 시간 인증서는 클러스터를 설치한 후 16시간에서 22시간으로 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.

사전 요구 사항

OpenShift Container Platform 설치 프로그램을 가져오셨습니다.
install-config.yaml 설치 구성 파일을 생성하셨습니다.

프로세스

OpenShift Container Platform 설치 프로그램이 포함된 디렉터리로 변경하고 클러스터에 대한 Kubernetes 매니페스트를 생성합니다.
```
$ ./openshift-install create manifests --dir <installation_directory> 1
```
1
<installation_directory>는 사용자가 만든 install-config.yaml 파일이 포함된 설치 디렉터리를 지정합니다.
컨트롤 플레인 시스템을 정의하는 Kubernetes 매니페스트 파일을 제거합니다.
```
$ rm -f <installation_directory>/openshift/99_openshift-cluster-api_master-machines-*.yaml
```
이러한 파일을 제거하면 클러스터가 컨트롤 플레인 시스템을 자동으로 생성하지 못합니다.

컨트롤 플레인 머신 세트를 정의하는 Kubernetes 매니페스트 파일을 제거합니다.

$ rm -f <installation_directory>/openshift/99_openshift-machine-api_master-control-plane-machine-set.yaml

작업자 시스템을 정의하는 Kubernetes 매니페스트 파일을 제거합니다.
```
$ rm -f <installation_directory>/openshift/99_openshift-cluster-api_worker-machineset-*.yaml
```
작업자 시스템은 사용자가 직접 생성하고 관리하기 때문에 초기화할 필요가 없습니다.
<installation_directory>/manifests/cluster-scheduler-02-config.yml Kubernetes 매니페스트 파일의 mastersSchedulable 매개변수가 false로 설정되어 있는지 확인합니다. 이 설정으로 인해 컨트롤 플레인 머신에서 포드가 예약되지 않습니다.
1. <installation_directory>/manifests/cluster-scheduler-02-config.yml 파일을 엽니다.
2. mastersSchedulable 매개변수를 찾아서 값을 False로 설정되어 있는지 확인합니다.
3. 파일을 저장하고 종료합니다.

<installation_directory>/manifests/cluster-dns-02-config.yml DNS 구성 파일에서 privateZone 섹션을 제거합니다.

apiVersion: config.openshift.io/v1
kind: DNS
metadata:
  creationTimestamp: null
  name: cluster
spec:
  baseDomain: example.openshift.com
  privateZone: 1
    id: mycluster-100419-private-zone
status: {}

1: 이 섹션을 완전히 제거합니다.

VPC에 대한 클라우드 공급자를 구성합니다.
1. <installation_directory>/manifests/cloud-provider-config.yaml 파일을 엽니다.
2. network-project-id 매개변수를 추가하고 공유 VPC 네트워크를 호스팅하는 프로젝트의 ID를 매개변수 값으로 설정합니다.
3. network-name 매개변수를 추가하고 OpenShift Container Platform 클러스터를 호스팅하는 공유 VPC 네트워크의 이름을 매개변수 값으로 설정합니다.
4. subnetwork-name 매개변수의 값을 컴퓨팅 시스템을 호스팅하는 공유 VPC 서브넷의 값으로 변경합니다.
<installation_directory>/manifests/cloud-provider-config.yaml의 내용은 다음 예와 유사합니다.
```
config: |+
  [global]
  project-id      = example-project
  regional        = true
  multizone       = true
  node-tags       = opensh-ptzzx-master
  node-tags       = opensh-ptzzx-worker
  node-instance-prefix = opensh-ptzzx
  external-instance-groups-prefix = opensh-ptzzx
  network-project-id = example-shared-vpc
  network-name    = example-network
  subnetwork-name = example-worker-subnet
```

프라이빗 네트워크에 없는 클러스터를 배포하는 경우 <installation_directory>/manifests/cluster-ingress-default-ingresscontroller.yaml 파일을 열고 scope 매개변수 값을 External로 변경합니다. 파일의 내용은 다음 예와 유사합니다.

apiVersion: operator.openshift.io/v1
kind: IngressController
metadata:
  creationTimestamp: null
  name: default
  namespace: openshift-ingress-operator
spec:
  endpointPublishingStrategy:
    loadBalancer:
      scope: External
    type: LoadBalancerService
status:
  availableReplicas: 0
  domain: ''
  selector: ''

Ignition 구성 파일을 생성하려면 설치 프로그램이 포함된 디렉터리에서 다음 명령을 실행합니다.
```
$ ./openshift-install create ignition-configs --dir <installation_directory> 1
```
1
<installation_directory>는 동일한 설치 디렉터리를 지정합니다.
설치 디렉터리의 부트스트랩, 컨트롤 플레인 및 컴퓨팅 노드에 대한 Ignition 구성 파일이 생성됩니다. kubeadmin-password 및 kubeconfig 파일은 ./<installation_directory>/auth 디렉터리에 생성됩니다.
```
.
├── auth
│   ├── kubeadmin-password
│   └── kubeconfig
├── bootstrap.ign
├── master.ign
├── metadata.json
└── worker.ign
```

11.8. 공통 변수 내보내기

11.8.1. 인프라 이름 추출

사전 요구 사항

OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿을 받으셨습니다.
클러스터에 대한 Ignition 구성 파일을 생성하셨습니다.
jq CLI를 설치하셨습니다.

프로세스

Ignition 구성 파일 메타데이터에서 인프라 이름을 추출하여 확인하려면 다음 명령을 실행하십시오.
```
$ jq -r .infraID <installation_directory>/metadata.json 1
```
1
<installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
출력 예
```
openshift-vw9j6 1
```
1
이 명령의 출력은 클러스터 이름과 임의의 문자열입니다.

11.8.2. Deployment Manager 템플릿의 공통 변수 내보내기

GCP(Google Cloud Platform)에서 사용자 제공 인프라 설치를 지원하기 위해 제공된 Deployment Manager 템플릿과 함께 사용되는 공통 변수 세트를 내보내야 합니다.

참고

특정 Deployment Manager 템플릿에는 추가적으로 내보낸 변수도 필요할 수 있습니다. 관련 프로시저에서 자세히 설명합니다.

사전 요구 사항

OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿을 받습니다.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
jq 패키지를 설치합니다.

프로세스

제공된 Deployment Manager 템플릿에서 사용할 다음 공통 변수를 내보냅니다.

$ export BASE_DOMAIN='<base_domain>' 1
$ export BASE_DOMAIN_ZONE_NAME='<base_domain_zone_name>' 2
$ export NETWORK_CIDR='10.0.0.0/16'

$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 3
$ export CLUSTER_NAME=`jq -r .clusterName <installation_directory>/metadata.json`
$ export INFRA_ID=`jq -r .infraID <installation_directory>/metadata.json`
$ export PROJECT_NAME=`jq -r .gcp.projectID <installation_directory>/metadata.json`

1 2: 호스트 프로젝트의 값을 제공합니다.
3: <installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.

11.9. 사용자 프로비저닝 인프라에 대한 네트워킹 요구사항

모든 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템이 부팅 중에 Ignition 구성 파일을 가져오려면 initramfs에 네트워킹을 구성해야 합니다.

11.9.1. DHCP를 통해 클러스터 노드의 호스트 이름 설정

또한 DHCP를 통해 호스트 이름을 설정하면 DNS 분할 수평 구현 환경에서 수동으로 DNS 레코드 이름 구성 오류를 무시할 수 있습니다.

11.9.2. 네트워크 연결 요구사항

이 섹션에서는 필요한 포트에 대해 자세히 설명합니다.

중요

표 11.7. 모든 시스템 간 통신에 사용되는 포트
프로토콜	포트	설명
ICMP	해당 없음	네트워크 연결성 테스트
TCP	`1936`	메트릭
	`9000`-`9999`	`9100`-`9101` 포트의 노드 내보내기 및 `9099` 포트의 Cluster Version Operator를 포함한 호스트 수준 서비스.
	`10250`-`10259`	Kubernetes에서 예약하는 기본 포트
UDP	`4789`	VXLAN
	`6081`	Geneve
	`9000`-`9999`	`9100`-`9101` 포트의 노드 내보내기를 포함한 호스트 수준 서비스.
	`500`	IPsec IKE 패킷
	`4500`	IPsec NAT-T 패킷
	`123`	UDP 포트 `123`의 NTP(Network Time Protocol) 외부 NTP 시간 서버가 구성된 경우 UDP 포트 `123` 을 열어야 합니다.
TCP/UDP	`30000`-`32767`	Kubernetes 노드 포트
ESP	해당 없음	IPsec Encapsulating Security Payload (ESP)

표 11.8. 모든 시스템과 컨트롤 플레인 간 통신에 사용되는 포트
프로토콜	포트	설명
TCP	`6443`	Kubernetes API

표 11.9. 컨트롤 플레인 머신 간 통신에 사용되는 포트
프로토콜	포트	설명
TCP	`2379`-`2380`	etcd 서버 및 피어 포트

11.10. GCP에서 로드 밸런서 생성

참고

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.

프로세스

이 항목의 내부 로드 밸런서에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 02_lb_int.py로 저장합니다. 이 템플릿에서 클러스터에 필요한 내부 로드 밸런싱 개체를 설명합니다.
외부 클러스터에 대해서도, 이 항목의 외부 로드 밸런서에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 02_lb_ext.py로 저장합니다. 이 템플릿에서 클러스터에 필요한 외부 로드 밸런싱 개체를 설명합니다.

배포 템플릿이 사용하는 변수를 내보냅니다.

클러스터 네트워크 위치를 내보냅니다.

$ export CLUSTER_NETWORK=(`gcloud compute networks describe ${HOST_PROJECT_NETWORK} --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT} --format json | jq -r .selfLink`)

컨트롤 플레인 서브넷 위치를 내보냅니다.

$ export CONTROL_SUBNET=(`gcloud compute networks subnets describe ${HOST_PROJECT_CONTROL_SUBNET} --region=${REGION} --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT} --format json | jq -r .selfLink`)

클러스터가 사용하는 세 영역을 내보냅니다.

$ export ZONE_0=(`gcloud compute regions describe ${REGION} --format=json | jq -r .zones[0] | cut -d "/" -f9`)

$ export ZONE_1=(`gcloud compute regions describe ${REGION} --format=json | jq -r .zones[1] | cut -d "/" -f9`)

$ export ZONE_2=(`gcloud compute regions describe ${REGION} --format=json | jq -r .zones[2] | cut -d "/" -f9`)

02_infra.yaml 리소스 정의 파일을 생성합니다.

$ cat <<EOF >02_infra.yaml
imports:
- path: 02_lb_ext.py
- path: 02_lb_int.py 1
resources:
- name: cluster-lb-ext 2
  type: 02_lb_ext.py
  properties:
    infra_id: '${INFRA_ID}' 3
    region: '${REGION}' 4
- name: cluster-lb-int
  type: 02_lb_int.py
  properties:
    cluster_network: '${CLUSTER_NETWORK}'
    control_subnet: '${CONTROL_SUBNET}' 5
    infra_id: '${INFRA_ID}'
    region: '${REGION}'
    zones: 6
    - '${ZONE_0}'
    - '${ZONE_1}'
    - '${ZONE_2}'
EOF

1 2: 외부 클러스터를 배포하는 경우에만 필요합니다.
3: infra_id는 추출 단계에서 가져온 INFRA_ID 인프라 이름입니다.
4: region은 클러스터를 배포할 영역입니다(예: us-central1).
5: control_subnet은 컨트롤 서브넷에 대한 URI입니다.
6: zones는 us-east1-b, us-east1-c 및 us-east1-d와 같이 컨트롤 플레인 인스턴스를 배포하는 영역입니다.

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create ${INFRA_ID}-infra --config 02_infra.yaml

클러스터 IP 주소를 내보냅니다.

$ export CLUSTER_IP=(`gcloud compute addresses describe ${INFRA_ID}-cluster-ip --region=${REGION} --format json | jq -r .address`)

외부 클러스터의 경우 클러스터 공용 IP 주소도 내보냅니다.

$ export CLUSTER_PUBLIC_IP=(`gcloud compute addresses describe ${INFRA_ID}-cluster-public-ip --region=${REGION} --format json | jq -r .address`)

11.10.1. 외부 로드 밸런서에 대한 Deployment Manager 템플릿

다음 Deployment Manager 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 외부 로드 밸런서를 배포할 수 있습니다.

예 11.3. 02_lb_ext.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-cluster-public-ip',
        'type': 'compute.v1.address',
        'properties': {
            'region': context.properties['region']
        }
    }, {
        # Refer to docs/dev/kube-apiserver-health-check.md on how to correctly setup health check probe for kube-apiserver
        'name': context.properties['infra_id'] + '-api-http-health-check',
        'type': 'compute.v1.httpHealthCheck',
        'properties': {
            'port': 6080,
            'requestPath': '/readyz'
        }
    }, {
        'name': context.properties['infra_id'] + '-api-target-pool',
        'type': 'compute.v1.targetPool',
        'properties': {
            'region': context.properties['region'],
            'healthChecks': ['$(ref.' + context.properties['infra_id'] + '-api-http-health-check.selfLink)'],
            'instances': []
        }
    }, {
        'name': context.properties['infra_id'] + '-api-forwarding-rule',
        'type': 'compute.v1.forwardingRule',
        'properties': {
            'region': context.properties['region'],
            'IPAddress': '$(ref.' + context.properties['infra_id'] + '-cluster-public-ip.selfLink)',
            'target': '$(ref.' + context.properties['infra_id'] + '-api-target-pool.selfLink)',
            'portRange': '6443'
        }
    }]

    return {'resources': resources}

11.10.2. 내부 로드 밸런서에 대한 Deployment Manager 템플릿

다음 Deployment Manager 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 내부 로드 밸런서를 배포할 수 있습니다.

예 11.4. 02_lb_int.py Deployment Manager 템플릿

def GenerateConfig(context):

    backends = []
    for zone in context.properties['zones']:
        backends.append({
            'group': '$(ref.' + context.properties['infra_id'] + '-master-' + zone + '-ig' + '.selfLink)'
        })

    resources = [{
        'name': context.properties['infra_id'] + '-cluster-ip',
        'type': 'compute.v1.address',
        'properties': {
            'addressType': 'INTERNAL',
            'region': context.properties['region'],
            'subnetwork': context.properties['control_subnet']
        }
    }, {
        # Refer to docs/dev/kube-apiserver-health-check.md on how to correctly setup health check probe for kube-apiserver
        'name': context.properties['infra_id'] + '-api-internal-health-check',
        'type': 'compute.v1.healthCheck',
        'properties': {
            'httpsHealthCheck': {
                'port': 6443,
                'requestPath': '/readyz'
            },
            'type': "HTTPS"
        }
    }, {
        'name': context.properties['infra_id'] + '-api-internal',
        'type': 'compute.v1.regionBackendService',
        'properties': {
            'backends': backends,
            'healthChecks': ['$(ref.' + context.properties['infra_id'] + '-api-internal-health-check.selfLink)'],
            'loadBalancingScheme': 'INTERNAL',
            'region': context.properties['region'],
            'protocol': 'TCP',
            'timeoutSec': 120
        }
    }, {
        'name': context.properties['infra_id'] + '-api-internal-forwarding-rule',
        'type': 'compute.v1.forwardingRule',
        'properties': {
            'backendService': '$(ref.' + context.properties['infra_id'] + '-api-internal.selfLink)',
            'IPAddress': '$(ref.' + context.properties['infra_id'] + '-cluster-ip.selfLink)',
            'loadBalancingScheme': 'INTERNAL',
            'ports': ['6443','22623'],
            'region': context.properties['region'],
            'subnetwork': context.properties['control_subnet']
        }
    }]

    for zone in context.properties['zones']:
        resources.append({
            'name': context.properties['infra_id'] + '-master-' + zone + '-ig',
            'type': 'compute.v1.instanceGroup',
            'properties': {
                'namedPorts': [
                    {
                        'name': 'ignition',
                        'port': 22623
                    }, {
                        'name': 'https',
                        'port': 6443
                    }
                ],
                'network': context.properties['cluster_network'],
                'zone': zone
            }
        })

    return {'resources': resources}

외부 클러스터를 생성할 때 02_lb_ext.py 템플릿 외에도 이 템플릿이 필요합니다.

11.11. GCP에서 프라이빗 DNS 영역 생성

참고

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.

프로세스

이 항목의 프라이빗 DNS에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 02_dns.py로 저장합니다. 이 템플릿에서 클러스터에 필요한 프라이빗 DNS 개체를 설명합니다.
02_dns.yaml 리소스 정의 파일을 생성합니다.
```
$ cat <<EOF >02_dns.yaml
imports:
- path: 02_dns.py

resources:
- name: cluster-dns
  type: 02_dns.py
  properties:
    infra_id: '${INFRA_ID}' 1
    cluster_domain: '${CLUSTER_NAME}.${BASE_DOMAIN}' 2
    cluster_network: '${CLUSTER_NETWORK}' 3
EOF
```
1
infra_id는 추출 단계에서 가져온 INFRA_ID 인프라 이름입니다.
2
cluster_domain은 클러스터의 도메인입니다(예: openshift.example.com).
3
cluster_network는 클러스터 네트워크에 대한 selfLink URL입니다.

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create ${INFRA_ID}-dns --config 02_dns.yaml --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT}

Deployment Manager의 제한으로 인해 템플릿을 통해 DNS 항목이 생성되지 않으므로 수동으로 생성해야 합니다.

내부 DNS 항목을 추가합니다.

$ if [ -f transaction.yaml ]; then rm transaction.yaml; fi
$ gcloud dns record-sets transaction start --zone ${INFRA_ID}-private-zone --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT}
$ gcloud dns record-sets transaction add ${CLUSTER_IP} --name api.${CLUSTER_NAME}.${BASE_DOMAIN}. --ttl 60 --type A --zone ${INFRA_ID}-private-zone --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT}
$ gcloud dns record-sets transaction add ${CLUSTER_IP} --name api-int.${CLUSTER_NAME}.${BASE_DOMAIN}. --ttl 60 --type A --zone ${INFRA_ID}-private-zone --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT}
$ gcloud dns record-sets transaction execute --zone ${INFRA_ID}-private-zone --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT}

외부 클러스터의 경우 외부 DNS 항목도 추가합니다.

$ if [ -f transaction.yaml ]; then rm transaction.yaml; fi
$ gcloud --account=${HOST_PROJECT_ACCOUNT} --project=${HOST_PROJECT} dns record-sets transaction start --zone ${BASE_DOMAIN_ZONE_NAME}
$ gcloud --account=${HOST_PROJECT_ACCOUNT} --project=${HOST_PROJECT} dns record-sets transaction add ${CLUSTER_PUBLIC_IP} --name api.${CLUSTER_NAME}.${BASE_DOMAIN}. --ttl 60 --type A --zone ${BASE_DOMAIN_ZONE_NAME}
$ gcloud --account=${HOST_PROJECT_ACCOUNT} --project=${HOST_PROJECT} dns record-sets transaction execute --zone ${BASE_DOMAIN_ZONE_NAME}

11.11.1. 프라이빗 DNS에 대한 Deployment Manager 템플릿

다음 Deployment Manager 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 프라이빗 DNS를 배포할 수 있습니다.

예 11.5. 02_dns.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-private-zone',
        'type': 'dns.v1.managedZone',
        'properties': {
            'description': '',
            'dnsName': context.properties['cluster_domain'] + '.',
            'visibility': 'private',
            'privateVisibilityConfig': {
                'networks': [{
                    'networkUrl': context.properties['cluster_network']
                }]
            }
        }
    }]

    return {'resources': resources}

11.12. GCP에서 방화벽 규칙 생성

참고

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.

프로세스

이 항목의 방화벽 규칙에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 03_firewall.py로 저장합니다. 이 템플릿에서 클러스터에 필요한 보안 그룹을 설명합니다.
03_firewall.yaml 리소스 정의 파일을 생성합니다.
```
$ cat <<EOF >03_firewall.yaml
imports:
- path: 03_firewall.py

resources:
- name: cluster-firewall
  type: 03_firewall.py
  properties:
    allowed_external_cidr: '0.0.0.0/0' 1
    infra_id: '${INFRA_ID}' 2
    cluster_network: '${CLUSTER_NETWORK}' 3
    network_cidr: '${NETWORK_CIDR}' 4
EOF
```
1
allowed_external_cidr은 부트스트랩 호스트에 클러스터 API 및 SSH 액세스가 가능한 CIDR 범위입니다. 내부 클러스터의 경우 이 값을 ${NETWORK_CIDR}로 설정합니다.
2
infra_id는 추출 단계에서 가져온 INFRA_ID 인프라 이름입니다.
3
cluster_network는 클러스터 네트워크에 대한 selfLink URL입니다.
4
network_cidr은 VPC 네트워크의 CIDR입니다(예: 10.0.0.0/16).

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create ${INFRA_ID}-firewall --config 03_firewall.yaml --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT}

11.12.1. 방화벽 규칙에 대한 Deployment Manager 템플릿

다음 Deployment Manager 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 방화벽 규칙을 배포할 수 있습니다.

예 11.6. 03_firewall.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-bootstrap-in-ssh',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'tcp',
                'ports': ['22']
            }],
            'sourceRanges': [context.properties['allowed_external_cidr']],
            'targetTags': [context.properties['infra_id'] + '-bootstrap']
        }
    }, {
        'name': context.properties['infra_id'] + '-api',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'tcp',
                'ports': ['6443']
            }],
            'sourceRanges': [context.properties['allowed_external_cidr']],
            'targetTags': [context.properties['infra_id'] + '-master']
        }
    }, {
        'name': context.properties['infra_id'] + '-health-checks',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'tcp',
                'ports': ['6080', '6443', '22624']
            }],
            'sourceRanges': ['35.191.0.0/16', '130.211.0.0/22', '209.85.152.0/22', '209.85.204.0/22'],
            'targetTags': [context.properties['infra_id'] + '-master']
        }
    }, {
        'name': context.properties['infra_id'] + '-etcd',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'tcp',
                'ports': ['2379-2380']
            }],
            'sourceTags': [context.properties['infra_id'] + '-master'],
            'targetTags': [context.properties['infra_id'] + '-master']
        }
    }, {
        'name': context.properties['infra_id'] + '-control-plane',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'tcp',
                'ports': ['10257']
            },{
                'IPProtocol': 'tcp',
                'ports': ['10259']
            },{
                'IPProtocol': 'tcp',
                'ports': ['22623']
            }],
            'sourceTags': [
                context.properties['infra_id'] + '-master',
                context.properties['infra_id'] + '-worker'
            ],
            'targetTags': [context.properties['infra_id'] + '-master']
        }
    }, {
        'name': context.properties['infra_id'] + '-internal-network',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'icmp'
            },{
                'IPProtocol': 'tcp',
                'ports': ['22']
            }],
            'sourceRanges': [context.properties['network_cidr']],
            'targetTags': [
                context.properties['infra_id'] + '-master',
                context.properties['infra_id'] + '-worker'
            ]
        }
    }, {
        'name': context.properties['infra_id'] + '-internal-cluster',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'udp',
                'ports': ['4789', '6081']
            },{
                'IPProtocol': 'udp',
                'ports': ['500', '4500']
            },{
                'IPProtocol': 'esp',
            },{
                'IPProtocol': 'tcp',
                'ports': ['9000-9999']
            },{
                'IPProtocol': 'udp',
                'ports': ['9000-9999']
            },{
                'IPProtocol': 'tcp',
                'ports': ['10250']
            },{
                'IPProtocol': 'tcp',
                'ports': ['30000-32767']
            },{
                'IPProtocol': 'udp',
                'ports': ['30000-32767']
            }],
            'sourceTags': [
                context.properties['infra_id'] + '-master',
                context.properties['infra_id'] + '-worker'
            ],
            'targetTags': [
                context.properties['infra_id'] + '-master',
                context.properties['infra_id'] + '-worker'
            ]
        }
    }]

    return {'resources': resources}

11.13. GCP에서 IAM 역할 생성

참고

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.

프로세스

이 항목의 IAM 역할에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 03_iam.py로 저장합니다. 이 템플릿에서 클러스터에 필요한 IAM 역할을 설명합니다.

03_iam.yaml 리소스 정의 파일을 생성합니다.

$ cat <<EOF >03_iam.yaml
imports:
- path: 03_iam.py
resources:
- name: cluster-iam
  type: 03_iam.py
  properties:
    infra_id: '${INFRA_ID}' 1
EOF

1: infra_id는 추출 단계에서 가져온 INFRA_ID 인프라 이름입니다.

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create ${INFRA_ID}-iam --config 03_iam.yaml

마스터 서비스 계정에 대한 변수를 내보냅니다.

$ export MASTER_SERVICE_ACCOUNT=(`gcloud iam service-accounts list --filter "email~^${INFRA_ID}-m@${PROJECT_NAME}." --format json | jq -r '.[0].email'`)

작업자 서비스 계정에 대한 변수를 내보냅니다.

$ export WORKER_SERVICE_ACCOUNT=(`gcloud iam service-accounts list --filter "email~^${INFRA_ID}-w@${PROJECT_NAME}." --format json | jq -r '.[0].email'`)

설치 프로그램에서 컨트롤 플레인 및 컴퓨팅 서브넷을 호스팅하는 서브넷의 서비스 계정에 필요로 하는 권한을 할당합니다.

공유 VPC를 호스팅하는 프로젝트의 networkViewer 역할을 마스터 서비스 계정에 부여합니다.

$ gcloud --account=${HOST_PROJECT_ACCOUNT} --project=${HOST_PROJECT} projects add-iam-policy-binding ${HOST_PROJECT} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/compute.networkViewer"

컨트롤 플레인 서브넷의 마스터 서비스 계정에 networkUser 역할을 부여합니다.

$ gcloud --account=${HOST_PROJECT_ACCOUNT} --project=${HOST_PROJECT} compute networks subnets add-iam-policy-binding "${HOST_PROJECT_CONTROL_SUBNET}" --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/compute.networkUser" --region ${REGION}

컨트롤 플레인 서브넷의 작업자 서비스 계정에 networkUser 역할을 부여합니다.

$ gcloud --account=${HOST_PROJECT_ACCOUNT} --project=${HOST_PROJECT} compute networks subnets add-iam-policy-binding "${HOST_PROJECT_CONTROL_SUBNET}" --member "serviceAccount:${WORKER_SERVICE_ACCOUNT}" --role "roles/compute.networkUser" --region ${REGION}

컴퓨팅 서브넷의 마스터 서비스 계정에 networkUser 역할을 부여합니다.

$ gcloud --account=${HOST_PROJECT_ACCOUNT} --project=${HOST_PROJECT} compute networks subnets add-iam-policy-binding "${HOST_PROJECT_COMPUTE_SUBNET}" --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/compute.networkUser" --region ${REGION}

컴퓨팅 서브넷의 작업자 서비스 계정에 networkUser 역할을 부여합니다.

$ gcloud --account=${HOST_PROJECT_ACCOUNT} --project=${HOST_PROJECT} compute networks subnets add-iam-policy-binding "${HOST_PROJECT_COMPUTE_SUBNET}" --member "serviceAccount:${WORKER_SERVICE_ACCOUNT}" --role "roles/compute.networkUser" --region ${REGION}

Deployment Manager의 제한으로 인해 템플릿을 통해 정책 바인딩이 생성되지 않으므로 수동으로 생성해야 합니다.

$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/compute.instanceAdmin"
$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/compute.networkAdmin"
$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/compute.securityAdmin"
$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/iam.serviceAccountUser"
$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/storage.admin"

$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${WORKER_SERVICE_ACCOUNT}" --role "roles/compute.viewer"
$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${WORKER_SERVICE_ACCOUNT}" --role "roles/storage.admin"

서비스 계정 키를 생성하여 나중에 사용할 수 있도록 로컬로 저장합니다.

$ gcloud iam service-accounts keys create service-account-key.json --iam-account=${MASTER_SERVICE_ACCOUNT}

11.13.1. IAM 역할에 대한 Deployment Manager 템플릿

다음 Deployment Manager 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 IAM 역할을 배포할 수 있습니다.

예 11.7. 03_iam.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-master-node-sa',
        'type': 'iam.v1.serviceAccount',
        'properties': {
            'accountId': context.properties['infra_id'] + '-m',
            'displayName': context.properties['infra_id'] + '-master-node'
        }
    }, {
        'name': context.properties['infra_id'] + '-worker-node-sa',
        'type': 'iam.v1.serviceAccount',
        'properties': {
            'accountId': context.properties['infra_id'] + '-w',
            'displayName': context.properties['infra_id'] + '-worker-node'
        }
    }]

    return {'resources': resources}

11.14. GCP 인프라용 RHCOS 클러스터 이미지 생성

OpenShift Container Platform 노드에 유효한 GCP(Google Cloud Platform)용 RHCOS(Red Hat Enterprise Linux CoreOS) 이미지를 사용해야 합니다.

프로세스

RHCOS 이미지 미러 페이지에서 RHCOS 이미지를 가져옵니다.
중요
RHCOS 이미지는 OpenShift Container Platform 릴리스에 따라 변경되지 않을 수 있습니다. 설치하는 OpenShift Container Platform 버전과 같거나 그 이하의 버전 중 가장 최신 버전의 이미지를 다운로드해야 합니다. 지원되는 경우 OpenShift Container Platform 버전과 일치하는 이미지 버전을 사용합니다.
rhcos-<version>-<arch>-gcp.<arch>.tar.gz 형식의 OpenShift Container Platform 버전 번호가 파일 이름에 포함되어 있습니다.
Google 스토리지 버킷을 생성합니다.
```
$ gsutil mb gs://<bucket_name>
```

RHCOS 이미지를 Google 스토리지 버킷에 업로드합니다.

$ gsutil cp <downloaded_image_file_path>/rhcos-<version>-x86_64-gcp.x86_64.tar.gz  gs://<bucket_name>

업로드된 RHCOS 이미지 위치를 변수로 내보냅니다.

$ export IMAGE_SOURCE=gs://<bucket_name>/rhcos-<version>-x86_64-gcp.x86_64.tar.gz

클러스터 이미지를 생성합니다.

$ gcloud compute images create "${INFRA_ID}-rhcos-image" \
    --source-uri="${IMAGE_SOURCE}"

11.15. GCP에서 부트스트랩 시스템 생성

참고

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.
GCP에서 네트워킹 및 로드 밸랜서를 생성하고 구성하십시오.
컨트롤 플레인 및 컴퓨팅 역할을 생성합니다.
pyOpenSSL이 설치되어 있는지 확인하십시오.

프로세스

이 항목의 부트스트랩 시스템에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 04_bootstrap.py로 저장합니다. 이 템플릿은 클러스터에 필요한 부트스트랩 시스템을 설명합니다.

설치 프로그램에 필요한 RHCOS(Red Hat Enterprise Linux CoreOS) 이미지의 위치를 내보냅니다.

$ export CLUSTER_IMAGE=(`gcloud compute images describe ${INFRA_ID}-rhcos-image --format json | jq -r .selfLink`)

버킷을 생성하고 bootstrap.ign 파일을 업로드합니다.

$ gsutil mb gs://${INFRA_ID}-bootstrap-ignition

$ gsutil cp <installation_directory>/bootstrap.ign gs://${INFRA_ID}-bootstrap-ignition/

Ignition 구성 파일에 액세스하는 데 사용할 부트스트랩 인스턴스에 대한 서명된 URL을 생성합니다. 출력에서 URL을 변수로 내보냅니다.
```
$ export BOOTSTRAP_IGN=`gsutil signurl -d 1h service-account-key.json gs://${INFRA_ID}-bootstrap-ignition/bootstrap.ign | grep "^gs:" | awk '{print $5}'`
```
04_bootstrap.yaml 리소스 정의 파일을 생성합니다.
```
$ cat <<EOF >04_bootstrap.yaml
imports:
- path: 04_bootstrap.py

resources:
- name: cluster-bootstrap
  type: 04_bootstrap.py
  properties:
    infra_id: '${INFRA_ID}' 1
    region: '${REGION}' 2
    zone: '${ZONE_0}' 3

    cluster_network: '${CLUSTER_NETWORK}' 4
    control_subnet: '${CONTROL_SUBNET}' 5
    image: '${CLUSTER_IMAGE}' 6
    machine_type: 'n1-standard-4' 7
    root_volume_size: '128' 8

    bootstrap_ign: '${BOOTSTRAP_IGN}' 9
EOF
```
1
infra_id는 추출 단계에서 가져온 INFRA_ID 인프라 이름입니다.
2
region은 클러스터를 배포할 영역입니다(예: us-central1).
3
zone은 부트스트랩 인스턴스를 배포할 영역입니다(예: us-central1-b).
4
cluster_network는 클러스터 네트워크에 대한 selfLink URL입니다.
5
control_subnet은 컨트롤 서브넷에 대한 selfLink URL입니다.
6
image는 RHCOS 이미지에 대한 selfLink URL입니다.
7
machine_type은 인스턴스의 시스템 유형입니다(예: n1-standard-4).
8
root_volume_size는 부트스트랩 시스템의 부팅 디스크 크기입니다.
9
bootstrap_ign은 서명된 URL을 생성할 때 출력되는 URL입니다.

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create ${INFRA_ID}-bootstrap --config 04_bootstrap.yaml

내부 로드 밸런서 인스턴스 그룹에 부트스트랩 인스턴스를 추가합니다.

$ gcloud compute instance-groups unmanaged add-instances ${INFRA_ID}-bootstrap-ig --zone=${ZONE_0} --instances=${INFRA_ID}-bootstrap

내부 로드 밸런서 백엔드 서비스에 부트스트랩 인스턴스 그룹을 추가합니다.

$ gcloud compute backend-services add-backend ${INFRA_ID}-api-internal --region=${REGION} --instance-group=${INFRA_ID}-bootstrap-ig --instance-group-zone=${ZONE_0}

11.15.1. 부트스트랩 시스템에 대한 Deployment Manager 템플릿

다음 Deployment Mananger 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 부트스트랩 시스템을 배포할 수 있습니다.

예 11.8. 04_bootstrap.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-bootstrap-public-ip',
        'type': 'compute.v1.address',
        'properties': {
            'region': context.properties['region']
        }
    }, {
        'name': context.properties['infra_id'] + '-bootstrap',
        'type': 'compute.v1.instance',
        'properties': {
            'disks': [{
                'autoDelete': True,
                'boot': True,
                'initializeParams': {
                    'diskSizeGb': context.properties['root_volume_size'],
                    'sourceImage': context.properties['image']
                }
            }],
            'machineType': 'zones/' + context.properties['zone'] + '/machineTypes/' + context.properties['machine_type'],
            'metadata': {
                'items': [{
                    'key': 'user-data',
                    'value': '{"ignition":{"config":{"replace":{"source":"' + context.properties['bootstrap_ign'] + '"}},"version":"3.2.0"}}',
                }]
            },
            'networkInterfaces': [{
                'subnetwork': context.properties['control_subnet'],
                'accessConfigs': [{
                    'natIP': '$(ref.' + context.properties['infra_id'] + '-bootstrap-public-ip.address)'
                }]
            }],
            'tags': {
                'items': [
                    context.properties['infra_id'] + '-master',
                    context.properties['infra_id'] + '-bootstrap'
                ]
            },
            'zone': context.properties['zone']
        }
    }, {
        'name': context.properties['infra_id'] + '-bootstrap-ig',
        'type': 'compute.v1.instanceGroup',
        'properties': {
            'namedPorts': [
                {
                    'name': 'ignition',
                    'port': 22623
                }, {
                    'name': 'https',
                    'port': 6443
                }
            ],
            'network': context.properties['cluster_network'],
            'zone': context.properties['zone']
        }
    }]

    return {'resources': resources}

11.16. GCP에 컨트롤 플레인 시스템 생성

참고

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.
GCP에서 네트워킹 및 로드 밸랜서를 생성하고 구성하십시오.
컨트롤 플레인 및 컴퓨팅 역할을 생성합니다.
부트스트랩 시스템을 생성합니다.

프로세스

이 항목의 컨트롤 플레인 시스템에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 05_control_plane.py로 저장합니다. 이 템플릿은 클러스터에 필요한 컨트롤 플레인 시스템을 설명합니다.

리소스 정의에 필요한 다음 변수를 내보냅니다.

$ export MASTER_IGNITION=`cat <installation_directory>/master.ign`

05_control_plane.yaml 리소스 정의 파일을 생성합니다.
```
$ cat <<EOF >05_control_plane.yaml
imports:
- path: 05_control_plane.py

resources:
- name: cluster-control-plane
  type: 05_control_plane.py
  properties:
    infra_id: '${INFRA_ID}' 1
    zones: 2
    - '${ZONE_0}'
    - '${ZONE_1}'
    - '${ZONE_2}'

    control_subnet: '${CONTROL_SUBNET}' 3
    image: '${CLUSTER_IMAGE}' 4
    machine_type: 'n1-standard-4' 5
    root_volume_size: '128'
    service_account_email: '${MASTER_SERVICE_ACCOUNT}' 6

    ignition: '${MASTER_IGNITION}' 7
EOF
```
1
infra_id는 추출 단계에서 가져온 INFRA_ID 인프라 이름입니다.
2
zones은 컨트롤 플레인 인스턴스를 배포할 영역입니다(예: us-central1-a, us-central1-b, us-central1-c).
3
control_subnet은 컨트롤 서브넷에 대한 selfLink URL입니다.
4
image는 RHCOS 이미지에 대한 selfLink URL입니다.
5
machine_type은 인스턴스의 시스템 유형입니다(예: n1-standard-4).
6
service_account_email은 사용자가 생성한 마스터 서비스 계정의 이메일 주소입니다.
7
ignition은 master.ign 파일의 내용입니다.

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create ${INFRA_ID}-control-plane --config 05_control_plane.yaml

Deployment Manager의 제한으로 인해 템플릿을 통해 로드 밸랜서 멤버십이 관리되지 않으므로 수동으로 컨트롤 플레인 시스템을 추가해야 합니다.

다음 명령을 실행하여 적절한 인스턴스 그룹에 컨트롤 플레인 머신을 추가합니다.

$ gcloud compute instance-groups unmanaged add-instances ${INFRA_ID}-master-${ZONE_0}-ig --zone=${ZONE_0} --instances=${INFRA_ID}-master-0

$ gcloud compute instance-groups unmanaged add-instances ${INFRA_ID}-master-${ZONE_1}-ig --zone=${ZONE_1} --instances=${INFRA_ID}-master-1

$ gcloud compute instance-groups unmanaged add-instances ${INFRA_ID}-master-${ZONE_2}-ig --zone=${ZONE_2} --instances=${INFRA_ID}-master-2

외부 클러스터의 경우 다음 명령을 실행하여 대상 풀에 컨트롤 플레인 머신을 추가해야 합니다.

$ gcloud compute target-pools add-instances ${INFRA_ID}-api-target-pool --instances-zone="${ZONE_0}" --instances=${INFRA_ID}-master-0

$ gcloud compute target-pools add-instances ${INFRA_ID}-api-target-pool --instances-zone="${ZONE_1}" --instances=${INFRA_ID}-master-1

$ gcloud compute target-pools add-instances ${INFRA_ID}-api-target-pool --instances-zone="${ZONE_2}" --instances=${INFRA_ID}-master-2

11.16.1. 컨트롤 플레인 시스템에 대한 Deployment Manager 템플릿

다음 Deployment Mananger 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 컨트롤 플레인 시스템을 배포할 수 있습니다.

예 11.9. 05_control_plane.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-master-0',
        'type': 'compute.v1.instance',
        'properties': {
            'disks': [{
                'autoDelete': True,
                'boot': True,
                'initializeParams': {
                    'diskSizeGb': context.properties['root_volume_size'],
                    'diskType': 'zones/' + context.properties['zones'][0] + '/diskTypes/pd-ssd',
                    'sourceImage': context.properties['image']
                }
            }],
            'machineType': 'zones/' + context.properties['zones'][0] + '/machineTypes/' + context.properties['machine_type'],
            'metadata': {
                'items': [{
                    'key': 'user-data',
                    'value': context.properties['ignition']
                }]
            },
            'networkInterfaces': [{
                'subnetwork': context.properties['control_subnet']
            }],
            'serviceAccounts': [{
                'email': context.properties['service_account_email'],
                'scopes': ['https://www.googleapis.com/auth/cloud-platform']
            }],
            'tags': {
                'items': [
                    context.properties['infra_id'] + '-master',
                ]
            },
            'zone': context.properties['zones'][0]
        }
    }, {
        'name': context.properties['infra_id'] + '-master-1',
        'type': 'compute.v1.instance',
        'properties': {
            'disks': [{
                'autoDelete': True,
                'boot': True,
                'initializeParams': {
                    'diskSizeGb': context.properties['root_volume_size'],
                    'diskType': 'zones/' + context.properties['zones'][1] + '/diskTypes/pd-ssd',
                    'sourceImage': context.properties['image']
                }
            }],
            'machineType': 'zones/' + context.properties['zones'][1] + '/machineTypes/' + context.properties['machine_type'],
            'metadata': {
                'items': [{
                    'key': 'user-data',
                    'value': context.properties['ignition']
                }]
            },
            'networkInterfaces': [{
                'subnetwork': context.properties['control_subnet']
            }],
            'serviceAccounts': [{
                'email': context.properties['service_account_email'],
                'scopes': ['https://www.googleapis.com/auth/cloud-platform']
            }],
            'tags': {
                'items': [
                    context.properties['infra_id'] + '-master',
                ]
            },
            'zone': context.properties['zones'][1]
        }
    }, {
        'name': context.properties['infra_id'] + '-master-2',
        'type': 'compute.v1.instance',
        'properties': {
            'disks': [{
                'autoDelete': True,
                'boot': True,
                'initializeParams': {
                    'diskSizeGb': context.properties['root_volume_size'],
                    'diskType': 'zones/' + context.properties['zones'][2] + '/diskTypes/pd-ssd',
                    'sourceImage': context.properties['image']
                }
            }],
            'machineType': 'zones/' + context.properties['zones'][2] + '/machineTypes/' + context.properties['machine_type'],
            'metadata': {
                'items': [{
                    'key': 'user-data',
                    'value': context.properties['ignition']
                }]
            },
            'networkInterfaces': [{
                'subnetwork': context.properties['control_subnet']
            }],
            'serviceAccounts': [{
                'email': context.properties['service_account_email'],
                'scopes': ['https://www.googleapis.com/auth/cloud-platform']
            }],
            'tags': {
                'items': [
                    context.properties['infra_id'] + '-master',
                ]
            },
            'zone': context.properties['zones'][2]
        }
    }]

    return {'resources': resources}

11.17. 부트스트랩이 완료되길 기다렸다가 GCP에서 부트스트랩 리소스를 제거합니다.

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.
GCP에서 네트워킹 및 로드 밸랜서를 생성하고 구성하십시오.
컨트롤 플레인 및 컴퓨팅 역할을 생성합니다.
부트스트랩 시스템을 생성합니다.
컨트롤 플레인 시스템을 생성합니다.

프로세스

설치 프로그램이 포함된 디렉터리로 변경하고 다음 명령을 실행합니다.
```
$ ./openshift-install wait-for bootstrap-complete --dir <installation_directory> \ 1
    --log-level info 2
```
1
<installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
2
다른 설치 세부 사항을 보려면 info 대신 warn, debug 또는 error를 지정합니다.
FATAL 경고 없이 명령이 종료되면 프로덕션 컨트롤 플레인이 초기화된 것입니다.

부트스트랩 리소스를 삭제합니다.

$ gcloud compute backend-services remove-backend ${INFRA_ID}-api-internal --region=${REGION} --instance-group=${INFRA_ID}-bootstrap-ig --instance-group-zone=${ZONE_0}

$ gsutil rm gs://${INFRA_ID}-bootstrap-ignition/bootstrap.ign

$ gsutil rb gs://${INFRA_ID}-bootstrap-ignition

$ gcloud deployment-manager deployments delete ${INFRA_ID}-bootstrap

11.18. GCP에 추가 작업자 시스템 생성

참고

사전 요구 사항

GCP 계정을 구성하십시오.
클러스터에 대한 Ignition 구성 파일을 생성하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.
GCP에서 네트워킹 및 로드 밸랜서를 생성하고 구성하십시오.
컨트롤 플레인 및 컴퓨팅 역할을 생성합니다.
부트스트랩 시스템을 생성합니다.
컨트롤 플레인 시스템을 생성합니다.

프로세스

이 항목의 작업자 시스템에 대한 Deployment Manager 템플릿 섹션에서 템플릿을 복사하여 사용자 컴퓨터에 06_worker.py로 저장합니다. 이 템플릿에서 클러스터에 필요한 작업자 시스템을 설명합니다.

리소스 정의가 사용하는 변수를 내보냅니다.

컴퓨팅 시스템을 호스팅하는 서브넷을 내보냅니다.

$ export COMPUTE_SUBNET=(`gcloud compute networks subnets describe ${HOST_PROJECT_COMPUTE_SUBNET} --region=${REGION} --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT} --format json | jq -r .selfLink`)

서비스 계정의 이메일 주소를 내보냅니다.

$ export WORKER_SERVICE_ACCOUNT=(`gcloud iam service-accounts list --filter "email~^${INFRA_ID}-w@${PROJECT_NAME}." --format json | jq -r '.[0].email'`)

컴퓨팅 시스템 Ignition 구성 파일의 위치를 내보냅니다.
```
$ export WORKER_IGNITION=`cat <installation_directory>/worker.ign`
```

06_worker.yaml 리소스 정의 파일을 생성합니다.

$ cat <<EOF >06_worker.yaml
imports:
- path: 06_worker.py

resources:
- name: 'worker-0' 1
  type: 06_worker.py
  properties:
    infra_id: '${INFRA_ID}' 2
    zone: '${ZONE_0}' 3
    compute_subnet: '${COMPUTE_SUBNET}' 4
    image: '${CLUSTER_IMAGE}' 5
    machine_type: 'n1-standard-4' 6
    root_volume_size: '128'
    service_account_email: '${WORKER_SERVICE_ACCOUNT}' 7
    ignition: '${WORKER_IGNITION}' 8
- name: 'worker-1'
  type: 06_worker.py
  properties:
    infra_id: '${INFRA_ID}' 9
    zone: '${ZONE_1}' 10
    compute_subnet: '${COMPUTE_SUBNET}' 11
    image: '${CLUSTER_IMAGE}' 12
    machine_type: 'n1-standard-4' 13
    root_volume_size: '128'
    service_account_email: '${WORKER_SERVICE_ACCOUNT}' 14
    ignition: '${WORKER_IGNITION}' 15
EOF

1: name은 작업자 머신의 이름입니다(예: worker-0).
2 9: infra_id는 추출 단계에서 가져온 INFRA_ID 인프라 이름입니다.
3 10: zone은 작업자 시스템을 배포할 영역입니다(예: us-central1-a).
4 11: compute_subnet은 컴퓨팅 서브넷에 대한 selfLink URL입니다.
5 12: image는 RHCOS 이미지에 대한 selfLink URL입니다. ¹
6 13: machine_type은 인스턴스의 시스템 유형입니다(예: n1-standard-4).
7 14: service_account_email은 사용자가 생성한 작업자 서비스 계정의 이메일 주소입니다.
8 15: ignition은 worker.ign 파일의 내용입니다.

선택사항: 추가 인스턴스를 시작하려면 06_worker.yaml 리소스 정의 파일에 06_worker.py 형식의 추가 리소스를 포함시키십시오.

gcloud CLI를 사용하여 배포를 생성합니다.

$ gcloud deployment-manager deployments create ${INFRA_ID}-worker --config 06_worker.yaml

GCP Marketplace 이미지를 사용하려면 사용할 제안을 지정합니다.
- OpenShift Container Platform: https://www.googleapis.com/compute/v1/projects/redhat-marketplace-public/global/images/redhat-coreos-ocp-413-x86-64-202305021736
- OpenShift Platform Plus: https://www.googleapis.com/compute/v1/projects/redhat-marketplace-public/global/images/redhat-coreos-opp-413-x86-64-202305021736
- OpenShift Kubernetes Engine: https://www.googleapis.com/compute/v1/projects/redhat-marketplace-public/global/images/redhat-coreos-oke-413-x86-64-202305021736

11.18.1. 작업자 시스템에 대한 Deployment Manager 템플릿

다음 Deloyment Manager 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 작업자 시스템을 배포할 수 있습니다.

예 11.10. 06_worker.py Deployment Manager 템플릿

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-' + context.env['name'],
        'type': 'compute.v1.instance',
        'properties': {
            'disks': [{
                'autoDelete': True,
                'boot': True,
                'initializeParams': {
                    'diskSizeGb': context.properties['root_volume_size'],
                    'sourceImage': context.properties['image']
                }
            }],
            'machineType': 'zones/' + context.properties['zone'] + '/machineTypes/' + context.properties['machine_type'],
            'metadata': {
                'items': [{
                    'key': 'user-data',
                    'value': context.properties['ignition']
                }]
            },
            'networkInterfaces': [{
                'subnetwork': context.properties['compute_subnet']
            }],
            'serviceAccounts': [{
                'email': context.properties['service_account_email'],
                'scopes': ['https://www.googleapis.com/auth/cloud-platform']
            }],
            'tags': {
                'items': [
                    context.properties['infra_id'] + '-worker',
                ]
            },
            'zone': context.properties['zone']
        }
    }]

    return {'resources': resources}

11.19. OpenShift CLI 설치

중요

Linux에서 OpenShift CLI 설치

다음 절차를 사용하여 Linux에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
제품 변형 드롭다운 목록에서 아키텍처를 선택합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Linux Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
아카이브의 압축을 풉니다.
```
$ tar xvf <file>
```
oc 바이너리를 PATH에 있는 디렉터리에 배치합니다.
PATH를 확인하려면 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
$ oc <command>
```

Windows에서 OpenSfhit CLI 설치

다음 절차에 따라 Windows에 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 Windows Client 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
ZIP 프로그램으로 아카이브의 압축을 풉니다.
oc 바이너리를 PATH에 있는 디렉터리로 이동합니다.
PATH를 확인하려면 명령 프롬프트를 열고 다음 명령을 실행합니다.
```
C:\> path
```

검증

OpenShift CLI를 설치한 후 oc 명령을 사용할 수 있습니다.
```
C:\> oc <command>
```

macOS에 OpenShift CLI 설치

다음 절차에 따라 macOS에서 OpenShift CLI(oc) 바이너리를 설치할 수 있습니다.

프로세스

Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
버전 드롭다운 목록에서 적절한 버전을 선택합니다.
OpenShift v4.17 macOS Clients 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
참고
macOS arm64의 경우 OpenShift v4.17 macOS arm64 Client 항목을 선택합니다.
아카이브의 압축을 해제하고 압축을 풉니다.
oc 바이너리 PATH의 디렉터리로 이동합니다.
PATH를 확인하려면 터미널을 열고 다음 명령을 실행합니다.
```
$ echo $PATH
```

검증

oc 명령을 사용하여 설치를 확인합니다.
```
$ oc <command>
```

11.20. CLI를 사용하여 클러스터에 로그인

사전 요구 사항

OpenShift Container Platform 클러스터를 배포했습니다.
oc CLI를 설치했습니다.

프로세스

kubeadmin 인증 정보를 내보냅니다.
```
$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1
```
1
<installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
내보낸 구성을 사용하여 oc 명령을 성공적으로 실행할 수 있는지 확인합니다.
```
$ oc whoami
```
출력 예
```
system:admin
```

11.21. 머신의 인증서 서명 요청 승인

사전 요구 사항

클러스터에 시스템을 추가했습니다.

프로세스

클러스터가 시스템을 인식하는지 확인합니다.
```
$ oc get nodes
```
출력 예
```
NAME      STATUS    ROLES   AGE  VERSION
master-0  Ready     master  63m  v1.30.3
master-1  Ready     master  63m  v1.30.3
master-2  Ready     master  64m  v1.30.3
```
출력에 생성된 모든 시스템이 나열됩니다.
참고
이전 출력에는 일부 CSR이 승인될 때까지 컴퓨팅 노드(작업자 노드라고도 함)가 포함되지 않을 수 있습니다.
보류 중인 CSR을 검토하고 클러스터에 추가한 각 시스템에 대해 Pending 또는 Approved 상태의 클라이언트 및 서버 요청이 표시되는지 확인합니다.
```
$ oc get csr
```
출력 예
```
NAME        AGE     REQUESTOR                                                                   CONDITION
csr-8b2br   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
csr-8vnps   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
...
```
예에서는 두 시스템이 클러스터에 참여하고 있습니다. 목록에는 승인된 CSR이 더 많이 나타날 수도 있습니다.
CSR이 승인되지 않은 경우, 추가된 시스템에 대한 모든 보류 중인 CSR이 Pending 상태로 전환된 후 클러스터 시스템의 CSR을 승인합니다.
참고
CSR은 교체 주기가 자동으로 만료되므로 클러스터에 시스템을 추가한 후 1시간 이내에 CSR을 승인하십시오. 한 시간 내에 승인하지 않으면 인증서가 교체되고 각 노드에 대해 두 개 이상의 인증서가 표시됩니다. 이러한 인증서를 모두 승인해야 합니다. 클라이언트 CSR이 승인되면 Kubelet은 인증서에 대한 보조 CSR을 생성하므로 수동 승인이 필요합니다. 그러면 Kubelet에서 동일한 매개변수를 사용하여 새 인증서를 요청하는 경우 인증서 갱신 요청은 machine-approver에 의해 자동으로 승인됩니다.
참고
베어 메탈 및 기타 사용자 프로비저닝 인프라와 같이 머신 API를 사용하도록 활성화되지 않는 플랫폼에서 실행되는 클러스터의 경우 CSR(Kubelet service Certificate Request)을 자동으로 승인하는 방법을 구현해야 합니다. 요청이 승인되지 않으면 API 서버가 kubelet에 연결될 때 서비스 인증서가 필요하므로 oc exec, oc rsh, oc logs 명령을 성공적으로 수행할 수 없습니다. Kubelet 엔드 포인트에 연결하는 모든 작업을 수행하려면 이 인증서 승인이 필요합니다. 이 방법은 새 CSR을 감시하고 CSR이 system:node 또는 system:admin 그룹의 node-bootstrapper 서비스 계정에 의해 제출되었는지 확인하고 노드의 ID를 확인합니다.
- 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오.
```
$ oc adm certificate approve <csr_name> 1
```
  1
  <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.
- 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오.
```
$ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs --no-run-if-empty oc adm certificate approve
```
  참고
  일부 Operator는 일부 CSR이 승인될 때까지 사용할 수 없습니다.

이제 클라이언트 요청이 승인되었으므로 클러스터에 추가한 각 머신의 서버 요청을 검토해야 합니다.

$ oc get csr

출력 예

NAME        AGE     REQUESTOR                                                                   CONDITION
csr-bfd72   5m26s   system:node:ip-10-0-50-126.us-east-2.compute.internal                       Pending
csr-c57lv   5m26s   system:node:ip-10-0-95-157.us-east-2.compute.internal                       Pending
...

나머지 CSR이 승인되지 않고 Pending 상태인 경우 클러스터 머신의 CSR을 승인합니다.
- 개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오.
```
$ oc adm certificate approve <csr_name> 1
```
  1
  <csr_name>은 현재 CSR 목록에 있는 CSR의 이름입니다.
- 보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오.
```
$ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs oc adm certificate approve
```

모든 클라이언트 및 서버 CSR이 승인된 후 머신은 Ready 상태가 됩니다. 다음 명령을 실행하여 확인합니다.

$ oc get nodes

출력 예

NAME      STATUS    ROLES   AGE  VERSION
master-0  Ready     master  73m  v1.30.3
master-1  Ready     master  73m  v1.30.3
master-2  Ready     master  74m  v1.30.3
worker-0  Ready     worker  11m  v1.30.3
worker-1  Ready     worker  11m  v1.30.3

참고

머신이 Ready 상태로 전환하는 데 서버 CSR의 승인 후 몇 분이 걸릴 수 있습니다.

추가 정보

인증서 서명 요청

11.22. 인그레스 DNS 레코드 추가

Kubernetes 매니페스트를 생성하고 Ignition 구성을 생성할 때 DNS 영역 구성이 제거됩니다. 인그레스 로드 밸런서를 가리키는 DNS 레코드를 수동으로 생성해야 합니다. 와일드카드 *.apps.{baseDomain}. 또는 특정 레코드를 생성할 수 있습니다. 사용자 요구사항에 따라 A, CNAME 및 기타 레코드를 사용할 수 있습니다.

사전 요구 사항

GCP 계정을 구성하십시오.
Kubernetes 매니페스트를 생성하고 Ignition 구성을 생성할 때 DNS 영역 구성을 제거하십시오.
GCP에서 VPC 및 관련 서브넷을 생성하고 구성하십시오.
GCP에서 네트워킹 및 로드 밸랜서를 생성하고 구성하십시오.
컨트롤 플레인 및 컴퓨팅 역할을 생성합니다.
부트스트랩 시스템을 생성합니다.
컨트롤 플레인 시스템을 생성합니다.
작업자 시스템을 생성합니다.

프로세스

인그레스 라우터가 로드 밸런서를 생성하고 EXTERNAL-IP 필드를 채울 때까지 기다립니다.

$ oc -n openshift-ingress get service router-default

출력 예

NAME             TYPE           CLUSTER-IP      EXTERNAL-IP      PORT(S)                      AGE
router-default   LoadBalancer   172.30.18.154   35.233.157.184   80:32288/TCP,443:31215/TCP   98

영역에 A 레코드를 추가합니다.

A 레코드를 사용하려면,

라우터 IP 주소에 대한 변수를 내보냅니다.

$ export ROUTER_IP=`oc -n openshift-ingress get service router-default --no-headers | awk '{print $4}'`

프라이빗 영역에 A 레코드를 추가합니다.

$ if [ -f transaction.yaml ]; then rm transaction.yaml; fi
$ gcloud dns record-sets transaction start --zone ${INFRA_ID}-private-zone --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT}
$ gcloud dns record-sets transaction add ${ROUTER_IP} --name \*.apps.${CLUSTER_NAME}.${BASE_DOMAIN}. --ttl 300 --type A --zone ${INFRA_ID}-private-zone --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT}
$ gcloud dns record-sets transaction execute --zone ${INFRA_ID}-private-zone --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT}

외부 클러스터의 경우 퍼블릭 영역에 A 레코드를 추가합니다.

$ if [ -f transaction.yaml ]; then rm transaction.yaml; fi
$ gcloud dns record-sets transaction start --zone ${BASE_DOMAIN_ZONE_NAME} --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT}
$ gcloud dns record-sets transaction add ${ROUTER_IP} --name \*.apps.${CLUSTER_NAME}.${BASE_DOMAIN}. --ttl 300 --type A --zone ${BASE_DOMAIN_ZONE_NAME} --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT}
$ gcloud dns record-sets transaction execute --zone ${BASE_DOMAIN_ZONE_NAME} --project ${HOST_PROJECT} --account ${HOST_PROJECT_ACCOUNT}

와일드카드를 사용하지 않고 명시적 도메인을 추가하려면 클러스터의 현재 경로에 대한 항목을 생성합니다.

$ oc get --all-namespaces -o jsonpath='{range .items[*]}{range .status.ingress[*]}{.host}{"\n"}{end}{end}' routes

출력 예

oauth-openshift.apps.your.cluster.domain.example.com
console-openshift-console.apps.your.cluster.domain.example.com
downloads-openshift-console.apps.your.cluster.domain.example.com
alertmanager-main-openshift-monitoring.apps.your.cluster.domain.example.com
prometheus-k8s-openshift-monitoring.apps.your.cluster.domain.example.com

11.23. 인그레스 방화벽 규칙 추가

클러스터에는 몇 가지 방화벽 규칙이 필요합니다. 공유 VPC를 사용하지 않는 경우 GCP 클라우드 공급자를 통해 Ingress 컨트롤러에서 이러한 규칙을 생성합니다. 공유 VPC를 사용할 경우에는 모든 서비스에 대한 클러스터 단위 방화벽 규칙을 생성하거나 클러스터가 액세스를 요청할 때 이벤트를 기반으로 각 규칙을 생성할 수 있습니다. 클러스터가 액세스를 요청할 때마다 규칙을 생성하면 필요한 방화벽 규칙을 정확하게 파악할 수 있습니다. 클러스터 단위 방화벽 규칙을 생성하면 여러 클러스터에 동일한 규칙 세트를 적용할 수 있습니다.

이벤트 기준으로 각 규칙을 생성하도록 선택하는 경우, 클러스터를 프로비저닝한 후에 그리고 클러스터 수명 동안 콘솔에서 규칙이 누락되었음을 알릴 때 방화벽 규칙을 생성해야 합니다. 다음 이벤트와 유사한 이벤트가 표시되면 필요한 방화벽 규칙을 추가해야 합니다.

$ oc get events -n openshift-ingress --field-selector="reason=LoadBalancerManualChange"

출력 예

Firewall change required by security admin: `gcloud compute firewall-rules create k8s-fw-a26e631036a3f46cba28f8df67266d55 --network example-network --description "{\"kubernetes.io/service-name\":\"openshift-ingress/router-default\", \"kubernetes.io/service-ip\":\"35.237.236.234\"}\" --allow tcp:443,tcp:80 --source-ranges 0.0.0.0/0 --target-tags exampl-fqzq7-master,exampl-fqzq7-worker --project example-project`

이러한 규칙 기반 이벤트가 생성될 때 문제가 발생하면 클러스터가 실행되는 동안 클러스터 단위 방화벽 규칙을 구성할 수 있습니다.

11.23.1. GCP에서 공유 VPC에 대한 클러스터 단위 방화벽 규칙 생성

OpenShift Container Platform 클러스터에 필요한 액세스를 허용하기 위해 클러스터 단위 방화벽 규칙을 생성할 수 있습니다.

주의

클러스터 이벤트 기준으로 방화벽 규칙을 생성하지 않도록 선택하는 경우, 사용자가 클러스터 단위 방화벽 규칙을 생성해야 합니다.

사전 요구 사항

클러스터를 배포하기 위해 Deployment Manager 템플릿에 필요한 변수를 내보냈습니다.
클러스터에 필요한 네트워킹 및 로드 밸런싱 구성 요소를 GCP에 생성했습니다.

프로세스

모든 서비스에 액세스할 수 있도록 Google Cloud Engine 상태 검사를 허용하는 단일 방화벽 규칙을 추가합니다. 이 규칙을 사용하면 인그레스 로드 밸런서가 인스턴스의 상태를 확인할 수 있습니다.

$ gcloud compute firewall-rules create --allow='tcp:30000-32767,udp:30000-32767' --network="${CLUSTER_NETWORK}" --source-ranges='130.211.0.0/22,35.191.0.0/16,209.85.152.0/22,209.85.204.0/22' --target-tags="${INFRA_ID}-master,${INFRA_ID}-worker" ${INFRA_ID}-ingress-hc --account=${HOST_PROJECT_ACCOUNT} --project=${HOST_PROJECT}

모든 클러스터 서비스에 액세스를 허용하는 단일 방화벽 규칙을 추가합니다.

외부 클러스터의 경우:

$ gcloud compute firewall-rules create --allow='tcp:80,tcp:443' --network="${CLUSTER_NETWORK}" --source-ranges="0.0.0.0/0" --target-tags="${INFRA_ID}-master,${INFRA_ID}-worker" ${INFRA_ID}-ingress --account=${HOST_PROJECT_ACCOUNT} --project=${HOST_PROJECT}

프라이빗 클러스터의 경우:

$ gcloud compute firewall-rules create --allow='tcp:80,tcp:443' --network="${CLUSTER_NETWORK}" --source-ranges=${NETWORK_CIDR} --target-tags="${INFRA_ID}-master,${INFRA_ID}-worker" ${INFRA_ID}-ingress --account=${HOST_PROJECT_ACCOUNT} --project=${HOST_PROJECT}

이 규칙은 TCP 포트 80 및 443의 트래픽만을 허용하므로 서비스에서 사용하는 포트를 빠짐없이 모두 추가해야 합니다.

11.24. 사용자 프로비저닝 인프라에서 GCP 설치 완료

사전 요구 사항

사용자 프로비저닝 GCP 인프라에 OpenShift Container Platform 클러스터용 부트스트랩 시스템을 배포하십시오.
oc CLI를 설치하고 로그인하십시오.

프로세스

클러스터 설치를 완료합니다.
```
$ ./openshift-install --dir <installation_directory> wait-for install-complete 1
```
출력 예
```
INFO Waiting up to 30m0s for the cluster to initialize...
```
1
<installation_directory>는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
중요
- 설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인 node-bootstrapper 인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오.
- 24 시간 인증서는 클러스터를 설치한 후 16시간에서 22시간으로 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.

클러스터의 실행 상태를 관찰합니다.

다음 명령을 실행하여 현재 클러스터 버전과 상태를 확인합니다.

$ oc get clusterversion

출력 예

NAME      VERSION   AVAILABLE   PROGRESSING   SINCE   STATUS
version             False       True          24m     Working towards 4.5.4: 99% complete

다음 명령을 실행하여 컨트롤 플레인에서 관리하되는 운영자를 CVO(Cluster Version Operator)별로 확인합니다.

$ oc get clusteroperators

출력 예

NAME                                       VERSION   AVAILABLE   PROGRESSING   DEGRADED   SINCE
authentication                             4.5.4     True        False         False      7m56s
cloud-credential                           4.5.4     True        False         False      31m
cluster-autoscaler                         4.5.4     True        False         False      16m
console                                    4.5.4     True        False         False      10m
csi-snapshot-controller                    4.5.4     True        False         False      16m
dns                                        4.5.4     True        False         False      22m
etcd                                       4.5.4     False       False         False      25s
image-registry                             4.5.4     True        False         False      16m
ingress                                    4.5.4     True        False         False      16m
insights                                   4.5.4     True        False         False      17m
kube-apiserver                             4.5.4     True        False         False      19m
kube-controller-manager                    4.5.4     True        False         False      20m
kube-scheduler                             4.5.4     True        False         False      20m
kube-storage-version-migrator              4.5.4     True        False         False      16m
machine-api                                4.5.4     True        False         False      22m
machine-config                             4.5.4     True        False         False      22m
marketplace                                4.5.4     True        False         False      16m
monitoring                                 4.5.4     True        False         False      10m
network                                    4.5.4     True        False         False      23m
node-tuning                                4.5.4     True        False         False      23m
openshift-apiserver                        4.5.4     True        False         False      17m
openshift-controller-manager               4.5.4     True        False         False      15m
openshift-samples                          4.5.4     True        False         False      16m
operator-lifecycle-manager                 4.5.4     True        False         False      22m
operator-lifecycle-manager-catalog         4.5.4     True        False         False      22m
operator-lifecycle-manager-packageserver   4.5.4     True        False         False      18m
service-ca                                 4.5.4     True        False         False      23m
service-catalog-apiserver                  4.5.4     True        False         False      23m
service-catalog-controller-manager         4.5.4     True        False         False      23m
storage                                    4.5.4     True        False         False      17m

다음 명령어를 실행하여 클러스터 Pod를 확인합니다.

$ oc get pods --all-namespaces

출력 예

NAMESPACE                                               NAME                                                                READY     STATUS      RESTARTS   AGE
kube-system                                             etcd-member-ip-10-0-3-111.us-east-2.compute.internal                1/1       Running     0          35m
kube-system                                             etcd-member-ip-10-0-3-239.us-east-2.compute.internal                1/1       Running     0          37m
kube-system                                             etcd-member-ip-10-0-3-24.us-east-2.compute.internal                 1/1       Running     0          35m
openshift-apiserver-operator                            openshift-apiserver-operator-6d6674f4f4-h7t2t                       1/1       Running     1          37m
openshift-apiserver                                     apiserver-fm48r                                                     1/1       Running     0          30m
openshift-apiserver                                     apiserver-fxkvv                                                     1/1       Running     0          29m
openshift-apiserver                                     apiserver-q85nm                                                     1/1       Running     0          29m
...
openshift-service-ca-operator                           openshift-service-ca-operator-66ff6dc6cd-9r257                      1/1       Running     0          37m
openshift-service-ca                                    apiservice-cabundle-injector-695b6bcbc-cl5hm                        1/1       Running     0          35m
openshift-service-ca                                    configmap-cabundle-injector-8498544d7-25qn6                         1/1       Running     0          35m
openshift-service-ca                                    service-serving-cert-signer-6445fc9c6-wqdqn                         1/1       Running     0          35m
openshift-service-catalog-apiserver-operator            openshift-service-catalog-apiserver-operator-549f44668b-b5q2w       1/1       Running     0          32m
openshift-service-catalog-controller-manager-operator   openshift-service-catalog-controller-manager-operator-b78cr2lnm     1/1       Running     0          31m

현재 클러스터 버전이 AVAILABLE이면 설치가 완료된 것입니다.

11.25. OpenShift Container Platform의 Telemetry 액세스

추가 리소스

Telemetry 서비스에 대한 자세한 내용은 원격 상태 모니터링 정보를 참조하십시오.

11.26. 다음 단계

클러스터를 사용자 지정합니다.
필요한 경우 원격 상태 보고를 옵트아웃 할 수 있습니다.

12장. 사용자 프로비저닝 인프라가 있는 제한된 네트워크에서 GCP에 클러스터 설치

OpenShift Container Platform 버전 4.17에서는 사용자가 제공하는 인프라 및 설치 릴리스 콘텐츠의 내부 미러를 사용하는 GCP(Google Cloud Platform)에 클러스터를 설치할 수 있습니다.

중요

미러링된 설치 릴리스 콘텐츠를 사용하여 OpenShift Container Platform 클러스터를 설치할 수는 있지만 GCP API를 사용하려면 여전히 클러스터에 인터넷 액세스가 필요합니다.

중요

12.1. 사전 요구 사항

OpenShift Container Platform 설치 및 업데이트 프로세스에 대한 세부 사항을 검토했습니다.
클러스터 설치 방법 선택 및 사용자를 위한 준비에 대한 문서를 읽습니다.
미러 호스트에 레지스트리를 생성하고 사용 중인 OpenShift Container Platform 버전의 imageContentSources 데이터를 가져옵니다.
중요
미러 호스트에 설치 미디어가 있으므로 해당 컴퓨터를 사용하여 모든 설치 단계를 완료하십시오.
방화벽을 사용하는 경우 클러스터가 액세스해야 하는 사이트를 허용하도록 방화벽을 구성했습니다. 액세스 권한을 부여해야 할 사이트가 더 있을지도 모르지만 *.googleapis.com과 accounts.google.com에 액세스 권한은 반드시 부여해야 합니다.
사용자의 환경에서 클라우드 ID 및 액세스 관리(IAM) API에 액세스할 수 없거나 kube-system 네임스페이스에 관리자 수준의 인증 정보 시크릿을 저장하지 않으려면 장기 인증 정보를 수동으로 생성하고 유지 관리할 수 있습니다.

12.2. 네트워크가 제한된 환경에서의 설치 정보

중요

사용자 프로비저닝 설치의 구성이 복잡하므로 사용자 프로비저닝 인프라를 사용하여 제한된 네트워크 설치를 시도하기 전에 표준 사용자 프로비저닝 인프라 설치를 완료하는 것이 좋습니다. 이 테스트 설치를 완료하면 제한된 네트워크에 설치하는 동안 발생할 수 있는 문제를 보다 쉽게 파악 및 해결할 수 있습니다.

12.2.1. 추가 제한

제한된 네트워크의 클러스터에는 다음과 같은 추가 제한이 있습니다.

ClusterVersion 상태에 사용 가능한 업데이트를 검색할 수 없음 오류가 포함되어 있습니다.
기본적으로 필요한 이미지 스트림 태그에 액세스할 수 없기 때문에 개발자 카탈로그의 내용을 사용할 수 없습니다.

12.3. OpenShift Container Platform 용 인터넷 액세스

OpenShift Container Platform 4.17에서 클러스터를 설치하기 위해 필요한 이미지를 받으려면 인터넷 액세스가 필요합니다.

다음의 경우 인터넷 액세스가 필요합니다.

OpenShift Cluster Manager 에 액세스하여 설치 프로그램을 다운로드하고 서브스크립션 관리를 수행합니다. 클러스터가 인터넷에 액세스할 수 있고 Telemetry 서비스를 비활성화하지 않은 경우, 클러스터에 자동으로 권한이 부여됩니다.
Quay.io에 액세스. 클러스터를 설치하는 데 필요한 패키지를 받을 수 있습니다.
클러스터 업데이트를 수행하는 데 필요한 패키지를 받을 수 있습니다.

12.4. GCP 프로젝트 구성

OpenShift Container Platform을 설치하려면 먼저 호스팅할 GCP(Google Cloud Platform) 프로젝트를 구성해야 합니다.

12.4.1. GCP 프로젝트 생성

OpenShift Container Platform을 설치하려면 클러스터를 호스팅할 GCP(Google Cloud Platform) 계정에 프로젝트를 생성해야 합니다.

프로세스

OpenShift Container Platform 클러스터를 호스팅할 프로젝트를 생성합니다. GCP 문서의 프로젝트 생성 및 관리 단원을 참조하십시오.
중요
설치 관리자 프로비저닝 인프라를 사용하는 경우 GCP 프로젝트는 Premium Network Service Tier를 사용해야 합니다. 설치 프로그램을 사용하여 설치된 클러스터의 Standard Network Service Tier는 지원되지 않습니다. 설치 프로그램은 api-int.<cluster_name>.<base_domain> URL에 대한 내부 로드 밸런싱을 구성합니다.

12.4.2. GCP에서 API 서비스 활성화

GCP(Google Cloud Platform) 프로젝트에서 OpenShift Container Platform 설치를 완료하려면 여러 API 서비스에 액세스해야 합니다.

사전 요구 사항

클러스터를 호스팅할 프로젝트 생성을 완료했습니다.

프로세스

표 12.1. 필수 API 서비스
API 서비스	콘솔 서비스 이름
컴퓨팅 엔진 API	`compute.googleapis.com`
클라우드 리소스 관리자 API	`cloudresourcemanager.googleapis.com`
Google DNS API	`dns.googleapis.com`
IAM 서비스 계정 자격 증명 API	`iamcredentials.googleapis.com`
IAM(ID 및 액세스 관리) API	`iam.googleapis.com`
서비스 사용량 API	`serviceusage.googleapis.com`

표 12.2. 선택적 API 서비스
API 서비스	콘솔 서비스 이름
Google 클라우드 API	`cloudapis.googleapis.com`
서비스 관리 API	`servicemanagement.googleapis.com`
Google 클라우드 스토리지 JSON API	`storage-api.googleapis.com`
클라우드 스토리지	`storage-component.googleapis.com`

12.4.3. GCP용 DNS 구성

프로세스

도메인 또는 하위 도메인과 등록 기관을 식별합니다. 기존 도메인 및 등록 기관을 이전하거나 GCP 또는 다른 소스를 통해 새 도메인과 등록 기관을 구할 수 있습니다.
참고
새 도메인을 구입하는 경우, 관련 DNS 변경사항이 전파되는 데 시간이 걸릴 수 있습니다. Google을 통한 도메인 구매에 대한 자세한 내용은 Google 도메인을 참조하십시오.
GCP 프로젝트에서 도메인 또는 하위 도메인의 퍼블릭 호스팅 영역을 생성합니다. GCP 문서의 퍼블릭 영역 생성 단원을 참조하십시오.
적절한 루트 도메인(예: openshiftcorp.com) 또는 하위 도메인(예: clusters.openshiftcorp.com)을 사용합니다.
호스팅 영역 레코드에서 권한이 있는 새 이름 서버를 추출합니다. GCP 문서의 클라우드 DNS 이름 서버 조회 단원을 참조하십시오.
일반적으로 네 가지 이름 서버가 있습니다.
도메인에서 사용하는 이름 서버의 등록 기관 레코드를 업데이트합니다. 예를 들어, 사용자 도메인을 Google 도메인에 등록한 경우 Google 도메인 도움말의 사용자 지정 이름 서버로 전환하는 방법 항목을 참조하십시오.
루트 도메인을 Google Cloud DNS로 마이그레이션했으면 DNS 레코드를 마이그레이션합니다. GCP 문서의 클라우드 DNS로 마이그레이션을 참조하십시오.
하위 도메인을 사용하는 경우, 회사의 프로시저에 따라 상위 도메인에 위임 레코드를 추가합니다. 이 과정에 회사의 IT 부서 또는 회사의 루트 도메인 및 DNS 서비스를 제어하는 부서에 요청하는 일도 포함될 수 있습니다.

12.4.4. GCP 계정 제한

표 12.3. 기본 클러스터에서 사용되는 GCP 리소스
서비스	구성 요소	위치	필요한 총 리소스	부트스트랩 후 제거된 리소스
서비스 계정	IAM	글로벌	6	1
방화벽 규칙	네트워킹	글로벌	11	1
전송 규칙	컴퓨팅	글로벌	2	0
상태 검사	컴퓨팅	글로벌	2	0
이미지	컴퓨팅	글로벌	1	0
네트워크	네트워킹	글로벌	1	0
라우터	네트워킹	글로벌	1	0
라우트	네트워킹

		글로벌	2	0

참고

설치하는 동안 할당량이 충분하지 않으면 설치 프로그램에서 초과된 할당량과 리전을 모두 안내하는 오류 메시지를 표시합니다.

다음 리전 중 하나에서 클러스터를 배포하려는 경우, 최대 스토리지 할당량을 초과할 것이며, CPU 할당량 제한을 초과할 가능성도 있습니다.

asia-east2
asia-northeast2
asia-south1
australia-southeast1
europe-north1
europe-west2
europe-west3
europe-west6
northamerica-northeast1
southamerica-east1
us-west2

12.4.5. GCP에서 서비스 계정 생성

사전 요구 사항

클러스터를 호스팅할 프로젝트 생성을 완료했습니다.

프로세스

OpenShift Container Platform 클러스터를 호스팅하는 데 사용하는 프로젝트에 서비스 계정을 생성합니다. GCP 문서의 서비스 계정 생성 단원을 참조하십시오.
서비스 계정에 적절한 권한을 부여합니다. 뒤따르는 개별 권한을 부여하거나 Owner 역할을 할당할 수 있습니다. 서비스 계정에 특정 리소스에 대한 역할 부여를 참조하십시오.
참고
서비스 계정을 프로젝트 소유자로 지정하는 것은 가장 쉽게 필요한 권한을 얻는 방법이며, 서비스 계정으로 프로젝트를 완전히 제어할 수 있음을 의미합니다. 해당 권한을 제공하는 데 따른 위험이 수용 가능한 수준인지 확인해봐야 합니다.
JSON 형식으로 서비스 계정 키를 생성하거나 서비스 계정을 GCP 가상 머신에 연결할 수 있습니다. GCP 문서의 서비스 계정 키 생성 및 서비스 계정 생성 및 활성화를 참조하십시오.
참고
연결된 서비스 계정이 있는 가상 머신을 사용하여 클러스터를 생성하는 경우 설치 전에 install-config.yaml 파일에서 credentialsMode: Manual 을 설정해야 합니다.

12.4.6. 필수 GCP 역할

설치 프로그램에 필요한 역할

컴퓨팅 관리자
역할 관리자
보안 관리자
서비스 계정 관리자
서비스 계정 키 관리자
서비스 계정 사용자
스토리지 관리자

설치 과정에서 네트워크 리소스를 생성하는 데 필요한 역할

DNS 관리자

passthrough 모드에서 Cloud Credential Operator를 사용하는 데 필요한 역할

Compute Load Balancer 관리자
태그 사용자

사용자 프로비저닝 GCP 인프라에 필요한 역할

배포 관리자 편집자

다음 역할은 컨트롤 플레인 및 컴퓨팅 시스템에서 사용하는 서비스 계정에 적용됩니다.

표 12.4. GCP 서비스 계정 역할
계정	역할
컨트롤 플레인	`roles/compute.instanceAdmin`
	`roles/compute.networkAdmin`
	`roles/compute.securityAdmin`
	`roles/storage.admin`
	`roles/iam.serviceAccountUser`
컴퓨팅	`roles/compute.viewer`
	`roles/storage.admin`
	`roles/artifactregistry.reader`

12.4.7. 사용자 프로비저닝 인프라에 필요한 GCP 권한

생성하는 서비스 계정에 Owner 역할을 연결하면 OpenShift Container Platform 설치에 필요한 권한을 포함하여 모든 권한이 해당 서비스 계정에 부여됩니다.

예 12.1. 네트워크 리소스 생성에 필요한 권한

compute.addresses.create
compute.addresses.createInternal
compute.addresses.delete
compute.addresses.get
compute.addresses.list
compute.addresses.use
compute.addresses.useInternal
compute.firewalls.create
compute.firewalls.delete
compute.firewalls.get
compute.firewalls.list
compute.forwardingRules.create
compute.forwardingRules.get
compute.forwardingRules.list

예 12.2.

예 12.3.

예 12.4.

예 12.5.

예 12.6.

예 12.7.

예 12.8.

예 12.9.

예 12.10.

예 12.11.

예 12.12.

예 12.13.

예 12.14.

예 12.15.

예 12.16.

예 12.17.

예 12.18.

예 12.19.

예 12.20.

예 12.21.

예 12.22.

예 12.23.

12.4.8.

참고

12.4.9.

12.5.

12.5.1.

표 12.5.

중요

12.5.2.

표 12.6.

참고

12.5.3.

예 12.24.

12.5.4.

12.6.

12.6.1.

중요

```
$ mkdir $HOME/clusterconfig
```

$ openshift-install create manifests --dir $HOME/clusterconfig

? SSH Public Key ...
INFO Credentials loaded from the "myprofile" profile in file "/home/myuser/.aws/credentials"
INFO Consuming Install Config from target directory
INFO Manifests created in: $HOME/clusterconfig/manifests and $HOME/clusterconfig/openshift

$ ls $HOME/clusterconfig/openshift/

99_kubeadmin-password-secret.yaml
99_openshift-cluster-api_master-machines-0.yaml
99_openshift-cluster-api_master-machines-1.yaml
99_openshift-cluster-api_master-machines-2.yaml
...

variant: openshift
version: 4.17.0
metadata:
  labels:
    machineconfiguration.openshift.io/role: worker
  name: 98-var-partition
storage:
  disks:
  - device: /dev/disk/by-id/<device_name> 1
    partitions:
    - label: var
      start_mib: <partition_start_offset> 2
      size_mib: <partition_size> 3
      number: 5
  filesystems:
    - device: /dev/disk/by-partlabel/var
      path: /var
      format: xfs
      mount_options: [defaults, prjquota] 4
      with_mount_unit: true

1
2
3
4

참고

$ butane $HOME/clusterconfig/98-var-partition.bu -o $HOME/clusterconfig/openshift/98-var-partition.yaml

$ openshift-install create ignition-configs --dir $HOME/clusterconfig
$ ls $HOME/clusterconfig/
auth  bootstrap.ign  master.ign  metadata.json  worker.ign

12.6.2.

$ ./openshift-install create install-config --dir <installation_directory> 1

1

1. 참고

pullSecret: '{"auths":{"<mirror_host_name>:5000": {"auth": "<credentials>","email": "you@example.com"}}}'

additionalTrustBundle: |
  -----BEGIN CERTIFICATE-----
  ZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZZ
  -----END CERTIFICATE-----

network: <existing_vpc>
controlPlaneSubnet: <control_plane_subnet>
computeSubnet: <compute_subnet>

imageContentSources:
- mirrors:
  - <mirror_host_name>:5000/<repo_name>/release
  source: quay.io/openshift-release-dev/ocp-release
- mirrors:
  - <mirror_host_name>:5000/<repo_name>/release
  source: registry.redhat.io/ocp/release

```
publish: Internal
```

중요

12.6.3.

참고

controlPlane:
  platform:
    gcp:
       secureBoot: Enabled

compute:
- platform:
    gcp:
       secureBoot: Enabled

platform:
  gcp:
    defaultMachinePlatform:
       secureBoot: Enabled

12.6.4.

참고

controlPlane:
  platform:
    gcp:
       confidentialCompute: Enabled 1
       type: n2d-standard-8 2
       onHostMaintenance: Terminate 3

1
2
3

compute:
- platform:
    gcp:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate

platform:
  gcp:
    defaultMachinePlatform:
       confidentialCompute: Enabled
       type: n2d-standard-8
       onHostMaintenance: Terminate

12.6.5.

참고

apiVersion: v1
baseDomain: my.domain.com
proxy:
  httpProxy: http://<username>:<pswd>@<ip>:<port> 1
  httpsProxy: https://<username>:<pswd>@<ip>:<port> 2
  noProxy: example.com 3
additionalTrustBundle: | 4
    -----BEGIN CERTIFICATE-----
    <MY_TRUSTED_CA_CERT>
    -----END CERTIFICATE-----
additionalTrustBundlePolicy: <policy_to_add_additionalTrustBundle> 5

1
2
3
4
5

참고

$ ./openshift-install wait-for install-complete --log-level debug

참고

12.6.6.

중요

$ ./openshift-install create manifests --dir <installation_directory> 1

1

$ rm -f <installation_directory>/openshift/99_openshift-cluster-api_master-machines-*.yaml

$ rm -f <installation_directory>/openshift/99_openshift-machine-api_master-control-plane-machine-set.yaml

$ rm -f <installation_directory>/openshift/99_openshift-cluster-api_worker-machineset-*.yaml

중요

apiVersion: config.openshift.io/v1
kind: DNS
metadata:
  creationTimestamp: null
  name: cluster
spec:
  baseDomain: example.openshift.com
  privateZone: 1
    id: mycluster-100419-private-zone
  publicZone: 2
    id: example.openshift.com
status: {}

1 2

$ ./openshift-install create ignition-configs --dir <installation_directory> 1

1

.
├── auth
│   ├── kubeadmin-password
│   └── kubeconfig
├── bootstrap.ign
├── master.ign
├── metadata.json
└── worker.ign

12.7.

12.7.1.

$ jq -r .infraID <installation_directory>/metadata.json 1

1

openshift-vw9j6 1

1

12.7.2.

참고

$ export BASE_DOMAIN='<base_domain>'
$ export BASE_DOMAIN_ZONE_NAME='<base_domain_zone_name>'
$ export NETWORK_CIDR='10.0.0.0/16'
$ export MASTER_SUBNET_CIDR='10.0.0.0/17'
$ export WORKER_SUBNET_CIDR='10.0.128.0/17'

$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1
$ export CLUSTER_NAME=`jq -r .clusterName <installation_directory>/metadata.json`
$ export INFRA_ID=`jq -r .infraID <installation_directory>/metadata.json`
$ export PROJECT_NAME=`jq -r .gcp.projectID <installation_directory>/metadata.json`
$ export REGION=`jq -r .gcp.region <installation_directory>/metadata.json`

1

12.8.

참고

$ cat <<EOF >01_vpc.yaml
imports:
- path: 01_vpc.py

resources:
- name: cluster-vpc
  type: 01_vpc.py
  properties:
    infra_id: '${INFRA_ID}' 1
    region: '${REGION}' 2
    master_subnet_cidr: '${MASTER_SUBNET_CIDR}' 3
    worker_subnet_cidr: '${WORKER_SUBNET_CIDR}' 4
EOF

1
2
3
4

$ gcloud deployment-manager deployments create ${INFRA_ID}-vpc --config 01_vpc.yaml

12.8.1.

예 12.25.

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-network',
        'type': 'compute.v1.network',
        'properties': {
            'region': context.properties['region'],
            'autoCreateSubnetworks': False
        }
    }, {
        'name': context.properties['infra_id'] + '-master-subnet',
        'type': 'compute.v1.subnetwork',
        'properties': {
            'region': context.properties['region'],
            'network': '$(ref.' + context.properties['infra_id'] + '-network.selfLink)',
            'ipCidrRange': context.properties['master_subnet_cidr']
        }
    }, {
        'name': context.properties['infra_id'] + '-worker-subnet',
        'type': 'compute.v1.subnetwork',
        'properties': {
            'region': context.properties['region'],
            'network': '$(ref.' + context.properties['infra_id'] + '-network.selfLink)',
            'ipCidrRange': context.properties['worker_subnet_cidr']
        }
    }, {
        'name': context.properties['infra_id'] + '-router',
        'type': 'compute.v1.router',
        'properties': {
            'region': context.properties['region'],
            'network': '$(ref.' + context.properties['infra_id'] + '-network.selfLink)',
            'nats': [{
                'name': context.properties['infra_id'] + '-nat-master',
                'natIpAllocateOption': 'AUTO_ONLY',
                'minPortsPerVm': 7168,
                'sourceSubnetworkIpRangesToNat': 'LIST_OF_SUBNETWORKS',
                'subnetworks': [{
                    'name': '$(ref.' + context.properties['infra_id'] + '-master-subnet.selfLink)',
                    'sourceIpRangesToNat': ['ALL_IP_RANGES']
                }]
            }, {
                'name': context.properties['infra_id'] + '-nat-worker',
                'natIpAllocateOption': 'AUTO_ONLY',
                'minPortsPerVm': 512,
                'sourceSubnetworkIpRangesToNat': 'LIST_OF_SUBNETWORKS',
                'subnetworks': [{
                    'name': '$(ref.' + context.properties['infra_id'] + '-worker-subnet.selfLink)',
                    'sourceIpRangesToNat': ['ALL_IP_RANGES']
                }]
            }]
        }
    }]

    return {'resources': resources}

12.9.

12.9.1.

12.9.2.

표 12.7.

표 12.8.

표 12.9.

12.10.

참고

$ export CLUSTER_NETWORK=(`gcloud compute networks describe ${INFRA_ID}-network --format json | jq -r .selfLink`)

$ export CONTROL_SUBNET=(`gcloud compute networks subnets describe ${INFRA_ID}-master-subnet --region=${REGION} --format json | jq -r .selfLink`)

$ export ZONE_0=(`gcloud compute regions describe ${REGION} --format=json | jq -r .zones[0] | cut -d "/" -f9`)

$ export ZONE_1=(`gcloud compute regions describe ${REGION} --format=json | jq -r .zones[1] | cut -d "/" -f9`)

$ export ZONE_2=(`gcloud compute regions describe ${REGION} --format=json | jq -r .zones[2] | cut -d "/" -f9`)

$ cat <<EOF >02_infra.yaml
imports:
- path: 02_lb_ext.py
- path: 02_lb_int.py 1
resources:
- name: cluster-lb-ext 2
  type: 02_lb_ext.py
  properties:
    infra_id: '${INFRA_ID}' 3
    region: '${REGION}' 4
- name: cluster-lb-int
  type: 02_lb_int.py
  properties:
    cluster_network: '${CLUSTER_NETWORK}'
    control_subnet: '${CONTROL_SUBNET}' 5
    infra_id: '${INFRA_ID}'
    region: '${REGION}'
    zones: 6
    - '${ZONE_0}'
    - '${ZONE_1}'
    - '${ZONE_2}'
EOF

1 2
3
4
5
6

$ gcloud deployment-manager deployments create ${INFRA_ID}-infra --config 02_infra.yaml

$ export CLUSTER_IP=(`gcloud compute addresses describe ${INFRA_ID}-cluster-ip --region=${REGION} --format json | jq -r .address`)

$ export CLUSTER_PUBLIC_IP=(`gcloud compute addresses describe ${INFRA_ID}-cluster-public-ip --region=${REGION} --format json | jq -r .address`)

12.10.1.

예 12.26.

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-cluster-public-ip',
        'type': 'compute.v1.address',
        'properties': {
            'region': context.properties['region']
        }
    }, {
        # Refer to docs/dev/kube-apiserver-health-check.md on how to correctly setup health check probe for kube-apiserver
        'name': context.properties['infra_id'] + '-api-http-health-check',
        'type': 'compute.v1.httpHealthCheck',
        'properties': {
            'port': 6080,
            'requestPath': '/readyz'
        }
    }, {
        'name': context.properties['infra_id'] + '-api-target-pool',
        'type': 'compute.v1.targetPool',
        'properties': {
            'region': context.properties['region'],
            'healthChecks': ['$(ref.' + context.properties['infra_id'] + '-api-http-health-check.selfLink)'],
            'instances': []
        }
    }, {
        'name': context.properties['infra_id'] + '-api-forwarding-rule',
        'type': 'compute.v1.forwardingRule',
        'properties': {
            'region': context.properties['region'],
            'IPAddress': '$(ref.' + context.properties['infra_id'] + '-cluster-public-ip.selfLink)',
            'target': '$(ref.' + context.properties['infra_id'] + '-api-target-pool.selfLink)',
            'portRange': '6443'
        }
    }]

    return {'resources': resources}

12.10.2.

예 12.27.

def GenerateConfig(context):

    backends = []
    for zone in context.properties['zones']:
        backends.append({
            'group': '$(ref.' + context.properties['infra_id'] + '-master-' + zone + '-ig' + '.selfLink)'
        })

    resources = [{
        'name': context.properties['infra_id'] + '-cluster-ip',
        'type': 'compute.v1.address',
        'properties': {
            'addressType': 'INTERNAL',
            'region': context.properties['region'],
            'subnetwork': context.properties['control_subnet']
        }
    }, {
        # Refer to docs/dev/kube-apiserver-health-check.md on how to correctly setup health check probe for kube-apiserver
        'name': context.properties['infra_id'] + '-api-internal-health-check',
        'type': 'compute.v1.healthCheck',
        'properties': {
            'httpsHealthCheck': {
                'port': 6443,
                'requestPath': '/readyz'
            },
            'type': "HTTPS"
        }
    }, {
        'name': context.properties['infra_id'] + '-api-internal',
        'type': 'compute.v1.regionBackendService',
        'properties': {
            'backends': backends,
            'healthChecks': ['$(ref.' + context.properties['infra_id'] + '-api-internal-health-check.selfLink)'],
            'loadBalancingScheme': 'INTERNAL',
            'region': context.properties['region'],
            'protocol': 'TCP',
            'timeoutSec': 120
        }
    }, {
        'name': context.properties['infra_id'] + '-api-internal-forwarding-rule',
        'type': 'compute.v1.forwardingRule',
        'properties': {
            'backendService': '$(ref.' + context.properties['infra_id'] + '-api-internal.selfLink)',
            'IPAddress': '$(ref.' + context.properties['infra_id'] + '-cluster-ip.selfLink)',
            'loadBalancingScheme': 'INTERNAL',
            'ports': ['6443','22623'],
            'region': context.properties['region'],
            'subnetwork': context.properties['control_subnet']
        }
    }]

    for zone in context.properties['zones']:
        resources.append({
            'name': context.properties['infra_id'] + '-master-' + zone + '-ig',
            'type': 'compute.v1.instanceGroup',
            'properties': {
                'namedPorts': [
                    {
                        'name': 'ignition',
                        'port': 22623
                    }, {
                        'name': 'https',
                        'port': 6443
                    }
                ],
                'network': context.properties['cluster_network'],
                'zone': zone
            }
        })

    return {'resources': resources}

12.11.

참고

$ cat <<EOF >02_dns.yaml
imports:
- path: 02_dns.py

resources:
- name: cluster-dns
  type: 02_dns.py
  properties:
    infra_id: '${INFRA_ID}' 1
    cluster_domain: '${CLUSTER_NAME}.${BASE_DOMAIN}' 2
    cluster_network: '${CLUSTER_NETWORK}' 3
EOF

1
2
3

$ gcloud deployment-manager deployments create ${INFRA_ID}-dns --config 02_dns.yaml

$ if [ -f transaction.yaml ]; then rm transaction.yaml; fi
$ gcloud dns record-sets transaction start --zone ${INFRA_ID}-private-zone
$ gcloud dns record-sets transaction add ${CLUSTER_IP} --name api.${CLUSTER_NAME}.${BASE_DOMAIN}. --ttl 60 --type A --zone ${INFRA_ID}-private-zone
$ gcloud dns record-sets transaction add ${CLUSTER_IP} --name api-int.${CLUSTER_NAME}.${BASE_DOMAIN}. --ttl 60 --type A --zone ${INFRA_ID}-private-zone
$ gcloud dns record-sets transaction execute --zone ${INFRA_ID}-private-zone

$ if [ -f transaction.yaml ]; then rm transaction.yaml; fi
$ gcloud dns record-sets transaction start --zone ${BASE_DOMAIN_ZONE_NAME}
$ gcloud dns record-sets transaction add ${CLUSTER_PUBLIC_IP} --name api.${CLUSTER_NAME}.${BASE_DOMAIN}. --ttl 60 --type A --zone ${BASE_DOMAIN_ZONE_NAME}
$ gcloud dns record-sets transaction execute --zone ${BASE_DOMAIN_ZONE_NAME}

12.11.1.

예 12.28.

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-private-zone',
        'type': 'dns.v1.managedZone',
        'properties': {
            'description': '',
            'dnsName': context.properties['cluster_domain'] + '.',
            'visibility': 'private',
            'privateVisibilityConfig': {
                'networks': [{
                    'networkUrl': context.properties['cluster_network']
                }]
            }
        }
    }]

    return {'resources': resources}

12.12.

참고

$ cat <<EOF >03_firewall.yaml
imports:
- path: 03_firewall.py

resources:
- name: cluster-firewall
  type: 03_firewall.py
  properties:
    allowed_external_cidr: '0.0.0.0/0' 1
    infra_id: '${INFRA_ID}' 2
    cluster_network: '${CLUSTER_NETWORK}' 3
    network_cidr: '${NETWORK_CIDR}' 4
EOF

1
2
3
4

$ gcloud deployment-manager deployments create ${INFRA_ID}-firewall --config 03_firewall.yaml

12.12.1.

예 12.29.

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-bootstrap-in-ssh',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'tcp',
                'ports': ['22']
            }],
            'sourceRanges': [context.properties['allowed_external_cidr']],
            'targetTags': [context.properties['infra_id'] + '-bootstrap']
        }
    }, {
        'name': context.properties['infra_id'] + '-api',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'tcp',
                'ports': ['6443']
            }],
            'sourceRanges': [context.properties['allowed_external_cidr']],
            'targetTags': [context.properties['infra_id'] + '-master']
        }
    }, {
        'name': context.properties['infra_id'] + '-health-checks',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'tcp',
                'ports': ['6080', '6443', '22624']
            }],
            'sourceRanges': ['35.191.0.0/16', '130.211.0.0/22', '209.85.152.0/22', '209.85.204.0/22'],
            'targetTags': [context.properties['infra_id'] + '-master']
        }
    }, {
        'name': context.properties['infra_id'] + '-etcd',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'tcp',
                'ports': ['2379-2380']
            }],
            'sourceTags': [context.properties['infra_id'] + '-master'],
            'targetTags': [context.properties['infra_id'] + '-master']
        }
    }, {
        'name': context.properties['infra_id'] + '-control-plane',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'tcp',
                'ports': ['10257']
            },{
                'IPProtocol': 'tcp',
                'ports': ['10259']
            },{
                'IPProtocol': 'tcp',
                'ports': ['22623']
            }],
            'sourceTags': [
                context.properties['infra_id'] + '-master',
                context.properties['infra_id'] + '-worker'
            ],
            'targetTags': [context.properties['infra_id'] + '-master']
        }
    }, {
        'name': context.properties['infra_id'] + '-internal-network',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'icmp'
            },{
                'IPProtocol': 'tcp',
                'ports': ['22']
            }],
            'sourceRanges': [context.properties['network_cidr']],
            'targetTags': [
                context.properties['infra_id'] + '-master',
                context.properties['infra_id'] + '-worker'
            ]
        }
    }, {
        'name': context.properties['infra_id'] + '-internal-cluster',
        'type': 'compute.v1.firewall',
        'properties': {
            'network': context.properties['cluster_network'],
            'allowed': [{
                'IPProtocol': 'udp',
                'ports': ['4789', '6081']
            },{
                'IPProtocol': 'udp',
                'ports': ['500', '4500']
            },{
                'IPProtocol': 'esp',
            },{
                'IPProtocol': 'tcp',
                'ports': ['9000-9999']
            },{
                'IPProtocol': 'udp',
                'ports': ['9000-9999']
            },{
                'IPProtocol': 'tcp',
                'ports': ['10250']
            },{
                'IPProtocol': 'tcp',
                'ports': ['30000-32767']
            },{
                'IPProtocol': 'udp',
                'ports': ['30000-32767']
            }],
            'sourceTags': [
                context.properties['infra_id'] + '-master',
                context.properties['infra_id'] + '-worker'
            ],
            'targetTags': [
                context.properties['infra_id'] + '-master',
                context.properties['infra_id'] + '-worker'
            ]
        }
    }]

    return {'resources': resources}

12.13.

참고

$ cat <<EOF >03_iam.yaml
imports:
- path: 03_iam.py
resources:
- name: cluster-iam
  type: 03_iam.py
  properties:
    infra_id: '${INFRA_ID}' 1
EOF

1

$ gcloud deployment-manager deployments create ${INFRA_ID}-iam --config 03_iam.yaml

$ export MASTER_SERVICE_ACCOUNT=(`gcloud iam service-accounts list --filter "email~^${INFRA_ID}-m@${PROJECT_NAME}." --format json | jq -r '.[0].email'`)

$ export WORKER_SERVICE_ACCOUNT=(`gcloud iam service-accounts list --filter "email~^${INFRA_ID}-w@${PROJECT_NAME}." --format json | jq -r '.[0].email'`)

$ export COMPUTE_SUBNET=(`gcloud compute networks subnets describe ${INFRA_ID}-worker-subnet --region=${REGION} --format json | jq -r .selfLink`)

$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/compute.instanceAdmin"
$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/compute.networkAdmin"
$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/compute.securityAdmin"
$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/iam.serviceAccountUser"
$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${MASTER_SERVICE_ACCOUNT}" --role "roles/storage.admin"

$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${WORKER_SERVICE_ACCOUNT}" --role "roles/compute.viewer"
$ gcloud projects add-iam-policy-binding ${PROJECT_NAME} --member "serviceAccount:${WORKER_SERVICE_ACCOUNT}" --role "roles/storage.admin"

$ gcloud iam service-accounts keys create service-account-key.json --iam-account=${MASTER_SERVICE_ACCOUNT}

12.13.1.

예 12.30.

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-master-node-sa',
        'type': 'iam.v1.serviceAccount',
        'properties': {
            'accountId': context.properties['infra_id'] + '-m',
            'displayName': context.properties['infra_id'] + '-master-node'
        }
    }, {
        'name': context.properties['infra_id'] + '-worker-node-sa',
        'type': 'iam.v1.serviceAccount',
        'properties': {
            'accountId': context.properties['infra_id'] + '-w',
            'displayName': context.properties['infra_id'] + '-worker-node'
        }
    }]

    return {'resources': resources}

12.14.

중요
```
$ gsutil mb gs://<bucket_name>
```

$ gsutil cp <downloaded_image_file_path>/rhcos-<version>-x86_64-gcp.x86_64.tar.gz  gs://<bucket_name>

$ export IMAGE_SOURCE=gs://<bucket_name>/rhcos-<version>-x86_64-gcp.x86_64.tar.gz

$ gcloud compute images create "${INFRA_ID}-rhcos-image" \
    --source-uri="${IMAGE_SOURCE}"

12.15.

참고

$ export CLUSTER_IMAGE=(`gcloud compute images describe ${INFRA_ID}-rhcos-image --format json | jq -r .selfLink`)

$ gsutil mb gs://${INFRA_ID}-bootstrap-ignition

$ gsutil cp <installation_directory>/bootstrap.ign gs://${INFRA_ID}-bootstrap-ignition/

$ export BOOTSTRAP_IGN=`gsutil signurl -d 1h service-account-key.json gs://${INFRA_ID}-bootstrap-ignition/bootstrap.ign | grep "^gs:" | awk '{print $5}'`

$ cat <<EOF >04_bootstrap.yaml
imports:
- path: 04_bootstrap.py

resources:
- name: cluster-bootstrap
  type: 04_bootstrap.py
  properties:
    infra_id: '${INFRA_ID}' 1
    region: '${REGION}' 2
    zone: '${ZONE_0}' 3

    cluster_network: '${CLUSTER_NETWORK}' 4
    control_subnet: '${CONTROL_SUBNET}' 5
    image: '${CLUSTER_IMAGE}' 6
    machine_type: 'n1-standard-4' 7
    root_volume_size: '128' 8

    bootstrap_ign: '${BOOTSTRAP_IGN}' 9
EOF

1
2
3
4
5
6
7
8
9

$ gcloud deployment-manager deployments create ${INFRA_ID}-bootstrap --config 04_bootstrap.yaml

$ gcloud compute instance-groups unmanaged add-instances \
    ${INFRA_ID}-bootstrap-ig --zone=${ZONE_0} --instances=${INFRA_ID}-bootstrap

$ gcloud compute backend-services add-backend \
    ${INFRA_ID}-api-internal --region=${REGION} --instance-group=${INFRA_ID}-bootstrap-ig --instance-group-zone=${ZONE_0}

12.15.1.

예 12.31.

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-bootstrap-public-ip',
        'type': 'compute.v1.address',
        'properties': {
            'region': context.properties['region']
        }
    }, {
        'name': context.properties['infra_id'] + '-bootstrap',
        'type': 'compute.v1.instance',
        'properties': {
            'disks': [{
                'autoDelete': True,
                'boot': True,
                'initializeParams': {
                    'diskSizeGb': context.properties['root_volume_size'],
                    'sourceImage': context.properties['image']
                }
            }],
            'machineType': 'zones/' + context.properties['zone'] + '/machineTypes/' + context.properties['machine_type'],
            'metadata': {
                'items': [{
                    'key': 'user-data',
                    'value': '{"ignition":{"config":{"replace":{"source":"' + context.properties['bootstrap_ign'] + '"}},"version":"3.2.0"}}',
                }]
            },
            'networkInterfaces': [{
                'subnetwork': context.properties['control_subnet'],
                'accessConfigs': [{
                    'natIP': '$(ref.' + context.properties['infra_id'] + '-bootstrap-public-ip.address)'
                }]
            }],
            'tags': {
                'items': [
                    context.properties['infra_id'] + '-master',
                    context.properties['infra_id'] + '-bootstrap'
                ]
            },
            'zone': context.properties['zone']
        }
    }, {
        'name': context.properties['infra_id'] + '-bootstrap-ig',
        'type': 'compute.v1.instanceGroup',
        'properties': {
            'namedPorts': [
                {
                    'name': 'ignition',
                    'port': 22623
                }, {
                    'name': 'https',
                    'port': 6443
                }
            ],
            'network': context.properties['cluster_network'],
            'zone': context.properties['zone']
        }
    }]

    return {'resources': resources}

12.16.

참고

$ export MASTER_IGNITION=`cat <installation_directory>/master.ign`

$ cat <<EOF >05_control_plane.yaml
imports:
- path: 05_control_plane.py

resources:
- name: cluster-control-plane
  type: 05_control_plane.py
  properties:
    infra_id: '${INFRA_ID}' 1
    zones: 2
    - '${ZONE_0}'
    - '${ZONE_1}'
    - '${ZONE_2}'

    control_subnet: '${CONTROL_SUBNET}' 3
    image: '${CLUSTER_IMAGE}' 4
    machine_type: 'n1-standard-4' 5
    root_volume_size: '128'
    service_account_email: '${MASTER_SERVICE_ACCOUNT}' 6

    ignition: '${MASTER_IGNITION}' 7
EOF

1
2
3
4
5
6
7

$ gcloud deployment-manager deployments create ${INFRA_ID}-control-plane --config 05_control_plane.yaml

$ gcloud compute instance-groups unmanaged add-instances ${INFRA_ID}-master-${ZONE_0}-ig --zone=${ZONE_0} --instances=${INFRA_ID}-master-0

$ gcloud compute instance-groups unmanaged add-instances ${INFRA_ID}-master-${ZONE_1}-ig --zone=${ZONE_1} --instances=${INFRA_ID}-master-1

$ gcloud compute instance-groups unmanaged add-instances ${INFRA_ID}-master-${ZONE_2}-ig --zone=${ZONE_2} --instances=${INFRA_ID}-master-2

$ gcloud compute target-pools add-instances ${INFRA_ID}-api-target-pool --instances-zone="${ZONE_0}" --instances=${INFRA_ID}-master-0

$ gcloud compute target-pools add-instances ${INFRA_ID}-api-target-pool --instances-zone="${ZONE_1}" --instances=${INFRA_ID}-master-1

$ gcloud compute target-pools add-instances ${INFRA_ID}-api-target-pool --instances-zone="${ZONE_2}" --instances=${INFRA_ID}-master-2

12.16.1.

예 12.32.

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-master-0',
        'type': 'compute.v1.instance',
        'properties': {
            'disks': [{
                'autoDelete': True,
                'boot': True,
                'initializeParams': {
                    'diskSizeGb': context.properties['root_volume_size'],
                    'diskType': 'zones/' + context.properties['zones'][0] + '/diskTypes/pd-ssd',
                    'sourceImage': context.properties['image']
                }
            }],
            'machineType': 'zones/' + context.properties['zones'][0] + '/machineTypes/' + context.properties['machine_type'],
            'metadata': {
                'items': [{
                    'key': 'user-data',
                    'value': context.properties['ignition']
                }]
            },
            'networkInterfaces': [{
                'subnetwork': context.properties['control_subnet']
            }],
            'serviceAccounts': [{
                'email': context.properties['service_account_email'],
                'scopes': ['https://www.googleapis.com/auth/cloud-platform']
            }],
            'tags': {
                'items': [
                    context.properties['infra_id'] + '-master',
                ]
            },
            'zone': context.properties['zones'][0]
        }
    }, {
        'name': context.properties['infra_id'] + '-master-1',
        'type': 'compute.v1.instance',
        'properties': {
            'disks': [{
                'autoDelete': True,
                'boot': True,
                'initializeParams': {
                    'diskSizeGb': context.properties['root_volume_size'],
                    'diskType': 'zones/' + context.properties['zones'][1] + '/diskTypes/pd-ssd',
                    'sourceImage': context.properties['image']
                }
            }],
            'machineType': 'zones/' + context.properties['zones'][1] + '/machineTypes/' + context.properties['machine_type'],
            'metadata': {
                'items': [{
                    'key': 'user-data',
                    'value': context.properties['ignition']
                }]
            },
            'networkInterfaces': [{
                'subnetwork': context.properties['control_subnet']
            }],
            'serviceAccounts': [{
                'email': context.properties['service_account_email'],
                'scopes': ['https://www.googleapis.com/auth/cloud-platform']
            }],
            'tags': {
                'items': [
                    context.properties['infra_id'] + '-master',
                ]
            },
            'zone': context.properties['zones'][1]
        }
    }, {
        'name': context.properties['infra_id'] + '-master-2',
        'type': 'compute.v1.instance',
        'properties': {
            'disks': [{
                'autoDelete': True,
                'boot': True,
                'initializeParams': {
                    'diskSizeGb': context.properties['root_volume_size'],
                    'diskType': 'zones/' + context.properties['zones'][2] + '/diskTypes/pd-ssd',
                    'sourceImage': context.properties['image']
                }
            }],
            'machineType': 'zones/' + context.properties['zones'][2] + '/machineTypes/' + context.properties['machine_type'],
            'metadata': {
                'items': [{
                    'key': 'user-data',
                    'value': context.properties['ignition']
                }]
            },
            'networkInterfaces': [{
                'subnetwork': context.properties['control_subnet']
            }],
            'serviceAccounts': [{
                'email': context.properties['service_account_email'],
                'scopes': ['https://www.googleapis.com/auth/cloud-platform']
            }],
            'tags': {
                'items': [
                    context.properties['infra_id'] + '-master',
                ]
            },
            'zone': context.properties['zones'][2]
        }
    }]

    return {'resources': resources}

12.17.

$ ./openshift-install wait-for bootstrap-complete --dir <installation_directory> \ 1
    --log-level info 2

1
2

$ gcloud compute backend-services remove-backend ${INFRA_ID}-api-internal --region=${REGION} --instance-group=${INFRA_ID}-bootstrap-ig --instance-group-zone=${ZONE_0}

$ gsutil rm gs://${INFRA_ID}-bootstrap-ignition/bootstrap.ign

$ gsutil rb gs://${INFRA_ID}-bootstrap-ignition

$ gcloud deployment-manager deployments delete ${INFRA_ID}-bootstrap

12.18.

참고

$ export COMPUTE_SUBNET=(`gcloud compute networks subnets describe ${INFRA_ID}-worker-subnet --region=${REGION} --format json | jq -r .selfLink`)

$ export WORKER_SERVICE_ACCOUNT=(`gcloud iam service-accounts list --filter "email~^${INFRA_ID}-w@${PROJECT_NAME}." --format json | jq -r '.[0].email'`)

$ export WORKER_IGNITION=`cat <installation_directory>/worker.ign`

$ cat <<EOF >06_worker.yaml
imports:
- path: 06_worker.py

resources:
- name: 'worker-0' 1
  type: 06_worker.py
  properties:
    infra_id: '${INFRA_ID}' 2
    zone: '${ZONE_0}' 3
    compute_subnet: '${COMPUTE_SUBNET}' 4
    image: '${CLUSTER_IMAGE}' 5
    machine_type: 'n1-standard-4' 6
    root_volume_size: '128'
    service_account_email: '${WORKER_SERVICE_ACCOUNT}' 7
    ignition: '${WORKER_IGNITION}' 8
- name: 'worker-1'
  type: 06_worker.py
  properties:
    infra_id: '${INFRA_ID}' 9
    zone: '${ZONE_1}' 10
    compute_subnet: '${COMPUTE_SUBNET}' 11
    image: '${CLUSTER_IMAGE}' 12
    machine_type: 'n1-standard-4' 13
    root_volume_size: '128'
    service_account_email: '${WORKER_SERVICE_ACCOUNT}' 14
    ignition: '${WORKER_IGNITION}' 15
EOF

1
2 9
3 10
4 11
5 12
6 13
7 14
8 15

$ gcloud deployment-manager deployments create ${INFRA_ID}-worker --config 06_worker.yaml

12.18.1.

예 12.33.

def GenerateConfig(context):

    resources = [{
        'name': context.properties['infra_id'] + '-' + context.env['name'],
        'type': 'compute.v1.instance',
        'properties': {
            'disks': [{
                'autoDelete': True,
                'boot': True,
                'initializeParams': {
                    'diskSizeGb': context.properties['root_volume_size'],
                    'sourceImage': context.properties['image']
                }
            }],
            'machineType': 'zones/' + context.properties['zone'] + '/machineTypes/' + context.properties['machine_type'],
            'metadata': {
                'items': [{
                    'key': 'user-data',
                    'value': context.properties['ignition']
                }]
            },
            'networkInterfaces': [{
                'subnetwork': context.properties['compute_subnet']
            }],
            'serviceAccounts': [{
                'email': context.properties['service_account_email'],
                'scopes': ['https://www.googleapis.com/auth/cloud-platform']
            }],
            'tags': {
                'items': [
                    context.properties['infra_id'] + '-worker',
                ]
            },
            'zone': context.properties['zone']
        }
    }]

    return {'resources': resources}

12.19.

$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1

1

```
$ oc whoami
```
```
system:admin
```

12.20.

$ oc patch OperatorHub cluster --type json \
    -p '[{"op": "add", "path": "/spec/disableAllDefaultSources", "value": true}]'

작은 정보

12.21.

$ oc get nodes

NAME      STATUS    ROLES   AGE  VERSION
master-0  Ready     master  63m  v1.30.3
master-1  Ready     master  63m  v1.30.3
master-2  Ready     master  64m  v1.30.3

참고

$ oc get csr

NAME        AGE     REQUESTOR                                                                   CONDITION
csr-8b2br   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
csr-8vnps   15m     system:serviceaccount:openshift-machine-config-operator:node-bootstrapper   Pending
...

참고

$ oc adm certificate approve <csr_name> 1

1

$ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs --no-run-if-empty oc adm certificate approve

참고

$ oc get csr

NAME        AGE     REQUESTOR                                                                   CONDITION
csr-bfd72   5m26s   system:node:ip-10-0-50-126.us-east-2.compute.internal                       Pending
csr-c57lv   5m26s   system:node:ip-10-0-95-157.us-east-2.compute.internal                       Pending
...

$ oc adm certificate approve <csr_name> 1

1

$ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs oc adm certificate approve

$ oc get nodes

NAME      STATUS    ROLES   AGE  VERSION
master-0  Ready     master  73m  v1.30.3
master-1  Ready     master  73m  v1.30.3
master-2  Ready     master  74m  v1.30.3
worker-0  Ready     worker  11m  v1.30.3
worker-1  Ready     worker  11m  v1.30.3

참고

12.22.

$ oc -n openshift-ingress get service router-default

NAME             TYPE           CLUSTER-IP      EXTERNAL-IP      PORT(S)                      AGE
router-default   LoadBalancer   172.30.18.154   35.233.157.184   80:32288/TCP,443:31215/TCP   98

$ export ROUTER_IP=`oc -n openshift-ingress get service router-default --no-headers | awk '{print $4}'`

$ if [ -f transaction.yaml ]; then rm transaction.yaml; fi
$ gcloud dns record-sets transaction start --zone ${INFRA_ID}-private-zone
$ gcloud dns record-sets transaction add ${ROUTER_IP} --name \*.apps.${CLUSTER_NAME}.${BASE_DOMAIN}. --ttl 300 --type A --zone ${INFRA_ID}-private-zone
$ gcloud dns record-sets transaction execute --zone ${INFRA_ID}-private-zone

$ if [ -f transaction.yaml ]; then rm transaction.yaml; fi
$ gcloud dns record-sets transaction start --zone ${BASE_DOMAIN_ZONE_NAME}
$ gcloud dns record-sets transaction add ${ROUTER_IP} --name \*.apps.${CLUSTER_NAME}.${BASE_DOMAIN}. --ttl 300 --type A --zone ${BASE_DOMAIN_ZONE_NAME}
$ gcloud dns record-sets transaction execute --zone ${BASE_DOMAIN_ZONE_NAME}

$ oc get --all-namespaces -o jsonpath='{range .items[*]}{range .status.ingress[*]}{.host}{"\n"}{end}{end}' routes

oauth-openshift.apps.your.cluster.domain.example.com
console-openshift-console.apps.your.cluster.domain.example.com
downloads-openshift-console.apps.your.cluster.domain.example.com
alertmanager-main-openshift-monitoring.apps.your.cluster.domain.example.com
prometheus-k8s-openshift-monitoring.apps.your.cluster.domain.example.com

12.23.

$ ./openshift-install --dir <installation_directory> wait-for install-complete 1

INFO Waiting up to 30m0s for the cluster to initialize...

1

중요

$ oc get clusterversion

NAME      VERSION   AVAILABLE   PROGRESSING   SINCE   STATUS
version             False       True          24m     Working towards 4.5.4: 99% complete

$ oc get clusteroperators

NAME                                       VERSION   AVAILABLE   PROGRESSING   DEGRADED   SINCE
authentication                             4.5.4     True        False         False      7m56s
cloud-credential                           4.5.4     True        False         False      31m
cluster-autoscaler                         4.5.4     True        False         False      16m
console                                    4.5.4     True        False         False      10m
csi-snapshot-controller                    4.5.4     True        False         False      16m
dns                                        4.5.4     True        False         False      22m
etcd                                       4.5.4     False       False         False      25s
image-registry                             4.5.4     True        False         False      16m
ingress                                    4.5.4     True        False         False      16m
insights                                   4.5.4     True        False         False      17m
kube-apiserver                             4.5.4     True        False         False      19m
kube-controller-manager                    4.5.4     True        False         False      20m
kube-scheduler                             4.5.4     True        False         False      20m
kube-storage-version-migrator              4.5.4     True        False         False      16m
machine-api                                4.5.4     True        False         False      22m
machine-config                             4.5.4     True        False         False      22m
marketplace                                4.5.4     True        False         False      16m
monitoring                                 4.5.4     True        False         False      10m
network                                    4.5.4     True        False         False      23m
node-tuning                                4.5.4     True        False         False      23m
openshift-apiserver                        4.5.4     True        False         False      17m
openshift-controller-manager               4.5.4     True        False         False      15m
openshift-samples                          4.5.4     True        False         False      16m
operator-lifecycle-manager                 4.5.4     True        False         False      22m
operator-lifecycle-manager-catalog         4.5.4     True        False         False      22m
operator-lifecycle-manager-packageserver   4.5.4     True        False         False      18m
service-ca                                 4.5.4     True        False         False      23m
service-catalog-apiserver                  4.5.4     True        False         False      23m
service-catalog-controller-manager         4.5.4     True        False         False      23m
storage                                    4.5.4     True        False         False      17m

$ oc get pods --all-namespaces

NAMESPACE                                               NAME                                                                READY     STATUS      RESTARTS   AGE
kube-system                                             etcd-member-ip-10-0-3-111.us-east-2.compute.internal                1/1       Running     0          35m
kube-system                                             etcd-member-ip-10-0-3-239.us-east-2.compute.internal                1/1       Running     0          37m
kube-system                                             etcd-member-ip-10-0-3-24.us-east-2.compute.internal                 1/1       Running     0          35m
openshift-apiserver-operator                            openshift-apiserver-operator-6d6674f4f4-h7t2t                       1/1       Running     1          37m
openshift-apiserver                                     apiserver-fm48r                                                     1/1       Running     0          30m
openshift-apiserver                                     apiserver-fxkvv                                                     1/1       Running     0          29m
openshift-apiserver                                     apiserver-q85nm                                                     1/1       Running     0          29m
...
openshift-service-ca-operator                           openshift-service-ca-operator-66ff6dc6cd-9r257                      1/1       Running     0          37m
openshift-service-ca                                    apiservice-cabundle-injector-695b6bcbc-cl5hm                        1/1       Running     0          35m
openshift-service-ca                                    configmap-cabundle-injector-8498544d7-25qn6                         1/1       Running     0          35m
openshift-service-ca                                    service-serving-cert-signer-6445fc9c6-wqdqn                         1/1       Running     0          35m
openshift-service-catalog-apiserver-operator            openshift-service-catalog-apiserver-operator-549f44668b-b5q2w       1/1       Running     0          32m
openshift-service-catalog-controller-manager-operator   openshift-service-catalog-controller-manager-operator-b78cr2lnm     1/1       Running     0          31m

12.24.

12.25.

13장.

13.1.

참고

apiVersion: v1
baseDomain: example.com
compute:
- name: worker
  platform: {}
  replicas: 0
# ...

apiVersion: config.openshift.io/v1
kind: Scheduler
metadata:
  creationTimestamp: null
  name: cluster
spec:
  mastersSchedulable: true
  policy:
    name: ""
status: {}

13.2.

14장.

14.1.

참고

14.1.1.

표 14.1.

apiVersion:
baseDomain:
metadata:
metadata: name:
platform:
pullSecret:		{ "auths":{ "cloud.openshift.com":{ "auth":"b3Blb=", "email":"you@example.com" }, "quay.io":{ "auth":"b3Blb=", "email":"you@example.com" } } }

14.1.2.

표 14.2.

networking:		참고
networking: networkType:
networking: clusterNetwork:		networking: clusterNetwork: - cidr: 10.128.0.0/14 hostPrefix: 23
networking: clusterNetwork: cidr:
networking: clusterNetwork: hostPrefix:
networking: serviceNetwork:		networking: serviceNetwork: - 172.30.0.0/16
networking: machineNetwork:		networking: machineNetwork: - cidr: 10.0.0.0/16
networking: machineNetwork: cidr:		참고

14.1.3.

표 14.3.

additionalTrustBundle:
capabilities:
capabilities: baselineCapabilitySet:
capabilities: additionalEnabledCapabilities:
cpuPartitioningMode:
compute:
compute: architecture:
compute: hyperthreading:	중요
compute: name:
compute: platform:
compute: replicas:
featureSet:
controlPlane:
controlPlane: architecture:
controlPlane: hyperthreading:	중요
controlPlane: name:
controlPlane: platform:
controlPlane: replicas:
credentialsMode:	참고
fips:	중요 참고
imageContentSources:
imageContentSources: source:
imageContentSources: mirrors:
publish:
sshKey:	참고

참고

중요

14.1.4.

표 14.4.

controlPlane: platform: gcp: osImage: project:
controlPlane: platform: gcp: osImage: name:
compute: platform: gcp: osImage: project:
compute: platform: gcp: osImage: name:
compute: platform: gcp: serviceAccount:
platform: gcp: network:
platform: gcp: networkProjectID:
platform: gcp: projectID:
platform: gcp: region:
platform: gcp: controlPlaneSubnet:
platform: gcp: computeSubnet:
platform: gcp: defaultMachinePlatform: zones:		중요
platform: gcp: defaultMachinePlatform: osDisk: diskSizeGB:
platform: gcp: defaultMachinePlatform: osDisk: diskType:
platform: gcp: defaultMachinePlatform: osImage: project:
platform: gcp: defaultMachinePlatform: osImage: name:
platform: gcp: defaultMachinePlatform: tags:
platform: gcp: defaultMachinePlatform: type:
platform: gcp: defaultMachinePlatform: osDisk: encryptionKey: kmsKey: name:
platform: gcp: defaultMachinePlatform: osDisk: encryptionKey: kmsKey: keyRing:
platform: gcp: defaultMachinePlatform: osDisk: encryptionKey: kmsKey: location:
platform: gcp: defaultMachinePlatform: osDisk: encryptionKey: kmsKey: projectID:
platform: gcp: defaultMachinePlatform: osDisk: encryptionKey: kmsKeyServiceAccount:
platform: gcp: defaultMachinePlatform: secureBoot:
platform: gcp: defaultMachinePlatform: confidentialCompute:
platform: gcp: defaultMachinePlatform: onHostMaintenance:
controlPlane: platform: gcp: osDisk: encryptionKey: kmsKey: name:
controlPlane: platform: gcp: osDisk: encryptionKey: kmsKey: keyRing:
controlPlane: platform: gcp: osDisk: encryptionKey: kmsKey: location:
controlPlane: platform: gcp: osDisk: encryptionKey: kmsKey: projectID:
controlPlane: platform: gcp: osDisk: encryptionKey: kmsKeyServiceAccount:
controlPlane: platform: gcp: osDisk: diskSizeGB:
controlPlane: platform: gcp: osDisk: diskType:
controlPlane: platform: gcp: tags:
controlPlane: platform: gcp: type:
controlPlane: platform: gcp: zones:		중요
controlPlane: platform: gcp: secureBoot:
controlPlane: platform: gcp: confidentialCompute:
controlPlane: platform: gcp: onHostMaintenance:
controlPlane: platform: gcp: serviceAccount:	중요
compute: platform: gcp: osDisk: encryptionKey: kmsKey: name:
compute: platform: gcp: osDisk: encryptionKey: kmsKey: keyRing:
compute: platform: gcp: osDisk: encryptionKey: kmsKey: location:
compute: platform: gcp: osDisk: encryptionKey: kmsKey: projectID:
compute: platform: gcp: osDisk: encryptionKey: kmsKeyServiceAccount:
compute: platform: gcp: osDisk: diskSizeGB:
compute: platform: gcp: osDisk: diskType:
compute: platform: gcp: tags:
compute: platform: gcp: type:
compute: platform: gcp: zones:		중요
compute: platform: gcp: secureBoot:
compute: platform: gcp: confidentialCompute:
compute: platform: gcp: onHostMaintenance:

15장.

15.1.

참고

$ ./openshift-install destroy cluster \
--dir <installation_directory> --log-level info 1 2

1
2

참고

15.2.

$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')

$ oc adm release extract \
  --from=$RELEASE_IMAGE \
  --credentials-requests \
  --included \1
  --to=<path_to_directory_for_credentials_requests> 2

1
2

$ ccoctl gcp delete \
  --name=<name> \1
  --project=<gcp_project_id> \2
  --credentials-requests-dir=<path_to_credentials_requests_directory> \
  --force-delete-custom-roles 3

1
2
3

16장.

참고

16.1.

$ ./openshift-install version

./openshift-install 4.17.0
built from commit abc123etc
release image quay.io/openshift-release-dev/ocp-release@sha256:abc123wxyzetc
release architecture multi
default architecture amd64

apiVersion: v1
baseDomain: example.openshift.com
compute:
- architecture: amd64 1
  hyperthreading: Enabled
  name: worker
  platform: {}
  replicas: 3
controlPlane:
  architecture: arm64 2
  name: master
  platform: {}
  replicas: 3
# ...

1
2

Legal Notice

OpenShift documentation is licensed under the Apache License 2.0 (https://www.apache.org/licenses/LICENSE-2.0).

Modified versions must remove all Red Hat trademarks.

Portions adapted from https://github.com/kubernetes-incubator/service-catalog/ with modifications by Red Hat.

Red Hat, Red Hat Enterprise Linux, the Red Hat logo, the Shadowman logo, JBoss, OpenShift, Fedora, the Infinity logo, and RHCE are trademarks of Red Hat, Inc., registered in the United States and other countries.

Linux® is the registered trademark of Linus Torvalds in the United States and other countries.

Java® is a registered trademark of Oracle and/or its affiliates.

XFS® is a trademark of Silicon Graphics International Corp. or its subsidiaries in the United States and/or other countries.

MySQL® is a registered trademark of MySQL AB in the United States, the European Union and other countries.

Node.js® is an official trademark of Joyent. Red Hat Software Collections is not formally related to or endorsed by the official Joyent Node.js open source or commercial project.

The OpenStack® Word Mark and OpenStack logo are either registered trademarks/service marks or trademarks/service marks of the OpenStack Foundation, in the United States and other countries and are used with the OpenStack Foundation’s permission. We are not affiliated with, endorsed or sponsored by the OpenStack Foundation, or the OpenStack community.

All other trademarks are the property of their respective owners.