3.2. 사용자 지정으로 Azure Stack Hub에 클러스터 설치
OpenShift Container Platform 버전 4.17에서는 설치 관리자 프로비저닝 인프라를 사용하여 Microsoft Azure Stack Hub에 클러스터를 설치할 수 있습니다. 그러나 Azure Stack Hub에 고유한 값을 지정하도록 install-config.yaml
파일을 수동으로 구성해야 합니다.
설치 프로그램을 사용하여 설치 프로그램을 사용하여 클러스터를 배포할 때 azure
를 선택할 수 있지만 이 옵션은 Azure Public Cloud에만 지원됩니다.
3.2.1. 사전 요구 사항
- OpenShift Container Platform 설치 및 업데이트 프로세스에 대한 세부 사항을 검토했습니다.
- 클러스터 설치 방법 선택 및 사용자를 위한 준비에 대한 문서를 읽습니다.
- 클러스터를 호스팅할 Azure Stack Hub 계정을 구성했습니다.
- 방화벽을 사용하는 경우 클러스터가 액세스해야 하는 사이트를 허용하도록 방화벽을 구성했습니다.
- 약 16GB의 로컬 디스크 공간이 있는지 확인해야 합니다. 클러스터를 설치하려면 RHCOS VHD(가상 하드 드라이브) 클러스터 이미지를 다운로드하여 배포 중에 액세스할 수 있도록 Azure Stack Hub 환경에 업로드해야 합니다. VHD 파일의 압축을 풀려면 이 양의 로컬 디스크 공간이 필요합니다.
3.2.2. RHCOS 클러스터 이미지 업로드
배포 중에 액세스할 수 있도록 RHCOS VHD(가상 하드 디스크) 클러스터 이미지를 다운로드하여 Azure Stack Hub 환경에 업로드해야 합니다.
사전 요구 사항
- 클러스터에 대한 Ignition 구성 파일을 생성하십시오.
프로세스
RHCOS VHD 클러스터 이미지를 가져옵니다.
RHCOS VHD의 URL을 환경 변수로 내보냅니다.
$ export COMPRESSED_VHD_URL=$(openshift-install coreos print-stream-json | jq -r '.architectures.x86_64.artifacts.azurestack.formats."vhd.gz".disk.location')
압축된 RHCOS VHD 파일을 로컬로 다운로드합니다.
$ curl -O -L ${COMPRESSED_VHD_URL}
VHD 파일의 압축을 풉니다.
참고압축 해제된 VHD 파일은 약 16GB이므로 호스트 시스템에 사용 가능한 공간이 16GB인지 확인합니다. 업로드한 후에는 VHD 파일을 삭제할 수 있습니다.
-
Azure Stack Hub 환경에 로컬 VHD를 업로드하여 Blob을 공개적으로 사용할 수 있는지 확인합니다. 예를 들어
az
cli 또는 웹 포털을 사용하여 VHD를 Blob에 업로드할 수 있습니다.
3.2.3. 수동으로 설치 구성 파일 생성
클러스터를 설치하려면 설치 구성 파일을 수동으로 생성해야 합니다.
사전 요구 사항
- 로컬 시스템에 설치 프로그램에 제공할 SSH 공개 키가 있습니다. 키는 디버깅 및 재해 복구를 위해 클러스터 노드에 대한 SSH 인증에 사용됩니다.
- OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.
프로세스
필요한 설치 자산을 저장할 설치 디렉터리를 만듭니다.
$ mkdir <installation_directory>
중요디렉터리를 만들어야 합니다. 부트스트랩 X.509 인증서와 같은 일부 설치 자산은 단기간에 만료되므로 설치 디렉터리를 재사용해서는 안 됩니다. 다른 클러스터 설치의 개별 파일을 재사용하려면 해당 파일을 사용자 디렉터리에 복사하면 됩니다. 그러나 설치 자산의 파일 이름은 릴리스간에 변경될 수 있습니다. 따라서 이전 OpenShift Container Platform 버전에서 설치 파일을 복사할 때는 주의하십시오.
샘플
install-config.yaml
파일 템플릿을 사용자 지정하여<installation_directory>
에 저장합니다.참고이 설정 파일의 이름을
install-config.yaml
로 지정해야 합니다.다음과 같이 수정합니다.
- 필요한 설치 매개 변수를 지정합니다.
-
platform.azure
섹션을 업데이트하여 Azure Stack Hub와 관련된 매개변수를 지정합니다. 선택 사항: 설치를 사용자 정의하도록 기본 구성 매개변수 중 하나 이상을 업데이트합니다.
매개변수에 대한 자세한 내용은 "설치 구성 매개변수"를 참조하십시오.
여러 클러스터를 설치하는 데 사용할 수 있도록
install-config.yaml
파일을 백업합니다.중요install-config.yaml
파일은 설치 과정의 다음 단계에서 사용됩니다. 이 시점에서 이를 백업해야 합니다.
3.2.3.1. Azure Stack Hub의 샘플 사용자 지정 install-config.yaml 파일
install-config.yaml
파일을 사용자 지정하여 OpenShift Container Platform 클러스터 플랫폼에 대한 자세한 정보를 지정하거나 필수 매개변수 값을 수정할 수 있습니다.
이 샘플 YAML 파일은 참조용으로만 제공됩니다. 수동으로 생성한 설치 구성 파일에 매개변수 값을 입력하기 위한 리소스로 사용합니다.
apiVersion: v1 baseDomain: example.com 1 credentialsMode: Manual controlPlane: 2 3 name: master platform: azure: osDisk: diskSizeGB: 1024 4 diskType: premium_LRS replicas: 3 compute: 5 - name: worker platform: azure: osDisk: diskSizeGB: 512 6 diskType: premium_LRS replicas: 3 metadata: name: test-cluster 7 8 networking: clusterNetwork: - cidr: 10.128.0.0/14 hostPrefix: 23 machineNetwork: - cidr: 10.0.0.0/16 networkType: OVNKubernetes 9 serviceNetwork: - 172.30.0.0/16 platform: azure: armEndpoint: azurestack_arm_endpoint 10 11 baseDomainResourceGroupName: resource_group 12 13 region: azure_stack_local_region 14 15 resourceGroupName: existing_resource_group 16 outboundType: Loadbalancer cloudName: AzureStackCloud 17 clusterOSimage: https://vhdsa.blob.example.example.com/vhd/rhcos-410.84.202112040202-0-azurestack.x86_64.vhd 18 19 pullSecret: '{"auths": ...}' 20 21 fips: false 22 sshKey: ssh-ed25519 AAAA... 23 additionalTrustBundle: | 24 -----BEGIN CERTIFICATE----- <MY_TRUSTED_CA_CERT> -----END CERTIFICATE-----
- 1 7 10 12 14 17 18 20
- 필수 항목입니다.
- 2 5
- 이러한 매개변수와 값을 지정하지 않으면 설치 프로그램은 기본값을 적용합니다.
- 3
controlPlane
섹션은 단일 매핑이지만compute
섹션은 일련의 매핑입니다. 서로 다른 데이터 구조의 요구사항을 충족하도록compute
섹션의 첫 번째 줄은 하이픈(-
)으로 시작해야 하며controlPlane
섹션의 첫 번째 줄은 하이픈으로 시작할 수 없습니다. 현재 두 섹션이 모두 단일 시스템 풀을 정의하지만 향후 출시되는 OpenShift Container Platform 버전은 설치 과정에서 여러 컴퓨팅 풀 정의를 지원할 수 있습니다. 하나의 컨트롤 플레인 풀만 사용됩니다.- 4 6
- 사용할 디스크 크기는 GB 단위로 지정할 수 있습니다. 컨트롤 플레인 노드의 최소 권장 크기는 1024GB입니다.
- 8
- 클러스터의 이름입니다.
- 9
- 설치할 클러스터 네트워크 플러그인입니다. 기본 값
OVNKubernetes
는 지원되는 유일한 값입니다. - 11
- Azure Stack Hub Operator에서 제공하는 Azure Resource Manager 엔드포인트입니다.
- 13
- 기본 도메인의 DNS 영역을 포함하는 리소스 그룹의 이름입니다.
- 15
- Azure Stack Hub 로컬 리전의 이름입니다.
- 16
- 클러스터를 설치할 기존 리소스 그룹의 이름입니다. 정의되지 않은 경우 클러스터에 새 리소스 그룹이 생성됩니다.
- 19
- RHCOS VHD가 포함된 Azure Stack 환경의 스토리지 Blob의 URL입니다.
- 21
- 클러스터를 인증하는 데 필요한 풀 시크릿입니다.
- 22
- FIPS 모드 활성화 또는 비활성화 여부입니다. 기본적으로 FIPS 모드는 비활성화됩니다. FIPS 모드가 활성화되면 OpenShift Container Platform이 실행되는 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템에서 기본 Kubernetes 암호화 제품군은 우회하고 RHCOS와 함께 제공되는 암호화 모듈을 대신 사용합니다.중요
FIPS 모드에서 부팅된 RHEL(Red Hat Enterprise Linux CoreOS) 또는 RHCOS(Red Hat Enterprise Linux CoreOS)를 실행하는 경우 OpenShift Container Platform 코어 구성 요소는 x86_64, ppc64le 및 s390x 아키텍처에서만 FIPS 140-2/140-3 Validation에 대해 NIST에 제출된 RHEL 암호화 라이브러리를 사용합니다.
- 23
- 선택사항으로, 클러스터의 시스템에 액세스하는 데 사용할
sshKey
값을 제공할 수도 있습니다.참고설치 디버깅 또는 재해 복구를 수행하려는 프로덕션 OpenShift Container Platform 클러스터의 경우
ssh-agent
프로세스가 사용하는 SSH 키를 지정합니다. - 24
- Azure Stack Hub 환경에서 내부 CA(인증 기관)를 사용하는 경우 CA 인증서를 추가해야 합니다.
3.2.4. 클라우드 인증 정보 수동 관리
CCO(Cloud Credential Operator)는 수동 모드에서만 클라우드 공급자를 지원합니다. 따라서 클라우드 공급자에 대한 IAM(ID 및 액세스 관리) 보안을 지정해야 합니다.
프로세스
이전에 설치 매니페스트 파일을 생성하지 않은 경우 다음 명령을 실행하여 수행합니다.
$ openshift-install create manifests --dir <installation_directory>
여기서
<installation_directory>
는 설치 프로그램이 파일을 생성하는 디렉터리입니다.다음 명령을 실행하여 설치 파일의 릴리스 이미지로
$RELEASE_IMAGE
변수를 설정합니다.$ RELEASE_IMAGE=$(./openshift-install version | awk '/release image/ {print $3}')
다음 명령을 실행하여 OpenShift Container Platform 릴리스 이미지에서
CredentialsRequest
CR(사용자 정의 리소스) 목록을 추출합니다.$ oc adm release extract \ --from=$RELEASE_IMAGE \ --credentials-requests \ --included \1 --install-config=<path_to_directory_with_installation_configuration>/install-config.yaml \2 --to=<path_to_directory_for_credentials_requests> 3
이 명령을 수행하면 각
CredentialsRequest
오브젝트에 대해 YAML 파일이 생성됩니다.샘플
CredentialsRequest
개체apiVersion: cloudcredential.openshift.io/v1 kind: CredentialsRequest metadata: name: <component_credentials_request> namespace: openshift-cloud-credential-operator ... spec: providerSpec: apiVersion: cloudcredential.openshift.io/v1 kind: AzureProviderSpec roleBindings: - role: Contributor ...
이전에 생성한
openshift-install
매니페스트 디렉터리에 시크릿 YAML 파일을 만듭니다. 시크릿은 각CredentialsRequest
오브젝트의spec.secretRef
에 정의된 네임 스페이스 및 시크릿 이름을 사용하여 저장해야 합니다.보안이 포함된 샘플
CredentialsRequest
오브젝트apiVersion: cloudcredential.openshift.io/v1 kind: CredentialsRequest metadata: name: <component_credentials_request> namespace: openshift-cloud-credential-operator ... spec: providerSpec: apiVersion: cloudcredential.openshift.io/v1 kind: AzureProviderSpec roleBindings: - role: Contributor ... secretRef: name: <component_secret> namespace: <component_namespace> ...
샘플
Secret
오브젝트apiVersion: v1 kind: Secret metadata: name: <component_secret> namespace: <component_namespace> data: azure_subscription_id: <base64_encoded_azure_subscription_id> azure_client_id: <base64_encoded_azure_client_id> azure_client_secret: <base64_encoded_azure_client_secret> azure_tenant_id: <base64_encoded_azure_tenant_id> azure_resource_prefix: <base64_encoded_azure_resource_prefix> azure_resourcegroup: <base64_encoded_azure_resourcegroup> azure_region: <base64_encoded_azure_region>
수동으로 유지 관리되는 인증 정보를 사용하는 클러스터를 업그레이드하기 전에 CCO가 업그레이드 가능한 상태인지 확인해야 합니다.
3.2.5. 내부 CA를 사용하도록 클러스터 구성
Azure Stack Hub 환경에서 내부 CA(인증 기관)를 사용하는 경우 내부 CA를 사용하도록 클러스터를 구성하도록 cluster-proxy-01-config.yaml file
을 업데이트합니다.
사전 요구 사항
-
install-config.yaml
파일을 생성하고.pem
형식으로 인증서 신뢰 번들을 지정합니다. - 클러스터 매니페스트를 생성합니다.
프로세스
-
설치 프로그램이 파일을 생성하는 디렉터리에서
manifests
디렉터리로 이동합니다. spec.trustedCA.name
필드에user-ca-bundle
을 추가합니다.cluster-proxy-01-config.yaml
파일의 예apiVersion: config.openshift.io/v1 kind: Proxy metadata: creationTimestamp: null name: cluster spec: trustedCA: name: user-ca-bundle status: {}
-
선택사항:
manifests/ cluster-proxy-01-config.yaml
파일을 백업합니다. 설치 프로그램은 클러스터를 배포할 때manifests/
디렉터리를 사용합니다.
3.2.6. 클러스터 배포
호환되는 클라우드 플랫폼에 OpenShift Container Platform을 설치할 수 있습니다.
최초 설치 과정에서 설치 프로그램의 create cluster
명령을 한 번만 실행할 수 있습니다.
사전 요구 사항
- 클러스터를 호스팅하는 클라우드 플랫폼으로 계정을 구성했습니다.
- OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.
- 호스트의 클라우드 공급자 계정에 클러스터를 배포할 수 있는 올바른 권한이 있는지 확인했습니다. 잘못된 권한이 있는 계정으로 인해 누락된 권한이 표시되는 오류 메시지와 함께 설치 프로세스가 실패합니다.
프로세스
설치 프로그램이 포함된 디렉터리로 변경하고 클러스터 배포를 초기화합니다.
$ ./openshift-install create cluster --dir <installation_directory> \ 1 --log-level=info 2
검증
클러스터 배포가 성공적으로 완료되면 다음을 수행합니다.
-
터미널에는 웹 콘솔에 대한 링크 및
kubeadmin
사용자의 인증 정보를 포함하여 클러스터에 액세스하는 지침이 표시됩니다. -
인증 정보도 <
installation_directory>/.openshift_install.log
로 출력합니다.
설치 프로그램 또는 설치 프로그램이 생성하는 파일을 삭제하지 마십시오. 클러스터를 삭제하려면 두 가지가 모두 필요합니다.
출력 예
... INFO Install complete! INFO To access the cluster as the system:admin user when using 'oc', run 'export KUBECONFIG=/home/myuser/install_dir/auth/kubeconfig' INFO Access the OpenShift web-console here: https://console-openshift-console.apps.mycluster.example.com INFO Login to the console with user: "kubeadmin", and password: "password" INFO Time elapsed: 36m22s
-
설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인
node-bootstrapper
인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오. - 24 시간 인증서는 클러스터를 설치한 후 16시간에서 22시간으로 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.
3.2.7. CLI를 사용하여 클러스터에 로그인
클러스터 kubeconfig
파일을 내보내서 기본 시스템 사용자로 클러스터에 로그인할 수 있습니다. kubeconfig
파일에는 CLI에서 올바른 클러스터 및 API 서버에 클라이언트를 연결하는 데 사용하는 클러스터에 대한 정보가 포함되어 있습니다. 이 파일은 클러스터별로 고유하며 OpenShift Container Platform 설치 과정에서 생성됩니다.
사전 요구 사항
- OpenShift Container Platform 클러스터를 배포했습니다.
-
oc
CLI를 설치했습니다.
프로세스
kubeadmin
인증 정보를 내보냅니다.$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1
- 1
<installation_directory>
는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
내보낸 구성을 사용하여
oc
명령을 성공적으로 실행할 수 있는지 확인합니다.$ oc whoami
출력 예
system:admin
3.2.8. 웹 콘솔을 사용하여 클러스터에 로그인
kubeadmin
사용자는 OpenShift Container Platform 설치 후 기본적으로 존재합니다. OpenShift Container Platform 웹 콘솔을 사용하여 kubeadmin
사용자로 클러스터에 로그인할 수 있습니다.
사전 요구 사항
- 설치 호스트에 대한 액세스 권한이 있어야 합니다.
- 클러스터 설치를 완료했으며 모든 클러스터 Operator를 사용할 수 있습니다.
프로세스
설치 호스트의
kubeadmin-password
파일에서kubeadmin
사용자의 암호를 가져옵니다.$ cat <installation_directory>/auth/kubeadmin-password
참고대안으로 설치 호스트의
<installation_directory>/.openshift_install.log
로그 파일에서kubeadmin
암호를 가져올 수 있습니다.OpenShift Container Platform 웹 콘솔 경로를 나열합니다.
$ oc get routes -n openshift-console | grep 'console-openshift'
참고대안으로 설치 호스트의
<installation_directory>/.openshift_install.log
로그 파일에서 OpenShift Container Platform 경로를 가져올 수 있습니다.출력 예
console console-openshift-console.apps.<cluster_name>.<base_domain> console https reencrypt/Redirect None
-
웹 브라우저의 이전 명령 출력에 자세히 설명된 경로로 이동하고
kubeadmin
사용자로 로그인합니다.
추가 리소스
3.2.9. 다음 단계
- 설치 검증
- 클러스터 사용자 정의
- 선택 사항: 원격 상태 보고 비활성화
- 선택 사항: 클라우드 공급자 인증 정보 제거