6.4. ARM 템플릿을 사용하여 Azure Stack Hub에 클러스터 설치
OpenShift Container Platform 버전 4.9에서는 사용자가 제공하는 인프라를 사용하여 Microsoft Azure Stack Hub에 클러스터를 설치할 수 있습니다.
이러한 단계를 완료할 수 있도록 지원하거나 자체 모델링에 도움이 되는 여러 가지 ARM(Azure Resource Manager) 템플릿이 제공됩니다.
사용자가 프로비저닝한 인프라 설치를 수행하는 단계는 예시용으로만 제공됩니다. 사용자가 제공하는 인프라를 사용하여 클러스터를 설치하려면 클라우드 공급자 및 OpenShift Container Platform 설치 프로세스에 대한 정보가 필요합니다. 안내된 단계를 수행하거나 자체 모델링에 유용한 몇 가지 ARM 템플릿이 제공됩니다. 여러 다른 방법을 통해 필요한 리소스를 자유롭게 생성할 수도 있습니다. 템플릿은 예시일 뿐입니다.
6.4.1. 사전 요구 사항
- OpenShift Container Platform 설치 및 업데이트 프로세스에 대한 세부 사항을 검토합니다.
- 클러스터 설치 방법 선택 및 사용자를 위한 준비에 대한 문서를 읽습니다.
- 클러스터를 호스팅할 Azure Stack Hub 계정을 구성했습니다.
-
Azure CLI를 다운로드하여 컴퓨터에 설치했습니다. Azure 문서의 Azure CLI 설치를 참조하십시오. 아래 문서는 Azure CLI 버전
2.28.0
을 사용하여 테스트되었습니다. Azure CLI 명령은 사용하는 버전에 따라 다르게 수행될 수 있습니다. 방화벽을 사용하며 Telemetry 서비스를 사용할 예정인 경우 클러스터가 액세스해야 하는 사이트를 허용하도록 방화벽을 구성해야 합니다.
참고프록시를 구성하는 경우에도 해당 사이트 목록을 검토하십시오.
6.4.2. OpenShift Container Platform 용 인터넷 액세스
OpenShift Container Platform 4.9에서 클러스터를 설치하려면 인터넷 액세스가 필요합니다.
다음의 경우 인터넷 액세스가 필요합니다.
- OpenShift Cluster Manager 에 액세스하여 설치 프로그램을 다운로드하고 서브스크립션 관리를 수행합니다. 클러스터가 인터넷에 액세스할 수 있고 Telemetry 서비스를 비활성화하지 않은 경우, 클러스터에 자동으로 권한이 부여됩니다.
- Quay.io에 액세스. 클러스터를 설치하는 데 필요한 패키지를 받을 수 있습니다.
- 클러스터 업데이트를 수행하는 데 필요한 패키지를 받을 수 있습니다.
클러스터가 직접 인터넷에 액세스할 수 없는 경우, 프로비저닝하는 일부 유형의 인프라에서 제한된 네트워크 설치를 수행할 수 있습니다. 이 프로세스 동안 필요한 콘텐츠를 다운로드하고 이를 사용하여 설치 패키지로 미러 레지스트리를 채웁니다. 설치 유형에 따라서는 클러스터를 설치하는 환경에 인터넷 액세스가 필요하지 않을 수도 있습니다. 클러스터를 업데이트하기 전에 미러 레지스트리의 내용을 업데이트합니다.
6.4.3. Azure Stack Hub 프로젝트 구성
OpenShift Container Platform을 설치하려면 먼저 호스팅할 Azure 프로젝트를 구성해야 합니다.
공용 엔드포인트를 통해 사용할 수 있는 모든 Azure Stack Hub 리소스에는 리소스 이름 제한이 적용되며 특정 용어를 사용하는 리소스를 생성할 수 없습니다. Azure Stack Hub가 제한하는 용어 목록은 Azure 문서의 예약된 리소스 이름 오류 해결을 참조하십시오.
6.4.3.1. Azure Stack Hub 계정 제한
OpenShift Container Platform 클러스터는 여러 Microsoft Azure Stack Hub 구성 요소를 사용하며 Azure Stack Hub의 기본 할당량 유형은 OpenShift Container Platform 클러스터를 설치하는 기능에 영향을 줍니다.
다음 표에는 OpenShift Container Platform 클러스터를 설치 및 실행하는 기능에 영향을 줄 수 있는 제한이 있는 Azure Stack Hub 구성 요소가 요약되어 있습니다.
구성 요소 | 기본적으로 필요한 구성 요소 수 | 설명 | ||||||
---|---|---|---|---|---|---|---|---|
vCPU | 56 | 기본 클러스터에는 56개의 vCPU가 필요하므로 계정 제한을 늘려야 합니다. 기본적으로 각 클러스터는 다음 인스턴스를 생성합니다.
부트스트랩, 컨트롤 플레인 및 작업자 시스템은 8개의 vCPU를 사용하는 더 많은 작업자 노드를 배포하거나, 자동 크기 조정을 활성화하거나, 대규모 워크로드를 배포하거나, 다른 인스턴스 유형을 사용하려면 필요한 시스템을 클러스터가 배포할 수 있도록 계정의 vCPU 제한값을 더 늘려야 합니다. | ||||||
OS 디스크 | 7 |
VM OS 디스크는 컨트롤 플레인 시스템에 대해 테스트되고 권장되는 최소 처리량 5000 IOPS/200MBps를 유지할 수 있어야 합니다. 이 처리량은 최소 1 TiB Premium SSD (P30)를 보유하여 제공할 수 있습니다. Azure Stack Hub에서 디스크 성능은 SSD 디스크 크기에 직접 의존하므로
읽기 대기 시간이 짧고 읽기 IOPS 및 처리량을 높이려면 호스트 캐싱을 | ||||||
VNet | 1 | 각 기본 클러스터에는 두 개의 서브넷이 포함된 하나의 가상 네트워크(VNet)가 필요합니다. | ||||||
네트워크 인터페이스 | 7 | 각 기본 클러스터에는 7개의 네트워크 인터페이스가 필요합니다. 더 많은 시스템을 생성하거나 배포된 워크로드가 로드 밸런서를 생성하는 경우 클러스터는 더 많은 네트워크 인터페이스를 사용합니다. | ||||||
네트워크 보안 그룹 | 2 | 각 클러스터는 VNet의 각 서브넷에 대한 네트워크 보안 그룹을 생성합니다. 기본 클러스터는 컨트롤 플레인과 컴퓨팅 노드 서브넷에 대한 네트워크 보안 그룹을 생성합니다:
| ||||||
네트워크 로드 밸런서 | 3 | 각 클러스터는 다음 로드 밸런서를 생성합니다.
애플리케이션이 더 많은 Kubernetes | ||||||
공용 IP 주소 | 2 | 공용 로드 밸런서는 공용 IP 주소를 사용합니다. 또한 부트스트랩 시스템은 공용 IP 주소를 사용하므로 설치 중 문제를 해결하기 위해 시스템으로 SSH를 실행할 수 있습니다. 부트스트랩 노드의 IP 주소는 설치 중에만 사용됩니다. | ||||||
개인 IP 주소 | 7 | 내부 로드 밸런서, 3개의 컨트롤 플레인 시스템 및 3개의 각 작업자 시스템은 각각 개인 IP 주소를 사용합니다. |
6.4.3.2. Azure Stack Hub에서 DNS 영역 구성
Azure Stack Hub에 OpenShift Container Platform을 성공적으로 설치하려면 Azure Stack Hub DNS 영역에서 DNS 레코드를 생성해야 합니다. DNS 영역은 도메인에 대한 권한이 있어야 합니다. 등록 프로그램의 DNS 영역을 Azure Stack Hub에 위임하려면 Azure Stack Hub 데이터센터 DNS 통합에 대한 Microsoft 설명서를 참조하십시오.
DNS 영역을 만드는 예제에서 Azure의 DNS 솔루션을 확인할 수 있습니다.
6.4.3.3. 인증서 서명 요청 관리
사용자가 프로비저닝하는 인프라를 사용하는 경우 자동 시스템 관리 기능으로 인해 클러스터의 액세스가 제한되므로 설치한 후 클러스터 인증서 서명 요청(CSR)을 승인하는 메커니즘을 제공해야 합니다. kube-controller-manager
는 kubelet 클라이언트 CSR만 승인합니다. machine-approver
는 올바른 시스템에서 발행한 요청인지 확인할 수 없기 때문에 kubelet 자격 증명을 사용하여 요청하는 서비스 인증서의 유효성을 보장할 수 없습니다. kubelet 서빙 인증서 요청의 유효성을 확인하고 요청을 승인하는 방법을 결정하여 구현해야 합니다.
6.4.3.4. 필수 Azure Stack Hub 역할
Microsoft Azure Stack Hub 계정에는 사용하는 서브스크립션에 대한 다음 역할이 있어야 합니다.
-
소유자
Azure 포털에서 역할을 설정하려면 Microsoft 문서의 역할 기반 액세스 제어를 사용하여 Azure Stack Hub의 리소스에 대한 액세스 관리를 참조하십시오.
6.4.3.5. 서비스 주체 생성
OpenShift Container Platform 및 해당 설치 프로그램은 Azure Resource Manager를 사용하여 Microsoft Azure 리소스를 생성하므로 이를 나타내는 서비스 주체를 생성해야 합니다.
사전 요구 사항
- Azure CLI를 설치 또는 업데이트합니다.
- Azure 계정은 사용하는 서브스크립션에 대한 필요한 역할을 갖습니다.
절차
환경을 등록합니다.
$ az cloud register -n AzureStackCloud --endpoint-resource-manager <endpoint> 1
- 1
- Azure Resource Manager 끝점을 'https://management.<region>.<fqdn>/'로 지정합니다.
자세한 내용은 Microsoft 설명서를 참조하십시오.
활성 환경을 설정합니다.
$ az cloud set -n AzureStackCloud
Azure Stack Hub의 특정 API 버전을 사용하도록 환경 구성을 업데이트합니다.
$ az cloud update --profile 2019-03-01-hybrid
Azure CLI에 로그인합니다.
$ az login
다중 테넌트 환경에 있는 경우 테넌트 ID도 제공해야 합니다.
Azure 계정이 서브스크립션을 사용하는 경우 올바른 서브스크립션을 사용하고 있는지 확인합니다.
사용 가능한 계정 목록을 보고 클러스터에 사용하려는 서브스크립션의
tenantId
값을 기록합니다.$ az account list --refresh
출력 예
[ { "cloudName": AzureStackCloud", "id": "9bab1460-96d5-40b3-a78e-17b15e978a80", "isDefault": true, "name": "Subscription Name", "state": "Enabled", "tenantId": "6057c7e9-b3ae-489d-a54e-de3f6bf6a8ee", "user": { "name": "you@example.com", "type": "user" } } ]
활성 계정 세부 사항을 보고
tenantId
값이 사용하려는 서브스크립션과 일치하는지 확인합니다.$ az account show
출력 예
{ "environmentName": AzureStackCloud", "id": "9bab1460-96d5-40b3-a78e-17b15e978a80", "isDefault": true, "name": "Subscription Name", "state": "Enabled", "tenantId": "6057c7e9-b3ae-489d-a54e-de3f6bf6a8ee", 1 "user": { "name": "you@example.com", "type": "user" } }
- 1
tenantId
매개변수 값이 올바른 서브스크립션 ID인지 확인합니다.
올바른 서브스크립션을 사용하지 않는 경우, 활성 서브스크립션을 변경합니다.
$ az account set -s <subscription_id> 1
- 1
- 서브스크립션 ID를 지정합니다.
서브스크립션 ID 업데이트를 확인합니다.
$ az account show
출력 예
{ "environmentName": AzureStackCloud", "id": "33212d16-bdf6-45cb-b038-f6565b61edda", "isDefault": true, "name": "Subscription Name", "state": "Enabled", "tenantId": "8049c7e9-c3de-762d-a54e-dc3f6be6a7ee", "user": { "name": "you@example.com", "type": "user" } }
-
출력의
tenantId
및id
매개변수 값을 기록합니다. OpenShift Container Platform 설치 중에 이러한 값이 필요합니다. 계정에 대한 서비스 주체를 생성합니다.
$ az ad sp create-for-rbac --role Contributor --name <service_principal> \ 1 --scopes /subscriptions/<subscription_id> 2 --years <years> 3
출력 예
Creating 'Contributor' role assignment under scope '/subscriptions/<subscription_id>' The output includes credentials that you must protect. Be sure that you do not include these credentials in your code or check the credentials into your source control. For more information, see https://aka.ms/azadsp-cli { "appId": "ac461d78-bf4b-4387-ad16-7e32e328aec6", "displayName": <service_principal>", "password": "00000000-0000-0000-0000-000000000000", "tenantId": "8049c7e9-c3de-762d-a54e-dc3f6be6a7ee" }
-
이전 출력의
appId
및password
매개변수 값을 기록합니다. OpenShift Container Platform 설치 중에 이러한 값이 필요합니다.
추가 리소스
- CCO 모드에 대한 자세한 내용은 Cloud Credential Operator 정보를 참조하십시오.
6.4.4. 설치 프로그램 받기
OpenShift Container Platform을 설치하기 전에 로컬 컴퓨터에 설치 파일을 다운로드합니다.
사전 요구 사항
- 500MB의 로컬 디스크 공간이 있는 Linux 또는 macOS를 실행하는 컴퓨터가 있습니다.
절차
- OpenShift Cluster Manager 사이트의 인프라 공급자 페이지에 액세스합니다. Red Hat 계정이 있으면 사용자 자격 증명으로 로그인합니다. 계정이 없으면 계정을 만드십시오.
- Azure Stack Hub에 클러스터를 설치하는 경우 클라우드 공급자로 Azure를 선택합니다.
설치 유형 페이지로 이동한 다음, 운영 체제에 맞는 설치 프로그램을 다운로드하여 설치 구성 파일을 저장할 디렉터리에 파일을 저장합니다.
중요설치 프로그램은 클러스터를 설치하는 데 사용하는 컴퓨터에 여러 파일을 만듭니다. 클러스터 설치를 마친 후 설치 프로그램과 설치 프로그램으로 생성되는 파일을 보관해야 합니다. 클러스터를 삭제하려면 두 파일이 모두 필요합니다.
중요클러스터 설치에 실패하거나 설치 프로그램으로 만든 파일을 삭제해도 클러스터는 제거되지 않습니다. 클러스터를 제거하려면 해당 클라우드 공급자에 적용되는 OpenShift Container Platform 설치 제거 절차를 완료해야 합니다.
설치 프로그램 파일의 압축을 풉니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
$ tar -xvf openshift-install-linux.tar.gz
- Red Hat OpenShift Cluster Manager에서 설치 풀 시크릿 을 다운로드합니다. 이 풀 시크릿을 사용하면 OpenShift Container Platform 구성 요소에 대한 컨테이너 이미지를 제공하는 Quay.io를 포함하여 인증 기관에서 제공하는 서비스로 인증할 수 있습니다.
6.4.5. 클러스터 노드 SSH 액세스를 위한 키 쌍 생성
OpenShift Container Platform을 설치하는 동안 SSH 공개 키를 설치 프로그램에 지정할 수 있습니다. 키는 Ignition 구성 파일을 통해 RHCOS(Red Hat Enterprise Linux CoreOS) 노드에 전달되며 노드에 대한 SSH 액세스를 인증하는 데 사용됩니다. 키는 각 노드에서 core
사용자의 ~/.ssh/authorized_keys
목록에 추가되어 암호 없는 인증을 활성화합니다.
키가 노드에 전달되면 키 쌍을 사용하여 사용자 core
로 RHCOS 노드에 SSH로 SSH 연결을 수행할 수 있습니다 . SSH를 통해 노드에 액세스하려면 로컬 사용자의 SSH에서 개인 키 ID를 관리해야 합니다.
설치 디버깅 또는 재해 복구를 수행하기 위해 클러스터 노드에 SSH를 실행하려면 설치 프로세스 중에 SSH 공용 키를 지정해야 합니다. ./openshift-install gather
명령에도 SSH 공개 키가 클러스터 노드에 있어야 합니다.
재해 복구 및 디버깅이 필요한 프로덕션 환경에서는이 단계를 생략하지 마십시오.
AWS 키 쌍과 같이 플랫폼 고유의 방식으로 구성된 키가 아닌 로컬 키를 사용해야 합니다.
프로세스
로컬 시스템에 클러스터 노드의 인증에 사용할 기존 SSH 키 쌍이 없는 경우 새로 생성합니다. 예를 들어 Linux 운영 체제를 사용하는 컴퓨터에서 다음 명령을 실행합니다.
$ ssh-keygen -t ed25519 -N '' -f <path>/<file_name> 1
- 1
- 새 SSH 키의 경로 및 파일 이름(예:
~/.ssh/id_ed25519
)을 지정합니다. 기존 키 쌍이 있는 경우 공개 키가'~/.ssh
디렉터리에 있는지 확인하십시오.
참고x86_64
아키텍처에 FIPS 검증 / 진행중인 모듈 (Modules in Process) 암호화 라이브러리를 사용하는 OpenShift Container Platform 클러스터를 설치하려면ed25519
알고리즘을 사용하는 키를 생성하지 마십시오. 대신rsa
또는ecdsa
알고리즘을 사용하는 키를 생성합니다.공개 SSH 키를 확인합니다.
$ cat <path>/<file_name>.pub
예를 들어 다음을 실행하여
~/.ssh/id_ed25519.pub
공개 키를 확인합니다.$ cat ~/.ssh/id_ed25519.pub
아직 추가되지 않은 경우 로컬 사용자의 SSH 에이전트에 SSH 개인 키 ID를 추가합니다. 키의 SSH 에이전트 관리는 클러스터 노드에 암호 없는 SSH 인증을 수행하거나
./openshift-install gather
명령을 사용하려는 경우 필요합니다.참고일부 배포에서는
~/.ssh/id_rsa
및~/.ssh/id_dsa
와 같은 기본 SSH 개인 키 ID가 자동으로 관리됩니다.ssh-agent
프로세스가 로컬 사용자에 대해 실행되지 않은 경우 백그라운드 작업으로 시작합니다.$ eval "$(ssh-agent -s)"
출력 예
Agent pid 31874
참고클러스터가 FIPS 모드인 경우 FIPS 호환 알고리즘만 사용하여 SSH 키를 생성합니다. 키는 RSA 또는 ECDSA여야 합니다.
ssh-agent
에 SSH 개인 키를 추가합니다.$ ssh-add <path>/<file_name> 1
- 1
- SSH 개인 키의 경로 및 파일 이름을 지정합니다(예:
~/.ssh/id_ed25519
).
출력 예
Identity added: /home/<you>/<path>/<file_name> (<computer_name>)
다음 단계
- OpenShift Container Platform을 설치할 때 SSH 공개 키를 설치 프로그램에 지정합니다.
6.4.6. Azure Stack Hub에 대한 설치 파일 생성
사용자 프로비저닝 인프라를 사용하여 Microsoft Azure Stack Hub에 OpenShift Container Platform을 설치하려면 설치 프로그램에서 클러스터를 배포하는 데 필요한 파일을 생성하고 클러스터가 사용할 시스템만 생성하도록 파일을 수정해야 합니다. install-config.yaml
파일을 수동으로 생성한 다음 Kubernetes 매니페스트 및 Ignition 구성 파일을 생성하고 사용자 지정합니다. 또한 설치 준비 단계에서 별도의 var
파티션을 먼저 설정할 수 있는 옵션이 있습니다.
6.4.6.1. 수동으로 설치 구성 파일 만들기
사전 요구 사항
- 로컬 시스템에 설치 프로그램에 제공할 SSH 공개 키가 있습니다. 키는 디버깅 및 재해 복구를 위해 클러스터 노드에 대한 SSH 인증에 사용됩니다.
- OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿이 있습니다.
프로세스
필요한 설치 자산을 저장할 설치 디렉터리를 만듭니다.
$ mkdir <installation_directory>
중요디렉터리를 만들어야 합니다. 부트스트랩 X.509 인증서와 같은 일부 설치 자산은 단기간에 만료되므로 설치 디렉터리를 재사용해서는 안 됩니다. 다른 클러스터 설치의 개별 파일을 재사용하려면 해당 파일을 사용자 디렉터리에 복사하면 됩니다. 그러나 설치 자산의 파일 이름은 릴리스간에 변경될 수 있습니다. 따라서 이전 OpenShift Container Platform 버전에서 설치 파일을 복사할 때는 주의하십시오.
샘플
install-config.yaml
파일 템플릿을 사용자 지정하여<installation_directory>
에 저장합니다.참고이 설정 파일의 이름을
install-config.yaml
로 지정해야 합니다.Azure Stack Hub에 대해 다음과 같이 수정합니다.
compute
풀에 대해replicas
매개변수를0
으로 설정합니다.compute: - hyperthreading: Enabled name: worker platform: {} replicas: 0 1
- 1
0
으로 설정합니다.
나중에 컴퓨팅 시스템이 수동으로 프로비저닝됩니다.
install-config.yaml
파일의platform.azure
섹션을 업데이트하여 Azure Stack Hub 설정을 구성합니다.platform: azure: armEndpoint: <azurestack_arm_endpoint> 1 baseDomainResourceGroupName: <resource_group> 2 cloudName: AzureStackCloud 3 region: <azurestack_region> 4
여러 클러스터를 설치하는 데 사용할 수 있도록
install-config.yaml
파일을 백업합니다.중요install-config.yaml
파일은 설치 과정의 다음 단계에서 사용됩니다. 이 시점에서 이를 백업해야 합니다.
6.4.6.2. Azure Stack Hub의 샘플 사용자 지정 install-config.yaml 파일
install-config.yaml
파일을 사용자 지정하여 OpenShift Container Platform 클러스터 플랫폼에 대한 자세한 정보를 지정하거나 필수 매개변수 값을 수정할 수 있습니다.
이 샘플 YAML 파일은 참조용으로만 제공됩니다. 수동으로 생성한 설치 구성 파일에 매개변수 값을 입력하기 위한 리소스로 사용합니다.
apiVersion: v1 baseDomain: example.com controlPlane: 1 name: master replicas: 3 compute: 2 - name: worker platform: {} replicas: 0 metadata: name: test-cluster 3 networking: clusterNetwork: - cidr: 10.128.0.0/14 hostPrefix: 23 machineNetwork: - cidr: 10.0.0.0/16 networkType: OpenShiftSDN serviceNetwork: - 172.30.0.0/16 platform: azure: armEndpoint: azurestack_arm_endpoint 4 baseDomainResourceGroupName: resource_group 5 region: azure_stack_local_region 6 resourceGroupName: existing_resource_group 7 outboundType: Loadbalancer cloudName: AzureStackCloud 8 pullSecret: '{"auths": ...}' 9 fips: false 10 additionalTrustBundle: | 11 -----BEGIN CERTIFICATE----- <MY_TRUSTED_CA_CERT> -----END CERTIFICATE----- sshKey: ssh-ed25519 AAAA... 12
- 1 2
controlPlane
섹션은 단일 매핑이지만 compute 섹션은 일련의 매핑입니다. 서로 다른 데이터 구조의 요구사항을 충족하도록compute
섹션의 첫 번째 줄은 하이픈(-
)으로 시작해야 하며controlPlane
섹션의 첫 번째 줄은 하이픈으로 시작할 수 없습니다. 하나의 컨트롤 플레인 풀만 사용됩니다.- 3
- 클러스터 이름을 지정합니다.
- 4
- Azure Stack Hub Operator가 제공하는 Azure Resource Manager 엔드포인트를 지정합니다.
- 5
- 기본 도메인의 DNS 영역을 포함하는 리소스 그룹의 이름을 지정합니다.
- 6
- Azure Stack Hub 로컬 리전의 이름을 지정합니다.
- 7
- 클러스터를 설치할 기존 리소스 그룹의 이름을 지정합니다. 정의되지 않은 경우 클러스터에 새 리소스 그룹이 생성됩니다.
- 8
- 대상 플랫폼으로 Azure Stack Hub 환경을 지정합니다.
- 9
- 클러스터를 인증하는 데 필요한 풀 시크릿을 지정합니다.
- 10
- FIPS 모드 활성화 또는 비활성화 여부입니다. 기본적으로 FIPS 모드는 비활성화됩니다. FIPS 모드가 활성화되면 OpenShift Container Platform이 실행되는 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템에서 기본 Kubernetes 암호화 제품군은 우회하고 RHCOS와 함께 제공되는 암호화 모듈을 대신 사용합니다.중요
FIPS 검증 / 진행중인 모듈 암호화 라이브러리 사용은
x86_64
아키텍처의 OpenShift Container Platform 배포에서만 지원됩니다. - 11
- Azure Stack Hub 환경에서 내부 인증 기관(CA)을 사용하는 경우 필요한 인증서 번들을
.pem
형식으로 추가합니다. - 12
- 선택사항으로, 클러스터의 시스템에 액세스하는 데 사용할
sshKey
값을 제공할 수도 있습니다.참고설치 디버깅 또는 재해 복구를 수행하려는 프로덕션 OpenShift Container Platform 클러스터의 경우
ssh-agent
프로세스가 사용하는 SSH 키를 지정합니다.
6.4.6.3. 설치 중 클러스터 단위 프록시 구성
프로덕션 환경에서는 인터넷에 대한 직접 액세스를 거부하고 대신 HTTP 또는 HTTPS 프록시를 사용할 수 있습니다. install-config.yaml
파일에서 프록시 설정을 구성하여 프록시가 사용되도록 새 OpenShift Container Platform 클러스터를 구성할 수 있습니다.
사전 요구 사항
-
기존
install-config.yaml
파일이 있습니다. 클러스터에서 액세스해야 하는 사이트를 검토하고 프록시를 바이패스해야 하는지 확인했습니다. 기본적으로 호스팅 클라우드 공급자 API에 대한 호출을 포함하여 모든 클러스터 발신(Egress) 트래픽이 프록시됩니다. 필요한 경우 프록시를 바이패스하기 위해
Proxy
오브젝트의spec.noProxy
필드에 사이트를 추가했습니다.참고Proxy
오브젝트의status.noProxy
필드는 설치 구성에 있는networking.machineNetwork[].cidr
,networking.clusterNetwork[].cidr
,networking.serviceNetwork[]
필드의 값으로 채워집니다.Amazon Web Services (AWS), Google Cloud Platform (GCP), Microsoft Azure 및 Red Hat OpenStack Platform (RHOSP)에 설치하는 경우
Proxy
오브젝트status.noProxy
필드도 인스턴스 메타데이터 끝점(169.254.169.254
)로 채워집니다.
절차
install-config.yaml
파일을 편집하고 프록시 설정을 추가합니다. 예를 들면 다음과 같습니다.apiVersion: v1 baseDomain: my.domain.com proxy: httpProxy: http://<username>:<pswd>@<ip>:<port> 1 httpsProxy: https://<username>:<pswd>@<ip>:<port> 2 noProxy: example.com 3 additionalTrustBundle: | 4 -----BEGIN CERTIFICATE----- <MY_TRUSTED_CA_CERT> -----END CERTIFICATE----- ...
- 1
- 클러스터 외부에서 HTTP 연결을 구축하는 데 사용할 프록시 URL입니다. URL 스키마는
http
여야 합니다. - 2
- 클러스터 외부에서 HTTPS 연결을 구축하는 데 사용할 프록시 URL입니다.
- 3
- 대상 도메인 이름, IP 주소 또는 프록시에서 제외할 기타 네트워크 CIDR로 이루어진 쉼표로 구분된 목록입니다. 하위 도메인과 일치하려면 도메인 앞에
.
을 입력합니다. 예를 들어,.y.com
은x.y.com
과 일치하지만y.com
은 일치하지 않습니다.*
를 사용하여 모든 대상에 대해 프록시를 바이패스합니다. - 4
- 이 값을 제공하면 설치 프로그램에서 추가 CA 인증서를 보유할
openshift
이라는 구성 맵을 생성합니다.-config 네임스페이스에 user-ca-
bundleadditionalTrustBundle
및 하나 이상의 프록시 설정을 제공하는 경우프록시
오브젝트는trustedCA
필드의user-ca-bundle
구성 맵을 참조하도록 구성됩니다. 그러면 Cluster Network Operator에서trustedCA
매개변수에 대해 지정된 콘텐츠를 RHCOS 신뢰 번들과 병합하는trusted-ca-bundle
구성 맵을 생성합니다. 프록시의 ID 인증서를 RHCOS 트러스트 번들에 있는 기관에서 서명하지 않은 경우additionalTrustBundle
필드가 있어야 합니다.
참고설치 프로그램에서 프록시
adinessEndpoints
필드를 지원하지 않습니다.- 파일을 저장해 놓고 OpenShift Container Platform을 설치할 때 참조하십시오.
제공되는 install-config.yaml
파일의 프록시 설정을 사용하는 cluster
라는 이름의 클러스터 전체 프록시가 설치 프로그램에 의해 생성됩니다. 프록시 설정을 제공하지 않아도 cluster
Proxy
오브젝트는 계속 생성되지만 spec
은 nil이 됩니다.
cluster
라는 Proxy
오브젝트만 지원되며 추가 프록시는 생성할 수 없습니다.
6.4.6.4. ARM 템플릿의 공통 변수 내보내기
Microsoft Azure Stack Hub에서 사용자 제공 인프라 설치를 지원하기 위해 제공된 ARM(Azure Resource Manager) 템플릿과 함께 사용되는 공통 변수 세트를 내보내야 합니다.
특정 ARM 템플릿에는 추가적으로 내보낸 변수도 필요할 수 있습니다. 관련 프로시저에서 자세히 설명합니다.
사전 요구 사항
- OpenShift Container Platform 설치 프로그램과 클러스터의 풀 시크릿을 받습니다.
절차
제공된 ARM 템플릿이 사용할
install-config.yaml
에 있는 공통 변수를 내보냅니다.$ export CLUSTER_NAME=<cluster_name>1 $ export AZURE_REGION=<azure_region>2 $ export SSH_KEY=<ssh_key>3 $ export BASE_DOMAIN=<base_domain>4 $ export BASE_DOMAIN_RESOURCE_GROUP=<base_domain_resource_group>5
- 1
install-config.yaml
파일의.metadata.name
속성 값입니다.- 2
- 클러스터를 배포할 리전입니다.
install-config.yaml
파일의.platform.azure.region
속성 값입니다. - 3
- 문자열 형태의 SSH RSA 공개 키 파일입니다. 공백이 포함되어 있으므로 SSH 키를 따옴표로 묶어야 합니다.
install-config.yaml
파일의.sshKey
속성 값입니다. - 4
- 클러스터를 배포할 기본 도메인. 기본 도메인은 클러스터용으로 생성한 DNS 영역에 해당합니다.
install-config.yaml
파일의.baseDomain
속성 값입니다. - 5
- DNS 영역이 존재하는 리소스 그룹입니다.
install-config.yaml
파일의.platform.azure.baseDomainResourceGroupName
속성 값입니다.
예를 들면 다음과 같습니다.
$ export CLUSTER_NAME=test-cluster $ export AZURE_REGION=centralus $ export SSH_KEY="ssh-rsa xxx/xxx/xxx= user@email.com" $ export BASE_DOMAIN=example.com $ export BASE_DOMAIN_RESOURCE_GROUP=ocp-cluster
kubeadmin 인증 정보를 내보냅니다.
$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1
- 1
<installation_directory>
는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
6.4.6.5. Kubernetes 매니페스트 및 Ignition 설정 파일 생성
일부 클러스터 정의 파일을 수정하고 클러스터 시스템을 수동으로 시작해야 하므로 클러스터가 시스템을 구성하는 데 필요한 Kubernetes 매니페스트 및 Ignition 구성 파일을 사용자가 생성해야 합니다.
설치 구성 파일은 Kubernetes 매니페스트로 변환됩니다. 매니페스트는 나중에 클러스터 머신을 구성하는 데 사용되는 Ignition 구성 파일로 래핑됩니다.
-
OpenShift Container Platform 설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인
node-bootstrapper
인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 만료된 컨트롤 플레인 인증서에서 복구 문서를 참조하십시오. - 클러스터를 설치한 후 24시간에서 22시간까지의 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.
사전 요구 사항
- OpenShift Container Platform 설치 프로그램을 가져오셨습니다.
-
install-config.yaml
설치 구성 파일을 생성하셨습니다.
프로세스
OpenShift Container Platform 설치 프로그램이 포함된 디렉터리로 변경하고 클러스터에 대한 Kubernetes 매니페스트를 생성합니다.
$ ./openshift-install create manifests --dir <installation_directory> 1
- 1
<installation_directory>
는 사용자가 만든install-config.yaml
파일이 포함된 설치 디렉터리를 지정합니다.
컨트롤 플레인 시스템을 정의하는 Kubernetes 매니페스트 파일을 제거합니다.
$ rm -f <installation_directory>/openshift/99_openshift-cluster-api_master-machines-*.yaml
이러한 파일을 제거하면 클러스터가 컨트롤 플레인 시스템을 자동으로 생성하지 못합니다.
작업자 시스템을 정의하는 Kubernetes 매니페스트 파일을 제거합니다.
$ rm -f <installation_directory>/openshift/99_openshift-cluster-api_worker-machineset-*.yaml
작업자 시스템은 사용자가 직접 생성하고 관리하기 때문에 초기화할 필요가 없습니다.
<installation_directory>/manifests/cluster-scheduler-02-config.yml
Kubernetes 매니페스트 파일의mastersSchedulable
매개변수가false
로 설정되어 있는지 확인합니다. 이 설정으로 인해 컨트롤 플레인 머신에서 포드가 예약되지 않습니다.-
<installation_directory>/manifests/cluster-scheduler-02-config.yml
파일을 엽니다. -
mastersSchedulable
매개변수를 찾아서 값을False
로 설정되어 있는지 확인합니다. - 파일을 저장하고 종료합니다.
-
선택사항: Ingress Operator가 사용자 대신 DNS 레코드를 생성하지 못하도록 하려면
<installation_directory>/manifests/cluster-dns-02-config.yml
DNS 구성 파일에서privateZone
및publicZone
섹션을 제거합니다.apiVersion: config.openshift.io/v1 kind: DNS metadata: creationTimestamp: null name: cluster spec: baseDomain: example.openshift.com privateZone: 1 id: mycluster-100419-private-zone publicZone: 2 id: example.openshift.com status: {}
제거한 경우 나중에 인그레스 DNS 레코드를 수동으로 추가해야 합니다.
선택 사항: Azure Stack Hub 환경에서 내부 인증 기관(CA)을 사용하는 경우
<installation_directory>/manifests/cluster-proxy-01-config.yaml
파일에서.spec.trustedCA.name
필드를 업데이트하여user-ca-bundle
을 사용합니다.... spec: trustedCA: name: user-ca-bundle ...
나중에 CA를 포함하도록 부트스트랩 ignition을 업데이트해야 합니다.
사용자 프로비저닝 인프라에서 Azure를 구성할 때, ARM(Azure Resource Manager) 템플릿에서 나중에 사용할 수 있도록 매니페스트 파일에 정의된 일부 공통 변수를 내보내야 합니다.
다음 명령을 사용하여 인프라 ID를 내보냅니다.
$ export INFRA_ID=<infra_id> 1
- 1
- OpenShift Container Platform 클러스터에
<cluster_name>-<random_string>
형식으로 식별자(INFRA_ID
)가 할당되었습니다. 제공된 ARM 템플릿을 사용해서 생성된 대부분의 리소스에 대해 기본 이름으로 사용됩니다.manifests/cluster-infrastructure-02-config.yml
파일의.status.infrastructureName
속성 값입니다.
다음 명령을 사용하여 리소스 그룹을 내보냅니다:
$ export RESOURCE_GROUP=<resource_group> 1
클라우드 인증 정보를 수동으로 생성합니다.
설치 프로그램이 포함된 디렉터리에서
openshift-install
바이너리가 다음을 사용하도록 빌드된 OpenShift Container Platform 릴리스 이미지에 대한 세부 정보를 가져옵니다.$ openshift-install version
출력 예
release image quay.io/openshift-release-dev/ocp-release:4.y.z-x86_64
배포중인 클라우드를 대상으로하는이 릴리스 이미지에서 모든
CredentialsRequest
개체를 찾습니다.$ oc adm release extract quay.io/openshift-release-dev/ocp-release:4.y.z-x86_64 --credentials-requests --cloud=azure
이 명령을 수행하면 각
CredentialsRequest
오브젝트에 대해 YAML 파일이 생성됩니다.샘플
CredentialsRequest
개체apiVersion: cloudcredential.openshift.io/v1 kind: CredentialsRequest metadata: labels: controller-tools.k8s.io: "1.0" name: openshift-image-registry-azure namespace: openshift-cloud-credential-operator spec: secretRef: name: installer-cloud-credentials namespace: openshift-image-registry providerSpec: apiVersion: cloudcredential.openshift.io/v1 kind: AzureProviderSpec roleBindings: - role: Contributor
-
이전에 생성한
openshift-install
매니페스트 디렉터리에 시크릿 YAML 파일을 만듭니다. 시크릿은 각CredentialsRequest
오브젝트의spec.secretRef
에 정의된 네임 스페이스 및 시크릿 이름을 사용하여 저장해야 합니다. 시크릿 데이터의 형식은 클라우드 공급자마다 다릅니다. CCO(Cloud Config Operator)가 비활성화된 매니페스트 디렉터리에
cco-configmap.yaml
파일을 생성합니다.샘플
ConfigMap
오브젝트apiVersion: v1 kind: ConfigMap metadata: name: cloud-credential-operator-config namespace: openshift-cloud-credential-operator annotations: release.openshift.io/create-only: "true" data: disabled: "true"
Ignition 구성 파일을 생성하려면 설치 프로그램이 포함된 디렉터리에서 다음 명령을 실행합니다.
$ ./openshift-install create ignition-configs --dir <installation_directory> 1
- 1
<installation_directory>
는 동일한 설치 디렉터리를 지정합니다.
설치 디렉터리의 부트스트랩, 컨트롤 플레인 및 컴퓨팅 노드에 대한 Ignition 구성 파일이 생성됩니다.
kubeadmin-password
및kubeconfig
파일은./<installation_directory>/auth
디렉터리에 생성됩니다.. ├── auth │ ├── kubeadmin-password │ └── kubeconfig ├── bootstrap.ign ├── master.ign ├── metadata.json └── worker.ign
6.4.6.6. 선택 사항: 별도의 /var
파티션 만들기
OpenShift Container Platform의 디스크 파티션 설정은 설치 프로그램에 맡기는 것이 좋습니다. 그러나 확장하려는 파일 시스템의 일부에 별도의 파티션을 생성해야 하는 경우가 있습니다.
OpenShift 컨테이너 플랫폼은 /var
파티션 또는 /var
의 하위 디렉터리 중 하나에 스토리지를 연결하는 단일 파티션의 추가를 지원합니다. 예를 들면 다음과 같습니다.
-
/var/lib/containers
: 시스템에 더 많은 이미지와 컨테이너가 추가됨에 따라 확장될 수 있는 컨테이너 관련 콘텐츠를 보관합니다. -
/var/lib/etcd
: etcd 스토리지의 성능 최적화와 같은 목적으로 별도로 보관할 데이터를 보관합니다. -
/var
: 감사 등의 목적에 맞게 별도로 분리하여 보관해야 하는 데이터를 보관합니다.
/var
디렉터리의 콘텐츠를 별도로 저장하면 필요에 따라 해당 영역에 대한 스토리지 확장을 보다 용이하게 하고 나중에 OpenShift Container Platform을 다시 설치하여 해당 데이터를 그대로 보존할 수 있습니다. 이 방법을 사용하면 모든 컨테이너를 다시 가져올 필요가 없으며 시스템을 업데이트할 때 대용량 로그 파일을 복사할 필요도 없습니다.
RHCOS(Red Hat Enterprise Linux CoreOS)를 새로 설치하기 전에 /var가
파티션을 설정합니다.
있어야
하므로 다음 절차에서는 OpenShift Container Platform 설치의 openshift-install
준비 단계 중에 삽입되는 머신 구성 매니페스트를 생성하여 별도의 /var
이 절차에서 별도의 /var
파티션을 생성하기 위해 단계에 따라 이 섹션의 뒷부분에서 설명한 대로 Kubernetes 매니페스트 및 Ignition 구성 파일을 다시 생성할 필요가 없습니다.
프로세스
OpenShift Container Platform 설치 파일을 저장할 디렉터리를 만듭니다.
$ mkdir $HOME/clusterconfig
openshift-install
을 실행하여manifest
및openshift
하위 디렉터리에 파일 세트를 만듭니다. 프롬프트가 표시되면 시스템 질문에 대답합니다.$ openshift-install create manifests --dir $HOME/clusterconfig
출력 예
? SSH Public Key ... INFO Credentials loaded from the "myprofile" profile in file "/home/myuser/.aws/credentials" INFO Consuming Install Config from target directory INFO Manifests created in: $HOME/clusterconfig/manifests and $HOME/clusterconfig/openshift
선택 사항: 설치 프로그램이
clusterconfig/openshift
디렉터리에 매니페스트를 생성했는지 확인합니다.$ ls $HOME/clusterconfig/openshift/
출력 예
99_kubeadmin-password-secret.yaml 99_openshift-cluster-api_master-machines-0.yaml 99_openshift-cluster-api_master-machines-1.yaml 99_openshift-cluster-api_master-machines-2.yaml ...
추가 파티션을 구성하는 Butane 구성을 생성합니다. 예를 들어 파일 이름을
$HOME/clusterconfig/98-var-partition.bu
로 지정하고, 디스크 장치 이름을worker
시스템의 스토리지 장치 이름으로 변경하고 스토리지 크기를 적절하게 설정합니다. 이 예에서는/var
디렉토리를 별도의 파티션에 배치합니다.variant: openshift version: 4.9.0 metadata: labels: machineconfiguration.openshift.io/role: worker name: 98-var-partition storage: disks: - device: /dev/<device_name> 1 partitions: - label: var start_mib: <partition_start_offset> 2 size_mib: <partition_size> 3 filesystems: - device: /dev/disk/by-partlabel/var path: /var format: xfs mount_options: [defaults, prjquota] 4 with_mount_unit: true
- 1
- 파티션을 설정해야하는 디스크 저장 장치 이름입니다.
- 2
- 데이터 파티션을 부트 디스크에 추가할 때 최소 25000MiB(메비 바이트)가 권장됩니다. 루트 파일 시스템은 지정된 오프셋까지 사용 가능한 모든 공간을 채우기 위해 자동으로 크기가 조정됩니다. 값이 지정되지 않거나 지정된 값이 권장 최소값보다 작으면 생성되는 루트 파일 시스템의 크기가 너무 작아지고 RHCOS를 나중에 다시 설치할 때 데이터 파티션의 첫 번째 부분을 덮어 쓸 수 있습니다.
- 3
- 데이터 파티션의 크기(MB)입니다.
- 4
- 컨테이너 스토리지에 사용되는 파일 시스템에
prjquota
마운트 옵션을 활성화해야 합니다.
참고별도의
/var
파티션을 만들 때 다른 인스턴스 유형에 동일한 장치 이름이 없는 경우 작업자 노드에 다른 인스턴스 유형을 사용할 수 없습니다.Butane 구성에서 매니페스트를 생성하여
clusterconfig/openshift
디렉터리에 저장합니다. 예를 들어 다음 명령을 실행합니다.$ butane $HOME/clusterconfig/98-var-partition.bu -o $HOME/clusterconfig/openshift/98-var-partition.yaml
openshift-install
을 다시 실행하여manifest
및openshift
하위 디렉터리의 파일 세트에서 Ignition 구성을 만듭니다.$ openshift-install create ignition-configs --dir $HOME/clusterconfig $ ls $HOME/clusterconfig/ auth bootstrap.ign master.ign metadata.json worker.ign
이제 Ignition 구성 파일을 설치 절차에 대한 입력으로 사용하여 RHCOS (Red Hat Enterprise Linux CoreOS) 시스템을 설치할 수 있습니다.
6.4.7. Azure 리소스 그룹 생성
Microsoft Azure 리소스 그룹을 생성해야 합니다. 이는 Azure Stack Hub에 OpenShift Container Platform 클러스터를 설치하는 동안 사용됩니다.
사전 요구 사항
- Azure 계정을 구성하십시오.
- 클러스터에 대한 Ignition 구성 파일을 생성하십시오.
프로세스
지원되는 Azure 리전에서 리소스 그룹을 생성합니다.
$ az group create --name ${RESOURCE_GROUP} --location ${AZURE_REGION}
6.4.8. RHCOS 클러스터 이미지 및 부트스트랩 Ignition 구성 파일 업로드
Azure 클라이언트는 로컬로 존재하는 파일을 기반으로 한 배포를 지원하지 않습니다. 따라서 RHCOS VHD(가상 하드 디스크) 클러스터 이미지와 부트스트랩 Ignition 구성 파일을 스토리지 컨테이너에 복사하여 저장해야 배포 중에 액세스할 수 있습니다.
사전 요구 사항
- Azure 계정을 구성하십시오.
- 클러스터에 대한 Ignition 구성 파일을 생성하십시오.
프로세스
VHD 클러스터 이미지를 저장할 Azure 스토리지 계정을 생성합니다.
$ az storage account create -g ${RESOURCE_GROUP} --location ${AZURE_REGION} --name ${CLUSTER_NAME}sa --kind Storage --sku Standard_LRS
주의Azure 스토리지 계정 이름은 3자에서 24자 사이여야 하며 숫자와 소문자만 사용해야 합니다.
CLUSTER_NAME
변수가 이러한 제한 사항을 따르지 않으면 Azure 스토리지 계정 이름을 수동으로 정의해야 합니다. Azure 스토리지 계정 이름 제한 사항에 대한 자세한 내용은 Azure 문서의 스토리지 계정 이름 오류 해결을 참조하십시오.스토리지 계정 키를 환경 변수 형태로 내보냅니다.
$ export ACCOUNT_KEY=`az storage account keys list -g ${RESOURCE_GROUP} --account-name ${CLUSTER_NAME}sa --query "[0].value" -o tsv`
사용할 RHCOS 버전을 선택하고 VHD의 URL을 환경 변수로 내보냅니다.
$ export COMPRESSED_VHD_URL=`curl -s https://raw.githubusercontent.com/openshift/installer/release-4.9/data/data/rhcos-amd64.json | jq -r '(.baseURI + .images.azurestack.path)'`
중요RHCOS 이미지는 OpenShift Container Platform 릴리스에 따라 변경되지 않을 수 있습니다. 설치하는 OpenShift Container Platform 버전 이하에서 가장 높은 버전의 이미지를 지정해야 합니다. 지원되는 경우 OpenShift Container Platform 버전과 일치하는 이미지 버전을 사용합니다.
VHD용 스토리지 컨테이너를 생성합니다.
$ az storage container create --name vhd --account-name ${CLUSTER_NAME}sa --account-key ${ACCOUNT_KEY}
압축된 RHCOS VHD 파일을 로컬에서 다운로드합니다.
$ curl -O -L ${COMPRESSED_VHD_URL}
VHD 파일의 압축을 풉니다.
참고압축 해제된 VHD 파일은 약 16GB이므로 호스트 시스템에 사용 가능한 공간이 16GB인지 확인합니다. 업로드한 후에는 VHD 파일을 삭제할 수 있습니다.
선택한 VHD를 Blob에 복사합니다.
$ az storage blob upload --account-name ${CLUSTER_NAME}sa --account-key ${ACCOUNT_KEY} -c vhd -n "rhcos.vhd" -f rhcos-<rhcos_version>-azurestack.x86_64.vhd
Blob 스토리지 컨테이너를 만들고 생성된
bootstrap.ign
파일을 업로드합니다.$ az storage container create --name files --account-name ${CLUSTER_NAME}sa --account-key ${ACCOUNT_KEY} --public-access blob
$ az storage blob upload --account-name ${CLUSTER_NAME}sa --account-key ${ACCOUNT_KEY} -c "files" -f "<installation_directory>/bootstrap.ign" -n "bootstrap.ign"
6.4.9. DNS 영역 생성 예
사용자 프로비저닝 인프라를 사용하는 클러스터에는 DNS 레코드가 필요합니다. 시나리오에 맞는 DNS 전략을 선택해야 합니다.
이 예에서는 Azure Stack Hub의 데이터센터 DNS 통합이 사용되므로 DNS 영역을 생성합니다.
DNS 영역은 클러스터 배포와 동일한 리소스 그룹에 존재할 필요는 없으며 원하는 기본 도메인의 조직에 이미 있을 수 있습니다. 이 경우 DNS 영역 생성을 건너뛸 수 있습니다. 이전에 생성한 설치 구성이 해당 시나리오를 반영하는지 확인하십시오.
사전 요구 사항
- Azure 계정을 구성하십시오.
- 클러스터에 대한 Ignition 구성 파일을 생성하십시오.
프로세스
BASE_DOMAIN_RESOURCE_GROUP
환경 변수에서 내보낸 리소스 그룹에 새 DNS 영역을 생성합니다.$ az network dns zone create -g ${BASE_DOMAIN_RESOURCE_GROUP} -n ${CLUSTER_NAME}.${BASE_DOMAIN}
이미 존재하는 DNS 영역을 사용하는 경우 이 단계를 건너뛸 수 있습니다.
해당 섹션을 방문하여 Azure Stack Hub에서 DNS 영역을 구성하는 방법에 대해 자세히 알아볼 수 있습니다.
6.4.10. Azure Stack Hub에서 VNet 생성
Microsoft Azure Stack Hub에서 OpenShift Container Platform 클러스터가 사용할 가상 네트워크(VNet)를 생성해야 합니다. 요구사항에 맞춰 VNet을 사용자 지정할 수 있습니다. VNet을 생성하는 한 가지 방법은 제공된 ARM(Azure Resource Manager) 템플릿을 수정하는 것입니다.
Azure Stack Hub 인프라를 생성하는 데 제공된 ARM 템플릿을 사용하지 않는 경우, 제공된 정보를 검토하고 수동으로 인프라를 생성해야 합니다. 클러스터가 올바르게 초기화되지 않은 경우, Red Hat 지원팀에 설치 로그를 제시하여 문의해야 할 수도 있습니다.
사전 요구 사항
- Azure 계정을 구성하십시오.
- 클러스터에 대한 Ignition 구성 파일을 생성하십시오.
프로세스
-
이 항목의 VNet에 대한 ARM 템플릿 섹션에서 템플릿을 복사하여 클러스터의 설치 디렉터리에
01_vnet.json
으로 저장합니다. 이 템플릿은 클러스터에 필요한 VNet을 설명합니다. az
CLI를 사용하여 배포를 생성합니다.$ az deployment group create -g ${RESOURCE_GROUP} \ --template-file "<installation_directory>/01_vnet.json" \ --parameters baseName="${INFRA_ID}"1
- 1
- 리소스 이름에 사용될 기본 이름; 일반적으로 클러스터의 인프라 ID입니다.
6.4.10.1. VNet용 ARM 템플릿
다음 ARM(Azure Resource Manager) 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 VNet을 배포할 수 있습니다.
예 6.1. 01_vnet.json
ARM 템플릿
link:https://raw.githubusercontent.com/openshift/installer/release-4.9/upi/azurestack/01_vnet.json[]
6.4.11. Azure Stack Hub 인프라에 대한 RHCOS 클러스터 이미지 배포
OpenShift Container Platform 노드에 대해서는 Microsoft Azure Stack Hub에 유효한 RHCOS(Red Hat Enterprise Linux CoreOS) 이미지를 사용해야 합니다.
사전 요구 사항
- Azure 계정을 구성하십시오.
- 클러스터에 대한 Ignition 구성 파일을 생성하십시오.
- RHCOS VHD(가상 하드 디스크) 클러스터 이미지를 Azure 스토리지 컨테이너에 저장하십시오.
- 부트스트랩 ignition 구성 파일을 Azure 스토리지 컨테이너에 저장하십시오.
절차
-
이 항목의 이미지 스토리지에 대한 ARM 템플릿 섹션에서 템플릿을 복사하여 클러스터의 설치 디렉터리에
02_storage.json
으로 저장합니다. 이 템플릿은 클러스터에 필요한 이미지 스토리지를 설명합니다. RHCOS VHD BLOB URL을 변수 형태로 내보냅니다.
$ export VHD_BLOB_URL=`az storage blob url --account-name ${CLUSTER_NAME}sa --account-key ${ACCOUNT_KEY} -c vhd -n "rhcos.vhd" -o tsv`
클러스터 이미지를 배포합니다.
$ az deployment group create -g ${RESOURCE_GROUP} \ --template-file "<installation_directory>/02_storage.json" \ --parameters vhdBlobURL="${VHD_BLOB_URL}" \ 1 --parameters baseName="${INFRA_ID}"2
6.4.11.1. 이미지 스토리지를 위한 ARM 템플릿
다음 ARM(Azure Resource Manager) 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 저장된 RHCOS(Red Hat Enterprise Linux CoreOS) 이미지를 배포할 수 있습니다.
예 6.2. 02_storage.json
ARM 템플릿
link:https://raw.githubusercontent.com/openshift/installer/release-4.9/upi/azurestack/02_storage.json[]
6.4.12. 사용자 프로비저닝 인프라에 대한 네트워킹 요구사항
모든 RHCOS(Red Hat Enterprise Linux CoreOS) 시스템이 부팅 중에 Ignition 구성 파일을 가져오려면 initramfs
에 네트워킹을 구성해야 합니다.
6.4.12.1. 네트워크 연결 요구사항
OpenShift Container Platform 클러스터 구성 요소가 통신할 수 있도록 시스템 간 네트워크 연결을 구성해야 합니다. 각 시스템에서 클러스터에 있는 다른 모든 시스템의 호스트 이름을 확인할 수 있어야 합니다.
이 섹션에서는 필요한 포트에 대해 자세히 설명합니다.
연결된 OpenShift Container Platform 환경에서 모든 노드는 플랫폼 컨테이너의 이미지를 가져오고 Red Hat에 원격 측정 데이터를 제공하기 위해 인터넷에 액세스할 수 있어야 합니다.
프로토콜 | 포트 | 설명 |
---|---|---|
ICMP | 해당 없음 | 네트워크 연결성 테스트 |
TCP |
| 메트릭 |
|
| |
| Kubernetes에서 예약하는 기본 포트 | |
| openshift-sdn | |
UDP |
| VXLAN 및 Geneve |
| VXLAN 및 Geneve | |
|
| |
| IPsec IKE 패킷 | |
| IPsec NAT-T 패킷 | |
TCP/UDP |
| Kubernetes 노드 포트 |
ESP | 해당 없음 | IPsec Encapsulating Security Payload (ESP) |
프로토콜 | 포트 | 설명 |
---|---|---|
TCP |
| Kubernetes API |
프로토콜 | 포트 | 설명 |
---|---|---|
TCP |
| etcd 서버 및 피어 포트 |
6.4.13. Azure Stack Hub에서 네트워킹 및 로드 밸런싱 구성 요소 생성
Microsoft Azure Stack Hub에서 OpenShift Container Platform 클러스터가 사용할 네트워킹 및 로드 밸런싱을 구성해야 합니다. 이러한 구성 요소를 생성하는 한 가지 방법은 제공된 ARM(Azure Resource Manager) 템플릿을 수정하는 것입니다.
로드 밸런싱에는 다음과 같은 DNS 레코드가 필요합니다.
-
DNS
영역
의 API 공용 로드 밸런서에 대한 API DNS 레코드입니다. -
DNS 영역의 API 내부 로드 밸런서에 대한
api-int
DNS 레코드입니다.
Azure Stack Hub 인프라를 생성하는 데 제공된 ARM 템플릿을 사용하지 않는 경우, 제공된 정보를 검토하고 수동으로 인프라를 생성해야 합니다. 클러스터가 올바르게 초기화되지 않은 경우, Red Hat 지원팀에 설치 로그를 제시하여 문의해야 할 수도 있습니다.
사전 요구 사항
- Azure 계정을 구성하십시오.
- 클러스터에 대한 Ignition 구성 파일을 생성하십시오.
- Azure Stack Hub에서 VNet 및 관련 서브넷을 생성하고 구성합니다.
절차
-
이 항목의 네트워크 및 로드 밸런서에 대한 ARM 템플릿 섹션에서 템플릿을 복사하여 클러스터의 설치 디렉터리에
03_infra.json
으로 저장합니다. 이 템플릿은 클러스터에 필요한 네트워킹 및 로드 밸런싱 개체를 설명합니다. az
CLI를 사용하여 배포를 생성합니다.$ az deployment group create -g ${RESOURCE_GROUP} \ --template-file "<installation_directory>/03_infra.json" \ --parameters baseName="${INFRA_ID}"1
- 1
- 리소스 이름에 사용될 기본 이름; 일반적으로 클러스터의 인프라 ID입니다.
api
DNS 레코드 및api-int
DNS 레코드를 만듭니다. API DNS 레코드를 생성할 때${BASE_DOMAIN_RESOURCE_GROUP}
변수는 DNS 영역이 존재하는 리소스 그룹을 가리켜야 합니다.다음 변수를 내보냅니다.
$ export PUBLIC_IP=`az network public-ip list -g ${RESOURCE_GROUP} --query "[?name=='${INFRA_ID}-master-pip'] | [0].ipAddress" -o tsv`
다음 변수를 내보냅니다.
$ export PRIVATE_IP=`az network lb frontend-ip show -g "$RESOURCE_GROUP" --lb-name "${INFRA_ID}-internal" -n internal-lb-ip --query "privateIpAddress" -o tsv`
새
DNS 영역에 API
DNS 레코드를 생성합니다.$ az network dns record-set a add-record -g ${BASE_DOMAIN_RESOURCE_GROUP} -z ${CLUSTER_NAME}.${BASE_DOMAIN} -n api -a ${PUBLIC_IP} --ttl 60
기존 DNS 영역에 클러스터를 추가하는 경우 대신
api
DNS 레코드를 생성할 수 있습니다.$ az network dns record-set a add-record -g ${BASE_DOMAIN_RESOURCE_GROUP} -z ${BASE_DOMAIN} -n api.${CLUSTER_NAME} -a ${PUBLIC_IP} --ttl 60
새 DNS 영역에
api-int
DNS 레코드를 생성합니다.$ az network dns record-set a add-record -g ${BASE_DOMAIN_RESOURCE_GROUP} -z "${CLUSTER_NAME}.${BASE_DOMAIN}" -n api-int -a ${PRIVATE_IP} --ttl 60
기존 DNS 영역에 클러스터를 추가하는 경우 대신
api-int
DNS 레코드를 생성할 수 있습니다.$ az network dns record-set a add-record -g ${BASE_DOMAIN_RESOURCE_GROUP} -z ${BASE_DOMAIN} -n api-int.${CLUSTER_NAME} -a ${PRIVATE_IP} --ttl 60
6.4.13.1. 네트워크 및 로드 밸런서에 대한 ARM 템플릿
다음 ARM(Azure Resource Manager) 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 네트워킹 개체 및 로드 밸런서를 배포할 수 있습니다.
예 6.3. 03_infra.json
ARM 템플릿
link:https://raw.githubusercontent.com/openshift/installer/release-4.9/upi/azurestack/03_infra.json[]
6.4.14. Azure Stack Hub에서 부트스트랩 시스템 생성
OpenShift Container Platform 클러스터 초기화 중에 사용할 부트스트랩 시스템을 Microsoft Azure Stack Hub에 생성해야 합니다. 이 시스템을 생성하는 한 가지 방법은 제공된 ARM(Azure Resource Manager) 템플릿을 수정하는 것입니다.
부트스트랩 시스템을 생성하는 데 제공된 ARM 템플릿을 사용하지 않는 경우, 제공된 정보를 검토하고 수동으로 인프라를 생성해야 합니다. 클러스터가 올바르게 초기화되지 않은 경우, Red Hat 지원팀에 설치 로그를 제시하여 문의해야 할 수도 있습니다.
사전 요구 사항
- Azure 계정을 구성하십시오.
- 클러스터에 대한 Ignition 구성 파일을 생성하십시오.
- Azure Stack Hub에서 VNet 및 관련 서브넷을 생성하고 구성합니다.
- Azure Stack Hub에서 네트워킹 및 로드 밸런서를 생성하고 구성합니다.
- 컨트롤 플레인 및 컴퓨팅 역할을 생성합니다.
절차
-
이 항목의 부트스트랩 시스템에 대한 ARM 템플릿 섹션에서 템플릿을 복사하여 클러스터의 설치 디렉터리에
04_bootstrap.json
으로 저장합니다. 이 템플릿은 클러스터에 필요한 부트스트랩 시스템을 설명합니다. 부트스트랩 URL 변수를 내보냅니다.
$ export BOOTSTRAP_URL=`az storage blob url --account-name ${CLUSTER_NAME}sa --account-key ${ACCOUNT_KEY} -c "files" -n "bootstrap.ign" -o tsv`
부트스트랩 ignition 변수를 내보냅니다.
환경에서 공용 CA(인증 기관)를 사용하는 경우 다음 명령을 실행합니다.
$ export BOOTSTRAP_IGNITION=`jq -rcnM --arg v "3.2.0" --arg url ${BOOTSTRAP_URL} '{ignition:{version:$v,config:{replace:{source:$url}}}}' | base64 | tr -d '\n'`
환경에서 내부 CA를 사용하는 경우 부트스트랩 가상 머신이 스토리지 계정에서 부트스트랩 ignition을 가져올 수 있도록 PEM 인코딩 번들을 부트스트랩 ignition에 추가해야 합니다. 다음 명령을 실행하여 CA가
CA라는 파일에 있다고 가정합니다.
$ export CA="data:text/plain;charset=utf-8;base64,$(cat CA.pem |base64 |tr -d '\n')"
$ export BOOTSTRAP_IGNITION=`jq -rcnM --arg v "3.2.0" --arg url "$BOOTSTRAP_URL" --arg cert "$CA" '{ignition:{version:$v,security:{tls:{certificateAuthorities:[{source:$cert}]}},config:{replace:{source:$url}}}}' | base64 | tr -d '\n'`
az
CLI를 사용하여 배포를 생성합니다.$ az deployment group create --verbose -g ${RESOURCE_GROUP} \ --template-file "<installation_directory>/04_bootstrap.json" \ --parameters bootstrapIgnition="${BOOTSTRAP_IGNITION}" \ 1 --parameters sshKeyData="${SSH_KEY}" \ 2 --parameters baseName="${INFRA_ID}" \ 3 --parameters diagnosticsStorageAccountName="${CLUSTER_NAME}sa" 4
6.4.14.1. 부트스트랩 시스템용 ARM 템플릿
다음 ARM(Azure Resource Manager) 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 부트스트랩 시스템을 배포할 수 있습니다.
예 6.4. 04_bootstrap.json
ARM 템플릿
link:https://raw.githubusercontent.com/openshift/installer/release-4.9/upi/azurestack/04_bootstrap.json[]
6.4.15. Azure Stack Hub에서 컨트롤 플레인 시스템 생성
클러스터가 사용할 Microsoft Azure Stack Hub에서 컨트롤 플레인 시스템을 생성해야 합니다. 이러한 시스템을 생성하는 한 가지 방법은 제공된 ARM(Azure Resource Manager) 템플릿을 수정하는 것입니다.
컨트롤 플레인 시스템을 생성하는 데 제공된 ARM 템플릿을 사용하지 않는 경우, 제공된 정보를 검토하고 수동으로 인프라를 생성해야 합니다. 클러스터가 올바르게 초기화되지 않은 경우, Red Hat 지원팀에 설치 로그를 제시하여 문의해야 할 수도 있습니다.
사전 요구 사항
- Azure 계정을 구성하십시오.
- 클러스터에 대한 Ignition 구성 파일을 생성하십시오.
- Azure Stack Hub에서 VNet 및 관련 서브넷을 생성하고 구성합니다.
- Azure Stack Hub에서 네트워킹 및 로드 밸런서를 생성하고 구성합니다.
- 컨트롤 플레인 및 컴퓨팅 역할을 생성합니다.
- 부트스트랩 시스템을 생성합니다.
프로세스
-
이 항목의 컨트롤 플레인 시스템에 대한 ARM 템플릿 섹션에서 템플릿을 복사하여 클러스터의 설치 디렉터리에
05_masters.json
으로 저장합니다. 이 템플릿은 클러스터에 필요한 컨트롤 플레인 시스템을 설명합니다. 컨트롤 플레인 시스템 배포에 필요한 다음 변수를 내보냅니다.
$ export MASTER_IGNITION=`cat <installation_directory>/master.ign | base64 | tr -d '\n'`
az
CLI를 사용하여 배포를 생성합니다.$ az deployment group create -g ${RESOURCE_GROUP} \ --template-file "<installation_directory>/05_masters.json" \ --parameters masterIgnition="${MASTER_IGNITION}" \ 1 --parameters sshKeyData="${SSH_KEY}" \ 2 --parameters baseName="${INFRA_ID}" \ 3 --parameters diagnosticsStorageAccountName="${CLUSTER_NAME}sa" 4
6.4.15.1. 컨트롤 플레인 시스템에 대한 ARM 템플릿
다음 ARM(Azure Resource Manager) 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 컨트롤 플레인 시스템을 배포할 수 있습니다.
예 6.5. 05_masters.json
ARM 템플릿
link:https://raw.githubusercontent.com/openshift/installer/release-4.9/upi/azurestack/05_masters.json[]
6.4.16. 부트스트랩이 완료될 때까지 기다렸다가 Azure Stack Hub에서 부트스트랩 리소스 제거
Microsoft Azure Stack Hub에 필요한 인프라를 모두 생성한 후 설치 프로그램으로 생성한 Ignition 구성 파일을 사용하여 프로비저닝한 시스템에서 부트스트랩 프로세스가 완료될 때까지 기다립니다.
사전 요구 사항
- Azure 계정을 구성하십시오.
- 클러스터에 대한 Ignition 구성 파일을 생성하십시오.
- Azure Stack Hub에서 VNet 및 관련 서브넷을 생성하고 구성합니다.
- Azure Stack Hub에서 네트워킹 및 로드 밸런서를 생성하고 구성합니다.
- 컨트롤 플레인 및 컴퓨팅 역할을 생성합니다.
- 부트스트랩 시스템을 생성합니다.
- 컨트롤 플레인 시스템을 생성합니다.
프로세스
설치 프로그램이 포함된 디렉터리로 변경하고 다음 명령을 실행합니다.
$ ./openshift-install wait-for bootstrap-complete --dir <installation_directory> \ 1 --log-level info 2
FATAL
경고 없이 명령이 종료되면 프로덕션 컨트롤 플레인이 초기화된 것입니다.부트스트랩 리소스를 삭제합니다.
$ az network nsg rule delete -g ${RESOURCE_GROUP} --nsg-name ${INFRA_ID}-nsg --name bootstrap_ssh_in $ az vm stop -g ${RESOURCE_GROUP} --name ${INFRA_ID}-bootstrap $ az vm deallocate -g ${RESOURCE_GROUP} --name ${INFRA_ID}-bootstrap $ az vm delete -g ${RESOURCE_GROUP} --name ${INFRA_ID}-bootstrap --yes $ az disk delete -g ${RESOURCE_GROUP} --name ${INFRA_ID}-bootstrap_OSDisk --no-wait --yes $ az network nic delete -g ${RESOURCE_GROUP} --name ${INFRA_ID}-bootstrap-nic --no-wait $ az storage blob delete --account-key ${ACCOUNT_KEY} --account-name ${CLUSTER_NAME}sa --container-name files --name bootstrap.ign $ az network public-ip delete -g ${RESOURCE_GROUP} --name ${INFRA_ID}-bootstrap-ssh-pip
부트스트랩 서버를 삭제하지 않으면 API 트래픽이 부트스트랩 서버로 라우팅되므로 설치가 성공하지 못할 수 있습니다.
6.4.17. Azure Stack Hub에서 추가 작업자 시스템 생성
개별 인스턴스를 따로 시작하거나 자동 확장 그룹과 같은 클러스터 외부의 자동화된 프로세스를 통해 클러스터에서 사용할 작업자 시스템을 Microsoft Azure Stack Hub에 생성할 수 있습니다. OpenShift Container Platform의 기본 제공 클러스터 확장 메커니즘과 시스템 API를 활용할 수도 있습니다.
예에서는 ARM(Azure Resource Manager) 템플릿을 사용하여 인스턴스 하나를 수동으로 시작합니다. 파일에 06_worker.json
유형의 추가 리소스를 포함시켜 추가 인스턴스를 시작할 수 있습니다.
작업자 시스템을 생성하는 데 제공된 ARM 템플릿을 사용하지 않는 경우, 제공된 정보를 검토하고 수동으로 인프라를 생성해야 합니다. 클러스터가 올바르게 초기화되지 않은 경우, Red Hat 지원팀에 설치 로그를 제시하여 문의해야 할 수도 있습니다.
사전 요구 사항
- Azure 계정을 구성하십시오.
- 클러스터에 대한 Ignition 구성 파일을 생성하십시오.
- Azure Stack Hub에서 VNet 및 관련 서브넷을 생성하고 구성합니다.
- Azure Stack Hub에서 네트워킹 및 로드 밸런서를 생성하고 구성합니다.
- 컨트롤 플레인 및 컴퓨팅 역할을 생성합니다.
- 부트스트랩 시스템을 생성합니다.
- 컨트롤 플레인 시스템을 생성합니다.
프로세스
-
이 항목의 작업자 시스템에 대한 ARM 템플릿 섹션에서 템플릿을 복사하여 클러스터의 설치 디렉터리에
06_workers.json
으로 저장합니다. 이 템플릿에서 클러스터에 필요한 작업자 시스템을 설명합니다. 작업자 시스템 배포에 필요한 다음 변수를 내보냅니다.
$ export WORKER_IGNITION=`cat <installation_directory>/worker.ign | base64 | tr -d '\n'`
az
CLI를 사용하여 배포를 생성합니다.$ az deployment group create -g ${RESOURCE_GROUP} \ --template-file "<installation_directory>/06_workers.json" \ --parameters workerIgnition="${WORKER_IGNITION}" \ 1 --parameters sshKeyData="${SSH_KEY}" \ 2 --parameters baseName="${INFRA_ID}" 3 --parameters diagnosticsStorageAccountName="${CLUSTER_NAME}sa" 4
6.4.17.1. 작업자 시스템에 대한 ARM 템플릿
다음 ARM(Azure Resource Manager) 템플릿을 사용하여 OpenShift Container Platform 클러스터에 필요한 작업자 시스템을 배포할 수 있습니다.
예 6.6. 06_workers.json
ARM 템플릿
link:https://raw.githubusercontent.com/openshift/installer/release-4.9/upi/azurestack/06_workers.json[]
6.4.18. 바이너리를 다운로드하여 OpenShift CLI 설치
명령줄 인터페이스를 사용하여 OpenShift Container Platform과 상호 작용하기 위해 OpenShift CLI(oc
)를 설치할 수 있습니다. Linux, Windows 또는 macOS에 oc
를 설치할 수 있습니다.
이전 버전의 oc
를 설치한 경우 OpenShift Container Platform 4.9의 모든 명령을 완료하는 데 사용할 수 없습니다. 새 버전의 oc
를 다운로드하여 설치합니다.
Linux에서 OpenShift CLI 설치
다음 절차를 사용하여 Linux에서 OpenShift CLI(oc
) 바이너리를 설치할 수 있습니다.
프로세스
- Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
- 버전 드롭다운 메뉴에서 적절한 버전을 선택합니다.
- OpenShift v4.9 Linux Client 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
아카이브의 압축을 풉니다.
$ tar xvf <file>
oc
바이너리를PATH
에 있는 디렉터리에 배치합니다.PATH
를 확인하려면 다음 명령을 실행합니다.$ echo $PATH
OpenShift CLI를 설치한 후 oc
명령을 사용할 수 있습니다.
$ oc <command>
Windows에서 OpenSfhit CLI 설치
다음 절차에 따라 Windows에 OpenShift CLI(oc
) 바이너리를 설치할 수 있습니다.
프로세스
- Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
- 버전 드롭다운 메뉴에서 적절한 버전을 선택합니다.
- OpenShift v4.9 Windows Client 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
- ZIP 프로그램으로 아카이브의 압축을 풉니다.
oc
바이너리를PATH
에 있는 디렉터리로 이동합니다.PATH
를 확인하려면 명령 프롬프트를 열고 다음 명령을 실행합니다.C:\> path
OpenShift CLI를 설치한 후 oc
명령을 사용할 수 있습니다.
C:\> oc <command>
macOS에 OpenShift CLI 설치
다음 절차에 따라 macOS에서 OpenShift CLI(oc
) 바이너리를 설치할 수 있습니다.
프로세스
- Red Hat 고객 포털에서 OpenShift Container Platform 다운로드 페이지로 이동합니다.
- 버전 드롭다운 메뉴에서 적절한 버전을 선택합니다.
- OpenShift v4.9 MacOSX Client 항목 옆에 있는 지금 다운로드를 클릭하고 파일을 저장합니다.
- 아카이브의 압축을 해제하고 압축을 풉니다.
oc
바이너리 PATH의 디렉터리로 이동합니다.PATH
를 확인하려면 터미널을 열고 다음 명령을 실행합니다.$ echo $PATH
OpenShift CLI를 설치한 후 oc
명령을 사용할 수 있습니다.
$ oc <command>
6.4.19. CLI를 사용하여 클러스터에 로그인
클러스터 kubeconfig
파일을 내보내서 기본 시스템 사용자로 클러스터에 로그인할 수 있습니다. kubeconfig
파일에는 CLI에서 올바른 클러스터 및 API 서버에 클라이언트를 연결하는 데 사용하는 클러스터에 대한 정보가 포함되어 있습니다. 이 파일은 클러스터별로 고유하며 OpenShift Container Platform 설치 과정에서 생성됩니다.
사전 요구 사항
- OpenShift Container Platform 클러스터를 배포했습니다.
-
oc
CLI를 설치했습니다.
프로세스
kubeadmin
인증 정보를 내보냅니다.$ export KUBECONFIG=<installation_directory>/auth/kubeconfig 1
- 1
<installation_directory>
는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
내보낸 구성을 사용하여
oc
명령을 성공적으로 실행할 수 있는지 확인합니다.$ oc whoami
출력 예
system:admin
6.4.20. 머신의 인증서 서명 요청 승인
클러스터에 시스템을 추가하면 추가한 시스템별로 보류 중인 인증서 서명 요청(CSR)이 두 개씩 생성됩니다. 이러한 CSR이 승인되었는지 확인해야 하며, 필요한 경우 이를 직접 승인해야 합니다. 클라이언트 요청을 먼저 승인한 다음 서버 요청을 승인해야 합니다.
사전 요구 사항
- 클러스터에 시스템을 추가했습니다.
프로세스
클러스터가 시스템을 인식하는지 확인합니다.
$ oc get nodes
출력 예
NAME STATUS ROLES AGE VERSION master-0 Ready master 63m v1.22.1 master-1 Ready master 63m v1.22.1 master-2 Ready master 64m v1.22.1
출력에 생성된 모든 시스템이 나열됩니다.
참고이전 출력에는 일부 CSR이 승인될 때까지 컴퓨팅 노드(작업자 노드라고도 함)가 포함되지 않을 수 있습니다.
보류 중인 CSR을 검토하고 클러스터에 추가한 각 시스템에 대해
Pending
또는Approved
상태의 클라이언트 및 서버 요청이 표시되는지 확인합니다.$ oc get csr
출력 예
NAME AGE REQUESTOR CONDITION csr-8b2br 15m system:serviceaccount:openshift-machine-config-operator:node-bootstrapper Pending csr-8vnps 15m system:serviceaccount:openshift-machine-config-operator:node-bootstrapper Pending ...
예에서는 두 시스템이 클러스터에 참여하고 있습니다. 목록에는 승인된 CSR이 더 많이 나타날 수도 있습니다.
CSR이 승인되지 않은 경우, 추가된 시스템에 대한 모든 보류 중인 CSR이
Pending
상태로 전환된 후 클러스터 시스템의 CSR을 승인합니다.참고CSR은 교체 주기가 자동으로 만료되므로 클러스터에 시스템을 추가한 후 1시간 이내에 CSR을 승인하십시오. 한 시간 내에 승인하지 않으면 인증서가 교체되고 각 노드에 대해 두 개 이상의 인증서가 표시됩니다. 이러한 인증서를 모두 승인해야 합니다. 클라이언트 CSR이 승인되면 Kubelet은 인증서에 대한 보조 CSR을 생성하므로 수동 승인이 필요합니다. 그러면 Kubelet에서 동일한 매개변수를 사용하여 새 인증서를 요청하는 경우 인증서 갱신 요청은
machine-approver
에 의해 자동으로 승인됩니다.참고베어 메탈 및 기타 사용자 프로비저닝 인프라와 같이 머신 API를 사용하도록 활성화되지 않는 플랫폼에서 실행되는 클러스터의 경우 CSR(Kubelet service Certificate Request)을 자동으로 승인하는 방법을 구현해야 합니다. 요청이 승인되지 않으면 API 서버가 kubelet에 연결될 때 서비스 인증서가 필요하므로
oc exec
,oc rsh
,oc logs
명령을 성공적으로 수행할 수 없습니다. Kubelet 엔드 포인트에 연결하는 모든 작업을 수행하려면 이 인증서 승인이 필요합니다. 이 방법은 새 CSR을 감시하고 CSR이system:node
또는system:admin
그룹의node-bootstrapper
서비스 계정에 의해 제출되었는지 확인하고 노드의 ID를 확인합니다.개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오.
$ oc adm certificate approve <csr_name> 1
- 1
<csr_name>
은 현재 CSR 목록에 있는 CSR의 이름입니다.
보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오.
$ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs --no-run-if-empty oc adm certificate approve
참고일부 Operator는 일부 CSR이 승인될 때까지 사용할 수 없습니다.
이제 클라이언트 요청이 승인되었으므로 클러스터에 추가한 각 머신의 서버 요청을 검토해야 합니다.
$ oc get csr
출력 예
NAME AGE REQUESTOR CONDITION csr-bfd72 5m26s system:node:ip-10-0-50-126.us-east-2.compute.internal Pending csr-c57lv 5m26s system:node:ip-10-0-95-157.us-east-2.compute.internal Pending ...
나머지 CSR이 승인되지 않고
Pending
상태인 경우 클러스터 머신의 CSR을 승인합니다.개별적으로 승인하려면 유효한 CSR 각각에 대해 다음 명령을 실행하십시오.
$ oc adm certificate approve <csr_name> 1
- 1
<csr_name>
은 현재 CSR 목록에 있는 CSR의 이름입니다.
보류 중인 CSR을 모두 승인하려면 다음 명령을 실행하십시오.
$ oc get csr -o go-template='{{range .items}}{{if not .status}}{{.metadata.name}}{{"\n"}}{{end}}{{end}}' | xargs oc adm certificate approve
모든 클라이언트 및 서버 CSR이 승인된 후 머신은
Ready
상태가 됩니다. 다음 명령을 실행하여 확인합니다.$ oc get nodes
출력 예
NAME STATUS ROLES AGE VERSION master-0 Ready master 73m v1.22.1 master-1 Ready master 73m v1.22.1 master-2 Ready master 74m v1.22.1 worker-0 Ready worker 11m v1.22.1 worker-1 Ready worker 11m v1.22.1
참고머신이
Ready
상태로 전환하는 데 서버 CSR의 승인 후 몇 분이 걸릴 수 있습니다.
추가 정보
- CSR에 대한 자세한 내용은 인증서 서명 요청을 참조하십시오.
6.4.21. 인그레스 DNS 레코드 추가
Kubernetes 매니페스트를 생성하고 Ignition 구성을 생성할 때 DNS 영역 구성을 제거한 경우, 인그레스 로드 밸런서를 가리키는 DNS 레코드를 수동으로 생성해야 합니다. 와일드카드 *.apps.{baseDomain}.
또는 특정 레코드를 생성할 수 있습니다. 사용자 요구사항에 따라 A, CNAME 및 기타 레코드를 사용할 수 있습니다.
사전 요구 사항
- 프로비저닝한 인프라를 사용하여 Microsoft Azure Stack Hub에 OpenShift Container Platform 클러스터를 배포했습니다.
-
OpenShift CLI(
oc
)를 설치합니다. - Azure CLI를 설치 또는 업데이트합니다.
프로세스
인그레스 라우터가 로드 밸런서를 생성하고
EXTERNAL-IP
필드를 채웠는지 확인합니다.$ oc -n openshift-ingress get service router-default
출력 예
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE router-default LoadBalancer 172.30.20.10 35.130.120.110 80:32288/TCP,443:31215/TCP 20
인그레스 라우터 IP를 변수 형태로 내보냅니다.
$ export PUBLIC_IP_ROUTER=`oc -n openshift-ingress get service router-default --no-headers | awk '{print $4}'`
DNS 영역에
*.apps
레코드를 추가합니다.이 클러스터를 새 DNS 영역에 추가하는 경우 다음을 실행합니다.
$ az network dns record-set a add-record -g ${BASE_DOMAIN_RESOURCE_GROUP} -z ${CLUSTER_NAME}.${BASE_DOMAIN} -n *.apps -a ${PUBLIC_IP_ROUTER} --ttl 300
이 클러스터를 기존 DNS 영역에 추가하는 경우 다음을 실행합니다.
$ az network dns record-set a add-record -g ${BASE_DOMAIN_RESOURCE_GROUP} -z ${BASE_DOMAIN} -n *.apps.${CLUSTER_NAME} -a ${PUBLIC_IP_ROUTER} --ttl 300
와일드카드를 사용하지 않고 명시적 도메인을 추가하는 방식을 선호하면 클러스터의 현재 경로 각각에 대한 항목을 생성할 수 있습니다.
$ oc get --all-namespaces -o jsonpath='{range .items[*]}{range .status.ingress[*]}{.host}{"\n"}{end}{end}' routes
출력 예
oauth-openshift.apps.cluster.basedomain.com console-openshift-console.apps.cluster.basedomain.com downloads-openshift-console.apps.cluster.basedomain.com alertmanager-main-openshift-monitoring.apps.cluster.basedomain.com grafana-openshift-monitoring.apps.cluster.basedomain.com prometheus-k8s-openshift-monitoring.apps.cluster.basedomain.com
6.4.22. 사용자 프로비저닝 인프라에서 Azure Stack Hub 설치 완료
Microsoft Azure Stack Hub 사용자 프로비저닝 인프라에서 OpenShift Container Platform 설치를 시작한 후 클러스터가 준비될 때까지 클러스터 이벤트를 모니터링할 수 있습니다.
사전 요구 사항
- 사용자 프로비저닝 Azure Stack Hub 인프라에 OpenShift Container Platform 클러스터의 부트스트랩 시스템을 배포합니다.
-
oc
CLI를 설치하고 로그인하십시오.
프로세스
클러스터 설치를 완료합니다.
$ ./openshift-install --dir <installation_directory> wait-for install-complete 1
출력 예
INFO Waiting up to 30m0s for the cluster to initialize...
- 1
<installation_directory>
는 설치 파일을 저장한 디렉터리의 경로를 지정합니다.
중요-
설치 프로그램에서 생성하는 Ignition 구성 파일에 24시간 후에 만료되는 인증서가 포함되어 있습니다. 이 인증서는 그 후에 갱신됩니다. 인증서를 갱신하기 전에 클러스터가 종료되고 24시간이 지난 후에 클러스터가 다시 시작되면 클러스터는 만료된 인증서를 자동으로 복구합니다. 예외적으로 kubelet 인증서를 복구하려면 대기 중인
node-bootstrapper
인증서 서명 요청(CSR)을 수동으로 승인해야 합니다. 자세한 내용은 Recovering from expired control plane certificates 문서를 참조하십시오. - 클러스터를 설치한 후 24시간에서 22시간까지의 인증서가 교체되기 때문에 생성된 후 12시간 이내에 Ignition 구성 파일을 사용하는 것이 좋습니다. 12시간 이내에 Ignition 구성 파일을 사용하면 설치 중에 인증서 업데이트가 실행되는 경우 설치 실패를 방지할 수 있습니다.
추가 리소스
- Telemetry 서비스에 대한 자세한 내용은 원격 상태 모니터링 정보를 참조하십시오.