1.11. 문제 해결

클러스터에 로그인합니다. 일반적인 사용 사례의 경우 엔진 클러스터에 로그인하는 동안 must-gather 를 실행해야 합니다.

참고: 관리 클러스터를 확인하려면 cluster-scoped-resources 디렉터리에 있는 gather-managed.log 파일을 찾습니다.

<your-directory>/cluster-scoped-resources/gather-managed.log>

JOINED 및 AVAILABLE 열에 True 가 설정되지 않은 관리형 클러스터를 확인합니다. True 상태와 연결되지 않은 클러스터에서 must-gather 명령을 실행할 수 있습니다.

지정된 디렉터리로 이동하여 다음 수준에서 구성된 출력을 확인합니다.

다음 주석을 사용하여 노드의 BareMetalHost 오브젝트를 생성합니다.

"bmac.agent-install.openshift.io/installer-args": "[\"--append-karg\", \"coreos.force_persist_ip\"]"

다음 명령을 실행하여 < hosted_cluster_namespace>를 호스팅된 클러스터 네임스페이스 이름으로 교체하여 나머지 머신 리소스 목록을 확인합니다.

oc get machine -n <hosted_cluster_namespace>

다음 예제 출력을 참조하십시오.

NAMESPACE           NAME             CLUSTER          NODENAME   PROVIDERID   PHASE      AGE   VERSION
clusters-hosted-0   hosted-0-9gg8b   hosted-0-nhdbp                           Deleting   10h   4.14.0-rc.8

다음 명령을 실행하여 머신 리소스에 연결된 machine.cluster.x-k8s.io 종료자를 제거합니다.

oc edit machines -n <hosted_cluster_namespace>

다음 명령을 실행하여 터미널에 No resources found 메시지가 표시되는지 확인합니다.

oc get agentmachine -n <hosted_cluster_namespace>

다음 명령을 실행하여 에이전트 플랫폼에서 호스팅된 컨트롤 플레인 클러스터를 제거합니다.

hcp destroy cluster agent --name <cluster_name>

& lt;cluster_name >을 클러스터 이름으로 바꿉니다.

다음 스크립트를 파일에 복사합니다.

#!/bin/bash
MCE_NAMESPACE=<namespace>
oc delete multiclusterengine --all
oc delete apiservice v1.admission.cluster.open-cluster-management.io v1.admission.work.open-cluster-management.io
oc delete crd discoveredclusters.discovery.open-cluster-management.io discoveryconfigs.discovery.open-cluster-management.io
oc delete mutatingwebhookconfiguration ocm-mutating-webhook managedclustermutators.admission.cluster.open-cluster-management.io
oc delete validatingwebhookconfiguration ocm-validating-webhook
oc delete ns $MCE_NAMESPACE

스크립트에서 <namespace >를 다중 클러스터 엔진 Operator가 설치된 네임스페이스의 이름으로 바꿉니다. 네임스페이스가 정리 및 삭제되므로 올바른 네임스페이스를 지정해야 합니다.

관리 클러스터를 사용할 수 있는지 확인합니다. Red Hat Advanced Cluster Management 콘솔의 Clusters 영역에서 확인할 수 있습니다.

사용할 수 없는 경우 관리 클러스터를 다시 시작하십시오.

관리 클러스터 상태가 여전히 오프라인 상태인 경우 다음 단계를 완료합니다.

hub 클러스터에서 다음 명령을 실행하여 가져오기 컨트롤러가 실행 중인지 확인합니다.

kubectl -n multicluster-engine get pods -l app=managedcluster-import-controller-v2

실행 중인 Pod 두 개가 표시되어야 합니다. Pod 중 하나가 실행 중이 아닌 경우 다음 명령을 실행하여 로그를 확인하여 이유를 확인합니다.

kubectl -n multicluster-engine logs -l app=managedcluster-import-controller-v2 --tail=-1

hub 클러스터에서 다음 명령을 실행하여 가져오기 컨트롤러에서 관리 클러스터 가져오기 보안이 성공적으로 생성되었는지 확인합니다.

kubectl -n <managed_cluster_name> get secrets <managed_cluster_name>-import

가져오기 보안이 없는 경우 다음 명령을 실행하여 가져오기 컨트롤러의 로그 항목을 보고 생성되지 않은 이유를 확인합니다.

kubectl -n multicluster-engine logs -l app=managedcluster-import-controller-v2 --tail=-1 | grep importconfig-controller

허브 클러스터에서 관리 클러스터가 로컬 클러스터이고 Hive에서 프로비저닝하거나 자동 가져오기 시크릿이 있는 경우 다음 명령을 실행하여 관리 클러스터의 가져오기 상태를 확인합니다.

kubectl get managedcluster <managed_cluster_name> -o=jsonpath='{range .status.conditions[*]}{.type}{"\t"}{.status}{"\t"}{.message}{"\n"}{end}' | grep ManagedClusterImportSucceeded

ManagedClusterImportSucceeded 조건이 true 가 아닌 경우 명령의 결과는 실패 이유를 나타냅니다.

다음 명령을 실행하여 your-managed-cluster-name 을 관리 클러스터 이름으로 교체하여 관리 클러스터 이름을 지정합니다.

cluster_name=<your-managed-cluster-name>

다음 명령을 실행하여 관리형 클러스터 kubeconfig 시크릿 이름을 가져옵니다.

kubeconfig_secret_name=$(oc -n ${cluster_name} get clusterdeployments ${cluster_name} -ojsonpath='{.spec.clusterMetadata.adminKubeconfigSecretRef.name}')

다음 명령을 실행하여 kubeconfig 를 새 파일로 내보냅니다.

oc -n ${cluster_name} get secret ${kubeconfig_secret_name} -ojsonpath={.data.kubeconfig} | base64 -d > kubeconfig.old

export KUBECONFIG=kubeconfig.old

다음 명령을 실행하여 kubeconfig 를 사용하여 관리 클러스터에서 네임스페이스를 가져옵니다.

oc get ns

다음 명령을 실행하여 kubeconfig 파일 경로와 클러스터 이름을 설정합니다. & lt;path_to_kubeconfig& gt;를 새 kubeconfig 파일의 경로로 바꿉니다. & lt;managed_cluster_name >을 관리 클러스터 이름으로 바꿉니다.

cluster_name=<managed_cluster_name>
kubeconfig_file=<path_to_kubeconfig>

다음 명령을 실행하여 새 kubeconfig 를 인코딩합니다.

kubeconfig=$(cat ${kubeconfig_file} | base64 -w0)

참고: macOS에서 다음 명령을 실행합니다.

kubeconfig=$(cat ${kubeconfig_file} | base64)

다음 명령을 실행하여 kubeconfig json 패치를 정의합니다.

kubeconfig_patch="[\{\"op\":\"replace\", \"path\":\"/data/kubeconfig\", \"value\":\"${kubeconfig}\"}, \{\"op\":\"replace\", \"path\":\"/data/raw-kubeconfig\", \"value\":\"${kubeconfig}\"}]"

다음 명령을 실행하여 관리 클러스터에서 관리자 kubeconfig 시크릿 이름을 검색합니다.

kubeconfig_secret_name=$(oc -n ${cluster_name} get clusterdeployments ${cluster_name} -ojsonpath='{.spec.clusterMetadata.adminKubeconfigSecretRef.name}')

다음 명령을 실행하여 관리자 kubeconfig 시크릿을 새 kubeconfig 로 패치합니다.

oc -n ${cluster_name} patch secrets ${kubeconfig_secret_name} --type='json' -p="${kubeconfig_patch}"

관리 클러스터에서 다음 명령을 실행하여 문제가 있는 Kubernetes Pod 이름을 확인합니다.

kubectl get pod -n open-cluster-management-agent | grep klusterlet-registration-agent

관리 클러스터에서 다음 명령을 실행하여 오류의 로그 항목을 찾습니다.

kubectl logs <registration_agent_pod> -n open-cluster-management-agent

registration_agent_pod 를 1단계에서 확인한 포드 이름으로 교체합니다.

hub 클러스터에 다음 명령을 입력하여 문제가 있는 포트 번호를 검색합니다.

oc get infrastructure cluster -o yaml | grep apiServerURL

관리 클러스터의 호스트 이름을 확인할 수 있고 호스트와 포트에 대한 아웃바운드 연결이 발생하는지 확인합니다.

관리 클러스터에서 통신을 설정할 수 없는 경우 클러스터 가져오기가 완료되지 않습니다. 관리 클러스터의 클러스터 상태는 가져오기 보류 중입니다.

hub 클러스터에서 다음 명령을 실행하여 관리 클러스터 가져오기 보안을 다시 생성합니다.

oc delete secret -n <cluster_name> <cluster_name>-import

& lt;cluster_name >을 가져올 관리 클러스터의 이름으로 바꿉니다.

허브 클러스터에서 다음 명령을 실행하여 관리 클러스터 가져오기 보안을 YAML 파일에 노출합니다.

oc get secret -n <cluster_name> <cluster_name>-import -ojsonpath='{.data.import\.yaml}' | base64 --decode  > import.yaml

& lt;cluster_name >을 가져올 관리 클러스터의 이름으로 바꿉니다.

관리 클러스터에서 다음 명령을 실행하여 import.yaml 파일을 적용합니다.

oc apply -f import.yaml

다음 명령을 입력하여 hub 클러스터에서 ManagedCluster 사양을 편집합니다.

oc edit managedcluster <cluster-name>

cluster-name 을 관리 클러스터의 이름으로 바꿉니다.

관리 클러스터에서 다음 명령을 실행하여 Klusterlet 상태를 확인합니다.

kubectl get klusterlets klusterlet -oyaml

다음 명령을 실행하여 <cluster_name> 네임스페이스에 남아 있는 리소스 목록을 생성합니다.

oc api-resources --verbs=list --namespaced -o name | grep -E '^secrets|^serviceaccounts|^managedclusteraddons|^roles|^rolebindings|^manifestworks|^leases|^managedclusterinfo|^appliedmanifestworks'|^clusteroauths' | xargs -n 1 oc get --show-kind --ignore-not-found -n <cluster_name>

cluster_name 을 제거하려는 클러스터의 네임스페이스 이름으로 교체합니다.

다음 명령을 입력하여 목록을 편집하여 Delete 상태가 없는 목록에서 식별된 각 리소스를 삭제합니다.

oc edit <resource_kind> <resource_name> -n <namespace>

resource_kind 를 리소스 종류로 바꿉니다. resource_name 을 리소스 이름으로 교체합니다. namespace 를 리소스의 네임스페이스 이름으로 교체합니다.

다음 명령을 입력하여 네임스페이스를 삭제합니다.

oc delete ns <cluster-name>

cluster-name 을 삭제하려는 네임스페이스 이름으로 교체합니다.

기존 auto-import-secret 을 수동으로 삭제하려면 hub 클러스터에서 다음 명령을 실행합니다.

oc delete secret auto-import-secret -n <cluster-namespace>

cluster-namespace 를 클러스터의 네임스페이스로 바꿉니다.

다음 명령을 실행하여 배치 조건을 확인합니다.

kubectl describe placement <placement-name>

placement-name 을 배치 이름으로 교체합니다.

출력은 다음 예와 유사할 수 있습니다.

Name:         demo-placement
Namespace:    default
Labels:       <none>
Annotations:  <none>
API Version:  cluster.open-cluster-management.io/v1beta1
Kind:         Placement
Status:
  Conditions:
    Last Transition Time:       2022-09-30T07:39:45Z
    Message:                    Placement configurations check pass
    Reason:                     Succeedconfigured
    Status:                     False
    Type:                       PlacementMisconfigured
    Last Transition Time:       2022-09-30T07:39:45Z
    Message:                    No valid ManagedClusterSetBindings found in placement namespace
    Reason:                     NoManagedClusterSetBindings
    Status:                     False
    Type:                       PlacementSatisfied
  Number Of Selected Clusters:  0

PlacementMisconfigured 및 PlacementSatisfied:의 상태에 대한 출력을 확인합니다.

이벤트에서 각 클러스터의 점수를 확인하여 점수가 낮은 일부 클러스터가 선택되지 않은 이유를 확인할 수 있습니다. 출력은 다음 예와 유사할 수 있습니다.

Name:         demo-placement
Namespace:    default
Labels:       <none>
Annotations:  <none>
API Version:  cluster.open-cluster-management.io/v1beta1
Kind:         Placement
Events:
  Type    Reason          Age   From                 Message
  ----    ------          ----  ----                 -------
  Normal  DecisionCreate  2m10s   placementController  Decision demo-placement-decision-1 is created with placement demo-placement in namespace default
  Normal  DecisionUpdate  2m10s   placementController  Decision demo-placement-decision-1 is updated with placement demo-placement in namespace default
  Normal  ScoreUpdate     2m10s   placementController  cluster1:0 cluster2:100 cluster3:200
  Normal  DecisionUpdate  3s      placementController  Decision demo-placement-decision-1 is updated with placement demo-placement in namespace default
  Normal  ScoreUpdate     3s      placementController  cluster1:200 cluster2:145 cluster3:189 cluster4:200

참고: 배치 컨트롤러는 점수를 할당하고 각 필터링된 ManagedCluster 에 대한 이벤트를 생성합니다. 배치 컨트롤러는 클러스터 점수가 변경될 때 새 이벤트를 생성합니다.

다음 명령을 실행하여 내부 레지스트리 이름을 가져옵니다.

oc get imagecontentsourcepolicy -o json | jq -r '.items[].spec.repositoryDigestMirrors[0].mirrors[0]'

다음 명령을 실행하여 페이로드 이미지를 가져옵니다.

oc get clusterversion version -ojsonpath='{.status.desired.image}'

호스팅된 클러스터의 페이로드 이미지에서 부팅 이미지가 포함된 0000_50_installer_coreos-bootimages.yaml 파일을 추출합니다. & lt;payload_image >를 페이로드 이미지 이름으로 바꿉니다. 다음 명령을 실행합니다.

oc image extract --file /release-manifests/0000_50_installer_coreos-bootimages.yaml <payload_image> --confirm

다음 명령을 실행하여 RHCOS 이미지를 가져옵니다.

cat 0000_50_installer_coreos-bootimages.yaml | yq -r .data.stream | jq -r '.architectures.x86_64.images.kubevirt."digest-ref"'

RHCOS 이미지를 내부 레지스트리에 미러링합니다. < rhcos_image >를 RHCOS 이미지로 바꿉니다(예: quay.io/openshift-release-dev/ocp-v4.0-art-dev@sha256:d9643ead36b1c026be664c9c65c11433c6cdffd93ba229141d134a4a 694 . < internal_registry >를 내부 레지스트리의 이름으로 바꿉니다(예: virthost.ostest.test.metalkube.org:5000/localimages/ocp-v4.0-art-dev ). 다음 명령을 실행합니다.

oc image mirror <rhcos_image> <internal_registry>

ImageDigestMirrorSet 오브젝트를 정의하는 rhcos-boot-kubevirt.yaml 이라는 YAML 파일을 생성합니다. 다음 예제 구성을 참조하십시오.

apiVersion: config.openshift.io/v1
kind: ImageDigestMirrorSet
metadata:
  name: rhcos-boot-kubevirt
spec:
  repositoryDigestMirrors:
    - mirrors:
        - <rhcos_image_no_digest> 1
      source: virthost.ostest.test.metalkube.org:5000/localimages/ocp-v4.0-art-dev 2

다음 명령을 실행하여 rhcos-boot-kubevirt.yaml 파일을 적용하여 ImageDigestMirrorSet 오브젝트를 생성합니다.

oc apply -f rhcos-boot-kubevirt.yaml

spec.hubKubeAPIServerConfig.serverVerificationStrategy 를 UseSystemTruststore 로 설정합니다. 다음 예제를 참조하십시오.

apiVersion: config.open-cluster-management.io/v1alpha1
kind: KlusterletConfig
metadata:
  name: global
spec:
  hubKubeAPIServerConfig:
    serverVerificationStrategy: UseSystemTruststore

hub 클러스터에서 다음 명령을 실행하여 리소스를 적용합니다. & lt;filename >을 파일 이름으로 바꿉니다.

oc apply -f <filename>

일부 관리 클러스터의 상태가 복구될 수 있습니다. Unknown 상태로 유지되는 관리 클러스터의 프로세스를 계속합니다.

hub 클러스터에서 다음 명령을 실행하여 import.yaml 'file from the hub cluster를 내보내고 디코딩합니다. '<cluster_name> 를 클러스터 이름으로 교체합니다.

oc get secret <cluster_name>-import -n <cluster_name> -o jsonpath={.data.import\.yaml} | base64 --decode > <cluster_name>-import.yaml

관리 클러스터에서 다음 명령을 실행하여 파일을 적용합니다.

oc apply -f <cluster_name>-import.yaml