​

Google Vertex AI — 내 계정에서 추론

​

Vertex에서 실행되는 것과 실행되지 않는 것

​

사용할 수 있는 클라우드 공급자 수

​

전제 조건

• 결제가 사용 설정된 Google Cloud 프로젝트.
• 해당 프로젝트에서 사용 설정된 Agent Platform API(Vertex AI API)(aiplatform.googleapis.com 서비스).
• 프로젝트에 있는 서비스 계정으로, Agent Platform User 역할(roles/aiplatform.user)을 가지고 있어야 하며, SecureAI가 이 계정으로 작업할 수 있는 다음 두 방법 중 하나가 필요합니다.
  • 옵션 A — 해당 서비스 계정의 JSON 키.
  • 옵션 B — 키 없음(가장): 패널에 표시되는 SecureAI 서비스 계정에 서비스 계정에 대한 Service Account Token Creator 역할(roles/iam.serviceAccountTokenCreator)을 부여하며, 키는 저장되지 않습니다. 이 옵션은 SecureAI 배포에서 제공하는 경우에만 사용할 수 있습니다. 그렇지 않으면 패널에 Keyless access is not enabled on this deployment. 안내와 함께 비활성 상태로 표시됩니다.
• SecureAI의 Integrations 섹션에 대한 관리자 권한. 읽기 권한으로는 구성을 볼 수 있지만 변경할 수는 없습니다.

​

1단계. Google Cloud에서 프로젝트 준비

gcloud config set project MY_PROJECT

# 1. Agent Platform API(Vertex AI API) 사용 설정
gcloud services enable aiplatform.googleapis.com

# 2. SecureAI 전용 서비스 계정 만들기
gcloud iam service-accounts create secureai-vertex --display-name="SecureAI Vertex"

# 3. 모델 호출에 필요한 최소 역할 부여
gcloud projects add-iam-policy-binding MY_PROJECT \
  --member="serviceAccount:secureai-vertex@MY_PROJECT.iam.gserviceaccount.com" \
  --role="roles/aiplatform.user"

# 4. 옵션 A만 해당: JSON 키 생성
gcloud iam service-accounts keys create key.json \
  --iam-account=secureai-vertex@MY_PROJECT.iam.gserviceaccount.com

​

옵션 B 키 없이 SecureAI 승인

1. SecureAI에서 Vertex AI 패널을 열고(2단계 참조) Keyless (impersonation) 옵션을 선택한 다음 Your service account to impersonate에 서비스 계정의 이메일을 입력합니다.
2. 패널에 배포의 SecureAI 서비스 계정이 이미 채워진, 실행할 명령이 표시됩니다. Copy로 복사하여 Cloud Shell에서 실행합니다. 명령은 다음과 같습니다.
   gcloud iam service-accounts add-iam-policy-binding secureai-vertex@MY_PROJECT.iam.gserviceaccount.com \
     --member="serviceAccount:SECUREAI_ACCOUNT" \
     --role="roles/iam.serviceAccountTokenCreator"
   
   역할은 프로젝트가 아니라 서비스 계정에 대해 부여됩니다. SecureAI는 해당 계정으로만 작업할 수 있으며, 그 계정은 roles/aiplatform.user만 보유합니다.

​

개방형 모델 Llama DeepSeek Qwen gpt-oss

​

2단계. SecureAI에서 프로젝트 연결

1. Admin → Integrations로 이동하여 AI providers 카테고리를 열고 Google Vertex AI — Inference on your account 카드를 클릭합니다.
2. Connection에서 다음을 입력합니다.

   필드	입력할 내용
   Google Cloud project ID	표시 이름이 아닌 프로젝트 ID(예: my-project-123).
   Vertex AI location	처음에는 global로 두세요. Gemini 3 preview 기본 모델이 있는 곳입니다. 데이터 상주가 필요하면 리전(us-central1, europe-west4 등)을 입력하세요. SecureAI는 각 요청을 선택한 리전 엔드포인트로 보내며, Google이 요청을 어디에서 처리하는지는 Google의 데이터 상주 약정에 따라 다릅니다. global을 사용하면 Google이 리전을 선택합니다. 개방형 모델에는 리전이 필요합니다.
   Authentication	옵션 A: Service-account key (JSON) 옵션을 선택한 상태로 두고 key.json의 전체 내용을 Service-account key JSON에 붙여넣습니다. 옵션 B: Keyless (impersonation) 옵션을 선택하고 Your service account to impersonate에 서비스 계정의 이메일을 입력한 다음, 패널에 표시되는 명령을 실행합니다(위의 옵션 B 키 없이 SecureAI 승인 참조).

   
3. Save를 클릭합니다. 아직 트래픽은 라우팅되지 않습니다. 먼저 테스트할 수 있도록 통합은 꺼진 상태로 저장됩니다.

​

3단계. Vertex에서 실행할 항목 선택

• Only these model families — 선택한 제품군(Gemini, gpt-oss, DeepSeek, Llama, Qwen)은 내 Vertex에서 실행되고, 나머지 모든 모델은 계속 SecureAI의 공급자에서 실행됩니다. 가장 보수적으로 시작하는 방법입니다(기본값: Gemini만).
• Remap everything to Vertex — 모든 LLM 호출이 내 Vertex에서 실행됩니다. Vertex에 대응 모델이 없는 모델은 기본 모델이 처리합니다.

​

4단계. 연결 테스트

1. 통합을 저장한 상태에서 Connection test 아래의 Test connection을 클릭합니다.
2. SecureAI는 실제 트래픽이 사용할 것과 같은 경로로(게이트웨이, 정책, 영수증 포함) 각 기본 모델에 최소한의 요청을 보내고, 각 결과를 지연 시간과 함께 표시합니다.
   
3. 모델이 실패하면 패널에 이유가 표시됩니다. 이 페이지 끝의 문제 해결 섹션을 참조하세요.

​

ID가 할 수 있는 다른 작업

​

5단계. 라우팅 검토 및 사용 설정

1. Routing preview → Show which lane serves each model을 엽니다. 카탈로그의 모든 모델에 대해 내 Vertex가 처리할지(어떤 Vertex 모델로 처리하는지 포함) SecureAI가 처리할지, 그리고 어떤 모델이 사용자에게 숨겨지는지 보여 줍니다. 미리보기는 통합이 켜진 상태를 시뮬레이션하므로 사용 설정하기 전에 효과를 검토할 수 있습니다.
2. 테스트를 통과하면 Route traffic to Vertex AI를 켜고 Save를 다시 클릭합니다. 저장하지 않으면 스위치가 켜진 상태로 유지되지 않습니다. 켜려면 프로젝트와 자격 증명이 구성되어 있어야 합니다. 플랜에서 클라우드 공급자를 더 허용하지 않거나 라우팅이 다른 공급자와 겹치면 SecureAI는 이를 거부하고 이유를 설명합니다(위의 사용할 수 있는 클라우드 공급자 수 참조).
   
3. 카드가 녹색 Routing to Vertex로 바뀝니다. 저장되었지만 꺼져 있으면 황색 Configured · not routing to Vertex가 표시됩니다.

​

6단계. 모델 선택기에서 확인

​

청구되는 항목과 청구 대상

• LLM 사용량은 SecureAI가 아니라 Google이 내 계정에 청구합니다. 할인과 CUD가 적용된 요금이 Google Cloud 결제에 표시됩니다.
• SecureAI는 Vertex에서 처리된 턴의 비용을 분석 용도로만 정가 기준 추정치로 표시합니다. 참고용이며 할인이 포함되지 않으므로 Google의 실제 금액은 더 낮을 수 있습니다.
• 내 Vertex에서 처리된 턴은 Apply each seat’s spend cap to turns served in your account를 켜지 않는 한 각 사용자의 시트 지출 한도에 포함되지 않습니다. 시트 수준은 계속 적용됩니다. 내 Vertex가 처리하더라도 사용자는 자신의 수준 이하의 모델만 사용할 수 있습니다.
• Govern BYO 시트는 조직 자체 인프라에서 처리되는 모델만 사용할 수 있습니다. 즉, 내 Vertex(또는 연결된 다른 클라우드 공급자)가 처리하는 모델과 자체 서버의 자체 호스팅 모델입니다. 그 밖의 모델은 거부되며, 선택기도 이 시트에 Auto를 제공하지 않습니다.

​

보안 및 컴플라이언스

• 암호화된 자격 증명, 또는 자격 증명 없음. 옵션 A에서는 서비스 계정 키가 암호화(AES-256-GCM)되어 저장되며, 관리자에게도 브라우저로 반환되지 않습니다. 화면에는 계정의 이메일만 표시됩니다. 옵션 B에서는 키가 저장되지 않습니다. SecureAI가 서비스 계정으로 작업하는 단기 토큰을 Google에 요청합니다.
• 경로는 계속 보호됩니다. 모든 호출은 SecureAI의 SMLTP 게이트웨이를 거칩니다. DLP, 요청별 서명된 승인 토큰, 검증 가능한 서명된 영수증이 적용됩니다.
• 데이터 상주. 리전을 고정하면(예: europe-west4) SecureAI는 각 요청을 해당 리전의 엔드포인트로 보내고 조직의 상주 정책을 적용합니다. Google이 요청을 어디에서 처리하는지는 Google의 데이터 상주 약정에 따라 다릅니다.
• 실패 시 차단. 구성을 읽을 수 없거나 Google의 토큰을 얻을 수 없으면 요청이 거부됩니다. 폴백을 허용하지 않은 한 다른 공급자로 보내지 않습니다.
• 감사. 통합을 저장, 테스트 또는 연결 해제하면 변경된 필드 이름과 함께 활동 로그에 기록되며, 키는 절대 기록되지 않습니다.
• 최소 권한 확인. 연결 테스트는 연결의 ID가 프로젝트에서 그 밖에 무엇을 할 수 있는지 확인하고, AI 외부의 권한이 있으면 경고합니다(4단계의 ID가 할 수 있는 다른 작업 참조).
• 최소 권한. 추론에는 roles/aiplatform.user로 충분하며, 통합은 IAM이나 결제를 읽을 필요가 없습니다.

​

연결 해제

• 옵션 A: 키를 더 이상 사용하지 않는다면 취소하세요(서비스 계정 → 키).
• 옵션 B: 서비스 계정에서 SecureAI 서비스 계정에 부여한 roles/iam.serviceAccountTokenCreator 역할을 제거하세요(서비스 계정 → 내 계정 → 권한).

​

문제 해결

​

현재 제한 사항

• Vertex의 Claude와 Mistral은 지원되지 않습니다(다른 API를 사용함).
• 임베딩, 재순위화, OCR, 관리자 어시스턴트, 이미지 생성, 실시간 음성은 SecureAI 관리 공급자에 남습니다.
• 조직당 Vertex 프로젝트와 위치는 하나입니다.
• 동시에 사용 설정할 수 있는 추론 공급자 수는 플랜에 따라 다릅니다(Scale: 1개, Enterprise: 최대 3개). Azure AI Foundry — Inference on your account 및 Amazon Bedrock — Inference on your account를 참조하세요.
• Claude Code 프록시는 Anthropic을 직접 사용하며 Vertex를 거치지 않습니다.

​

관련

• Google Cloud — 디스커버리 — 프로젝트의 에이전트, 모델, ID, 비용 인벤토리.
• Azure AI Foundry — Inference on your account
• Amazon Bedrock — Inference on your account
• 클라우드 AI 제공업체 개요
• 서명된 영수증