Skip to main content
Hashnode
HA JIN-YOUNG's blog

구글 클라우드에서 Gemma 3을 직접 체험해보는 방법 – 생성형 AI 입문자를 위한 실전 가이드 (55자)

Published 4 min readMarkdown
H
HA JIN-YOUNG

# 서론 – 왜 지금 Gemma 3인가?

최근 생성형 AI 시장은 프로프라이어터리 API 중심에서 오픈 모델 중심으로 급격히 변하고 있습니다. 그 중에서도 구글 클라우드(Google Cloud)에서 제공하는 Gemma 3는 뛰어난 성능과 손쉬운 배포 환경을 동시에 갖춘 모델로 주목받고 있습니다.

하지만 “Gemma 3이 뭔가요?”, “구글 클라우드에 어떻게 적용하나요?” 같은 기본적인 질문은 아직도 많이 남아 있습니다. 이번 포스팅에서는 Gemma 3, Google Cloud, 생성형 AI라는 세 가지 SEO 키워드를 중심으로, 초보자도 쉽게 따라 할 수 있는 실습 과정을 단계별로 안내합니다.

# 1️⃣ Gemma 3이란? – 모델 개요와 특징

| 항목 | 내용 |

|------|------|

| 모델명 | Gemma 3 |

| 개발사 | Google AI Research |

| 구조 | Transformer 기반 대규모 언어 모델 (LLM) |

| 주요 특징 | - 2 B, 7 B, 13 B 파라미터 옵션 제공
- 멀티턴 대화, 코드 생성, 텍스트 요약 등 다목적 활용 가능
- 오픈소스 라이선스로 자유로운 커스터마이징 지원 |

| 활용 분야 | 챗봇, 문서 자동화, 데이터 분석 보조 등 |

Gemma 3은 기존 모델 대비 추론 속도와 메모리 효율이 크게 개선되었습니다. 특히 구글 클라우드의 Vertex AI와 연동하면 서버리스 환경에서도 손쉽게 확장할 수 있어, 별도의 GPU 관리 부담을 크게 줄여줍니다.

# 2️⃣ Google Cloud 준비 단계 – 계정 만들고 환경 설정하기

  1. Google Cloud Console 로그인

  2. 프로젝트 생성

    • 콘솔 좌측 상단 ‘프로젝트 선택’ → ‘새 프로젝트 만들기’ 를 클릭하고 프로젝트 이름을 입력합니다.

    • 프로젝트 ID는 나중에 gcloud 명령어에서 사용되니 기억해 두세요.

  3. Billing 활성화

    • 무료 크레딧이 소진되면 자동으로 결제 설정이 필요합니다. ‘청구’ → ‘결제 계정 연결’ 을 진행합니다.

  4. Vertex AI API 활성화

    • ‘API 및 서비스’ → ‘라이브러리’ 에서 Vertex AI API 를 검색해 활성화합니다.

    • 이 단계가 끝나면 Gemma 3 모델을 배포하고 호출 할 수 있는 준비가 완료됩니다.

  5. Cloud SDK 설치

# 3️⃣ Gemma 3 모델 배포하기 – 한 번에 끝내는 3단계

# 3.1 모델 파일 다운로드

bash

# 예시: 7B 파라미터 모델 다운로드

wget https://storage.googleapis.com/gemma-models/gemma-7b.tar.gz

tar -xzf gemma-7b.tar.gz

Tip: 모델 파일은 약 12 GB 정도이므로 충분한 디스크 공간을 확보하세요.

# 3.2 Vertex AI에 모델 업로드

bash

gcloud ai models upload \

  --region=us-central1 \

  --display-name=gemma-7b \

  --container-image-uri=us-docker.pkg.dev/vertex-ai/prediction/tf2-cpu.2-8:latest \

  --artifact-uri=gs://YOUR_BUCKET_NAME/gemma-7b/

  • --artifact-uri 에는 모델 파일이 저장된 Cloud Storage 버킷 경로를 입력합니다.

  • 업로드가 완료되면 Model ID가 반환됩니다. 이 ID는 다음 단계에서 필요합니다.

# 3.3 엔드포인트 생성 및 배포

bash

gcloud ai endpoints create \

  --region=us-central1 \

  --display-name=gemma-7b-endpoint

gcloud ai endpoints deploy-model ENDPOINT_ID \

  --region=us-central1 \

  --model=MODEL_ID \

  --machine-type=n1-standard-4 \

  --min-replica-count=1 \

  --max-replica-count=3

  • machine-type 은 필요에 따라 GPU 옵션(n1-standard-4 → n1-standard-8 등)으로 변경 가능.

  • 자동 스케일링을 설정하면 트래픽 변화에 따라 인스턴스 수가 자동으로 조절됩니다.

# 4️⃣ 실전 요청 – Python 코드로 Gemma 3 호출하기

python

import google.auth

from google.cloud import aiplatform

# 인증 및 클라이언트 초기화

credentials, project = google.auth.default()

client = aiplatform.gapic.PredictionServiceClient(credentials=credentials)

endpoint = client.endpoint_path(project=project,

                                location='us-central1',

                                endpoint='YOUR_ENDPOINT_ID')

# 테스트 프롬프트

prompt = '인공지능이 인간 사회에 미치는 긍정적 영향 3가지를 설명해줘.'

response = client.predict(

    endpoint=endpoint,

    instances=[{'content': prompt}],

    parameters={'max_output_tokens': 256}

)

print(response.predictions[0]['content'])

  • max_output_tokens 로 출력 길이를 조절하고, temperature 파라미터를 추가하면 생성형 AI의 창의성을 제어할 수 있습니다.

  • 반환된 response.predictions 에는 Gemma 3이 생성한 텍스트가 포함됩니다.

# 5️⃣ 비용 최적화와 운영 팁

| 팁 | 설명 |

|----|------|

| 자동 스케일링 | 최소/최대 레플리카 수를 적절히 설정해 트래픽이 적을 때 비용을 절감합니다. |

| 프리emptible VM | GPU 사용 시 프리emptible 인스턴스를 선택하면 최대 80% 비용을 절감할 수 있습니다. |

| 모델 캐싱 | 동일한 프롬프트에 대해 캐시를 활용하면 응답 시간이 빨라지고 호출 비용이 감소합니다. |

| 모니터링 | Vertex AI 대시보드에서 Latency, Error Rate, CPU/GPU 사용량을 실시간으로 확인합니다. |

# 결론 – 지금 바로 Gemma 3을 체험해 보세요!

구글 클라우드와 Gemma 3을 결합하면, 복잡한 인프라 설정 없이도 강력한 생성형 AI 서비스를 빠르게 구축할 수 있습니다.

1️⃣ Google Cloud 계정을 만들고, 2️⃣ Vertex AI에 모델을 배포하고, 3️⃣ 간단한 Python 코드로 호출해 보세요.

시작이 반이라는 말처럼, 이번 가이드를 따라 하면 직접 모델을 운영하면서 AI 프로젝트에 필요한 실전 감각을 키울 수 있습니다.

지금 바로 구글 클라우드 콘솔에 접속해 Gemma 3을 배포하고, 여러분만의 AI 애플리케이션을 만들어 보세요! 🚀

키워드: Gemma 3, Google Cloud, 생성형 AI

Comments

Join the discussion

No comments yet. Be the first to comment.

More from this blog