Amazon Bedrock 요금

요금 예시

• AI21 Labs

  애플리케이션 개발자가 Amazon Bedrock에 다음과 같은 API 직접 호출을 수행합니다. AI21의 Jurassic-2 Mid 모델에 입력 텍스트의 토큰 입력 1만 개를 토큰 출력 2천 개로 요약하는 요청을 수행합니다.
  

  총 발생 비용 = 토큰 1만 개/1,000 * 0.0125 USD + 토큰 2,000개/1,000 * 0.0125 USD = 0.15 USD
  

• Amazon

  온디맨드 요금

  애플리케이션 개발자가 Amazon Bedrock에 시간당 다음과 같은 API 직접 호출을 수행합니다. Amazon Titan Text Lite 모델에 입력 텍스트의 토큰 입력 2,000개를 토큰 출력 1,000개로 요약하는 요청을 수행합니다.

  시간당 총 발생 비용 = 토큰 2,000 개/1,000 * 0.0003 USD + 토큰 1,000 개/1,000 * 0.0004 USD = 0.001 USD

  애플리케이션 개발자가 Amazon Bedrock에 다음과 같은 API 직접 호출을 수행합니다. Amazon Titan Image Generator 기본 모델에 표준 품질 크기의 1024 x 1024 이미지 1,000개를 생성하는 요청을 수행합니다.

  총 발생 비용 = 이미지 1,000개 * 이미지당 0.01 USD = 10 USD

  사용자 지정(미세 조정 및 지속적인 사전 훈련) 요금

  애플리케이션 개발자가 1,000개의 이미지-텍스트 쌍을 사용하여 Amazon Titan Image Generator 모델을 사용자 지정합니다. 훈련 후 개발자는 1시간 동안 사용자 지정 모델 프로비저닝 처리량을 사용하여 모델의 성능을 평가합니다. 미세 조정된 모델은 1개월 동안 저장됩니다. 평가 후 개발자는 프로비저닝된 처리량(1개월 약정 기간)을 사용하여 사용자 지정 모델을 호스팅합니다.

  미세 조정에 대한 월별 발생 비용 = 미세 조정 훈련(0.005 USD * 500 * 64). 여기서 0.005 USD는 이미지당 요금, 500은 단계 수, 64는 배치 크기 + 월별 사용자 지정 모델 스토리지(1.95 USD) + 사용자 지정 모델 추론 1시간(21 USD) = 160 USD + 1.95 USD + 21 = 182.95 USD
  

  프로비저닝된 처리량 요금

  애플리케이션 개발자가 텍스트 요약 사용 사례에 대해 1개월 약정으로 Amazon Titan Text Express의 모델 단위 2개를 구입합니다.

  월별 총 발생 비용 = 모델 단위 2개 * 18.40 USD/시간 * 24시간* 31일 = 2만 7,379.20 USD

  애플리케이션 개발자가 1개월 약정으로 기본 Amazon Titan Image Generator 모델의 모델 단위 1개를 구입합니다.

  총 발생 비용 = 모델 단위 1개 * 16.20 USD * 24시간 * 31일 = 1만 2,052.80 USD

• Anthropic

  온디맨드 요금

  애플리케이션 개발자가 미국 서부(오레곤) 리전의 Amazon Bedrock에 다음과 같은 API 직접 호출을 수행합니다. Anthropic의 Claude 모델에 입력 텍스트의 토큰 입력 1만 1,000개를 토큰 출력 4,000개로 요약하는 요청을 수행합니다.

  총 발생 비용 = 토큰 1만 1,000개/1,000 * 0.008 USD + 토큰 4,000개/1,000 * 0.024 USD = 0.088 USD + 0.096 USD = 0.184 USD
  

  프로비저닝된 처리량 요금

  애플리케이션 개발자가 미국 서부(오레곤) 리전에서 Anthropic Claude Instant의 모델 단위 1개를 구입합니다.
  

  월별 총 발생 비용 = 모델 단위 1개 * 39.60 USD * 24시간 * 31일 = 2만 9,462.40 USD

• Cohere

  온디맨드 요금

  애플리케이션 개발자가 Amazon Bedrock에 다음과 같은 API 직접 호출을 수행합니다. Cohere의 Command 모델에 입력 텍스트의 토큰 입력 6,000개를 토큰 출력 2,000개로 요약하는 요청을 수행합니다.

  총 발생 비용 = 토큰 6,000개/1,000 * 0.0015 USD+ 토큰 2,000개/1,000 * 0.0020 USD = 0.013 USD

  애플리케이션 개발자가 Amazon Bedrock에 다음과 같은 API 직접 호출을 수행합니다. Cohere의 Command-Light 모델에 입력 텍스트의 토큰 입력 6,000개를 토큰 출력 2,000개로 요약하는 요청을 수행합니다.

  총 발생 비용 = 토큰 6,000개/1,000 * 0.0003 USD + 토큰 2,000개/1,000 * 0.0006 USD = 0.003 USD

  애플리케이션 개발자가 Amazon Bedrock에 다음과 같은 API 직접 호출을 수행합니다. Cohere의 Embed English 또는 Embed Multilingual 모델에 입력 토큰 1만 개에 대한 임베딩을 생성하는 요청을 수행합니다.

  총 발생 비용 = 토큰 1만 개/1,000 * 0.0001 USD = 0.001 USD

  사용자 지정(미세 조정) 요금

  애플리케이션 개발자가 1,000개의 데이터 토큰을 사용하여 Cohere Command 모델을 사용자 지정합니다. 훈련 후 1시간 동안 사용자 지정 모델 프로비저닝 처리량을 사용하여 모델의 성능을 평가합니다. 미세 조정된 모델은 1개월 동안 저장됩니다. 평가 후 개발자는 프로비저닝된 처리량(1개월 약정)을 사용하여 사용자 지정 모델을 호스팅합니다.

  미세 조정에 대해 발생한 월별 비용 = 미세 조정 훈련(0.004 USD * 1,000) +월별 사용자 지정 모델 스토리지(1.95 USD) + 사용자 지정 모델 추론 1시간(49.50 USD) = 55.45 USD
  

  사용자 지정 모델의 프로비저닝된 처리량(1개월 약정)에 대해 발생한 월별 비용 = 39.60 USD

  프로비저닝된 처리량 요금
  

  애플리케이션 개발자가 텍스트 요약 사용 사례에 대해 1개월 약정으로 Cohere Command의 모델 단위 1개를 구입합니다.

  월별 총 발생 비용 = 모델 단위 1개 * 39.60 USD * 24시간 * 31일 = 2만 9,462.40 USD

• Meta Llama

  온디맨드 요금

  애플리케이션 개발자가 Amazon Bedrock에 다음과 같은 API 직접 호출을 수행합니다. Meta의 Lama 2 Chat(13B) 모델에 입력 텍스트의 토큰 입력 2,000개를 토큰 출력 500개로 요약하는 요청을 수행합니다.

  총 발생 비용 = 토큰 2,000개/1,000 * 0.00075 USD + 토큰 500개/1,000 * 0.001 USD = 0.002 USD

  사용자 지정(미세 조정) 요금

  애플리케이션 개발자가 1,000개의 데이터 토큰을 사용하여 Lama 2 Pretrained(70B) 모델을 사용자 지정합니다. 훈련 후 1시간 동안 사용자 지정 모델 프로비저닝 처리량을 사용하여 모델의 성능을 평가합니다. 미세 조정된 모델은 1개월 동안 저장됩니다. 평가 후 개발자는 프로비저닝된 처리량(1개월 약정)을 사용하여 사용자 지정 모델을 호스팅합니다.

  미세 조정에 대해 발생한 월별 비용 = 미세 조정 훈련(0.00799 USD * 1,000) +월별 사용자 지정 모델 스토리지(1.95 USD) + 사용자 지정 모델 추론 1시간(23.50 USD) = 33.44 USD

  사용자 지정 모델의 프로비저닝된 처리량(1개월 약정)에 대해 발생한 월별 비용 = 21.18 USD

  프로비저닝된 처리량 요금

  애플리케이션 개발자가 텍스트 요약 사용 사례에 대해 1개월 약정으로 Meta Lama 2의 모델 단위 1개를 구입합니다.

  월별 총 발생 비용 = 모델 단위 1개 * 21.18 USD * 24시간 * 31일 = 1만 5,757.92 USD

• Mistral AI

  온디맨드 요금

  애플리케이션 개발자가 Amazon Bedrock에 시간당 다음과 같은 API 직접 호출을 수행합니다. Mistral 7B 모델에 입력 텍스트의 토큰 입력 2,000개를 토큰 출력 1,000개로 요약하는 요청을 수행합니다.

  시간당 총 발생 비용 = 토큰 2,000개/1,000 * 0.00015 USD + 토큰 1,000개/1,000 * 0.0002 USD = 0.0005 USD

  애플리케이션 개발자가 Amazon Bedrock에 시간당 다음과 같은 API 직접 호출을 수행합니다. Mixtral 8x7B 모델에 입력 텍스트의 토큰 입력 2,000개를 토큰 출력 1,000개로 요약하는 요청을 수행합니다.

  시간당 총 발생 비용 = 토큰 2,000개/1,000 * 0.00045 USD + 토큰 1,000개/1,000 * 0.0007 USD = 0.0016 USD

  애플리케이션 개발자가 Amazon Bedrock에 시간당 다음과 같은 API 직접 호출을 수행합니다. Mistral 대용량 모델에 입력 텍스트의 토큰 입력 2,000개를 토큰 출력 1,000개로 요약하는 요청을 수행합니다. 

  시간당 총 발생 비용 = 토큰 2,000개/1,000 * 0.008 USD + 토큰 1,000개/1,000 * 0.024 USD = 0.04 USD
  
  

• Stability AI

  온디맨드 요금

  애플리케이션 개발자가 Amazon Bedrock에 다음과 같은 API 직접 호출을 수행합니다. SDXL 모델에 단계 크기가 70인 512 x 512 이미지(프리미엄 품질)를 생성하는 요청을 수행합니다.

  총 발생 비용 = 이미지 1개 * 이미지당 0.036 USD = 0.036 USD

  애플리케이션 개발자가 Amazon Bedrock에 다음과 같은 API 직접 호출을 수행합니다. SDXL 1.0 모델에 단계 크기가 70인 1024 x 1024 이미지(프리미엄 품질)를 생성하는 요청을 수행합니다.

  총 발생 비용 = 이미지 1개 * 이미지당 0.08 USD = 0.08 USD

  프로비저닝된 처리량 요금

  애플리케이션 개발자가 1개월 약정으로 SDXL1.0의 모델 단위 1개를 구입합니다.

  총 비용 = 1 * 49.86 USD * 24시간 * 31일 = 3만 7,095.84 USD

• 모델 평가

  모델 평가 예제 1:

  온디맨드 요금
  애플리케이션 개발자가 미국 동부(버지니아 북부) AWS 리전에서 Anthropic Claude 2.1과 Anthropic Claude Instant를 사용하여 인간 기반 모델 평가를 위한 데이터세트를 제출합니다.

  데이터세트에는 프롬프트 50개가 포함되어 있으며 개발자는 작업자 1명에게 각 프롬프트-응답 세트를 평가하도록 합니다[평가 작업을 생성할 때 ‘workers per prompt(프롬프트당 작업자 수)’ 파라미터로 구성 가능].
  
  이 평가 작업에는 태스크 50개가 포함됩니다(각 작업자당 각 프롬프트-응답 세트에 대한 태스크 1개) 프롬프트 50개가 합쳐져 입력 토큰 5,000개가 되고, 관련 응답을 합하면 Anthropic Claude Instant의 경우 토큰 1만 5,000개, Anthropic Claude 20.1의 경우 토큰 2만 개가 됩니다.
  
  이 모델 평가 작업에서 발생하는 요금은 다음과 같습니다.

  항목	입력 토큰 수	입력 토큰 1,000개당 요금	입력 비용	출력 토큰 수	출력 토큰 1,000개당 요금	출력 비용	인간 태스크 수	인간 태스크당 비용	인간 태스크 비용	합계
  Claude Instant 추론	5,000	0.0008 USD	0.004 USD	1만 5,000	0.0024 USD	0.036 USD				0.04 USD
  Claude 2.1 추론	5,000	0.008 USD	0.04 USD	2만	0.024 USD	0.48 USD				0.52 USD
  인간 태스크							50	0.21 USD	10.50 USD	10.50 USD
  합계										11.06 USD

  모델 평가 예제 2:

  온디맨드 요금
  애플리케이션 개발자가 미국 동부(버지니아 북부) AWS 리전에서 Anthropic Claude 2.1과 Anthropic Claude Instant를 사용하여 인간 기반 모델 평가를 위한 데이터세트를 제출합니다.
  
  데이터세트에는 프롬프트 50개가 포함되어 있으며 개발자는 작업자 2명에게 각 프롬프트-응답 세트를 평가하도록 합니다[평가 작업을 생성할 때 ‘workers per prompt(프롬프트당 작업자 수)’ 파라미터로 구성 가능]. 이 평가 작업에는 태스크 100개가 포함됩니다(각 작업자당 각 프롬프트-응답 세트에 대한 태스크 1개: 작업자 2명 x 프롬프트-응답 세트 50개 = 인간 태스크 100개).
  
  프롬프트 50개가 합쳐져 입력 토큰 5,000개가 되고, 관련 응답을 합하면 Anthropic Claude Instant의 경우 토큰 1만 5,000개, Anthropic Claude 2.1의 경우 토큰 2만 개가 됩니다.
  
  이 모델 평가 작업에서 발생하는 요금은 다음과 같습니다.
  

  항목	입력 토큰 수	입력 토큰 1,000개당 요금	입력 비용	출력 토큰 수	출력 토큰 1,000개당 요금	출력 비용	인간 태스크 수	인간 태스크당 비용	인간 태스크 비용	합계
  Claude Instant 추론	5,000	0.0008 USD	0.0040 USD	1만 5,000	0.0024 USD	0.036 USD				0.04 USD
  Claude 2.1 추론	5,000	0.008 USD	0.0400 USD	2만	0.024 USD	0.48 USD				0.52 USD
  인간 태스크							100	0.21 USD	21.00 USD	21.00 USD
  합계										21.56 USD

• Amazon Bedrock 가드레일

  예제 1: 고객 지원 챗봇
  애플리케이션 개발자가 고객 지원 챗봇을 만듭니다. 콘텐츠 필터를 사용하여 유해한 콘텐츠와 거부된 주제를 차단하여 원하지 않는 쿼리 및 응답을 필터링합니다.
  
  챗봇은 시간당 사용자 쿼리 1,000개를 처리합니다. 각 사용자 쿼리의 평균 입력 길이는 200자이고 FM 응답은 1,500자입니다.
  
  각 사용자 쿼리의 200자는 텍스트 단위 1개에 해당합니다.
  
  각 FM 응답의 1,500자는 텍스트 단위 2개에 해당합니다.
  
  시간당 처리되는 텍스트 단위 = (1 + 2) * 쿼리 1,000개 = 텍스트 단위 3,000개
  
  콘텐츠 필터 및 거부된 주제에 대해 시간당 발생한 총 비용 = 3000 * (0.75 USD + 1.00 USD) / 1,000 = 5.25 USD

   

  예제 2: 고객 센터 트랜스크립트 요약
  애플리케이션 개발자가 사용자와 지원 에이전트 간의 채팅 기록을 요약하는 애플리케이션을 만듭니다. 민감한 정보 필터를 사용하여 대화 1만 개에 대해 생성된 요약에서 개인 식별 정보(PII)를 삭제합니다.
  
  생성된 각 요약에는 평균 3,500자가 포함되며 이는 텍스트 단위 4개에 해당합니다.
  
  1만 개의 대화를 요약하는 데 발생한 총 비용 = 1만 * 4 * (0.1/1,000 USD) = 4 USD

  항목	입력 토큰 수	입력 토큰 1,000개당 요금	입력 비용	출력 토큰 수	출력 토큰 1,000개당 요금	출력 비용	인간 태스크 수	인간 태스크당 비용	인간 태스크 비용	합계
  Claude Instant 추론	5,000	0.0008 USD	0.004 USD	1만 5,000	0.0024 USD	0.036 USD				0.04 USD
  Claude 2.1 추론	5,000	0.008 USD	0.04 USD	2만	0.024 USD	0.48 USD				0.52 USD
  인간 태스크							100	0.21 USD	21.00 USD	21.00 USD
  합계										21.56 USD

• 사용자 지정 모델 가져오기

  요금 예시: 애플리케이션 개발자가 us-east-1 리전에서 8B 파라미터 크기에 128K 시퀀스 길이를 가진 사용자 지정 Llama 3.1 유형 모델을 가져오고 1개월 후에 해당 모델을 삭제합니다. 여기에는 2 사용자 지정 모델 단위가 필요합니다. 2 사용자 지정 모델 단위가 필요하므로 분당 가격은 0.1570 USD가 됩니다. 2 사용자 지정 모델 단위에 대한 모델 스토리지 비용은 해당 달에 3.90 USD입니다.

  모델을 가져오는 데는 요금이 부과되지 않습니다. 첫 번째 성공적인 간접 호출은 오전 8시 3분이며, 이때 측정이 시작됩니다. 5분 측정 기간은 오전 8시 3분부터 오전 8시 7분, 오전 8시 7분부터 오전 8시 11분 등입니다. 5분 기간 중 하나 이상의 간접 호출이 있는 경우 해당 기간은 청구 대상 기간으로 간주됩니다. 오전 8시 7분부터 오전 8시 11분까지 간접 호출이 없는 경우, 오전 8시 11분에 측정이 중지됩니다. 이 경우 청구서는 다음과 같이 계산됩니다. 0.1570 USD * 5분 * 3건의 5분 기간 = 2.355 USD