Amazon Bedrock のよくある質問

Amazon Bedrock のエージェントは、生成 AI ベースのアプリケーションをデベロッパーが簡単に作成できるようにするフルマネージド機能です。このアプリケーションでは、さまざまなユースケースのために複雑なタスクを実行したり、独自のナレッジソースに基づいて最新の回答を提供したりできます。Amazon Bedrock のエージェントは、いくつかの短いステップでタスクを自動的に分類してオーケストレーションプランを作成します。手動のコーディングは不要です。エージェントは、API を介して会社のデータに安全に接続し、データを機械可読形式に自動的に変換し、リクエストに関連情報を追加して最も正確な応答を生成します。その後、エージェントは自動的に API を呼び出してユーザーのリクエストに応じることが可能です。例えば、メーカーは、在庫レベル、販売データ、サプライチェーン情報の追跡を自動化し、効率を最大化するために最適な再注文ポイントと数量を推奨できる生成 AI アプリケーションを開発したいと考える可能性があります。Amazon Bedrock のエージェントは、フルマネージド型の機能であるため、システム統合とインフラストラクチャのプロビジョニングの管理という差別化されていない作業が不要になり、開発者は組織全体で生成 AI を最大限に活用できるようになります。

Amazon Bedrock のエージェントを使用して、FM を会社のデータソースに安全に接続できます。ナレッジベースがあれば、エージェントを使用して Amazon Bedrock の FM に追加データへのアクセスを許可できます。これにより、FM を継続的に再トレーニングしなくても、モデルがより関連性が高く、コンテキスト固有の正確な応答を生成できます。ユーザーの入力に基づいて、エージェントは適切なナレッジベースを特定し、関連情報を取得して、その情報を入力プロンプトに追加します。これにより、モデルに追加のコンテキスト情報が与えられ、補完が生成されます。

Amazon Bedrock のエージェントは、生産性の向上、カスタマーサービスエクスペリエンスの向上、ワークフロー (保険請求の処理など) の自動化を支援します。

エージェントを使用すると、デベロッパーはカスタムコードを記述しなくても、モニタリング、暗号化、ユーザーのアクセス許可、バージョニング、API 呼び出し管理をシームレスにサポートできます。Amazon Bedrock のエージェントは、ユーザーが要求したタスクの迅速なエンジニアリングとオーケストレーションを自動化します。デベロッパーは、エージェントが作成したプロンプトテンプレートをベースラインとして使用して、ユーザーエクスペリエンスを改善するためにさらに調整できます。ユーザー入力、オーケストレーションプラン、FM レスポンスを更新できます。プロンプトテンプレートにアクセスできるので、開発者はエージェントオーケストレーションをより適切に制御できます。

フルマネージド型エージェントを使用すると、インフラストラクチャのプロビジョニングや管理について心配する必要がなくなり、アプリケーションをより迅速に本番環境に移行できます。

Amazon Bedrock で処理されたすべてのカスタマーコンテンツは暗号化され、お客様が Amazon Bedrock を使用している AWS リージョンから移動することなく保管されます。

いいえ。ユーザーの入力とモデル出力は、どのモデルプロバイダーとも共有されません。

Amazon Bedrockには、セキュリティとプライバシーの要件をサポートするいくつかの機能があります。Amazon Bedrock は、Fedramp Moderate、Service and Organization Control (SOC)、International Organization for Standardization (ISO)、Health Insurance Portability and Accountability Act (HIPAA) 適格であることなど、一般的なコンプライアンス基準を満たすことができます。また、お客様は General Data Protection Regulation (GDPR) に準拠して Bedrock を利用できます。Amazon BedrockはSOC 1、2、3レポートの対象範囲に含まれているため、お客様は当社のセキュリティ統制に関する洞察を得ることができます。当社では、AWS 統制に関する広範囲にわたる第三者監査を通じてコンプライアンスを実証しています。Amazon Bedrockは、ISO 9001、ISO 27001、ISO 27017、ISO 27018、ISO 27701、ISO 22301、およびISO 20000規格のISOコンプライアンス下にあるAWSサービスの1つです。Amazon BedrockはCSAセキュリティトラストアシュアランスアンドリスク (STAR) レベル2の認定を受けており、AWSクラウドサービスのベストプラクティスの使用とセキュリティ体制を検証しています。Amazon Bedrockでは、お客様のコンテンツが基本モデルの改善に使用されることはなく、モデルプロバイダーと共有されることもありません。AWS PrivateLink を使用すると、インターネットトラフィックにデータを公開することなく、Amazon VPC から Amazon Bedrock へのプライベート接続を確立できます。

いいえ。AWS およびサードパーティーのモデルプロバイダーは、Amazon Bedrock への入力または Amazon Bedrock からの出力を使用して Amazon Titan またはサードパーティーのモデルをトレーニングすることはありません。

Amazon Bedrock はランタイムサービス用の SDK をサポートしています。iOS と Android SDK のほか、Java、JS、Python、CLI、.NET、Ruby、PHP、Go、C++ は、テキスト入力と音声入力の両方をサポートしています。

ストリーミングはすべての SDK でサポートされています。

最新の料金情報については、Amazon Bedrock の料金ページを参照してください。

お客様の AWS サポート契約に応じて、Amazon Bedrock は、デベロッパーサポート、ビジネスサポート、エンタープライズサポートの各プランでサポートされます。

CloudWatch メトリックスを使用して、入力トークンと出力トークンを追跡できます。

Amazon Bedrock での Amazon Titan Text Express および Amazon Titan モデルのための継続的な事前トレーニングをリリースしました。継続的な事前トレーニングにより、大量のラベルなしデータを使用して Amazon Titan ベースモデルで事前トレーニングを継続できます。このタイプのトレーニングは、Amazon Titan ベースモデルのほとんどの機能を維持したまま、一般的なドメインコーパスからのモデルを、医療、法律、金融などのより特定的なドメインコーパスに適応させます。 

企業は特定のドメインのタスクのためにモデルを構築したいと考えるかもしれません。基本モデルは、その特定の分野で使用されている専門用語でトレーニングされていない場合があります。そのため、ベースモデルを直接微調整するには、正確な結果を得るために、大量のラベル付けされたトレーニングレコードと長時間のトレーニングが必要になります。この負担を軽減することを目的として、お客様は代わりに、継続的な事前トレーニングジョブのために、ラベルなしの大量のデータを提供できます。このジョブは、Amazon Titan ベースモデルを新しいドメインに適合させます。その後、お客様は、大幅に少ないラベル付けされたトレーニングレコードを使用して、かつ、より短いトレーニング時間で、新しく事前トレーニングされたカスタムモデルをダウンストリームのタスクに合わせて微調整できます。 

Amazon Bedrock の継続的な事前トレーニングと微調整の要件は非常によく似ています。このため、当社は継続的な事前トレーニングと微調整の両方をサポートする統合 API を作成する予定です。API の統合は、学習曲線を緩やかにするとともに、お客様が Amazon EventBridge などの標準機能を使用して、長時間実行されるジョブ、トレーニングデータを取得するための Amazon S3 統合、リソースタグ、モデル暗号化を追跡するのに役立ちます。 

継続的な事前トレーニングは、Amazon Titan モデルの基本機能を維持したまま、Amazon Titan モデルをドメイン固有のデータに適応させるのに役立ちます。継続的な事前トレーニングジョブを作成するには、Amazon Bedrock コンソールに移動し、[カスタムモデル] をクリックします。 [モデル] と [トレーニングジョブ] の 2 つのタブがあるカスタムモデルページに移動します。どちらのタブにも、右側に [モデルをカスタマイズ] ドロップダウンメニューが表示されます。ドロップダウンメニューから [継続的な事前トレーニング] を選択して、[継続的な事前トレーニングジョブを作成] に移動します。 ソースモデル、名前、モデル暗号化、入力データ、ハイパーパラメーター、出力データを提供します。さらに、ジョブの AWS Identity and Access Management (IAM) ロールとリソースポリシーに関する詳細とともにタグを指定できます。

Amazon Bedrock でのみ使用できる Amazon Titan モデルファミリーには、ビジネス全体で AI と機械学習のイノベーションに取り組んできた 25 年間に及ぶ Amazon の経験が組み込まれています。Amazon Titan FM は、フルマネージド API を通じて、高性能な画像、マルチモーダル、テキストモデルの幅広い選択肢をお客様に提供します。Amazon Titan モデルは AWS によって作成され、大規模なデータセットで事前にトレーニングされているため、さまざまなユースケースをサポートすると同時に、AI の責任ある使用をサポートするように構築された強力な汎用モデルとなっています。そのまま使用することも、独自のデータを使用して個人的にカスタマイズすることもできます。Amazon Titan の詳細をご覧ください。

Amazon Titan FM の開発とトレーニングのために処理されるデータの詳細については、Amazon Titan モデルトレーニングとプライバシーのページにアクセスしてください。

サポートされているデータ形式には、.pdf、.txt、.md、.html、.doc、.docx、.csv、.xls、.xlsx ファイルが含まれます。ファイルは Amazon S3 にアップロードする必要があります。Amazon S3 内のデータの場所をポイントすることで、Amazon Bedrock のナレッジベースはベクトルデータベースへの取り込みワークフロー全体を処理します。

Amazon Bedrock のナレッジベースには、埋め込みに変換する前にテキストをチャンク化する 3 つのオプションがあります。 

1.  デフォルトオプション: Amazon Bedrock のナレッジベースは、ドキュメントを自動的にチャンクに分割します。文が途切れないように、各チャンクには 200 個のトークンが含まれています。ドキュメントに含まれるトークンが 200 個未満の場合、それ以上分割されません。2 つの連続するチャンクの間では、トークンの 20% のオーバーラップが維持されます。

2.  固定サイズのチャンク: このオプションでは、Amazon Bedrock のナレッジベースのチャンクあたりの最大トークン数とチャンク間の重複率を指定して、文が途中で途切れないようにしながら、ドキュメントを自動的にチャンクに分割できます。 

3.  ドキュメントごとに 1 つの埋め込みを作成するオプション:Amazon Bedrock はドキュメントごとに 1 つの埋め込みを作成します。このオプションは、ドキュメントを個別のファイルに分割して前処理しており、Amazon Bedrock にドキュメントをさらにチャンク化させたくない場合に適しています。

現在、Amazon Bedrock のナレッジベースは、Amazon Bedrock で利用可能な最新バージョンの Amazon Titan Text Embeddings モデルを使用しています。Titan Text Embeddings V2 モデルは 8K トークンと 100 以上の言語をサポートし、256、512、1,024 次元の埋め込みを柔軟に作成できます。 

Amazon Bedrock のナレッジベースは、ドキュメントを埋め込み (ベクトル) に変換し、埋め込み内容を専用のベクトルデータベースに保存するという、取り込みワークフロー全体を処理します。  Amazon Bedrock のナレッジベースは、Amazon OpenSearch Serverless 用ベクトルエンジン、Pinecone、Redis Enterprise Cloud、Amazon Aurora (近日公開予定)、MongoDB (近日公開予定) など、ベクトルストレージ用の一般的なデータベースをサポートしています。既存のベクトルデータベースがない場合は、Amazon Bedrock が自動的に OpenSearch Serverless ベクトルストアを作成します。

ユースケースに応じて、Amazon EventBridge を利用して、Amazon S3 と Amazon Bedrock のナレッジベースの間で定期的またはイベント駆動型の同期を作成できます。

Amazon Bedrock でのモデル評価では、いくつかの短いステップだけで、ユースケースに最適な FM を評価、比較、選択できます。Amazon Bedrock では、自動評価と人間による評価を選択できます。精度、堅牢性、毒性などの事前定義されたメトリクスを使用して自動評価を使用できます。人間による評価ワークフローは、親しみやすさ、スタイル、ブランドボイスとの整合性など、主観的な指標やカスタム指標に使用できます。人間による評価では、社内の従業員や AWS が管理するチームにレビュー担当になってもらうことができます。Amazon Bedrock でのモデル評価には、厳選されたデータセットが組み込まれていますが、独自のデータセットを持ち込むこともできます。

自動評価を使用して、精度、堅牢性、毒性など、事前に定義されたさまざまなメトリックを評価できます。人間による評価ワークフローは、親しみやすさ、関連性、スタイル、ブランドボイスとの整合性など、主観的な指標やカスタム指標にも使用できます。

自動評価により、標準基準（精度、毒性、堅牢性など）に照らして、使用可能なFMのリストをすばやく絞り込むことができます。人間ベースの評価は、人間の判断を必要とし、自動評価が存在しない可能性がある (ブランドボイス、クリエイティブな意図、親しみやすさなど)、より微妙な、または主観的な基準を評価するためによく使用されます。

厳選された組み込みデータセットや、独自のプロンプトデータセットを利用することで、正確性、堅牢性、毒性などのメトリクスについて、Amazon Bedrock モデルを迅速に評価できます。プロンプトデータセットが Amazon Bedrock モデルに送信されて推論された後、モデル応答は各ディメンションの評価アルゴリズムで採点されます。バックエンドエンジンは、個々のプロンプトレスポンススコアを要約スコアに集約し、わかりやすいビジュアルレポートで表示します。

Amazon Bedrock を利用すると、いくつかの短いステップで人間によるレビューのワークフローを設定し、社内の従業員や AWS が管理するエキスパートチームにモデルを評価させることができます。Amazon Bedrock の直感的なインターフェイスを通じて、人間のユーザーは、クリックして親指を上げ下げしたり、1～5 段階で評価したりするほか、複数の回答の中から最適なものを選択したり、プロンプトをランク付けしたりすることで、モデルの応答を確認してフィードバックを提供できます。たとえば、チームメンバーに、同じプロンプトに対して 2 つのモデルがどのように反応するかを示し、より正確で関連性の高い、または文体的なアウトプットを示すモデルを選択するように指示することができます。チーム向けの評価 UI で表示される指示とボタンをカスタマイズすることによって、自らにとって重要な評価基準を指定できます。また、モデル評価の例や全体的な目標を含む詳細な指示を提供して、ユーザーがそれに合わせて自らの作業を整合できるようにすることもできます。この方法は、自動評価では簡単に判断できない、人間の判断や、対象分野に関するより詳細な専門知識を必要とする主観的な基準を評価するのに役立ちます。

Amazon Bedrock のガードレールは、ユースケースと責任ある AI ポリシーに基づいて、お客様が生成 AI アプリケーションの安全対策を実装するのをサポートします。ガードレールは、望ましくない有害なコンテンツをフィルタリングすることで、ユーザーと FM 間のインタラクションを制御するのに役立ちます。また、近日中に、個人を特定できる情報 (PII) をマスキングするようになる予定です。これにより、生成 AI アプリケーションにおけるコンテンツの安全性とプライバシーが強化されます。特定のユースケースに合わせて、構成が異なる複数のガードレールを作成できます。さらに、ガードレールを使用すると、お客様が定義したポリシーに違反する可能性のあるユーザー入力と FM 応答を継続的にモニタリングおよび分析できます。

ガードレールは、お客様が生成 AI アプリケーションの保護に資する一連のポリシーを定義するのに役立ちます。ガードレールには次のポリシーを設定できます。

• 拒否されたトピック: アプリケーションのコンテキストでは望ましくないトピックのセットを定義するのに役立ちます。たとえば、オンラインバンキングアシスタントは、投資アドバイスを提供しないように設計できます。
• コンテンツフィルター: 憎悪、侮辱、性的、暴力のカテゴリにわたって有害なコンテンツをフィルタリングするようにしきい値を設定するのに役立ちます。
• 単語フィルター: ユーザー入力や FM が生成した応答でブロックする単語のセットを定義するのに役立ちます。
• PII のマスキング: FM が生成した応答でマスキングできる PII のセットを選択するのに役立ちます。ユースケースに基づいて、ガードレールは、PII が含まれている場合にユーザー入力をブロックするのにも役立ちます。
• コンテキストを踏まえたグラウンディングチェック: 応答がソース情報を根拠としておらず (事実上不正確または新しい情報など)、ユーザーのクエリや指示と関連性がない場合に、ハルシネーションを検出してフィルタリングするのに役立ちます。

ガードレールは Amazon Bedrock で利用できるすべての大規模言語モデル (LLM) で使用できます。また、Amazon Bedrockのエージェントだけでなく、微調整されたFMでも使用できます。

AWS は、一般に提供されている Amazon の生成 AI サービス (Amazon Titan モデル、Amazon CodeWhisperer Professional、およびサービス条件のセクション 50.10 に記載されている他のサービス (以下「補償付き生成 AI サービス」という) )の生成出力から生じる著作権侵害の申し立てについて、知的財産 (IP) の上限なしの補償を提供しています。つまり、補償付き生成 AI サービスは、顧客から提供された入力やその他のデータに応じて生成される出力によって、著作権侵害を主張する第三者の請求から保護されるということです。また、お客様は、権利を侵害するデータを入力しない、サービスのフィルタリング機能を無効にしないなど、責任をもってサービスを利用する必要があります。

さらに、サービスの利用に関する当社の標準的な IP 補償は、サービス、および当該サービスをトレーニングするために利用されたデータによる IP 侵害を主張している第三者の請求 (著作権侵害の申し立てを含む) からお客様を保護します。

5 つのガードレールポリシーがあり、それぞれ異なる、すぐに使用できる保護機能を備えています

• コンテンツフィルター – これには 6 つの既製のカテゴリ (憎悪、侮辱、性的、暴力、不正行為 (犯罪行為を含む)、およびプロンプト攻撃 (ジェイルブレイクやプロンプトインジェクション)) があります。各カテゴリには、フィルタリングの強度の観点からさらにカスタマイズされたしきい値 (低/中/高) を設定できます。
• 拒否されたトピック – これらは、お客様がシンプルな自然言語による説明を使用して定義できる、カスタマイズされたトピックです
• 機密情報フィルター – これらは 30 以上のすぐに使用できる PII を備えています。機密性の高いお客様の機密情報を追加することで、さらにカスタマイズできます。
• 単語フィルター – 既製の冒涜的なフィルタリングが付属しており、カスタム単語でさらにカスタマイズできます。
• コンテキストを踏まえたグラウンディングチェック – RAG、要約、会話型アプリケーションのハルシネーションを検出するのに役立ちます。この場合、ソース情報はモデル応答を検証するための参照として使用できます。

基盤モデルにはネイティブな保護手段があります。これらは各モデルに関連するデフォルトの保護手段です。これらのネイティブセーフガードは、Amazon Bedrock ガードレールには含まれていません。Amazon Bedrock ガードレールは、お客様のアプリケーション要件と責任ある AI ポリシーに基づいて、お客様がオプションで適用できる、カスタマイズされた追加セーフガードです。

Amazon Bedrock ガードレールの一部として、30 以上の既製の PII に SSN と電話番号の検出が含まれています。全リストはこちら

Amazon Bedrock ガードレールの使用には別途費用がかかります。その費用は入力と出力の両方にかかります。料金はこちらのページの下部にあります。

はい。Amazon Bedrock Guardrail API は、お客様が自動テストを実行するのに役立ちます。「テストケースビルダー」は、ガードレールを本番でデプロイする前に使用することもできます。ネイティブのテストケースビルダーはまだありません。本番トラフィックを継続的にモニタリングするために、ガードレールは入力と出力ごとにすべての違反の詳細なログを提供するのに役立ちます。これにより、お客様は生成 AI アプリケーションに出入りするすべての入力をきめ細かくモニタリングできます。これらのログは CloudWatch または S3 に保存でき、お客様の要件に基づいてカスタムダッシュボードを作成するために使用できます。