Experiencia para desarrolladores de Amazon Bedrock

Amazon Bedrock hace que la creación con una gama de modelos fundacionales (FM) sea tan sencilla como una llamada a la API. Amazon Bedrock brinda acceso a los principales modelos, incluidos Jurassic de AI21 Labs, Claude de Anthropic, Command and Embed de Cohere, Llama 2 de Meta y Stable Diffusion de Stability AI, así como nuestros propios modelos de Amazon Titan. Con Amazon Bedrock, puede seleccionar el FM que mejor se adapte a su caso de uso y a los requisitos de la aplicación.

Experimente con diferentes FM utilizando áreas de juego interactivas para diversas modalidades, como texto, chat e imagen. Las áreas de juego permiten probar varios modelos para su caso de uso para hacerse una idea de la idoneidad del modelo para una tarea determinada.

La evaluación de modelos en Amazon Bedrock permite utilizar evaluaciones automáticas y humanas para seleccionar los FM para un caso de uso específico. La evaluación automática del modelo utiliza conjuntos de datos seleccionados y proporciona métricas predefinidas que incluyen la precisión, la solidez y la toxicidad. En el caso de las métricas subjetivas, puede utilizar Amazon Bedrock para configurar un flujo de trabajo de evaluación humana en unos pocos pasos. Con las evaluaciones humanas, puede traer sus propios conjuntos de datos y definir métricas personalizadas, como la relevancia, el estilo y la alineación con la voz de la marca. Los flujos de trabajo de evaluación humana pueden aprovechar a sus propios empleados como revisores o puede contratar a un equipo administrado por AWS para que lleve a cabo la evaluación humana, donde AWS contrata a evaluadores cualificados y administra todo el flujo de trabajo en su nombre. Para obtener más información, lea el blog.

En unos pocos pasos, Amazon Bedrock permite que pase de modelos genéricos a modelos especializados y personalizados para su empresa y caso de uso. Para adaptar un FM a una tarea específica, puede usar una técnica llamada ajustes de precisión. Señale algunos ejemplos etiquetados en Amazon Simple Storage Service (Amazon S3) y Amazon Bedrock hará una copia del modelo base, lo entrenará con sus datos y creará un modelo con ajustes de precisión al que solo podrá acceder usted, de modo que obtendrá respuestas personalizadas. Los ajustes de precisión están disponibles para los modelos Command, Llama 2, Amazon Titan Text Lite y Express, Generador de imágenes de Amazon Titan y Amazon Titan Multimodal Embeddings. Una segunda forma de adaptar los FM Amazon Titan Text Lite y Amazon Titan Express en Amazon Bedrock es mediante un entrenamiento previo continuo, una técnica que utiliza los conjuntos de datos sin etiquetar para personalizar el FM para su dominio o sector. Tanto con los ajustes de precisión como con el entrenamiento previo continuo, Amazon Bedrock crea una copia privada y personalizada del FM base para usted, y sus datos no se utilizan para entrenar los modelos base originales. Los datos que utiliza para personalizar los modelos se transfieren de forma segura a través de Amazon Virtual Private Cloud (Amazon VPC). Para obtener más información, lea el blog.

La API de Converse proporciona a los desarrolladores una forma coherente de invocar modelos de Amazon Bedrock, lo que elimina la complejidad necesaria para adaptarse a las diferencias específicas del modelo, como los parámetros de inferencia.