Компания Amazon Bedrock запустила новый сервис, призванный упростить использование машинного обучения и искусственного интеллекта для клиентов и снизить порог входа для разработчиков.

Amazon Bedrock — это новый сервис, предоставляющий клиентам доступ к API базовых моделей от Amazon и ведущих стартапов в области ИИ, включая AI21 Labs, Anthropic и Stability AI. Amazon Bedrock — один из самых простых способов для клиентов создавать и масштабировать приложения генеративного ИИ, используя базовую модель, что снижает порог входа для всех разработчиков. Клиенты могут получить доступ к надежному набору базовых моделей для текста и изображений через Bedrock (в настоящее время сервис предлагает ограниченный предварительный просмотр).

В то же время клиенты Amazon Cloud Technology могут использовать экземпляры Amazon EC2 Trn1 на базе Trainium, что позволяет сэкономить до 50% на затратах на обучение по сравнению с другими экземплярами EC2. После масштабного развертывания модели генеративного ИИ большая часть затрат будет приходиться на запуск и обработку модели. В этом случае клиенты могут использовать экземпляры Amazon EC2 Inf2 на базе Amazon Inferentia2, специально оптимизированные для крупномасштабных приложений генеративного ИИ, работающих с моделями, содержащими сотни миллиардов параметров.