Amazon Bedrock đã ra mắt dịch vụ mới, Amazon Bedrock, nhằm giúp khách hàng sử dụng máy học và AI dễ dàng hơn và giảm rào cản gia nhập cho các nhà phát triển.

Amazon Bedrock là một dịch vụ mới cung cấp cho khách hàng quyền truy cập API vào các mô hình cơ sở từ Amazon và các công ty khởi nghiệp AI hàng đầu, bao gồm AI21 Labs, Anthropic và Stability AI. Amazon Bedrock là một trong những cách dễ dàng nhất để khách hàng xây dựng và mở rộng quy mô các ứng dụng AI tạo sinh bằng mô hình nền tảng, giúp giảm thiểu rào cản gia nhập cho tất cả các nhà phát triển. Khách hàng có thể truy cập một bộ mô hình cơ sở văn bản và hình ảnh mạnh mẽ thông qua Bedrock (dịch vụ hiện đang cung cấp bản xem trước giới hạn).

Đồng thời, khách hàng của Amazon Cloud Technology có thể sử dụng các phiên bản Amazon EC2 Trn1 được hỗ trợ bởi Trainium, giúp tiết kiệm tới 50% chi phí đào tạo so với các phiên bản EC2 khác. Khi một mô hình AI tạo sinh được triển khai trên quy mô lớn, phần lớn chi phí sẽ được chi trả cho việc vận hành và suy luận mô hình. Tại thời điểm này, khách hàng có thể sử dụng các phiên bản Amazon EC2 Inf2 được hỗ trợ bởi Amazon Inferentia2, được tối ưu hóa đặc biệt cho các ứng dụng AI tạo sinh quy mô lớn, chạy hàng trăm tỷ mô hình tham số.