Amazon Bedrock đã ra mắt dịch vụ mới, Amazon Bedrock, nhằm giúp khách hàng sử dụng máy học và AI dễ dàng hơn và giảm rào cản gia nhập cho các nhà phát triển.

Amazon Bedrock là một dịch vụ mới cung cấp cho khách hàng quyền truy cập API vào các mô hình cơ sở từ Amazon và các công ty khởi nghiệp AI hàng đầu, bao gồm AI21 Labs, Anthropic và Stability AI. Amazon Bedrock là một trong những cách dễ nhất để khách hàng xây dựng và mở rộng quy mô các ứng dụng AI tạo sinh bằng cách sử dụng mô hình nền tảng, giúp giảm rào cản gia nhập cho tất cả các nhà phát triển. Khách hàng có thể truy cập vào một bộ mô hình cơ sở văn bản và hình ảnh mạnh mẽ thông qua Bedrock (dịch vụ hiện đang cung cấp bản xem trước giới hạn).

Đồng thời, khách hàng của Amazon Cloud Technology có thể sử dụng các phiên bản Amazon EC2 Trn1 do Trainium cung cấp, có thể tiết kiệm tới 50% chi phí đào tạo so với các phiên bản EC2 khác. Khi một mô hình AI tạo ra được triển khai ở quy mô lớn, hầu hết chi phí sẽ phát sinh do việc chạy và lập luận của mô hình. Tại thời điểm này, khách hàng có thể sử dụng các phiên bản Amazon EC2 Inf2 do Amazon Inferentia2 cung cấp, được tối ưu hóa cụ thể cho các ứng dụng AI tạo ra quy mô lớn chạy hàng trăm tỷ mô hình tham số.