Amazon Bedrock har lansert en ny tjeneste, Amazon Bedrock, for å gjøre maskinlæring og AI enklere for kunder og senke inngangsbarrieren for utviklere.
Amazon Bedrock er en ny tjeneste som gir kunder API-tilgang til basismodeller fra Amazon og ledende AI-oppstartsbedrifter, inkludert AI21 Labs, Anthropic og Stability AI. Amazon Bedrock er en av de enkleste måtene for kunder å bygge og skalere generative AI-applikasjoner ved hjelp av en basismodell, noe som senker inngangsbarrieren for alle utviklere. Kunder kan få tilgang til et robust sett med tekst- og bildebasismodeller gjennom Bedrock (tjenesten tilbyr for øyeblikket en begrenset forhåndsvisning).
Samtidig kan Amazon Cloud Technology-kunder bruke Amazon EC2 Trn1-instanser drevet av Trainium, noe som kan spare opptil 50 % på opplæringskostnader sammenlignet med andre EC2-instanser. Når en generativ AI-modell er distribuert i stor skala, vil mesteparten av kostnadene påløpe ved kjøring og resonnering av modellen. På dette tidspunktet kan kunder bruke Amazon EC2 Inf2-instanser drevet av Amazon Inferentia2, som er spesielt optimalisert for storskala generative AI-applikasjoner som kjører hundrevis av milliarder parametermodeller.
Publisert: 05.07.2023