技術分享部落格

利用 Amazon Bedrock Inference Profile 實現 Model 成本追蹤與管理

2024 年 11 月初,Amazon Bedrock 宣布了新功能 - Inference profile,使客戶能夠利用 cost allocation tag 按部門、團隊、應用程式對推理成本進行分類,並追蹤其 on-demand 模型的成本和資源利用率。  ... 進一步了解 >>

評估韌性模式,有效率地設計雲端架構

營運韌性 (Operational Resilience) 是通過了解並適應不斷變化的人員、流程和技術,據以提供持續不中斷服務的能力。《AWS 架構最佳實踐白皮書》將韌性定義為「在承受負載 (更多的服務請求)、攻擊 (無論是因錯誤還是蓄意) 以及工作負載的任何元件發生故障時,所具備恢復的能力」。  ... 進一步了解 >>

Meta Llama 3.1 及 Mistral Large 2 模型在 AWS 正式可用,為打造生成式 AI 應用提供更多選擇

【台北訊,2024 年 7 月 25 日】Amazon Web Services(AWS)宣布,Meta 剛剛發布的新一代 Llama 模型在 Amazon Bedrock 和 Amazon SageMaker 中提供。客戶也可以在基於 AWS Trainium 和 AWS Inferentia 自研晶片的 Amazon Elastic Cloud Compute(Amazon EC2)執行個體中部署這些模型。Llama 3.1 模型是一系列預訓練和指令微調的大型語言模型(LLMs),支持 8B、70B 和 405B 三種尺寸,適用於廣泛的使用場景 ... 進一步了解 >>

AWS 推出生成式 AI 服務 AWS App Studio 助力極速簡便建構應用程式

【台北訊,2024 年 7 月 11 日】在紐約高峰會上,Amazon Web Services(AWS)宣布正式推出 AWS App Studio,此服務由生成式 AI 驅動,助力使用者透過自然語言輕鬆打造企業級應用程式。用戶只需簡要描述所需應用程式的特性、功能要求以及希望整合的資料來源,AWS App Studio 即可在數分鐘內完成一個專業開發人員可能需要數日才能完成的應用程式。透過直觀的點選式介面,使用者能夠輕鬆修改 AWS App Studio 的應用程式,同時還可以透過詢問生成式 AI 助理即時獲得  ... 進一步了解 >>

生成式 AI 安全防護為什麼如此重要?AWS 全流程防護為你解惑

在人工智能技術的浪潮中,生成式 AI 無疑是引領風騷的明星。它強大的創造能力和廣泛的應用前景,為各個行業帶來了前所未有的創新機遇。然而,就如同一枚雙刃劍,生成式 AI 的興起也伴隨著數據安全和隱私泄露的巨大隱憂。如何在享受技術紅利的同時,確保數據和模型的安全無虞,成為企業急需解決的難題。 ... 進一步了解 >>

生成式 AI 開箱終極攻略:如何在 Amazon SageMaker JumpStart 上使用 StableDiffusion XL

今天我們很高興宣佈,客戶現在可以透過 Amazon SageMaker JumpStart 使用 Stable Diffusion XL 1.0 (SDXL 1.0)。SDXL 1.0 是來自 Stability AI 的最新圖像生成模型。SDXL 1.0 的增強功能包括以各種長寬比本機生成 1024 像素的圖像。它專為專業用途而設計,並針對高分辨率的逼真圖像進行了校準。SDXL 1.0 提供了各種可立即用於營銷、設計和跨行業圖像生成用例的預設藝術風格。您可以輕鬆  ... 進一步了解 >>

生成式 AI 革命 - AWS Inferentia 晶片引領企業創新無限可能

生成式 AI 正在顛覆各行各業,催生無數創新應用,而雲端運算和專用 AI 晶片則成為推動這場革命的關鍵力量。在這場新興的 AI 晶片大戰中,AWS 的 Inferentia 晶片憑藉出色的性能、低功耗和高性價比,成為企業實現生成式 AI 創新的理想選擇。無論是醫療健康、生命科學,還是其他領域,Inferentia 都能為您提供強大的算力支援,加速創新應用的落地。 ... 進一步了解 >>

生成式 AI 助理 Amazon Q:企業提高效率的秘密武器

在這個資訊爆炸的時代,企業面臨著前所未有的挑戰。無論是營運、銷售、客戶服務還是 IT 管理,每個部門都需要快速獲取相關資訊,做出明智決策。Amazon Web Services (AWS) 深知這一需求,因此推出了全新的生成式 AI 助理 Amazon Q,專為企業量身打造,幫助員工輕鬆完成各種任務,提高工作效率。 ... 進一步了解 >>

生成式 AI 開箱終極攻略:如何在 Amazon SageMaker JumpStart 上探索和微調生成式 AI 模型 Llama 2

Meta 開發的 Llama 2 基礎模型現已透過 Amazon SageMaker JumpStart 提供給客戶進行微調和部署。Llama 2 大型語言模型(LLM)家族是一系列預先訓練和微調的生成文字模型,其規模從 70 億到 700 億參數不等。經過微調的 LLM,稱為 Llama-2-chat,已針對對話使用案例進行優化。您可以輕鬆試用這些模型,並透過  ... 進一步了解 >>

生成式 AI 賦能 Amazon CloudWatch,啟動雲端監控新時代

在數位時代的浪潮中,企業紛紛將目光投向雲端技術,期望透過雲端服務的強大功能,提升營運效率,掌控數據分析,並實現無縫整合。而 Amazon Web Services (AWS) 推出的 Amazon CloudWatch 服務,更是將生成式 AI 融入其中,為使用者帶來全新體驗,開啟雲端監控的新紀元。 ... 進一步了解 >>

生成式 AI 模型的新曙光 - Amazon SageMaker JumpStart 助力企業輕鬆導入

在這個數位時代,生成式 AI 已成為企業數位轉型的關鍵力量。透過強大的自然語言處理和電腦視覺能力,生成式 AI 模型能夠產生逼真的文字、圖像和影像,為企業帶來無限的創新可能。然而,導入這些尖端技術卻面臨著諸多挑戰,如高昂的基礎設施投入、複雜的模型訓練流程等。 ... 進一步了解 >>

Anthropic 最強 AI 模型 Claude 3.5 Sonnet 在 Amazon Bedrock 上正式可用

【台北訊,2024 年 6 月 21 日】Amazon Web Services(AWS)宣布,Anthropic 最新、最強大的模型 Claude 3.5 Sonnet 現已在 Amazon Bedrock 上正式可用,該模型是 Anthropic 最先進的 Claude 系列 AI 模型的新成員。Amazon Bedrock提供了來自領先 AI 公司的多種高效能基礎模型(FM),以及客戶快速建構和部署生成式 AI 應用所需的功能和企業級安全性。 ... 進一步了解 >>

如何提升開發效率並兼顧安全性?AWS 生成式 AI 開發助手:Amazon CodeWhisperer

在這個數據驅動的時代,生成式 AI 技術正在為各行各業帶來革命性的改變。作為雲端服務領導者,Amazon Web Services (AWS) 推出了生成式 AI 助手 Amazon CodeWhisperer,將開發效率與安全性完美結合,助力開發人員提升生產力,打造更安全可靠的應用程式。 ... 進一步了解 >>

如何輕鬆利用 AI 創作圖像?Amazon Bedrock 帶領 StableDiffusionXL 與 Titan Image Generator 發動創意引擎

在科技發展日新月異的時代,生成式 AI (Generative AI) 無疑是最炙手可熱的領域之一。透過強大的模型,生成式 AI 能夠根據簡單的文字提示,生成逼真的圖像、影音、甚至程式碼,為人類創造力帶來全新可能。然而,訓練這些龐大模型需要大量計算資源和專業知識,因此對於一般開發者來說,生成式 AI 的門檻仍然很高。 ... 進一步了解 >>

你的生成式 AI 之盾 - 善用 CodeWhisperer 安全掃描功能

在當今科技日新月異的時代,軟體開發已成為企業營運的核心。無論是網站、行動應用程式還是內部系統,一個微小的程式碼漏洞都可能為企業帶來巨大的安全風險和財務損失。因此,確保程式碼的安全性對於任何組織都是至關重要的。 ... 進一步了解 >>

生成式 AI 新一代霸主 Anthropic Claude 3 Opus 在 Amazon Bedrock 登場

在生成式 AI 激烈競爭的 2024 年,Anthropic 推出了旗艦級 Claude 3 Opus 模型,已在 Amazon Bedrock 平台上與企業用戶見面。這款卓越的生成式 AI 模型不僅能以流暢且類人般的理解力應對開放式提示和全新情境,更在高度複雜的任務上展現出領先同儕的表現,引領通用智慧邁向新的里程碑。 ... 進一步了解 >>

Knowledge Bases for Amazon Bedrock 在新增、刪除、修改檔案時 Vector Database 的變化

根據Knowledge Bases for Amazon Bedrock(以下簡稱Knowledge Base)文件 [1] 的說明:「每次您在data source的S3中新增、修改或刪除檔案時,您必須同步該 data source,使其在 Knowledge Base中重新建立 index。同步是累加的,因此 Amazon Bedrock 僅會處理自上次同步後新增、修改或刪除的物件。」 ... 進一步了解 >>

如何運用 Anthropic Claude Messages API 體驗 Claude3 強大的視覺化能力

Claude 3 的突出特點之一就是它先進的視覺能力,使它能夠處理並分析圖像數據,幫助使用者更好理解圖表、圖形、照片。使用者可以利用 Claude Messages API 來開發虛擬助手應用程序,透過這個 API 可以有效地處理使用者與 Anthropic Claude 模型(助手)之間的對話互動。首先,讓我們導入所需的  ... 進一步了解 >>

Amazon Bedrock 使客戶更輕鬆快速地建構和擴展安全的生成式 AI 應用程式

【台北訊,2024 年 4 月 23 日】Amazon Web Services(AWS)宣布推出 Amazon Bedrock 的全新功能,為客戶提供了更簡單、更快捷、更安全的方法,幫助客戶開發先進的生成式人工智慧(AI)應用。目前,已有成千上萬的用戶選擇將 Amazon Bedrock 作為其生成式 AI 策略的核心基礎。Amazon Bedrock 讓用戶能夠輕鬆導入來自 AI21 Labs、Anthropic、Cohere、Meta、Mistral AI、Stability AI 以及亞馬遜等公司的領先基礎模型(FMs),同時滿足了...  ... 進一步了解 >>
Showing 1 to 20 of 66 results