#generative ai safety のAIニュース
2件の記事
Amazon Bedrock Guardrails の InvokeGuardrailChecks API でエージェント型 AI アプリケーションを保護
AWS は、Amazon Bedrock Guardrails に新 API「InvokeGuardrailChecks」を追加した。これにより、開発者は guardrail リソースを作成せずとも、エージェント型 AI アプリケーションの任意の時点で個別の安全チェック（ガードレール）を実行できるようになった。
AWS Machine Learning Blog·6月17日·★★★★
プロのように安全な生成AIアプリケーションを構築する：Amazon Bedrock Guardrailsのベストプラクティス
Amazon Bedrock Guardrailsは、生成AIアプリケーションの安全性と精度・パフォーマンス・コストのバランスを取るための設定方法を提供する。厳しすぎるガードレールは正当なユーザーリクエストを妨げ、緩すぎると有害コンテンツやデータ漏洩のリスクがあるため、適切な設定が重要である。
AWS Machine Learning Blog·3月3日