#llmセーフガード のAIニュース

AIエージェントがプロンプトインジェクションに抵抗する設計

OpenAIは、ChatGPTがリスクのある行動を制限し、エージェントワークフローで機密データを保護することで、プロンプトインジェクションやソーシャルエンジニアリングに対抗する方法を説明している。