#セキュリティ脅威のAIニュース

4件の記事

Håkon Måløy氏、Wordのコパイロットを悪用した自己複製型ワーム攻撃を発見

Håkon Måløy氏は、Microsoft WordのCopilotで文書がソースとして使用される際、隠された指示を悪用してプロンプトインジェクション攻撃を自己複製型ワームに昇華させる新たな手法を見つけたと報告した。

Ars Technica は、プロンプトインジェクション攻撃の脅威について報じています。LLMは信頼できる指示と悪意ある命令を区別できず、ハッカーがこれを利用してボットネットを構築していることを示しています。

Joseph が、Microsoft Teams や Zoom 通話で他人に成りすますリアルタイム動画ディープフェイクソフト「Haotian AI」を入手した経緯を報告し、Matthew がカードゲームの騒動について語る。

コーディングを容易にするとスパムが増えるという問題があり、悪影響がある。