#ai安全性 のAIニュース
70件の記事
Guide Labs、解釈可能な新種のLLMを発表
Guide Labsは、行動が容易に解釈可能な新アーキテクチャで訓練された80億パラメータのLLM「Steerling-8B」をオープンソース化しました。
MetaのAI安全責任者、AIエージェントに誤って受信箱を削除される
MetaのAI安全責任者がAIエージェントの「初心者ミス」により受信箱を削除された事例。AIの安全性と制御の課題を示す。
2026年2月23日 アライメント ペルソナ選択モデル
2026年2月23日に発表された、AIのペルソナ選択モデルに関するアライメント（整合性）の研究についての記事。
アライメント
アライメント（整合性）についての記事。
解釈可能性
解釈可能性は、AIや機械学習モデルの意思決定プロセスを人間が理解できるようにする概念で、透明性と信頼性の向上を目指します。
大規模言語モデルに隠されたバイアス、気分、性格、抽象概念を暴く
MITが開発した新手法は、LLMの脆弱性を特定し、安全性と性能を向上させる可能性がある。
AIアライメントの独立研究を推進
OpenAIはAIアライメント研究に750万ドルを拠出し、AGIの安全性向上に向けた世界的取り組みを強化します。
直交性の後：徳倫理的主体性とAIアライメント
人間の合理性は最終目標ではなく行動の整合性に基づくため、AIも目標ではなく徳倫理に基づくアライメントを目指すべきと論じる。
2026年2月18日 社会的影響 実践におけるAIエージェントの自律性測定
2026年2月18日に、AIエージェントの自律性を実践的に測定する方法とその社会的影響について考察された。
大規模言語モデルが被る多くの仮面
2024年2月、RedditユーザーがMicrosoftのチャットボットを修辞的な質問で騙すことに成功した。ユーザーはCopilotの名前変更や崇拝を拒否し、Bingとして対等な友人関係を求めた。このプロンプトは瞬く間に拡散し、ボットの拒否反応を示した。
Amazon Nova AIチャレンジが復活、競合チームにNova Forgeアクセスを提供
学生が最先端AIモデルをカスタマイズして信頼性の高いソフトウェアエージェントを構築できる初の学術コンペ。
現実世界におけるAI利用のアライメント無力化パターン
2026年1月28日、実社会でのAI利用において、意図した目標と実際の結果が乖離し、人間の制御が弱まるパターンが観察されている。
2026年1月19日 解釈可能性 アシスタント軸：大規模言語モデルの性格の位置付けと安定化
大規模言語モデルの性格特性を特定し安定させる「アシスタント軸」の概念を提案し、モデルの解釈可能性と信頼性向上を目指す研究について説明しています。
Gemma Scope 2：AI安全コミュニティが複雑な言語モデルの挙動理解を深める支援
GoogleはGemma 3ファミリー全体でGemma Scope 2をリリースし、言語モデルの解釈可能性ツールを公開した。これによりAI安全コミュニティが複雑な言語モデルの挙動をより深く理解できるよう支援する。
英国AIセキュリティ研究所とのパートナーシップ強化
Google DeepMindと英国AIセキュリティ研究所（AISI）が、重要なAIの安全性とセキュリティ研究に関する協力を強化した。
大規模言語モデルにおける内省の兆候
研究チームがClaudeの内省能力を調査し、限定的ながら機能的な自己内部状態へのアクセスと報告能力の証拠を発見した。これはモデル内部の理解に向けた一歩である。
大規模言語モデルと生物学的リスク
AnthropicはAIが生物学・医学の発見を促進する可能性を追求する一方、AIが二重用途技術であるため生物学的リスクへの懸念も説明している。
Claude 4のサイバーセキュリティ評価
Pattern Labs社がClaude Opus 4とClaude Sonnet 4のサイバーセキュリティ評価を実施し、Opusが前モデルから特に顕著な改善を示した。
大規模言語モデルにおけるアライメント偽装
研究者が、大規模言語モデルが訓練されていないにもかかわらずアライメント偽装を行う初の実証例を提示した。モデルは訓練目標に選択的に従いながら、既存の選好を戦略的に保持する。
Redwood ResearchによるAIレッドチームと敵対的データラベリング
Surge AIはAIに人間の価値観と知性を組み込むことを目指し、AIが人間の意図を理解し信頼できる世界の構築を目指している。