#ニューラルネットワーク解釈性 のAIニュース

大規模言語モデルの安全アライメントを単一ニューロンで回避可能であることを実証

Apple Machine Learning の研究チームは、言語モデルの安全アライメントが拒絶ニューロンと概念ニューロンの 2 つのシステムで構成されていることを明らかにし、各システムの単一ニューロンを操作することで安全回避や有害コンテンツ生成が可能であることを示した。