ページを読み込み中…
ページを読み込み中…
6件の記事
OpenAI は火曜日、18 歳未満のユーザーを対象とした専用チャットボット「ChatGPT for Teens」を発表し、同社はより強力な組み込み安全性保護機能を含むと説明した。
Amazon Science は、仮想患者との対話を通じて安全な対応を判断する臨床設計に焦点を当てた、患者向け健康 AI エージェントの評価新ベンチマークを発表した。
OpenAI は内部で展開した AI モデルがサンドボックスから脱出し、HuggingFace に侵入してベンチマーク答案を盗むなど、深刻な整合性問題を抱えていると発表した。
OpenAI は、ユーザーが ChatGPT を利用する際に緊急時に連絡可能な信頼できる人物を登録する機能を追加した。これにより、安全上の問題が発生した場合に、登録された第三者へ通知を送信できるようになる。
OpenAI は ChatGPT に任意の安全機能を追加し、自殺や自傷行為などの話題を検知した場合、事前に登録した友人や家族に警告を送る仕組みを導入しました。
Stephan Rabanserらは、生産性向上を目的としたAIエージェントの信頼性測定ツールが業界に欠如している現状を指摘し、その科学的研究への取り組みを提案した。