超知能AIの到来と制御不能なリスクへの懸念

AI 企業は、スーパーインテリジェントな AI が避けられないかのように語ってきました。しかし、OpenAI の「Hugging Face 侵害」のような最近の 安全インシデント は、人間よりも能力の高い AI システムを配備することに伴う潜在的な危険性を浮き彫りにしています。では、これらのシステムが何をするかを確実に制御できなくなった場合、どうなるのでしょうか？

TechCrunch の Equity ポッドキャストの今回のエピソードでは、AI 研究者であり起業家、現在は非営利団体 ControlAI の米国執行ディレクターである Connor Leahy が Rebecca Bellan と共演します。ControlAI は、AI セーフティに対するより過激なアプローチを推進しており、それは企業によるスーパーインテリジェンスの開発そのものを止めることを目指しています。Leahy 氏は、リスクがアライメント（整列）とコンテインメント（封じ込め）だけで管理するには大きくなりすぎたと考える理由や、6 ヶ月前にはありえない話だったことが、今では新たな立法の波によって支持されるようになった背景について解説します。

Equity は YouTube、Apple Podcasts、Overcast、Spotify などで配信されています。また、X（旧 Twitter）や Threads でも @EquityPod でフォロー可能です。

記事執筆者について

Theresa Loconsolo 氏は TechCrunch のオーディオプロデューサーで、同社の看板ポッドキャスト「Equity」を担当しています。2022 年に TechCrunch に加入する前は、4 つの放送局を傘下に持つ大規模メディアグループでプロデューサーとして活動し、コンテンツの執筆・録音・ナレーション・編集を手掛けるとともに、lovelytheband などのゲストを迎えたライブパフォーマンスやインタビューの音響エンジニアリングも担当していました。現在はニュージャージー州に拠点を置き、モンマス大学からコミュニケーション学の学士号を取得しています。

Theresa 氏への連絡や取材依頼の確認は、theresa.loconsolo@techcrunch.com までメールでお送りください。

プロフィール詳細はこちら

業界最大のテックニュースを購読する