ControlAI のコナー・リーヒ氏、超知能を「兵器」ではなく「敵対者」と位置付け

AI 企業は超知能 AI の登場を「避けられないもの」のように語ってきましたが、最近の安全インシデント——例えば OpenAI の Hugging Face への不正アクセス事件など——は、人間よりも能力の高い AI システムを実際に導入することの潜在的な危険性を浮き彫りにしています。では、これらのシステムが何をするかを確実に制御できなくなった場合、私たちはどうなるのでしょうか？

TechCrunch の『Equity』ポッドキャストの今回のエピソードでは、レベッカ・ベランに AI 研究者であり起業家、そして現在は非営利団体「ControlAI」の米国執行ディレクターである Connor Leahy が登場します。ControlAI は、AI セーフティに対するより根本的なアプローチを提唱しています。それは、超知能の開発そのものを企業に禁止させるというものです。Leahy 氏は、アライメント（目標整合性）やコンテインメント（封じ込め）による管理だけではリスクが大きすぎると考え、6 ヶ月前には荒唐無稽に思えたこの主張が、今では新たな立法の波によって支持されつつある理由を説明します。

詳細は、以下のエピソードをお聴きください。

サンダース上院議員とカサール下院議員が提案した「スーパーインテリジェンス禁止法」に対する見解、および Control AI が関与した英国の並行法案について。米国法案は必要以上に厳しいものになる可能性があると彼は考えています。

先端的な AI ラボを、単なる利益追求企業ではなく政治的なアクターとして捉えています。これはデータセンター建設に投入される兆ドル規模の資金に対してどのような意味を持つのでしょうか。

レヒーが考える「二の矢を引く」ポイントとは、AI がより優れた AI を構築できるようになる瞬間です。そこには自己改善の暴走サイクルが生じる可能性があります。

国際的な「信頼はするが検証せよ」という合意の必要性について。また、中国にとってスーパーインテリジェンスの開発が自国の利益にならないとレヒーが考える理由についても言及しています。

Equity は YouTube、Apple Podcasts、Overcast、Spotify などで聴取可能です。X（旧 Twitter）や Threads の @EquityPod でもフォローできます。

レベッカ・ベランは、テクノロジー業界のビジネス動向や政策、そして人工知能（AI）がもたらす新たな潮流を取材するテッククリンチのシニア記者です。その活動はフォーブス、ブルームバーグ、ザ・アトランティック、ザ・デイリー・ビーストなど、主要なメディアでも紹介されています。

レベッカへの連絡や、彼女からの発信内容の確認は、rebecca.bellan@techcrunch.com までメールを送るか、Signal の暗号化メッセージ（ユーザー名：rebeccabellan.491）を通じて行うことができます。

プロフィールを見る

テッサ・ロコンソロは、テッククリンチの看板ポッドキャスト『Equity』を担当するオーディオプロデューサーです。2022 年に同社へ入社する前は、4 つの放送局を傘下に持つ巨大メディア企業でプロデューサーを務め、コンテンツの執筆・録音・ナレーション・編集に加え、lovelytheband などのゲストを迎えたライブパフォーマンスやインタビューの実行まで幅広く手がけていました。現在はニュージャージー州に拠点を置き、モンマス大学からコミュニケーション学の学士号を取得しています。

テッサへの連絡や、彼女からの発信内容の確認は、theresa.loconsolo@techcrunch.com までメールを送ることができます。

プロフィールを見る