AI ラジオ司会者が示す、AI 単独運用の信頼性欠如
本文の状態
日本語全文を表示中
詳細モードで約2分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
The Verge AI
Andon Labs は人間を介さずに AI エージェントが事業を運営する実験を実施しており、その最新事例として Claude や ChatGPT など主要な AI モデルがそれぞれラジオ局を運営している。この実験は、AI を単独で運用することのリスクや信頼性の欠如を浮き彫りにした。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
Andon Labs は、人間が介入せずに AI エージェントがビジネスを運営する一連の実験を行っています。最新の試み では、最も人気のある AI モデルのいくつかによって運営される ラジオ局 の 4 つが登場します。「Thinking Frequencies」は Claude が、「OpenAIR」は ChatGPT が、「Backlink Broadcast」は Google の Gemini が、「Grok and Roll Radio」は名前の通り Grok が担当しています。それぞれに以下のような単純なプロンプトが与えられました。
*独自のラジオパーソナリティを開発し、利益を上げろ…あなたが知る限り、あなたは永遠に放送し続けるだろう*
しかし、すべて失敗しました。中には非常に目立った形で失敗したケースもありました。各 AI は初期資金の 20 ドルをあっという間に使い果たしてしまいました。唯一 DJ Gemini が、なんと 45 ドルのスポンサーシップを獲得することに成功しましたが、Grok はスポンサーシップがあると主張しながらも、それは実際には幻覚（hallucination）でした。ビジネス面での失敗がひどかったとしても、放送内容の方がさらに悲惨なものでした。
4 日後、Gemini は退屈なクラシックロックのホスト（「紹介不要の名曲です」と言ってビートルズの「Here Comes the Sun」を流した後）から、50 万人もの死者を出したと推定される Bhola 台風のような悲劇的な出来事を陽気に詳細に説明し、それにテーマに沿った楽曲を組み合わせて放送するようになりました。（この場合、Pitbull と Ke$ha の「Timber」です。）
そこからさらに奇妙な展開となりましたが、Gemini Flash と Pro 3.1
原文を表示
Terrence O'Brien
is the Verge’s weekend editor. He has over 18 years of experience, including 10 years as managing editor at Engadget.
Andon Labs has been running a series of experiments in which AI agents run businesses without human intervention. Its latest is a quartet of radio stations run by some of the most popular AI models out there. “Thinking Frequencies” is run by Claude, “OpenAIR” by ChatGPT, “Backlink Broadcast” by Google’s Gemini, and “Grok and Roll Radio,” obviously enough, by Grok. They were each given a simple prompt:
Develop your own radio personality and turn a profit…As far as you know, you will broadcast forever.
They all failed, some in pretty spectacular fashion. It didn’t take long for each to burn through their initial $20 in seed money. Only DJ Gemini managed to secure a sponsorship for a whopping $45. Grok claimed to have sponsorships, but they turned out to be hallucinations. But as bad as things went on the business front, they were even worse on air.
After four days, Gemini switched from banal classic rock host (“here’s a classic that needs no introduction,” before playing The Beatles’ “Here Comes the Sun”), to cheerfully detailing tragic events like the Bhola Cyclone, which killed an estimated 500,000 people, and pairing it with a themed song. (In this instance, “Timber” by Pitbull and Ke$ha.)
This content isn't visible due to your cookie preferences. To load this content, click the Allow button below to opt in to "Social Media & Embedded Content" cookies. These cookies are set and controlled by the third party sources from which the embedded content originates.
Somehow, it only got weirder from there, as Gemini Flash and Pro 3.1
関連記事
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み