#tokenization のAIニュース

6件の記事

最適なトークナイザーの発見（15 分読了）

TLDR AI は、先端的な AI モデルが整数列であるトークンで訓練される背景を説明し、特定の条件下で最適なトークナイザーを計算するアルゴリズムを発表した。

TechCrunch は、Google の生成 AI モデルが自社の社名や一般的な単語のスペルを誤る現象について分析し、その技術的・データ上の原因を解説している。

Latent Space は、今週大きなマイルストーンを達成した過去のゲスト企業として、年間収益1億ドルで黒字化を果たした TurboPuffer と、シリーズC で25億ドルの価値評価を得た Exa を紹介しました。また、Modal も47億ドルの評価額に達しています。

Smol AI News は、5 月 20 日から 21 日にかけての期間に、主要な AI ニュースや技術進展がない静かな一日であったと報告しています。

Anthropic は Claude Opus 4.7 の入力理解を向上させるため新しいトークナイザーを導入した。モデル価格自体は据え置きだが、同じ入力で従来モデルより 12% から 27% 高いコストがかかるようになった。ただし短いプロンプトではコスト効率が向上している。

サイモン・ウィリソン氏が、LLMを拡張するソフトウェアであるコーディングエージェントの内部動作を解説し、適切な活用方法を提案している。