AMD、AIモデルをシリコンに直接埋め込むTaalasを買収

記事の3ポイント

1. 1

   Taalas の技術的特徴

   Taalas は AI モデルの重みを推論チップに直接ハードコード（hard-codes）し、特定のモデルに最適化された高速な動作を実現する。

2. 2

   性能とトレードオフ

   同社のデモチップは Llama 3.1-8B を実行してユーザーあたり秒間 16,000 トークンを超える速度を記録したが、各チップが単一のモデルにロックされるという制約がある。

3. 3

   競合他社の動向

   Google は Gemini のために同様のアプローチの開発を進めていると報じられている。