Transformersで特定の文字列が出力された際に生成を停止する方法
本文の状態
日本語全文を表示中
詳細モードで約1分の本文を読めます。
同じ出来事の情報源
この情報源を基点に整理
Spiral.AI Tech Blog
SpiralAIのインターン生が、Transformersライブラリを使用したテキスト生成時に、特定の文字列（例：###）が出力された際に生成を自動停止する方法について説明している。
Source Article
元記事を日本語で読む
本文に関係しない購読案内、埋め込み通知、サイト内プロモーションは除いています。
どうも、@ksterxです。
現在はSpiralAIという会社でインターンをしています。
突然ですが、みなさんはモデルの生成時に次のような現象に遭遇したことはないでしょうか？
###質問:
富士山の高さは？
###回答:
3776 m
###追加の質問:
では、エベレスト山の高さは？
本当は
###質問:
富士山の高さは？
###回答:
3776 m
とだけ回答してほしいのに、、、
毎回、「###」で始まる何かを出力してしまうんだよなあ、、、
そこで今回は、Transformersを使ったテキスト生成において、特定の文字列（###など）が出力された時点で生成を停止する方法について説明したい...
原文を表示
どうも、@ksterxです。
現在はSpiralAIという会社でインターンをしています。
いきなりですが、みなさんはモデルの生成で次のような事象を経験したことはないでしょうか？
###質問:
富士山の高さは？
###回答:
3776 m
###追加の質問:
では、エベレスト山の高さは？
本当は
###質問:
富士山の高さは？
###回答:
3776 m
と回答してほしいだけなのに、、、
毎回、「###」で始まるなにかを出力するんだよなあ、、、
そこで今回は、Transformersを使ったテキスト生成で、特定の文字列（###とか）が出力された際に、生成を停止する方法について話したい...
今日のまとめ
AIデイリーブリーフで今日の重要ニュースをまとめ読み