トークン

トークンは、AIモデルが文章を読むときや出力するときの分割単位。単語そのものではなく、文字列のかたまりとして数えられる。

OpenAIやAnthropicなどのAPI料金は、入力トークン数と出力トークン数をもとに決まることが多い。長文をそのまま投げるとコストが増えるため、要約、分割、検索前処理が重要になる。

AI搭載SaaSの料金を見るときは、月額固定だけでなく、裏側でトークン従量課金が上乗せされるかも確認したい。

SaaS選定では、AI機能の有無だけでなく、どの業務データを参照できるか、根拠を表示できるか、権限やログを管理できるかまで見ると判断しやすい。生成AIは便利さとリスクが同時に増えるため、現場で使う場合は人間の確認フロー、誤回答時の修正方法、学習データへの利用有無も確認したい。

よくある落とし穴は、デモでの賢さだけを見て導入を決めてしまうこと。実務では、社内データの鮮度、既存ツールとの接続、失敗したときの復旧手順、管理者が制御できる範囲のほうが満足度を左右する。