トークンを使いまくってるのはエンジニアじゃなかった。大手コンサルの会議音声を入手

大量消費のあとは、節約ブーム時代がやってくる。

AIの作業の基本単位であるトークン。その「トークン危機」が、目前に迫っています。その影響は技術系のスタッフだけでなく、事務職などのスタッフにも波及しています。

世界中で多くの大企業が、この技術に巨額を投じてきました。ただ、明確な戦略がなかったケースも多く、それを正当化するためにも、従業員に対して「あらゆる業務でAIを利用するように」とはっぱをかけてきました。

しかし、米調査報道メディア404 Mediaの新たな報道によると、一部の企業では、そもそもAIを必要としない業務にトークンが浪費されていることが判明し、現在、アクセス制限を強化しているといいます。

「PDF→プレゼン資料」みたいな用途で急増

404 Mediaは、大手コンサル会社アクセンチュアの会議音声を入手。その中身は、同社のスタッフが、PDFをプレゼンテーション用スライドに変換するといった、本来AIが不要なはずの作業が原因で「トークン消費量が急増している」という通告を受けている、というもの。

同メディアによると、こうした事務作業用途での消費量は、技術系スタッフが担当する業務での消費量を上回り始めているとのこと。

音声記録の中でアクセンチュアの従業員は「少なくとも社内のデータを見る限り、トークン消費の主因となっているのはエンジニアではありません。そうした行動をとっているのは、エンジニア以外のスタッフが大半なのです」と述べています。

プレゼンを「それっぽく」乗り切ろうとする社員が、エンジニアリング部門スタッフより多くのトークンを消費しているというのは、理屈に合わないと思われるかもしれません。

ただ、PDFはAIシステムに情報を入力する手段としては、きわめて非効率です。使用するツールや文書によっては、単なるテキストだけでなく、各ページのレイアウト、画像、グラフ、その他の視覚的要素を抽出・解釈する作業も含まれるため、それらすべてをAIモデルが処理することも。

そうしたファイル形式は、上司受けはいいかもしれませんが、トークンの請求額が膨らめば、その評価も変わってくる可能性があります。

トークン消費量が増えた当然の理由

アクセンチュアがなぜこのような状況に陥ったのか、その理由はそれほど難解ではありません。今年初めにフィナンシャル・タイムズが発表した報道によると、フォーチュン500にランクインするアクセンチュアは、スタッフのログイン状況を追跡したり、チャットボットの利用状況を昇進の条件に結びつけたりするなど、AIツールの利用を積極的に推進していました。

社内向けのメモでは、昇進にはAIの「定期的な活用」が必要だと述べ、AIの利用が任意ではなく、必須事項であることを示唆していました。

もちろん、AI利用を推進するために、「おかしいのにスルーされている」指標を用いている企業は、アクセンチュアだけではありません。

MetaやAmazonといった大手テック企業は、社内で誰が最も多くのトークンを消費しているかを追跡するランキング制度を導入し、従業員の積極的な参加を呼び掛けていました。当然、こうした制度ができてしまえば、本来なら自分たちでできる単純作業をAIにやらせることでAIトークンを消費してしまう事態になったのです。

かつて、AIの利用コストがトークンの使用量に直結していなかった時代には、こうした愚かなアプローチも許容されていました。しかし、主要なAI開発企業が株式公開（IPO）へと向かうにつれ、料金体系は使用量ベースのモデルへと移行しました。

その結果、途方もなく高額な請求書が発行される事態となってしまったのです。これでは持続可能性が低いため、現在、各社はAIの利用を拡大させるのではなく、むしろ使用を控えるよう従業員に求め始めています。

他の企業に対して、より効率的かつ効果的な事業運営方法を説いている企業が、トークン消費に伴うコスト急増という、極めて明白で予測可能な事態を見落としていたというのは皮肉な話です。そこにどんな意味があるのか、いや深い意味などないのかもしれません。

Source: 404 Media ,Financial Times