AIに長い記憶は不要か? — 費用とソフトの価値の前提が揺らぐ

DEEP SYNC

11月3日に公開された論文は、AIに長い会話の記録を持たせなくても、要約して引き継げば仕事の精度はほとんど落ちないと示しました。AIの利用料の考え方と、自社が買うソフト・売るソフトの価値を見直す材料になります。

30秒でわかるポイント

  • AIに読ませる記録を256Kトークンまで広げると、16Kトークンのときより、書き出す1トークンあたりの費用が最大7倍になります(公開モデルでの測定)
  • Claude Opus 4.5では、全記録を残す方式の成功率70.0%に対し、1手ごとに要約だけを引き継ぐ方式は70.2%でした。ただしGPT 5.6 Solは84.4%から82.4%に下がっています
  • 清水亮氏はコラムで、試行錯誤の費用が下がれば、パッケージソフトのライセンス販売が成り立たなくなる可能性を論じました。法律やデータの壁は残るとも断っています

1分でわかる解説

AIは作業の記録が長くなるほど、次の言葉を書くための計算が重くなります。そこで論文は、記録を要約して引き継ぐ方式を試し、成績を比べました。

方式 残すもの 成功率(Claude Opus 4.5)
全記録を残す これまでの会話すべて 70.0%
要約して仕切り直す 一定の長さで要約 最良で74.8%
1手ごとに要約 要約した状態だけ 70.2%

清水氏は、安い小型のAIが長時間試行錯誤できれば、ソフトを作り直す費用が大きく下がると見ています。ソフトの価格を支えてきた「作る手間」が薄れる、という見方です。

ここから考えたい3つの問い

  • あなたの職場では、AIの利用料が何に応じて増えているかを把握していますか?
  • 高い料金を払っているソフトのうち、作り直せば安く済むものはどれですか?
  • その商品やサービスの価値は、作る手間以外のどこにありますか?
全文を読む(約6分)

何が起きたの?

11月9日、清水亮氏がWirelessWire & Schrödinger’sにコラムを書きました。題名は「ソフトウェア産業が消滅する日 — 小さなローカルAIが暴く『プログラムを売る』という商売の終焉」です。

コラムの土台は2つあります。1つは、11月3日に公開された論文「You don’t need long context(長いコンテキストは必要ない)」です。著者はPeter Belcak氏、Pavlo Molchanov氏ら12人です。

もう1つは、清水氏が自作して公開したプログラム「mightyCode」です。プログラミング用のAIツール「Claude Code」を、Apple Silicon搭載のMacの中だけで動く小型のAIにつなぎます。外部サービスの利用に使う鍵(APIキー)は要りません。

清水氏が強調するのは次の点です。「十分に安い知能が、十分に長い時間、試行錯誤を繰り返せるようになったということだ。」

なぜ長い記録は高くつくの?

AIは、それまでの会話や作業の記録(コンテキスト)を読み直しながら、次の言葉を書きます。記録が長いほど、1語ごとの計算が重くなります。

論文は、公開されている大型のモデルで費用を比べました。記録の上限を16Kトークンから256Kトークンに広げると、書き出す1トークンあたりの費用はGLMで3.6倍、Kimiで5.6倍、Qwenで7倍になります。トークンは、AIが文章を数える単位です。

要旨では、後から書く言葉ほど費用がかかり、その差は最大7倍に達しうると説明しています。長い資料を丸ごと読ませ、長い会話を続けるほど、割高になる構造です。

この費用は、計算機(GPU)の時間貸しの料金をもとに論文が計算したものです。各社の請求額そのものではありません。

要約して引き継いでも、成績は落ちないの?

論文が比べたのは、記録の扱い方の違いです。すべての記録を残す、これまでの方式。記録が一定の長さを超えたら要約して仕切り直す方式(EoCC)。記録をほぼ持たず、要約した状態だけを1手ごとに引き継ぐ方式(SAC)です。

試験とモデル 全記録を残す 要約して仕切り直す(最良) 1手ごとに要約
SWE-bench Verified・Claude Opus 4.5 70.0% 74.8% 70.2%
Terminal-Bench 2.1・Claude Opus 4.5 47.2% 52.8% 51.8%
SWE-bench Verified・GPT 5.6 Sol 84.4% 88.8% 82.4%

SWE-bench Verifiedは、ソフト開発の実際の課題を解かせる試験です。Terminal-Benchは、コンピューターを命令で操作して課題をこなす試験です。

Claude Opus 4.5では、1手ごとに要約する方式でも成績は下がりませんでした。一方、GPT 5.6 Solでは2.0ポイント下がっています。すべてのモデルで改善したわけではありません。

論文は、1つの記録で1手しか打たなくても性能が崩れないことを示しました。そのうえで、長い記録を扱えるモデルが本当に必要なのかを問いかけています。

「ソフトを売る商売」はどう変わるの?

清水氏は、この結果をソフトの作り方の話につなげます。安い小型のAIが、記録を要約しながら長く働けるなら、試行錯誤の費用は小さくなります。コラムでは「知能を使って試行錯誤することの限界費用が、極端に小さくなっていくのである」と書いています。

これまでソフトの価格を支えてきたのは、作るのに必要な専門技術と時間でした。作り直しが劇的に安くなれば、パッケージソフトのライセンスを売る商売そのものが成り立たなくなる可能性がある。これが清水氏の見方です。

前例として挙げるのが、自由に使えるソフトの歴史です。1983年にリチャード・ストールマン氏がGNUプロジェクトを立ち上げ、1985年にフリーソフトウェア財団(FSF)が設立されました。

1991年には、リーナス・トーバルズ氏がUNIX互換の中核部分(カーネル)としてLinuxを開発しています。高いライセンス料が必要だったソフトが、独立した作り直しで置き換えられてきた、という流れです。

ただし、清水氏自身が条件を付けています。

論点 清水氏が認めている限界
法律 著作権、特許、契約などの問題は残る。機能を再現できることと、合法的に配れることは別
守りの厚い事業 インターネット経由で使う大規模な定額制のサービス(SaaS)、独自のデータを持つサービス、規制対応が必要な業務システムには、コード以外の壁がある
技術の現状 mightyCodeが、あらゆるソフトの解析と再現に成功したわけではない
小型のモデル 手元の小型のモデルで、論文と同じ精度が出るかは検証していない

題名は「消滅」ですが、本文は可能性を論じたものです。確定した事実ではなく、1人の開発者の予測として読むのが妥当です。

SYNCONの視点 — 価値の根拠を「作る手間」の外に置く

経営層が持ち帰れることは2つあります。1つは費用です。AIの利用料は、使う回数だけでなく、1回に読ませる記録の長さでも膨らみます。長い会話を続ける使い方は、精度のためではなく、ただ割高になっているだけかもしれません。

社内でAIの費用を見るときは、利用者数や回数に加えて、仕事の区切りごとに要約して引き継ぐ使い方ができているかを、担当者に確かめる価値があります。

もう1つは事業の価値です。自社が売るソフトや、高い料金を払っているソフトの価値が、「作るのに時間がかかること」だけに頼っていないかを点検する時期です。清水氏の留保が示すとおり、データ、運用、規制への対応はコードのようには複製できません。

月曜にできることは、使っているソフトの一覧に「作り直せる機能か、データや運用に価値があるか」の欄を1つ足すことです。売る側なら、自社の商品のどこに作る手間以外の価値があるかを、言葉にしておくことです。

なお、mightyCodeが使うのは、安全上の制限を外した派生モデルです。清水氏は、モデル自体の安全性はテストしていないとして、見られて困る情報を置かないよう注意しています。社内の業務データで試すのは避けるのが無難です。

未確認の点:論文の掲載ページには、著者の所属が書かれていません。コラムは「NVIDIAの研究者らによる論文」としています。ページ上で確かめられたのは、NVIDIA Researchのサイトへのリンクと、NVIDIAの機器(DGX Spark)を使った実験までです。

情報ソース:
・WirelessWire & Schrödinger’s「ソフトウェア産業が消滅する日 — 小さなローカルAIが暴く『プログラムを売る』という商売の終焉」(2026年11月9日)
・arXiv「You don’t need long context」(2026年11月3日)
・GitHub「shi3z/mightyCode」
・X:@shi3zの投稿(2026年11月9日)

AI・最新テックの動きを、毎日 X でお届けしています

X で @SYNCONJP をフォロー

コメント

タイトルとURLをコピーしました