どんな仕事を任せられるのか

文章を書く人工知能のことを、大規模言語モデルという。英語で large language model、その頭文字をとって LLM とも書く。オープンAIの GPT、グーグルの Gemini、アンソロピックの Claude が、それにあたる。以下ではモデルと呼ぶ。

この仕事はAIに任せられるか、を考えるとき、できる仕事の一覧を持っていても役に立たない。半年で古くなるし、一覧に載っていない仕事が来たときに使えない。

かわりに、三つ問う。どれも、この機械の仕組みから出てくる問いである。

一　出したいものは、並べられる形か

モデルにできるのは、次に来そうなものを確率で選んで並べることだけである。だから、並べる形になっているものは出せる。

文章は並べられる。プログラムも、規則の厳しい文章なので並べられる。画像も、手順は違うが確率で決めていく点は同じである。

並べられないのは、途中の状態を持ち回る手続きの方だ。桁の繰り上がりを覚えておいて次に足す。数え上げる。順番どおりに処理する。この動作が仕組みの中に無いので、四桁の掛け算を外す。

ここは、賢いモデルが出れば解ける、という話ではない。動作そのものが入っていない。

モデルが見ているのは、その一回に渡された文字列だけである。それより外は存在しない。

だから、渡したものの中に答えがあれば強い。翻訳は、答えが原文の中にある。要約も、書き直しも、分類も、仕分けも同じで、材料は全部こちらが渡している。並べ替える仕事になるので、よく当たる。

渡したものの中に無いと、途端に弱くなる。事実の確認、出典の特定、最新の情報。ここで何が起きるかというと、無いなら無いと言うのではなく、それらしいものを作る。無いなら止まる、という動作が仕組みに入っていないからである。

対処は、答えを渡す側に回すことになる。資料を先に貼る。検索の結果を持ってこさせる。台帳を読ませる。要は、二の問いをイエスに変えてから頼む。

確率で選んでいるので、外す。問題は、外したと分かるかどうかである。

プログラムは分かる。動かせば止まるし、止まった理由が文字で出てくる。だから、書かせる、動かす、失敗を戻す、また書かせる、という輪が組める。人は見ていなくてよい。プログラムを書かせる道具が放っておけるのは、賢いからではなく、この輪が閉じるからである。

文章は分からない。事実が違っていても、話の筋が通っていなくても、文字列としては何の問題もない。別のモデルに採点させる手はあるが、その採点も確率で選ばれた文字列なので、それらしい点数が出るだけになる。

だから文章の側では、最後に人が読む。

並べると、こうなる。

三つともイエスなら、任せて放っておける。仕様を渡してプログラムを書かせる仕事がこれで、いま実際にいちばん進んでいるのもここである。

一と二がイエスで、三がノーなら、やらせてよいが人が読む。録音から議事録を作る、長い資料を要約する、メールの返事の下書きを作る。材料はこちらが渡していて、出てくるものは正しそうに見えるが、正しいかどうかは機械には分からない。

一がイエスで、二がノーなら、答えを渡す仕組みを先に作る。調べ物がここで、探す部分の設計がそのまま答えの質になる。

一がノーなら、モデルにはやらせない。計算も、並べ替えも、数え上げもここに入る。かわりに、それをやるプログラムを書かせて、実行させる。一がノーの仕事は、一がイエスの仕事に変換して渡す。

一覧はすぐ古くなるが、この三つは当分変わらないと思う。仕組みから出ているからである。

新しい機能が出てきたら、三つに当ててみる。だいたい、どれかがイエスに変わったことで実現している。道具が繋がったのは二をイエスに変えたからだし、自動で直るようになったのは三をイエスに変えたからである。

そして、一がノーのものは、モデルの側では変わらない。そこは外に出すしかない。