「AIに任せられる／任せられない」——どちらの断定も俗説。効くが凸凹、頼りすぎ、振る舞いも変わる

生成AIをめぐる声は両極端だ。もう何でも任せられる、か、まだ任せられない、か。だがその両方が俗説である。確からしいのは込み入った姿だ——生成AIはあるタスクで大きく助け、別のタスクで静かに品質を下げる。人はそれに頼りすぎ、振る舞いは時とともに変わる。だから問いは任せるか否かでなく、どのタスクをどう検算しながら任せるか。この単位はその分けかたと確かめかたを渡す。特定のAI製品の優劣は論じない。

前の単位から、この単位へ

前の単位では、決まった予測モデルと人の判断の使い分けを扱った。ここでは一歩進んで、文章も要約も下書きもこなす生成AI——たくさんの文章から言葉のつながりを学び、指示に応じて文章や答えを作る仕組み——に、どこまで、どう任せるかを扱う。これはSTEP3（使う力）の最後の単位で、道具の話の締めくくりにあたる。

この段の読者も、これまでと同じ——自分の商いの数字や仕事を、自分の手で回す人だ。専任のAI担当がいる前提は置かない。生成AIをめぐる声は、たいてい両極端だ。「もう何でも任せられる」か、「まだ任せられない」か。同じニュースを見ても、片方は歓喜し、片方は警戒する。だがこの単位が立てる見方はこうだ——その両方が、俗説である。 「任せられる」も「任せられない」も、どちらの断定も、事実を単純にしすぎている。確からしいのは、もっと込み入った姿だ。生成AIは、あるタスクでは大きく助けになり、別のタスクでは静かに品質を下げる。人はそれに頼りすぎ、そのうえ振る舞いは時とともに変わる。だから問いは「任せるか、任せないか」ではなく、「どのタスクを、どう検算しながら任せるか」になる。二択で身構えるほど、この肝心の問いが見えなくなる。この単位は、その分けかたと確かめかたを渡す。特定のAI製品の優劣は論じないし、使うべきか否かを説教もしない。

生成AIは、たしかに生産性を上げる

まず、効く側の事実から。Noy と Zhang が2023年に、専門的な文章を書く仕事を任された人たちを、生成AIを使える群と使えない群に分けて比べる実験を行った。結果、生成AIを使えた側は、作業にかかる時間が減り、仕上がりの質も上がった。とりわけ、もともと不得手だった人ほど底上げされ、書き手のあいだの差が縮まった。これは、しっかりした実験（ランダム化比較試験）で確かめられた、確度の高い知見だ。だから「AIは役に立たない」という側の断定は、まず退けてよい。下書き、要約、言い換え、たたき台づくり——こうした「ゼロから一を作る」手間の重い作業で、生成AIは実際に時間を節約する。白紙を前にした最初の一歩が、いちばん重い。そこを肩代わりしてもらえるのは、確かに大きくありがたい。ここは、素直に活かせるところだ。

だが、性能は凸凹している——ジャギッド・フロンティア

とはいえ、「役に立つ」から「何でも任せられる」へは、飛べない。Dell'Acqua たちが2023年に、多くの専門職を巻き込んだ大規模な実地の実験で、重要なことを示した（これは査読を経た論文ではなく、SSRNという場で公開されたワーキングペーパー——作業中の研究報告——である点は断っておく）。彼らがジャギッド・フロンティア（ぎざぎざの境界）と呼んだのは、生成AIの得手不得手が、なめらかな線ではなく、ぎざぎざに入り組んでいる、という姿だ。境界の内側にあるタスクでは、AIは大きく質と速さを上げる。ところが、境界のすぐ外にある、一見似たタスクでは、AIを使うとかえって成績が下がった。

厄介なのは、この境界が、素人目には見えないことだ。難しそうな仕事をあっさりこなす一方で、簡単そうな仕事で不自然に間違える。人間なら、難しい問題ができる人は簡単な問題もできる、と推測できる。ところが生成AIでは、その推測が崩れる。だから「これができたのだから、あれもできるはず」という素直な当てが、通用しない。しかも、外すときに堂々と、もっともらしく外すから、うっかり信じてしまう。任せてよいタスクと、任せると危ないタスクの線は、実際に試して、確かめるしかない。自分の仕事のどれが境界の内で、どれが外か——それは、一般論ではなく、自分で当ててみて初めて分かる。ここが、この単位のいちばんの勘所になる。

人は、AIに頼りすぎる——オーバーリライアンス

もう一つ、人の側の癖がある。AIがもっともらしい答えを返すと、人はそれを十分に確かめないまま受け入れてしまう。これをオーバーリライアンス（過度の依存）という。Buçinca たちが2021年に、AIの支援を受けて判断する場面で、人がAIの出力を鵜呑みにしがちなことを実験で示し、あえて一手間かけて考えさせる仕掛け（認知的強制）を入れると、鵜呑みが減ることを確かめた。Vasconcelos たちも2023年に、AIがなぜその答えを出したかの説明を添えると、過度の依存が減ることを示している。

ただし、どちらの研究も、緩和は「できる」が「自動では起きない」ことを同時に語る。説明を付ければ勝手に安全になるのではなく、人が確かめる一手間を、仕組みとして組み込んで初めて効く。便利さは、そのまま、確かめない言い訳になりやすい。 きれいな文章がすぐ返ってくると、それが正しいかどうかを問う気持ちが、するりと薄れる。流暢さは、正しさの証拠ではないのに、正しさのように感じられてしまう。任せるとは、確かめをやめることではない。むしろ、任せる範囲を決めたら、その出力をどこで検算するかを、セットで決めることだ。検算の一手間を省いた瞬間、それは「任せた」ではなく「投げた」になる。

AIの振る舞いは、時とともに変わる——ドリフト

さらに、前の単位で見た劣化の話が、生成AIにも別の形で現れる。Chen と Zaharia と Zou が2024年に、同じ生成AIサービスの応答が、時期によって変わっていくことを記録した。同じような使い方をしても、数か月前とは違う挙動を返すことがある。裏側の仕組みは、利用者に断りなく更新されうるからだ。

これが意味するのは、一度うまくいった任せ方が、ずっと同じようにうまくいく保証はない、ということだ。「前はこの頼み方でうまくいったから」と安心して検算をやめた頃に、静かに挙動が変わっている、ということが起こりうる。前の単位で見た予測モデルのドリフトは、こちらの環境が変わることで起きた。生成AIのそれは、道具そのものが向こうの都合で変わることで起きる。原因は逆でも、「昔の当たりは、いまの当たりを保証しない」という含みは同じだ。だから、任せ方は一度決めて固定するものではなく、時々、いまも期待どおりかを見直す必要がある。ここでも、特定サービスの優劣を言っているのではない。更新されうる道具は、みなこの性質を持つ、という一般の注意である。

公式の指針——AI事業者ガイドライン（2024）

生成AIを使う側の拠り所として、日本には公式の指針がある。経済産業省と総務省が2024年に、既存の複数の指針を統合・更新して、AI事業者ガイドラインを取りまとめた。AIを開発・提供・利用する事業者が、安全や公平や透明性のために何に気をつけるべきかを示す、現行の公式の枠組みである。ここでは、その細目の逐語や数値には立ち入らず、こうした公式の指針が存在し、更新され続けているという事実だけを置く。個別の適法判断は、この単位の仕事ではない。道具を使う前に、自分の分野に関わる公式の指針が出ていないかを一度あたる——それも、任せかたの設計の一部だ。とりわけ、顧客や取引先の情報をAIに渡す前には、こうした指針や自分の分野の決まりに、いま一度目を通しておきたい。便利だからと勢いで渡してしまう前に、立ち止まる一拍が要る。

時間・変化：2021年から今へ

順に置く。2021年、Buçinca たちがAIへの過度の依存と、その緩和の手立てを示す。2023年、Noy と Zhang が生成AIの生産性への効果を実験で確かめ、同年、Dell'Acqua たちがジャギッド・フロンティア（凸凹の境界）を報告し、Vasconcelos たちが説明で過信が減ると示す。2024年、経済産業省と総務省がAI事業者ガイドラインを取りまとめ、Chen たちが生成AIの振る舞いが時期で変わることを記録する。

この間に確からしくなったのは、「任せられる」でも「任せられない」でもない。確からしくなったのは、生成AIは効くが凸凹で、人は頼りすぎ、振る舞いは変わる——だから、タスクを選び、検算をセットにし、時々見直す、という使い方の作法のほうである。両極端の断定は、どちらも、この込み入った事実を平らにならしてしまう。

妨げるもの、助けるもの、最初の一歩

妨げるものは、両側にある。一方は「まだ危ないから使わない」と丸ごと遠ざけること。もう一方は「もう何でもできる」と検算せず丸投げすること。どちらも、凸凹の境界を見ていない点で同じだ。便利さに慣れるほど、確かめる手間が惜しくなる——この引力を、忘れやすい。

助けになるのは、任せる作業を一つに絞って、境界を実地に描いてみることだ。最初の一歩は10分。自分がAIに任せた、あるいは任せたい作業を一つ選ぶ。それを、AIが得意そうな部分（下書き・要約・言い換え）と、外しそうな部分（固有の事実・数字・自分の事情）に分ける。そして、任せた出力のどこを、どうやって自分で検算するかを、一行で決めて書いておく。事実は原典にあたる、数字は自分で計算し直す、など。全部を任せるのでも、全部を抱え込むのでもなく、その一つの作業の中に、境界線を一本引いてみる。任せる範囲と、確かめる方法を、セットで書く。 それが、生成AIを道具として飼いならす、最初の一歩になる。この作法が身につけば、次にどんな新しい道具が来ても、同じやり方で向き合える。

次の単位は 541「データの持ち主と権限を決めるには？」——ここから段は変わり、道具を使う力から、データを統べる力へ。まずは、そのデータを誰が持ち、誰が触れてよいかを決める話へ進む。

皮肉なのは、生成AIほど、両極端の断定を誘う道具も珍しい、ということである。少し使えば「これはもう何でもできる」と言いたくなり、一度大きく外されれば「やはり使えない」と言いたくなる。だが、そのどちらの断定も、事実を平らにならしてしまう。確からしいのは、もっと込み入った姿だ。生成AIは、下書きや要約のような手間の重い作業で確かに生産性を上げる。だが得手不得手はぎざぎざに入り組み、境界のすぐ外では、かえって成績を下げる。人はもっともらしい答えを鵜呑みにしがちで、便利さは、そのまま確かめない言い訳になりやすい。そのうえ、裏側は断りなく更新され、前うまくいった任せ方が、いつのまにか同じには働かなくなる。AIが「もう任せて大丈夫」と語りかけているように見えるとき、たいていそれは、まだ誰も、そのタスクが凸凹の境界の内か外かを、そして出力のどこを検算すべきかを、確かめていないだけかもしれない。この単位は、AIを崇めも遠ざけもしない——どのタスクを、どう検算しながら任せるかを、自分の手元で設計する目を持つための、使う力の段の締めくくりである。次の単位は 541「データの持ち主と権限を決めるには？」——ここから段は変わり、道具を使う力から、データを統べる力へ進む。