AIについて話していると、こんな声を耳にすることがある。
「同じ質問をしたのに、答えが違う」
「昨日はうまくいったのに、今日はダメだ」
「結局、どれが正解なのか保証できない」
こうした不満が出るのは、とても自然なことだと思う。なぜなら私たちは、あまりにも長いあいだ、「裏切らない機械」と一緒に仕事をしてきたからだ。
私たちは「計算機」に慣れすぎている
Excelは、同じ数式を入れれば、何度計算しても同じ結果を返す。
会計ソフトは、計算を間違えない。
工場の制御装置は、設定した閾値どおりに動く。
これらはいずれも、「計算機」と呼べる存在だ。
計算機の世界では、目的が明確で、プロセスが透明で、正しさを「0か1」かで判定できる。だから安心できるし、責任の所在もはっきりしている。私たちはこの成功体験に、かなり深く慣れ親しんできた。
AIも、同じ箱に見えてしまう
そこに現れた生成AIも、見た目はこれまでのソフトウェアとよく似ている。画面に入力欄があり、何かを書けば、それらしい答えが返ってくる。すると無意識のうちに、私たちはExcelと同じ期待をしてしまう。
「正しい入力をすれば、正しい出力が返るはずだ」
「答えがブレるのは、どこかに不具合があるに違いない」
けれど、AIの中身は、すべてが計算機と同じ振る舞いをしているわけではない。明確な計算や事実を問う場面では、安定した答えを返すことも多い。一方で、言葉の選び方や文脈の解釈、意味の組み立てといった領域では、そもそも正解が一つに定まらない。同じ条件でも、少し違う答えが出ることがある。それは欠陥というより、こうした「知能」がもともと持っている性質に近い。
あえて「AI」と呼ばない人たち
少し前、あるソフトウェアの開発現場で、印象に残る話を聞いた。そのチームは、自分たちの技術を、あえて「AI」とは呼ばなかった。代わりに使っていたのは、「機械学習」や「パターン検知」「確率的な判定」といった、より具体的な言葉だった。理由は、とても実務的だった。
「AIと言った瞬間に、必要以上の期待や誤解が生まれてしまうから」
結果の正しさや説明責任が問われやすい領域では、「なぜ今回は検知できなかったのか」「なぜ誤って反応したのか」といった問いが、すぐに「万能であるはずだったのに」という前提で語られてしまう。
だから彼らは、これは全知全能の判断装置ではなく、過去のデータから傾向を学び、確率的に示唆を返す仕組みなのだ、という前提を、言葉のレベルから丁寧に共有することを重視していた。
少なくともその現場では、「AI」と言わないことは流行を避けるためでも、謙遜でもなかった。道具として正しく使ってもらうための、かなり現実的な選択だったように思う。
工学は、ずっと「ゆらぎ」と付き合ってきた
エンジニアリングの世界では、0/1で割り切れないものを扱うことは珍しくない。
例えば、真水を造る逆浸透 (RO) 膜。どれだけ高性能でも、脱塩率 (不純物の除去率) が100%になることはない。99.8%かもしれないし、条件によっては下がることもある。
半導体の製造にも「歩留まり」がある。CPUの製品ラインナップも、必ずしも最初から性能ごとにきれいに作り分けられているわけではない。同じ設計で作られたチップでも、製造上のばらつきによって、出せる性能や安定性には差が出る。そのため、製造後のテストによって条件に応じた区分が行われることがある。
品質は常に「できる・できない」の二択ではなく、分布として現れる。それでも、それらが使えなくなるわけではない。前後にフィルターを入れたり、人間が確認する工程を挟んだりしながら、システム全体として信頼できる形に仕上げていく。
完璧ではない部品を組み合わせて、目的を満たす仕組みを作る。それが、本来のエンジニアリングだ。
誤解しているのは、AIではなく私たちの「期待」かもしれない
AIに対する失望の多くは、AIの能力不足というより、私たちの期待の置き方から生まれているように思う。確率的に振る舞う知能に対して、決定論的に動く計算機と同じ精度を求めてしまっている。それは、天気予報に向かって「なぜ100%当たらないんだ」と怒るようなものだ。
以前書いた寓話で、壺を叩き割った領主も、壺が壊れていたから怒ったわけではなかった。「こう振る舞うはずだ」という期待と、実際の性質が食い違っていただけだった。
不完全さを引き受ける、という選択
AIをどう使うかという議論の前に、一度立ち止まって考えてみたい。私たちは、0/1の正解を返す計算機を使いたいのか。それとも、揺らぎを含みながら新しい視点をくれる知能を使いたいのか。もし後者なら、Excelのような完璧さを求めてはいけないのかもしれない。
その「ゆらぎ」を前提に、どこで人が判断し、どこでシステムが支えるのかを設計する。AIを「魔法の杖」ではなく、「歩留まりのある新しい素材」として眺め直してみる。そのあたりに、もう少し現実的な付き合い方のヒントがあるかもしれない。