AIを工場で使うとき、多くの人が心配するのは「間違ったことを言わないか」です。ただ、本当に困るのはそこではありません。間違っていることが、間違っているように見えないことです。
AIは、データが足りなくても文章を返します。「今月の設備稼働率は83%です」と、根拠が無くても同じ調子で言い切ります。現場の人がそれを信じて動き、後から違ったと分かる。これが一度起きると、そのツールは二度と使われません。現場の信頼は、正確さの平均点ではなく、最悪の1回で決まります。
だから、工場で使うAIを選ぶときに見るべきなのは「どれだけ答えられるか」ではなく、答えられないときにどうするかです。見るポイントは3つあります。
1. 数字を出せないときに、出せないと言うか
一番分かりやすいテストは、まだデータを入れていない項目を聞いてみることです。
たとえば設備のOEE（総合設備効率）は、可動時間・性能・良品率の3つが揃って初めて計算できます。性能の実績を取っていない工場でOEEを聞いたとき、まともな設計なら「性能値が未計測のため算出できません」と返ります。そうでない設計は、可動時間だけで計算した数字を、そう断らずにOEEとして出してきます。
見るべき返答は次のような形です。
- 未計測 — その項目のデータを取っていない
- 判定不可 — データはあるが、判断できるだけの量がない
- 算出不可 — 計算に必要な要素が揃っていない
この3つを言い分けられるかどうかで、設計者が「盛らないこと」を意識しているかが分かります。
2. 相関を、原因として語らないか
工場のデータを並べると、いろいろなものが一緒に動いて見えます。「気温が上がった週は歩留が落ちている」「Bさんのシフトの日は不良が多い」。
これは一緒に動いているという事実であって、原因ではありません。 気温が上がる週は同時に受注が増えて残業が延びているのかもしれない。Bさんのシフトの日は、たまたま難しい製品を流す日なのかもしれない。
良くない設計のAIは、ここで「気温が原因です」と言い切ります。現場はそれを聞いて空調に投資し、歩留は変わりません。
必要なのは、仮説として出し、確かめ方を添えることです。「歩留の低下と気温に関連が見られます。ただし同じ期間に残業時間も増えています。どちらの影響かを見るには、気温が高く残業が少なかった日の歩留を比べてください」。この形なら、判断は人の側に残ります。
3. データの鮮度を警告するか
3つ目は地味ですが、実務では一番効きます。
在庫の記録が3日前で止まっているのに、AIが「在庫は十分です」と答える。これは嘘をついているわけではなく、古いデータを新しいものとして扱っているだけです。しかし現場から見れば、結果は同じです。
見るべきは、答えに「この在庫データは3日前が最終更新です」という但し書きが付くかどうか。付くなら、人は「今日の分を入れてから聞き直そう」と判断できます。付かないなら、古い数字で発注が決まります。
選ぶときに、実際に試すこと
商談やデモで試すなら、次の3つを聞いてみてください。数分で分かります。
| 聞くこと | 良い返答 |
|---|---|
| まだ入れていない項目の数字 | 未計測・算出不可と言い、なぜ出せないかを言う |
| 「不良が増えた原因は?」 | 仮説を複数出し、確かめる手順を添える |
| 「このデータはいつのもの?」 | 最終更新日を答える。古ければ先に警告する |
もう一つ、逆の見方もあります。デモで全部の質問にすらすら答えるツールほど、疑ってください。 実際の工場のデータは、必ずどこかが欠けています。欠けを見せない作りは、本番でも見せません。
AI工場長 becon は、出せない数字を未計測・判定不可と明示し、相関を原因として断定せず、データの鮮度を警告する設計にしています。もっとも、この手の話は説明を読むより実際のやりとりを見たほうが早いので、話しかけてから答えが返り、提案が承認待ちに入るまでの一連のやりとりをサンプルとして公開しています。
