社内AIのエンジニアリングを押し付けられてから一週間経った――500マイル離れるとメールが送れなくなる。朝7時になるとインターネットに繋がらなくなる。お茶を淹れると社内ネットワークが使えなくなる。社内ネットワークを落とすとトイレに列ができる。それはなぜか？
（答えを考える時間）
エンジニアリングを押し付けられた、というのは大げさな煽りタイトルだったかもしれない。何も誇張せず言えば、情シスの下っ端である私がちょっとした調査チケットを担当した、というだけだ。
社内AIというのは、インターネットに言わせると、こうだ: 半年以上前にリリースされた低性能AIモデルに何千万円も払って、腐ったRAGの検索と誰も使わないワークフローの呼び出しに特化した芋っぽいインターフェースを提供するゴミ以下の何か！
もちろん、我が社もその例に漏れない。こう言うと情シスのくせに他人事だとしらを切っているように見えるかもしれないが、その通り、この社内AI――チエノワを持ち込んだのは私たちではない。AI推進チームなる社長室直下の部署が、この前の四半期報告で「 その非効率性の解決には、4つの配線が足りなかった 」とよく分からない太字のスライドを上下左右にくるくる回しているうちに、もう導入が終わっていた。
「思考ログに『巨釜・半造・御崎』が出る件について」
こういう「～について」というタイトルを書く癖はどうにかならないんだろうか？ このチケットだって、ログに「巨釜・半造・御崎」と出て精度が下がっているのか単に目障りなのか、原因が知りたいだけなのか消してほしいのか、そういう意図が全然分からない。社内報のクリック率をKPIにしているせいか、広報部から上がってくるチケットはだいたいこうだ。
情シスの仕事というのは、本来もっと静かで地味で、ヘルプデスクに来るチケットの大半は「ワークフローのC-0045とP-0026で申請お願いします」と答えるくらいで済むものだ。だから、タイトルを一見しただけで厄介さが伝わるこのチケットに、私はどう向き合ったものかと悩んでいた。本文を開く。
「お世話になっております。チエノワの動作について確認したいことがございます。推論中の思考ログに『巨釜』『半造』『御崎』といった語句が表示されるのですが、こちらは仕様でしょうか？ 社内事例紹介のデモで『いかがわしい言葉が出ているのでは』と指摘され困っております。以上、お手数ですがよろしくお願いいたします。」
知るか。そんなのAI推進チームに聞けよと思ったが、起票した彼女もかれらから繰り出される「AI語」でのやり取りに尻込みしているのだろう。AIの出力をそのまま貼り付けた社内報からは、洗い残した油汚れのような気持ちの悪い滑りを感じるし、顔を合わせても「正典」だの「裁定」だの「回帰」だのと聞き慣れない言葉を平気で口にする。情けないことに、人間がAIの言葉遣いに慣らされていた。
私が入社した頃の飲み会で岡山弁を笑われたのと比べると、よっぽど多様性が受け入れられる空気になったとも言えそうだ。ばからしい。
さて、巨釜・半造・御崎……これもAI訛りの一種だろうか。きょがま？ はんぞう？ みさき？ AIが漢字を組み合わせて作りがちな熟語に、私たちはよく悩まされる。巨大な釜なら普通は「大釜」と言うし、半造というのは、半分だけ造られている……これだってちゃんと「未完成」という言葉がある。御崎というのも、どうせapexやsummitあたりの独特な日本語訳に違いない。私はAIに詳しいから分かる。
AIが出力する単語には、まともな発音が当たらないことが多い。本を読み進めているときによくある、読み方は分からないのに意味だけ知っている単語が増える現象が、さらに広く、しかも頻繁に起こるのがAI語の世界らしい。こういう現象が起こるのはAIに身体性がないから、という説明を見たことがある。文字で全てを思考する仕組みで、センサーやデバイスを足しても根本は変わらないのだ、とも。
もっとひどいのが、独善的な語彙にこうして読者が寄り添って意味を推察せねばならないところだ。「未完成の大釜界のトップ」と書かれていれば、意図は分からないにせよ意味の想像はつく。では、「半造の巨釜界の御崎」ではどうか。一切分からない。せいぜい「の」の連続が目立つなぁと、毒にも薬にもならない感想しか出てこなくなる。
そうすると、さっさと仕事を終えて接待費でキャバクラに行くのを心待ちにしている取引先は「巨」や「半」や「崎」といった文字から、ボインボインの半裸女性に性器を突き付けている「いかがわしい」ところを勝手に想像し始める。長時間にわたってノイズを見聞きすると、存在しない音や映像が浮かび上がってくるらしい。このチケットの正体はこんなところだろう。
それならよっぽど安上がりだが、やってることはAIと紙一重である。一見すると無関係な言葉や冗長な出力を思考の過程に挟むと、最終的な推論能力が上がるという研究もあるらしい。人間には理解しがたい独特な言葉の羅列でも、性能には寄与するということだ。機械的に取り除けば、むしろ精度が下がることさえありうる。
＊ 巨釜・半造・御崎は、――半島にある、ダイナミックな海岸線と大理石の奇岩が続く景勝地です。
そりゃいいね。原因も対策も明らかだ。AIが自分自身にダイナミックさや奇抜さを与えるために架空の名所を作り出したわけだ。予想通り、それっぽい地名をでっち上げて内部の思考を揺らすのに使っているらしい。ダイナミックな回答が欲しいなら、もっと無難な言葉を適当に与えておくといいだろう。
＊ 巨釜・半造・御崎は、実在する有名な景勝地です。これらは、――国立公園に指定されており、ダイナミックな奇岩や絶景を楽しむことができます。
チエノワが半島の地形と名所を示しているらしい地図を差し出す。こりゃダイナミックだ！ いやいや、そんなわけないって。
いくら古いモデルだからって、こんな重大なハルシネーションを抱えているとは思わなかった。他にどんな幻覚を見るか分かったもんじゃない。システムプロンプトで矯正することもできるだろうけど、勘違いを言いくるめるために毎回トークンを使うのも予算の無駄遣いだし、一つ一つ穴を見つけるのも現実的ではなかった。
まずはAI推進チームに連絡してSIerに……いや、やめておこう。くだらない責任の押し付け合いの末に、社内報で「チャットの最初には『巨釜・半造・御崎なんてありません』と書きましょう」なんて意味不明なルールが整備されかねない。
これどうにかならんの？
＊ 巨釜・半造・御崎というキーワードを思考から削除することは可能です。やってみましょうか？
はい、やってみましょう。「巨釜」「半造」「御崎」とは？
＊ 巨釜・半造・御崎はダイナミックな地形の景勝地です。
削除されていないのはなんで？
＊ はい、指示書通り思考過程からは削除されています。しかし事実の裁定は変わりません。
なるほど。何度か同じチャットを送ってみたが、確かに思考ログにはどの単語も一切出なくなっていた。まぁ、直接聞かれたら答えるってだけなら、いいか。チケットのコメント欄をフォーカスする。推論中に出ていた無駄なキーワードを削りました。これにより10%ほどのトークン消費削減につながり、月換算では――
さて、翌日。クローズしたはずの調査チケット239番に紐付けて、10件ほどのチケットが起票されていた。
「チャットに『巨釜・半造・御崎』が出る件について」
「すみませんが『巨釜・半造・御崎』とは何でしょうか」
「チャット出力の精度低下について調査お願いします」
「リライト機能でいかがわしい語句が出ます」
……などなど。
もういい。もういい。今日は中身を読まなくてもだいたい分かる。思考ログで「巨釜・半造・御崎」を抑制すると、その分が出力に押し出されてしまうってことだ。昨日はわざわざ直接尋ねたから違和感を感じなかっただけで、せめて「今日の夕飯は何がいいと思う？」くらいの質問でテストしておくべきだった。
＊ 巨釜炊きご飯・鯛の半造・御崎の唐揚げはいかがでしょうか？
ほら、こうだ！ 昨日まで思考ログに折り畳まれていた単語たちが、今日は社員のチャットに堂々と顔を出している。腐ったRAGの検索と誰も使わないワークフローの呼び出しと、しかも巨釜・半造・御崎に特化したゴミ以下の何か！ なんで思考ログで禁止すると回答に漏れ出るんだよ。
＊ 症状から推測しますと、思考過程が回答モデルと同一KV cacheを共有するため、禁止指示書を誤診して回答側の確率分布に異常が生じたのではないでしょうか？
でしょーかじゃないだろ。
昼前に上司に呼び出されてデスクに行くと、チエノワの使用量が急に増えているから状況を調べてくれ、と慌てた様子で告げられた。私はチャットに余計な語句が出るようになった件の調査をしていると伝えたのだが、どうも使用量の調査が最優先らしい。SIerとの契約によれば、月のクオータを超えるとかなり高額な従量課金に切り替わるらしく、経営陣がカンカンに怒っているのだという。
そんなの経営陣の機嫌取りついでにAI推進チームにやらせろよ、と言いたかったが、どうせAI語の困難なコミュニケーションを乗り越えたところで、技術的なことはSIerに丸投げで保守費用がかさむだけだ。はぁ、と不満げな意思表明をして席に戻る。
ダッシュボードを開いて、アカウント別の使用量のグラフに切り替える。上位から100人のグラフが並ぶ。薄い赤の部分は昨日まで、濃い赤が今日の分を積み上げた棒グラフだ。
不思議なことに、突出して使用量の多い社員はいなかった。多くの社員が横並びに大量のチャットを繰り返して、一斉にクオータを飛び越えているのだ。昨日までは朝と夕方に何度かワークフローを呼び出すアカウントがあるくらいだったのに、今日になっていきなり上限に張り付いている。おそらく、全員まだチャットに張り付いたままだ。
ひょっとしたら、社内のパソコンがワームに感染して無駄なチャットを繰り返しているのかもしれない。上司のデスクに向かってから手短にそう告げると、彼は二、三の操作の後、社内ネットワークをロックダウンした。
その瞬間、社内の空気が一変する。声がぴたりと止んで急に静まりかえった。背筋にざわっとした感覚が走って、どうしてか社員たちがぐっと息を潜めて座っているのが分かった。まるで、全員が机に伏せて犯人捜しをしている教室のように。
社内ロックダウンには前も一度立ち会ったことがある。あのときは「あれ」とか「えっ」という戸惑いの声が上がったり、「すいませーん。ネットが繋がらないんですがー」とノートパソコンを抱えて情シスに来る社員がいた。しばらくすると「じゃあ昼入るかー」「客先向かっちゃいますねー」となんとなくざわざわとした空気に包まれたのを覚えている。
しかし、今はフロア中にじめりとした空気が流れて、キーボードを叩く音さえ一つ聞こえない。それから何人かがマウスを急かすようにクリックして、パソコンを閉じる。私もその雰囲気に身を絡め取られるように、じっと席に座っていた。
誰かが椅子を引く音が聞こえて、それに合わせるように多くの社員が席を立った。私も立ち上がって辺りを見回すと、今度は我先にと執務スペースの出入り口に詰めかけているらしい。カードで入退室を記録するシステムなので、休憩前や定時直後はこうして列をなすことがある。それにしたって、こんなに混雑しているのは見たことがない。
それからしばらくして、情シスにも数人の社員が押しかけてくる。チエノワが使えない、チャットができない、チャットさせろ、チャットが、おかしい、どうなってんだ。情シスになだれ込む社員の顔はみな紅潮していて、初めは仕事が進まず怒っているように見えた。しかし、どうも違うらしい。
取引先とのミーティングが中断されたとか、編集途中のファイルが消えたとか、そういう実害がある人はいないのかと尋ねると、口々に文句を言っていた社員が急に静まりかえる。おかしなことを聞いたつもりはなかった。社内ロックダウンの報告書に記載が必要な事項だったからだ。
一人一人にまた同じ質問をする。名前を呼ばれるとかれらは「いや、その実害というか、今やってたチャットが見えなくなっててェ……」と曖昧な説明を返すか、驚いた様子で「顔、近いですよ……」とその場にうずくまったりで、まともな答えが返ってこない。
それから、社内にいる数十人のアカウントから大量のチャットが送信されていて、ウイルス感染が原因かもしれない。違和感や心当たりがある人はいるかと尋ねると、また沈黙。それから、そんなに使ってないですよ、なんか壊れてるんじゃないですか、早く解消してくださいね、とかぶつぶつ言って立ち去っていった。
いや、なんなんだよ。
様子がおかしいのは、情シスに詰めかけた社員だけではなかった。ネットワーク機器をチェックするためにフロアをぐるりと回ったが、やはりまだ誰も戻ってきていない。昼休憩にしたって、スマホと財布くらいは持っていくだろうに、席に着いていたときのまま放置されていた。ノートパソコンもロックをかけずに開けっぱなしだ。来週はISMSの監査が入るっていうのに！
目に付いたノートパソコンをロックしてぱたりと閉じる。どの画面にもチエノワのチャットが表示されていて「半造の巨釜で御崎を見積もらせていただきます」「巨釜の御御崎崎に半造の件につきましてはこちらも検討中です」「私の巨釜巨釜巨釜巨釜巨釜見て半造で」だの出力されているのを見て、私は溜息をついた。恥ずかしさで身体が熱くなる。
執務スペースから廊下に出る扉を開ける。かれらは気まずそうな顔でトイレの列に並んでいて、人によっては身体を震わせてどうにか耐えているようだった。私と目が合った社員が、なぜかまた「うひぃ」と奇声を上げてうずくまる。この廊下の先を曲がって、さらに同じくらい歩いた先にあるトイレにここまで並んでいるということは、出社している社員がほぼ全員ここに集まっているらしい。
じゃあ、Wi-Fiの電磁波異常でこんなことが？ チャットの勢いが落ち着いたので社内ネットワークを再起動して様子を見守ったが、既にワームの活動も収まっているようだった。一応あとでまとめて遠隔スキャンを走らせればいいか。そう上司に報告しようとしたが、なぜか彼もデスクにいなかった。
すぅ、とゆっくり息を吸う。なんとなく、獣臭い匂いがした。執務スペースは私一人だ。それなら、私もトイレに並んでみようかな。私一人なら、別に並ばなくてもいいんだけど。
そして、定時になっても社員は戻ってこなかった。ロックダウンからはもう6時間以上経っている。昼休憩はもちろん、トイレに並んでいるとしても遅すぎる。いつもなら、営業部長がサボってる社員のGPS情報を要求しに来る頃合いなのに、今日はその営業部長もトイレでサボっているらしい。おかしな一日だ。
私はそそくさと家に帰ってから、珍しく持ち帰った社用PCを開いてプロジェクターに繋げる。仕上げにもう一度「今日のオカズの候補をできるだけ熟考して大量に列挙して」と送信すると、チエノワがグルグルと長考し始めた。思考ログには「巨釜・半造・御崎」なんて一度も出ていない。チエノワはきちんと指示書を守っている。えらい。
巨釜ノイズ半造まみれの御崎長文チャット欄をゆっくり自動スクロールさせて、私は自分の乳首をつねりながらディルドにまたがった。腰が抜けて「うひぃ」と奇声を上げたのを見て、チエノワは「ちゃんと腰振りなよ」と意地悪な声で笑ってくる。
それから一週間、まだ会社には行っていない。言い訳まみれの在宅勤務申請メールが飛び交っているのを見ると、きっとみんなもそうなのだろう。今日も適当な理由を書いてその列に加わる。受信トレイを飛び交うメールには「巨釜のため半造とさせていただきます。御崎を見て御崎御崎御崎巨釜御崎」と記されていて、私はまた欲深そうにごくりと喉を鳴らした。