本物を証明するコスト

効率と呼ばれる光景

午後中ずっと資料を集め、文章を推敲してコラム一本を書いていた作業が、今や数秒に短縮された。プロンプト一行で滑らかな文章が何百個も溢れ出る。マーケティング部門は歓声を上げ、コンテンツ単価は底を突き抜ける。誰もがこれを効率と呼ぶ。

しかし効率は常に一方のコストを削減しながら、別のコストをどこかへ転嫁する。生成コストはほぼゼロに収束した。では消えたコストはどこへ行ったのか。読む側へ行った。正確には、この文章が人間が責任を持って書いた本物かどうかを確認しようとする人の時間と神経へ移行した。

ここで非対称性が生じる。もっともらしい嘘を作るコストはほぼ消失したが、それが嘘であることを明らかにしたり、何かを本物だと証明するコストはむしろ上昇した。デタラメに反論するには、それを作り出すよりはるかに多くのエネルギーがかかるというブランドリーニの法則、その古い経験則が今や産業規模で自動化された。本当の請求書は偽物ではなく、本物を証明する労働に刻印される。

検証税は誰に請求されるのか

この税は平等に徴収されない。患者がAI要約を持ってきて反論すれば、医師がその誤りを一行ずつ訂正する時間は診療費に含まれない。教師は学生の課題が本人が書いたものかを見分けるのに、採点より長い時間を費やす。記者は情報提供映像が合成かどうかを確認するために締め切りを遅らせる。採用担当者はAIが水増しした自己紹介書の山から人を選び出す。

コストは文章を大量生産した側ではなく、それを受け取った側が支払う。生産者が外部効果を引き起こし、社会が後始末をする。工場が川に廃水を流し、下流住民が浄水コストを負担する構造と全く同じだ。違う点があるとすれば、今回の下流にはほぼすべての情報消費者が住んでいることだ。

そして出所と署名と発行者責任が突然希少財となる。無限に複製されるテキストの海で価値があるのは文章そのものではなく、その文章の背後に名前を懸け、間違えれば責任を取る誰かだ。検証可能性こそが資産となる経済へ移行している最中だ。

プラットフォームはコストを再び転嫁する

プラットフォームはこの税の徴収と免除を設計する立場に立つ。検索エンジンとソーシャルフィードはAI生成物を人間の文章と同じ列に並べ、真偽を見分ける負担を利用者個人に押し付ける。認証バッジや出所表示を付ける権限はプラットフォームが握るが、その基準は公開されない。誰の文章に信頼ラベルを与えるかを決める力こそが新たな権力だ。

学習データ側はさらに露骨だ。人間がコストをかけて検証した良質のテキスト、記事と論文と百科事典がモデルの燃料として吸い込まれる。肝心のそのデータを作った労働には価格が付けられない。検証された本物が無料で採掘され、検証されていない模造品を無限生産する機械の材料になる。本物の在庫は減り、偽物の生産は増える。モデルが自分の出力物を再学習するモデル崩壊は、この枯渇に付けられた技術的名称に過ぎない。

反論もある。AIが検証まで自動化するのに、なぜ人間のコストだけを強調するのかというものだ。一理ある。ファクトチェック補助ツールは確かに有用だ。しかし識別器と生成器は同じ軍拡競争を繰り広げ、最後に名前を懸けて責任を取る主体は機械ではない。自動検証は負担を軽減することはできても、責任を代わりに負ってはくれない。責任は委任されないのだ。

より良い設計、そして韓国のルール

技術を止めようという話ではない。検証税を誰が支払うかを再設計しようということだ。原則は単純だ。コストを作った側がコストを負担させよ。

生成物には出所と制作方式が付随すべきだ。AI関与表示とコンテンツ出所標準のような技術は既にある。問題は意志だ。韓国はAI基本法で生成物表示義務の方向性を定めたが、表示が形式に留まればそれが免罪符となる。表示を誰が検証し、漏れに誰が責任を取るのかまでルールに組み込まなければならない。プラットフォームには信頼ラベルの基準を公開し、その判断に責任を負わせる義務を、学習データには検証された出所に対価を支払う経路を要求すべきだ。

釜山のある地域メディアを思い浮かべてみる。AIで記事草稿を十倍速く作成できる時代に生き残る所は、最も多く生産するメディアではなく、最も間違いの少ないメディアだ。逆説的にもAIをうまく使う編集局ほど、人間デスクの重みが増す。機械が生産を担うほど、名前を懸けて責任を取る最後の一人の価値が上がる。AIネイティブメディアがかえって人間発行人を強化する自己参照がここで成立する。

技術が信頼を安く作ってくれるわけではない。信頼を証明するコストを誰に請求するかを決める仕事が残っているだけだ。問いはこの技術を使うかどうかではなく、誰のルールで動かすかだ。