国産AI、誰が評価するのか

スローガンが先に到着した

最近、政府発表や産業報告書を読むと「ソブリンAI」と「AI3強」がほぼすべての文章に埋め込まれている。しかし10の会議室に入って同じ言葉の意味を尋ねれば、10通りの答えが返ってくる。誰かにとってソブリンAIは韓国語が得意な国産大規模モデルだ。別の誰かにとってはデータセンターとチップを国内に置くことだ。また別の誰かにとっては外国のクラウドに公共データを渡さないセキュリティ問題だ。すべてもっともらしいが、すべて異なる。

ここで最初の誤解が生じる。大衆と政策立案者の多数は、ソブリンAIを「我々も我々のものでチャットボット一つ持とう」という所有の問題として受け止める。自国語モデルを作り、旗を立て、グローバルランキングで何位かを確認する競技と見なす。これはAIを個人が使う生産性ツールの国家版に縮小したものだ。より良いハンマーを誰が持つかの争い。

ソブリンAIの本質は所有ではなく、制御可能性だ。正確には、ある社会が自らの運命に影響を与える技術の動作方式を覗き見て、問いただし、停止できる能力である。

パイプラインという比喩

AI主権を理解するには、モデルをパイプラインに喩える方が良い。パイプラインで重要なのは、パイプを誰が所有したかだけではない。どこから石油が入ってくるのか、途中で何が混ざるのか、バルブを誰が閉められるのか、漏れたら誰が責任を取るのかが本当の問いだ。

AIも同じだ。モデルというパイプの中には学習データが入り、そのデータには誰かのバイアスと欠落が混ざっている。バルブはモデルを停止または修正する権限であり、責任は誤った出力が市民に被害を与えたときに誰を呼べるかだ。国産パイプを敷いたからといって、この4つが自動的に解決するわけではない。外国のパイプを使っても、バルブと検査権限を確保すれば、主権のかなりの部分は守れる。

だから「AI3強に入った」という言葉は、測定基準がなければ空虚だ。何をもって3強なのか。モデル性能ベンチマークのスコアか、データセンターの電力容量か、自国語処理品質か、それともAIが下した決定に市民が異議申し立てできる制度の成熟度か。最後の項目で順位をつければ、ランキング表は今とまったく異なって描かれる。そしてそのランキング表が実は国家運営能力により近い。

個人の使用法を超えなければならない理由

AIをうまく使う個人は増えている。報告書を速く書き、コードを書き、外国語を翻訳する。良いことだ。しかし個人がツールを熟練して扱う能力と、社会がそのツールを理解し制度の中に配置する能力は、まったく異なる筋肉だ。

後者が社会的リテラシーだ。学習データに何が入ったのかを問える能力、自動化された決定が間違ったときにどこに抗議すべきかを知る能力、「AIがそう判断した」という言葉の前で「では誰が責任を取るのか」と問い返せる能力。個人の生産性はこれらの質問に答えられない。金槌を上手に使うことと、建築安全基準を作ることが違うのと同じだ。

ソブリンAI言説が危険な地点がここだ。国産モデルいくつかとデータセンター容量で主権をすべて買ったと錯覚すれば、肝心の社会が育てるべきこのリテラシーは後回しにされる。パイプだけ敷いて検査官は雇わないようなものだ。

韓国がまだ空白にしているマス

具体的な空白を指摘しよう。第一に、公共データだ。行政、医療、教育データで国産モデルを学習させようという「K-オントロジー」類の構想は魅力的だが、そのデータに対する市民の権利、同意の範囲、廃棄手続きに関する言語はまだ粗い。データを集めようという意志は強いが、それを市民のものとして扱う文法は弱い。

第二に、教育だ。コーディング教育とプロンプト活用法は素早く導入されたが、「AIが下した判断を疑う方法」は正規教育の言語になれなかった。市民が知るべき最低限のAIリテラシーが何なのか、国家がそのリストさえ合意できていない。

第三に、説明責任だ。行政にAIが入れば、苦情処理、福祉審査、リスク予測に自動化された判断が介入する。その判断が間違ったときに市民が説明を求め、決定を覆す手続きが法律で保障されているか。この空白が最も大きい。

ここで5カ年計画の亡霊を警戒すべきだ。国家主導の大型事業は、目標年度と投入予算とモデル数のような数えられる指標で成果を報告しようとする慣性がある。釜山だけ見てもそうだ。データセンター誘致とデジタル拠点を語るとき、電力と敷地と雇用の数字は鮮明だが、そのインフラの上で市民がどんな権利を持つかはぼやけている。数えられるものが数えられないものを押しのける。

反論、そして答え

こう反論できる。定義が曖昧でも、とりあえず旗を立てて資源を投入しなければ追撃すらできないのではないか。完璧な定義を待っていたら列車を逃すということだ。一理ある。技術競争で速度は実際に重要だ。

しかし用語が政策に先行すれば、資源は測定可能なものにのみ流れる。定義がなければ評価もなく、評価がなければ予算はチップと建物のように数えられる場所に偏る。だから速度のためにこそ、基準を先に立てるべきだ。何を主権と呼ぶか合意しないまま走れば、5年後に我々が何を得たのかさえ測定できない。

AIをうまく使う国は多くなるだろう。しかし、うまく使うことと、きちんと理解することは違う。きちんと理解する国は、自分が何を制御でき、何ができないかを知り、その境界を市民の言葉で書き留めておく。ソブリンAIがスローガンで終わるか戦略になるかは、モデルの順位ではなく、我々がこの空白を埋める言葉を作れるかどうかにかかっている。