真実を証明せよという社会

私たちはディープフェイクを「偽の映像を作る技術」程度に捉えている。そこからすでにずれているのだ。

真の変化は作る側ではなく、見る側で起きる。生成映像が当たり前になると、ある瞬間から私たちはすべての映像をまず疑ってかかるようになる。その瞬間、立証の重心が丸ごと移動する。

たとえるならこうだ。以前は偽札が問題だった。たまに現れる偽物を選別すればよかった。今はすべての紙幣に「これが本物か、お前が証明してみろ」という札が貼られた状況に近い。偽物を選別するコストではなく、本物を証明するコストが社会全体に敷かれる。

技術用語では「真偽立証責任の転嫁」と呼べるだろう。平たく言えば、嘘を広めた人ではなく、それを見た人が「これ本物?」を引き受ける構造だ。

多くの人がここで止まる。「じゃあ私はディープフェイク判別アプリでも入れるべき?」問題を個人の使い方に狭めた瞬間、肝心な核心を見失う。

判別は個人技では解決しない。映像一つの真偽を確かめるにも時間と知識と道具が要る。それを5千万人が各自負担すれば、社会全体の検証コストは天文学的に膨らむ。しかもそのコストは平等に分配されもしない。

だから信頼を再定義しなければならない。信頼はコンテンツに刻まれた属性ではない。誰が検証コストを負うかという分配の問題だ。よく設計された社会は、そのコストを個人ではなく制度が吸収する。

今、韓国でこの問題が最も鋭く表れている場所は二つだ。選挙、そして裁判。

選挙を見よう。投票3日前、候補者の偽の発言映像が広まる。選挙管理委員会がこれを判別し削除を要請するのに数日かかるが、その間に投票はすでに終わっている。検証速度が意思決定速度に追いつかない瞬間、真実か否かにかかわらず偽物が勝つ。公職選挙法に虚偽事実公表条項はあるが、「生成映像の真偽を誰がどんな基準で判定するか」は空白のままだ。

裁判はより重い。法廷で映像は長い間強力な証拠だった。防犯カメラ、ドライブレコーダー、通話録音がそうだった。今や弁護人は本物の映像を前にしても「これは生成されたものでは」と揺さぶることができ、逆に偽物を前に「本物だ」と言い張ることもできる。証拠能力を判断する基準そのものが揺らぐわけだ。韓国の裁判所はまだ生成映像の立証責任を誰がどこまで負うか整理できていない。

反論もある。「技術で作った問題は技術で解く。ウォーターマーク、出所認証(C2PAのようなコンテンツ出所標準)、検知AIを入れればいい」半分だけ正しい言葉だ。検知は生成と永遠に追いかけっこする軍拡競争であり、ウォーターマークは剥がせば済む。技術標準は土台材に過ぎず、その上に「誰が真偽を判定する権限と責任を持つか」という制度がなければ崩れる。技術はコストを減らしてくれるだけで、責任まで分配してくれはしない。

ここが韓国が空けた制度の空白だ。生成映像の出所表記義務、選挙局面の迅速判定機構、法廷証拠能力基準、そして何より「立証責任を個人ではなくプラットフォームと発信者に置く」という原則。これはアプリ一つでは埋められない。

釜山のある高齢者がグループチャットで受け取った市長候補の映像を前に「これ本物?」と尋ねるとき、その答えを出す責任が高齢者本人にあってはならない。それは社会が設計して引き受けるべき公共コストだ。

だから市民に必要な最小限のリテラシーは「ディープフェイクをうまく見分ける」ことではない。真偽立証のコストが今誰に押し付けられているかを察知する感覚だ。それを知る市民が制度を要求する。

ディープフェイクをうまく検知する国になる必要はない。本物を証明する責任を個人に押し付けない国、そのコストを制度が吸収するよう設計した国であればいい。AIをうまく使う国より、信頼がどのように崩れるかを正しく理解した国が最後まで残る。