コメントを削除したのは誰か

ある掲示板からコメント欄が消えた。運営者は「健全な討論環境」と記した。誰も連行されず、どんな文章も赤線で消されなかった。ただ場所がなくなっただけだ。これを検閲と呼ぶには違和感がある。だからこそより危険だ。

私たちは表現の自由を長らく検閲の反対語として学んできた。誰かが口を塞げば自由の侵害、塞がなければ自由。この構図には手が見える。手首を掴む国家、削除ボタンを押す運営者。

ところが今、言論空間で起きていることにはその手が見えない。文章は投稿される。削除もされない。ただ誰にも届かない。露出0、おすすめ露出除外、関連投稿非表示。生きているのに見えない投稿が毎日生産される。

ここでプリズムの問いは一つだ。表現の自由における核心的コストは「話せるか」から「届くか」へとすでに移行したのに、私たちの法と感覚はまだ前者に留まっているのではないか。

この事態は効率の名のもとに進行した。ヘイトスピーチ、スパム、違法撮影物、連続投稿。人間が逐一防ぐことはできない。AIモデレーションは1秒間に数千件を分類する。実際に悪口やデジタル性犯罪物の遮断において、この自動化は人々を救った。これは認めた上で始めなければならない。

問題は同じパイプラインが「到達率分配器」としても機能する点だ。何を上に上げ、何を下に沈めるかを決める重み付け。その重み付けは公開されない。企業資産だから、不正利用防止だから、営業秘密だから。

そのため韓国のオンライン言論空間は今、二重に閉ざされている。何が遮断されたか分からず、何がただ見えなくされたかはさらに分からない。前者はそれでも統計が出る。後者は統計自体が設計上存在しない。

ここで誰がコストを負担するのか。まず投稿者は自分の投稿が沈んだことを知らない。抗議する対象も分からない。アルゴリズムは被告にならない。異議申立窓口は大抵自動応答で、人間の審査者に届く道は意図的に狭い。

次のコストはモデレーション労働者が負う。自動分類の後には結局人間がいる。最も凄惨なコンテンツを一日中見て判定する外注検収者たち。フェイスブックモデレーターたちのPTSD集団訴訟は、この労働がどこに外注されたかを示した。効率の洗練された画面の裏で、コストは最も弱い契約段階へと流れていく。

そして市民が負う。広場がどんな形なのか誰も全体を見ることができない。自分が見るタイムラインが皆のタイムラインだと錯覚する瞬間、世論は測定不可能な何かになる。選挙を控えてこれは抽象的な懸念ではない。

ここでよくある反論が出る。「私的プラットフォームが自分の空間の露出を決めるのは当然の営業の自由ではないか。全部見せればヘイトとスパムが広場を占領する」。半分は正しい。キュレーションのない広場は最も声の大きい者が勝つ場所になる。

しかし影響力が一定規模を超えれば事情は変わる。数千万人がそこでニュースを見て政治的判断をするなら、それは私的カフェではなく事実上の公共インフラだ。電気と通信を民間企業が運営しても私たちが規則をつける理由と同じだ。規模が権力を生むなら、権力には説明責任が伴う。

だからプリズムは技術を止めようとは言わない。AIモデレーションは必要だ。問うているのは作動方式だ。誰の規則で何を沈めるかを決めるのか、そして沈められた側はその事実を知って問い質すことができるのか。

韓国が作るべき規則は3行に要約できる。リーチ制限も制裁だ。ブロックだけでなく露出降格も当事者に通知せよ。人間による審査へ行く異議申立経路を狭めず義務化せよ。一定規模以上のプラットフォームはモデレーション結果を集計して公開せよ。何を、どれだけ、なぜ沈めたのか。

EUがデジタルサービス法ですでにその方向性を定めた。釜山のある小商工人コミュニティであれ全国ポータルであれ、見えない降格が営業と発言を左右するなら同じ問いが適用される。誰が重み付けを握っており、それを問い質す窓口があるのか。

広場からコメントが消えるとき、私たちが失うのはコメントではない。何が消えたかすら分からなくなる状態、それが真の損失だ。表現の自由の次の最前線は削除ボタンではなく露出スライダーの上にある。そのスライダーを誰が、どんな規則で動かすのか。今決めなければ、それはすでに決められた状態で私たちのもとに届く。