誰もが自由に発信できる時代が訪れ、市民の手で新たな言論空間が生まれる――。SNSが登場したころ、そんな期待が世界に広がった。だがいま、デジタル空間には問題のあるコンテンツがあふれる。健全な議論や対話につながる土台づくりを、誰が、どう担うべきなのか。

「ボーダーライン」はどこに？

　東京都内に住む男性（48）は昨年1月まで4年間、マレーシアで、SNSの日本語の投稿をチェックするコンテンツ・モデレーターとして働いた。

　差別、個人への脅迫などを多い日で1日500件ほどチェック。中国や韓国の人に対する差別的なコメントも多く目を通した。社が定める「NGワード」をすり抜けるネットスラング（俗語）が次々に編み出される。差別語とみられる新たな俗語を見つけるたびに上司に相談し、リストに加えられることもあったという。

　動画のチェックをしたこともある。「明らかな違反はAI（人工知能）で対応できるが、100%機械に置き換えるのは無理だと思う」と話す。

　ネット上にあふれる問題投稿。だが、規約をすり抜けようとする動きもあり、削除の判断は難しい。

　４月16日、東京都内で開かれた偽情報対策のシンポジウムでも、SNSなどの運営事業者の担当者から、線引きの難しさを指摘する声があがった。

　「きれいに白黒分けられず、ボーダーライン上のコンテンツもかなり多い」（ユーチューブ）、「我々の判断がどのような根拠に基づいて行われるべきなのか」（フェイスブック）

SNSを形成する「数の論理」

　2000年代半ばに登場したSNSは、身近な人同士のやりとりのために作られ、十数年で世界規模に急成長した。「創設者たちも、ここまで巨大化して中傷や差別がはびこるとは想像していなかっただろう」。早稲田大の伊藤守教授（メディア論）は振り返る。

　伊藤教授も当初、誰もが属性…