山本一郎メルマガ「人間迷路」編集部
【人間迷路 Vol.408より】
ということで、案の定海外英字メディアに捕捉されて面倒くさいことになっております。早くも余波到来で、非常につらい時期に差し掛かりました。さて、どうやって着地させましょうね。
Illegal trade in AI child sex abuse images exposedAbuse images are being shared via a three-stage process:
・Paedophiles make images using AI software
・They promote pictures on platforms such as Japanese picture sharing website called Pixiv
・These accounts have links to direct customers to their more explicit images, which people can pay to view on accounts on sites such as Patreon
今回のメルマガの有料部分インシデント2で、同じくAI規制に関する議論も掲載しているのですが、ここではいわば「空中戦としての生成AI問題」として何を違法とするべきかというところに着眼したいと思います。
というのも、BBCの報道ではタイトルからしていきなり「Illegal（違法な）」としていますが、我が国の現行法ではこれらがただちに違法だと言えるものかというと微妙なものがあるからです。さっそく警察庁の人たちともあれこれ話をしておりますが、被害の申し立てはまずありえない（勝手に誰かのLORAモデルでも無断展開されたのでもない限り）、あるとしたら単純所持方面で児童ポルノと認定し得るのかという問題になっていくでしょう、という話になります。
というのも、児ポ法における児童とは、当たり前のことですが実在する児童とそれに関連したコンテンツの諸事や販売に対する規制なのであって、ここでいう「みだりに児童ポルノを所持し」は、AIで生成された児童が仮に18歳に満たない外見に由来する画像であったとしても、それが18歳未満であるかを法的に確定させる術がないので「そう見えるから処罰」というウルトラ技でも編み出されない限り生成AIによって創出された児童ポルノ紛いの代物も当然児ポ法での処罰の対象とならないと見受けられるからです。
児童買春、児童ポルノに係る行為等の規制及び処罰並びに児童の保護等に関する法律（定義）
第二条 この法律において「児童」とは、十八歳に満たない者をいう。
２ この法律において「児童買春」とは、次の各号に掲げる者に対し、対償を供与し、又はその供与の約束をして、当該児童に対し、性交等（性交若しくは性交類似行為をし、又は自己の性的好奇心を満たす目的で、児童の性器等（性器、肛門又は乳首をいう。以下同じ。）を触り、若しくは児童に自己の性器等を触らせることをいう。以下同じ。）をすることをいう。
一 児童
二 児童に対する性交等の周旋をした者
三 児童の保護者（親権を行う者、未成年後見人その他の者で、児童を現に監護するものをいう。以下同じ。）又は児童をその支配下に置いている者
実のところ、生成AIが目立つので今回のような事態がBBCにPixivやPatreon名指しで掲載されるようになっているのですが、他方で、SkebほかNSFWは取り締まりの対象とされるべきかという話はかねて出ています。というのも、イラストはOKだけど生成AIはNGなんて話はまあ通らんでしょというのもあります。
また、LORAなどの児童モデルをMayaなどCGツール類を使って児童ポルノを生成することは別に生成AIなどなくとも元から存在していたものではありましたから、その点では、かつてネットミームとして話題に良くなった「非実在少女への規制」という割と表現規制の王道のところに立ち入る古典的な議論に戻ってきているとも言えるのです。
最高に面倒くせえわけですが、かといって、そんなものが氾濫していていいのかというお気持ちや倫理の問題はどこかに必ず存在しますし、元データは何であれそのような児童虐待にも近い形でコンテンツが流通している現実には変わりありませんから、何かしらの線引きをして、それに見合った規制をしましょうという議論にならざるを得ません。つまり、個人間の「同好の士」的なコンテンツ融通は再び地下に戻るよう、既成のサービスを運用する事業者の側にそのような生成AIで違法「まがい」のものを取り扱うな、という流れになります。
同じようなことは、コンテンツ業界での取引においても先行して発生しており、メルマガでも、記事でも、何度も問題でやんすねと指摘はしてきたつもりなのですが、結果としてこのようなことになるのは実に忸怩たる面もあります。
pixivなど同人マンガ界隈で「クレカ決済拒否」が大変な騒動になっている件について
そして、これらの問題はもうすでに過去に起こった未来なのであって、とっくに解決不能な状態になっているとも言えます。
さらに、折の悪いことに同じくBBC発で、ジャニーズ事務所の総帥であったジャニー喜多川さんに関するセックススキャンダルも出ています。ブリカスに変な口の挟まれ方をする謂れはありませんが、ただアカンものはアカンのは事実で、それはまあ善処しないことには話にならんなというところではあるのですが、これらがオンラインでの生成AI創出物のやり取りに対する規制だけでなく、アニメや漫画、ゲームといった各種コンテンツに対する規制となったり、別の形で日本文化全体に対する忌避感に繋がることのないよう慎重に対応をしたいというのが本音です。
▽
「人間迷路 Vol.408 メルマガタイトル」（2023年6月29日発行）序文より
山本一郎メルマガ『人間迷路』
ネット業界とゲーム業界の投資界隈では知らぬ者のない独特のポジションを築き、国内海外のコンテンツ制作環境に精通。日本のネット社会最強のウォッチャーの一人であり、また誰よりもプロ野球とシミュレーションゲームを愛する、「元・切込隊長」こと山本一郎による産業裏事情、時事解説メルマガの決定版！
山本一郎主催の経営情報グループ「漆黒と灯火」
真っ暗な未来を見据えて一歩を踏み出そうとする人たちが集まり、複数の眼で先を見通すための灯火を点し、未来を拓いていくためのサロン、経営情報グループです。
山本一郎（やまもといちろう）
1973年、東京都生まれ。96年慶應義塾大学法学部政治学科卒業、新潟大学法学部大学院博士後期課程在籍。社会調査を専門とし、東京大学政策ビジョン研究センター（現・未来ビジョン研究センター）客員研究員を経て、一般財団法人情報法制研究所上席研究員・事務局次長、一般社団法人次世代基盤政策研究所研究主幹。著書に『読書で賢く生きる。』（ベスト新書、共著）、『ニッポンの個人情報』（翔泳社、共著）などがある。ブロガーとしても著名。