飛行機移動中の佳子さま（Xより）
すべての工程をX上だけで完結できる
ITジャーナリストの三上洋氏は、「SNS上で、クオリティの高いフェイク画像を容易に生成できてしまうことは深刻な問題」と指摘する。
「他人の写真を用いて、水着姿や下着姿の画像を許可なく生成する行為は、男女問わず明らかな人権侵害。しかも、元画像を入手して、まるで本物にしか見えない高クオリティのフェイク画像を生成し、拡散する──すべての工程をX上だけで完結できてしまうわけです。
さらに、Xユーザーは『下着にして』と命令するだけで、問題の画像はGrokのアカウントから投稿される。この点も非常に厄介です。『自分はAIに命令しているだけ』『実際に生成・投稿したのはGrokだ』と、まるで命令した側に問題が無いように思わせる作りになっていることで、次々に悪用するユーザーが出てきてしまうのでしょう。
ただし、人権侵害の画像を生成して投稿するという一連の動作を予期して行うわけですから、AIに命令すること自体、投稿することと何ら変わらない行為になると思います」
三上氏は、「Grokは一旦制限ナシでサービス開始して、一般の方に悪用され、社会問題化してから修正するという順序になっていることも問題」と述べる。被害が出てからでは遅いが、現状ではGrokに強く抗議していくしかないという。
では、前述した佳子さまのフェイク画像について、宮内庁はどのように対応していくつもりなのか。後編で詳報する。
