「生成せいせいAI」偽にせ情報じょうほうと規制きせい “規制きせい強化きょうかすべき”61％ NHK世論せろん調査ちょうさ

《調査ちょうさ概要がいよう》

NHKは4月つき5日にちから7日にちにかけて、全国ぜんこくの18歳さい以上いじょうを対象たいしょうにコンピューターで無む作為さくいに発生はっせいさせた固定こてい電話でんわと携帯けいたい電話でんわの番号ばんごうに電話でんわをかけるRDDという方法ほうほうで世論せろん調査ちょうさを行おこないました。

調査ちょうさの対象たいしょうになったのは3129人にんで、49％にあたる1534人にんから回答かいとうを得えました。

《生成せいせいAIと偽にせ情報じょうほう》

このなかでは、「生成せいせいAI」による偽にせの動画どうがや画像がぞうが問題もんだいになるケースが増ふえていますが、日本にっぽんでは規制きせいする法律ほうりつがないことについてどう対応たいおうすべきか聞ききました。

その結果けっか

▽「規制きせいを強化きょうかすべき」が61％

▽「今いまのままでよい」が8％

▽「どちらともいえない」が25％でした。

《“規制きせいを強化きょうかすべき”と思おもう理由りゆう》

「規制きせいを強化きょうかすべき」と答こたえた人ひとに理由りゆうを聞きいたところ

▽「偽にせの情報じょうほうによって人権じんけんが侵害しんがいされる恐おそれがあると思おもうから」が48％

▽「偽にせの動画どうがや画像がぞうを作つくったり広ひろめたりすることで著作ちょさく権けんや知的ちてき財産ざいさんを侵害しんがいすると思おもうから」が26％

▽「海外かいがいでは規制きせいを強化きょうかしている国くにもあり、日本にっぽんでもそうすべきだと思おもうから」が13％

▽「学校がっこう教育きょういくなどでの啓発けいはつ活動かつどうでは歯止はどめがかからないと思おもうから」が8％でした。

《“今いまのままでよい”と思おもう理由りゆう》

一方いっぽう、「今いまのままでよい」と答こたえた人ひとに理由りゆうを聞きいたところ

▽「AIを活用かつようした活動かつどうがうまく進すすまなくなると思おもうから」が29％

▽「表現ひょうげんの自由じゆうが憲法けんぽうで保障ほしょうされているから」が23％

▽「規制きせいではなく、学校がっこう教育きょういくなどで啓発けいはつを図はかるべきだと思おもうから」が22％

▽「自分じぶんの身の回みのまわりで問題もんだいになっていないから」が18％でした。

偽にせ情報じょうほうで被害ひがい企業きぎょう増加ぞうか 法ほう規制きせい求もとめる声こえも

SNSなどに投稿とうこうされた偽にせの情報じょうほうや誤あやまった情報じょうほうをめぐっては、企業きぎょうや商品しょうひんのイメージを低下ていかさせるケースもあり、問題もんだいとなっています。

企業きぎょうからの依頼いらいを受うけてネットの炎上えんじょう対策たいさくなどを手てがけるIT企業きぎょうでは、依頼いらいする企業きぎょうが増加ぞうか傾向けいこうにあり、現在げんざいは100社しゃ以上いじょうの対策たいさくを請け負うけおっています。

会社かいしゃでは依頼いらいを受うけた企業きぎょうについて「異物いぶつ混入こんにゅう」や「情報じょうほう漏洩ろうせつ」など問題もんだいになる可能かのう性せいがある情報じょうほうが投稿とうこうされていないかを監視かんしし、該当がいとうする投稿とうこうがあると企業きぎょう側がわに報告ほうこくして確認かくにんしたうえで偽にせ情報じょうほうや誤あやまった情報じょうほうだった場合ばあいには投稿とうこうの削除さくじょをプラットフォームに要請ようせいしたり、投稿とうこうされた内容ないようは誤あやまりであるとするリリースを出だしたりするなどの対応たいおうを行おこなっています。

ただ、現在げんざい行おこなえる対応たいおうには限界げんかいがあり、家電かでん量販りょうはん店てんの店舗てんぽに対にたいする投稿とうこうで特定とくていの店員てんいんからクレジットカードの情報じょうほうを盗み見ぬすみみられたという匿名とくめいの書き込かきこみが見みつかったケースでは、店舗てんぽや本人ほんにんに確認かくにんしたうえで偽にせの情報じょうほうと判断はんだんし、プラットフォーム側がわに削除さくじょの要請ようせいをしたものの、まだ認みとめられておらず、投稿とうこうは数すうか月かげつほどたったいまも残のこったままになっているということです。

さらに最近さいきんでは、生成せいせいAIを使つかって企業きぎょうの代表だいひょう者しゃになりすまして投資とうしを呼よびかける広告こうこくに画像がぞうや名前なまえを使つかわれるケースも増ふえてきているということで、企業きぎょうのイメージや株価かぶかなどにも影響えいきょうすることが懸念けねんされています。

IT企業きぎょう「シエンプレ」の桑江くわえ令れいさんは「ぱっとみて画像がぞうや映像えいぞうが生成せいせいAIかどうかを見抜みぬくのは難むずかしくなってきており、企業きぎょうとしてそれが本当ほんとうなのかを確認かくにんをする作業さぎょうやリソースが発生はっせいすることになる。デマや偽にせ情報じょうほうを流ながされた企業きぎょうは自分じぶんたちは悪わるくないのに被害ひがいが出でてしまうということに非常ひじょうに苦慮くりょしており、法的ほうてきな規制きせい求もとめる声こえが増ふえている」と話はなしています。

教育きょういくで「表現ひょうげんの自由じゆう」と合あわせて対策たいさくを議論ぎろんするべき

インターネット上じょうに拡散かくさんされた偽にせの情報じょうほうによる被害ひがいが問題もんだいとなるなか、憲法けんぽうが保障ほしょうする「表現ひょうげんの自由じゆう」と合あわせて対策たいさくを議論ぎろんしていくべきだという意見いけんもあります。

インターネットやSNSの活用かつように関にかんする教育きょういくを行おこなっている都内とないの会社かいしゃでは、2年ねん前まえに会社かいしゃを立たち上あげて以降いこう、全国ぜんこくから依頼いらいを受うけ、子こどもからお年寄としよりまで幅広はばひろい年代ねんだいの人ひとたちに対にたいして講義こうぎを行おこなっています。

生成せいせいAIの技術ぎじゅつの発展はってんに伴ともなって偽にせ情報じょうほうに関にかんする講義こうぎの依頼いらいも寄よせられているということで4月つき、京都きょうと市内しないの中学校ちゅうがっこうで行おこなわれた講義こうぎでは

▽ことし1月つきの能登のと半島はんとう地震じしんのあとにSNSで拡散かくさんされた偽にせ情報じょうほうや

▽「ディープフェイク」と呼よばれるAIによって作つくられたウクライナのゼレンスキー大統領だいとうりょうの偽にせ画像がぞうなどの事例じれいを題材だいざいに講義こうぎを行おこないました。

この中なかでは

▽真偽しんぎがわからない情報じょうほうはすぐに拡散かくさんしないことや

▽なぜ投稿とうこうしたのか理由りゆうを考かんがえ、内容ないようを調しらべること

▽万一まんいち自分じぶんが拡散かくさんしてしまった場合ばあいのすぐに訂正ていせいすることが重要じゅうようだと説明せつめいしました。

また、世界せかい各国かっこくで偽にせ情報じょうほうを規制きせいする動うごきが進すすんでいることを紹介しょうかいしました。

このうちロシアでは国くにが偽にせ情報じょうほうかどうかを判断はんだんし罰金ばっきんや禁錮きんこ刑けいを科かしていることについて触ふれ、「偽にせ情報じょうほうの判断はんだんを誰だれがするのかが非常ひじょうに大切たいせつなポイントだ。政府せいふが法律ほうりつで規制きせいするようになると、『検閲けんえつ』につながるおそれもあり、『表現ひょうげんの自由じゆう』がなくなる可能かのう性せいがある」と述のべました。

授業じゅぎょうを受うけた生徒せいとからは「相手あいてに制限せいげんされるのではなく、最終さいしゅう的てきに自分じぶん自身じしんで制限せいげんできると思おもうので、気きをつけていきたい」や「国くにが勝手かってに情報じょうほうを削除さくじょしてくれた方ほうが、信しんじることもないからいいかなと思おもった」など、さまざまな意見いけんが聞きかれました。

授業じゅぎょうを行おこなった「インフォハント」の代表だいひょうの安藤あんどう未希みきさんは「テクノロジーの進化しんかに伴ともなって真偽しんぎを見極みきわめることが難むずかしくなっていきますが、できるだけ情報じょうほうを制限せいげんするのではなく、自身じしんで確認かくにんして気き付つける人ひとを増ふやしていく教育きょういくを行おこなうことが大切たいせつだと思おもいます」と話はなしていました。

情報じょうほう発信はっしんに関かかわるプラットフォーム事業じぎょう者しゃも対策たいさく進すすむ

インターネット上じょうの情報じょうほう発信はっしんに関かかわるプラットフォーム事業じぎょう者しゃも偽にせ情報じょうほうや誤あやま情報じょうほうへの投稿とうこうを削除さくじょする基準きじゅんを設もうけるなどの対策たいさくを進すすめています。

このうちYouTubeでは、虚偽きょぎが含ふくまれ深刻しんこくな危害きがいを及およぼす恐おそれがあるものなど、独自どくじのガイドラインに違反いはんしている動画どうがをAIによるシステムで検知けんちし、このうちの77％を早期そうきの段階だんかいで削除さくじょしています。

また、生成せいせいAIを使つかった動画どうがの投稿とうこうが増ふえていることを受うけて、実在じつざいの人物じんぶつや場所ばしょだと見みている人ひとが誤解ごかいする可能かのう性せいがある動画どうがには生成せいせいAIによって編集へんしゅうや生成せいせいが行おこなわれたことを示しめすラベルの表示ひょうじを義務ぎむづける仕組しくみを導入どうにゅうしています。

グーグルは「ユーザーが安心あんしんして利用りようできる環境かんきょうを提供ていきょうすることが最さい重要じゅうよう課題かだいだ」としています。

また、LINEヤフーはそれぞれのサービスにおいて、明あきらかな偽にせ情報じょうほうの投稿とうこうを禁止きんしすることを規約きやくやガイドラインに定さだめ、政府せいふ機関きかんやファクトチェック機関きかんなどによる確認かくにんを踏ふまえて削除さくじょするなどの対応たいおうをとっています。

ことし1月つきに能登のと半島はんとう地震じしんが発生はっせいした際さいには、「今回こんかいの地震じしんは人工じんこう地震じしんである」といった趣旨しゅしの偽にせ情報じょうほうなどを含ふくんだ投稿とうこうをあわせて1800件けん以上いじょう削除さくじょしました。

さらに一部いちぶのサービスで生成せいせいAIを使つかって作成さくせいしたテキストの投稿とうこうについては

▽生成せいせいAIを用もちいたことを明記めいきすることや

▽内容ないようが利用りようのルールに違反いはんしていないか事前じぜんに確認かくにんすることなどの指針ししんを定さだめています。

LINEヤフーは「行き過いきすぎた措置そちや恣意しい的てきな運用うんようによってユーザーの表現ひょうげんの自由じゆうが損そこなわれることがないよう対応たいおうしているが、プラットフォーム事業じぎょう者しゃに規制きせいを行おこなうことついては偽にせ情報じょうほう・誤あやま情報じょうほうの定義ていぎは明確めいかくではないことから慎重しんちょうな検討けんとうが必要ひつようだと考かんがえる」としています。

専門せんもん家か “どこまで規制きせいが必要ひつようか慎重しんちょうに議論ぎろんを”

憲法けんぽう学がくが専門せんもんで、生成せいせいAIにも詳くわしい慶應義塾けいおうぎじゅく大学だいがくの山本やまもと龍彦たつひこ教授きょうじゅは、今回こんかいの世論せろん調査ちょうさの結果けっかについて「生成せいせいAIで作つくられたディープフェイクと呼よばれるなりすましの偽にせ動画どうがは、積み上つみあげてきた自分じぶんのイメージが一気いっきに崩くずされるという非常ひじょうに強つよい人格じんかく権けんの侵害しんがいにあたるものだ。こうした偽にせ動画どうがの脅威きょういが一般いっぱん的てきに認知にんちされてきた結果けっかだとみられる」と指摘してきしています。

また、規制きせいのあり方ありかたについては、「生成せいせいAIは適切てきせつに使つかえば人間にんげんにとって有用ゆうような道具どうぐになっていくかもしれないが、全まったく規制きせいがないまま使つかっていくとリスクや不安ふあんが増大ぞうだいしていく可能かのう性せいがあり、規制きせいは適切てきせつに行おこなわれるべきだ。人権じんけんや民主みんしゅ主義しゅぎを踏ふまえた憲法けんぽうレベルでの議論ぎろんを加速かそくさせる必要ひつようがある」と述のべました。

そのうえで、「若わかい世代せだいはほかの世代せだいに比くらべて生成せいせいAIの利り活用かつように寛容かんようで柔軟じゅうなんに使つかっていこうという考え方かんがえかたもあり、どこまで規制きせいが必要ひつようなのかは慎重しんちょうに考かんがえなければいけない。まずは生成せいせいAIが作成さくせいしたものだと表示ひょうじしていくことで透明とうめい性せいを確保かくほしていくことを機軸きじくに、選挙せんきょや教育きょういくのような重要じゅうような領域りょういきから規制きせいを考かんがえていく必要ひつようがある」と話はなしていました。