“死者ししゃの演説えんぜつ”は認みとめられる？ 選挙せんきょでの生成せいせいAI利用りよう どこまで

SNSに投稿とうこうされた動画どうがで、選挙せんきょでの投票とうひょうを呼よびかけていたのはインドネシアのスハルト元もと大統領だいとうりょう。2008年ねんにすでに亡なくなっている。生成せいせいAIを使つかって作つくられた動画どうがで、いわば”復活ふっかつ”させられた形かたちだ。

いま、世界せかい各地かくちで、選挙せんきょでより多おおくの票ひょうを得えようと、生成せいせいAIを利用りようする動うごきが広ひろがっている。

何なにが、どこまで許ゆるされるのだろうか。日本にっぽんの状況じょうきょうは。急速きゅうそくに変化へんかする“AI選挙せんきょ”を追おった。

AIで5言語げんごがペラペラに

“世界せかい最大さいだい”の選挙せんきょとも言いわれるインドの総そう選挙せんきょ。

有権者ゆうけんしゃはおよそ9億おく7000万まん人にんに上のぼり、投票とうひょう期間きかんは今月こんげつはじめまでの1か月かげつ半はんにわたった。

今回こんかいの選挙せんきょでは、候補こうほ者しゃらがみずからの演説えんぜつを、ほかの言語げんごに変換へんかんするためにAIが使つかわれた。広大こうだいなインドでは、公用こうよう語ごはヒンディー語ごだが母語ぼごとする人ひとは4割わり程度ていどで、憲法けんぽうで認みとめられている言語げんごがほかに21あるからだ。

実際じっさいに生成せいせいAIを活用かつようした政権せいけん与党よとう「インド人民じんみん党とう」の西部せいぶラジャスタン州しゅうの政党せいとう幹部かんぶに話はなしを聞きくことができた。

ラトール氏しは、ふだん話はなすヒンディー語ごでの投票とうひょうを呼よびかけるメッセージを、みずからが話はなすことができない5つ以上いじょうの言語げんごに置き換おきかえ、SNSで配信はいしん。

さらに、有権者ゆうけんしゃにより親近しんきん感かんをもってもらうため、候補こうほ者しゃが支持しじ者しゃ名簿めいぼなどに記載きさいされた有権者ゆうけんしゃ1人にんひとりの名前なまえを呼よびかける動画どうがも生成せいせいAIで作つくり、個別こべつに送おくるなどしたという。

ラトール氏し

「AIを活用かつようしてメッセージを有権者ゆうけんしゃに直接ちょくせつ送おくることで、身近みぢかなものとして受け止うけとめてくれ、私わたし個人こじんの知名ちめい度ど向上こうじょうにつながった。これまで接点せってんの無なかった人ひとからのアプローチも出でてきた」

AI選挙せんきょ利用りよう 依頼いらいが続々ぞくぞく

どうやって多言たげん語ごで話はなす候補こうほ者しゃの音声おんせいは作つくられるのか。同おなじラジャスタン州しゅうにあるスタートアップ企業きぎょうを訪たずねた。

この企業きぎょうでは去年きょねん11月つきごろから、政党せいとう関係かんけい者しゃや候補こうほ者しゃから「選挙せんきょ運動うんどうにAIを生いかせないか」などといった相談そうだんが200件けん以上いじょう、寄よせられたという。

AIで音声おんせいを作つくる場合ばあい、まず依頼いらい者しゃが話はなしている動画どうがや音声おんせいをシステムに取り込とりこみ、顔かおや口くちの動うごき、声こえの特徴とくちょうを解析かいせきしデータ化か。

そのデータをもとに、ヒンディー語ごで話はなしているものをほかの言語げんごに変かえることができるという。

ディヴィエンドラ・シン・ジャダウンCEO

「AIを使つかった選挙せんきょ運動うんどうは従来じゅうらいの方法ほうほうに比くらべて、非常ひじょうに費用ひよう対たい効果こうかが高たかい。どの政治せいじ家かもAIを選挙せんきょに組み込くみこもうとしている」

死者ししゃの”復活ふっかつ”も

AIはインドだけでなく、ことし行おこなわれた世界せかい各地かくちの選挙せんきょ戦せんでも利用りようされ、変化へんかをもたらしている。

2月つきに、総そう選挙せんきょが行おこなわれたインドネシア。

選挙せんきょ期間きかん中ちゅうに、SNS上じょうに登場とうじょうしたのは、2008年ねんに亡なくなったスハルト元もと大統領だいとうりょうをAIでよみがえらせた動画どうが。

「私わたしは第だい2代だい大統領だいとうりょうのスハルトです。党とうの候補こうほ者しゃへの投票とうひょうをお願おねがいします」

スハルト氏しと関係かんけいの深ふかい党とうの幹部かんぶが作つくったもので、元もと大統領だいとうりょうを応援おうえんしてきた人ひとたちに向むけて党とうへの支持しじを呼よびかけた。

SNSの投稿とうこう文ぶんにはAIで作つくったものであると書かかれていたが、いわば死者ししゃを「復活ふっかつ」させる行為こういに倫理りんり的てきな問題もんだいがあるとの批判ひはんが国民こくみんから相次あいついだ。

刑務所けいむしょにいても…代かわりにAIが

さらに、ことし2月つきに総そう選挙せんきょが行おこなわれたパキスタンでは、収監しゅうかんされている政治せいじ家かによる演説えんぜつの動画どうががSNSで公開こうかいされた。

話はなしているのは、政党せいとう「正義まさよし運動うんどう」の創設そうせつ者しゃで、若者わかものなどから人気にんきを集あつめるカーン元もと首相しゅしょう。汚職おしょくの罪つみで有罪ゆうざい判決はんけつを受うけるなどして収監しゅうかんされていた。

こうした中なか、刑務所けいむしょにいるカーン氏しから受け取うけとった実際じっさいのメッセージをもとに、過去かこの音声おんせいを利用りようして作成さくせいされたという。

この「獄中ごくちゅう演説えんぜつ」の動画どうがは、旧きゅうツイッターのXなどで複数ふくすう回かい公開こうかいされ、90万まん回かい以上いじょう再生さいせいされたものもあった。この動画どうがには、AIで作成さくせいされた音声おんせいだと明示めいじされていた。

実際じっさいの選挙せんきょでは、カーン氏しの政党せいとうの出身しゅっしん者しゃが多おおく当選とうせんを果はたしていて、政党せいとうの広報こうほう担当たんとう者しゃはNHKの取材しゅざいに対にたいして、次つぎのように話はなした。

「カーン氏しの発言はつげんに支持しじ者しゃは熱心ねっしんに耳みみを傾かたむけるので、AIで作成さくせいされたスピーチには大おおきな効果こうかがあった」

どこまで許ゆるされるのか？

各国かっこくの政府せいふは、こうした生成せいせいAIの利用りようを認みとめているのか。

各国かっこくとも記事きじで紹介しょうかいしたそれぞれの動画どうがについて、削除さくじょなどの具体ぐたい的てきな対応たいおうはとっていない。

生成せいせいAIを選挙せんきょで使つかうこと自体じたいは禁止きんししていないが、ルールが作つくられる前まえに次々つぎつぎと新あたらしいものが出でてきている状況じょうきょうだ。

このうちインドシア政府せいふの担当たんとう者しゃはAIの利用りよう方法ほうほうについては、今後こんご対応たいおうが必要ひつようだという考かんがえを示しめした。

インドネシア通信つうしん・情報じょうほう省しょう

サミュエル・アブリジャニ・パゲラパン局長きょくちょう

「デジタル空間くうかんで誰だれでも何なんでもつくることができる新あたらしい時代じだいに入はいったと認識にんしきしなければならない。この現実げんじつに対にたいして新あらたな知識ちしきやスキルを持もつ必要ひつようがある」

バイデン大統領だいとうりょうの声こえで”偽にせ電話でんわ”も

生成せいせいAIの利用りようが問題もんだいとなり、実際じっさいの規制きせいが始はじまったのがアメリカだ。

アメリカ東部とうぶニューハンプシャー州しゅうで、1月つきに行おこなわれた大統領だいとうりょう選挙せんきょに向むけた予備よび選挙せんきょ。直前ちょくぜんにバイデン大統領だいとうりょうに似にた音声おんせいで、投票とうひょうしないよう呼よびかける電話でんわが多おおくの住民じゅうみんにかかってきた。その数かずは数すう千せん件けんともされている。

どんな内容ないようだったのか。電話でんわは録音ろくおんされた音声おんせいが自動じどうで流ながれる仕組しくみで、次つぎのような内容ないようを話はなしたという。

今度こんどの火曜日かようびはニューハンプシャー州しゅうの大統領だいとうりょう予備よび選挙せんきょです。共和党きょうわとうは無党派むとうは層そうや民主党みんしゅとうの有権者ゆうけんしゃを自分じぶんたちの予備よび選挙せんきょに参加さんかさせようとしています。なんとばかげたことだ。

11月つきの本ほん選挙せんきょの時ときまで、投票とうひょうをとっておくことが大切たいせつだ。この火曜日かようびに投票とうひょうすることは、共和党きょうわとうがドナルド・トランプを再ふたたび選出せんしゅつすることを可能かのうにするだけです。

今後こんご、こうした電話でんわをかけてきてほしくない人ひとは2番ばんを押おして下ください。

音声おんせいにはバイデン大統領だいとうりょうが演説えんぜつなどでたびたび口くちにする「What a bunch of malarkey」（なんとばかげたことだ）という表現ひょうげんも含ふくまれていた。

司法しほう当局とうきょくは先月せんげつ、当時とうじ54歳さいの政治せいじコンサルタントを、この偽にせ音声おんせいに関係かんけいして選挙せんきょを妨害ぼうがいしたなどとして起訴きそした。

偽にせ音声おんせいの制作せいさく者しゃを直撃ちょくげき

この音声おんせいは、誰だれがどうやって作つくったのか。

アメリカメディアに対にたいし「自分じぶんが制作せいさくした」と名乗り出なのりでた人物じんぶつを追おって向むかったのは、南部なんぶテキサス州しゅうヒューストン。

現あらわれたのは、ポール・カーペンターと名乗なのる47歳さいの男性だんせいだった。職業しょくぎょうはプロのマジシャンだが、AIなど最新さいしんの技術ぎじゅつにも関心かんしんを持もち、独学どくがくで学まなんできたという。

カーペンター氏しによると偽にせ音声おんせいは去年きょねん、友人ゆうじんの紹介しょうかいで知り合しりあった政治せいじコンサルタントから依頼いらいを受うけたとしている。

制作せいさくには登録とうろくすれば誰だれでも使つかえるオンラインの音声おんせい生成せいせいサービスを利用りよう。このサービスは、元もとになる1分ふん程度ていどの音声おんせいデータがあれば、その人物じんぶつがしゃべっているような「偽にせ音声おんせい」を自在じざいに作り出つくりだすことができるものだ。

動画どうが共有きょうゆうサイトに公開こうかいされているバイデン大統領だいとうりょうのインタビュー動画どうがをもとに、偽にせ音声おんせいを作成さくせい。

かかった時間じかんはわずか数すう分ふんだったとしている。

カーペンター氏し

「音声おんせいはAIの能力のうりょくを示しめすために、内部ないぶで使つかわれるものだと思おもっていた。実際じっさいに外部がいぶに公開こうかいされるとはまったく思おもっていなかった」

カーペンター氏しは、依頼いらいを受うけた証拠しょうこだとして「偽にせ音声おんせい」を私わたしたちに提供ていきょうするとともに、依頼いらい者しゃ側がわから報酬ほうしゅうとして受け取うけとった150ドルが振り込ふりこまれた記録きろくを示しめした。

取材しゅざいで「もう一度もういちど、同おなじような偽にせ音声おんせいを作成さくせいする依頼いらいを受うけたら、どうするか」と尋たずねると…

カーペンター氏し

「やる。何なにの問題もんだいもない。こんなことが起おきないよう契約けいやく内容ないようにはもう少もうすこし注意深ちゅういぶかくなると思おもうが。私わたしがやらなくても誰だれかがやるし、誰だれでもできる」

偽にせ音声おんせいをめぐって、カーペンター氏しの刑事けいじ責任せきにんを問とうような動うごきは、これまでのところ確認かくにんされていない。

AI音声おんせいは見破みやぶれるか

私わたしたちは、バイデン大統領だいとうりょうの偽にせ音声おんせいを、ニューヨーク州立しゅうりつ大学だいがくバファロー校こうのシーウェイ・リウ教授きょうじゅに分析ぶんせきしてもらった。

AIで作つくられた音声おんせいに詳くわしい各国かっこくの研究けんきゅうチームが公開こうかいしている最先端さいせんたんの判定はんていツール、5種類しゅるいを使つかって分析ぶんせきした結果けっか、生成せいせいAIによるものだと見抜みぬくことができなかったものもあった。

AIで生成せいせいされた可能かのう性せいについて

3種類しゅるいの判定はんていツール:72.5％から100％

→「AIで生成せいせいされた可能かのう性せいが高たかい」ことを示しめす数値すうちに

2種類しゅるいの判定はんていツール:0％や0.3％

→「AIで生成せいせいされた可能かのう性せいが低ひくい」ことを示しめす数値すうちに

リウ教授きょうじゅ

「大統領だいとうりょうの声こえの特徴とくちょうがよくでていて、第だい一いち印象いんしょうは非常ひじょうによくできていると思おもった。一般いっぱんの人ひとが音声おんせいを聞きいただけで偽物にせものと見抜みぬくのは難むずかしい。AIでコンテンツを作り出つくりだす技術ぎじゅつはいまも進化しんかし続つづけている。あらゆるコンテンツが本物ほんものかどうかを見抜みぬける万能ばんのうのツールも存在そんざいしない」

AI音声おんせい電話でんわは“違法いほう”

アメリカ政府せいふも対応たいおうに追おわれている。

アメリカの通信つうしん当局とうきょく、FCC＝連邦れんぽう通信つうしん委員いいん会かいは、ことし2月つき、AIで生成せいせいされた音声おんせいを使つかい、人ひとをだまそうとする自動じどう音声おんせい電話でんわをかける行為こういを「違法いほう」と判断はんだんすると発表はっぴょうした。

今回こんかい、偽にせ音声おんせいの作成さくせいに使つかわれたとされる音声おんせい作成さくせいサービスを提供ていきょうする企業きぎょうは、事件じけんの後のち、候補こうほ者しゃなどへのなりすましを検知けんちする仕組しくみを導入どうにゅうすると発表はっぴょうしている。

また、テレビやインターネットなどで配信はいしんする政治せいじ広告こうこくに、候補こうほ者しゃになりすました音声おんせいや画像がぞう、動画どうがの使用しようの禁止きんしを求もとめる超党派ちょうとうはの法案ほうあんも出だされている。

産業さんぎょう育成いくせいを進すすめつつ、どう規制きせいをしていくのか、手探てさぐりでの対応たいおうが続つづいているのが現状げんじょうだ。

日本にっぽんの選挙せんきょでは？

では、日本にっぽんにおける選挙せんきょでの生成せいせいAIの利用りようについて、ルールはあるのか。国内こくないの選挙せんきょ運動うんどうで本格ほんかく的てきに生成せいせいAIが使用しようされたケースはまだないとみられるが、政治せいじ活動かつどうでは政策せいさくの発信はっしんや動画どうがの作成さくせいなどに徐々じょじょに使つかわれ始はじめている。

総務そうむ省しょうによると、選挙せんきょ運動うんどうについて生成せいせいAIの利用りように限定げんていした規制きせいなどのルールはなく、虚偽きょぎの内容ないようを広ひろめるなど、その利用りよう方法ほうほうが適切てきせつかどうかは公職こうしょく選挙せんきょ法ほうに基もとづいて判断はんだんすることになるとしている。

一方いっぽうで、事業じぎょう者しゃなど向むけに国くにが策定さくていしたガイドラインでは、特とくに選挙せんきょについては、AIの出力しゅつりょくについて慎重しんちょうに取り扱とりあつかうよう求もとめている。

20年ねん以上いじょう、国内こくない外がいでAIの研究けんきゅうを続つづけ、政府せいふの「AI戦略せんりゃく会議かいぎ」で座長ざちょうを務つとめている東京とうきょう大学だいがくの松尾まつお豊ゆたか教授きょうじゅにどう対応たいおうしていくべきか、話はなしを聞きいた。

松尾まつお教授きょうじゅ

「生成せいせいAIは、理想りそう的てきには、候補こうほ者しゃの考かんがえを有権者ゆうけんしゃに、より正ただしく、分わかりやすく伝つたえる手段しゅだんになる。インターネットの利用りようも、長ながらく選挙せんきょでは使つかわないことになっていたが、今いまでは使つかうようになってきた。長期ちょうきで見みると、生成せいせいAIも使つかわれていくだろう」

一方いっぽう、課題かだいについては、

▽偽にせ動画どうがなどが投票とうひょうの直前ちょくぜんに生成せいせい・拡散かくさんされると、取り締とりしまることができず、投票とうひょう行動こうどうに影響えいきょうを与あたえてしまうおそれがあることや

▽AIの学習がくしゅうデータによっては意図いとせずに、誤あやまった情報じょうほうを発信はっしんしてしまう可能かのう性せいなどがあると指摘してきした。

松尾まつお教授きょうじゅ

「有権者ゆうけんしゃの票ひょうを変へんにゆがめたり、対立たいりつする候補こうほ者しゃの足あしを引っ張ひっぱったりすることに生成せいせいAIが使つかわれないよう、一定いっていのルールを決きめていくことが必要ひつようだ。技術ぎじゅつが進展しんてんしている時期じきは想定そうてい外がいの悪わるい影響えいきょうも起おこる可能かのう性せいがある。海外かいがいの動向どうこうもしっかり見みて、日本にっぽんなりの仕組しくみについて議論ぎろんを進すすめていく必要ひつようがある」

（取材しゅざい:国際こくさい部ぶ 吉元よしもと明あきら訓くん、アメリカ総局そうきょく 田辺たなべ幹夫みきお、ジャカルタ支局しきょく 伊藤いとう麗うらら、イスラマバード支局しきょく 松尾まつお恵めぐみ輔、ネットワーク報道ほうどう部ぶ 岡谷おかや宏ひろし基もと）