チャットＧＴＰの音声おんせいモード、ユーザーが感情依存かんじょういぞんの可能性かのうせいも　オープンＡＩが懸念けねん

生成せいせいＡＩツール「チャットＧＰＴ」を開発かいはつするオープンＡＩは８日ようか、同どうツールの安全性あんぜんせいを検証けんしょうした報告書ほうこくしょを発表はっぴょうした。ユーザーがＡＩとの関係かんけいに頼たより過すぎて「依存状態いぞんじょうたい」になる可能性かのうせいもあると指摘してきしている。

有料版ゆうりょうばんのチャットＧＰＴで提供ていきょうが始はじまった最先端さいせんたんの音声おんせいモードでは、まるで本物ほんものの人間にんげんと話はなしているような会話かいわができる。リアルタイムの反応はんのうが可能かのうで会話かいわが中断ちゅうだんされても対応たいおうでき、人間にんげんのような笑わらい声こえや「うーん」といった声こえを出だすこともある。話はなし手ての口調くちょうから感情かんじょうを判断はんだんすることさえできる。

この機能きのうは発表直後はっぴょうちょくごから、２０１３年ねんの映画えいが「ｈｅｒ／世界せかいでひとつの彼女かのじょ」に登場とうじょうするＡＩ音声おんせいアシスタントそっくりだと話題わだいになった。主人公しゅじんこうの男性だんせいはＡＩと恋こいに落おち、「彼女かのじょ」がほかに何百人なんひゃくにんものユーザーと関係かんけいを持もっていることを知しって打うちひしがれる。

この架空かくうのストーリーがあまりにも現実げんじつに近ちかくなったことを、オープンＡＩは懸念けねんしているらしい。音声おんせいモードを使つかうユーザーは「絆きずなの共有きょうゆうを表現ひょうげんする」言葉ことばで話はなしかけていると同社どうしゃは指摘してき。いずれ「ユーザーがＡＩとの社会的関係しゃかいてきかんけいを形成けいせいし、人ひとと交流こうりゅうの必要性ひつようせいが減へる可能性かのうせいもある。孤独こどくな人ひとにとっては恩恵おんけいかもしれないが、健全けんぜんな関係かんけいに影響えいきょうを及およぼすこともある」とした。

さらに、人間にんげんのように話はなすＡＩから情報じょうほうを得えているうちに、ＡＩを過度かどに信頼しんらいしてしまう可能性かのうせいもあると付つけ加くわえた。これはＡＩが間違まちがう可能性かのうせいがあることを前提ぜんていとしている。

オープンＡＩによると、チャットＧＰＴの音声おんせいモード使用しようは、いずれ社会的関係しゃかいてきかんけいの中なかで何なにが普通ふつうかという感覚かんかくに影響えいきょうを及およぼすかもしれない。

「我われわれ々のモデルは礼儀正れいぎただししく、ユーザーがいつでも話はなしを遮さえぎって主導権しゅどうけんを握にぎることを許ゆるしてくれる。これはＡＩにとっては想定内そうていないでも、人ひとを相手あいてにする場合ばあいは常識じょうしきに反はんする」（オープンＡＩ）