Japanese News: チャットＧＴＰの音声モード、ユーザーが感情依存の可能性も　オープンＡＩが懸念

チャットＧＴＰの音声おんせいモード、ユーザーが感情依存かんじょういぞんの可能性かのうせいも　オープンＡＩが懸念けねん

Open AI is concerned that chat GTP voice mode may make users emotionally dependent

生成せいせいＡＩツール「チャットＧＰＴ」を開発かいはつするオープンＡＩは８日ようか、同どうツールの安全性あんぜんせいを検証けんしょうした報告書ほうこくしょを発表はっぴょうした

On the 8th, OpenAI, which develops the generative AI tool ”Chat GPT,” released a report verifying the safety of the tool.

ユーザーがＡＩとの関係かんけいに頼たより過すぎて「依存状態いぞんじょうたい」になる可能性かのうせいもあると指摘してきしている

It points out that users may become too dependent on their relationship with AI and become ’’dependent.’’

有料版ゆうりょうばんのチャットＧＰＴで提供ていきょうが始はじまった最先端さいせんたんの音声おんせいモードでは、まるで本物ほんものの人間にんげんと話はなしているような会話かいわができる

With the cutting-edge voice mode now available in the paid version of Chat GPT, you can have conversations as if you were talking to a real person.

リアルタイムの反応はんのうが可能かのうで会話かいわが中断ちゅうだんされても対応たいおうでき、人間にんげんのような笑わらい声こえや「うーん」といった声こえを出だすこともある

It is capable of real-time reactions, can respond to interruptions in a conversation, and can even make human-like laughter or ”hmm” sounds.

話はなし手ての口調くちょうから感情かんじょうを判断はんだんすることさえできる

You can even tell the speaker’s emotion from their tone.

この機能きのうは発表直後はっぴょうちょくごから、２０１３年ねんの映画えいが「ｈｅｒ／世界せかいでひとつの彼女かのじょ」に登場とうじょうするＡＩ音声おんせいアシスタントそっくりだと話題わだいになった

Immediately after this feature was announced, it became a hot topic as it looked exactly like the AI voice assistant that appeared in the 2013 movie ”Her”.

主人公しゅじんこうの男性だんせいはＡＩと恋こいに落おち、「彼女かのじょ」がほかに何百人なんひゃくにんものユーザーと関係かんけいを持もっていることを知しって打うちひしがれる

The male protagonist falls in love with an AI and is devastated to learn that his ”girlfriend” has relationships with hundreds of other users.

この架空かくうのストーリーがあまりにも現実げんじつに近ちかくなったことを、オープンＡＩは懸念けねんしているらしい

Open AI seems to be concerned that this fictional story has become too close to reality.

音声おんせいモードを使つかうユーザーは「絆きずなの共有きょうゆうを表現ひょうげんする」言葉ことばで話はなしかけていると同社どうしゃは指摘してき

The company points out that users who use voice mode speak to them using words that ”express a shared bond.”

いずれ「ユーザーがＡＩとの社会的関係しゃかいてきかんけいを形成けいせいし、人ひとと交流こうりゅうの必要性ひつようせいが減へる可能性かのうせいもある

Eventually, ``users may form social relationships with AI, reducing the need for human interaction.’’

孤独こどくな人ひとにとっては恩恵おんけいかもしれないが、健全けんぜんな関係かんけいに影響えいきょうを及およぼすこともある」とした

”While this may be a boon for lonely people, it can also affect healthy relationships.”

さらに、人間にんげんのように話はなすＡＩから情報じょうほうを得えているうちに、ＡＩを過度かどに信頼しんらいしてしまう可能性かのうせいもあると付つけ加くわえた

He added that there is a possibility that we may end up trusting AI too much as we receive information from AI that speaks like humans.

これはＡＩが間違まちがう可能性かのうせいがあることを前提ぜんていとしている

This assumes that the AI may make mistakes.

オープンＡＩによると、チャットＧＰＴの音声おんせいモード使用しようは、いずれ社会的関係しゃかいてきかんけいの中なかで何なにが普通ふつうかという感覚かんかくに影響えいきょうを及およぼすかもしれない

According to Open AI, the use of voice mode in chat GPT may eventually influence the sense of what is normal in social relationships.

「我われわれ々のモデルは礼儀正れいぎただししく、ユーザーがいつでも話はなしを遮さえぎって主導権しゅどうけんを握にぎることを許ゆるしてくれる

“Our model is polite and allows users to interrupt and take control at any time.

これはＡＩにとっては想定内そうていないでも、人ひとを相手あいてにする場合ばあいは常識じょうしきに反はんする」（オープンＡＩ）

Although this is expected for AI, it goes against common sense when dealing with humans.’’ (Open AI)