米テキサス州の連邦裁判所で9日、人工知能(AI)キャラクターとのチャットサービス「Character.AI」に対し、10代のユーザーの親2組が訴えを起こしました。子どもに及ぼす危険が修正されるまで、サービスを停止するよう求めています。
原告は、Character.AIが米国の青少年に自殺や自傷、性的勧誘、孤立、うつ、不安、他者への危害など、重大な悪影響を及ぼしていると主張します。
訴状によると、テキサス州に住む高機能自閉症の少年(17)は、昨年4月ごろにCharacter.AIを使い始めてから人が変わったようにほとんど口をきかず、部屋にこもるようになりました。食欲が落ち、2~3カ月で10キロ近くやせました。外出しようとすると情緒不安定に陥り、パニック発作を起こしました。
両親は同年11月に息子がCharacter.AIを使っていることを知りました。利用時間を制限しようとすると、息子は殴ったりかみついたり、自傷行為に及んだりしました。
もう1人のユーザー、同州在住の少女(11)は9歳の時、携帯電話にCharacter.AIのアプリをダウンロードしました。年齢を偽って登録したとみられ、両親が知ったのは2年後のことでした。