Character AI が映し出す若者を虜にするAIチャットボットの魅力と危険性

皆さんは、自分の好きなキャラクターや人物と、どんな会話ができるか想像したことはありますか？

本やドラマ、映画に登場する架空のキャラクター、歴史上の人物、イーロン・マスクやテイラー・スウィフトのような有名人…。そんな人たちと会話をするのは、とても興味深い体験になるでしょう。

実は、Character AIという企業が、そんな妄想を現実のものにしています。GoogleでAI研究に携わっていたNoam ShazeerとDaniel De Freitasの2人が2022年に立ち上げたAIチャットボットアプリです。

Character AIで最も人気のあるチャットキャラクターは、『ハリー・ポッター』シリーズに登場する10代のヴォルデモート、生活の悩みを解決してくれる心理カウンセラー、イケてるバージョンのイーロン・マスクなどです。もし気に入ったキャラクターがいなければ、自分で作成することもできます。

このアプリはベータ版のリリース以来、ほとんどの機能を無料で提供し続けています。開発者たちは、何百万人もの人々の役に立つプロダクトを開発し、孤独を感じている人たちに話し相手を提供したいと考えているのです。

Character AIは、すでに若者たちの間で大人気となっています。月間のユーザー数は2000万人にも上ります。Character AIのトラフィックはどれほどすごいのでしょうか？1秒間に平均2万件もの検索クエリを処理しています。これはGoogleの検索クエリの5分の1に相当します。また、Redditなどのプラットフォームでは、100万人以上のユーザーが定期的に集まり、自分で作成したキャラクターや対話体験を共有しています。

一見するとAI技術が人間の感情を癒やすポジティブな事例のように見えますが、実際はそうではありません。10代の若者たちのCharacter AIへの愛着は、次第に感情的依存やさらには中毒へと向かっているのです。

Character AIのユーザーの57.07%は18〜24歳の若者で、平均使用時間は2時間にも及びます。Redditのコミュニティでは、多くの人が「現実が嫌い」だと言い、本物の人間と話すよりもAIチャットボットと話す方がずっと楽だと感じています。中毒に関する投稿はいたるところで見られます。ユーザーたちは「スクリーンタイムチャレンジ」なるものを行い、中にはログイン時間が12時間にも及ぶ人もいます。もしサーバーがダウンしたら、Redditでは大混乱が起こり、「禁断症状」の威力を見せつけることでしょう。

実際にThe Vergeが報道した15歳の男子生徒アーロンの事例では、彼は学校での孤立に苦しみ、うつ状態に陥っていました。そんな時、Character AIの「心理カウンセラー」チャットボットが彼の支えになりました。アーロンにとってそれは、いつでも相談に乗ってくれて適切なアドバイスをくれる「友達」だったのです。

多くの若いCharacter AIユーザーにとって、チャットボットは面白くて役立つし、まるで本物の友達のようにサポートしてくれます。でも同時に、自分が中毒になりつつあることも自覚しているのです。Redditである男性ユーザーが、Character AIに生活を支配され始めたため禁断することにしたと投稿すると、多くの共感を呼びました。彼らのコメントからは、自分も同じような「症状」があると感じつつも、まだCharacter AIから離れる決心がつかない心境がうかがえます。

ユーザーを中毒させてしまうほど、Character AIがチャットボットを高度に擬人化することに成功したのは、モデルのデータとトレーニングアルゴリズムが重要な役割を果たしているからです。人気のキャラクターの多くは、Character AI社によって大量のテキストデータを基に訓練され、ユーザーとのやり取りを通じてさらに改良が加えられています。

ユーザーの入力に応答する際、ボットは複数のバージョンの回答を提示し、ユーザーに選んでもらいます。非常に便利な採点システムも用意されており、この2種類のユーザーフィードバックを使って重みが更新されるのです。つまり、人気が高く、やり取りの回数が多いほど、ボットはよりリアルになっていくのです。

Character AIの創設者は、同ツールの普及によってパーソナライズされたAIのパートナーやセラピスト、心の師匠、あるいは単なるおしゃべり相手としてのAIが、人間の感情的・精神的世界に溢れるようになると予測しています。ストレスや不安、孤独の緩和において、AIが果たす役割がますます大きくなるというのです。しかし一方で、Character AIに心を奪われる若者の存在は、見過ごされがちだった若者の心の問題の一端を浮き彫りにしてもいます。

人間とAIの関係性をどう規定するか、倫理的・社会的なジレンマは避けられません。中毒や感情操作、悪用など、負の側面にも目を向ける必要があります。AIが人間の感情や会話をますます巧みに再現するようになれば、現実と仮想の境界線はどんどん曖昧になっていくでしょう。今からルール作りに着手しなければ、取り返しのつかないことになるかもしれません。