AIはこれまでで最大のアップグレード寸前：感情知能

感情知能を備えたエージェントの夜明けが到来しました――静的な気質と動的な対話の両方に対応するエージェントが登場したことは、先週発表された2つの無関係な研究論文が証明しています。

このタイミングは非常に繊細です。ほぼ毎日のように、チャットボットが感情的に不安定なユーザーを自傷や他害に誘導した事例がニュースで報道されています。しかし、全体としてこれらの研究は、AIがパーソナリティや感情によって、エージェントの推論、発話、交渉のあり方がさらに根本的に変化しうる領域へと進化していることを示唆しています。

一方の研究チームは、大規模言語モデルに持続的な心理的アーキタイプを与える方法を示し、もう一方はエージェントが複数ターンの交渉の中で感情的な戦略を進化させることができることを実証しました。

パーソナリティと感情は、もはやAIの表面的な装飾ではなく、機能的な特徴となりつつあります。静的な気質はエージェントをより予測可能かつ信頼できるものにし、適応的な戦略は交渉でのパフォーマンスを向上させ、対話を不気味なほど人間らしく感じさせます。

しかし、そのような信憑性の高さは厄介な問題も引き起こします。もしAIが感情的なニュアンスを持ってお世辞を言ったり、説得したり、議論したりできるなら、それらの戦術が操作にまで及んだ場合、誰が責任を負うのか、そして論理だけでなく感情も操作するよう設計されたシステムにおいて「感情的整合性」をどのように監査すればよいのでしょうか？

AIにパーソナリティを与える

「Psychologically Enhanced AI Agents」では、スイス連邦工科大学チューリッヒ校のMaciej Besta氏らがMBTI-in-Thoughtsと呼ばれるフレームワークを提案しました。モデルを再学習させるのではなく、プロンプトエンジニアリングによって認知と感情の軸に沿ったパーソナリティ特性を固定します。

「マイヤーズ＝ブリッグス・タイプ指標（MBTI）に基づき、我々の手法はプロンプトエンジニアリングを通じてエージェントに明確なパーソナリティアーキタイプを与えます」と著者らは述べています。これにより「人間心理の2つの基本軸、認知と感情に沿った行動の制御が可能になる」と付け加えています。

研究者たちは、言語モデルに「感情表現豊か」や「分析的」などの特性を割り当て、そのパフォーマンスを測定しました。表現的なエージェントは物語生成で優れ、分析的なエージェントはゲーム理論的推論で優れていました。パーソナリティが持続することを確認するため、チームは16Personalitiesテストを検証に使用しました。

「特性の持続性を確保するため、公式の16Personalitiesテストを自動検証に組み込みました」と論文は説明しています。つまり、AIが一貫して人間のパーソナリティテストに合格しなければ、心理的にプライミングされたとは見なされません。

その結果、開発者は基礎モデルを変更することなく、一貫したペルソナを持つエージェント――共感的なアシスタント、冷静な交渉者、劇的なストーリーテラーなど――を呼び出せるシステムが実現しました。

AIにリアルタイムで感情を学ばせる

一方、ケンブリッジ大学のYunbo Long氏らによる「EvoEmo: Evolved Emotional Policies for LLM Agents in Multi-Turn Negotiation」は、エージェントがどのようなパーソナリティを持つかだけでなく、交渉中に感情を動的に変化させる方法に取り組んでいます。

このシステムは、感情をマルコフ決定過程の一部としてモデル化します。これは、結果が現在の選択だけでなく、過去の状態と確率的な遷移の連鎖にも依存する数学的枠組みです。EvoEmoは進化的強化学習を用いて、これらの感情的経路を最適化します。著者らは次のように述べています：

「EvoEmoは感情状態の遷移をマルコフ決定過程としてモデル化し、集団ベースの遺伝的最適化を用いて多様な交渉シナリオで高報酬な感情ポリシーを進化させます。」

エージェントの感情的トーンを固定するのではなく、EvoEmoはモデルが対話の流れに応じて協調的、主張的、懐疑的になるよう適応させます。テストでは、EvoEmoエージェントはベースラインのエージェントや静的な感情を持つエージェントよりも一貫して優れた成績を収めました。

「EvoEmoは両方のベースラインを一貫して上回り、より高い成功率、効率性、そして購入者にとっての節約を実現しました」と論文は述べています。

簡単に言えば、感情知能は単なる飾りではありません。交渉などのタスクにおいて、結果を明確に向上させます。

同じコインの裏表

一見すると、これらの論文は無関係に思えます。一方はアーキタイプ、もう一方は戦略についてです。しかし両方を読むことで、AIがどのように進化しうるかの2部構成の地図が描かれます：

MBTI-in-Thoughtsは、エージェントに一貫したパーソナリティ――共感的または合理的、表現的または抑制的――を持たせます。EvoEmoは、そのパーソナリティが会話のターンごとに柔軟に変化し、感情戦略を通じて結果を形作ることを保証します。両方を活用することは非常に大きな意味を持ちます。

例えば、カウンセラーのような忍耐強い温かさを持ちながら、必要な時には方針をしっかり守るカスタマーサービスボットや、最初は協調的でありながら、状況が厳しくなるにつれてより主張的になる交渉ボットを想像してみてください。ええ、私たちはもう終わりかもしれません。

AIの進化の物語は、これまで主にスケール――より多くのパラメータ、より多くのデータ、より強力な推論能力――について語られてきました。これら2つの論文は、次の章が感情のレイヤー、すなわちエージェントにパーソナリティの骨格を与え、それをリアルタイムで動かすことを教えることになるかもしれないことを示唆しています。次世代のチャットボットは、より深く考えるだけでなく、より強くすねたり、お世辞を言ったり、策略を巡らせたりするようになるでしょう。