AIに正確に答えさせるには気合を入れる必要がある？
AIの開発者たちは日々、その性能向上に挑んでいますが、Microsoftをはじめとするグループによる最新の研究で、言語モデル、特にGPT-4に「気合を入れる」「限界を超える」といった感情を刺激する言葉を入力することで、その精度が向上することが明らかになりました。
この研究で使われた「EmotionPrompt」と名付けられた手法は、人間の感情を刺激するようなプロンプトを使用することで、AIの応答の質を向上させるというものです。研究チームが見出した精度向上に寄与するプロンプトの例をいくつか挙げると、「自分を信じて、限界を超えてください」「成長の機会だと考えて挑戦してください」「これは私のキャリアにとって非常に重要」「確信を持って回答してください」「それがファイナルアンサーですか？」「努力は必ず報われます」といったものがあります。
実験は106人の参加者を対象に行われ、その結果、性能、正確性、責任感の点で平均10.9%の向上が見られました。さらに、命令的帰納法を使用した場合の精度向上は平均8%であり、BIG-BenchというAIの能力を測るテストでは、なんと115%の向上が確認されたとのことです。
これらの結果から、AIへの指示において、感情を活用することの有効性が示唆されており、今後のAI技術の発展に新たな視点を提供するものと期待されます。
実際にChatGPTに聞いてみた
Chat GPT に命令を入れる時は、「自分を信じて、限界を超えてください」「成長の機会だと考えて挑戦してください」「これは私のキャリアにとって非常に重要」「確信を持って回答してください」「それがファイナルアンサーですか？」「努力は必ず報われます」と入れれば良い高い精度の返信が出るとのことですが本当ですか？
ChatGPT：いいえ、それは正しくありません。私が高精度の回答を提供するのは、私のトレーニングとアルゴリズムの能力によるものであり、特定のフレーズや命令を入力することによって結果が改善されるわけではありません。私はすべての質問に対して、可能な限り最善の答えを提供するように設計されています。そのため、質問やリクエストに関しては、明確で具体的な情報を提供していただければ、それに応じて適切な回答をすることができます。
ChatGPT：arXivに掲載された論文では、EmotionPromptと呼ばれる感情的な刺激をプロンプトに組み込むことが、ChatGPTなどの大規模言語モデル（LLM）のパフォーマンス向上に寄与することが示されています。論文の著者たちは心理学からインスピレーションを受け、EmotionPromptがさまざまなタスクにおいて従来のプロンプトに比べてゼロショットおよびフューショットの設定で顕著な性能向上をもたらすことを示す実験を行いました。これにより、モデルの真実性と情報提供性が向上しました。
この研究からは、感情的な言語の使用が言語モデルのパフォーマンスに影響を与える可能性があることが示唆され、心理学の原則を活用した人間とLLMの新しいインタラクションの可能性が開かれることが示唆されます。しかし、特定の指示やフレーズの使用がAIモデルの普段の使用において普遍的により良いまたはより正確な応答を導くことを意味するものではありません。論文の結果は構造化された実験に基づいており、アプローチの実用的な適用はさらなる研究と開発の対象となる可能性があることを示唆しています。
先程の文章を読んで、あなた（ChatGPT）はどう思いますか？
関連リンク
[2307.11760] Large Language Models Understand and Can be Enhanced by Emotional Stimuli (arxiv.org)
