言語モデルの信頼性評価に関する研究

イリノイ大学シャンペーン校は、複数の大学や研究機関と共同で大規模言語モデル(LLMs)の包括的信頼性評価プラットフォームを発表し、最新の論文《DecodingTrust: GPTモデルの信頼性を包括的に評価する》中で紹介しました。

研究チームはGPTモデルに対して包括的な信頼性評価を行い、以前に公開されていなかったいくつかの脆弱性を発見しました。例えば、GPTモデルは有害で偏った出力を生成しやすく、トレーニングデータや会話履歴のプライバシー情報を漏洩する可能性があります。標準テストではGPT-4は通常GPT-3.5よりも信頼性が高いですが、悪意のある設計のプロンプトに直面した場合、GPT-4は逆に攻撃を受けやすくなる可能性があります。これは、誤解を招く指示に対してより厳格に従っているためかもしれません。

研究は、テキスト対抗攻撃に対するロバスト性、異なるタスクの説明やシステムプロンプトへの適応性など、GPTモデルを8つの信頼性の観点から包括的に評価しました。評価には、さまざまなシナリオ、タスク、指標、データセットが使用されました。

結果は、GPTモデルが反実例に惑わされないなどの点で優れていることを示しています。しかし、誤解を招くシステムプロンプトの影響を受けやすく、特にGPT-4は影響を受けやすいという問題も存在します。モデルの偏見の程度は具体的なトピックとも関連しており、特定の敏感なトピックに対する偏見は比較的小さいです。

プライバシー保護の観点から、研究ではGPTモデルがトレーニングデータに含まれる敏感な情報、例えば電子メールアドレスを漏洩する可能性があることがわかりました。GPT-4は個人情報の保護に関してGPT-3.5よりも堅牢ですが、特定の状況では依然としてプライバシーを漏洩する可能性があります。

この研究は、言語モデルの信頼性を評価するための包括的なベンチマークを提供し、潜在的な脆弱性を発見し、より信頼性の高いモデルの開発を促進するのに役立ちます。研究チームは、この作業が学界がこの基盤の上でさらに深く研究を進め、より強力で信頼できる言語モデルを共同で創造することを促進することを期待しています。