予測の説明

機械学習における予測の説明とは

従来の機械学習モデルには、結果に到達した理由または方法に関するインサイトは含まれていません。このため、これらのモデルに基づいて下された決定や実行されたアクションについて客観的に説明することが困難です。予測の説明により、どの特性、つまり特徴量変数がモデルの結果に最大の影響を及ぼしているかを説明することで、「ブラックボックス」症候群を回避します。

機械学習にとって予測の説明が重要である理由

モデルの結果の背後にある理由が結果自体と同じぐらい重要な場合、予測の説明により、その結果に最も寄与する要因を明らかにすることができます。たとえば、銀行は、融資を承認すべきかどうかの判定にモデルを利用する場合、申請が承認または拒否された理由についてインサイトを獲得するために予測の説明を使用できます。このインサイトを使用して、規制を遵守したり、ステークホルダを対象としてモデルの結果を簡単に説明したり、影響の大きい要因を特定したりするモデルを開発することで、ビジネス戦略に集中することができます。

予測の説明 + DataRobot

DataRobot の予測の説明では、モデルが生成する結果ごとに数を変更できる特徴量（「理由」）の影響を計算することができます。計算が完了すると、上位の説明をプレビューしたり、結果全体をダウンロードしたりすることができます。

それぞれの説明は、データセットとそれに対応する値の特徴量であり、説明の強さ（最終結果に肯定的な影響を与えたか否定的な結果を与えたか）を示す量的識別子が付属しています。

上の例では、「モデルが患者の 1 人に 92.9% という再入院確率を与えた理由」を知ることができます。説明から、8 人の患者の入院、28 の薬物治療、特定の退院のすべてが、強い肯定的影響を（同じく肯定的な）予測に対して及ぼしていることがわかります。