最適なタイプのモデルを探す

ある研究チームが、心臓病に影響を与える要因に関する詳細な情報を収集し、公開しています。変数には、年齢、性別、コレステロール値、最大心拍数などがあります。この例は、心臓病に関する詳細情報を提供する公開データセットに基づいています。元のデータはarchive.ics.uci.eduからのものです。

研究者は、可能な限り最も正確な予測を行うモデルを見つけたいと考えています。研究者は ベストモデルの検出(2値応答) を使用して、バイナリロジスティック回帰、TreeNet®、Random Forests® 、CART®の4種類のモデルの予測性能を比較します。研究者たちは、最高の予測性能を持つモデルのタイプをさらに調査することを計画しています。

次のリンクを使用して、異なるデータセットの各タイプのモデルの例を確認してください。
  1. サンプルデータ、心臓病バイナリベストモデル.MTWを開きます。
  2. 予測分析モジュール > 自動機械と学習 > ベストモデルの検出(2値応答) を選択します。
  3. 応答に「」を入力します心臓病
  4. 連続予測変数、「」、「年齢, 'レスト血圧', コレステロール, ‘最大心拍数」、および「」 オールドピーク'と入力します。
  5. カテゴリ予測変数セックス, ' 胸痛タイプ', '断食血糖', 'レスト心電図', '運動狭心症', 斜面, ‘主要な船舶、 を入力しますタール
  6. OKをクリックします。

結果を解釈する

「モデル選択」テーブルでは、さまざまなタイプのモデルのパフォーマンスが比較されます。ランダム フォレスト® モデルには、平均 -対数尤度の最小値があります。以下の結果は、最適なランダム フォレスト® モデルの結果です。

誤分類率対木の数プロットは、増加した木の数に対する曲線全体を示します。誤分類率は約0.16です。

モデルサマリー表は、平均負の対数尤度が約0.39であることを示しています。

相対変数重要度グラフは、木のシーケンスに対して予測変数で分岐が行われたときに、モデルの改善に対する予測変数の効果の順に予測変数をプロットします。最も重要な予測変数はThalです。最上の予測変数であるThalの寄与度が100%の場合、次に重要な変数である主要な血管は98.9%の寄与度を有します。これは、この分類モデルで、主要な血管がThalの98.9%重要であることを意味します。

混同行列は、モデルがクラスをどの程度正しく分離しているかを示します。この例では、イベントが正しく予測される確率は約 87% です。非イベントが正しく予測される確率は約81%です。

誤分類率は、モデルが新しい観測値を正確に予測するかどうかを示すのに役立ちます。イベントの予測の場合、バッグ外誤分類エラーは約 13% です。非イベントの予測の場合、誤分類誤差は約 19% です。全体として、テストデータの誤分類誤差は約16%です。

Random Forests® モデルの ROC 曲線下の面積は、out-of-bag データで約 0.90 です。

ベストモデルの検出(2値応答): 心臓病 対 年齢, レスト血圧, コレステロール, 最大心拍数, オールドピーク, セックス, 胸痛タイプ, 断食血糖, レスト心電図, 運動狭心症, 斜面, 主要な船舶, タール

方法

ステップワイズロジスティック回帰モデルを線形項と2次項で適合させます。
6 TreeNet® 分類モデルを適合させます。
303のトレーニングデータサイズと同じブートストラップサンプルサイズで3 Random Forests® 分類モデルを適合させます。
最適なCART®分類モデルを適合させます。
5分割のクロス評価から、最大対数尤度を持つモデルを選択します。
行の合計数: 303
ロジスティック回帰モデルに使用される行: 303
ツリーベースのモデルに使用される行: 303

二項応答情報

変数クラス計数%
心臓病1 (事象)16554.46
  013845.54
  すべて303100.00
タイプ内のベストモデル負の対数尤度の平均ROC曲線下面積誤分類率
Random Forests®*0.39040.90480.1584
TreeNet®0.39070.90320.1520
ロジスティック回帰0.46710.91420.1518
CART®1.80720.79910.2080
*負の対数尤度の平均を持つすべてのモデルタイプにわたって最高のモデル。最適なモデルの出力は次のとおりです。

ベストRandom Forests® モデルのハイパーパラメータ

ブートストラップサンプルの数300
    サンプルサイズ303のトレーニングデータサイズと同じ
ノード分岐に対して選択された予測変数の数予測変数の合計数の平方根 = 3
最小内部ノードのサイズ8

モデル要約

合計予測変数13
重要な予測変数13
統計量アウトオブバッグ
負の対数尤度の平均0.3904
ROC曲線下面積0.9048
        95%信頼区間(0.8706, 0.9389)
リフト1.7758
誤分類率0.1584

混同行列


予測クラス(アウトオブバッグ)
実クラス計数10%正
1 (事象)1651432286.67
01382611281.16
すべて30316913484.16
統計量アウトオブバッグ(%)
真陽性率(感度または検出力)86.67
偽陽性率(第一種過誤)18.84
偽陰性率(第二種過誤)13.33
真陰性率(特異度)81.16

誤分類


アウトオブバッグ
実クラス計数誤分類されました%誤差
1 (事象)1652213.33
01382618.84
すべて3034815.84

代替モデルを選択

研究者は、最適なモデルを探すことで、他のモデルの結果を見ることができます。TreeNet® モデルの場合、検索に含まれていたモデルから選択するか、別のモデルのハイパーパラメーターを指定できます。

  1. 代替モデルの選択 を選択します。
  2. モデルタイプTreeNet®を選択します。
  3. 既存のモデルを選択する、最小平均 -対数尤度の最適な値を持つ 3 番目のモデルを選択します。
  4. 結果を表示をクリックします。

結果を解釈する

この分析では 300 本の木が生え、最適な木の数は 46 本です。このモデルでは、学習率 0.1、サブサンプルの割合 0.5 を使用します。ツリーあたりのターミナルノードの最大数は 6 です。

平均 -対樹木数プロットは、成長した木の数に対する曲線全体を示します。ツリー数が 46 の場合、テスト データの最適値は 0.3907 です。

モデル要約

合計予測変数13
重要な予測変数13
増加した木の数300
最適な木の数46
統計量トレーニングテスト
負の対数尤度の平均0.20880.3907
ROC曲線下面積0.98420.9032
        95%信頼区間(0.9721, 0.9964)(0.8683, 0.9381)
リフト1.83641.7744
誤分類率0.07260.1520

ツリーの数が 46 の場合、モデルの概要テーブルは、平均負の対数尤度がトレーニング データで約 0.21、テスト データで約 0.39 であることを示しています。

相対変数重要度グラフは、木のシーケンスに対して予測変数で分岐が行われたときに、モデルの改善に対する予測変数の効果の順に予測変数をプロットします。最も重要な予測変数は胸痛のタイプです。最上位の予測変数である胸痛の種類の寄与度が100%の場合、次に重要な変数であるタールの寄与度は95.8%です。これは、この分類モデルでは、Thal が胸痛タイプよりも 95.8% 重要であることを意味します。

混同行列



予測クラス(トレーニング)予測クラス(テスト)
実クラス計数10%正10%正
1 (事象)165156994.551471889.09
01381312590.582811079.71
すべて30316913492.7417512884.82
行の事象確率が0.5を超える場合、事象クラスに行を割り当てます。
     
統計量トレーニング(%)テスト(%)
真陽性率(感度または検出力)94.5589.09
偽陽性率(第一種過誤)9.4220.29
偽陰性率(第二種過誤)5.4510.91
真陰性率(特異度)90.5879.71

混同行列は、モデルがクラスをどの程度正しく分離しているかを示します。この例では、イベントが正しく予測される確率は約 89% です。非イベントが正しく予測される確率は約80%です。

誤分類



トレーニングテスト
実クラス計数誤分類されました%誤差誤分類されました%誤差
1 (事象)16595.451810.91
0138139.422820.29
すべて303227.264615.18
行の事象確率が0.5を超える場合、事象クラスに行を割り当てます。

誤分類率は、モデルが新しい観測値を正確に予測するかどうかを示すのに役立ちます。イベントの予測の場合、テストの誤分類誤差は約 11% です。非イベントの予測の場合、誤分類誤差は約 20% です。全体として、テストデータの誤分類誤差は約15%です。

木の数が46の場合のROC曲線下の面積は、トレーニングデータの場合は約0.98であり、テストデータの場合は約0.90です。

この例では、ゲインチャートは参照線の上に急激に増加し、次に平坦化を示しています。この場合、データの約 60% が真陽性の約 90% を占めます。この違いは、モデルを使用した場合の追加の利益です。

この例では、リフトチャートは、参照線より上で大きな増加を示しており、合計カウントの約50%を過ぎると急速に減少し始めます。

偏依存プロットを使用して、重要な変数または変数のペアが適合応答値にどのように影響するかについての洞察を得ます。適合した応答値は、1/2 対数スケールです。部分依存プロットは、応答と変数の関係が線形、単調、またはより複雑であるかどうかを示します。

たとえば、胸痛タイプの部分依存プロットでは、1/2の対数オッズは3の値で最高になります。[or 一予測変数プロット ] を選択して二予測変数プロット 、他の変数のプロットを作成します