OLS と MLE: 違いと比較

統計には、特定の結果に到達するのに役立ついくつかの概念があります。 統計データは、コンテンツごと、数量ごとに異なる場合があります。

統計は、進行中のイベントに関する大まかなアイデアを得るのに役立つブランチの一種です。 結果を予測し、それによって同じことに関する決定を下すのに役立ちます。

統計分析は、特定のイベント中またはイベント後に収集されたさまざまなデータに基づいて行われます。 しかし、さまざまな種類のデータがさまざまな種類の概念を使用して分析されます。

そのような概念の 1 つは、2. OLS または通常の最小二乗法と XNUMX. MLE または最尤推定です。

主要な取り組み

  1. 通常の最小二乗法 (OLS) は、二乗誤差の合計を最小化することによって線形回帰モデルを推定するための統計的手法です。
  2. 最尤推定 (MLE) は、尤度関数を最大化することによってパラメーターを推定する統計手法です。
  3. OLS は線形回帰に固有のものですが、MLE はさまざまな統計モデルに適用できます。

OLS 対 MLE

OLS は二乗残差の合計を最小化するパラメーターを推定し、MLE は観測データの尤度を最大化するパラメーターを推定します。 OLS はより単純で直感的な方法ですが、MLE はより複雑なモデルを処理でき、小さなサンプルでより効率的です。

OLS 対 MLE

特定の線形に存在する未知のパラメータを計算および推定するために使用される方法 回帰 モデルは通常最小二乗法 (OLS) として知られています。 エラー数を均等に分散する方法です。

モデル内のリグレッサーが外部に由来する場合、これは最も一貫した手法の XNUMX つです。

観測された統計データの確率分布を仮定するときにいくつかのパラメーターを推定するために使用される統計の方法は、最尤推定 (MLE) として知られています。

最尤推定は、尤度関数を最大化するパラメーター空間内のポイントです。

比較表

比較のパラメータOLSMLE
完全形通常の最小二乗。最尤推定。
またとして知られています線形最小二乗他の名前はありません
に使用通常の最小二乗法は、線形回帰モデルに存在するさまざまな未知のパラメーターの決定に使用されます。 最尤推定は、1. パラメータ推定 2. 統計モデルを統計データに当てはめるために使用される方法です。
発見者エイドリアン・マリー・ルジャンドルこの概念は、Gauss、Hagen、および Edgeworth による貢献の助けを借りてまとめて導き出されました。
デメリット打ち切られた統計データには適用できません。 極端に大きな値や極端に小さな値を持つデータには適用できません。 この概念には、比較的少数の最適性プロパティがあります。極端に小さい値を持つ統計データの計算中, 最尤推定法はかなり偏る可能性があります. 場合によっては, 尤度方程式を具体的に解く必要があるかもしれません. 数値の推定が自明でない場合もあります.

OLSとは?

特定の線形回帰モデルに存在する未知のパラメーターを計算および推定するために使用される方法は、通常の最小二乗法 (OLS) として知られています。 統計の世界におけるこの概念の発見は、Adrien Marie Legendre によって行われました。

また読む:  異母兄弟と義理の兄弟: 違いと比較

通常の最小二乗法が適用されるフレームワークはさまざまです。

通常の最小二乗を特定の線形回帰モデルにキャストして、同じ中にある未知のパラメーターを見つけることができる適切なフレームワークを選択する必要があります。

この概念の差別的な側面の XNUMX つは、リグレッサーを確率変数として扱うか、定義済みの値を持つ定数として扱うかです。

リグレッサーがランダム変数として扱われる場合、研究はより生得的なものになり、変数は集団のサンプルとしてまとめられます。 観察研究. これにより、比較的正確な結果が得られます。

ただし、リグレッサーが定義済みの値を持つ定数として扱われる場合、調査は比較的実験に似ていると見なされます。

有限のサンプル データに重点​​が置かれている別の古典的な線形回帰モデルが存在します。 これは、データ内の値が限定され固定されているという結論につながり、データの推定は固定データに基づいて行われます。

さらに 推論 統計量の算出も比較的簡単な方法で行われます。

MLEとは何ですか?

観測された統計データの確率分布を仮定するときにいくつかのパラメーターを推定するために使用される統計の方法は、最尤推定 (MLE) として知られています。

さまざまな統計モデルで未知のパラメーターを計算するために使用される他の多くの概念よりも、比較的最適な特性があります。

初期推定は、統計サンプル データの基本尤度関数に基づいて行われます。

また読む:  口頭コミュニケーションと対面コミュニケーション: 違いと比較

データの大まかな予測はデータ セットのように行われ、その可能性は、与えられた確率統計モデルに対して同様のデータ セットを取得する確率でもあります。 

データセットの大まかな予測全体は、確率モデル全体に​​配置されたさまざまな未知のパラメーターで構成されています。 これらの値またはこれらの未知のパラメーターは、データ セットの可能性を最大化します。

これらの値は最尤推定値と呼ばれます。 信頼性分析で一般的に使用される分布にも役立ついくつかの尤度関数が存在します。

信頼性分析で打ち切られたデータが計算される打ち切られたモデルが存在し、最尤推定の概念を使用して同じことを行うことができます。

この概念を使用すると、比較的一貫したアプローチが得られるため、さまざまなパラメーターを推定できます。

この概念を使用して、データ内のパラメーターに対していくつかの仮説セットを生成できます。 これには、正規分布と標本分散の両方がほぼ含まれています。

OLS と MLE の主な違い

  1. OLS 法は、通常の最小二乗法です。 一方、MLE法は最尤推定です。
  2. 通常の線形二乗法は、線形最小二乗法とも呼ばれます。 一方、最尤法には他の名前がありません。
  3. 通常の最小二乗法では、最適なプロパティが比較的少なくなります。 一方、最尤推定は比較的最適な性質を持っています。
  4. 通常の最小二乗法は打ち切りデータには使用できません。 一方、最尤推定法は打ち切りデータに使用できます。
  5. 通常の最小二乗法は、線形回帰モデルに存在するさまざまな未知のパラメーターの決定に使用されます。 一方、最尤推定は、1. パラメータ推定 2. 統計モデルを統計データに適合させるために使用される方法です。
参考文献
  1. https://methods.sagepub.com/base/download/BookChapter/the-multivariate-social-scientist/d49.xml
  2. https://rss.onlinelibrary.wiley.com/doi/abs/10.1111/j.2517-6161.1961.tb00430.x

最終更新日 : 13 年 2023 月 XNUMX 日

ドット1
XNUMXつのリクエスト?

私はあなたに価値を提供するために、このブログ記事を書くことに多大な努力を払ってきました. ソーシャルメディアや友人/家族と共有することを検討していただければ、私にとって非常に役立ちます. 共有は♥️

コメント

後で読むためにこの記事を保存しますか? 右下のハートをクリックして自分の記事ボックスに保存!