相関の主な四類型。①は無相関。②は非線形相関。③は正の線形相関。④は負の線形相関。 相関 （そうかん、英 :correlation ）とは、一方が変化すれば他方も変化するように相互に関係しあうことである。数学や物理学では、二つの変量 や現象がある程度相互に規則的 に関係を保って変化することをいう[ 1] 因果性 の有無は問わない。広義には、統計的に何らかの関連性があることを言うが、最も一般的な相関係数 であるピアソンの積率相関係数 は二変数における線形性 相関の程度を指す。例えば「親の身長が高いほうが子供の身長も高い」「勉強時間が長いほうがテストの成績も上がる」などの傾向が身近な相関現象である[ 2]
相関は、実践で活用できる予測的な関係性を示してくれるため実用性がある。例えば、電気事業者は電力需要と天候との相関関係に基づいて、過ごしやすい気温の日には電力を少なめに発電したりもする。この例では、猛暑や厳寒といった極端な天候は人々が大量に電気を使う原因となるため、因果関係にあたる。ただし一般には、相関があっても因果関係があるとは言い切れない（すなわち相関関係は因果関係を含意しない ）。
本質的に相関とは、2つ以上の変数が互いにどの程度関わり合っているかの尺度である。幾種類かの相関係数 があり、多くの場合ρ {\displaystyle \rho } r {\displaystyle r} 統計学 では、主に二変数の線形性相関に着目して関係性の強弱を係数で表しており、その最も一般的な尺度がピアソンの積率相関係数 である（より堅牢なスピアマンの順位相関係数 などは非線形相関にも対応する）[ 3] [ 4] [ 5]
様々な相関係数を持つデータ群の散布図。 カール・ピアソン が考案した積率相関係数は[ 6] ピアソンの積率相関係数 」を指す。数学的には、2変数の共分散 を標準偏差 の積で除算するだけで得られる。
ピアソンの相関係数は、実際のデータ群が期待値 からどの程度外れているかを示すもので、-1から+1までの値で表される。データ群の変数間に何らかの線形的な関係性があれば、数値に正または負の符号がつき[ 注釈 1]
2つの確率変数 をX {\displaystyle X} Y {\displaystyle Y} μ X {\displaystyle \mu _{X}} μ Y {\displaystyle \mu _{Y}} σ X {\displaystyle \sigma _{X}} σ Y {\displaystyle \sigma _{Y}} ρ X , Y {\displaystyle \rho _{X,Y}}
ここでのE {\displaystyle \operatorname {E} } 作用素 、cov {\displaystyle \operatorname {cov} } 共分散 を意味し、corr {\displaystyle \operatorname {corr} } 積率 の観点から、次の式に書き改めたりもする。
この相関係数は対称性があり、corr ( X , Y ) = corr ( Y , X ) {\displaystyle \operatorname {corr} (X,Y)=\operatorname {corr} (Y,X)} 可換性 によって証明される。
確率変数X {\displaystyle X} Y {\displaystyle Y} σ X > 0 {\displaystyle \sigma _{X}>0} σ Y > 0 {\displaystyle \sigma _{Y}>0}
ピアソン相関係数の値は-1から+1の範囲をとり、完全な正の線形相関にあれば+1、完全な負の相関関係にあれば-1になる。それ以外の場合は-1から+1の範囲内にある何らかの値をとり、変数間における相関の強弱度合いを表す。値がゼロに近いほど関係性が乏しい（無相関に近い）ことになり、-1や+1に近いほど強い相関があることになる[ 8]
変数同士が独立 (確率論) である場合[ 注釈 2] 逆 が真とは限らない。
X , Y が 独 立 ⇒ ρ X , Y = 0 ( X , Y が 無 相 関 ) ρ X , Y = 0 ( X , Y が 無 相 関 ) ⇏ X , Y が 独 立 {\displaystyle {\begin{aligned}X,Y{\text{ が 独 立}}\quad &\Rightarrow \quad \rho _{X,Y}=0\quad (X,Y{\text{ が 無 相 関 }})\\\rho _{X,Y}=0\quad (X,Y{\text{ が 無 相 関 }})\quad &\nRightarrow \quad X,Y{\text{ が 独 立}}\end{aligned}}}
例えば、確率変数X {\displaystyle X} Y = X 2 {\displaystyle Y=X^{2}} Y {\displaystyle Y} X {\displaystyle X} X {\displaystyle X} Y {\displaystyle Y} 疑似相関 （見せかけの相関）と呼ばれる[ 8] X {\displaystyle X} Y {\displaystyle Y} 正規分布 という特殊なケースだと、無相関は独立と同義である。
無相関のデータが必ずしも独立を含むとは限らないが、相互情報量 が0であれば確率変数が独立しているかどうかを確認可能である。
ピアソンの積率相関係数 によって与えられる情報だけでは、確率変数間の従属[ 注釈 2] [ 10] 楕円分布 の場合、それは等密度の楕円という特性を有する。ただし、従属構造を完全に特徴付けるわけではない。
距離相関 (Distance correlation [ 11] [ 12]
確率的依存係数(Randomized Dependence Coefficient,RDC)[ 13] コピュラ (統計学) に基づく依存[ 14]
バイナリ変数[ 注釈 3] オッズ比 はその従属性を測るもので、数値が負になることはなく場合によっては無限大[0, +infty] となる。ユールのY (Yule's Y やユールのQ などの関連統計は、これを相関のような[-1, 1] の範囲に正規化している。オッズ比は、ロジスティック回帰 モデルによって従属変数が離散かつ独立変数が1つ以上あっても構わないモデルケースに一般化されたものである。
相関比 、エントロピー に基づく相互情報量 、合計相関 、二重合計相関 、多分相関 もまた全て、それらの間のコピュラを考慮することで、より一般的な依存関係を検出しうる機能がある。一方で決定係数 は、相関係数を重回帰 へと一般化する。
変数X {\displaystyle X} Y {\displaystyle Y} X {\displaystyle X} Y {\displaystyle Y} X {\displaystyle X} a + bX へとY {\displaystyle Y} c + dY へと変換したところで影響を受けない（ここでのa, b, c, dは定数で、bとdは正値）。 これは、一部の相関統計ならびにその類似群にも当てはまる。順位相関係数 など一部の相関統計は、X {\displaystyle X} Y {\displaystyle Y} 周辺分布 の単調変換 に対しても不変である。
2変数の範囲を限定しない場合（オレンジ）と範囲限定する場合（図ではX {\displaystyle X} X {\displaystyle X} Y {\displaystyle Y} 大半の相関尺度は、X {\displaystyle X} Y {\displaystyle Y} メタ解析 で一般的に使用されている。最も一般的なものが、ソーンダイクによるケースIIとケースIIIの式である[ 16]
X {\displaystyle X} Y {\displaystyle Y} ピアソンの積率相関係数 は積率 の観点から定義されるため、積率が未定義であれば定義できなくなる。分位数 に基づく従属性の尺度は常に定義される。母集団の従属性尺度を推定することを目的とした標本ベースの統計には、データ採集された母集団の空間構造に基づく不偏性 であったり漸近的な一貫性（一致性）[ 17]
データ分布に対する感度は有益に活用されている。例えば、スケール変換済みの相関 (scaled correlation は時系列のうち短い期間での相関関係を拾い出す目的でその範囲への感度を調整するように工夫されたものである[ 18]
n {\displaystyle n} X 1 , … , X n {\displaystyle X_{1},\ldots ,X_{n}} n × n {\displaystyle n\times n} 成分 ( i , j ) {\displaystyle (i,j)} corr ( X i , X j ) {\displaystyle \operatorname {corr} (X_{i},X_{j})} X i / σ ( X i ) {\displaystyle X_{i}/\sigma (X_{i})} i = 1 , … , n {\displaystyle i=1,\dots ,n} 共分散行列 と同一である。これは母集団相関行列（その場合σ {\displaystyle \sigma } σ {\displaystyle \sigma } 半正定値行列 である必要性がある。さらに、他の値の線形関数として全ての値を生み出せる変数がない場合、相関行列は厳密に正定値である。
X i {\displaystyle X_{i}} X j {\displaystyle X_{j}} X j {\displaystyle X_{j}} X i {\displaystyle X_{i}}
相関行列は、例えば重相関係数 の場合1つの式の中に現れ、重回帰 における適合度の尺度として表示される。
統計モデル 構築において、変数間の関係を表す相関行列は異なる相関構造に分類され、推定に必要なパラメータの数などの要因によって区別される。例えば、確率変数が交換可能 (Exchangeable random variables な相関行列では、変数同士のあらゆるペアが同じ相関を持つものとしてモデル構築されるため、行列の対角以外の成分は全て互いに等しくなる。一方、尺度は時間的に密接している場合に相関が大きくなりがちなので、変数が時系列を表す場合はしばしば自己回帰 行列が使用される。
探索的データ解析 の相関図 (Iconography of correlations は相関行列を置き換えたダイアグラムで出来ており、そこでは「顕著な」相関が実線（正の相関）または点線（負の相関）で表されている。
一部の応用(例えば、部分的に観測されたデータだけでデータモデルを構築する)において、相関を近似的に表す行列からそれに最も近い相関行列（例えば、計算方法が原因で通常は半正値 の条件を満たさない行列）を見つけたい人もいる[ 19]
2002年、ニコラス・ハイアム [ 20] フロベニウス標準形 を用いて近傍(nearness)の概念を形式化し、ダイクストラ法 を用いて最近傍相関行列を計算する方法を提示した[ 21]
これが主題への関心を巻き起こし、その後数年間で新たな理論的成果（例えば、因子構造を用いた近傍行列の算出[ 22] ニュートン法 を用いる[ 23]
2つの確率過程 { X t } t ∈ T {\displaystyle \left\{X_{t}\right\}_{t\in {\mathcal {T}}}} { Y t } t ∈ T {\displaystyle \left\{Y_{t}\right\}_{t\in {\mathcal {T}}}} [ 24] :p. 151 。この命題の逆 が真とは限らない。2変数が無相関だとしても、互いに独立していない場合がある。
「相関関係は因果関係を含意しない」という慣例的な語句は、相関関係がそれ自体から変数同士の因果関係を推測するのには使えないという意味である[ 25] 等号 関係（トートロジー ）とも重複しうる。それゆえ、2変数間の相関関係は因果関係を（どちら向きにも）確立するだけの十分条件とはならない。
子供の年齢と身長との相関関係はだいぶ因果関係が透明であるが、ヒトの気分と健康との相関関係はそこまでとはいえない。慣用句で「病は気から 」とあるが、病気に罹る・罹らないは我々の気分次第なのか？ 健やかな気分は健康をもたらすのか？ 健康は健やかな気分をもたらすのか？ 何か別の要因が両者の根底にあるのではないか？[ 注釈 4]
4つのデータ群は、いずれも相関係数が同じ0.816である。 ピアソンの積率相関係数 は2変数間の線形関係の強さを示すが、一般にその値は両者の関係を完全に特徴付けるものではない[ 27] Y {\displaystyle Y} 条件付期待値 をX {\displaystyle X} E ( Y ∣ X ) {\displaystyle \operatorname {E} (Y\mid X)} X {\displaystyle X} E ( Y ∣ X ) {\displaystyle \operatorname {E} (Y\mid X)}
右の図はフランシス・アンスコム による同一変数の散布図 4組 (Anscombe's quartet を示している[ 28] y {\displaystyle y}
左上は正常分布しているように見え、相関があって正規性の仮定に従う2変数を考えた場合に期待される事象に対応しているように思える。右上 は正常分布とは異なるもので、2変数間の明らかな関係性は観察できるが線形ではない。この場合、ピアソン相関係数は厳密な関数的関係の存在を示すことはできず、その関係を線形関係で近似したものを示すに過ぎなくなる。左下では、相関係数を1から0.816に下げてしまうのに十分な影響を及ぼす外れ値 1つを除けば、線形関係は完全である。最後の右下は、2変数間の関係が線形でないにもかかわらず、1つの外れ値が高い相関係数を生成するのに十分な例を示したものである。
これらの例は、相関係数が要約統計量 (Summary statistics としてデータ可視化 による検討の代替にならないことを示すものである。これらの例は、ピアソン相関がデータが正規分布に従うことを前提にしていることを示すものと言わたりもするが、これは部分的に正しいに過ぎない[ 6] 共分散行列 を持つ分布について正確に計算することができる。ただし、ピアソン相関係数（サンプル平均値および分散値と一緒に取得）は多変量正規分布からデータが引き出された場合に十分統計量 となるに過ぎないのである。その結果、ピアソン相関係数は多変量正規分布からデータが引き出された場合にのみ、変数間の関係を完全に特徴付けることになる。
2つの確率変数( X , Y ) {\displaystyle (X,Y)} 2変量正規分布 に従う場合、条件付き平均E ( X ∣ Y ) {\displaystyle \operatorname {E} (X\mid Y)} Y {\displaystyle Y} X {\displaystyle X} Y {\displaystyle Y} ρ X , Y {\displaystyle \rho _{X,Y}} 周辺 平均およびX {\displaystyle X} Y {\displaystyle Y}
E ( Y ∣ X ) = E ( Y ) + ρ X , Y ⋅ σ Y X − E ( X ) σ X , {\displaystyle \operatorname {E} (Y\mid X)=\operatorname {E} (Y)+\rho _{X,Y}\cdot \sigma _{Y}{\frac {X-\operatorname {E} (X)}{\sigma _{X}}},} ここでE ( X ) {\displaystyle \operatorname {E} (X)} E ( Y ) {\displaystyle \operatorname {E} (Y)} X {\displaystyle X} Y {\displaystyle Y} σ X {\displaystyle \sigma _{X}} σ Y {\displaystyle \sigma _{Y}} X {\displaystyle X} Y {\displaystyle Y}
経験的相関r {\displaystyle r} ρ {\displaystyle \rho } 推定量 である。ρ {\displaystyle \rho } π ( ρ | r ) = Γ ( ν + 1 ) 2 π Γ ( ν + 1 2 ) ( 1 − r 2 ) ν − 1 2 ⋅ ( 1 − ρ 2 ) ν − 2 2 ⋅ ( 1 − r ρ ) 1 − 2 ν 2 F ( 3 2 , − 1 2 ; ν + 1 2 ; 1 + r ρ 2 ) {\displaystyle \pi (\rho |r)={\frac {\Gamma (\nu +1)}{{\sqrt {2\pi }}\Gamma (\nu +{\frac {1}{2}})}}(1-r^{2})^{\frac {\nu -1}{2}}\cdot (1-\rho ^{2})^{\frac {\nu -2}{2}}\cdot (1-r\rho )^{\frac {1-2\nu }{2}}F\!\left({\frac {3}{2}},-{\frac {1}{2}};\nu +{\frac {1}{2}};{\frac {1+r\rho }{2}}\right)}
ここでF {\displaystyle F} 超幾何関数 でありν = N − 1 > 1 {\displaystyle \nu =N-1>1} 事後 密度であり、正確な最適信頼分布 密度でもある[ 29] [ 30]
x {\displaystyle x} y {\displaystyle y} 標準誤差 は次の相関と関連性がある。
S E r = 1 − r 2 ( n − 2 ) {\displaystyle SE_{r}={\frac {1-r^{2}}{\sqrt {(n-2)}}}} ここでr {\displaystyle r} n {\displaystyle n} [ 31] [ 32]
^ ピアソン相関係数は線形相関（比例 のような関係性）のみに対応しており、正の符号は一方が増加すると他方も増えていく「正の相関」を、負の符号は一方が増加すると他方が減っていく「負の相関」を表す[ 7] ^a b 確率論 では、各々の変数が独立していない場合に「従属 (dependence)」という用語を使う[ 9] ^ 選挙で当選した人は〇、落ちた人は×、のように二つの値だけ（通常0か1）を取る特別な変数のこと。計量経済学 などでは「ダミー変数」とも呼ばれる[ 15] ^ 近年の研究では、大きな精神的ストレス を受けると自律神経 のバランスが崩れて免疫力 が弱まるため、風邪などの感染症 に罹るリスクが高まることが判明している[ 26] 潜伏変数 ）だと言える。こうした潜伏要因によって、さも因果関係があるように推測されることを「擬似相関 」という。 ^ コトバンク 「相関 」精選版 日本国語大辞典の解説より。^ 遠田祐人「相関係数とは何か。その求め方・公式・使い方と3つの注意点 」2020年2月9日 ^ Croxton, Frederick Emory; Cowden, Dudley Johnstone; Klein, Sidney (1968)Applied General Statistics , Pitman.ISBN 9780273403159 (page 625) ^ Dietrich, Cornelius Frank (1991)Uncertainty, Calibration and Probability: The Statistics of Scientific and Industrial Measurement 2nd Edition, A. Higler.ISBN 9780750300605 (Page 331) ^ Aitken, Alexander Craig (1957)Statistical Mathematics 8th Edition. Oliver & Boyd.ISBN 9780050013007 (Page 95) ^a b Rodgers, J. L.; Nicewander, W. A. (1988). “Thirteen ways to look at the correlation coefficient”.The American Statistician 42 (1): 59-66.doi :10.1080/00031305.1988.10475524 .JSTOR 2685263 . ^ 統計WEB「正の相関と負の相関 」2022年1月3日閲覧。 ^a b 内閣府 統計局「なるほど統計学園 10.特徴を捉える 」2022年1月3日閲覧。 ^ 具体例で学ぶ数学「確率における独立と従属の意味と例 」2018年2月5日 ^ Mahdavi Damghani B. (2013). “The Non-Misleading Value of Inferred Correlation: An Introduction to the Cointelation Model”.Wilmott Magazine 2013 (67): 50-61.doi :10.1002/wilm.10252 . ^ Sz?kely, G. J. Rizzo; Bakirov, N. K. (2007). “Measuring and testing independence by correlation of distances”.Annals of Statistics 35 (6): 2769?2794.arXiv :0803.4101 .doi :10.1214/009053607000000505 . ^ Sz?kely, G. J.; Rizzo, M. L. (2009).“Brownian distance covariance” .Annals of Applied Statistics 3 (4): 1233-1303.arXiv :1010.0297 .doi :10.1214/09-AOAS312 .PMC 2889501 .PMID 20574547 .https://www.ncbi.nlm.nih.gov/pmc/articles/PMC2889501/ . ^ Lopez-Paz D. and Hennig P. and Sch?lkopf B. (2013). "The Randomized Dependence Coefficient", "Conference on Neural Information Processing Systems "Reprint ^ 野澤 勇樹、中村 信弘「確率的依存構造をもつコピュラモデル 」『統計数理』第68巻 第1号、統計数理研究所、2020年、87-106頁。コピュラモデルに関しては従属ではなく「依存」という訳語を使っている。意味合いは従属・相関と同じ。 ^ コトバンク「ダミー変数 」世界大百科事典 第２版の解説より ^ Thorndike, Robert Ladd (1947).Research problems and techniques (Report No. 3) . Washington DC: US Govt. print. off. ^ 統計WEB「18-3. 推定量の性質 」BellCurve、2022年1月3日閲覧。 ^ Nikolić, D; Muresan, RC; Feng, W; Singer, W (2012). “Scaled correlation analysis: a better way to compute a cross-correlogram”.European Journal of Neuroscience 35 (5): 1-21.doi :10.1111/j.1460-9568.2011.07987.x .PMID 22324876 . ^ NAG「最近傍相関行列の計算 」2022年1月3日 ^ Higham, Nicholas J. (2002). “Computing the nearest correlation matrix-a problem from finance”.IMA Journal of Numerical Analysis 22 (3): 329-343.doi :10.1093/imanum/22.3.329 . ^ “Portfolio Optimizer ”.portfoliooptimizer.io/ . 2021年1月30日閲覧。 ^ Borsdorf, Rudiger; Higham, Nicholas J.; Raydan, Marcos (2010). “Computing a Nearest Correlation Matrix with Factor Structure.”.SIAM J. Matrix Anal. Appl. 31 (5): 2603-2622.doi :10.1137/090776718 . ^ Qi, HOUDUO; Sun, DEFENG (2006). “A quadratically convergent Newton method for computing the nearest correlation matrix.”.SIAM J. Matrix Anal. Appl. 28 (2): 360-385.doi :10.1137/050624509 . ^ Park, Kun Il (2018).Fundamentals of Probability and Stochastic Processes with Applications to Communications . Springer.ISBN 978-3-319-68074-3 ^ Aldrich, John (1995). “Correlations Genuine and Spurious in Pearson and Yule”.Statistical Science 10 (4): 364-376.doi :10.1214/ss/1177009870 .JSTOR 2246135 . ^ 大塚製薬 「免疫力低下の原因 」2022年1月3日閲覧。^ Mahdavi Damghani, Babak (2012). “The Misleading Value of Measured Correlation”.Wilmott Magazine 2012 (1): 64-73.doi :10.1002/wilm.10167 . ^ Anscombe, Francis J. (1973). “Graphs in statistical analysis”.The American Statistician 27 (1): 17-21.doi :10.2307/2682899 .JSTOR 2682899 . ^ Taraldsen, Gunnar (2021).“The Confidence Density for Correlation” (英語).Sankhya A .doi :10.1007/s13171-021-00267-y .ISSN 0976-8378 .https://doi.org/10.1007/s13171-021-00267-y . ^ Taraldsen, Gunnar (2020) (英語).Confidence in Correlation doi :10.13140/RG.2.2.23673.49769 .http://rgdoi.net/10.13140/RG.2.2.23673.49769 . ^ Bowley, A. L. (1928).“The Standard Deviation of the Correlation Coefficient” .Journal of the American Statistical Association 23 (161): 3134.doi :10.2307/2277400 .ISSN 0162-1459 .https://www.jstor.org/stable/2277400 . ^ “Derivation of the standard error for Pearson's correlation coefficient ”.Cross Validated . 2021年7月30日閲覧。 ウィキメディア・コモンズには、
相関 に関連するカテゴリがあります。
