Размер видео: 1280 X 720853 X 480640 X 360
Показать панель управления
Автовоспроизведение
Автоповтор
不偏分散を直交射影の考え方から理解するという幾何学的な解釈はためになりました。自分は有限要素法を研究分野としているのですが、エネルギーノルムの最小化問題を離散化する過程で全く同じ考え方が出てきます。有限要素法では、偏微分方程式の理論解を「基底関数が張る部分空間」へ直交射影した結果、近似解が得られます。分野を隔てて、この「直交射影」の考え方が現れますね。
なんと、有限要素法でもそういう考え方が出てくるのですね、、、！面白いですね！😍俄然興味が湧いてきました！！
17:00 からの回転の話が、直交射影と混ざって一瞬混乱しました。。。・x~を、長さを保ったまま第N成分が0となるように回転させ（3次元だと、xy平面に叩きつけて）、y~にする・xも一緒に回転されてyになる・y~はyの直交射影だから、yの第N成分を0に固定したものになる！ということですね。
まさに！そんな感じです！！！😍🎉🎉🎉
ありがとうございます！
ご視聴コメントありがとうございます！そして、ご支援もいただきましてとっても嬉しいです！😍🎉🎉これからも勝ちある動画を生成できるようがんばりますので、応援のほどよろしくお願いします！
自由度の話を聞けてよかったけど、難しさ保存の法則が一番興味深かった。
難しさ保存の法則は世界のあらゆるところにあります😎 クラスを使わずプログラミングするか、クラスを使ってプログラミングするか、、、。ぜひ探してみてください😋
@@AIcia_Solid 今回のような話ってどんな教科書に書いてありますか？参考にした資料など知りたいです！
この話はわたしが勉強していて思い付いたものなので、直接の参考文献はありません。回帰分析 (regression analysis) 、最小二乗法 (least square) 、直交射影 (orthogonal projection) などのキーワードで探すと他の資料も見つかるかもしれません！
AIcia Solid Project えーすごいなぁ。分かりました！ありがとうございます😊
すごい、多次元ベクトルで考えるとすっきりまとまるんですね...!!!数学って凄い
そうなんですよー！(^o^)基本的な分析はかなりベクトルで戦えるので、他の文脈でもぜひベクトルを使って考えることにトライしてみてください😎
16:35 付近からのy~の第N成分が0になる理由が分かりにくかったです。ｘ→ｘ~が直交射影であること、直交関係が回転不変であることから、ｙ→ｙ~が直交射影であることは理解できます。ベクトルの第N成分を0にする変換が直交射影になることも理解できます。しかし、直交射影ならば第N成分が0になるとは限らない。おそらく今回の動画での回転というのは直線ｌを第N次の軸にするような回転（平面π上のベクトルの第N成分を0にするような回転）だと思うのですが、動画内でどう回転させるのかを言及していない気がします。
そこは時間の都合上省略しました😋ただ、わかっていただけて良かったです！🎉この意見は今後の動画の参考にします🎉
大変勉強になりました。統計学を本気でやろうとしていたところ、高校生が丸覚えする分散=二乗の平均-平均の二乗が空間ベクトルのノルムの三平方の定理に過ぎず、相関係数が正射影ベクトル間のcosθに他ならないことに気づき、もしかして私しか気づいてないのかと甘い期待と共に線形代数での解説を探していたら、やはりありました。そりゃそうですよね。しかし、ベクトルで理解したら一目瞭然なのに、線形代数での説明はなかなかありませんね。あと、正規分布は超立方体を対角に垂直な平面で切った面積かなと思い、三次元立方体で計算したらほぼ正規分布に一致しました。なにかご存じではありませんか？長々と失礼しました。嬉しくてつい。
ご視聴コメントありがとうございます！！！！！相関はコサインなのですが、実はなかなか説明されているものが少ないですよね😢😢😢今は、知る人ぞ知るという概念になっていると思います。ただ、この想いに共感いただけてとても嬉しいです！😊頂いている質問は、次のコメントの方でお答えしますね！
いつも勉強させていただいております。大変興味深い動画ありがとうございます。データをベクトルとして図で考えて、分散をベクトルの長さとする考え方がとても新鮮でした。ただ、直行射影と分散の関係がまだ理解できてません。なぜベクトルの各要素から標本平均引いて二乗和することが直行射影になるのか。これを理解するために３次元で図を書いてみて理解を試みています。何度も動画を見直して、じっくり考えてみたいと思います。ありがとうございました。
コメント嬉しいです😍ちなみにですが、、、直交射影は、標本平均を引くところです！分散計算が、2乗和をとるところです。理解の助けになれば嬉しいです☺️
難しさ保存の法則いい話だなぁ
でしょー😍
回帰式のところの説明は、R2（決定係数）の視覚化でもある
まさに😎ですね😎😎😎
入門多変量解析の実際（朝野煕彦）みたいに、ベクトルと行列で綺麗に統計まとまってて気持ちいいです！実は統計学ってベクトルと行列で書くと綺麗なのに、意外と線形代数側からの説明を入れずに書いている統計学の本多いですよねーまあ線形代数を前提にすると読者が減っちゃうのはあるんですが・・・w
わかります😋😋😋ただ、線形代数で攻めるのは、数学好きな人が自分で切り開くというのも楽しいかもですね🤤わたしはたまに、本質に必要なら使っていくスタイルで行きます！😎✌️
ベクトルxを構成するN個の成分は独立。xから定数ベクトルとしての平均ベクトル（μ）を引いても、N個の成分は独立のまま。しかし、平均ベクトルとしてxの成分の平均（Σxi/N）を引くと、成分が混ざってしまうので、適当な行列で回転してやると、N番目の成分を必ず０にできる、というイメージでしょうか？？
良い整理ですね！まさにそんな感じです！！！
目から鱗過ぎてやばいです
それはよかった(^o^)色んな角度から見ると理解が深まって良いですよね😍🎉
動画の趣旨とは少しずれた話になってしまうかもしれないですが質問させて下さい時系列分析において、時刻1からTの標本を用いた時差jの標本自己共分散は、「∑をj+1からTまで動かして(T-jではなく)Tで割る」という定義がされていると思うのですが、これも標本不偏分散と同じような考え方を使って理解できるものなのでしょうか…？最終的に標本の数Tで割っているということは、射影させるのとは違うことをしているのかなというような気もしていますが、独力で調べても中々解決出来ず…お力をお借りしたいです
ご視聴コメントありがとうございます！素敵な質問ですね！じつは、普遍推定量的なものが欲しいのであれば、T-kで割る必要があります。（ただし、標本自己共分散の計算にでてくるサンプル平均が、X_t の t = 1 ~ T-k や、t = k+1 ~ T の平均とは異なるので、普遍推定量を得るとなるとまた少し議論が必要です）一方、共分散行列（※）を考える際は、すべて T で割っておくことによって、共分散行列が非負定値であることを保証できます。（T-k で割ると保証されません！）その違いがあるので、普通の本では T で割って定義されることが多いのだと思います！（これは私も今調べていて知りました！素敵な質問ありがとうございます！！！！！）
返信ありがとうございます🙇自己共分散単体よりかは、共分散行列全体で見てる感じなんですね(？)確かに、∑を割る数が時差によってバラバラだったら行列全体としての性質は悪くなってしまいそうな気はするので、自分でもう少し考えてみます！ところで、アイシアさんは普段、このような場面では主にどんな方法を使って調べていますでしょうか不偏推定量を得るにはTの代わりに何で割ればいいのか…とか考え始めると、ググっても中々出てこないという悩みがあります(今回に限らずです…)
そのとおりです！そもそも、時系列分析において不偏推定量を手に入れるのは、それ単体がそれなりに難しい気もします。（データ感の独立性がなく、「共和分」があるときはなまの自己相関にはあまり意味がなくなりますし、、、）なので、タスクに応じて都度考えて手法を決めております。研究のために用いるのであれば、先行研究やその著者にアクセスしてみて考えるのが良い気がします！
@@AIcia_Solid 度々お返事ありがとうございます🙇資格をとりたくて統計の勉強をしているのですが、勉強している最中に疑問が出てくるとつい気になって色々調べちゃうんですよね笑(そのせいで(？)点数とるための問題演習とかはあんまり手が付かないことも…😢)先行研究というと、論文とかを漁ってみる感じですよね今度何かあったら調べてみます！
そうなのですね！研究の段階であれば、知り合いに分野の研究者がいる（または、早い段階で作る）と思うので、その人に聞くのもありかと思います！勉強方法は人それぞれなので、やりやすい方法でやるのがいいと思います！🥳応援しております！🎉
すげー、なんとなくベクトルとか関係あんのかなぁって思ってたけどやっぱそうだったんだー
そうなんです！もうまさにベクトルと思うと見通しいいのです😎✌️
大変、興味深い動画ありがとうございます！！参考にされた書籍やサイトがあればお伺いしたいです。
ご視聴コメントありがとうございます！🎉🎉じつは、参考文献などは思い当たりません。昔何かで読んだ気はするのですが、、、。すみません、、、、、🙇♀️🙇♀️🙇♀️
@@AIcia_Solid わかりました！ありがとうございます！
27:10 辺りに関してです。自分は線形代数自信欲しいニキなのですが（専門が量子情報理論なので）例えば（射影先がN-1次元の場合は） Id - \vec{1} \vec{1}^T /N なる行列をかけてあげれば一応計算できると思います。Idは単位行列です。ただこれって射影作用素を明示的に行列として書いてあげただけという事な訳ですが、このような行列を考えなくても証明できるのでしょうか？
行列を具体的に考えずに証明しているのが、まさに、この動画の本筋で、射影、回転不変性、、、などを用いて、成分の話を持ち出さずに証明できます😎✌️具体的に変数間の共分散を文字で置いて、気合い計算することでも求まります。せっかくなので、どんな方針でもいいので、ご自身で証明してみると楽しいと思います(^^)
難しさ保存の法則初めて知ったw
世界の至るところにあります😎ぜひ探してみてください✌️
ちょうど良いレベルで、いつも楽しく見てます。ありがとうございます！質問です。xの分布の回転不変性ですが、一般の確率分布についても成り立っていますか？
ご視聴コメントありがとうございます！😍回転不変性は一般には成り立ちません！ほぼ正規分布くらいです😮
AIcia Solid Project ありがとうございます！ たぶん前回の動画でゴリゴリ計算した不偏分散、あちらは一般の確率分布に対して成り立ってますよね…？独立同分布しか仮定していなかった気がするのですが。
さすがですね😎前回は、独立同分布なら、一般の（分散が有限な）確率分布でいけます。じつは、今回のやつも、同じ条件で成り立ちます。ただ、回転不変性がないと、直交行列で云々の議論が必要なので、今回は楽するために条件きつめにしました😋
前半の説明は、対応分析がどうやってカイ二乗の視覚化になってるか、ということにも通じると思いました。
なんと、そこにも通じるんですね😮それは、どんな感じですか？？
@@AIcia_Solid 期待度数ベクトルまわりに１つ次元を落とした空間内の距離がカイ二乗になるような仕組みになってるんで・・・ファイル添付できるといいですね。とりあえずキモの図だけここにおいときます。photos.app.goo.gl/PeFok9c39AV7mv7A6
fmfm.なるほど。カイ二乗になるとは、どういう意味ですか、、、？
@@AIcia_Solid 3列のクロス集計表の各行の行%が(x,y,z)だと思ってください。これをこの図のように基準化してとった座標は平面π上にあると。で，その行座標と期待度数位置ベクトル（これが重心になってるわけですが）Hの平方距離を行周辺度数で重みづければその行のカイ2乗，全ての行の和をとればクロス集計表の独立性検定で用いるところのカイ2乗に一致します。（尤度比検定でなくてピアソンです）列数がもっと多くなった場合にこの超平面π内の行座標に対して（度数を重みとして）主成分分析を行い，低次元近似するのが対応分析です。なので，対応分析の出力はカイ2乗の近似といわれます。各カテゴリ座標の原点からの距離がそのカテゴリのカイ2乗の近似，カテゴリ間の距離が両カテゴリ抜粋した集計表のカイ2乗の近似，というわけです。
ありがとうございます！なるほど、そういうことですね！勉強になりました😋🎉
愛視聴者です。標本（データ）の分散がベクトルxの長さ（の2乗、以下省略）、超平面に直行射影したベクトルの長さが不偏分散に対応する…、では、母集団の分散（真値）はどこに表れるのでしょうか？というか母集団に対応するベクトルってありますか？N次元ベクトルのNはデータ数なので、母集団は無限次元に展開されるベクトルの長さ？ でも不偏分散に対応するベクトルの次元は減っているし。
素晴らしい質問ですね！🎉母集団が有限ならそれは R^N の中のベクトルで考えるのがよいでしょう。では、無限の場合は、、、確率密度関数が登場します。このままお答えしても良いですが、是非一度ご自分で考えてみてください！（わかったりわからなかったりしたらまた聞いてください！）
16:53 ここの第N成分だけ0にする変換ってのはギブンス回転ですか？直交射影して次元を減らすのは主成分分析と同じ「ノリ」ってことでいいんですかね。線形代数と直交射影で色んな分野の話が統一的に理解できるってすごいなと思いました。毎度ためになる動画ありがとうございます。
ここでの回転は、ギブンス回転とは別物です。もうちょっと一般の回転であります。主成分分析と同じノリです！2乗の最小化が関わる場所は、かなり似たノリが出てきます😎
ウェルチのT検定のときの整数じゃない自由度も誤差変数が動ける次元ってことなのかな？そうなると疑問なのが、次元っていうものに2次元や3次元っていう自然数の次元だけでなく自然数以外の次元ってのがあるのか（直感的な理解はできないけど）、それともウェルチのT検定のときの自由度はあくまで式の計算上のものであって実はAIciaさんが説明していた自由度とは別物なのか誰か教えてほしい
ウェルチのt検定はまた別のものです！t分布の自由度はまた別で、誤差の動ける次元というより、数値的に定義される雰囲気です(^o^)
@@AIcia_Solid なるほど。自由度にも種類があるのですね。回答ありがとうございます
再度失礼します。平面πをx1x2….x(n-1)平面に回転すると、正射影ベクトルのn成分が0になるという理解でよろしいでしょうか。言い換えると、正射影であることが次元数を一つ減らすことに対応しているということです。一つ疑問なのは、あらゆるn次元ベクトルについて、適当な座標回転によって、少なくとも一つの成分を0にすることが可能な気がしますし、極端な話、一つの成分以外を0にすることもできますが、回転に何か制約があるのでしょうか。x~ベクトルは1ベクトルと直交していますが、1ベクトルが正射影先であることに何か特別な意味があるのでしょうか。的外れな質問であったら申し訳ないです。
素敵な質問ですね！ここでの回転は、 x_i - \bar{x} という成分を持つ（確率変数の）ベクトルを対象にしています。こいつら（の実現値）は全て、「すべての成分の和が0」という部分線形空間に入っておりますので、この確率変数（の実現地のすべて）について、回転先の第n成分が0になるようにできます。平易な言葉にこだわった結果、逆に数学的に分かりづらくなってしまいましたね、、、。いかがでしょうか？伝わりますでしょうか？
ありがとうございます。全ての実現値について、というのがポイントですね。全ての実現値についての正射影ベクトルが平面πにペタペタたくさん貼り付いていて、この子たちをひっくるめてヨイショとx_1…x_n-1平面に合わせることができる、そしてこの子たちは平面上からびた一文動けない、ということですね。だいふスッキリしました。ただ、これについてはどの成分も対等なので、ラストn成分には限らないのではないかとも思うのですが、いずれにせよ、通常の解説書での「拘束条件一本で自由度即ち変数一個減る」的なものよりイメージが明確です。逆に、高校生に連立方程式を教えるときも概念的に使えそうだと思いました。今後とも、解説よろしくお願いします。それより何より、この手法での統計学の教科書の出版を心よりお待ちしております。私もnoteあたりに書いてみます。
伝わったようで良かったです！！！😍まさにそのとおりです！本は書けたらいいですね、頑張ります！🔥
x-μの場合は同様の幾何的解釈をしようとするとどうなるのでしょうか？
ご視聴コメントありがとうございます！すみません、質問の内容が良くわかりませんでした。どのような疑問かもう少し詳しく教えていただけると助かります。よろしくお願いします！🙇♀️
回転不偏性の1）で「独立な確率変数の確率密度関数は、それぞれの確率密度関数の積になる」というのが分かりませんでした... 。統計学に疎い私に説明してくれませんか？また、参考になる動画・本があれば教えてくれると助かります。
ご視聴コメントありがとうございます！独立な、、、は、独立性の定義でもある文言です。おそらく、基礎的な統計学の本（※）には必ず書いてあるかと思うので、何でも良いので手にとって見てみるとよいかと思います！※「数式無しで」「文系でもわかる」的なタイプは除きます
19:20 のところでE[||x||^2]=Nσ^2とはならない理由が分かりませんでした。。友達に教えてあげたいので解説していただけると助かります！
E[ || ¥tilde{x} ||^2 ] のことですか、、？E[ || x ||^2 ] は Nσ^2 になりますが、、、！
@@AIcia_Solid そうです。tildexの事でした。
なるほど！論理的には、E[ || \tilde{x} ||^2 ] = E[ || \tilde{y} ||^2 ]とE[ || \tilde{y} ||^2 ] = (N-1)σ^2の2つから導出されていますが、どちらが納得いきませんか？（または、別のところに混乱がありますか？）
@@AIcia_Solid 返信ありがとうございます。理解できました。E[ || \tilde{x} ||^2 ] がそのままだと計算できないから回転させてE[ || \tilde{y} ||^2 ] としたんですね。\tilde{x}がN(0,1)に従うと勘違いしていました。
それは良かったです！🎉ご質問いただきありがとうございました！🎉
すごくためになる動画でした！いつもありがとうございますm(_ _)m
ご視聴コメントありがとうございます！(^o^)お役に立てれば光栄です🎉他にも動画がたくさんありますので、良ければ見てみてください😋✌️
標本XとXバー(標本から作った平均)の組み合わせだから直交射影できて自由度が減る。逆に言うと標本Xとμ(母集団から作った平均)の組み合わせだと最小値でないから直行射影にならず自由度が減らない。という事ですか？
その通りです！\bar{X} で引いたあとの変数は、「総和が0になる」という性質（拘束条件）を満たすようになるので、データの広がる空間の次元が1つ下がりますが、定数 μ で引いた場合は、そのような変化はありません(^^)
@@AIcia_Solid 最小値が直交射影というのは理解できるのですが、平均値が最小値になる事がうまく理解できません。波形をフーリエ変換する際に直流成分を差し引くことに似ている気がするのですが、もやもやしています。
数値が n 個 x_1, x_2,..., x_n あったとします。θを変数とし、Σ (x_i - θ)^2 をθの2次巻数と見て、これが最小になるθを求めてみて下さい(^^)そうすればわかると思います(^o^)
@@AIcia_Solid なるほど迷走してました。単純な凸面なので展開して極を取るだけで良いんですね。
😎✌️
わかりやすい説明をありがとうございます！1つお教え頂けますと幸いです。18:29でyi～N(0,σ2)とのことでしたが、そうしますとyの確率密度関数の定数部分がN/2乗ではなく(N-1)/2乗となってしまい、xの確率密度関数と一致しなくなってしまうような気がしました。この辺りどのように考えればよろしいでしょうか？ご指導いただけますとありがたいです。
y と \tilde{y} の確率分布を混同されているかもしれません。y の方は独立な成分が N 個あり、\tilde{y} のほうが N-1 個です。ここの区別をすれば解決するかと思いますがいかがでしょうか？疑問が残っていたらまた追加で聞いてくださいまし！🔥
@@AIcia_Solid ご返信ありがとうございます。確かに、ご指摘のとおりに誤解をしていました。x は独立な成分が N 個 → y は独立な成分が N 個 → \tilde{y} は独立な成分が N-1 個 → \tilde{x} は独立な成分が N-1 個、ということと理解しました。
そのとおりです & それは良かったです！🎉
すいません・・・ニョロニョロの記号の意味がわかりませんがなにか意味はあるんでしょうか？
にょろ（チルダ）は、' とか ^ みたいに、同じアルファベット使いつつ意味変えたいときによく使われる記号ですー。何か特に一般的な用法があるわけではないと思います。今回の動画では、今回の動画で定義した意味でのみ用いています！
直交射影行列の固有値展開が x --(回転)--> y --(見やすく)--> \tilda{y} --(逆回転)--> \tilda{x} っていう動きに対応してるのか！！！
まさに！その通りです！😍回転での対角化です！😎鋭いですね！🎉
確率の本でこれを書いてあるの見たことありません、、、
良ければ私の動画を広めてください😎✌️
不偏分散を直交射影の考え方から理解するという幾何学的な解釈はためになりました。自分は有限要素法を研究分野としているのですが、エネルギーノルムの最小化問題を離散化する過程で全く同じ考え方が出てきます。有限要素法では、偏微分方程式の理論解を「基底関数が張る部分空間」へ直交射影した結果、近似解が得られます。分野を隔てて、この「直交射影」の考え方が現れますね。
なんと、有限要素法でもそういう考え方が出てくるのですね、、、！
面白いですね！😍
俄然興味が湧いてきました！！
17:00 からの回転の話が、直交射影と混ざって一瞬混乱しました。。。
・x~を、長さを保ったまま第N成分が0となるように回転させ（3次元だと、xy平面に叩きつけて）、y~にする
・xも一緒に回転されてyになる
・y~はyの直交射影だから、yの第N成分を0に固定したものになる！
ということですね。
まさに！
そんな感じです！！！😍🎉🎉🎉
ありがとうございます！
ご視聴コメントありがとうございます！
そして、ご支援もいただきましてとっても嬉しいです！😍🎉🎉
これからも勝ちある動画を生成できるようがんばりますので、応援のほどよろしくお願いします！
自由度の話を聞けてよかったけど、難しさ保存の法則が一番興味深かった。
難しさ保存の法則は世界のあらゆるところにあります😎
クラスを使わずプログラミングするか、クラスを使ってプログラミングするか、、、。
ぜひ探してみてください😋
@@AIcia_Solid 今回のような話ってどんな教科書に書いてありますか？参考にした資料など知りたいです！
この話はわたしが勉強していて思い付いたものなので、直接の参考文献はありません。
回帰分析 (regression analysis) 、最小二乗法 (least square) 、直交射影 (orthogonal projection) などのキーワードで探すと他の資料も見つかるかもしれません！
AIcia Solid Project えーすごいなぁ。分かりました！ありがとうございます😊
すごい、多次元ベクトルで考えるとすっきりまとまるんですね...!!!数学って凄い
そうなんですよー！(^o^)
基本的な分析はかなりベクトルで戦えるので、他の文脈でもぜひベクトルを使って考えることにトライしてみてください😎
16:35 付近からのy~の第N成分が0になる理由が分かりにくかったです。ｘ→ｘ~が直交射影であること、直交関係が回転不変であることから、ｙ→ｙ~が直交射影であることは理解できます。ベクトルの第N成分を0にする変換が直交射影になることも理解できます。しかし、直交射影ならば第N成分が0になるとは限らない。
おそらく今回の動画での回転というのは直線ｌを第N次の軸にするような回転（平面π上のベクトルの第N成分を0にするような回転）だと思うのですが、動画内でどう回転させるのかを言及していない気がします。
そこは時間の都合上省略しました😋
ただ、わかっていただけて良かったです！🎉
この意見は今後の動画の参考にします🎉
大変勉強になりました。
統計学を本気でやろうとしていたところ、高校生が丸覚えする分散=二乗の平均-平均の二乗が空間ベクトルのノルムの三平方の定理に過ぎず、相関係数が正射影ベクトル間のcosθに他ならないことに気づき、もしかして私しか気づいてないのかと甘い期待と共に線形代数での解説を探していたら、やはりありました。そりゃそうですよね。
しかし、ベクトルで理解したら一目瞭然なのに、線形代数での説明はなかなかありませんね。
あと、正規分布は超立方体を対角に垂直な平面で切った面積かなと思い、三次元立方体で計算したらほぼ正規分布に一致しました。なにかご存じではありませんか？
長々と失礼しました。嬉しくてつい。
ご視聴コメントありがとうございます！！！！！
相関はコサインなのですが、実はなかなか説明されているものが少ないですよね😢😢😢
今は、知る人ぞ知るという概念になっていると思います。
ただ、この想いに共感いただけてとても嬉しいです！😊
頂いている質問は、次のコメントの方でお答えしますね！
いつも勉強させていただいております。
大変興味深い動画ありがとうございます。
データをベクトルとして図で考えて、分散をベクトルの長さとする考え方がとても新鮮でした。ただ、直行射影と分散の関係がまだ理解できてません。なぜベクトルの各要素から標本平均引いて二乗和することが直行射影になるのか。これを理解するために３次元で図を書いてみて理解を試みています。何度も動画を見直して、じっくり考えてみたいと思います。
ありがとうございました。
コメント嬉しいです😍
ちなみにですが、、、
直交射影は、標本平均を引くところです！
分散計算が、2乗和をとるところです。
理解の助けになれば嬉しいです☺️
難しさ保存の法則いい話だなぁ
でしょー😍
回帰式のところの説明は、R2（決定係数）の視覚化でもある
まさに😎
ですね😎😎😎
入門多変量解析の実際（朝野煕彦）みたいに、ベクトルと行列で綺麗に統計まとまってて気持ちいいです！
実は統計学ってベクトルと行列で書くと綺麗なのに、意外と線形代数側からの説明を入れずに書いている統計学の本多いですよねー
まあ線形代数を前提にすると読者が減っちゃうのはあるんですが・・・w
わかります😋😋😋
ただ、線形代数で攻めるのは、数学好きな人が自分で切り開くというのも楽しいかもですね🤤
わたしはたまに、本質に必要なら使っていくスタイルで行きます！😎✌️
ベクトルxを構成するN個の成分は独立。
xから定数ベクトルとしての平均ベクトル（μ）を引いても、N個の成分は独立のまま。
しかし、平均ベクトルとしてxの成分の平均（Σxi/N）を引くと、
成分が混ざってしまうので、
適当な行列で回転してやると、N番目の成分を必ず０にできる、
というイメージでしょうか？？
良い整理ですね！
まさにそんな感じです！！！
目から鱗過ぎてやばいです
それはよかった(^o^)
色んな角度から見ると理解が深まって良いですよね😍🎉
動画の趣旨とは少しずれた話になってしまうかもしれないですが質問させて下さい
時系列分析において、時刻1からTの標本を用いた時差jの標本自己共分散は、「∑をj+1からTまで動かして(T-jではなく)Tで割る」という定義がされていると思うのですが、これも標本不偏分散と同じような考え方を使って理解できるものなのでしょうか…？
最終的に標本の数Tで割っているということは、射影させるのとは違うことをしているのかなというような気もしていますが、独力で調べても中々解決出来ず…お力をお借りしたいです
ご視聴コメントありがとうございます！
素敵な質問ですね！
じつは、普遍推定量的なものが欲しいのであれば、T-kで割る必要があります。
（ただし、標本自己共分散の計算にでてくるサンプル平均が、X_t の t = 1 ~ T-k や、t = k+1 ~ T の平均とは異なるので、普遍推定量を得るとなるとまた少し議論が必要です）
一方、共分散行列（※）を考える際は、すべて T で割っておくことによって、共分散行列が非負定値であることを保証できます。
（T-k で割ると保証されません！）
その違いがあるので、普通の本では T で割って定義されることが多いのだと思います！
（これは私も今調べていて知りました！
素敵な質問ありがとうございます！！！！！）
返信ありがとうございます🙇
自己共分散単体よりかは、共分散行列全体で見てる感じなんですね(？)
確かに、∑を割る数が時差によってバラバラだったら行列全体としての性質は悪くなってしまいそうな気はするので、自分でもう少し考えてみます！
ところで、アイシアさんは普段、このような場面では主にどんな方法を使って調べていますでしょうか
不偏推定量を得るにはTの代わりに何で割ればいいのか…とか考え始めると、ググっても中々出てこないという悩みがあります
(今回に限らずです…)
そのとおりです！
そもそも、時系列分析において不偏推定量を手に入れるのは、それ単体がそれなりに難しい気もします。
（データ感の独立性がなく、「共和分」があるときはなまの自己相関にはあまり意味がなくなりますし、、、）
なので、タスクに応じて都度考えて手法を決めております。
研究のために用いるのであれば、先行研究やその著者にアクセスしてみて考えるのが良い気がします！
@@AIcia_Solid 度々お返事ありがとうございます🙇
資格をとりたくて統計の勉強をしているのですが、勉強している最中に疑問が出てくるとつい気になって色々調べちゃうんですよね笑
(そのせいで(？)点数とるための問題演習とかはあんまり手が付かないことも…😢)
先行研究というと、論文とかを漁ってみる感じですよね
今度何かあったら調べてみます！
そうなのですね！
研究の段階であれば、知り合いに分野の研究者がいる（または、早い段階で作る）と思うので、その人に聞くのもありかと思います！
勉強方法は人それぞれなので、やりやすい方法でやるのがいいと思います！🥳
応援しております！🎉
すげー、なんとなくベクトルとか関係あんのかなぁって思ってたけどやっぱそうだったんだー
そうなんです！
もうまさにベクトルと思うと見通しいいのです😎✌️
大変、興味深い動画ありがとうございます！！
参考にされた書籍やサイトがあればお伺いしたいです。
ご視聴コメントありがとうございます！🎉🎉
じつは、参考文献などは思い当たりません。
昔何かで読んだ気はするのですが、、、。
すみません、、、、、🙇♀️🙇♀️🙇♀️
@@AIcia_Solid
わかりました！ありがとうございます！
27:10 辺りに関してです。自分は線形代数自信欲しいニキなのですが（専門が量子情報理論なので）例えば（射影先がN-1次元の場合は） Id - \vec{1} \vec{1}^T /N なる行列をかけてあげれば一応計算できると思います。Idは単位行列です。ただこれって射影作用素を明示的に行列として書いてあげただけという事な訳ですが、このような行列を考えなくても証明できるのでしょうか？
行列を具体的に考えずに証明しているのが、まさに、この動画の本筋で、射影、回転不変性、、、などを用いて、成分の話を持ち出さずに証明できます😎✌️
具体的に変数間の共分散を文字で置いて、気合い計算することでも求まります。
せっかくなので、どんな方針でもいいので、ご自身で証明してみると楽しいと思います(^^)
難しさ保存の法則初めて知ったw
世界の至るところにあります😎
ぜひ探してみてください✌️
ちょうど良いレベルで、いつも楽しく見てます。ありがとうございます！
質問です。xの分布の回転不変性ですが、一般の確率分布についても成り立っていますか？
ご視聴コメントありがとうございます！😍
回転不変性は一般には成り立ちません！ほぼ正規分布くらいです😮
AIcia Solid Project ありがとうございます！ たぶん前回の動画でゴリゴリ計算した不偏分散、あちらは一般の確率分布に対して成り立ってますよね…？独立同分布しか仮定していなかった気がするのですが。
さすがですね😎
前回は、独立同分布なら、一般の（分散が有限な）確率分布でいけます。
じつは、今回のやつも、同じ条件で成り立ちます。
ただ、回転不変性がないと、直交行列で云々の議論が必要なので、今回は楽するために条件きつめにしました😋
前半の説明は、対応分析がどうやってカイ二乗の視覚化になってるか、ということにも通じると思いました。
なんと、そこにも通じるんですね😮
それは、どんな感じですか？？
@@AIcia_Solid 期待度数ベクトルまわりに１つ次元を落とした空間内の距離がカイ二乗になるような仕組みになってるんで・・・
ファイル添付できるといいですね。とりあえずキモの図だけここにおいときます。
photos.app.goo.gl/PeFok9c39AV7mv7A6
fmfm.
なるほど。
カイ二乗になるとは、どういう意味ですか、、、？
@@AIcia_Solid 3列のクロス集計表の各行の行%が(x,y,z)だと思ってください。これをこの図のように基準化してとった座標は平面π上にあると。で，その行座標と期待度数位置ベクトル（これが重心になってるわけですが）Hの平方距離を行周辺度数で重みづければその行のカイ2乗，全ての行の和をとればクロス集計表の独立性検定で用いるところのカイ2乗に一致します。（尤度比検定でなくてピアソンです）
列数がもっと多くなった場合にこの超平面π内の行座標に対して（度数を重みとして）主成分分析を行い，低次元近似するのが対応分析です。なので，対応分析の出力はカイ2乗の近似といわれます。各カテゴリ座標の原点からの距離がそのカテゴリのカイ2乗の近似，カテゴリ間の距離が両カテゴリ抜粋した集計表のカイ2乗の近似，というわけです。
ありがとうございます！
なるほど、そういうことですね！
勉強になりました😋🎉
愛視聴者です。
標本（データ）の分散がベクトルxの長さ（の2乗、以下省略）、超平面に直行射影したベクトルの長さが不偏分散に対応する…、では、母集団の分散（真値）はどこに表れるのでしょうか？
というか母集団に対応するベクトルってありますか？
N次元ベクトルのNはデータ数なので、母集団は無限次元に展開されるベクトルの長さ？
でも不偏分散に対応するベクトルの次元は減っているし。
素晴らしい質問ですね！🎉
母集団が有限ならそれは R^N の中のベクトルで考えるのがよいでしょう。
では、無限の場合は、、、確率密度関数が登場します。
このままお答えしても良いですが、是非一度ご自分で考えてみてください！
（わかったりわからなかったりしたらまた聞いてください！）
16:53 ここの第N成分だけ0にする変換ってのはギブンス回転ですか？
直交射影して次元を減らすのは主成分分析と同じ「ノリ」ってことでいいんですかね。
線形代数と直交射影で色んな分野の話が統一的に理解できるってすごいなと思いました。
毎度ためになる動画ありがとうございます。
ここでの回転は、ギブンス回転とは別物です。もうちょっと一般の回転であります。
主成分分析と同じノリです！
2乗の最小化が関わる場所は、かなり似たノリが出てきます😎
ウェルチのT検定のときの整数じゃない自由度も誤差変数が動ける次元ってことなのかな？
そうなると疑問なのが、次元っていうものに2次元や3次元っていう自然数の次元だけでなく自然数以外の次元ってのがあるのか（直感的な理解はできないけど）、それともウェルチのT検定のときの自由度はあくまで式の計算上のものであって実はAIciaさんが説明していた自由度とは別物なのか
誰か教えてほしい
ウェルチのt検定はまた別のものです！
t分布の自由度はまた別で、誤差の動ける次元というより、数値的に定義される雰囲気です(^o^)
@@AIcia_Solid なるほど。自由度にも種類があるのですね。回答ありがとうございます
再度失礼します。
平面πをx1x2….x(n-1)平面に回転すると、正射影ベクトルのn成分が0になるという理解でよろしいでしょうか。
言い換えると、正射影であることが次元数を一つ減らすことに対応しているということです。
一つ疑問なのは、あらゆるn次元ベクトルについて、適当な座標回転によって、少なくとも一つの成分を0にすることが可能な気がしますし、極端な話、一つの成分以外を0にすることもできますが、回転に何か制約があるのでしょうか。
x~ベクトルは1ベクトルと直交していますが、1ベクトルが正射影先であることに何か特別な意味があるのでしょうか。
的外れな質問であったら申し訳ないです。
素敵な質問ですね！
ここでの回転は、 x_i - \bar{x} という成分を持つ（確率変数の）ベクトルを対象にしています。
こいつら（の実現値）は全て、「すべての成分の和が0」という部分線形空間に入っておりますので、
この確率変数（の実現地のすべて）について、回転先の第n成分が0になるようにできます。
平易な言葉にこだわった結果、逆に数学的に分かりづらくなってしまいましたね、、、。
いかがでしょうか？
伝わりますでしょうか？
ありがとうございます。
全ての実現値について、というのがポイントですね。
全ての実現値についての正射影ベクトルが平面πにペタペタたくさん貼り付いていて、この子たちをひっくるめてヨイショとx_1…x_n-1平面に合わせることができる、そしてこの子たちは平面上からびた一文動けない、ということですね。だいふスッキリしました。
ただ、これについてはどの成分も対等なので、ラストn成分には限らないのではないかとも思うのですが、いずれにせよ、通常の解説書での「拘束条件一本で自由度即ち変数一個減る」的なものよりイメージが明確です。
逆に、高校生に連立方程式を教えるときも概念的に使えそうだと思いました。
今後とも、解説よろしくお願いします。
それより何より、この手法での統計学の教科書の出版を心よりお待ちしております。
私もnoteあたりに書いてみます。
伝わったようで良かったです！！！😍
まさにそのとおりです！
本は書けたらいいですね、頑張ります！🔥
x-μの場合は同様の幾何的解釈をしようとするとどうなるのでしょうか？
ご視聴コメントありがとうございます！
すみません、質問の内容が良くわかりませんでした。
どのような疑問かもう少し詳しく教えていただけると助かります。よろしくお願いします！🙇♀️
回転不偏性の1）で「独立な確率変数の確率密度関数は、それぞれの確率密度関数の積になる」というのが分かりませんでした... 。統計学に疎い私に説明してくれませんか？また、参考になる動画・本があれば教えてくれると助かります。
ご視聴コメントありがとうございます！
独立な、、、は、独立性の定義でもある文言です。
おそらく、基礎的な統計学の本（※）には必ず書いてあるかと思うので、何でも良いので手にとって見てみるとよいかと思います！
※「数式無しで」「文系でもわかる」的なタイプは除きます
19:20 のところでE[||x||^2]=Nσ^2とはならない理由が分かりませんでした。。友達に教えてあげたいので解説していただけると助かります！
E[ || ¥tilde{x} ||^2 ] のことですか、、？
E[ || x ||^2 ] は Nσ^2 になりますが、、、！
@@AIcia_Solid そうです。tildexの事でした。
なるほど！
論理的には、
E[ || \tilde{x} ||^2 ] = E[ || \tilde{y} ||^2 ]
と
E[ || \tilde{y} ||^2 ] = (N-1)σ^2
の2つから導出されていますが、どちらが納得いきませんか？
（または、別のところに混乱がありますか？）
@@AIcia_Solid 返信ありがとうございます。理解できました。
E[ || \tilde{x} ||^2 ] がそのままだと計算できないから回転させて
E[ || \tilde{y} ||^2 ]
としたんですね。
\tilde{x}がN(0,1)に従うと勘違いしていました。
それは良かったです！🎉
ご質問いただきありがとうございました！🎉
すごくためになる動画でした！いつもありがとうございますm(_ _)m
ご視聴コメントありがとうございます！(^o^)
お役に立てれば光栄です🎉
他にも動画がたくさんありますので、良ければ見てみてください😋✌️
標本XとXバー(標本から作った平均)の組み合わせだから直交射影できて自由度が減る。逆に言うと標本Xとμ(母集団から作った平均)の組み合わせだと最小値でないから直行射影にならず自由度が減らない。という事ですか？
その通りです！
\bar{X} で引いたあとの変数は、「総和が0になる」という性質（拘束条件）を満たすようになるので、データの広がる空間の次元が1つ下がりますが、
定数 μ で引いた場合は、そのような変化はありません(^^)
@@AIcia_Solid 最小値が直交射影というのは理解できるのですが、平均値が最小値になる事がうまく理解できません。波形をフーリエ変換する際に直流成分を差し引くことに似ている気がするのですが、もやもやしています。
数値が n 個 x_1, x_2,..., x_n あったとします。
θを変数とし、
Σ (x_i - θ)^2 をθの2次巻数と見て、
これが最小になるθを求めてみて下さい(^^)
そうすればわかると思います(^o^)
@@AIcia_Solid なるほど迷走してました。単純な凸面なので展開して極を取るだけで良いんですね。
😎✌️
わかりやすい説明をありがとうございます！1つお教え頂けますと幸いです。18:29でyi～N(0,σ2)とのことでしたが、そうしますとyの確率密度関数の定数部分がN/2乗ではなく(N-1)/2乗となってしまい、xの確率密度関数と一致しなくなってしまうような気がしました。この辺りどのように考えればよろしいでしょうか？ご指導いただけますとありがたいです。
y と \tilde{y} の確率分布を混同されているかもしれません。
y の方は独立な成分が N 個あり、\tilde{y} のほうが N-1 個です。
ここの区別をすれば解決するかと思いますがいかがでしょうか？
疑問が残っていたらまた追加で聞いてくださいまし！🔥
@@AIcia_Solid ご返信ありがとうございます。確かに、ご指摘のとおりに誤解をしていました。x は独立な成分が N 個 → y は独立な成分が N 個 → \tilde{y} は独立な成分が N-1 個 → \tilde{x} は独立な成分が N-1 個、ということと理解しました。
そのとおりです & それは良かったです！🎉
すいません・・・
ニョロニョロの記号の意味がわかりませんがなにか意味はあるんでしょうか？
にょろ（チルダ）は、' とか ^ みたいに、同じアルファベット使いつつ意味変えたいときによく使われる記号ですー。
何か特に一般的な用法があるわけではないと思います。
今回の動画では、今回の動画で定義した意味でのみ用いています！
直交射影行列の固有値展開が x --(回転)--> y --(見やすく)--> \tilda{y} --(逆回転)--> \tilda{x} っていう動きに対応してるのか！！！
まさに！その通りです！😍
回転での対角化です！😎
鋭いですね！🎉
確率の本でこれを書いてあるの見たことありません、、、
良ければ私の動画を広めてください😎✌️