20分で分かる最小二乗法

[@妊娠したら-q2b]

もはや慈善活動受けてるくらい助かってます。

[@sugaku_kyoshitsu]

嬉しいです(笑)
ありがとうございます。

[@yugosaito9704]

すごく丁寧で感動しました。 ようつべ先生のおかげで理解できました。これからも頑張ってください。応援してます。

[@sugaku_kyoshitsu]

ありがとうございます！今は知識を取り入れるのに時間使ってますが、一通り勉強し終わったら、また作ります！

[@むにむに-s4t]

凄くわかりやすくて、最小二乗法についてよく理解できました。ありがとうございます！

[@sugaku_kyoshitsu]

ありがとうございます、役立ったみたいでよかったです！

[@linearalgebra5595]

分かりやすい説明ありがとうございました。1点ちょっと引っかかる所があるのですが、偏微分=0 → 最小値というのは論理に飛躍があり(先生もあくまで必要条件と言われていました)、これはあくまで損失関数が大域的に凸関数であるから言えることですよね？ 今回のa,bの2変数2次関数は1次式の二乗和なので直感的に凸関数になるのはなんとなく分かるのですが、厳密に示す比較的簡単な方法はありますか？
多変数2次関数なので2次項のヘッセ行列の正定値性を見るとかかなあと思ったのですが、Σの項数や変数の数が増えると一般的に計算が出来ない気がして、アプローチの仕方が違うのかなあとモヤモヤしており。。

[@sugaku_kyoshitsu]

なるほど確かにですね。
一応やり方としては
①最適解(候補)を見つける
②見つけた点まわりで誤差関数をテイラー展開→方向微分を使うと1変数の二次関数になる
③どの方向に進んでも二次の係数がプラスになる条件からヘッセ行列式＞0が確か出てくる
だったと思います。昔ヘッセ行列扱った記憶があるので、もしかしたらあるかもです。
コメントありがとうございます

[@sugaku_kyoshitsu]

変数が増えても進む方向を決めてテイラー展開すると解けるのでご安心ください。
例えば二変数の曲面z(x,y)も
(x,y)=(1,2)*tとおけば
tについて一変数関数になって
テイラー展開すれば放物線になります

[@yu_yu_yy]

使用されてるノートみたいなソフトは何というのですか？
とても使いやすそうです

[@sugaku_kyoshitsu]

ConceptっていうiPadのアプリです