Rating 4.32 out of 5 (206 ratings in Udemy)

• 集合，行列，ベクトルなどの線形代数の基礎
• 連立方程式の解釈と一般化逆行列による解法
• 微分の基礎と勾配ベクトル，ヘッセ行列，ヤコビ行列などの行列
• 3つの微分の実装方法：数式微分，数値微分，自動微分
• 制約なし最適化問題と最急降下法，ニュートン法などの代表的な反復法
• 線形回帰と連立方程式の解法
• 正則化を用いたリッジ回帰，lassoなどの解法
• 制約付き最適化問題と制約条件の考え方
• 疑似逆行列の導出：リッジ回帰，最小ノルム解
• 凸最適化の基礎
• 近接作用素，近接法，近接勾配法，射影勾配法
• 双対上昇法，拡張ラグランジュ法，ADMM
• 超平面による識別の考え方と損失関数
• パーセプトロン，ロジスティック回帰
• サポートベクトルマシンと制約付き最適化問題としての定式化
• 2クラス識別問題と多クラス識別問題
• ニューラルネットワークとロジスティック回帰の関係
• 多層ニューラルネットワークと畳込みネットワーク