ブロイデン法（ブロイデンほう、英: Broyden's method）は、準ニュートン法の一種。Charles George Broyden が1965年に発表した。 ニュートン法で f(x) = 0 を解く際はヤコビ行列 J をイテレーションの度に使用する。しかしながら、ヤコビ行列の計算は困難かつ...

ン法が1980年に発表され、BFGS法を記憶制限準ニュートン法にした物としてL-BFGS法があり、良く用いられるアルゴリズムの1つである。 SR1法は行列の更新が行列の正定値性を保存しないため、不定値の行列のヘッセ行列に対しても用いることが出来る。またブロイデン法...

数理最適化において、ブロイデン・フレッチャー・ゴールドファーブ・シャンノ法 (英: Broyden–Fletcher–Goldfarb–Shanno algorithm)、略してBFGS法は、非制限非線形最適化問題に対する反復的解法の一つである。 BFGS法は山登り法の一種である、準ニュートン法...

ワーシャル–フロイド法 ワーシャル–フロイド法（英: Floyd–Warshall Algorithm）は、重み付き有向グラフの全ペアの最短経路問題を多項式時間で解くアルゴリズムである。名称は考案者であるスティーブン・ワーシャル（英語版）とロバート・フロイドにちなむ（2人はそれぞれ独立に考案）。フロイ...

AdaGrad - 学習率の自動調整を行う RMSProp Adam 共役勾配法 双共役勾配法 非線形共役勾配法 ニュートン法 準ニュートン法 DFP法 BFGS法 BHHH法 SR1法 記憶制限準ニュートン法 - 大規模（高次元）問題に対応した物 L-BFGS L-BFGS-B -...

ガウス・ニュートン法（ガウス・ニュートンほう、英: Gauss–Newton method）は、非線形最小二乗法を解く手法の一つである。これは関数の最大・最小値を見出すニュートン法の修正とみなすことができる。ニュートン法とは違い、ガウス・ニュートン法は二乗和の最小化にしか用いることができないが、計...

固有値問題に対するべき乗法 ヤコビ法 (固有値問題) 数値線形代数における共役勾配法 二分法 デュラン＝カーナー法 ブレント法 区間ニュートン法 上記アルゴリズムでは、i +1 回目の近似解 xi+1 は直前の近似解 xi のみの関数であるが、これを一般化した不動点反復法または l 点反復法は x i + 1...

混合の方法としては、一つ前の電荷密度と現在の電荷密度を適当な比で混ぜる、単純な混合による方法（線形外挿法とも言う）以外に、アンダーソン法、ブロイデン法、Kerkerの方法などがある。 単純混合の場合、扱う系によって（電子状態計算を収束させるために）混合比に調整が必要である。特...

の最適化であるならば、勾配がゼロである点を見つけ出す一般のニュートン法と同様の定式化となる。また、問題が等式制約のみを持つ場合には、カルーシュ・クーン・タッカー条件（KKT条件）に対するニュートン法と同様の定式化となる。逐次二次計画法はNPSOLやSNOPT、NLPQL、OPSYC、OPTIMA、MATLAB、GNU...

c_{i}(x)} の勾配 g {\displaystyle g} がほとんど0であるということを表している。 式(4)および式(5)に対してニュートン法を用いて ( x , λ ) {\displaystyle (x,\lambda )} を更新していくことを考えると、その更新幅 ( p x , p...

法と同様、ガウス・ニュートン法と勾配降下法とを組み合わせるが、信頼領域を明示的に使用する。各反復において、ガウス・ニュートン法により算出されたステップが信頼領域内にある場合は、それを使用して現在の解を更新する。ガウス・ニュートン法...