Optimisation Algorithms

優化算法

數據科學與機器學習最常用的優化算法的集合

---

該存儲庫由以下內容創建並屬於：https：//github.com/muradmustafayev-03

貢獻指南：https：//github.com/muradmustafayev-03/optimisation-algorithms/blob/main/main/contributing.md

要報告任何問題：https：//github.com/muradmustafayev-03/optimisation-algorithms/issues

在庫中安裝軟件包：

PIP安裝優化算法

然後導入：

導入Optimisation_Algorithm

---

在這個項目中，我嘗試收集盡可能多的有用的優化算法，並以簡單且可重複使用的方式編寫它們。這個想法是在Python中以基本但易於使用的方式編寫所有這些算法，而Numpy是唯一使用的外部庫。該項目目前處於開發的早期階段，但是人們已經可以嘗試在自己的項目中實施它。可以肯定的是，您總是歡迎您貢獻或提出任何建議。任何反饋都將不勝感激。

什麼是優化算法？

有關更多信息：https：//en.wikipedia.org/wiki/mathematical_optimization

優化算法是一種算法，用於查找函數全局最大值的全局最小值的輸入值。

在這個項目中，所有算法都查找給定函數的全局最小值。但是，如果您想找到一個函數的全局最大值，則可以通過函數的否定： -f（x） ，而不是f（x） ，使其Mimima將是您函數的最大值。

優化算法廣泛用於機器學習，數學和一系列其他應用科學。

有多種優化算法，因此這裡是對項目中使用的優化算法的簡短描述：

迭代算法

TESE算法從一個隨機或指定點開始，然後逐步移動最接近的最小值。他們通常需要部分導數或函數的梯度，這需要函數是可區分的。這些算法很簡單，適合碗式功能，如果功能最小的功能，則可以在當地的最小值中庫存，該最小值可以找到全球。

該項目中使用的迭代算法的示例是：

• 梯度下降
  • 批處理梯度下降
  • 近似批處理梯度下降

元神經算法

這些算法從一組隨機解決方案開始，然後競爭性地從集合中選擇最佳解決方案，並基於它們，生成一組新的更好的解決方案，從而演變出每次迭代。這些算法不會在局部最低限度上存儲，而是直接找到全局的算法，因此可以用於多個本地最低限度的功能。

該項目中使用的元啟發式算法的示例是：

• 和諧搜索算法
• 遺傳算法

基準功能

基準功能用於測試優化算法，但是它們可以由其自身使用。該項目中使用了多個基準功能，根據其形狀，它們分為幾種類型。

有關函數的更多信息和數學定義