作為一個重要的科學分支，它一直受到人們的廣泛重視，并在諸多工程領域得到迅速推廣和應用，如系統控制、人工智能、模式識別、生產調度、vlsi技術和計算機工程等。鑒于實際工程問題的復雜性、約束性、非線性、多極小、建模困難等特點，尋求一種適合于大規(guī)模并行且具有智能特征的算法已成為有關學科的一個主要研究目標和引人注目的研究方向。 20世紀80年代以來，一些新穎的優(yōu)化算法，如人工神經網絡、混沌、遺傳算法、進化規(guī)劃、模擬退火、禁忌搜索及其混合優(yōu)化策略等，通過模擬或揭示某些自然現象或過程而得到發(fā)展，其思想和內容涉及數學、物理學、生物進化、人工智能、神經科學和統計力學等方面，為解決復雜問題提供了新的思路和手段。這些算法獨特的優(yōu)點和機制，引起了國內外學者的廣泛重視并掀起了該領域的研究熱潮，且在諸多領域得到了成功應用。在優(yōu)化領域，由于這些算法構造的直觀性與自然機理，因而通常被稱作智能優(yōu)化算法(intelligent optimization algorithms)，或稱現代啟發(fā)式算法(modern heuristic algorithms)。
為了使系統達到最優(yōu)的目標所提出的各種求解方法稱為最優(yōu)化方法。最優(yōu)化在運籌學和管理科學中起著核心作用。最優(yōu)化通常是極大或極小化某個多變量的函數，并滿足一些等式或不等式約束。最優(yōu)化技術對社會的影響日益增加，應用的種類和數量快速增加。隨著計算機的發(fā)展，一些過去無法解決的復雜優(yōu)化問題已經能夠通過計算機來求得近似解。所以，計算機求解優(yōu)化問題的方法研究也就顯得越來越重要了。對于簡單的函數優(yōu)化問題，經典算法比較有效且能獲得函數的精確最優(yōu)解，但是對于具有非線性、多極值等特點的復雜函數及組合優(yōu)化問題而言，經典算法往往無能為力?；谙到y動態(tài)演化的算法及基于此類算法而構成的混合型算法又可稱為智能優(yōu)化算法。
群智能算法
隨著人們對生命本質的不斷了解，生命科學正以前所未有的速度迅猛發(fā)展，使人工智能的研究開始擺脫經典邏輯計算的束縛，大膽探索起新的非經典計算途徑。在這種背景下，社會性動物(如蟻群、蜂群、鳥群等)的自組織行為引起了人們的廣泛關注，許多學者對這種行為進行數學建模并用計算機對其進行仿真，這就產生了所謂的“群智能”。社會性動物的妙處在于：個體的行為都很簡單，但當它們一起協同工作時，卻能夠“突現”出非常復雜(智能)的行為特征。例如，單只螞蟻的能力極其有限，但當這些簡單的螞蟻組成蟻群時，卻能完成像筑巢、覓食、遷徙、清掃蟻巢等復雜行為;一群行為顯得盲目的蜂群能造出精美的蜂窩;鳥群在沒有集中控制的情況下能夠同步飛行等。在這些自組織行為中，又以蟻群在覓食過程中總能找到一條從蟻巢到食物源的最短路徑最為引入注目。群智能算法作為一種新興的演化計算技術，已成為越來越多研究者的關注焦點，它與人工生命，特別是進化策略以及遺傳算法有著極為特殊的聯系。群智能算法研究領域主要有兩種算法：蟻群算法和粒子群優(yōu)化算法。
蟻群算法：是對螞蟻群落食物采集過程的模擬，已成功應用于許多離散優(yōu)化問題。通過對螞蟻復雜的社會行為的研究.科學家們發(fā)現基于其行為模式的模型可以用來求解復雜的組合優(yōu)化問題。為了解決計算機科學中的最短路徑問題，基于螞蟻行為特征所發(fā)展起來的算法演變成一個被廣泛認可并非常成功的新的研究領域--蟻群優(yōu)化(aco)。
粒子群優(yōu)化算法：起源于對簡單社會系統的模擬，最初是模擬鳥群覓食的過程，但后來發(fā)現它是一種很好的優(yōu)化工具。粒子群優(yōu)化算法(particle swarm optimization,pso)又翻譯為粒子群算法、微粒群算法、或微粒群優(yōu)化算法。是通過模擬鳥群覓食行為而發(fā)展起來的一種基于群體協作的隨機搜索算法。
遺傳算法
遺傳算法是模擬生物在自然環(huán)境中優(yōu)勝劣汰、適者生存的遺傳和進化過程而形成的一種具有自適應能力的，全局性的概率搜索算法。遺傳算法將問題的每一個可能性解看作是群體中的一個個體(染色體)，并將每一個染色體編碼成串的形式，再根據預定的目標函數對每個個體進行評價，給出一個適應值。算法將根據適應度值進行它的尋優(yōu)過程。遺傳算法的尋優(yōu)過程是通過選擇、雜交和變異三個遺傳算子來具體實現的。