人工智能的極限是一個哲學問題，在這個問題沒有解決之前，計算機是否可能比人聰明都是空談。人類智能的另一個說法就是智慧，智慧到現(xiàn)在為止依然是一個無法定性和計量的東西，智慧的生成、演進、轉(zhuǎn)移和儲存都是遠遠沒有解決的問題。智慧更有顯性和隱性兩部分，顯性智慧由各種成文的知識和思想方法組成，復(fù)制顯性智慧至少在理論上是可能的。但隱性的智慧充滿“只可意會不可言傳”的東西，連描述都困難，更談不上復(fù)制或者超越。智慧不是知識的堆積，具有海量的數(shù)據(jù)庫和閃電般的快速檢索并不能繞過知識的堆積不等于智慧這個障礙。面對同樣的數(shù)據(jù)，不同的人會做出不同的反應(yīng)，人工智能要超越的是誰的智能？另外，人類智能本身也在不斷演進，人類智能的一大特點就是會有階躍性的突變，每一個科技發(fā)明和人文概念都是人類智能突變的結(jié)果，理解和認識這種突變機制本身就需要人類智能的一個突變。人工智能要復(fù)制和超越人類智能，就像兔子要吃懸吊在鼻子前的胡蘿卜一樣。
如果人工智能極限是一個哲學問題，在實踐中是否可以不去理睬他，直接用越來越快的計算機挑戰(zhàn)人工智能極限呢？換句話說，哲學問題對人工智能實踐有沒有實質(zhì)性的指導意義呢？自動控制理論比計算機和人工智能先行，很多東西可以借鑒。早期控制理論使用輸入-輸出模型，但60年代卡爾曼提出狀態(tài)空間理論，用狀態(tài)方程建立全新的模型，更加深刻地揭示了動態(tài)系統(tǒng)的本質(zhì)，并且把線性/非線性、定常/時變、確定性/隨機、單變量/多變量理論放到統(tǒng)一的架構(gòu)之下。同時，狀態(tài)空間也第一次觸及可控性概念。如果用舞龍作比方，龍頭和龍尾好比系統(tǒng)的輸出和輸入，龍身里的每一個人好比系統(tǒng)的狀態(tài)變量。龍尾的人可以通過搭在前一個人身上的手傳遞控制信息，最終使得龍頭擺到規(guī)定的位置。但如果龍身中間有幾個人偷懶，手沒有搭在前一個人的身上，那這個“斷鏈”再往龍頭方向的所有狀態(tài)就不可控，不管后面的人如何軟硬兼施。換句話說，對于不完全可控的系統(tǒng)，控制系統(tǒng)設(shè)計得多精巧都不可能控制所有的狀態(tài)?？煽匦允且粋€跨不過去的坎。人工智能的極限是什么？這個問題最終是繞不過去的。這不是茶余飯后啜牙花的談資，而是和永動機一樣，關(guān)系到有意義的科學突破還是無意義的沖撞南墻。
就更具體的自學習系統(tǒng)而言，自動控制理論里也有比照，這就是早就出現(xiàn)的模型參考尤其是自校正控制，這可以說是入門級的自學習系統(tǒng)。這些概念在上世紀60、70年代就提出，也曾經(jīng)使人們大為振奮。自動控制理論的一個關(guān)鍵難點在于擁有形式合適而且精確可靠的動態(tài)數(shù)學模型，但對于大多數(shù)工業(yè)過程，這個模型難以獲得，所以早期的控制理論常常停留在空談的層次。自校正控制把在線辨識和最優(yōu)控制相結(jié)合，一面實時校正數(shù)學模型，一面根據(jù)最新更新的數(shù)學模型實時調(diào)整控制策略，這不就解決了缺乏數(shù)學模型的問題了嗎？實際上沒有，這只是把問題的復(fù)雜性轉(zhuǎn)移到另一個層面上去了。
在線辨識需要過程處于動態(tài)中，死水一潭是無法辨識過程特性的，只有牛鬼蛇神紛紛出動，才能辨識出過程的真實特性。但辨識的目的是形成最優(yōu)控制，也就是最終把牛鬼蛇神統(tǒng)統(tǒng)鎮(zhèn)壓下去。但牛鬼蛇神都鎮(zhèn)壓之后，在線辨識就要瞪大眼睛無事生非，沒有牛鬼蛇神也草木皆兵造出幾個來，導致模型失真，真有牛鬼蛇神再露頭的時候就容易發(fā)生過程失控。這個問題有很多就事論事的辦法，但沒有能從本質(zhì)上解決的，最終導致又一個美好理論喪生于實踐的巖壁腳下。人工智能的自學習是否會遇上同樣的問題，可以肯定的是，自學習在學習實際過程的時候，本身也需要人們對自學習的理論和應(yīng)用進行學習。這就像自動控制避免了學習簡單勞動的必要，但增加了理解、掌握和支持自動控制硬件、軟件和控制算法的要求。對于復(fù)雜過程的控制，最終取決于對過程本質(zhì)的實質(zhì)性理解，而不是用投機取巧的數(shù)學方法繞過學習,這只有來自對實際過程的深入理解。另一方面，對自學習和工具本身的學習成為額外的學習要求。這就是自學習不可能成為懶人福音的道理。
數(shù)學救不了懶人還有另一個例子。傳統(tǒng)數(shù)學模型有一個公式，形式可以很復(fù)雜，可以有很多方程聯(lián)立，可以是代數(shù)方程和微分方程的混合，并加入隨機等其他復(fù)雜性因素，但這種傳統(tǒng)數(shù)學模型能夠描述的現(xiàn)象受到具體方程形式的限制。在研究人類智能的過程中，人們提出神經(jīng)元的數(shù)學模型。這是一個簡化的模型，但把很多這樣的簡化模型組網(wǎng)連接起來，可以描述高度復(fù)雜的現(xiàn)象。然而，神經(jīng)元網(wǎng)絡(luò)本身依然在數(shù)學或者計算上相對簡單。神經(jīng)元網(wǎng)絡(luò)出現(xiàn)后，很多人以為這是終極數(shù)學模型，只要有足夠多的數(shù)據(jù)，包括進所有的變量，從此可以把世界上所有復(fù)雜現(xiàn)象一網(wǎng)打盡。
在學究們還在顫顫巍巍地刺探神經(jīng)元網(wǎng)絡(luò)的數(shù)學特征的時候，已經(jīng)有人把他用于股票預(yù)測、市場預(yù)測和其他來錢的名堂，結(jié)果沒有懸念：沒戲。數(shù)學模型的生命力不在于對過去的解釋，而是在于對未來的預(yù)測。社會經(jīng)濟系統(tǒng)是一個復(fù)雜反饋系統(tǒng)，人類行為在歷史和現(xiàn)狀影響下會有所調(diào)整，而調(diào)整的方式不是對過去類似現(xiàn)象的簡單重復(fù)，而是會因人因時因事而異。在沒有理解人類行為的本質(zhì)之前，歷史的分析可以作為借鑒，但不能由歷史簡單預(yù)測未來，這是人們早已熟知的道理，用眼花繚亂的數(shù)學模型也不能改變這一事實。自學習是數(shù)學的一個分支，數(shù)學是對現(xiàn)實的抽象，但不下功夫理解現(xiàn)實，抽象就成了無源之水、無本之木，必定要誤入歧途。
那么自動化可以救美國的再工業(yè)化嗎？自動化是一個工具，這個工具是要人來使用的。換句話說，這是一個力量倍增器，但基數(shù)是人，美國再工業(yè)化的關(guān)鍵還是人。美國的人力資源問題是另外一個話題，但想繞過美國人力資源的現(xiàn)實，用自動化來創(chuàng)造奇跡，這條路是走不通的。這是一個無法回避的事實。