未來智能：人有人用，機有機用
http://www.debgrams.com 2021-05-07 11:15 來源：中國自動化學會專家咨詢工作委員會
當今最好的人工智能程序到底有多智能？它們是如何工作的？能做些什么？我們有必要擔心機器比人類聰明且將很快奪取我們的工作嗎？以上這些問題都頗受人們的關注，美國波特蘭州立大學計算機科學教授梅拉妮·米歇爾的人工智能新著《AI 3.0》以最合適的方式給出了以上問題的答案。
這是一本以獨特的方式觀察、分析人工智能的優秀著作，不但巧妙地把創造歷史的人物與改變世界的技術交織起來，而且深入淺出地介紹了人工智能的發展歷史及其未來的前進方向。正如本書英文版的副標題A Guide for Thinking Humans所示，這是一本為思考的人類而準備的著作，值得每位想要弄清人工智能的影響與意義的專業或非專業人士認真地閱讀并思考。
初見梅拉妮·米歇爾之名，還是20世紀80年代末研究她與美國科學家侯世達關于類比推理的開創性程序“Copycat”（拷貝貓）時，只因其與當時主流的認知推理方法相去太遠，就沒有再深入地研究。
20世紀90年代我參加圣塔菲研究所（SFI）的研討時，與她雖有交集，但無深入交流，不過對她的遺傳算法著作An Introduction to Genetic Algorithms印象深刻，她不愧為遺傳算法之父約翰·霍蘭德教授的高足。
21世紀初，我在就任中國科學院自動化研究所復雜系統管理與控制國家重點實驗室主任之后，一直想寫一本關于“復雜性科學”的科普書，此時又與米歇爾的《復雜》不期而遇。粗讀之后，我認為暫時沒有必要再寫一本關于復雜性科學的科普書了，因為很難超越她的水平。
《AI 3.0》以侯世達在谷歌的一次內部研討會上表示自己被人工智能的快速發展“嚇壞了”開篇。更具體地說，侯世達是被“音樂智能實驗”的優美創作嚇壞了，他曾這樣說道：“我被EMI嚇壞了，完全嚇壞了。我厭惡它，并感受到了極大的威脅——人工智能對我最珍視之人性的威脅。我認為EMI是我對人工智能感到恐懼的最典型的實例。”
侯世達是米歇爾的導師，亦是《哥德爾、艾舍爾、巴赫：集異璧之大成》一書的作者。我曾聽說過他對人工智能的擔憂，但當時不以為然，一個對人工智能了解如此之深、認識如此之深刻的學者不應過度害怕智能技術。作為一個堅信人工智能只是一項技術，不會主動侵害人類的科技工作者，我當時覺得這可能是由于侯世達遠離科研一線太久或年紀增長的原因。
但是，書中侯世達的自白，讓我認識到我的猜測不對，真正的原因在于音樂在他的心里有著一種十分神圣甚至神秘的地位。
米歇爾在書中也提到了侯世達與EMI第一次相遇時所說的話：“從孩童時期開始，音樂就令我心潮澎湃，并能將我帶入它最核心的地方……然而，對最淺顯的音節排序進行模式操縱，卻能夠產生聽起來仿佛來自人類內心的音樂，一想到這里，我就非常非常不安。”
在《哥德爾、艾舍爾、巴赫：集異璧之大成》一書的最后，侯世達曾列出關于人工智能的“十大問題和猜想”，其中第一個就是關于音樂的。那時他認為計算機可以譜寫出優美的音樂，但并不會很快實現，因為音樂是一種關于情感的語言，在程序能夠擁有我們人類所擁有的這種復雜的情感之前，它絕無可能譜寫出任何優美的作品。
討論完對人工智能的“恐懼”之后，再來看看人工智能對人類工作的沖擊。近年來，在這方面總有許多令人擔憂的言論，如“機器取代人”“人工智能將使50%~70%的人失業”，有些世界著名的科學家和企業家甚至聲稱人工智能的興起意味著人類文明的終結。關于人工智能是否會導致人類大規模失業，作者在本書中做了許多論述。
正如哲學家黑格爾所揭示的，歷史給我們的教訓是，人們從來都不知道汲取歷史的教訓。
人類在過去100多年內至少經歷了三次這種擔心，這就是“老”“舊”“新”三次IT變革。當年，人們對老IT（工業技術）的擔心遠大于今天我們對新IT（智能技術）的擔心。在工業革命的發源地英國，紡織工業誘發“羊吃人”現象，女王擔心機器的大規模使用將使她的臣民變成乞丐，民眾更是揭竿而起，干脆一把火將機器燒了。
70多年前，諾伯特·維納的控制論和數字計算機的出現開啟了舊IT（信息技術）的變革，又一次引發社會對機器取代人類工作的擔心。為此，維納還發表了《人有人的用處》來專門討論這一問題，其中特別強調“信息永遠不能取代啟迪”。
啟迪是語言和想象的核心功能，因此機器及其生產的代碼與信息根本無法取代人類，而且，計算機還為“機器取代人”做了一個絕好的說明。20世紀50年代之前，英文中“computer”一詞其實是指從事計算工作的人類，但今天作為機器的“computer”已經完全代替了作為人類的“computer”；然而，被稱為“computer”的機器，不但沒有使人類大規模失業，而且還為人類創造了更好、更多的新工作，比如程序員、架構師、算法工程師、網絡管理員，等等。
事實勝于“恐”辯，盡管機器可能造成一定程度的短暫的社會錯位，使一些人失去工作，但不會造成人類的大規模失業，相反，機器能夠創造出更多、更好、適合人類的工作，推動社會進步。
40多年前，侯世達提出的問題和猜想，吸引了年輕的米歇爾轉行隨其學習和研究人工智能。現在，米歇爾在本書的結語中也提出了當下人工智能領域備受關注的六個問題及其答案或推測，這本質上也是對未來智能技術發展的探討與期望。
在此意義下，將本書中文版命名為《AI 3.0》也算合理。我個人更是堅信，人工智能必須從長期占據主導地位的邏輯智能（AI 1.0）和近20年來作為主力的計算智能（AI 2.0），向人機混合、虛實交互的平行智能（AI 3.0）邁進。
未來的智能科技，必須將人以新的方式置于核心地位，切實落實“人有人用，機有機用”的根本原則。
英國政治哲學家和經濟學者弗里德里希·哈耶克曾說：“科學走過了頭，自由將無容身之地。”同理，智能越過了界，人性將無處安身。
如何保證人工智能不越界？根據廣義哥德爾定理，我們不是不相信智能技術，我們只是不相信智能技術背后的人類。因此，人工智能的合法合規，必須依靠人類本身的文明和法制保證，智能科技只能起輔助作用。
編輯精選
