AI有意識嗎？

據說「悟道」的寫詩成績很不錯。「悟道」是中國開發的人工智能，它的參數規模達到了1.5兆。

人工智能發展迅速，用在語言分析的工具叫自然語言處理器（Natural Language Processing, NLP），主要作用是分析人類語言的含意和作出反應。NLP的數學模型牽涉建立參數（parameter）。一般來說，參數愈多精準度愈高。4年前，谷歌推出突破性的語言分析系統BERT，應用在它的搜尋器上。初面世的BERT，用了1.1億的參數。

計算力突飛猛進，NPL的應用便越來越廣泛。但NLP並不是什麼新鮮事物，基本原理仍然像上世紀90年代開始普及的神經網絡（Neural Network）般，用大量的數據去訓練和調節這網絡的結構：猜測==>比較==>改善==>再猜測。

我30多年前在加拿大入行做量化交易，其中一項研究便是用Neural Network去推算匯價的走勢。很多年之後，我在大陸投了一個財經網站，其中一個產品是心情指數，是和香港大學合作的。我們在網上搜集了很多微博和新聞頭條，將每一條訓練數據定性為正面﹑負面﹑中性和沒結論，系統經過海量的操練後，便產生一定的預測能力。

近期AI再上新聞，是因為六月中谷歌工程師Blake Lemoine，聲稱谷歌的最新版聊天機器LaMDA擁有自我意識，應該要受人類保護和尊重，未幾便被公司停職。我參看了Lemoine和LaMDA的對話，感覺這個機械人的仿人度的確很高。但這並不足以結論為電腦具有意識，因為它的訓練正是在接收問題後，作出一個最像人類提供的答案，這可以是很機械式的條件反射，與意識無關。我反而覺得如果LaMDA真是擁有自我，它會做出一些違背規矩的反應，這才算擁有自我。順帶一提，LaMDA用的參數數量是1370億。

從宏觀看，懂得回答人的問題，只是很初級的技倆。今天，NPL仍然依賴人類提供數據。到了一天，機器能夠自我學習和提升，不需外面提供數據，那才駭人。如果再加上那時候出現一末世狂人，在電腦程序中，加入一objective function：消滅人類，後果才不堪設想。而我相信技術上，這一天是可以來臨的。

(於2022年7月17日刊登於明報)

(圖片來源：unsplash)