AI的道德風險

Open AI的共同創辦人兼首席科學家Ilya Sutskever最近另起爐灶，創立一家人工智能公司，目標是建設安全的超級智能，不受制於短期的商業目標，公司名稱是Safe Superintelligence Inc (SII)。

Open AI的初衷是一非牟利機構，它的種子投資人(特斯拉的)馬斯克的說法, 亦是如此。後期的公司業務發展需要大量的數據和運算力，Open AI的行政總裁Sam Altman因此和微軟越走越近，引致和原來的董事局決裂。Altman得到大部份工程師的支持，因為團隊希望付出的努力，能夠早點因為公司上市或被收購而套現。Altman強勢回朝之後，Open AI完全走上商業化的道路。兩方陣營今天仍然對罵不斷，Altman指責馬斯克當初亦是支持Open AI追求利潤的。

今天的跨國科技公司，絕對勢可敵國。亞馬遜2024年估計資本開支高達600億（美元，下同）。投放最多研發的首4家美國科技公司： 亞馬遜、Alphabet（谷歌）、微軟、Ｍeta（面書），估計未來5年會總共投放天文數字的1萬億。

今天，科技巨企擁有的客戶和資本都是嚇人的，自然惹來政府的關注。史上，沒有一個政府會容忍一個團體或公司擁有的權力比它更大，這心態不是共產黨獨有。在中國，阿里、騰訊、京東、滴滴出行，都是因此被打壓。在西方，蘋果、谷歌和更早時期微軟被政府重罰，亦是如此。大家還記得2019年， 面書想推出自家的虛擬貨幣Libra，很快便被美國國會勸停。

上月，谷歌被美國法院裁定違反反壟斷法，美國聯邦政府控告Alphabet每年花百億計美元，收買手機商及瀏覽器公司預設Google為搜尋器。這次判決是美國政府打擊科技巨頭的首次重要勝利，Alphabet表明會上訴，如果上訴失敗，最壞的結果是Alphabet會被分拆。

政府的監控早已經不只是敲門，而是早已登堂入室，微軟的創辦人蓋茨給他的後輩朱克伯格的提點是: 「我後悔沒有早一點在華盛頓設立(說客)辦公室。」

AI是新生事物，怎樣適當地監管AI沒有先例可援。過份的監管會扼殺初生企業的萌長。我個人覺得要保存企業創新的動力，政府可以從安全性、反壟斷和透明度三方面著手。

在政府、科技公司和個人三個主體當中， 我更關注如何保障個人的福利。當然普天下的政府，都會借人民的名義去維護自己的權力，因此要受人民監察，但人民也要有監察政府的權力和智慧，才可以令政府適當地監控科技公司。

(於2024年9月1日刊登於明報)

(圖片來源：灼見名家)