生成式AI會否成魔？

ChatGPT初出台時，我的反應像一句古老粤語武打片台詞：「見怪不怪，其怪自敗，松柏不凋，金鋼不壞」。但近期看法有了改變，尤其是看了Yuval Harari的新書《Nexus: A Brief History of Information Networks from the Stone Age to AI》後。

首先，讓我轉述一段最近的偽AI新聞。一位國內網民為搏取流量，利用AI生成功能，偽造了著名歌星境外豪賭輸光10億身家的新聞，偽新聞在網上迅速熱傳，多次登上熱門搜榜，雖然涉事歌星多次辟謠澄清，該條新聞仍然被轉發上千萬次。幸好，魔高一尺，道高一丈，內地公安很快便找到元兇，控以擾亂公安秩序罪，但處罰亦不過是行政拘留8日而已。我不禁奇怪涉事的兩名歌星， 會否跟進控告造謠者誹謗，要求補償，抑或大家習慣了網上世界是另一世界的不同的標準。

《Nexus》書裏面提及一個比歌星豪賭輸身家更嚴肅的事件：2016至2017年間，在緬甸的羅希亞人遭緬甸軍民屠殺事件。據Harari所述，當日臉書（Facebook）的程式煽動了不少緬甸佛教徒，攻擊信奉回教的羅希亞族。臉書的程式本身沒有政治或宗敎立場，但它被人類賦予的使命是增加用户的粘性。因为受關注度高，臉書便將一宗羅希亞獨立組織對政府的小規模攻擊，重覆地輸送給用户。事後，2018年聯合國一份報告提到，極端分子利用臉書宣傳仇恨和分裂，臉書後來承诺調整主動推銷的算法。

媒體的首要責任是傳遞真相，但今天很多傳媒，創新的也好，傳統的也好，都以經營流量為目標，而放棄「第五權力」求真的天生責任。

Harari指出：他不是反AI，而是要求人類给AI設定目標時，要很小心，而且不應該將決策權完全下放給電腦程式。舉一個例子，如果你告訴AI你要將整個人類的健康最大化，那麼AI是否有權將一些長期病患或復原機會很低的病人消滅呢？AI一旦偏離人道，便會成魔。

(於2025年3月23日刊登於明報)

(圖片來源：灼見名家)