首頁 > 新聞 > 社會 >
重視聊天機器人背後的語言知識與倫理
2022-12-14 08:49 作者:饒高琦 來源:光明日報 VIEW:
人工智慧所涉任務眾多,語言智能卻越來越成為方法、技術、應用方面的領先領域。正如聊天系統對自己的介紹:「我是一個語言模型。」該系統得以駕馭極其廣泛的知識內容,來自對互聯網文本內容的獲取和「理解」,進而形成了自己的「知識體系」。其中所涉技術十分複雜,但它的成功無疑以十分直觀的方式向我們展示了語言之於人類知識乃至人類思維的重要性。人工智慧的核心在於知識的獲取、表示和運用,語言無疑是其中關鍵。教科書上「語言是人類最重要的思維工具」「人類九成的知識由語言承載」的論斷在人工智慧系統的應用上得到了淋漓盡致的展現。知識和思維的承載物是語言,因而也賦予語言無可替代的資源屬性。智能技術的發展和落地,頻繁向傳統語言學的教育和研究發出信號:構建語言資源、挖掘語言中的知識、探索語言知識的形式表達,是最切中數字社會命脈的發展方向。
當然,正如過去幾十年中任何一項智能技術的成熟落地一樣,聊天系統也引起了一波「失業潮」的輿論。這樣的擔心實不必要。過去幾十年裡,智能技術成熟引起的「失業潮」幾乎從未出現,短期內或許會攪動局部行業,但長期來看卻相反。技術應用本身也催生了大量新崗位,例如聊天系統的研製本身依賴於海量的人工數據標註和反饋,數據標註師和測試員崗位需求巨大。
更深層次來看,與聊天系統強大的語言生成能力不匹配的是它對知識的真正掌握程度。大量模棱兩可乃至錯誤的資訊混雜在流暢的對話中,反而令其更加難以被發現。誠如清華大學馬少平教授所說:「人工智慧最大的問題是不知道自己不知道什麼,也不知道自己真知道什麼,什麼問題都能回答,結果如何就不得而知了。」在一般性知識極易獲取,複雜知識參差不齊的背景下,人類專家的專業判斷力和經過思考加工的準確回答,更顯彌足珍貴。人工智慧諸多技術「黑箱」帶來的不確定性,終究還需要人類專業、全局判斷來化解。從這個層面上講,「自知」的人類永遠不可或缺。
也恰恰因為技術「黑箱」的存在,人類才需要不斷從自身、從技術去尋求可靠、可信的技術和技術使用方式。可信的人工智慧、可信計算成為融合技術、倫理的重要領域,並受到越來越多的重視。更宏觀的人工智慧倫理和治理工作也早已被納入科技管理的視野。挽救「失足系統」,矯正「智能體歧視」也許不再是比喻,而將成為使用者、從業者和治理者都必須面對的問題。
(作者:饒高琦,係北京語言大學漢語國際教育研究院助理研究員)
- 責編:
- 臺鐵產工至交部陳抗 籲重視安全及員工3大訴求 2022-09-16
- 自主移動機器人聯盟安全標準 出爐 2022-08-28
- 張峻議長重視鳳林社區與居家安全品質 爭取路口監視器不停歇 2022-08-12
- 台首大師生高喊反戰口號 籲重視婦幼生命權 2022-03-09
- 聯邦快遞自動送貨機器人Roxo 日本亮相 2021-07-09
- 羅惠群:政府應重視救災人員的心理照顧 2021-04-13
- 雲科大智慧型機器人菁英人才訓練基地揭牌 2020-07-30