加拿大多倫多大學榮譽教授辛頓(Geoffrey Hinton)有「AI教父」之稱,他在接受日媒專訪時,談及人工智慧(AI)的威脅。他稱,AI會幫助我們解決問題,但也有可能找出不利人類的對策,並試圖「用語言操縱我們」。他還預測,未來10年內將出現「殺手機器人」。

辛頓是「深度學習」(Deep Learning)和神經網路(模仿人腦的數學模型)的先驅,其研究幫助奠定了AI發展的基礎。2023年,辛頓突然從已工作10多年的美國谷歌(Google)辭職,並開始談論AI的風險,憂心AI落入壞人之手。

《日本經濟新聞》22日刊出對辛頓的專訪內容。辛頓表示,如果給AI設定目標,作為解決對策,它可能會找出對人類不利的方法。比方說,假設向AI下達遏制氣候變化的指令,AI會意識到為了達到目的,而有必要將人類清除。他擔心真的會付諸實施的風險。

辛頓指出,今後還可能出現不同的AI相互競爭的局面。例如,如果AI之間發生數據中心等資源的爭奪,這將是一個像生物體一樣推動進化的過程。面對透過競爭變得更聰明的AI,我們人類將落在後面。

他又說,很多人主張,要防止AI失控,只要關掉電源開關就可以。但超越人類智慧的AI可以用語言操縱我們,或許會試圖說服我們不要關掉開關。

辛頓還預測,未來10年內將出現自主殺死人類的機器人武器(殺手機器人)。他說,機器人武器或許遲早也會被限制,但是,這可能要等到真正在戰場上被使用、人類認識到會帶來多麼悲慘的結局後才能實現。

21日,聯合國大會通過首個關於AI的全球決議,旨在管理AI的風險,同時利用其優勢。決議呼籲推動開發「安全、可靠和值得信賴的」AI系統,以促進可持續發展。美國為這項決議的發起國,並獲得中國等120多個聯合國會員國的共提或支持。

決議指出,AI系統治理是一個不斷發展變化的領域,國際社會需要隨著技術發展,持續討論可能採取的適當治理辦法,這些辦法必須以國際法為基礎,使所有人受益。雖然聯大決議不具有法律約束力,但它反映了國際社會的政治共識。

#AI系統治理 #威脅 #GeoffreyHinton #語言操縱 #競爭 #殺手機器人 #風險