2024年圖靈獎公布 獲獎者警示AI安全風險

兩位開創性科學家安德魯·巴托和理查德·薩頓因其在人工智能訓練技術領域的卓越貢獻,榮獲了2024年圖靈獎。他們在領獎之際對目前人工智能開發中的安全隱患表達了深切擔憂。

巴托是馬薩諸塞大學的研究員,而薩頓曾是DeepMind的研究科學家。他們指出,許多人工智能公司在產品尚未經歷充分測試的情況下便急于推向市場,這種做法無異于“建造一座橋,然后通過讓行人使用來測試其安全性”。

圖靈獎被譽為“計算機界的諾貝爾獎”,獎金高達100萬美元。此次巴托和薩頓憑借開發“強化學習”技術而共同獲獎。強化學習是一種通過試錯訓練人工智能系統做出優化決策的機器學習方法。谷歌高級副總裁杰夫·迪恩稱這一技術是“人工智能進步的關鍵”,并且一直是推動人工智能發展的“核心支柱”,包括OpenAI的ChatGPT和谷歌的AlphaGo等突破性模型都受益于此。

在接受《金融時報》采訪時,巴托表示:“在沒有安全措施的情況下向數百萬用戶發布軟件,這并不是良好的工程實踐。工程實踐的演進本應是為了減輕技術可能帶來的負面影響,但我并未看到開發人工智能的公司遵循這一原則。”

人工智能開發的安全性問題早已引起廣泛關注。被稱為“人工智能教父”的約書亞·本吉奧和杰弗里·辛頓也曾對此提出批評,他們同樣是圖靈獎的獲得者。

巴托認為人工智能公司過于“受商業利益驅動”,而忽視了人工智能研究的深入發展。

? 版權聲明
評論 搶沙發
加載中~
每日一言
不怕萬人阻擋,只怕自己投降
Not afraid of people blocking, I'm afraid their surrender