6月10日，OpenAI 首席執(zhí)行官山姆 · 阿爾特曼（Sam Altman）在2023智源大會AI安全與對齊論壇上發(fā)表演講。演講中，阿爾特曼表示，未來十年，通用人工智能（Artificial General Intelligence，AGI）將在幾乎所有領域超越人類的專業(yè)知識，但與此同時，中國、美國和世界各地的研究人員必須共同管理AGI的風險，推進AGI安全是大家尋找共同點的最重要領域之一。

“隨著日益強大的人工智能系統(tǒng)的出現(xiàn)，全球合作的賭注從未如此之高。”阿爾特曼表示，如果不小心，一個旨在改善公共衛(wèi)生結果的人工智能系統(tǒng)很可能出現(xiàn)錯位，提供毫無根據(jù)的建議，從而擾亂整個醫(yī)療保健系統(tǒng)。類似地，為優(yōu)化農(nóng)業(yè)實踐而設計的人工智能系統(tǒng)可能會無意中耗盡自然資源或破壞生態(tài)系統(tǒng)，從而缺乏對長期可持續(xù)性的考慮，影響糧食生產(chǎn)和環(huán)境平衡。

【資料圖】

“不計后果地進行AGI開發(fā)和部署，造成的事故成本會影響到我們所有人。”阿爾特曼認為，首先業(yè)內(nèi)應包容地建立國際規(guī)范和標準，并為所有國家平等使用AGI提供保障。其次，應積極開展國際合作，建立全球信任，以可驗證的方式安全開發(fā)日益強大的人工智能系統(tǒng)。“我不幻想這會很容易，但就像《道德經(jīng)》所言，千里之行，始于足下。”

在阿爾特曼看來，行業(yè)最具建設性的第一步已經(jīng)邁出：與國際科學和技術界合作。在技術進步方面，行業(yè)應該增加透明度和促進知識共享，研究人員如果發(fā)現(xiàn)了新的安全問題，應該站在更大利益層面思考，分享他們的成果。同時，行業(yè)也應該促進對AGI安全研究方面的投資，并積極開展可擴展的監(jiān)督。比如可以嘗試使用人工智能系統(tǒng)來協(xié)助人類監(jiān)督其他人工智能系統(tǒng)。“這樣的好處是它可以隨著人工智能發(fā)展的步伐而擴展，變得越來越智能和有用。”

“我們看到了美國、中國和世界各地的研究人員合作實現(xiàn)共同目標的巨大潛力，并致力于解決AGI發(fā)展中突出的技術挑戰(zhàn)。”阿爾特曼相信，人類將能夠利用AGI來解決世界上最重要的問題，并顯著改善人類的生活質(zhì)量。

來源：北京日報客戶端

流程編輯：u007

版權說明：任何媒體、網(wǎng)站或個人未經(jīng)書面授權許可不得轉(zhuǎn)載、摘編或利用其它方式使用本網(wǎng)站上的文字、圖片、圖表、漫畫、視頻等內(nèi)容。

未經(jīng)許可即使用，或以此盈利的，均系侵害本網(wǎng)站著作權及相關權益的行為，本網(wǎng)站將追究法律責任。

如遇作品內(nèi)容、版權等問題，請在相關文章刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系。

聯(lián)系方式：takefoto@vip.sina.com

關鍵詞：