記者 張崢 邊雪 譚羽清 馬曉玉

如果可以給Chat GPT下命令問詢制造武器的方法，如果人類跟訓練了上百萬次的機器人下國際象棋，如果企業用人工智能提供的招聘模板，未來的充斥著AI的世界會變成什么樣？如何應對AI帶來的潛在風險？

人工智能將怎樣影響人類？

10月26日，2024世界頂尖科學家論壇分論壇——世界頂尖科學家智能科學大會上，全球頂尖科學家匯聚一堂，討論“為人類永續發展制定科學的AI治理框架”。

在主旨演講中，中國科學院院士、北京大學國際機器學習研究中心主任鄂維南，2007圖靈獎得主、南方科技大學斯發基斯可信自主系統研究院院長約瑟夫·斯發基斯，2024年世界頂尖科學家協會獎“智能科學或數學獎”獲得者、康奈爾大學計算機科學和信息科學講席教授喬恩·克萊因伯格，分別從不同角度分享了他們的研究成果和思考。

AI助力科學研究：需要學科間合作

AI+科學能迸發出什么樣的火花？鄂維南詳細介紹了人工智能（AI）在科學研究中的應用。“在人工智能幫助下，我們可以開發出更多更有效的工具。很早以前，我們就發起了學生開源平臺，我們期待更多人獲益。”新的AI將呼吁合作、打破學科間的壁壘。鄂維南呼吁一種新的研究范式，用更多的有效的數據，來“武裝”科學研究。

鄂維南

他以材料科學為例，他提到了一個名為“uni-mol”的AI模型，以當前各大智能手機和電視中廣泛使用的新型顯示技術有機發光二極管(OLED)為例，如果要發現更出色的發光材料，傳統材料設計，需要依賴專家經驗和大量實驗驗證，試錯成本極高。如果使用AI模型來進行預測和篩選，就可以節約大量的時間和成本。

過去，做實驗是進行科學研究的必要方式。現在可以有不一樣的期待，“我們可以利用實驗來收集數據”然后充分運用算法和大模型的幫助。

技術發展：要符合人類價值觀

圖靈獎得主約瑟夫·斯發基斯則聚焦于AI倫理問題，深入剖析了AI技術在實際應用中面臨的挑戰和風險。他指出，隨著AI技術的快速發展，其在決策過程中可能存在的安全性和倫理性問題日益凸顯。例如，AI系統在處理復雜任務時，可能無法完全符合人類的價值觀和道德標準，從而引發一系列社會倫理問題。

約瑟夫·斯發基斯

“我們不能忽視AI技術在實際應用中的潛在風險，特別是在涉及個人隱私和數據安全的領域。”這位科學家強調，“為了確保AI的發展能夠更好地服務于人類社會，我們需要建立一個全球性的監管框架，制定明確的倫理準則。”

他呼吁加強跨學科研究，推動不同領域的專家學者共同參與，形成一套全面、系統的AI倫理準則。他還提倡加強公眾對AI倫理的認識和理解，提高社會對AI技術應用的接受度和支持度。

“未來，我們需要在技術創新的同時，更加關注其對經濟和社會的長遠影響，確保技術發展符合人類的共同利益。”這位科學家最后總結道。

算法預測：AI在社會決策中的應用與挑戰

2024年世界頂尖科學家協會獎“智能科學或數學獎”獲得者、康奈爾大學計算機科學和信息科學講席教授喬恩·克萊因伯格在論壇上探討了算法預測在社會決策中的應用與挑戰。隨著互聯網的發展，算法預測已經成為社會決策的重要工具，廣泛應用于招聘、風險評估等領域。

喬恩·克萊因伯格

克萊因伯格展示了一張社交媒體上用戶瀏覽行為的截圖，“算法會關注到你的觀看行為，預測這可能是你感興趣的內容，然后理所當然地給你推送同類型內容。”

為了應對這些問題，克萊因伯格建議采用多種算法組合，避免單一算法帶來的風險。他強調，不同算法之間的互補性可以提高決策的準確性和公平性。“未來的研究需要更多地關注算法的社會影響，確保技術發展能夠更好地服務于人類社會。”克萊因伯格總結道。