近日，英國《衛報》披露了前OpenAI安全研究員Steven Adler對人工智能（AI）發展速度的深切憂慮。Adler在離開OpenAI后，于社交媒體平臺上發表了一系列文章，分享了自己在前雇主的經歷，并表達了對AI技術飛速進步的擔憂。
Adler特別指出，各大公司對于人工通用智能（AGI）的競相開發讓他感到不安。AGI，即能夠在各種智力任務上達到甚至超越人類水平的系統，被視為AI領域的一個終極目標。然而，正是這種追求，讓Adler擔憂人類的未來。
“當我考慮未來的定居地和退休儲蓄時，我不禁思考：人類是否能見證這一天的到來？”Adler坦言，他對AI的進展感到極度恐慌。這種恐慌并非空穴來風，而是基于他對技術發展趨勢的深刻洞察。
在AI領域，諾貝爾獎得主、“AI教父”杰弗里?辛頓也曾表達過類似的擔憂。他認為，強大的AI系統可能會失控，從而帶來災難性的后果。而meta首席AI科學家楊立昆則持相對樂觀的態度，他認為AI或許能幫助人類避免滅絕。
談及OpenAI的核心目標之一——AGI的開發，Adler表示，這是一場極其冒險的賭博，風險巨大。他指出，目前尚未有任何實驗室能夠有效解決AI對齊問題，即如何確保AI系統遵循人類的價值觀。隨著行業的快速發展，我們可能錯失找到這一解決方案的良機。
Adler進一步警告說，AI行業似乎陷入了一個危險的平衡狀態。他呼吁必須引入真正的安全監管，以防止潛在的災難性后果。“我們越是加速發展，就越難及時找到解決問題的辦法。”他強調道。
Adler還指出，即便有些實驗室希望負責任地開發AGI，但其他實驗室可能會通過減少投入來追趕進度。這種行為不僅可能破壞整個行業的平衡，還可能帶來無法預料的災難性后果。
Adler的言論引發了廣泛的關注和討論。許多人對他的擔憂表示理解，認為AI的發展確實需要更加謹慎和負責任的態度。同時，也有一些人持不同意見，認為Adler的擔憂過于悲觀，忽視了AI技術帶來的積極影響。
