邁爾斯?布倫達(dá)奇,OpenAI公司資深員工及AGI Readiness高級顧問,近日宣布將從這家知名AI研究機(jī)構(gòu)離職,轉(zhuǎn)而投身于獨(dú)立的人工智能政策研究。布倫達(dá)奇在OpenAI的六年里,對公司的多個關(guān)鍵部署和安全實(shí)踐產(chǎn)生了深遠(yuǎn)影響。
布倫達(dá)奇表示,他希望從行業(yè)外部推動AI的發(fā)展,并指出離職的主要原因是研究發(fā)布的限制增多,他渴望在人工智能政策討論中發(fā)出獨(dú)立的聲音。
在OpenAI任職期間,布倫達(dá)奇主導(dǎo)了多個重要項目,包括外部紅隊計劃和首個系統(tǒng)卡項目,這些系統(tǒng)卡詳細(xì)記錄了AI模型的能力和局限性。
布倫達(dá)奇離職后,計劃成立一個非營利組織,專注于人工智能政策研究和倡導(dǎo)。他的研究方向?qū)⒑w人工智能進(jìn)展評估、安全監(jiān)管和經(jīng)濟(jì)影響,特別是他所提出的“AI grand strategy”。