近期，有報(bào)道稱OpenAI的語音轉(zhuǎn)寫工具Whisper存在嚴(yán)重問題，該工具頻繁創(chuàng)造出虛假內(nèi)容，引發(fā)多方關(guān)注。這一問題由多名軟件工程師、開發(fā)人員及學(xué)術(shù)研究人員揭露，并將其稱為“AI幻覺”。

盡管OpenAI已明確警告不宜在高風(fēng)險(xiǎn)領(lǐng)域使用Whisper，但該工具仍被廣泛應(yīng)用于全球多個(gè)行業(yè)，包括醫(yī)療領(lǐng)域。在醫(yī)療機(jī)構(gòu)中，部分機(jī)構(gòu)仍使用該工具記錄醫(yī)患咨詢，引發(fā)專家擔(dān)憂。

實(shí)際案例顯示，Whisper的“幻覺”現(xiàn)象十分普遍。多名研究人員和開發(fā)人員均發(fā)現(xiàn)，在使用Whisper進(jìn)行轉(zhuǎn)錄時(shí)，大量虛假內(nèi)容被創(chuàng)造出來。

對此，OpenAI表示正在研究減少“幻覺”現(xiàn)象的方法，并感謝研究者的發(fā)現(xiàn)。公司承諾將在未來的模型更新中采納相關(guān)建議。