文章來源：會(huì)計(jì)雅苑

 

英國(guó)知名會(huì)計(jì)師事務(wù)所德勤（Deloitte）近日同意向澳大利亞政府部分退款，原因是在其受委托編寫的報(bào)告中發(fā)現(xiàn)人工智能“幻覺”錯(cuò)誤。

 

據(jù)報(bào)道，德勤去年受澳大利亞就業(yè)和工作關(guān)系部（DEWR）委托，針對(duì)“目標(biāo)合規(guī)框架”系統(tǒng)進(jìn)行了調(diào)查并發(fā)布相關(guān)報(bào)告。該系統(tǒng)用于追蹤并處罰未按規(guī)定參加面試等活動(dòng)的福利領(lǐng)取者。然而，今年7月發(fā)布的報(bào)告隨后被多方發(fā)現(xiàn)內(nèi)容存在諸多捏造，包括虛假引用、虛構(gòu)引言以及不存在的腳注。外界普遍懷疑這些問題源于AI工具生成內(nèi)容，因而出現(xiàn)了“幻覺”現(xiàn)象。

 

對(duì)此，德勤展開了內(nèi)部調(diào)查，最終承認(rèn)至少部分內(nèi)容由AI生成。最新版本的報(bào)告包含免責(zé)聲明，明確指出德勤在填補(bǔ)“可追溯性和文件空缺”時(shí)，使用了澳大利亞政府Azure OpenAI GPT-4o技術(shù)賬號(hào)的人工智能工具。

 

據(jù)悉，德勤已同意退還部分報(bào)告合同費(fèi)用，該合同總價(jià)值為44萬澳元（約合29萬美元）。有匿名知情人士透露，德勤在內(nèi)部審查時(shí)將錯(cuò)誤歸咎于“人為失誤”，而非AI生成內(nèi)容的質(zhì)量問題。

 

此次事件不僅令德勤不得不承認(rèn)使用AI并承擔(dān)部分責(zé)任，同時(shí)也引發(fā)業(yè)界擔(dān)憂——即使國(guó)際頂級(jí)咨詢公司收取數(shù)十萬美元的報(bào)酬也可能未進(jìn)行原創(chuàng)性研究，而是依賴AI工具生成報(bào)告內(nèi)容。這一案例也為企業(yè)高管敲響警鐘，在制定關(guān)鍵策略或重大財(cái)務(wù)決策時(shí)，需謹(jǐn)慎對(duì)待由咨詢公司AI報(bào)告所提供的信息。

 

 

【文/觀察者網(wǎng) 陳思佳】澳大利亞政府去年與知名會(huì)計(jì)事務(wù)所德勤（Deloitte）簽訂一份價(jià)值44萬澳元（約合人民幣206.4萬元）的合同，委托該公司編寫一份獨(dú)立評(píng)估報(bào)告。然而，專家發(fā)現(xiàn)，德勤今年早些時(shí)候發(fā)布的報(bào)告錯(cuò)誤百出，還引用了一些根本不存在的參考文獻(xiàn)，很可能是生成式人工智能的“幻覺”問題導(dǎo)致的。

 

據(jù)澳大利亞《金融評(píng)論報(bào)》10月5日?qǐng)?bào)道，報(bào)告內(nèi)容遭到質(zhì)疑后，德勤承認(rèn)在編寫報(bào)告時(shí)使用了生成式AI工具，同意向澳大利亞政府退還部分費(fèi)用。德勤已修改報(bào)告中出現(xiàn)的紕漏，但沒有說明錯(cuò)誤與AI有關(guān)，并堅(jiān)稱“報(bào)告中的實(shí)質(zhì)性內(nèi)容、結(jié)果和建議不受影響”。

 

德勤在今年7月發(fā)布了第一版報(bào)告，內(nèi)容涉及對(duì)澳大利亞福利系統(tǒng)中自動(dòng)實(shí)施處罰的信息技術(shù)系統(tǒng)的評(píng)估。但不到一個(gè)月后，悉尼大學(xué)學(xué)者克里斯托弗·拉奇注意到，報(bào)告中存在多個(gè)錯(cuò)誤，包括引用了不存在的學(xué)術(shù)參考文獻(xiàn)和虛構(gòu)的法院判決。

 

拉奇推測(cè)，這些錯(cuò)誤可能是生成式AI的“幻覺”導(dǎo)致的。德勤最初拒絕對(duì)這一問題發(fā)表評(píng)論，但在當(dāng)?shù)貢r(shí)間10月3日，該公司悄悄更新了發(fā)布在澳大利亞就業(yè)和勞資關(guān)系部（DEWR）網(wǎng)站上的報(bào)告，刪除了虛構(gòu)的參考文獻(xiàn)列表，并更正了多處筆誤。

 

德勤沒有說明錯(cuò)誤與AI有關(guān)，但在報(bào)告附錄中承認(rèn)使用了“DEWR許可的生成式AI大語言模型（Azure OpenAI GPT-4o）工具鏈”。德勤堅(jiān)稱，報(bào)告的更新“不會(huì)影響報(bào)告中的實(shí)質(zhì)性內(nèi)容、調(diào)查結(jié)果和建議”，“此事已直接與客戶解決”。

 

DEWR發(fā)言人表示，德勤已同意向澳大利亞政府退還合同的最后一期費(fèi)用，但拒絕透露具體金額。這名發(fā)言人也拒絕回答該部門是否認(rèn)為報(bào)告的錯(cuò)誤與德勤員工使用AI有關(guān)，僅表示“獨(dú)立審查的實(shí)質(zhì)性內(nèi)容將被保留，建議沒有發(fā)生變化”。

 

《金融評(píng)論報(bào)》指出，這起事件將德勤置于尷尬境地，因?yàn)樵摴菊谙蚩蛻艉推髽I(yè)高管提供有關(guān)AI的咨詢和培訓(xùn)服務(wù)。目前德勤每年全球收入達(dá)705億美元，有關(guān)AI的咨詢?cè)谄渲械恼急仍絹碓礁?。德勤還多次強(qiáng)調(diào)，所有AI生成的內(nèi)容都必須經(jīng)過人工審查。

 

盡管德勤和澳大利亞政府堅(jiān)稱報(bào)告的“實(shí)質(zhì)性內(nèi)容”不受影響，但最先發(fā)現(xiàn)問題的拉奇表示，德勤一開始沒有說明使用了AI完成核心分析任務(wù)，這降低了報(bào)告的可信度。

 

拉奇認(rèn)為：“當(dāng)報(bào)告的基礎(chǔ)建立在有缺陷的、最初未公開的且非專業(yè)的方法之上時(shí)，你就不能再相信這些建議。”

 

英國(guó)《金融時(shí)報(bào)》稱，包括德勤在內(nèi)，全球知名的四大會(huì)計(jì)事務(wù)所已為AI研發(fā)投入巨額資金，他們希望利用這項(xiàng)技術(shù)來加快向客戶提供建議和審計(jì)的速度。但德勤這起尷尬的事件，反映出咨詢公司在使用AI技術(shù)時(shí)存在的風(fēng)險(xiǎn)，特別是AI“幻覺”問題的風(fēng)險(xiǎn)。

 

英國(guó)會(huì)計(jì)監(jiān)管機(jī)構(gòu)6月曾警告說，四大會(huì)計(jì)事務(wù)所日益依賴AI和自動(dòng)化工具來進(jìn)行風(fēng)險(xiǎn)評(píng)估，但這些公司并未有效追蹤此類技術(shù)對(duì)審計(jì)質(zhì)量的影響。

 

澳大利亞《金融評(píng)論報(bào)》認(rèn)為，AI技術(shù)的好壞取決于其使用者，如果德勤能夠指派員工對(duì)報(bào)告的內(nèi)容和參考文獻(xiàn)的準(zhǔn)確性進(jìn)行充分的審查，本可以避免這起尷尬的事件。該報(bào)評(píng)論稱：“AI在現(xiàn)代職場(chǎng)中無處不在，但它還無法完美替代人的智慧和判斷。”