證券時報
胡可
2025-03-12 23:25
3月9日上午，全國人大代表、科大訊飛董事長劉慶峰在安徽代表團駐地接受證券時報記者采訪，分享了他對于如何破解AI幻覺難題的看法。
劉慶峰表示，實際上，通用大模型的底座能力在生成的過程中，其技術(shù)本來是基于概率驅(qū)動的，浮點參數(shù)基于整個概率網(wǎng)絡(luò)來計算出來，從基本原理上來說，多少都會存在幻覺。
為破解AI幻覺難題，可采取多重路徑。劉慶峰向證券時報記者表示，一方面，可以通過聯(lián)網(wǎng)的在線實時搜索，補充AI（獲取的）最新動態(tài)信息，以減少大模型自己創(chuàng)造出的各種幻覺案例和數(shù)據(jù)。
另一方面，可以外掛企業(yè)或者各行業(yè)的專業(yè)知識庫。“這個知識庫不僅是經(jīng)過專業(yè)地把關(guān)、整理出來的，而且是每天動態(tài)更新的?！眲c峰認(rèn)為，把聯(lián)網(wǎng)的實時搜索功能和專業(yè)的數(shù)據(jù)庫的動態(tài)外掛整合到AI大模型搜索中，就可以很好地解決Ai的幻覺問題。
同時，劉慶峰認(rèn)為，要解決AI幻覺難題，還需要具備很好的自然語言理解能力，要讓用戶（自主）勾選要不要用搜索（功能），要不要用專業(yè)知識庫。
對于如何構(gòu)建一個動態(tài)的自我更新的大模型，用在司法、教育、醫(yī)療以及工業(yè)科研場景。劉慶峰向證券時報記者表示，需要在現(xiàn)有大模型下做各種配套的專業(yè)子模型，形成“通專結(jié)合”，而且這個模型需要有一整套數(shù)據(jù)清洗和自動掛件的工具，這非常關(guān)鍵。
在應(yīng)用的過程中，劉慶峰強調(diào)，還是需要人機協(xié)同，尤其是在一些重大敏感的領(lǐng)域，不能完全由機器獨立完成，必須通過人和機器協(xié)同操作。
“比如說在醫(yī)療領(lǐng)域，人工智能不是用來替代醫(yī)生的。它是給醫(yī)生提供會診幫助的，如果一位醫(yī)生電子病歷寫得對，看病看得對，開藥開得對，就可以視同這些AI系統(tǒng)不存在，可一旦有爭議、有問題，我們的系統(tǒng)就會跳出來彈窗、標(biāo)紅，從而使得每個患者都有一個（AI）醫(yī)生在把關(guān)?！眲c峰告訴證券時報記者，AI也可以把好醫(yī)生的能力延伸到家庭，讓每個人可以通過打電話等形式實現(xiàn)“慢病管理”，家庭醫(yī)生隨時可以“前往”。
劉慶峰認(rèn)為，未來的趨勢一定是人機協(xié)同的。
“當(dāng)然我們也要看到，即便是人，他也很難做到百分百準(zhǔn)確，比如要考上一本院校，并不需要考滿分。我們的國家執(zhí)業(yè)醫(yī)師考試，滿分600分，360分就是合格分?jǐn)?shù)線，并不是考滿分的人才能在各種場合（展業(yè)），無論是翻譯、律師，還是公務(wù)員考試，都沒有要求滿分，所以我們對AI也要有合理的認(rèn)知和預(yù)期?！眲c峰表示，在對AI有合理預(yù)期的同時，他相信AI在很多領(lǐng)域已比專業(yè)的、經(jīng)過訓(xùn)練的博士做得好，但是AI不是用來替代人的，它應(yīng)該是人機協(xié)同的情況下，來提高未來的工作效率，提高工作質(zhì)量的，特別是在一些危險的崗位上，根本不適合人來作業(yè)的，可以讓AI去完成。
校對：李凌鋒
