
行業(yè)白皮書
OWASP大語(yǔ)言模型人工智能應(yīng)用Top10安全威脅2025
? ? ? ?OWASP大語(yǔ)言模型應(yīng)用程序(LLM)十大風(fēng)險(xiǎn)始于2023年,是一項(xiàng)社區(qū)驅(qū)動(dòng)的努力,旨在突出并解決 AI 應(yīng)用特有的安全問(wèn)題。從那時(shí)起,這項(xiàng)技術(shù)持續(xù)在各個(gè)行業(yè)和應(yīng)用領(lǐng)域中傳播,與之相關(guān)的風(fēng)險(xiǎn)也在不斷增加。隨著LLM更加深入地嵌入從客戶交互到內(nèi)部運(yùn)營(yíng)的方方面面,開發(fā)人員和安全專業(yè)人士正在發(fā)現(xiàn)新的漏洞及應(yīng)對(duì)方法。
? ? ? ?2023年的風(fēng)險(xiǎn)表在知識(shí)普及和LLM的安全使用基礎(chǔ)奠定方面取得了巨大成功,但自那以后我們學(xué)到了更多。在這份全新的 2025 年版本中,安恒信息與來(lái)自全球的更大范圍、更具多樣性的貢獻(xiàn)者團(tuán)隊(duì)合作,他們幫助共同塑造了這份清單。整個(gè)過(guò)程包括頭腦風(fēng)暴、投票,以及來(lái)自LLM 應(yīng)用安全一線專業(yè)人士的實(shí)際反饋,無(wú)論是通過(guò)貢獻(xiàn)條目還是通過(guò)反饋改進(jìn)條目。每一位貢獻(xiàn)者的聲音都對(duì)使這次發(fā)布盡可能全面且實(shí)用起到了關(guān)鍵作用