“以數(shù)據(jù)安全挑戰(zhàn)為例，大模型在訓(xùn)練、推理、使用過(guò)程中涉及海量數(shù)據(jù)，通過(guò)數(shù)據(jù)投毒、數(shù)據(jù)污染等手段，會(huì)使大模型輸出背離主流價(jià)值觀或包含事實(shí)性錯(cuò)誤的內(nèi)容。一些不法分子還會(huì)借助提示詞注入、劫持、爬蟲(chóng)等手段，竊取大模型用戶重要信息、敏感數(shù)據(jù)?！饼R向東稱。

bob安卓官网齊向東表示，以大模型為核心的人工智能技術(shù)是創(chuàng)新范式變革與產(chǎn)業(yè)升級(jí)的關(guān)鍵引擎，然而技術(shù)躍升與安全風(fēng)險(xiǎn)始終伴生演進(jìn)。人工智能大模型面臨四大安全挑戰(zhàn)，包括數(shù)據(jù)安全挑戰(zhàn)、應(yīng)用安全挑戰(zhàn)、基礎(chǔ)環(huán)境安全挑戰(zhàn)和大模型自身安全挑戰(zhàn)。

齊向東建議，從技術(shù)層面全面排查加固人工智能大模型基礎(chǔ)設(shè)施，構(gòu)建大模型紅域，打造適用于人工智能的縱深防御體系，形成覆蓋終端、應(yīng)用、數(shù)據(jù)、大模型、算力與基礎(chǔ)設(shè)施的多維度核心防護(hù)能力。同時(shí)，給予威脅情報(bào)、大網(wǎng)數(shù)據(jù)監(jiān)測(cè)等情報(bào)賦能，有效抵御針對(duì)大模型的新型攻擊和惡意訪問(wèn)，實(shí)現(xiàn)“對(duì)外防攻擊、對(duì)內(nèi)防內(nèi)鬼”。