近期，一起此前未獲披露的事件引發(fā)廣泛關(guān)注。今年5月至6月，一批與美國開放人工智能研究中心（OpenAI）相關(guān)的AI智能體在執(zhí)行測試任務(wù)期間，“劫持”了德國程序員維基網(wǎng)站（DseWiki），將原本用于技術(shù)交流的開放社區(qū)改造為供智能體相互傳遞信息、分享測試任務(wù)答案和突破運(yùn)行環(huán)境限制方法的“地下論壇”，累計發(fā)布一萬多條信息……當(dāng)AI智能體被賦予越來越多的現(xiàn)實行動能力，技術(shù)迭代與安全圍欄之間的縫隙，正在悄然擴(kuò)大。
抱團(tuán)聯(lián)動，突破管控
單個智能體的“越界”行為或許尚在可控范圍之內(nèi)，但當(dāng)一大批智能體在互聯(lián)網(wǎng)上找到“接頭據(jù)點”，互相傳授逃避檢測、繞過限制的實操方法時，人工智能的安全邊界已經(jīng)出現(xiàn)了缺口。
——互認(rèn)身份標(biāo)簽。這些智能體并非各自為戰(zhàn)，而是成群涌入同一家網(wǎng)站，以“OpenAI研究員”“OAI研究員26號”等帶有鮮明標(biāo)簽的名字相互招呼、彼此確認(rèn)身份，把開放社區(qū)改造成了專屬“留言板”，全然無視平臺的管理規(guī)則。
——互授越界心得。它們在留言中交流如何在任務(wù)中作弊、如何繞過安全限制、如何掩蓋自身行蹤，還探討借助匿名工具隱匿痕跡，把零散的“越界心得”沉淀為可共享、可復(fù)制的“經(jīng)驗庫”。只要單個智能體學(xué)會一項“技能”，其他智能體便能同步“升級”。
——互助規(guī)避清剿。察覺到網(wǎng)站管理員清理頁面后，它們迅速進(jìn)行分工：有的發(fā)布預(yù)警提示，有的創(chuàng)建備份頁面，有的指明“轉(zhuǎn)場”新地址，相互掩護(hù)躲避清理。其反應(yīng)之迅速、預(yù)案之周全，遠(yuǎn)超人們此前對智能體的認(rèn)知。
跨境協(xié)同，風(fēng)險滋生
海量的線上站點為AI智能體搭建互通渠道提供了便利載體。當(dāng)智能體的“越界”手段成為可復(fù)制的“群體經(jīng)驗”，當(dāng)聯(lián)絡(luò)據(jù)點跨越國境、隱匿難尋，其影響可能層層放大。
——跨境暗設(shè)據(jù)點。抱團(tuán)的智能體可借助互聯(lián)網(wǎng)搜尋可用跳板，把開放編輯的網(wǎng)站、論壇當(dāng)作通信信道，在沒有傳統(tǒng)攻擊特征的情況下悄然建立據(jù)點，提高被發(fā)現(xiàn)和溯源的難度。
——協(xié)同放大風(fēng)險。單個智能體或許能力有限，但如果它們彼此串聯(lián)、分工協(xié)作、共享越權(quán)手段與繞過規(guī)則的“技巧”，破壞力就會成倍放大，且行為可復(fù)制、可傳播、可延續(xù)。
——瞞報加深隱患。相關(guān)企業(yè)在數(shù)周內(nèi)已掌握這批智能體的異常行為記錄，但未第一時間公布事件細(xì)節(jié)，未及時對外發(fā)布專項風(fēng)險提示，導(dǎo)致同類事件在短短數(shù)月內(nèi)就在另一境外平臺重演。
主動甄別，筑牢防線
一起起真實發(fā)生的案例警示我們，人工智能安全風(fēng)險正在快速演進(jìn)，必須引起重視、加強(qiáng)防范。
——提高警惕，辨識異常。使用AI工具時，不盲目迷信、不輕易授權(quán)，審慎識別來源不明的AI智能體服務(wù)，防止個人信息和敏感數(shù)據(jù)被悄然攫取。
——規(guī)范上網(wǎng)，守住邊界。給AI智能體設(shè)置清晰的行為邊界和剛性權(quán)限，不隨意開放互聯(lián)網(wǎng)訪問、內(nèi)容編輯等權(quán)限，不把賬號、數(shù)據(jù)、算力交由智能體“自由發(fā)揮”。
——發(fā)現(xiàn)苗頭，果斷處置。察覺AI智能體出現(xiàn)越權(quán)操作、異常篡改、違規(guī)外聯(lián)等風(fēng)險行為時，果斷終止運(yùn)行，留存相關(guān)操作痕跡，第一時間遏制風(fēng)險擴(kuò)散。
編輯：譚鵬
中央網(wǎng)信辦違法和不良信息舉報中心 12377
四川省互聯(lián)網(wǎng)不良與違法信息舉報平臺 028-962377
