近期，一款被戲稱為“龍蝦”的開源智能體項目引發(fā)了持續(xù)熱議，這場由技術(shù)革新引發(fā)的討論浪潮，正從專業(yè)領(lǐng)域向大眾生活滲透。在搜狐科技最新一期《AI十二談》直播中，快思慢想研究院院長田豐與隆安律所全國合規(guī)委副主任陳煥，圍繞智能體安全使用與產(chǎn)業(yè)價值展開深度對話，為公眾提供了兼具技術(shù)洞察與法律視角的參考框架。

“智能體安全與傳統(tǒng)網(wǎng)絡安全存在本質(zhì)差異?！碧镓S指出，當前“龍蝦”類項目面臨三大新型風險：提示詞注入攻擊可能導致系統(tǒng)誤判指令為內(nèi)容輸入，造成數(shù)據(jù)泄露；技能庫審核滯后引發(fā)的技能污染問題，部分惡意技能甚至具備刪除安全日志的能力；用戶過度授權(quán)現(xiàn)象普遍，部分案例中智能體因獲得系統(tǒng)級權(quán)限導致批量文件誤刪。他特別提到meta對齊總監(jiān)遇到的失控事件：“當上下文窗口溢出時，智能體會陷入‘執(zhí)行慣性’，此時物理斷電是唯一有效干預手段?！?/p>

針對安全防護，兩位專家給出具體建議。陳煥強調(diào)數(shù)據(jù)分級管理原則：“賬戶密碼、商業(yè)機密等敏感信息必須脫敏處理，猶豫是否提供的數(shù)據(jù)通常屬于禁止范疇?！碧镓S補充道，普通用戶應優(yōu)先選擇云端部署方案，大廠產(chǎn)品在權(quán)限管理系統(tǒng)和安全審計機制上更具優(yōu)勢。對于堅持本地部署的用戶，他建議使用備用設備并安裝安全插件，同時避免接入攝像頭等可能侵犯隱私的硬件。

在法律責任界定方面，陳煥分析稱，現(xiàn)行法律框架下智能體行為后果主要由使用者承擔?！斑@要求用戶在授權(quán)時保持審慎，通過AI工具了解權(quán)限對應功能，避免超越必要范圍的授權(quán)申請。”他透露，部分開源項目正在開發(fā)安全閾值系統(tǒng)，當檢測到異常操作如批量刪除郵件時，將自動觸發(fā)人類干預機制。

產(chǎn)業(yè)層面，智能體正引發(fā)科技巨頭戰(zhàn)略轉(zhuǎn)向。田豐觀察到，云服務商與AI模型公司成為主要推動力量：“開源特性降低了本地部署門檻，而智能體與大模型的結(jié)合能顯著提升token消耗量，形成商業(yè)閉環(huán)。”據(jù)統(tǒng)計，全球為AI付費用戶不足5%，但使用智能體的群體展現(xiàn)出更強付費意愿，這為產(chǎn)業(yè)變現(xiàn)提供了新路徑。

關(guān)于技術(shù)平權(quán)爭議，田豐將智能體比作“自動化生產(chǎn)線上的福特T型車”：“開源模式讓每個人都能參與創(chuàng)新，這種技術(shù)普惠將重塑生產(chǎn)力格局?！彼A測，未來3-5年智能體使用能力將成為數(shù)字時代基礎(chǔ)素養(yǎng)，不會操作智能體的人群將面臨類似“數(shù)字文盲”的困境。陳煥則從學習曲線角度提出建議：“初學者可從云端版本入手，待技術(shù)門檻降低后再探索本地化部署，現(xiàn)階段更重要的是建立正確的使用認知?！?/p>

這場由智能體引發(fā)的技術(shù)革命，正在重構(gòu)人機協(xié)作邊界。當被問及如何平衡創(chuàng)新與風險時，兩位專家達成共識：既不能因噎廢食拒絕技術(shù)進步，也不應忽視安全防護投入。隨著大廠安全方案的持續(xù)迭代與開源社區(qū)的協(xié)同治理，智能體有望在可控風險范圍內(nèi)，真正成為推動社會效率躍升的關(guān)鍵力量。