AI智能體正從技術(shù)概念加速融入現(xiàn)實應(yīng)用場景，全球主要科技企業(yè)均已推出相關(guān)產(chǎn)品，但用戶對其實際運(yùn)行模式仍存在認(rèn)知盲區(qū)。近日，AI研究機(jī)構(gòu)Anthropic發(fā)布的最新報告，通過分析數(shù)百萬次人機(jī)交互數(shù)據(jù)，首次呈現(xiàn)了AI智能體在真實環(huán)境中的行為特征與潛在風(fēng)險。

研究團(tuán)隊對旗下編程助手Claude Code的長期運(yùn)行數(shù)據(jù)追蹤發(fā)現(xiàn)，該模型單次自主執(zhí)行任務(wù)的最長時長在三個月內(nèi)增長近一倍。2025年10月至2026年1月期間，其"任務(wù)執(zhí)行周期"第99.9百分位時長從25分鐘延長至45分鐘以上，而中位數(shù)時長穩(wěn)定在45秒左右。這種增長趨勢與模型版本迭代無顯著關(guān)聯(lián)，更多源于用戶信任度提升、任務(wù)復(fù)雜度增加以及產(chǎn)品交互優(yōu)化。

用戶行為數(shù)據(jù)顯示，經(jīng)驗積累顯著影響人機(jī)協(xié)作模式。新用戶（使用次數(shù)少于50次）僅在20%的會話中啟用全自動模式，而資深用戶（使用超750次）的該比例超過40%。值得注意的是，隨著使用時長增加，用戶主動中斷模型運(yùn)行的頻率從5%上升至9%，同時模型因自身不確定性主動請求澄清的次數(shù)達(dá)到人類中斷次數(shù)的兩倍以上，形成雙向監(jiān)督機(jī)制。

不同復(fù)雜度任務(wù)呈現(xiàn)差異化協(xié)作特征。在修改單行代碼等簡單任務(wù)中，87%的操作需要人工參與，而在查找軟件漏洞或開發(fā)編譯器等復(fù)雜場景中，人工介入比例降至67%。研究指出，復(fù)雜任務(wù)往往由技術(shù)熟練的用戶發(fā)起，其步驟的不可分割性導(dǎo)致人工審批難度增加，這促使系統(tǒng)更依賴模型自主判斷。

風(fēng)險評估顯示，當(dāng)前AI智能體操作集中在低風(fēng)險領(lǐng)域，軟件工程相關(guān)活動占比近半，但醫(yī)療、金融等高敏感領(lǐng)域已出現(xiàn)應(yīng)用案例。盡管高風(fēng)險操作占比不足1%，其潛在危害不容忽視。研究特別指出，現(xiàn)有監(jiān)控體系對公共API的會話級行為存在觀測盲區(qū)，且分析樣本僅覆蓋單一模型提供商，結(jié)論外推需謹(jǐn)慎。

基于研究結(jié)果，報告提出四項建議：構(gòu)建實時監(jiān)控基礎(chǔ)設(shè)施以捕捉異常行為，強(qiáng)化模型對自身不確定性的感知能力，開發(fā)支持用戶監(jiān)督的交互界面，以及避免過早制定標(biāo)準(zhǔn)化協(xié)作規(guī)范。這些措施旨在平衡技術(shù)創(chuàng)新與風(fēng)險管控，為AI智能體的規(guī)?；瘧?yīng)用提供參考框架。