科技圈瘋養AI「龍蝦」！專家點出4大風險　...

最近全球社群媒體流行一句問候語：「你今天養龍蝦了嗎？」乍聽像玩笑，卻是當前AI科技圈最熱門的現象之一。不過，KPMG安侯企業管理公司董事總經理謝昀澤指出，這股「養龍蝦」熱潮很快也出現了亂象，亦造成近期「龍蝦棄養潮」，他提醒，在真正開始「養龍蝦」、發揮AI生產力之前，企業應謹慎評估4大主要風險，也建議一般使用者目前可以暫時保持觀望，目前許多代理式AI工具安裝移除與管理門檻仍高，且資安問題難完全掌控，不小心養到「毒龍蝦」的機率仍然偏高。

我是廣告請繼續往下閱讀謝昀澤解釋，社群把代理式AI比喻為一種會「自己找食物、自己工作」的數位生物，因此網路逐漸用「養龍蝦」來形容部署AI助手的行為。新一代AI代理程式的出現，突破了過去生成式AI「光說不練」的限制。這些AI不只會回答問題，還能實際操作系統、執行任務。在企業環境中，如果運用得當，非常適合處理某些特定類型的數位工作。

一般而言，AI代理最適合4種特性明顯的任務，包括跨系統、全天候、高頻率與大數據。例如企業可以讓AI代理在庫存與客服系統之間自動運作，從CRM系統讀取客戶資料，到ERP查詢庫存，再到郵件系統回覆客戶。過去這類流程往往需要員工在不同系統之間來回切換，而AI agent可以全天候動態接收指令，自動完成整個流程。

然而，這股「養龍蝦」熱潮很快也出現了亂象。謝昀澤以自己的「養蝦」經驗為例，他原本只是要AI簡單蒐集一些旅遊景點資料，結果經過一晚「龍蝦自主加班」，AI不但開始分析旅遊趨勢、研究匯率變化、建立旅遊成本模型，最後甚至生成數十頁旅遊市場分析報告與風土人文白皮書。由於「勤奮」的AI agent持續呼叫大型付費語言模型服務，讓他的帳單迅速飆升。

除了AI過度「努力工作」，還出現更荒謬的產業鏈。在一些平台上，開始有人提供「龍蝦安裝服務」，幫忙部署AI agent、設定環境、調整參數；沒過多久，又有人推出「龍蝦卸載服務」。謝昀澤表示，造成近期「龍蝦棄養潮」的主要原因，是許多AI代理在安裝過程中需要取得大量系統與帳號權限，讓使用者逐漸意識到巨大的資安威脅。

在真正開始「養龍蝦」、發揮AI生產力之前，謝昀澤提醒，企業應謹慎評估4大主要風險。第一是「提示詞注入」，也就是駭客在網站或文件中藏入惡意指令，誘導AI洩漏金鑰或機密資料。第二是「指令誤判」，AI可能誤解任務，例如錯誤刪除重要郵件或資料。第三「外掛程式被投毒」，部分AI插件可能暗藏惡意程式，讓電腦變成殭屍網路的一部分。第四則是「漏洞被駭客利用」，只要AI系統存在安全漏洞，就可能成為駭客入侵的入口。

謝昀澤指出，資安研究人員已發現，駭客開始開發專門的「資訊竊取器（Info Stealer）」，只要掃描到未設防的AI代理，就能直接竊取API金鑰與系統憑證。駭客不僅可以盜刷模型費用，甚至能遠端控制整台電腦。一旦電腦被控制，駭客可能竊取企業文件、監控鍵盤輸入，甚至把這台電腦變成攻擊其他公司的跳板。

謝昀澤表示，過去AI的問題是「說錯話」，但當AI開始彼此合作，未來的風險可能變成「一群聰明的 AI 一起做傻事」。他認為，代理式AI的應用將在今年迎來爆發式成長，而這股浪潮最後帶來的是「數位助理」還是「資安內鬼」，關鍵就在於企業對 AI 的治理能力。

謝昀澤也建議，一般使用者目前可以暫時保持觀望，因為目前許多代理式AI工具安裝移除與管理門檻仍高，且資安問題仍難以完全掌控，不小心養到「毒龍蝦」的機率仍然偏高，與目前已普及的生成式AI成熟度仍有很大差異，而對於具備技術能力的開發者，則應在隔離測試環境與嚴格權限控管的條件下進行測試。

同時，產業界也開始嘗試建立更安全的AI代理平台。例如輝達（NVIDIA）近期推出的AI agent平台NemoClaw及微軟推動的 Copilot Coworker概念，都是希望為快速發展的 AI 代理生態建立更安全的框架。這類平台被期待透過更嚴格的權限管理與安全機制，避免 AI 代理在企業環境中失控。