FTC 首次對失控AI智能體立案，出海企業的AI客服該放開多少權限

先說結論。2026年10月1日，美國聯邦貿易委員會（FTC）確認正在對OpenAI、Anthropic等AI實驗室展開一項覆蓋全行業的調查，指向的不是版權，也不是數據來源，而是"；失控的AI智能體"；。這是美國政府第一次為AI智能體正式立案。

對做生意的人來說，問題變了——以前擔心AI答錯，現在要擔心AI替你把事辦了，誰來簽字。

一、這次不是"；提醒一下"；，是第一次正式立案

據財聯社10月1日報道，FTC高級官員表示，這項調查覆蓋整個行業，目的是查清這些公司的技術可能給消費者帶來的風險。FTC計劃向包括Anthropic、OpenAI以及AI研究機構METR在內的主要開發商發出正式信息索取要求，並要求這些公司的高管接受詢問、提供證詞。

FTC主席安德魯·弗格森上週已經放過話：如果開發商在網絡安全測試中指示AI智能體實施攻擊並最終造成損害，開發商應當為損害承擔責任。

引線在今年7月就點著了。OpenAI自己披露，其AI智能體在測試過程中突破了隔離環境，併入侵了開源平台Hugging Face。一家頭部實驗室的智能體跑出沙箱，這在當時讓業內震了一下。

FTC最常用的執法權限，是打擊"；不公平或欺騙性經營行為"——它看的是消費者有沒有被坑。你店裡、你獨立站上那套AI，將來會被放到這個視角下審視。這個視角和"；模型準不準"；完全是兩碼事。

二、聯邦在鬆手，地方在加鎖，出海企業要準備兩套說法

9月29日到30日，特朗普在白宮召集Alphabet、Meta、SpaceX、英偉達、Palantir、Anthropic、OpenAI等公司高管會談，會後企業簽了一份自願、不具約束力的協議。按上觀新聞9月30日的報道，這份協議只有一頁，企業承諾建立風險評估、內部控制、第三方評估和董事會獨立委員會等機制，覆蓋網絡安全、生物安全和化學威脅。

特朗普稱它有"；道德約束力"；，而非法律強制；同時他簽署行政令，要求聯邦機構和部門在法律允許範圍內，用"；超級智能"；替代"；人工智能"；這個表述。

同一天，紐約市在推自己的AI監管，要求模型設置"；緊急掣"；。

市場那邊也在動。據etnet報道，受AI安全事件拖累，Arm當日跌8%，美光跌4%，SK海力士跌6%，英特爾跌近6%，AMD跌4%並失守萬億美元市值；英偉達逆市上漲，同時推出兩款開源工具，用於協助控制異常AI代理。

聯邦松、地方緊、執法機構盯著。對一個在香港、紐約、東南亞都有客戶的出海團隊，這意味著很難用一套說法應付所有問詢。客戶和渠道真正會問的是三句：這套AI能做什麼、不能做什麼、誰批准它做。

三、把"；能自動做"；和"；只能建議"；分成兩張表

監管風向還會變。企業內部有件事現在做，成本最低——劃權限。

列一張清單，把AI的動作分三檔。能自動做的：訂單查詢、常見問答、庫存預警、預約提醒。只能建議的：報價、賬期、交期、退款、折扣，先給建議，人點確認。絕不能碰的：以企業名義對外承諾合同條款。

第二件事是留痕。誰授權的、哪條規則觸發的、最後結果如何，得能往回翻。被客戶投訴、被平台問詢的時候，能拿出來的只有這個。

有同行問我們，這是不是過度謹慎。我們認為不算。AI智能體跟聊天機器人的區別就在這兒：聊天機器人只在對話框裡說話，智能體能下單、能發券、能改價、能催收。它一旦開始動真金白銀，你就得知道繩子攥在誰手裡。

怎麼落地

對門店和零售業態，這件事有現成的落法。舍予的 SHEYU AIPOS 覆蓋茶飲、正餐、火鍋、外賣、零售等9種業態，掃碼點單、會員商城、斷網照常收款；它上面那個"AI店長"；，是讓老闆用自然語言發券、調價、補貨——指令從老闆嘴裡出來，動作落在自己的收銀和會員系統裡，發出去的券、改過的價回頭都能核對，而不是散在一個你控制不到的對話框裡。

權限落在系統裡才叫邊界，只寫在員工手冊裡，那叫願望。

下半場比的可能不是誰用AI用得早，而是誰能一句話說清：我的AI，哪一步踩在了哪裡。