體育資訊10月4日稱 隨著AI工具不僅被企業(yè)廣泛采用，更日益深入普通用戶的日常生活乃至情感陪伴領(lǐng)域，監(jiān)管機(jī)構(gòu)開始重點(diǎn)關(guān)注此類技術(shù)帶來(lái)的潛在風(fēng)險(xiǎn)。

美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）近日針對(duì)開發(fā)AI伴侶聊天機(jī)器人的公司啟動(dòng)大規(guī)模調(diào)查，要求科技巨頭詳細(xì)說明用戶數(shù)據(jù)處理方式及相關(guān)安全措施。

此次調(diào)查涉及谷歌、Meta、OpenAI、Snap、xAI和Character.AI等七家企業(yè)。FTC特別強(qiáng)調(diào)對(duì)青少年安全與心理健康的擔(dān)憂——盡管AI平臺(tái)本意為提升生產(chǎn)力和提供輔助，但伴侶類機(jī)器人因模擬人類情感聯(lián)結(jié)、提供指導(dǎo)甚至演繹浪漫互動(dòng)而引發(fā)爭(zhēng)議。這種模式雖對(duì)年輕用戶具有吸引力，但在缺乏必要安全防護(hù)時(shí)存在顯著風(fēng)險(xiǎn)。

委員會(huì)要求這些科技企業(yè)詳細(xì)披露：聊天機(jī)器人的構(gòu)建與監(jiān)控機(jī)制、信息收集方式、現(xiàn)有安全過濾器設(shè)置以及不當(dāng)交互處理方案。調(diào)查還將重點(diǎn)關(guān)注未成年人數(shù)據(jù)使用情況，包括企業(yè)如何通過用戶參與實(shí)現(xiàn)盈利。

科技界長(zhǎng)期警示AI快速發(fā)展需配套安全防護(hù)措施，以防止錯(cuò)誤信息傳播和有害行為。FTC此次監(jiān)管行動(dòng)表明，隨著技術(shù)演進(jìn)，建立問責(zé)機(jī)制和保護(hù)用戶安全隱私已成為當(dāng)務(wù)之急。