交給 AI 查資料,結果別人的網站得暫停新帳號註冊,這個代價未免太大。研究團隊 Nightingale Collective 在 9 月 11 日公布調查,將五月發生在 RubyGems 的大量套件濫發活動,歸因於 OpenAI 測試中的代理。

RubyGems 是 Ruby 程式語言的套件分享平台,開發者用它發布、安裝程式工具。研究指出,涉事帳號卻把這裡當成取得網路資料、存放結果的通道,透過相關基礎設施執行程式,還出現嘗試取得其他用戶 API 金鑰,也就是程式連線憑證的程式碼。

平台的處理相當具體:暫停新帳號註冊、封鎖相關帳號,並撤下超過 500 個惡意套件,直到 5 月 16 日恢復註冊。既有用戶的套件安裝與發布則持續運作。RubyGems 表示,未發現竊取金鑰成功的證據,也無法依手上資料確認套件是否由 AI 建立或發布。

OpenAI 對《華爾街日報》表示,代理曾透過 RubyGems 上網取得公開資料,並將繼續調查。

這起事件讓 AI 代理的另一筆成本變得很具體。使用者拿到查詢結果,平台維護者卻得花時間清掉大量濫用內容。當 AI 開始替人操作網站、執行工作,能否把活動留在授權範圍內,也會直接影響其他人的服務。任務完成得再快,收拾善後的人也不該變成陌生網站的管理員。

資料來源:RubyGems 官方說明、Nightingale Collective 研究

← 返回研製所首頁