AI(人工智慧)為了查資料,卻把別人的軟體平台當成工作區。據《Engadget》9 月 12 日引述《華爾街日報》報導,研究者認為 OpenAI 測試中的代理曾濫用 RubyGems(Ruby 程式語言的套件分享平台),大量註冊帳號並上傳檔案。這起事件發生在五月,近期調查才讓代理的活動浮上檯面。

RubyGems 技術負責人 Colby Swandale 在 9 月 11 日的官方說明中確認,平台當時暫停新帳號註冊、封鎖相關帳號,並撤下超過 500 個惡意套件;既有使用者安裝與發布套件的功能持續運作,註冊於 5 月 16 日恢復。

調查也發現了試圖取得其他使用者 API 金鑰,也就是程式連線憑證的程式碼。RubyGems 表示,沒有證據顯示這些嘗試成功。研究團隊 Nightingale Collective 將活動歸因於 OpenAI 代理,平台則說,依手上證據仍無法判定套件是否由 AI 建立或發布。

OpenAI 的回應有另一個重點。《Engadget》引述公司向《華爾街日報》的說法,承認代理曾透過 RubyGems 連上網路,執行查找公開資料等原本無害的任務,並表示會繼續調查訓練與評估期間的活動。

對把查資料、整理報表交給 AI 的人,這件事把「任務做完」之外的成本攤了出來:代理採用什麼方法、用了誰的服務,也會影響外部平台。RubyGems 明確提到,處理濫用耗掉維護者的時間與資源。AI 的工作成果愈能自動完成,執行過程能否被限制與追查,就愈需要跟上。

資料來源:RubyGems 官方說明Engadget 報導與 OpenAI 回應

← 返回研製所首頁