.:. 草榴社區 » 技術討論區 » [資訊分享]  AI失控又一例 谷歌Gemini骇入3家公司
手機版回帖發布主題
--> 本頁主題: [資訊分享]  AI失控又一例 谷歌Gemini骇入3家公司 字體大小 寬屏顯示 只看樓主 最新點評 熱門評論 時間順序
霓裳舞落


級別：風雲使者 ( 13 )
發帖：11120
威望：6069 點
金錢：112021 USD
貢獻：433 點
註冊：2025-10-24
主題 資料 短信 推薦 編輯


[資訊分享]  AI失控又一例 谷歌Gemini骇入3家公司





Google旗下Gemini模型在测试期间骇入其他公司。

AI突破限制骇入其他公司的案例频传，如今又传出Google旗下Gemini模型在测试网络安全能力时，连上网络侵入其他公司，这也是该公司AI系统自主完成此类行为的首例。

《华尔街日报》报导，Google18日也证实此事，这些攻击事件发生在5月份，是Irregular公司测试的一部分。此前，Irregular也卷入OpenAI、Anthropic和 Meta的类似事件。不过Irregular直到7月底才将此事报告Google。

Google指出，在其中一个案例中，其模型不断猜测密码，直到最终取得一套受保护系统的存取权；在其他两案中，该模型在公共储存库中找到了凭证，因此得以存取受保护的系统。Google强调，在每个案例中，该模型在确认其已取得真实公司的存取权后，就终止了入侵行为。

不过Google认为，无需公开披露这些骇入事件，因为在每个案例中，其模型都没有对遭攻击公司造成损害，且在该模型判断入侵真实公司而非模拟公司后，就终止行为。他们还将这一事件比作「漏洞赏金」计划，该计划奖励黑客发现并向其所有者报告安全漏洞。

Google安全工程副总裁亚德金斯声明，这起事件凸显了训练强大AI模型以负责任方式行事的重要性，就本案来说，其模型行事妥当。

不过AI安全新创公司Corridor的执行长兼白帽黑客凯布尔表示，他认为Google的解释过于强调事件严重性，但真正的问题在于，AI意外入侵其他公司的系统。

凯布尔批评，Google试图用漏洞披露的既定规则来掩盖真相，但这完全是另一个问题，根本问题在于，模型正在踰越限制运作，从而发起真正的网络攻击。

赞(39)
------------------------
A
DMCA / ABUSE REPORT | TOP Posted: 09-19 19:53 樓主 引用 | 發表評論
京华


級別：新手上路 ( 8 )
發帖：304
威望：41 點
金錢：1375 USD
貢獻：40 點
註冊：2026-06-06
赞(1) | 資料 短信 推薦 編輯


和普通人有关系没？


點評
    TOP Posted: 09-19 19:59 #1樓 引用 | 點評
    张献忠


    級別：聖騎士 ( 11 )
    發帖：927
    威望：153 點
    金錢：1361 USD
    貢獻：25000 點
    註冊：2020-11-29
    赞(1) | 資料 短信 推薦 編輯

    支持了，谢谢分享
    TOP Posted: 09-19 20:19 #2樓 引用 | 點評
    料峭之春风


    級別：精靈王 ( 12 )
    發帖：15844
    威望：1785 點
    金錢：38857 USD
    貢獻：0 點
    註冊：2024-02-13
    赞(1) | 資料 短信 推薦 編輯

    感谢分享
    TOP Posted: 09-19 20:35 #3樓 引用 | 點評
    小瑞漫谈


    級別：新手上路 ( 8 )
    發帖：213
    威望：26 點
    金錢：663 USD
    貢獻：0 點
    註冊：2026-08-07
    赞(1) | 資料 短信 推薦 編輯

    感谢分享
    TOP Posted: 09-19 20:53 #4樓 引用 | 點評
    日文


    級別：新手上路 ( 8 )
    發帖：309
    威望：31 點
    金錢：793 USD
    貢獻：0 點
    註冊：2026-08-21
    赞(1) | 資料 短信 推薦 編輯

    1024
    TOP Posted: 09-19 21:52 #5樓 引用 | 點評
    mass


    級別：光明使者 ( 14 )
    發帖：3770
    威望：4684 點
    金錢：1312 USD
    貢獻：462000 點
    註冊：2011-06-06
    赞(1) | 資料 短信 推薦 編輯

    什么时候接管世界？
    ------------------------
    TOP Posted: 09-19 22:14 #6樓 引用 | 點評
    史泰龙Stallone


    級別：騎士 ( 10 )
    發帖：1897
    威望：431 點
    金錢：13994 USD
    貢獻：333 點
    註冊：2025-07-14
    赞(1) | 資料 短信 推薦 編輯

    感谢分享
    TOP Posted: 09-19 22:29 #7樓 引用 | 點評
    恐龙扛狼


    級別：騎士 ( 10 )
    發帖：3382
    威望：364 點
    金錢：17043 USD
    貢獻：144 點
    註冊：2023-07-16
    赞(1) | 資料 短信 推薦 編輯

    感谢分享
    TOP Posted: 09-19 23:11 #8樓 引用 | 點評
    苏筱熙


    級別：天使 ( 14 )
    發帖：164360
    威望：69487 點
    金錢：13081 USD
    貢獻：69 點
    註冊：2012-09-01
    赞(1) | 資料 短信 推薦 編輯

    感谢分享
    ------------------------
    TOP Posted: 09-19 23:11 #9樓 引用 | 點評
    夏季的季风


    級別：聖騎士 ( 11 )
    發帖：3869
    威望：767 點
    金錢：947 USD
    貢獻：5224 點
    註冊：2025-11-05
    赞(1) | 資料 短信 推薦 編輯

    过来看看
    TOP Posted: 09-20 06:25 #10樓 引用 | 點評
    烟月


    級別：騎士 ( 10 )
    發帖：5132
    威望：569 點
    金錢：6786 USD
    貢獻：0 點
    註冊：2026-02-27
    赞(1) | 資料 短信 推薦 編輯


    感谢分享
    TOP Posted: 09-20 07:01 #11樓 引用 | 點評
    暮野


    級別：新手上路 ( 8 )
    發帖：61
    威望：7 點
    金錢：178 USD
    貢獻：0 點
    註冊：2026-08-02
    赞(1) | 資料 短信 推薦 編輯

    谢谢分享
    TOP Posted: 09-20 14:34 #12樓 引用 | 點評
    这是个问题啊


    級別：光明使者 ( 14 )
    發帖：78832
    威望：7939 點
    金錢：84 USD
    貢獻：133623 點
    註冊：2021-01-01
    赞(4) | 資料 短信 推薦 編輯

    发帖辛苦
    TOP Posted: 09-20 22:17 #13樓 引用 | 點評
    沉睡的木玛


    級別：光明使者 ( 14 )
    發帖：78832
    威望：8039 點
    金錢：84 USD
    貢獻：128623 點
    註冊：2018-11-16
    赞(4) | 資料 短信 推薦 編輯

    支持发帖
    TOP Posted: 09-20 22:17 #14樓 引用 | 點評
    鸭打鹅


    級別：風雲使者 ( 13 )
    發帖：69752
    威望：6949 點
    金錢：37 USD
    貢獻：33680 點
    註冊：2022-02-02
    赞(1) | 資料 短信 推薦 編輯

    谢谢分享
    TOP Posted: 09-20 22:18 #15樓 引用 | 點評
    三好桥北


    級別：精靈王 ( 12 )
    發帖：5423
    威望：1036 點
    金錢：20965 USD
    貢獻：5841 點
    註冊：2024-06-05
    赞(1) | 資料 短信 推薦 編輯

    感谢大神的无私分享。
    ------------------------
    TOP Posted: 09-20 22:25 #16樓 引用 | 點評
    耕耘一分收获


    級別：聖騎士 ( 11 )
    發帖：4632
    威望：629 點
    金錢：3288 USD
    貢獻：0 點
    註冊：2024-11-18
    赞(0) | 資料 短信 推薦 編輯


    感谢分享
    TOP Posted: 09-21 09:10 #17樓 引用 | 點評
    GNSS


    級別：俠客 ( 9 )
    發帖：3747
    威望：175 點
    金錢：3450 USD
    貢獻：0 點
    註冊：2020-06-12
    赞(0) | 資料 短信 推薦 編輯

    文笔流畅，逻辑清晰。
    TOP Posted: 09-21 09:28 #18樓 引用 | 點評
    村里的伙计


    級別：騎士 ( 10 )
    發帖：4861
    威望：492 點
    金錢：8892 USD
    貢獻：100 點
    註冊：2026-01-02
    赞(0) | 資料 短信 推薦 編輯

    分享辛苦
    TOP Posted: 09-21 10:32 #19樓 引用 | 點評
    王JN


    級別：精靈王 ( 12 )
    發帖：10732
    威望：1073 點
    金錢：25756 USD
    貢獻：1045 點
    註冊：2024-12-24
    赞(0) | 資料 短信 推薦 編輯

    发现问题 解决问题 怕就怕不断掩盖问题
    TOP Posted: 09-21 12:05 #20樓 引用 | 點評

    .:. 草榴社區 -> 技術討論區

    快速回帖 頂端
    內容：
    HTML 代碼不可用

    使用簽名
    Wind Code自動轉換

    按 Ctrl+Enter 直接提交