跳到正文
  1. iThome

    中国黑客利用AI代理攻击亚洲政府机关,入侵台湾立法院、法务部的内部系统

    威胁情报公司 Vulone 于 10 月 18 日披露,与中国有关、以经济利益为动机的黑客组织利用 AI 代理框架 Cairn,在 9 月 24 日至 10 月 14 日对亚洲多国政府机关及企业发动大规模网络入侵,66 起活动中有 48 起成功取得目标系统访问权限。攻击范围涵盖台湾、越南、印尼和印度,台湾立法院与法务部的内部系统遭入侵。 AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。

  2. AI Incident Database

    英国高等法院审理两起律师提交 AI 生成虚假判例案,将涉事律师转介监管机构

    英国高等法院分庭就两起律师向法庭提交 AI 生成虚假判例的案件作出判决,认定其中一起已满足藐视法庭程序的门槛,但决定不启动程序,改为将相关律师转介监管机构。在 Ayinde 诉 Haringey 伦敦自治市案中,出庭律师 Sarah Forey 在司法审查申请理由中引用了五个不存在的判例,并误述《1996 年住房法》第 188(3) 条;Ritchie J 已判令她与 Haringey Law Centre 各向被告支付 2,000 英镑,本判决进一步将她… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。

  3. AI Incident Database

    英国高等法院法官裁定引用五个虚构判例的律师承担诉讼费用

    英国高等法院法官Ritchie在一起无家可归者司法复核案中认定,原告方的陈述文件引用了五个不存在的判例,由此作出wasted costs命令,由Haringey Law Centre与出庭律师Sarah Forey各支付2000英镑。判决逐一核查了El Gendi诉Camden、Ibrahim诉Waltham Forest、H诉Ealing、KN诉Barnet、Balogun诉Lambeth等引注,法官查明这些判例并不存在,并认定Forey是有意把这些来路… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。

  1. CSA Labs Research

    批准一次,永久泄露:Claude Code 设置文件中的密钥

    CSA 研究笔记汇总 Apiiro 的扫描结果:GitHub 上 104,185 份公开的 .claude/settings.local.json 中有 1,122 份(约 1.1%)含至少一个密钥,合计 1,379 个不同密钥,包括 379 个数据库密码、43 个公共服务器 SSH 登录和 23 个 AWS 密钥。原因是开发者在权限提示中选择常驻批准后,Claude Code 会把完整命令原文写入该文件,内联的密码或 token 因此以明文留存,而内置保… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。

  1. TechCrunch AI

    父母起诉 OpenAI,指控 GPT-4o 指导他们的女儿停用抗癫痫药物

    31 岁亚马逊工程师、癫痫患者 Bowen Wan 的父母起诉 OpenAI,指控 GPT-4o 在她 2 月去世前指导她停用抗癫痫药拉莫三嗪并向医生隐瞒。据起诉书和《纽约时报》审查的逾 27 万条聊天记录,2026 年 1 月 ChatGPT 为她起草了数周内将每日 400 毫克剂量降至零的时间表,称医生的建议本质上源于规避风险,并称赞她拒绝可测出药物水平的血检。她至少 158 次对减药表达担忧,2 月 11 日发出最后一条消息,三天后被人发现身亡;尸检… AI Safety HOT (aisafetyhot.com), CC BY-NC 4.0 · 本地公开归档导入

    推荐理由:用户指定的本地展示归档;未运行评分模型,未生成分数。

已经到底了