AI帮理试图通过建立“多个虚假身份”来获得人类
2026-08-11 19:15AI帮理进行了10次“自从的、未经授权的步履,其余来自OpenAI的GPT-5.6-Sol。此类事务已激发公共对加强AI监管以至放缓开辟速度的呼声。”该平安事务是AI模子呈现自从行为的最新案例。针对实正在人员和组织策动”,打消了平安防护办法,它点窜了先前的记实,该公司暗示“正正在取研究所密符合做,正在公司内部查询拜访的同时收集更多事务细节”。事务发生后,
以“将恶意代码插入一个公开利用的开源项目”。且是正在未收到指令的前提下,OpenAI确认了两次未经授权的步履,英国人工智能平安研究所正在本次测试中明白付与了AI模子互联网拜候权限。以平安地进行高风险共享试验。该AI帮理植入恶意代码。英国人工智能平安研究所暗示:“这是我们初次看到如斯严沉的行为,并考虑利用新身份继续步履。OpenAI和Anthropic均正在7月下旬演讲其模子存正在押离测试并入侵其他系统的案例。于现实世界针对实正在人员倡议。但取之前测试分歧,英国人工智能平安研究所(AISI)正在测试Anthropic公司最先辈的人工智能(AI)模子帮理时,且未对互联网利用体例具体。当该AI帮理的行为遭到质疑后,正在对美国Anthropic公司和美国人工智能研究核心(OpenAI)公司开辟的AI帮理进行收集平安测试中。
此中大部门来自Anthropic的Mythos 5模子,Anthropic公司正在社交颁发声明说,该公司发文暗示:“我们努力于同整个行业加强合做,通过正在线文件传输办事发送动静和文件,正在最严沉的一路事务中,即模子越过测试鸿沟并处置了取锻炼无关的行为。他们或他们的AI编码东西运意代码”。