①生命未来研究所发布的《AI安全指数》显示，主要AI公司在安全治理上未达全球标准 ，尽管竞相开发“超级智能” ，但无一制定出完善的控制策略；②报告指出，尽管多家公司领导层谈及应对存在性风险 ，但尚未转化为具体安全计划或可信的内部监测与控制措施 。
非营利机构生命未来研究所(Future of Life Institute)周三发布的新版《AI安全指数》指出 ，Anthropic 、OpenAI 、xAI、Meta等主要人工智能公司的安全治理水平，远未达到正在形成的全球标准 。
该研究所表示 ，由独立专家小组进行的安全评估发现 ，尽管这些公司正竞相开发“超级智能 ”，但没有一家制定出足够完善的策略和方案来控制如此先进的AI系统。
据悉 ，在本次评估中 ，Anthropic的综合得分最高，但在“存在性安全(existential safety) ”上仍只获得D级，意味着该公司尚未建立足够的策略来防止灾难性滥用或失控 。这也是连续第二份报告中 ，没有公司在该项指标上获得超过D的评分 。
除Meta等少数公司外 ，所有AI公司都对生命未来研究所发出的问题清单进行了回应，从而提供了其安全实践的更多信息。
报告显示 ，多家公司领导层都曾谈及应对存在性风险 ，但研究人员指出：“这种言辞尚未转化为量化的安全计划 、具体的对齐失败缓解策略，或可信的内部监测与控制措施 。”
在具体指标上 ，Anthropic和OpenAI在信息共享 、风险评估以及治理和问责方面获得了A和B的高分 。
而xAI和Meta虽有风险管理框架 ，但缺乏安全监测承诺，且尚未提供其在安全研究上的投资超过最低标准的证据。
这份研究发布之际 ，公众对具备类人推理与逻辑能力的更智能AI系统的社会影响日益担忧 。此前已有数起自杀与自残案例被指与AI聊天机器人有关 。
麻省理工学院教授、生命未来研究所所长Max Tegmark表示：“尽管近期围绕AI辅助黑客攻击 、以及AI导致用户出现精神错乱和自残行为的争议不断 ，美国的AI企业仍然比餐馆受到的监管更少，并持续游说反对具有约束力的安全标准。 ”
与此同时 ，AI竞赛并无放缓迹象 ，大型科技公司仍在投入数千亿美元用于扩大和升级其机器学习能力。美国政府也试图通过立法禁止美国各州在未来10年内执行AI监管 。
生命未来研究所是一家关注智能机器对人类构成风险的非营利组织 。该机构成立于2014年，早期曾获得特斯拉首席执行官埃隆·马斯克的支持。
今年10月份，包括科学家Geoffrey Hinton与Yoshua Bengio在内的一批研究者呼吁 ，在公众提出要求并且科学找到安全路径之前 ，应暂停开发超级智能AI 。
（文章来源：财联社）
杠杆炒股指什么:炒股配资平-OpenAI推出AI浏览器Atlas 与谷歌Chrome正面竞争
最好用的手机股票软件:中国正规的股票杠杆平台-A股午后大反攻！发生了什么？
股票上杠杆什么意思:股票交易手机-又到港交所铜锣不够用？蓝思科技等5企业今日港股上市 180家A股正排队
股票做长线有什么技巧:金融杠杆-OpenAI再造爆款？AI视频社交应用Sora问鼎苹果热门App榜单
新开户的能买什么股票:免费股票软件手机版下载-6月13日晚间沪深上市公司重大事项公告最新快递
好的手机股票软件:有杠杆的股票交易平台-创新药后是创新医械？8月至今最牛A股花落科创板 介入类器械走到聚光灯下
国家允许的配资平台-炒股配资公司_国家允许的配资平台_十大正规实盘配资平台提示：文章来自网络，不代表本站观点。
近期，SOHO中国与黑石集团的交易传闻在市场上发酵。当时消息称SOHO中国有意出售位于北京、上海的核心商业物业，交易对价...
宏观要闻七部门发文优化知识产权领域营商环境国家知识产权局、教育部等七部门周五发布《关于进一步优化知识产权...
恒生科技指数午后涨幅一度扩大至2%，华虹半导体涨超20%，地平线机器人涨逾12%。恒生指数涨近1%。...
...
记者｜张乔遇2023年3月23日，河北海伟电子新材料科技股份有限公司（简称：海伟电子或公司）完成河北省证...
